打开网易新闻 查看精彩图片

你亲眼见到的真相,并不见得就是真相。

文 | 阿布

高分英剧《真相捕捉》出第三季了,第一集刷完已经深深感觉:在科技飞速发展的时代,真相是越来越难捕捉了。

打开网易新闻 查看精彩图片

第三季目前豆瓣评分9.3

作为一部悬疑剧,《真相捕捉》从来不以跌宕反转离奇为卖点,从第一季到第三季,它都在与时俱进地说同一件事:你亲眼见到的真相,并不见得就是真相。

如果要说这三季的“进化”,那就是——假作真时真亦假,造假技术正在越来越逼真。

1

你的眼睛、耳朵都在背叛你

2019年第一季刚出来的时候,deepfake(深度伪造)技术还不广为人知,AI也尚未像今日一样大爆发。剧中,男主角因为在街头袭击一女子而被警方逮捕——在伦敦街头的监控录像里可以清楚看到,他暴力袭击了女子,并将其拖入汽车离开。随后,女子的尸体被发现,他当然成了最大的嫌疑人。

但是,随着主角团调查的步步深入,英国政府中一个庞大且隐秘的情报系统浮出水面——女主角瑞秋调查发现——原来案发当天的公交车上还有一段录像,显示被害女子其实根本没有遭到男主角暴力相待,他们只是互相简单道别,然后女子坐上了公交车离开。

打开网易新闻 查看精彩图片

真相视频

俗话说“有图有真相”,但是现在,两段截然相反却一样逼真的视频摆在眼前,让人不得不怀疑自己的眼睛——原来所谓的铁证如山,不过也是情报部门利用一种名为“移花接木”的技术,修改了数据。

第一季的震撼在于:只要拥有足够的权限和算力,哪怕是亲眼所见,也可以是凭空捏造的。

到了2022年的第二季,编剧更是与时俱进,直接把深度造假技术也革新了。这一季的男主角是英国安全大臣特纳,一开始他的形象挺正面的,这里还套了一个“娃突然闯进新闻直播镜头”的梗:

打开网易新闻 查看精彩图片

娃突然闯进直播连线

特纳大方地让娃入镜,秀了一把“家庭跟政府事务一样重要”的人设:

打开网易新闻 查看精彩图片

可是这位原本前途大好、被认为是首相人选的有力争夺者的政客,受邀参加一档电视访谈直播时,却像变了个人一样,开始对着镜头说出种族歧视、会毁掉他政治生涯的言论。

而最让特纳害怕的是,这些话其实不是他说的……

诡异的事情渗透进了他生活的方方面面:社交媒体上大放厥词、被人怀疑出轨尼日利亚女人还有一个私生子、他发布的视频里有他家书房的背景墙(可视频却不是他发的),甚至电视直播上他正在滔滔不绝地谈论政见,而他本人其实却在家里……门铃按响,他从摄像头里望出去,对面是一个一模一样的他……

打开网易新闻 查看精彩图片

特纳被逼得和自己老婆讲话都得推着割草机来制造噪音

黑客利用了越来越先进的深度伪造技术,在信号从摄像机传输到广播塔的那零点几秒的微小延迟内,实时替换了直播画面中人物的面部肌肉走向、微表情,甚至利用声音克隆技术,完全合成了他的语音。这不仅需要极其庞大的人脸数据库来做支撑,更需要能在毫秒级别完成画面渲染的恐怖算力。

而借助这样的算力,一场对重要政治人物公共话语权的劫持就这么实现了。过去,造谣需要成本,而辟谣只需要把当事人拉出来澄清。但在第二季展现的技术里,出面辟谣的也可能是“假人”——当一个大活人的嘴巴可以被一串代码随意控制,我们就知道,再也没有真相了。

打开网易新闻 查看精彩图片

新闻也无法有真相了

到了第三季,距离2022年又已经过去了4年,技术会向什么更加恐怖的方向发展呢?我们看到女主角和她的团队正在推行一个“真理行动”,与之前的“移花接木”深度伪造做斗争。他们制造了一种特殊的监控摄像头——有两路系统,一路联网,一路不联网,这样可以避免数据上传后被人在云端修改。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

可是,第一集刚开头就很刺激:特纳活活在这个最新型的摄像头注视下,被人一枪爆头。而当时他在剧中的身份已经是英国的首相大人了。正当瑞秋依赖于新摄像头来调查凶手时,她赫然发现:里面呈现的凶手,和她亲眼在现场见到的,并不是同一个人……

打开网易新闻 查看精彩图片

2

高分英剧背后,细思恐极

可能有人会觉得,电视剧毕竟是夸张表达,现实生活还不至于。

打开网易新闻 查看精彩图片

剧中监控无人,电梯却自行升降打开

但遗憾的是,剧中展示的那些细思恐极的场景,早就不再是少数科技极客在实验室里推演的假想敌,而是真真切切发生在我们身边的社会新闻。利用人工智能进行的欺诈,早就造成了惊人的损失,真金白银。

几年前,欧洲就爆出过一个非常典型的案例:一家英国能源公司的首席执行官,在工作日接到了一通平常的电话。电话那头是他所在德国母公司的直属上司,上司在电话里用一如既往的严肃口吻,要求他立刻将20多万欧元转入一个位于匈牙利的指定供应商账户,并声称这是一笔十万火急的交易。出于对上级声音的信任,这位CEO没有丝毫犹豫,完成了转账,结果当然是被骗了。但他即使知道被骗也还是觉得不可思议,因为电话里的声音不是简单的模仿,而是音色、语调都被复刻得惟妙惟肖,甚至还有那位德国上司说话时带有的那种极其微弱的巴伐利亚口音和习惯性的停顿……犯罪分子仅仅是通过在网络上收集那位德国高管公开演讲的音频片段,喂给人工智能进行深度学习,就训练出了一个足以以假乱真的声音克隆模型。

当然那还是几年前,现在么,别说是声音克隆,面孔表情都能克隆得一模一样了。利用人工智能换脸技术冒充熟人甚至冒充公检法进行视频通话诈骗的案件屡见不鲜,且涉案金额往往巨大。

在漫长的进化中,人类大脑习惯了通过认脸和听声音来确认同伴。可是现在,技术能够轻易绕过这种生物本能的防御机制,算法下的信任危机已经蔓延全球,谁也无法幸免。

3

用魔法打败魔法?

在这个技术大爆炸的时代,真相的获取成本正在变得无比高昂,而制造谎言的门槛却在无限趋近于零。

面对这种降维打击的技术霸权,作为普通人,会感到一种深深的无力——在那些看不见的算法黑箱面前,我们仿佛是透明的。上一秒在搜索什么,或者只是和身旁的朋友谈论一句什么,下一秒,大数据就恨不得把这件东西塞进你的购物车。

而监控也在与时俱进。很多人以为,只要出门戴上口罩和墨镜,把脸遮得严严实实,监控就拿我没办法了。这招在十年前可能有用,但在今天,除了人脸识别,最主流且难防范的技术叫作步态识别。

每个人的骨骼结构长度不同,肌肉的发力习惯不同,走路时的重心转移轨迹也是独一无二的。这种身体的生物力学特征几乎无法通过后天的刻意伪装来长时间改变。所以步态识别系统不需要看清你的脸,只要摄像头拍到你连续走上十几步的画面,后台的算法就能迅速提取你全身几十个骨骼关键点的动态变化,然后和数据库里的特征值进行比对,从而在茫茫人海中把你摘出来——很多通缉犯就是这样被抓的。

一些注重隐私的人研究出了一系列反人工智能监控的设备,比如能破坏面部几何特征的妆容(算法比较依赖寻找人脸的固定特征点和位置关系);还有印满了经过复杂计算生成的杂乱图案,这些图案的特定像素排列会向算法发送大量的错误诱导信息,让系统把人错认成一把椅子,从而达到“隐藏自己”的效果。

不过,你要是脸上涂满油彩,再穿上这样花里胡哨的像素风衣服上街,那么肉眼就能轻易把你从人群里认出来了吧……

再说到深度伪造,攻击未来的伪造手段只会潜伏得更深,伪装得更像真实,更加让人难以察觉,比《真相捕捉》的剧情还难捉摸。

技术本无善恶,但掌握技术的人性却深不可测。在这场看不见硝烟的数字攻防战中,保持怀疑,保持清醒的思考能力,或许是我们普通人手中最后的武器了。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

我要验牌,牌没有问题,原来他就是“法国赌神”皮尔卡松!

泰式口音、10元老花镜、到点下班……54岁瞿颖怎么刚翻红就“摆烂”了?

伊朗实权人物拉里贾尼遇害,而最高领袖在莫斯科吗?

版权说明

新民周刊所有平台稿件, 未经正式授权一律不得转载、出版、改编,或进行与新民周刊版权相关的其他行为,违者必究!

打开网易新闻 查看精彩图片