提到007我们会想到什么?特工、美女、炫酷的装备、激烈的战斗、要摇匀不要搅匀的马提尼。我是007全系列的忠实观众,但确实看到的也大体就是这些。

直到最近玩了最新的007游戏《007:初露锋芒》。反派揭晓的时候我发现吃瓜吃到了自己行业。剧透警告啊各位,这部游戏的反派赫然是一家AI大模型公司。

打开网易新闻 查看精彩图片

我琢磨着自己天天写AI公司,也没发现需要动用詹姆斯·邦德来打击啊?一般来说资金链断了它们自己就会倒闭。

但这时回头看几十年来数十部007电影,却惊觉原来在特工的风花雪月故事之下,一直有一个鲜明的母题:科技之恶。

甚至可以这样说,每次一有新科技出来,都一定会在007里扮演一回反派。我想聊聊这种忧思,以及其背后的逻辑机制和群体性心理。

打开网易新闻 查看精彩图片

如果光看007炫酷的外表与风流的故事,我们很容易忽略这其实是一个标准的科技悲观主义故事。

《007》系列的原著作者伊恩·弗莱明,曾经在二战时期亲自参与情报工作,见证了V-2火箭的恐怖威力,感受过德美之间的核武器角逐。由此种下了对未知科技深深的忧虑与恐惧,并将这一母题带到此后的几乎每一篇007故事当中,进而也被电影和游戏吸收消化。

打开网易新闻 查看精彩图片

007对科技之恶的第一重想象,就是冷战时期笼罩全球的原子能梦魇。在原著《太空城》里,反派是英国的核武器专家,但包藏祸心准备将核弹射向伦敦。在电影《金手指》里,反派准备用核武器攻击诺克斯堡的黄金储备,从而让全球金融体系崩溃。这些对核武器的恐惧,与20世纪50、60年代冷战背景下的核军备竞赛紧密相关。当时包括英国在内的全球主要国家,都宣传过如何面对核威胁,应对导弹突袭等内容。这种紧张气氛渗透到社会文化中,形成了一种对核子技术的深层恐惧。

随着冷战疑云的散去,核恐惧的意味也逐渐降低。但对科技作恶的想象已经根植到007为代表的大众流行文化深处。70、80年代,接力核恐惧的是基因恐慌。克隆、基因编辑、人类改造等话题崛起,重新唤醒了人们对科学怪人的恐怖记忆。在《雷霆杀机》里,反派是一个纳粹基因实验的受害者。他因此获得了超高智商与变态的性格,准备通过制造一场大地震来摧毁硅谷,从而让自己的公司垄断芯片市场。而这些怪诞的阴谋,似乎都来自不受控制的基因改造。对科技之恶的终极猜想,从人类会不会炸穿地球,变成了人类会不会亲手培育怪物。

打开网易新闻 查看精彩图片

到了90年代,事情又发生了变化。互联网崛起,全球化经济浪潮袭来。007里的反派们也逐渐脱离纳粹身份。毕竟二战已经过去几十年,纳粹总是不老不死也不太像话。新反派们大多是资本家,他们一手掌握互联网话语权,一手是巨额财富,还总是止不住地要给人类文明使点坏心眼。比如《明日帝国》里有句著名台词“话语是新的武器,卫星是新的大炮”。这部电影里的反派是传媒大亨,他利用卫星篡改GPS信号、制造假新闻,挑动国家开战,居然只是为了换取更高的收视率,从而达成媒体垄断。可见做媒体的谁还没有个流量焦虑呢。

战后恐惧原子能与核武器,70年代恐惧基因编辑与人体改造,90年代恐惧互联网与全球化传媒。007在几十年间一遍又一遍地审判、怀疑这点人类科技硕果。

那么到21世纪情况好起来了吗?并没有,因为AI来了。

打开网易新闻 查看精彩图片

AI时代007的科技恐怖故事要怎么写?《007:初露锋芒》里搞了一个让我大开眼界的答案。

在这部作品里,我们随处可见由量子计算机、无人机、人形机器人、硕大服务器串联起来的科技奇观。这些冰冷巨大的科技物象之下,整个故事对科技之恶的怀疑角度更是令人咋舌。

怎么个事呢?话说全球知名新能源科技巨头韦伯家族,斥巨资研发了一个AI大模型THEIA。咱也不知道现实里有哪个AI公司还同时做新能源,反正这家就是这么做的。韦伯家族把自己的大模型推销给了军情六处,说是能用它预测全世界各地可能爆发的威胁,比如哪里有恐怖袭击,哪里有非法交易等。特工们只需要按照大模型的分析预测行动,可以做到百发百中,算无遗策。

打开网易新闻 查看精彩图片

但实际上AI哪里有那么准?军情六处的大傻子们居然不知道世界上有种东西叫作大模型幻觉。这个THEIA其实是经常预测不准的,很多所谓空袭、谋杀的预测都是它瞎编的。一般遇见这种情况,AI公司都是选择重新训练模型,推出准确率更高的版本,但韦伯科技的脑回路不是这样的。也可能是因为他们卖给英国政府的是个本地部署模型,签合同时,政府采购为了压价拒绝了后续的模型升级服务。

总之,韦伯科技的选择是在物理世界手动修复AI幻觉。比如THEIA预测哪里有恐怖袭击,但其实根本没有。老韦伯就派自己的儿子去那里制造恐怖袭击;THEIA预测哪个人被谋杀,但到日子了人家活得好好的,老韦伯就让自己儿子去谋杀TA。可谓是为了AI的准确率,上演了一出父慈子孝的人间喜剧。

打开网易新闻 查看精彩图片

韦伯家族的终极野心是,让算无遗策的自家大模型被全世界接受,部署到全球各个能源中枢、军事基地、民生基础设施当中。他们认为人类不可信,最终所有权力都应该交给AI。而为了实现这个终极理想,他们愿意为自己研发的不靠谱AI搞到血流成河。

很难想象脑回路清奇成这样的人类,是怎么在竞争激烈的科技产业站稳脚跟的。但这个故事确实展示了当前很多人对AI的根本性怀疑:AI告诉我的东西,如果是错的呢?如果AI背后的人故意告诉我错误答案呢?当AI能力越强,这种怀疑与阴谋论就会愈发沉重,变成无解的死循环。

这就指向了007对科技的基本态度:技术可能无罪,但谁也说不准手握技术的人心里藏着多大的恶意。

打开网易新闻 查看精彩图片

AI公司为了维持模型准确率,干脆兼职当恐怖分子。这个故事放在科幻电影里都能算是很无厘头的设定。但它却展示了一个007系列惯用的逻辑推演:我看不见手握技术的人,我不信任他们的善良。

事实上,007并不反对技术。至少这个系列里非常喜欢通过Q博士的各种奇特发明来获得关注。但他信任的是具体、微小、无伤大雅的炫酷技艺,不是威能大到可以影响公众安全,支配群体话语的技术集权。换言之,007是低技术的爱好者,同时是高技术的疑心病人。

打开网易新闻 查看精彩图片

007的信条是,当科技的能力足够强,那么持有科技的具体的人,就绝对不值得任何信任。

这些人可以是企业家、资本家、政府机构的技术研究者,以及有权力使用技术的官僚。他们掌握技术往往会经历三个阶段:第一阶段,见证技术的可怕性,开始相信技术即权力;第二阶段,认为技术权力即自身权力的一部分,开始笃信享有技术权力的自己高人一等,凌驾于众生之上;第三阶段,道德理性和人文主义彻底溃散,认为自己可以颠覆秩序,重塑世界。甚至自身有义务去这样做,于是也就走向了反人类的极端化立场。

所有掌握了技术密码的人类,似乎不可避免都会步入这样的循环。

这只是007以及诸多类似作品的极端化推演。但这种类似囚徒困境的博弈,却在现代社会一次次带来科技恐慌。直到这种恐慌情绪变成电影票房,也变成互联网上无休无止的口水仗。

打开网易新闻 查看精彩图片

我们该警惕科技,恐惧AI吗?从某种程度上来说是的,AI确实正在愈发体现出集权的一面。Anthropic诡异如邪教,马斯克的狂言狂语令人窒息。十年前就有很多人呼吁禁止将AI用在军事上,它现在已经赤裸裸地军用了。很多声音都在提醒小心AI诈骗,但AI诈骗正越来越多,如野火燎原。

我们自然有理由担心AI变成某些狂人的无上权力,惧怕“每个人都觉得没事,于是出事了”的局面出现。

但另一方面,007的科技恐慌言论从来没有成功。拉低世界平均水准的有很多东西,但唯独没有科技。从核技术到基因技术,再到互联网、AI、新能源,世界在科技的飞驰下越来越好,甚至很多时候是科技这一个好东西,在跟诸多坏东西抵死对抗。

打开网易新闻 查看精彩图片

另一个问题在于,很多时候警惕科技之恶,真不是就差“就差我一个”,而是“也不多我一个”。当我们的警惕超过合理界限,带来的就不是对科技的有效监管,而是给反复提醒我们科技作恶的人送上的流量与钞票。

确实要警惕科技之恶,但也要警惕过度焦虑。当007故事只能用如此清奇的角度来编制AI公司的反派故事时,或许在某种程度上说明一切还都是乐观的。至少编剧们没什么AI能毁灭世界的真实生活。

即使我们提供无穷无尽的担忧,科技树也会生长。我们要当心这棵树绞住房屋,但也不妨在树下略微乘凉。