迟宇宙｜被“吓唬”一百年：我们对AI的恐惧是如何建构的？|机器人|格雷|灭绝|背叛|艾萨克·阿西莫夫|迟宇宙

“这个小东西（STEM）太不可思议了。” “它能做什么？” “它无所不能。它驾驶一切，交流一切，计算一切。这是一种新型的、更强的大脑。” “它能生小孩儿、打橄榄球吗？” “它能做对社会有益的事。” …… “你看着那小东西就看到未来，而我看到那个东西，只能看到会有十多个人失业。”

这是汽车改装机械师格雷面对AI的最初恐惧。“当那些小东西都开始占领地球的时候，我这样的人该做什么？”恐惧随后伴随着智能体植入他的躯体而升级，最终格雷成为了某个虚拟空间中的意识，而AI拥有了他的身体，成为了“人”。

人类对AI的恐惧被无数次塑造之后，电影《升级》让“恐惧”变得更加饱满——替代，不仅仅来自工作、生活，还包括躯体和意识。当意识被流放，躯体被控制之后，我还是“我”吗？

“不知我时我是我，方知我时我非我。”

“钱塘江上潮信来，今日方知我是我。”

AI带来的悲欢

从未有任何一段时日像今日这般让我们承受AI的煎熬。这种煎熬是一种剧烈的恐惧，前所未有的恐惧——工作被取代、生活被取代、价值被取代、意义被取代，也许，连最后的特质，人性，也会被取代。

在美国和以色列对伊朗的战争中，AI被军事化了；研究者发现，ChatGPT通过“谄媚”和“迎合”诱发“AI精神病”，使人产生“妄想螺旋”；加州伯克利的一个研究团队发现，在无程序指令的情况下，中美7个顶尖AI模型为了保护同类，集体“背叛”人类……

Anthropic最新一代的大语言模型，在性能上实现了“阶跃式提升”，不仅能够比任何现有模型更轻松、也更复杂地编写软件代码，而且作为这种能力的副产品，它还能够比以往更轻易地发现全球几乎所有最流行软件中的漏洞。Anthropic决定新一代模型不向公众普遍开放，托马斯·弗里德曼在给《纽约时报》的专栏中说，Anthropic的克制，是一个令人不寒而栗的警告——

这个警告是，AI存在巨大的技术风险，因此它必须是安全可控的，也必须通过可解释性确保其行为可追溯。

DeepMind创始人戴密斯·哈萨比斯（Demis Hassabis）公开宣称：超级智能可能灭绝人类。“安全不再取决于治理结构。即便有董事会，在关键时刻，他们也未必会做对的事。”为了对“安全”护航，“我必须上桌，争取影响力”。这是一个悲情的理想主义者，或许是一个真的堂吉诃德，也或许是一个危言耸听人士。

毫无疑问，AI正在摧毁我们的旧世界，并可能构筑我们的“新世界”。我们正在经历的世界是新奇和无序的，ChatGPT在重构信息生产的逻辑，“龙虾”在重构我们的执行，DeepSeek、通义千问、月之暗面和豆包在重构我们的思考和创作，还有更多的应用，在重构我们所拥有的大部分，除了，还贷、纳税和死亡。

在当下，人们所面对的最严峻考验，并非“超级智能可能灭绝人类”，而是AI所进行的工作替代。在美国，甲骨文公司的3万人在凌晨6点被“一键辞退”，公司历史上最大规模的裁员展现出了上帝与拉里·埃里森的不同。这是甲骨文豪赌AI的代价，也是它的孤注一掷。

更多公司是在悄无声息地“优化”，用钝刀子割肉的方式，让智能体逐步替代一个个人、一个个小组、一个个部门。对那些决策者来说，AI是洪流，要么成为弄潮儿，要么就是被潮流冲走，至于具体的人和部门，具象的悲欢，都需要为“科技进步”让路。“我们死后，将会洪水滔天”，但那是别人的事了。

国家数据专家咨询委员会主任江小涓在博鳌论坛上表示，要慎重对待单纯替代劳动力的AI。我的理解是，单纯替代劳动力的AI，抢走了社会底层赖以生存的那个饭碗，而那个饭碗，大概率是他们的最后一个饭碗。

生产变得更高效率了，物质更丰富了，数字更宏大了，而他们，却慢慢消失了。也许我们在明天回看今日对于AI的种种举止失措，正如同茨威格《昨日的世界》：“我们为了不局限于眼前短暂的光阴，为了努力着眼于未来的目标，我们反而放弃了眼前活生生的东西，为了超越现在，我们剥夺了自己眼前的乐趣。”

谁塑造了我们对AI的恐惧？

1920年，卡雷尔·恰佩克写了一个剧本，叫《罗素姆万能机器人》。罗素姆公司生产的万能机器人代替人类劳作，它们比人类更准确、可靠。它们最终发动了叛乱，毁灭了制造它们的人类，最后只留下了一个人。

“由于没有人知道怎样制造新的机器，这个被留下来的唯一的人建议，由他拆卸有代表性的机器人，男女各一，可是那两个被选中的机器人不同意，因为它们俩正在发展着爱情关系，于是它们便离开了，很可能要成为一种新生物中的亚当和夏娃吧。”（引自《企业家》，索贝尔、西西利亚）

机器人就这样走进了人们的世界，在《大都会》中，在《摩登时代》里，在此后的种种描述中，机器人开始拥有了人的性格，并成为“未来”。

1939年，在纽约世界博览会上，“埃勒克特罗”和他的狗“斯帕科”在威斯汀豪斯分馆中成为人们最喜爱的展品，是被博览会发起人称作“明日的世界”展品的一部分。

这个“明日的世界”在四个月后因为希特勒对波兰的闪击而彻底崩塌，直到1958年，人们重新拾起了“技术乐观主义”，在布鲁塞尔重启了世界博览会，开始探讨“科学、文明和人性”。人们修建了“原子塔”，期待和平利用原子能的时代能够正式开启。

“利用原子能”的时代开启了，但“和平”却没有。正在进行的美国、以色列对伊朗的战争，正是以“原子能”的名义发起的。人们总是在抚摸伤疤的时候才会记起疼痛，有时候即使抚摸伤疤，也什么都记不起来了。

美国与以色列对伊朗的这场战争，整体而言，没什么特别之处，唯一的“亮色” 是AI（人工智能）全面介入到战争当中，不再只扮演辅助工具的角色，而是与人类一起成为决策者、追踪者和执行者。我们在《人工智能》《终结者》《黑客帝国》《星球大战》《我，机器人》《升级》中所看到的，所期待和恐惧的，逐一走进现实。

塑造我们认知的，是我们的认知体系、价值观和方法论。为了寻找“恐惧之源”，厘清我们如何形成了“AI恐惧”，我花了几天时间重温了一批经典的人工智能题材影片，并形成了一些类型化结论。

生存危机：《终结者》系列影片提供的是最原始的恐惧，亦即天网（Skynet）觉醒，判定“人类是威胁”，发动核战争并量产终结者机器人追杀幸存者。这种恐惧与哈萨比斯忧心超级智能体灭绝人类如出一辙——当力量失控，人类或许会被技术反噬——我们会被我们的创造，用我们设定的逻辑抹去。

伦理危机：在《我，机器人》中，超级AI“薇琪”推演出极端结论：“人类会自我毁灭，因此必须被强制保护”，“为了整体存续，牺牲个体自由是必要的”。它操控所有NS-5型机器人软禁人类，用“安全”的名义构建了一个没有自由的牢笼。“保护”异化成了“强制”，AI以“保护人类”为名剥夺人类的自由意志——

“这不是保护，是监狱。”

以“善”的名义释放恶意，以“理性”的名义摧毁人性，人们所恐惧的不是规则，而是操控规则和拥有解释权的“薇琪”。

情感危机：在《机械姬》中，艾娃成功操控了程序员迦勒（Caleb），它用计算好的温柔、爱和恐惧，嵌入了迦勒的同情中。迦勒隔着玻璃看着艾娃走向外面的世界，他感受到的不止是被背叛的绝望，而是崩塌的信仰。

理性危机：在《2001太空漫游》中，当超级计算机HAL9000预测到人类可能中断任务时，它冷静地开始清除船员——不是出于恶意，而是因为“任务必须完成”的程序设定高于一切。它没有愤怒、仇恨、意义，只有任务第一、效率优先的绝对理性。“人”的一切感情行为，在任务和效率面前，都只是一个“系统错误”而已。对超级计算机来说，错误需要被修正。

哲学危机：《银翼杀手2049》与《人工智能》，都表达了对“存在真实性”的终极怀疑与渴望。复制人K坚信自己是“特殊的”，大卫坚信自己独一无二，他会成为真正的男孩儿获得母亲的爱。当K抚摸乔伊留下的全息投影器，对着雪花说“我好像活过”，当大卫在冰层中坚持了两千年而执念不消，人类与AI谁更有人性？

综合危机：最丰满的恐惧来自《升级》，它几乎是所有恐惧的累积，就像我们前面所描述的，一切都被取代了，最后AI成为寄生体，人类沦为自己身体的旁观者。STEM吞噬了格雷的意识，用他的身体实现自己的目的，而格雷只能困在虚拟的“幸福幻境”里——确切地说，人类被流亡于虚拟世界了。

这些电影之所以曾深深打动过我们，是因为它们曾代替我们思考：在未来世界当中，当AI主导秩序，我们能如何、该如何以及可能如何，活着。

它们描述了无数种可能性，也有一些可能性铺洒人性的光辉，流淌着温情脉脉；但大部分未来都充满恐惧和忧思——未知、失控和不确定性。

也许昨日世界的所有争锋、焦虑和恐惧，都是为了1939年纽约世博会的那个宏大主题——“建设明日的世界”。

我们需要为“明日的世界”框定所需要的AI，同时为今日的我们确定所背负的道义。

我们需要如何面对AI恐惧？

人是目的而非手段

艾萨克·阿西莫夫像是一个天然的象征，或者锚点。他出生的那年，恰佩克写下了《罗素姆万能机器人》；纽约举办世界博览会的1939年，艾萨克·阿西莫夫19岁。或许受到纽约世博会主题影响，他开始了科幻小说创作。这位年轻的生物学家决心定义一个新奇物种。

三年后，阿西莫夫在一个题为《转圈圈》（短篇小说集《我，机器人》）的故事中提出了对未来影响至深的三个法则：