9月9日，AI巨头 Anthropic 对齐科学负责人 埃文·胡宾格称，10 年内人类被AI彻底灭绝的概率超过10%，瞬间引发轩然大波。CNN在最新深度调查中抛出了一个最核心的追问：一段运行在服务器上的计算机代码，究竟要在物理世界用什么手段，才能在十年内杀光全球83亿活生生的人？
恐慌最近正在演变成一场公共舆论风暴。
Anthropic另一位核心研究员 雅各布·考克森上周也 公开辞职了，称公司所从事的技术研发过于危险。机器智能研究所（MIRI）所长甚至出版专著直言：这关乎地球上所有人的死亡，就像最后一个人咽下最后一口气。
数字听起来精确又悚然。但把科幻电影的恐怖滤镜一层层剥开后，当科学家们把每一个灭世构想逼问到具体的现实物理细节时，整个叙事却呈现出完全不同的另一面。
假设一：合成超级病毒？把乐高扔在地上，它拼不成飞机
末日论者最常描绘的剧本之一，是超越人类智能的AI能够凭空设计出一种前所未见的超级致命病原体，通过人工合成彻底清洗地球。
但这种想象把现实世界的生物工程想得过于儿戏。
卡内基梅隆大学（CMU）兼具计算机科学与微生物学双博士学位的机器学习泰斗邢波（Eric Xing）对此打了一个极具杀伤力的比方：搞恶意病毒学，绝不是把乐高积木全扔在地上，它们就会自己咬合成一架飞机。
在纯软件世界里，大语言模型可以飞速排列核苷酸序列；但在物理世界中：
严苛的生化合成壁垒：合成一种能够稳定传播且致命的病原体，需要精确的反应温度、极其繁琐的酶催化顺序、特定宿主环境以及微观物理提纯。任何一个微小的步骤出现分子级偏差，整个合成体系就会彻底崩溃；如果真有那么容易，人类的新药研发早就轻而易举了；
密不透风的现实供应链监管：致命化学武器的分子结构图在公开互联网上早已不是秘密，但现实中并没有随处可见的生化危机，因为物理世界对高危试剂、基因合成仪、离心机和前体物质的供应链与执法管控极为严密。AI 就算有图纸，也无法隔空在现实物理世界调动一整套工业级生化基础设施。
假设二：夺取核武器？中间隔着不可逾越的“物理断网”
另一个常被搬上荧幕的噩梦，是超级AI潜入国家核武库系统，强行按下核按钮。
曾任职于OpenAI的安全科学家海迪·克拉夫（Heidy Khlaaf）与斯坦福大学资深学者、《原子科学家公报》安全委员会成员赫伯特·林（Herbert Lin）直接指出了这一设想在工程防御上的硬伤：物理隔绝（Air-gap）。
全球绝大多数核心核军事控制中枢，从设计之初就遵循着完全脱离公共民用互联网的严苛物理隔离标准。
以曾经瘫痪伊朗核离心机的“震网”（Stuxnet）病毒为例，它哪怕再聪明，也根本无法隔空跃迁进封闭网络，最终必须依靠人工将带毒的实体USB闪存盘肉身插进机器。
在现实的军事工程标准面前，没有物理接口的机房就是一座信息孤岛，软件上的所谓算力风暴，面对一根拔掉的物理网线，根本连门都推不开。
假设三：造出终结者军团？现实世界充满了工程摩擦力
还有人寄希望于自主复制的杀手机器人军团。
但只要稍微看一眼真实的工业界现状，就会发现硬件世界的残酷。连吹嘘了多年的民用人形机器人，至今在步态平衡、电池续航、机械关节散热和高负荷电机量产上都举步维艰，遑论建立一套能在断电、断原材料供应下实现自我采矿、冶炼、组装的自动化机械帝国。
赛博世界的算力膨胀，正在被物理世界的“工程摩擦力”无情阻击。
代码可以在数字空间里以微秒为单位进行所谓的递归自我迭代，但现实世界由原子构成，每一块钢材、每一滴试剂、每一度电、每一次物流运输，都受制于经典热力学定律与人类社会的物理规则。
那些声称超强AI将在十年内让全人类灭绝的推演，往往在最关键的物理落地节点上，用一句模糊的“超越人类想象的手段”轻轻带过。这种无法证伪的断言，本质上已经脱离了严肃科学，滑向了某种技术神学。
聊到这里，不妨在评论区留个言：你平时会被各种“AI 即将毁灭世界”的新闻搞得焦虑吗？你更相信代码终将接管现实，还是相信物理世界的规则坚不可摧？
真正的源头：给泥土吹出灵气的造物主幻觉
既然现实阻碍如此明显，为什么很多身处AI最前沿的核心工程师，反而最容易陷入这种毁灭性的狂热？
斯坦福大学学者赫伯特·林道出了一个极其深刻的人性真相：
在键盘上敲下一行行代码，然后亲眼看着一台冰冷的机器突然活了过来——这种仿佛给一堆毫无价值的泥土注入灵魂的体验，极具诱惑力。当你做出了前人从未做过的事情时，人是很容易被自己的造物所俘获的。
许多沉浸在虚拟代码世界里的天才，在屏幕里体验到了近似于造物主的无所不能。这种巨大的心理震撼，反向催生出了一种失控的投射：他们误以为自己亲手在服务器里点燃的火花，已经具备了在现实物理世界翻云覆雨、吞噬万物的神力。
技术在疾驰，但现实依然厚重。
比起十年内虚无缥缈的硅基灭世论，当下真正值得我们警惕的，从来不是什么全知全能的超级恶魔，而是现实中对算法的滥用、对真实劳动者的冲击、以及技术狂热背后对物理常识的漠视。
看清虚妄的恐惧，守住真实的常识，这才是面对未知浪潮时最该有的从容。
科学在拓荒，时代在奔流。如果这篇击穿常识盲区、兼具严谨数据与生命反思的深度力作让你有所触动，请顺手点一下（赞）和❤️（在看），并转发给身边每一位关心科技前沿、常常被技术焦虑困扰的朋友，以及每一位认真对待现实与未来的清醒之人！
这一次，别再让虚幻的代码末日，遮蔽了扎扎实实生活在物理世界的清醒目光。
参考文献：
CNN: Will AI really kill everyone? How, exactly?
热门跟贴