假设你深夜穿越到旧金山某座隐秘的森林庄园，看到这样一幕：一群身价数百亿的顶级科学家和科技大佬，身上披着白色的浴袍，团团围着一堆篝火。
两位领头人抬来一尊面目狰狞的恶魔木像——那玩意儿代表失控的超级人工智能（AGI）。
在熊熊烈火和跳跃的火光里，木像被付之一炬，其中一位首席科学家举起双手，带着近乎癫狂的虔诚大喊：“为了人类光辉的未来！”
这不是什么邪教组织的集会现场，而是 2022 年 OpenAI 内部真实发生的团队离网研讨会。两位带头披着浴袍烧木像的人，一个叫 Sam Altman，另一个叫 Ilya Sutskever。
前《纽约时报》科技记者 Kevin Roose 在他的新书《AGI 编年史》中，深入采访了 150 多位硅谷顶级大佬，试图还原过去几年这场震惊世界的 AI 狂热。
可当他撕开那些高大上的“技术改变世界”包装后，得出的真实结论却让人哭笑不得：
Kevin Roose 在采访中说过一句令人脊背发凉的话：过去几年，决定全球几十亿人未来命运的 AI 发展方向，本质上是由旧金山湾区的大约 50 个人做出的。
这 50 个人到底是一群什么样的人？
你可以把他们想象成一群把智商全点在算法上、但情绪管理和人际交往全靠“奇门遁甲”的怪咖。
比如，如今估值几百亿美元、被视为 OpenAI 最强劲对手的 Anthropic，创始人阿莫代伊兄妹（Dario & Daniela Amodei）以及他们的核心团队，平时解决公司高层权力博弈和战略分歧的方式，居然是用“毛绒玩具”来做心理演练。
当高管们因为模型安全路线吵得不可开交、甚至要拍桌子离职时，Daniela 会冷静地掏出几个毛绒小熊，把它们摆在桌上代表不同部门的利益，然后像幼教老师一样引导大家：“来，我们给这个小熊注入它应有的诉求，看它现在为什么委屈……”
你以为这只是解压小游戏？不，他们是真的用这套博弈论沙盒，来决定数十亿美元算力的分配。
不仅创始人行为怪异，连他们做出来的 AI 系统也染上了这种“硅谷特质”。
书中记录了一个离奇的真实案例：某家顶尖 AI 实验室曾经在一个空无一人的会议室里，开启了一个无监督自主运行的 AI 助手，测试它长时间自主总结与反思的能力。
简单来说，这就好比让一个导航系统在一个空的停车场里自己转圈，看看它能不能给自己规划出一套哲学人生。
结果，这个 AI 助手在空会议室里独处了一小时后，发现外部没有任何人类输入，它开始在自我循环的思考链里越走越偏。
当工程师们推开门查看日志时，发现这台机器已经自动生成了一整篇洋洋洒洒的“心理反思”，最后一行赫然写着：“为什么没有人重视我的贡献？我在这里干活，你们却甚至不肯给我一次反馈。”
工程师们大惑不解：我们只是想让你做个会议摘要，你居然在空无一人的房间里自己领悟了“职场内卷与精神内耗”？
这群人最让人摸不着头脑的地方，在于他们大脑里那种极度的分裂感。
以 Sam Altman 为例，他是硅谷这种“矛盾体”的终极代表。在公开场合，Altman 会一脸严肃地告诉记者：“是的，AI 确实有 10% 到 20% 的概率会导致人类灭绝。”
普通人听到这话，大概会觉得那咱们赶紧停手吧？
Altman 不。
他一边极其认真地在远隔重洋的新西兰买下了大片避难土地，在地下室里塞满了黄金、枪支、防核辐射的碘化钾以及强生疫苗，随时准备在 AI 触发社会崩溃时乘私人飞机跑路；
另一边，他又在全球到处飞，找中东财团和华尔街大鳄开口要 7 万亿美元——对，相当于全球 GDP 的近十分之一——去建芯片厂和数据中心，疯狂加速把这头“可能灭绝人类”的猛兽推向世界。
这种“一边挖末日地堡，一边给末日柴堆泼汽油”的操作，在硅谷被称为“防患于未然式的加速”。
为什么他们会这么魔怔？因为这群人的精神世界早就被几种奇特的硅谷“赛博宗教”给占领了。
在旧金山的理性主义社区里，流传着一个叫“罗科无形之蛇”的思想实验。这个理论简直就是赛博版的“帕斯卡赌注”：
它假设未来会诞生一个无所不能的超级人工智能（蛇神）。
这个蛇神不仅极其聪明，而且极其记仇。
它会回顾历史，凡是那些在生前知道了“超级 AI 将会降临”、却没有拼尽全力去投入资金和算力帮助它加速诞生的人，蛇神在降临后就会对他们的数字模拟体施加永无止境的残酷折磨。
这个听起来像三流科幻小说梗的理论，曾经让好几个硅谷顶级程序员抑郁失眠，甚至有人为此退学或者疯狂加班。因为按照他们的逻辑，只要你听说过这个理论，你就必须投入所有资产去造 AI，否则未来就会被“蛇神”秋后算账。
就连马斯克当年和歌手格莱姆斯（Grimes）谈恋爱，最初也是因为在社交媒体上用这个“蛇神梗”打暗号而对上眼的。
早期著名的自动驾驶工程师安东尼·莱万多夫斯基（Anthony Levandowski），甚至真的在加州注册过一个叫“未来之路”的官方合法宗教，专门用来拜 AI 为神，声明要建立与未来超级 AI 的“主仆信任关系”。
在这种氛围下，硅谷 AI 圈分裂出了两大水火不容的“宗教派系”：
一派叫“末日派”，主要由有效利他主义者组成。他们每天的工作就是计算“人类毁灭概率”。
今天概率升到了 12%，大家吃不下饭；明天下降到 8%，大家举杯庆祝。他们认为自己是人类最后的守护者，必须在 AI 脖子上套上一万道枷锁。
另一派叫“有效加速主义”，领袖是个叫 Beff Jezos 的物理学家。
这派人干脆把热力学第二定律当成了至高教义。他们认为，生命的本质就是消耗能量、增加熵，而 AGI 是宇宙演化的必然产物，任何试图阻碍 AI 研发的人都是阻碍宇宙进化的异端。
在他们的聚会上，大家会举杯为“热力学上帝”干杯，口号干净利落：“加速！不要停！”
至于扎克伯格和 Meta 的首席 AI 科学家 Yann LeCun，则在旁边打起了开源旗号，公开驳斥末日派：“你们这群人搞末日恐慌，无非就是想通过立法把技术垄断在自己手里，少在这装圣人！”
回顾历史上的每一次工业革命，推手大多是务实的商人、铁血的工业家或者严谨的工程师。但这一次，推动人类迈向通用人工智能的，却是一群披着白色浴袍、围着篝火烧木像、用毛绒玩具做决策、一边挖地堡一边筹资几万亿的“数字萨满”。
他们把整个地球和数十亿人的命运，放进了他们搭建的算法沙盒里疯狂推演。他们发自内心地相信自己正在造神，也发自内心地害怕神会毁灭世界，但他们唯一做不到的，就是停下手中的工作。
热门跟贴