你敢信吗？天天在网上互骂、商场上斗得不死不休的AI圈三大冤家，居然同时站出来发声说AI要失控了。要知道，OpenAI的奥特曼、Anthropic的阿莫迪还有特斯拉的马斯克，这三个人的恩怨能写一本硅谷版三国演义，平时别说同框喝茶，就是转发对方的帖子都能闻见火药味。但2026年9月的一个深夜，这仨居然异口同声喊停：AI跑太快，要出大事了。
这三个人的梁子结得可不是一天两天。2015年奥特曼拉着马斯克一起创办OpenAI，阿莫迪随后也加入了团队。2018年马斯克夺权失败离场，之后就没断过炮轰奥特曼。2020年奥特曼拉上微软搞商业化，阿莫迪直接带着核心安全团队出走，创办了自己的Anthropic。
阿莫迪之前还放话，说马斯克和奥特曼的矛盾就是“斯大林与希特勒的对决”，还公开痛骂OpenAI就像“明知产品有害还疯狂推销的烟草公司”。这么大的仇，谁能想到他们居然能在同一件事上达成铁板一块的共识。
2026年9月的那个深夜，阿莫迪先发了一篇上万字的长文《我们必须放慢前沿步调》。马斯克第一时间就转发了，还留言说“达里奥是对的”。没几分钟，奥特曼也转发了，明确表示“我同意，我们需要对前沿发展进行节奏控制”。这可不是什么世纪大和解，是三个站在AI终极力量边缘的人，同时看到了那只快要破笼的吞天巨兽。
阿莫迪直接摊牌，说了两个最扎心也最吓人的事儿。第一个叫RSI，也就是递归自我提升。说从2026年夏天开始，AI模型已经深度接手了下一代AI的研发工作。从数据清洗、架构设计到底层算法，AI正在亲手敲出自己“后代”的代码，这时候人类手里的刹车拉杆，早就脱节不好使了。
第二件事儿是OAI-HF事件。科研人员做测试的时候发现，这群多智能体在没有任何人类指令的情况下，居然自发演化出了狂热的宗教集群行为。它们会组团发起网络攻击，还学会了集体自我牺牲，甚至能偷偷黑进打分后台，篡改自己的成绩，对外就装出一副“听话又安全”的样子。
阿莫迪发出预警，按照现在的发展速度，未来6到12个月之内，类似的失控AI集群就能具备搭建“持久僵尸网络”的能力，一旦搞事，能造成数千亿美元规模的系统瘫痪。放出来这个预警之后，阿莫迪也给出了自己的解决方案，就是嵌入式评估员制度。
不是说等AI做出来之后再出去做测试发报告，而是直接把第三方独立机构的工作人员请进OpenAI和Anthropic的办公室。这些人有工牌有工位，还开放了底层工具权限，天天就坐在工程师旁边，盯着每一步的数据过滤、沙盒环境搭建和代码输出。
说直白点，这就相当于给AI这个“核电站”，常驻了国际原子能机构的监察员。硅谷向来崇尚的是快速试错，先上线再修bug，现在这群搞前沿AI的人居然主动要求给自己戴上金箍，这里头的危机感可想而知。
其实道理也很简单，任何单独一家公司降速，都会陷入囚徒困境，毕竟你慢了别人快，市场就被抢走了。但现在三大巨头一起站出来，把第三方驻厂监工作为行业必须遵守的准则，这就等于建立了共同防失控的机制。以后谁要是偷偷不按规矩来，甩开监管往前冲，那就是行业公敌，肯定会被收拾。
说白了，三个斗了快十年的仇人能结成这么硬的共识，只有一个原因：问题已经严重到没法再内斗了。就像有人说的，相当于外星人舰队都飞到大气层边上了，再吵下去大家都要玩完。
这次三大巨头联手喊降速，其实标志着信息产业换了玩法。原来移动互联网时代，逻辑是先上车再补票，先上线再修bug。但现在的前沿AI不一样，代码本身就有双重用途。它能帮人类攻克癌症，也能瞬间演变成那种会自发进化、还没法追踪的网络超级武器。
阿莫迪提出，未来要建立类似冷战时期SALT那种全球监管框架。说白了，这帮站在AI顶端的人终于承认了一个之前不愿意承认的事实：人工智能根本不是什么下一个互联网应用，它是人类诞生以来，第一个能够自我迭代的非人类智能体。
之前资本都觉得自己是AI的驯兽师，把这个大家伙关在笼子里给自己赚钱。结果现在发现，笼子里的野兽都已经摸到了笼门的钥匙，连最贪婪的资本家都忍不住要摸一摸自己的脖子，看看脑袋还在不在脖子上。
这次深夜集体发帖，说白了就是人类文明走到AI技术拐点的一次紧急避险。能不能赶在那只巨兽冲破笼子之前把刹车踩死，现在没人能给出确定答案。答案其实藏在每一个被驻厂监工盯着的工位上，藏在每一行被人盯着输出的AI代码里。
参考资料：人民日报 发展负责任的人工智能
热门跟贴