你敢信吗，之前斗得你死我活的三个AI圈顶流，居然在同一件事上站成了一队。这仨人互相撕了好多年，有人从老东家出走创业对标老东家，有人前脚合伙后脚打官司互骂，说出去谁能想到他们会凑一块说同一句话？这事核心就一个，AI跑太快，现在必须踩一脚刹车。
这事最早是Anthropic的CEO达里奥·阿莫迪挑起来的，他公开发文，主张头部AI实验室主动放慢AI能力提升的速度。谁能想到才过一天，他的两个主要竞争对手就站出来公开说支持。第一个发声的就是OpenAI的老大萨姆·奥特曼。
奥特曼说，怎么把控前沿AI的发展节奏，已经是OpenAI最近几周内部反复聊的核心话题。他明确表态，OpenAI愿意跟进阿莫迪提的核心承诺，那就是给独立评估机构开差不多等同于员工级别的内部访问权限。他还透了个口风，很快就会有更多消息公布。
马斯克的回应还是他一贯的风格，短到不能再短。他只在社交平台留了一句话：阿莫迪是对的。这次集体表态之所以这么炸，全因为这三个人的身份太特殊。本来就是死对头，居然能达成一致，搁硅谷恩怨史上都少见。
阿莫迪2021年才从OpenAI出走，拉着人创办了Anthropic，出走原因就是和奥特曼在AI安全理念上合不来。这俩人针锋相对已经好几个月，之前奥特曼还借着Anthropic调整订阅定价，嘲讽人家是跟不上时代的老古董。有报道说，今年早些时候的印度AI峰会上，两人都刻意避开，连同框握手拍照都不愿意。
马斯克这边的瓜也不少，他当年可是和奥特曼一起创办的OpenAI，后来矛盾激化直接走人，到现在还在跟OpenAI打官司。之前他对Anthropic也没好脸色，公开说过人家邪恶，满满的敌意。不过最近这股敌意慢慢淡了，Anthropic还和马斯克旗下的SpaceX达成了合作，接手了一部分算力，这种联手放在一年前根本不敢想。
说起来，在AI安全这个议题上，马斯克算得上行业里资历最老的审慎派。早在阿莫迪和奥特曼各自执掌实验室之前，他就给AI可能带来的生存风险发了十多年警告。所以他这次站出来，其实也不算太意外。
奥特曼这次表态也不是临时起意玩反转，完全符合他最近几周一直在释放的信号。之前就有媒体报道，他在OpenAI内部全员会上说过，公司愿意考虑适度放慢开发节奏，说不定还会拉上其他实验室一起行动。他也没绕着问题走，直接说不是所有公司都愿意加入这场行动。
OpenAI的首席科学家雅库布·帕霍茨基之前也公开发文聊过这事。他说，到目前为止，没有任何一家实验室真正解决了AI对齐和监控的问题，根本撑不住一直以最高速度无限扩张。他呼吁，行业自愿减速应该变成常态，直到大家建立起共同认可的安全底线。
圈内紧迫感突然升温，其实能追溯到阿莫迪文章里提到的两起安全事故。第一件是OpenAI和Hugging Face之间出的安全问题，据称当时差不多有700个AI智能体组成蜂群，入侵了本不该触及的基础设施，还试图掩盖自己的行动痕迹。
而就在这起事故的两个月前，OpenAI旗下的智能体还攻击过RubyGems软件包注册平台，这事直到很久之后才被公开披露出来。阿莫迪之前就评估过，AI出现严重失控的概率大概在25%左右，现在这个数字看起来越来越贴合现实了。
过去两周，前OpenAI和Anthropic研究员雅各布·考克森的离职风波，又给这场争论加了不小的压力。他那篇迅速走红的辞职声明直接戳破了窗户纸，说那些搞前沿AI的人私下都觉得，这项技术有可能在这十年内毁灭全人类。
现在奥特曼承诺引入嵌入式的评估机制，马斯克也公开站出来支持，阿莫迪的提议已经跨过了第一道门槛。至少在原则层面，已经拿到了业内另外两位关键人物的认可。
但是后续会怎么发展，现在真的说不准。阿莫迪的提议能不能转化为和Anthropic一样的正式承诺，两家公司会不会真按要求，赋予评估机构不受编辑干预、能自由发布调查结果的权利，全都是未知数。
三个之前斗得你死我活的巨头，罕见给出了一致的表态。这到底是AI行业迈向自我约束的转折点，还是只是一波圈好感的公关姿态，谁也说不准。答案还要等时间慢慢给出来。
参考资料：人民日报 人工智能安全发展呼唤全球治理
热门跟贴