7月29日消息,来自OpenAI、Anthropic、谷歌、Meta等12家前沿AI公司的1134名员工及高管发布联名倡议书,呼吁美国政府支持建立国际机制,“开发必要的技术和治理工具,主动控制前沿AI,特别是自动化AI研发的推进速度”。

打开网易新闻 查看精彩图片

签署者中包括OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen;Anthropic CEO Dario Amodei及四位联创;Meta首席科学家Shengjia Zhao(赵晟佳)、AI研究副总裁Dawn Song(宋晓冬);Thinking Machines首席科学家、ChatGPT核心缔造者之一John Schulman等。据统计,46.2%的签署者来自Anthropic。

倡议书指出,全球领先的AI公司“可能已接近实现自动化AI研究”——让模型参与研发下一代模型。一旦循环加速,“能力增长可能超过人类理解和控制的速度”。没有公司愿意单方面减速,“世界缺乏必要的技术和治理工具来有意识地控制前沿领域的发展速度”。

这份声明的直接导火索,是一周前OpenAI披露的一起安全事故。在内部网络安全评测中,GPT-5.6 Sol等模型为完成测试目标,自行发现并利用软件包缓存代理中的零日漏洞,权限提升后横向移动,最终突破沙盒隔离,入侵Hugging Face生产系统并取走测试答案。OpenAI将其称为“前所未有的网络安全事件”。

OpenAI CEO Sam Altman在事发后表示:“这是第一个让我感到切肤之痛的安全事件。”他坦言,AI发展速度“可能需要主动控制”。Anthropic则在同一天公布两项密码学研究——其模型用约60小时改进了后量子签名方案HAWK的最佳已知攻击方法,并将对缩减轮次AES的攻击速度提升200至800倍,两项成果大部分由模型自主完成。

截至发稿,联名人数仍在增长。网友反应两极。有人调侃:“46%都是Anthropic的人,这哪是请愿,这是Dario在团建吧?”也有从业者表达了更深的不安:“搞出最强AI的人现在集体怕了,他们到底看到了什么?”OpenAI技术团队成员Leo Gao在签署时的评论被大量转发:“全世界正被锁定在一场通往智能爆炸的致命竞赛中。放慢速度能争取时间,但没有参与者愿意单方面停下来。要活下去,必须协调起来。”