微软AI CEO Mustafa Suleyman把Anthropic几周前那场大规模离职,和"递归自我改进"这个风险点直接挂上了钩。

他的原话是:AI在越来越少的人类参与、指导和审查之下,去修改自己的代码——"how and when"这件事,就是巨大的安全风险所在。在他看来,这正是触发Anthropic那波离职的原因。

打开网易新闻 查看精彩图片

一个很难审计的问题

Suleyman补了一句判断:这件事"actually a pretty hard thing to audit"——相当难审计。

这句话的分量在于说话人的位置。他不是在评论某家公司的内部人事,而是把一次具体的人员流动,归因到一个技术机制上:当AI开始改自己的代码,而人类在回路里的比重越来越低,审查这件事本身就开始失效。

递归自我改进之所以被反复提起,逻辑链条并不复杂:模型改代码的能力越强,需要人盯的环节就越少;人盯得越少,出问题时能追溯的线索就越薄。Suleyman说的"难审计",指向的正是这条链的末端。

离职潮被重新定义

Anthropic的离职事件此前更多被当作人事新闻来看。Suleyman的表述把它挪到了另一个框架里——不是谁走了,而是为什么走。

他给出的答案指向安全风险,而不是薪酬、路线或者管理分歧。这个归因是否成立,外界无法从这段话里得到验证,但它至少提供了一个来自大厂AI负责人的公开判断。

相关表态出自"The Rest Is Politics: Leading"的YouTube频道视频。