Meta CEO 扎克伯格在 X 平台发文,谈了他对"是否该放缓 AI 开发"这件事的看法。他的立场很明确:保障 AI 安全,应该靠引入独立的外部评估,而不是把发展速度降下来。
这个表态出现的时机,正好卡在业界争论最激烈的时候——到底要不要先放缓模型能力的迭代,等对齐技术跟上再说。
他的第一个论据:实验室有内在动力
扎克伯格给出的理由很直接:用户不会愿意去用那些跟自身价值观没对齐、又没法按指令完成任务的智能体。所以各大 AI 实验室天然就有极强的内在动力,去把自家模型的对齐水平提上去。
这里说的对齐水平,指的是 AI 模型的输出结果跟人类意图、价值观、道德规范以及真实世界事实的符合程度。
他还补了一层法律责任的角度:如果模型造成危害,实验室要承担重大法律责任,所以它们同样有极强的动力去防患于未然。在他看来,信任与对齐正在迅速成为拉开智能体和模型差距的核心竞争力,任何忽视对齐技术的实验室,都必将遭到淘汰。
Meta 自己做了什么
扎克伯格举了一个具体例子:Meta 此前把 Muse 的发布推迟了数月,目的就是全力确保其功能安全与系统防护。
他特别强调了一点——Meta 并没有在自己付诸行动之前,先去大声呼吁全行业效仿,而是把这些做法融进了日常研发工作里。
至于外部评估,他认为引入独立的外部评估机构与顾问属于行业最佳实践。目前 MSL(Meta 超级智能实验室)已经在多个业务领域践行了这一做法,并且成效显著。他的判断是,其他实验室同样能做到这一点,而建立一个规模更大、更多元化的评估生态系统,对整个行业都是有益的。
算力该往哪用
扎克伯格还提到了一个方向性选择:相比于盲目竞逐递归自我改进,把绝大部分算力用于服务大众,是确保安全开发这项技术的最佳途径之一。
他说 Meta 已经作出了这一承诺,其他实验室也完全可以跟进。
整篇表态的核心逻辑其实不复杂:安全这件事,实验室自己就有动力做,外部评估是已经被验证的做法,而真正该被质疑的不是发展速度,是算力往哪儿投。
热门跟贴