马斯克、奥尔特曼、哈萨比斯支持阿莫代伊呼吁放缓AI发展步伐

打开网易新闻 查看精彩图片

人工智能领域一些最知名的人物支持Anthropic首席执行官达里奥·阿莫代伊的呼吁，即行业应放缓前沿AI的发展步伐，并引入更强的保障措施。

“达里奥说得对，”马斯克在美国社交媒体公司上对阿莫代伊的帖子作出简短回应时表示。

奥尔特曼也赞同这一提议，称为前沿设定节奏一直是OpenAI近期讨论的主要议题。

“我同意达里奥的观点，我们需要为前沿设定节奏。这是近几周我们在OpenAI讨论的一个主要话题，”他说。

奥尔特曼尤其支持阿莫代伊提出的让独立评估者广泛接触先进AI系统的建议。

“承诺让独立评估者拥有类似员工的访问权限是一个很好的想法，我们也会这样做。我们很快会有更多信息分享，”他补充道。

“这一方向对于应对这一关键时刻是正确的，”他说。

哈萨比斯将阿莫代伊的提议与谷歌DeepMind近期呼吁建立前沿AI全行业标准机构联系起来。

“我们必须放缓提升AI模型能力的速度，”阿莫代伊写道。“进展仍会显得很快，我们必须明智地利用所赢得的时间。”

“AI带来风险，而且由于它是一项如此强大的技术，这些风险是严重的……它们包括失去对AI系统控制的风险、AI被滥用于网络攻击和生物恐怖主义的风险，以及严重的经济混乱。商业激励所催生的逐底竞争可能使这些风险更加尖锐，”他补充道。

本周早些时候，Anthropic一名研究员宣布将离开公司，原因是担心Anthropic及其竞争对手未能负责任地开发AI系统。

雅各布·考克森也曾就职于Anthropic的竞争对手OpenAI。他表示，这些公司似乎将相互竞争置于确保其AI产品安全之上。