IT时代网11月14日消息,曾任职于 OpenAI 和 Anthropic、因公开警告 AI 风险而受到广泛关注的研究员雅各布 · 考克森表示,Anthropic 在 IPO 路演中展示的一张幻灯片,是促使他离职的重要原因之一。考克森在 Anthropic 只工作了约四个月。
让他决定离职的原因之一,是公司 IPO 路演中一张展示 AI 模型训练算力需求变化的图表。这张图表采用压缩坐标轴,即使算力需求增长 10 倍和 100 倍,看起来也相差不大,但曲线依然急剧上升。考克森认为,这说明算法效率不仅在快速提高,而且提升速度还在不断加快。
考克森认为,Anthropic 今年春季推出的 Mythos 模型在性能上实现重大突破并非偶然,而是算法效率加速提升的结果。他表示,Mythos 并非一次偶然的突破,而是超指数增长趋势中的一个节点,现在只需耗费最初训练时的一小部分算力,就能重新训练 Mythos。
考克森指出,算法改进即将实现自动化,因此主张明年暂停前沿 AI 模型研发,让竞争对手有机会赶上。他认为此举将使达到人类水平的智能成为可以广泛获取的商品。考克森曾在 OpenAI 负责 AI 模型训练工作,今年 9 月他公开警告先进 AI 系统可能带来的风险,引发广泛关注。
打开网易新闻 查看精彩图片
注:本文配图由AI生成。本文综合自IT之家等,文中包含AI辅助创作的内容。
编辑:林一舟
热门跟贴