- Anthropic 的两位高管表示，顶尖人工智能公司应考虑全球暂停开发。
- “我们认为，世界若能选择放缓或暂时暂停，将是一件好事，”Marina Favaro 和 Jack Clark 写道。
- 对此，许多评论人士质疑了这一提议的动机。
Anthropic 希望全球顶尖的人工智能实验室能够齐聚一堂，考虑暂停的可能性，以应对全球领先人工智能的发展。
“我们认为，世界若能选择放缓或暂时暂停尖端人工智能开发，以使社会结构和人工智能对齐研究跟上技术进步的步伐，将是一件好事，”Anthropic 的两位高层官员在一篇博客文章中写道。
周四，负责 Anthropic 研究机构的 Marina Favaro 和 Anthropic 联合创始人 Jack Clark 建议，人工智能实验室应建立一种类似国家间监控核武器扩散的合作模式，同时强调世界没有“几十年”的时间等待此类协议达成。
他们的提议一开始就不太顺利，科技界一些人将其描述为一家已开始筹备上市的领先人工智能公司的利己行为。
Anthropic 的一位发言人告诉《商业内幕》，该公司并未呼吁暂停。相反，Anthropic 希望其主要竞争对手能够建立能够暂停的机制。考虑到发展速度，该公司希望在认为有必要实施此类限制之前，现在就研究这一话题。
以下是人工智能、科技和政治界的顶尖人物对全球人工智能发展暂停这一想法的看法：
米特·罗姆尼，美国前参议员，2012年共和党总统候选人
前参议员米特·罗姆尼表示，美国应专注于制定“人工智能安全措施”。
“我们最高、最紧迫的国家优先事项应该是人工智能安全措施，”罗姆尼在 X 上写道，并引述了关于 Anthropic 声明的新闻报道。
2012年共和党总统候选人米特·罗姆尼表示：“人工智能武器、病原体、大规模失业、监控乃至灭绝的风险，不能再被大多数人忽视了。”
大卫·萨克斯，前白宫加密货币和人工智能主管
前白宫高级顾问大卫·萨克斯对Anthropic的建议提出了严厉批评。
“你可能在打主意让你的前沿AI实验室国有化的迹象：你把它比作核武器……威胁到一半白领的工作岗位……警告递归自我改进可能终结人类……然后照样抢先一步，”萨克斯在X上写道。
特朗普的前人工智能和加密货币主管，曾公开指责Anthropic实施监管俘获计划，但他在帖子里没有直接点名这家AI公司。根据他过去的言论和他所写内容的细节，他发火的对象是谁，明摆着。
“换句话说，你想让政府从……你手里救我们，”他写道。
安德鲁·B·霍尔，斯坦福大学政治经济学教授
安德鲁·B·霍尔，Forum AI的顾问，此前曾是Meta Platforms的顾问，他表示谷歌DeepMind首席执行官戴密斯·哈萨比斯此前曾表示，如果所有前沿开发者都遵守，他会支持全球暂停。
“就算在不久前，这听起来也完全不可信，但鉴于我们看到的行政命令、Glasswing以及昨天OpenAI关于加大模型审查力度的提议——这好像没那么离谱了，”霍尔在X上写道。
霍尔说，他对暂停怎么实施“持怀疑态度”，特别是当它适用于中国公司或开源模型时。
“如果别无他法，或许可以同意放缓面向消费者的模型发布，与开发脱钩——从我读《无限机器》的感受和他对纯研究的偏好来看，哈萨比斯似乎支持这一点，”他写道。
《英伟达之道：黄仁勋与科技巨头的缔造》作者 Tae Kim（金泰）
科技记者 Tae Kim（金泰）表示，Anthropic 正在助长不必要的危言耸听。
“Anthropic 的恐吓策略吓坏了普通人，加上热门就业岗位/加息议题被提上日程，以及对 Semianalysis 记忆体文章的误读，导致成长股交易出现喘息机会，”Kim 在 X 上写道。
Kim 是《英伟达之道：黄仁勋与科技巨头的缔造》一书的作者，他对这家 AI 公司发出了严肃的告诫。
“嘿，Anthropic，适可而止吧。”
Inworld 首席执行官 Kylan Gibbs
Inworld AI 首席执行官 Kylan Gibbs 表示，Anthropic 正在为塑造有利于自身的 AI 监管规则奠定基础。
Gibbs 曾在 Google DeepMind 工作，他表示，如果你告诉政府 AI 是危险的，那么等到要制定监管政策时，官员们会首先来找你，因为他们信任你。这给了 Anthropic 一个机会，可以按自己的想法来塑造监管规则，例如限制开源竞争对手和控制对中国的 GPU 出口。
“这也与我们之前看到的趋势有关，即大型现有企业推动制定他们知道只有自己能花钱搞定的监管规则，最终影响到那些缺乏法律资源来有效应对的小公司，”他补充道。
加里·马库斯，人工智能研究员，纽约大学荣休教授
人工智能评论员加里·马库斯表示，人们应该“仔细”阅读Anthropic的提议。
“他们想两边都占着。他们实际上并不想要暂停——至少现在不想。相反，他们想急于推进，并拿‘最不谨慎的行动者’当挡箭牌，”马库斯在X上写道。
马库斯称Anthropic的建议是“一套漂亮话，成本为零——正好赶在IPO这个节骨眼上。”他表示，这家AI公司实际上从不想要暂停。
“相反，他们希望人们讨论一个他们实际上并不打算采取、也不太可能采取‘选项’，”马库斯写道。“（更有可能的是，他们八成还会拿中国说事，然后继续往前冲。）”
路易斯·加里卡诺，伦敦政治经济学院教授，欧洲议会前议员
伦敦政治经济学院公共政策教授路易斯·加里卡诺表示，Anthropic正试图阻止开放模型竞争对手。
“开放权重才是威胁前沿模型赚钱的关键。要是他们把大家吓得够呛，那顺理成章就会禁掉它们，只允许‘受信任的开发者’，”加里卡诺在X上写道。“不好意思，我这话有点刻薄。”
弗朗西斯科·比安奇，约翰霍普金斯大学经济学教授兼系主任
约翰霍普金斯大学经济学教授弗朗西斯科·比安奇表示，Anthropic的提议看着像是为自己谋利。
“这里的风险可能是真实的，但市场老大跳出来说要冻结现状，这算盘打得也太精了，”比安奇在X上写道。
Jen Zhu Scott，Power Dynamics 的联合创始人兼首席执行官
Jen Zhu Scott 是 IN. Capital 的创始合伙人，这家公司专注于人工智能和深度科技，她说 Anthropic 得歇口气了。
“Anthropic 的算力和能源快用完了，”Scott 在 X 上发文说。
Alistair Barr 也参与了这篇报道。
热门跟贴