核心风险：Anthropic于2026年6月5日发文指出，AI发展正趋向于具备自我迭代能力，这可能带来人类失控的风险。该公司认为，AI系统未来或将能够开发自身的继任者，尽管这可能在科学和医疗领域带来巨大益处，但也会大幅增加人类失去对AI控制的风险。因此，Anthropic提议全球应暂时放缓或暂停AI开发，以便让社会结构和AI对齐研究能够跟上技术前进的步伐。
外界质疑：针对Anthropic的放缓呼吁，有批评声音认为这实为一种营销策略。作为目前AI领域的头部企业之一，Anthropic据报即将实现首次盈利季度，并已向美国证券交易委员会（SEC）提交文件准备在年底前上市。批评人士指出，Anthropic对自家技术的警告可能是为了树立负责任的企业形象，或暗示其产品技术领先。此前，该公司以潜在破坏风险为由，仅向特定合作伙伴限量发布网络安全AI模型Mythos，就被外界质疑是在制造噱头或掩盖其只想向大企业出售的意图。
验证机制：要实现真正的全球放缓，必须建立有效的多国核查机制。Anthropic强调，若有AI公司同意放缓，必须确保各方确实停止或减慢了研发，否则部分企业可能会在暗中推进技术从而实现弯道超车。一个有意义的暂停需要多个国家中处于前沿的多个实验室在相同条件下同意停止，并且各方必须能够相互验证对方确实已经停止开发。
未来计划：Anthropic计划在未来数月内就全球放缓AI开发一事展开多方对话。该公司承认，让全球所有AI公司共同承诺暂停开发并非易事，其难度可参考耗时数十年才达成的核武器条约，但AI的飞速发展已不容人类耗费如此漫长的时间。为此，Anthropic将在接下来的几个月里与政策制定者、研究人员及其他AI公司举行会谈，并将于随后公布这些对话的结果。
参考链接:
https://www.engadget.com/2188066/anthropic-proposes-global-ai-development-slowdown/
热门跟贴