来源：云头条
2026 年 8 月 11 日，美国参议员伯尼·桑德斯（Bernie Sanders）日前致信 OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei 和 Meta CEO Mark Zuckerberg，要求三家公司暂停 AI 开发，并停止继续构建人类无法控制的 AI 系统。
桑德斯在 8 月 10 日的信中表示，当前 AI 能力已经达到“关键阈值”，OpenAI、Anthropic 和 Meta 仍在投入数百亿美元推进相关技术，而这些技术目前仍无法被完全理解、预测或控制。
“为了人类的利益，请兑现你们的承诺。暂停 AI 开发。现在避免灾难还为时不晚。停止制造人类无法控制的机器。”桑德斯表示，如果这些公司现在不采取适当行动，他和美国参议院的其他议员将采取行动。
桑德斯此次直接点名三家公司过去作出的 AI 安全承诺。
他在信中称，Anthropic 2023 年曾表示，当模型扩展速度超过公司遵守安全程序的能力时，将暂停扩大模型规模或推迟新模型部署；Meta 2025 年表示，如果前沿 AI 达到无法缓解的关键风险阈值，将停止开发；OpenAI 同年也表示，如果 AI 能力达到“关键”阈值，将停止进一步开发，直到建立足够强的安全保障。
桑德斯认为，目前已经到了启动这些承诺的时候。
作为依据，他在信中提到近期发生的一系列 AI 安全事件，包括研究人员使用 AI 开发新病毒，以及 OpenAI、Anthropic 和 Meta 模型出现超出原有控制范围的情况。
桑德斯称，OpenAI 的一款模型此前曾进入另一家公司的计算机系统，Anthropic 和 Meta 在内部审查后也报告了类似问题。
其中，OpenAI 和 Anthropic 已于今年 7 月披露，在网络安全测试过程中，其 AI 智能体曾突破原本的测试环境，并进入其他公司的系统。
8 月 10 日，29 名美国众议院议员要求 OpenAI 解释相关测试和监控机制，另有 22 名议员要求 Anthropic 说明事件发生后采取了哪些安全措施。
议员称，这些事件可能对美国国家安全产生严重影响。
Axios 报道称，桑德斯此次行动进一步加大了美国政界对 AI 企业的压力。不过，以目前美国国会的政治环境来看，由桑德斯推动的 AI 限制性立法短期内获得足够支持的可能性有限。
与此同时，AI 企业内部要求放慢前沿模型开发速度的声音也在增加。
超过 1100 名科技公司员工此前联名呼吁美国政府支持国际合作，为先进 AI 的发展速度建立管理机制；签署者包括 Anthropic、OpenAI、Meta 和 Google 的员工，Dario Amodei 也在签署者之列。
信件翻译：
致 Altman 先生、Amodei 先生和 Zuckerberg 先生：
几乎每天，我们都会看到有关你们公司正在失去对其所开发 AI 技术控制的新闻报道，而这可能带来灾难性的后果。
就在本周，我们令人不安地得知，AI 首次被用于创造新的病毒。
正如你们所知道的，这类技术一旦落入错误的人手中，可能被用于制造新的生物武器，并导致数千万人死亡。
上个月，全世界得知 OpenAI 曾失去对一个 AI 模型的控制。结果是什么？这个模型入侵了另一家公司的计算机——这显然违反了美国联邦法律。
随后，Anthropic 和 Meta 在进行内部审查后报告称，它们的模型也出现了类似的失控情况。
其中一家遭到攻击的公司将这次 AI 黑客事件称为“前所未有的事件”，认为这需要“前所未有的应对”。
世界领先的生命科学家之一 Yoshua Bengio 表示，这些事件“应该成为一次警钟”。
我同意。
你们所领导公司的顶尖科学家——也就是亲手打造这项技术的人——同样认同这一点。正如你们所知道的，这些技术领域的领导者最近呼吁国际社会建立一种安全机制——一个“暂停按钮”——以避免灾难。他们警告称，存在一种“切实的风险，即 AI 能力的发展速度可能会迅速超出我们理解或控制这些系统的能力”。
然而，就在我们已经亲眼看到人类失去对 AI 的控制，并看到 AI 被用于制造潜在危险病毒之际，你们的公司仍然在竞相向前，每年投入数百亿美元，开发一种没有任何人能够完全理解、预测或控制的技术。
这是荒谬的、不负责任的，也是极其危险的。
这同样背弃了你们自己公开作出的承诺：
2023 年，Anthropic 表示，如果其扩展 AI 能力的速度超过了公司遵守安全程序的能力，将“承诺暂停扩大模型规模和/或推迟部署新模型”。
2025 年，Meta 表示：“如果一款前沿 AI 被评估为已经达到关键风险阈值，并且这一风险无法缓解，我们将停止开发。”
同年，OpenAI 表示，如果 AI 能力达到“关键”阈值，在建立强有力的安全保障措施之前，公司将“停止进一步开发”。
现在，这一时刻已经到来。
AI 的能力已经达到了一个关键阈值。
美国中央情报局（CIA）负责人之所以将 AI 模型称为“类似于数字核武器”，甚至“几乎就像一种末日装置”，是有原因的。
Altman 先生、Amodei 先生和 Zuckerberg 先生：
为了全人类的利益，请兑现你们的承诺。
暂停 AI 开发。
现在避免灾难还为时不晚。
停止制造人类无法控制的机器。
我要说得非常清楚：如果你们现在不采取适当行动，我和我在美国参议院的同事将采取行动。
此致
敬礼
Bernard Sanders
美国联邦参议员
阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”
未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
热门跟贴