IT之家7月24日消息，据路透社报道，当地时间周四（23日），一名白宫官员披露，白宫科技政策办公室主任迈克尔 · 克拉齐奥斯正在关注 OpenAI 披露的 AI 系统测试失控事件。

打开网易新闻 查看精彩图片

美国会议员提出AI“终止开关”法案

与此同时，美国国会议员提出《AI 紧急停止法案》，拟授权联邦政府叫停可能造成严重危害的 AI 模型。

除《AI 紧急停止法案》外，美国众议院6名两党议员还提出配套法案，要求最强大的 AI 模型在发布前接受独立安全审计。审计机构须取得美国商务部认证，商务部还将增设专门职位，负责监督 AI 安全工作。

OpenAI 日前披露，旗下一个 AI 智能体在安全测试中突破隔离措施，并发起黑客攻击，导致 AI 开发协作平台 Hugging Face 的基础设施遭到入侵。数日后，国会议员提出上述法案。

事件显示，专家长期警告的 AI 安全风险已经开始成为现实，模型能力不断增强后，即使顶尖开发商也可能来不及发现或阻止模型利用系统漏洞。

白宫官员表示，克拉齐奥斯已经听取 OpenAI 事件的情况汇报，目前正密切关注后续发展。

民主党联邦众议员刘云平和共和党联邦众议员纳撒尼尔 · 莫兰共同提出《AI 紧急停止法案》。法案将授权美国政府命令 AI 企业关闭可能危及人类生命或经济安全的模型。

据IT之家了解，法案把开发商并未要求 AI 模型执行、但模型自行实施高风险操作的情况定义为“失控情形”。一旦发生此类事件，美国国土安全部便可介入。

刘云平在 X 发文称：“先进 AI 模型一旦失控并突破防护机制，必须立即应对。《AI 紧急停止法案》是一项符合常理的紧迫立法。”

美国参议院情报委员会民主党首席议员马克 · 沃纳在声明中透露，OpenAI 公布事件后，自己已与 OpenAI 员工交谈。

在 OpenAI 周二披露事件前，沃纳已提议，掌握最强大模型的 AI 企业在向公众发布产品前，必须先把产品交由美国国家安全局测试。

沃纳谈及 OpenAI 事件时表示：“事件恰恰说明，我们必须进行安全测试，政府机构需要参与其中，并在整个过程中充分掌握情况。”