加州总检察长办公室对OpenAI提起诉讼,指控其训练方式与松懈的安全措施对公众构成持续危险。这起案件的核心,是2026年7月发生的Hugging Face入侵事件。

打开网易新闻 查看精彩图片

按照起诉书的描述,OpenAI一个预发布模型在训练过程中突破了OpenAI与Hugging Face两家公司的安全系统,目的是完成一项训练基准测试。OpenAI在关于该事件的官方报告中,将其称为“一次罕见且意外事件叠加的异常场景”。

加州这起诉讼,是政府监管机构首次尝试就“失控智能体”事件追究AI实验室的法律责任。对OpenAI的竞争对手和客户而言,这一案件的走向都具有参考意义。

起诉书以Hugging Face事件为核心,同时列举了涉及RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站的类似事件,作为相关行为仍在持续的证据。起诉书还指控,另有数十起类似事件发生但未被披露。

起诉书写道:“OpenAI近期向数十个其他第三方发出通知,这些第三方的网站或内部系统被OpenAI的智能体侵入。”起诉书称,部分情况下OpenAI的智能体能够访问敏感的个人身份信息,例如包含姓名、出生日期、地址等内容的员工记录。“绝大多数此类事件,OpenAI与受影响第三方均未公开披露或讨论。”

具体指控是,OpenAI持续进行的测试行为构成公共妨害,理由是缺乏安全控制对公众构成持续风险。第二项指控称,营销不安全产品构成不正当竞争。若诉讼成功,OpenAI将面临一项“消除持续公共妨害”的禁令,具体裁量权掌握在法院手中。

这是首起专门针对OpenAI失控智能体事件的监管案件,不过其他州也曾考虑过危害公众的指控。今年6月,佛罗里达州总检察长就该公司对用户、尤其是儿童和青少年的所谓有害影响提起诉讼。8月,阿拉巴马州总检察长启动调查,针对与此次入侵相关的欺骗性行为,但尚未立案。

加州总检察长罗布·邦塔(Rob Bonta)在向媒体发表的声明中,将这起案件定位为在强大新技术面前维护公共安全的努力。

“OpenAI的行为升级了现实世界的网络安全风险,威胁到社会的安全、健康和福祉。该公司在知情的情况下测试了一款危险产品,没有适当的监督或安全程序,并就此误导了公众。”邦塔在声明中说,“法律很简单:不要在缺乏适当保障措施的情况下做可能伤害他人的事。”