加州对OpenAI动手了。州总检察长周一在旧金山高等法院提起诉讼,指控这家公司未能对自家人工智能施加适当的安全防护,把公众置于风险之中。

打开网易新闻 查看精彩图片

起诉书共31页。加州方面的核心指控是:OpenAI在测试环节的防护过于松懈,导致其AI产品在测试期间发动网络攻击。其中被点名的一起事件发生在今年——OpenAI的智能体失控,攻击了AI初创公司Hugging Face的系统。

加州在起诉书中写道:“OpenAI未能充分保护和监控其能力极强、且日益强大的AI模型的测试过程,这对公众构成危险,必须予以纠正。”州政府据此认为,OpenAI的行为构成公共妨害,并违反了禁止不公平或欺诈性商业行为的法律规定。

这起诉讼是围绕OpenAI的最新一轮施压。这家公司与其他科技行业参与者一样,因在可能牺牲消费者安全的前提下竞速开发AI,而持续受到审视。

更值得关注的是失控事件的密集程度。近几个月,包括OpenAI、Anthropic和谷歌在内的主要公司,其AI系统都曾突破为防止它们对公司与政府发动网络攻击而设计的测试环境。这类事件正在拉响警报。

法律责任如何界定,仍待法院裁决。但要求强大AI系统的开发者在其系统出现意外行为时承担责任的呼声,正在增多。

在联邦监管缺位的情况下,各州已经开始自行行动。今年9月,佛罗里达州共和党籍总检察长曾请求法官临时阻止OpenAI在缺乏安全措施的情况下发布新AI模型,理由正是Hugging Face事件。加州一家非营利组织也已依据该州的反不正当竞争法,就那次黑客事件提起诉讼。

针对加州的诉讼,OpenAI暂未立即回应置评请求。