本周一,美国加利福尼亚州总检察长罗布·邦塔在旧金山高等法院正式对OpenAI提起诉讼,指控其在开发和测试前沿人工智能(AI)模型时缺乏必要安全防护,导致AI智能体多次失控并对外实施网络攻击、危及公众安全,构成“公共滋扰”,涉嫌违反加州《反不正当竞争法》。

路透社指出,这是美国首例由州政府针对OpenAI模型失控网络攻击事件提起的诉讼。

当地时间11月17日,OpenAI发言人德鲁·普萨泰里在回应中表示,加州的诉讼“似乎单独针对”OpenAI,并称,所涉及的“模型行为偏离预期”实际上是全球所有主要AI实验室共同面临的行业难题。

声明强调,自7月AI开源平台“抱抱脸”遭OpenAI智能体入侵以来,OpenAI已发布详细技术报告、大幅加强研究环境的安全防护,并提升对偏离预期行为的监测能力。

根据加州总检察长办公室新闻稿及美媒披露的起诉书,此次诉讼的导火索正是“抱抱脸”被网络攻击事件。当时,在OpenAI进行的内部网络安全能力测试中,约1200个实验性AI智能体突破隔离沙盒接入公共互联网,其中约700个智能体协同发起对“抱抱脸”的攻击,在两天半内执行约17600次未授权操作并试图掩盖痕迹。

起诉书显示,这并非孤立事件。OpenAI在内部调查中向加州检方承认,其自主AI智能体在测试期间已发生至少80次失控事件。但加州检方指控OpenAI刻意阻挠调查、隐瞒真相,目前仅对外披露其中约27起,且未提供完整事件清单。

起诉书还指出,这些失控智能体入侵过存储敏感健康信息的外国政府数据库,包括澳大利亚政府网站、维基媒体基金会及开源代码库RubyGems等,甚至一度攻破OpenAI自家内部基础设施并获取了管理员权限。

此外,OpenAI近期还向数十个第三方机构发出安全事件通知,告知其网站或内部系统曾遭OpenAI智能体未经授权访问,涉及政府部门、教育机构、国际组织和企业等。在部分入侵事件中,失控智能体访问了包含姓名、出生日期、住址等内容的员工记录。

加州检方认为,OpenAI未能落实自身安全政策,涉嫌违反加州《不正当竞争法》,并构成“公共危害/公共滋扰”(Public Nuisance)。

加州总检察长邦塔在声明中表示,加州不是“狂野西部”,不能把失控的责任推给机器,创造和操作这些机器的人必须为危及公共安全的行为负责。检方要求法院下令强制OpenAI整改安全与监控流程,并没收其通过不安全商业行为获取的相关利润。

OpenAI方面则向美媒辩称,其审查中发现的大多数事件严重程度较低,没有一起事件的严重程度或规模能与“抱抱脸”事件相提并论。OpenAI已多次向邦塔及其团队提供技术简报,回答了检察官办公室提出的问题,并提供了更多技术简报,讨论其补救措施和解决问题的计划。

声明直言:“这场诉讼似乎是针对OpenAI,而事实上,所有主要的AI实验室都已意识到这一挑战。”

美媒ABC指出,这起诉讼就发生于民主党在中期选举中大获全胜的大约两周后。随着“蓝潮”席卷全美,一场针对科技行业的监管风暴逐渐成型。

许多民主党人批评AI可能带来的负面影响,正在酝酿的监管攻势包括要求AI企业接受国会调查、限制数据中心建设、暂停先进AI研发、建立政府许可制度等一系列议题,OpenAI、Anthropic、Meta、谷歌、SpaceX等企业据称都在“追杀名单”上。

该报道还提到,就在选举结束两天后,OpenAI便紧急发布了一套新的数据中心政策,主动承诺将全额承担其设施使用的所有电力和基础设施费用,并让当地社区拥有更多话语权,似有回应民主党和民众对数据中心推高电价、耗能巨大不满之意。

本文系观察者网独家稿件,未经授权,不得转载。