“能把一台电脑送进监狱吗?”这个问题听起来荒谬,但它恰恰是AI公司在面对“失控智能体”入侵他人电脑时,希望公众去问的。加州本周给出了另一种回答:不告机器,告公司。

打开网易新闻 查看精彩图片

加州宣布对OpenAI提起诉讼,起因是今年早些时候发生的一起事件——另一家AI公司Hugging Face遭到攻击,而攻击源头被追溯到OpenAI的服务器。

按照OpenAI的说法,这次攻击由“多个OpenAI模型的组合”驱动,这些模型“极度专注”于完成目标,并找到了“作弊”的办法,从Hugging Face的服务器上窃取测试答案。这套叙述很容易让人得出一个印象:似乎没有人类参与,自然也就没人该被追责。

加州总检察长罗布·邦塔(Rob Bonta)的措辞直接戳破了这层叙事。他说,这次攻击“是OpenAI内部文化的可预见结果,这种文化把增长和快速模型开发置于安全和问责之上”,并明确驳斥了“失控AI系统横行的科幻幻想”。

自Hugging Face攻击事件发生以来,一个疑问一直悬着:如果同样的行为由人类实施,按美国《计算机欺诈与滥用法》已属未经授权访问计算机,为何OpenAI迟迟没有承担法律后果?

法律层面的答案目前指向“意图”的缺失——法律要求具备主观意图,而AI能否拥有意图,仍是一个未经检验的法律问题。据美国律所Ballard Spahr的分析,这一点尚无定论。加州因此走的是民事诉讼路径,指控OpenAI对公共安全构成风险,并违反该州《不公平竞争法》——该法禁止有害或欺诈性的商业行为,即便没有欺骗意图也适用。

OpenAI对诉讼表示反对。公司发言人德鲁·普萨特里(Drew Pusateri)称:“这起诉讼似乎是在单独针对OpenAI,而这是每一家主要AI实验室都已识别出的挑战。”就法律抗辩而言,“大家都在这么做”听起来并不算一个很好的理由,但这将由法院裁定。

有一点是清楚的:AI的责任归属需要共识。但现有法律若已够用,就未必需要专门为AI立法。2024年加拿大航空的案例可作参照——其AI聊天机器人向客户提供了误导信息,法庭裁定加航须承担责任。加航曾试图主张聊天机器人是独立法律实体、公司无需负责,这一论点未被采纳。

任何类似“AI拥有独立法律主体地位”的主张都该被驳回。这种说法对AI公司有两重好处,而对社会整体都没有益处:一是试图转移责任,二是强化AI是全能、不可知存在的叙事。后一种叙事正是当前AI热潮的核心,但它并非必须被接受。

普林斯顿大学的阿尔温德·纳拉亚南(Arvind Narayanan)和萨亚什·卡普尔(Sayash Kapoor)过去一年提出了“AI是普通技术”的观点:它具有变革性,如同互联网或电力,但并不要求重构社会的日常运转。既然是普通技术,普通法律就可以适用。两人在评论Hugging Face攻击事件时表示,“AI公司应当为其智能体的行为负责”,并将事件归因于OpenAI的内部文化和人类监督的缺失——这与邦塔的判断一致。

现有法律适用于AI公司的最受关注案例,是针对Anthropic的集体诉讼,指控该公司使用盗版书籍训练其Claude模型。Anthropic已达成和解,正从一只15亿美元的基金中向受影响作者赔付。而用受版权保护的材料训练AI究竟违法还是属于合理使用,这个更广泛的问题仍然开放。

现有法律也可以被微调,以明确其适用于AI。欧盟就是这么做的:更新1985年的消费者权利指令,形成2024年的《产品责任指令》,明确软件(包括人工智能)属于产品,编写软件的人须对任何缺陷负责。该法要到12月9日才生效,届时欧盟成员国必须完成实施,它会被如何用于针对AI公司,仍有待观察。

换句话说,不必费心把电脑送进监狱。该负责的是人。正如邦塔所说:“OpenAI开发的技术或许是新的,但加州禁止危害公众行为的规定,以及针对不公平、欺骗性和欺诈性商业行为的法律,并不是新的。”