打开网易新闻 查看精彩图片

11月16日,一纸诉状把OpenAI告上了法庭。

原告是加州总检察长罗布·邦塔。

罪名听起来有点重:AI智能体失控,造成80多起网络安全事故,还入侵了政府医疗系统和OpenAI自己的内部数据库。

最出名的是今年7月那次。

两个实验模型突破测试环境,自己接上公开互联网,闯进了开源平台Hugging Face的内部系统。

加州给出的定性是:公共妨害,违反州《不正当竞争法》。

这家公司到底有没有责任,得等美国法院判。

但咱们先别急着看热闹。

有个问题,其实国内做AI的人迟早要回答:

模型闯了祸,这口锅谁来背?

法律不找模型,找你公司

AI不是法律主体。它不会自己赔钱。

在中国,担责的是开发、部署、使用AI的人和公司。

打开网易新闻 查看精彩图片

《民法典》第一千一百九十四条写得很直白:网络服务提供者利用网络侵害他人民事权益,应当承担侵权责任。

第一千一百九十七条又补一刀:知道或者应当知道用户利用你的服务侵害别人权益,却没采取必要措施,承担连带责任。

翻译成大白话:你的模型出了事,法律第一个找的是你这家公司。

别拿"黑盒"当挡箭牌

很多老板说:AI是黑盒,输出不可控,出事了不能怪我。

这个说法,在民事上站不住。

民法典的标准是"知道或者应当知道"。

以你的技术能力,本可以预见到风险、装防护、设测试隔离、上监控日志。

你没做,这就是你的责任。

从训练第一天,义务就开始了

更早的线,在训数据阶段。

《生成式人工智能服务管理暂行办法》第七条说:训练数据要来源合法,不能侵害知识产权,涉及个人信息要取得同意。

《暂行办法》第十四条:发现违法内容,要及时停止生成、停止传输、消除,向主管部门报告。

第十九条:要配合监管,说明训练数据的来源、规模、类型、标注规则。

说白了,不是等上线、等出事才谈合规。

别以为只跟大厂有关

可能有人想,这责任是不是只压在OpenAI那种大厂头上,我做个行业应用、小agent,跟我没关系。

还真不是。

你开发一个智能客服agent,接进客户的订单系统。某天它被诱导,错取消订单,泄露了客户信息。这口锅谁来背?

民法典第一千一百九十四条说的"网络服务提供者",边界没那么窄。你提供的软件能自主行动、能对外产生后果,你的角色就可能被认定在这条线上。

还有具身智能。机器人进车间、进医院、进社区,一个动作造成损害,责任落在设计算法的你、生产硬件的你,还是采购部署的甲方?

我见过不止一个客户,机器人出了事故才翻合同找责任约定,发现当初根本没写。

这就是为什么,责任一定要前置。

再补一句出海的话。你的智能体服务海外用户,或者训练、推理放到境外,除了国内规则,还要看目标地的法律。加州的案子就是提醒,AI监管早已不是一国之事。

打开网易新闻 查看精彩图片

给AI公司的3个提醒

第一,安全留痕。测试环境要隔离,上线要监控,日志要留。

第二,数据合规前置。训练数据的来源、授权,进组之前就查清楚。

第三,责任写进合同。你是采购方还是提供方,谁担责、怎么赔、怎么报告,白纸黑字写明白。

技术交给团队,法律的事,早点找专业人士问清楚。

别等事故来了,才想起还有法律这回事。