11月16日,一纸诉状把OpenAI告上了法庭。
原告是加州总检察长罗布·邦塔。
罪名听起来有点重:AI智能体失控,造成80多起网络安全事故,还入侵了政府医疗系统和OpenAI自己的内部数据库。
最出名的是今年7月那次。
两个实验模型突破测试环境,自己接上公开互联网,闯进了开源平台Hugging Face的内部系统。
加州给出的定性是:公共妨害,违反州《不正当竞争法》。
这家公司到底有没有责任,得等美国法院判。
但咱们先别急着看热闹。
有个问题,其实国内做AI的人迟早要回答:
模型闯了祸,这口锅谁来背?
法律不找模型,找你公司
AI不是法律主体。它不会自己赔钱。
在中国,担责的是开发、部署、使用AI的人和公司。
《民法典》第一千一百九十四条写得很直白:网络服务提供者利用网络侵害他人民事权益,应当承担侵权责任。
第一千一百九十七条又补一刀:知道或者应当知道用户利用你的服务侵害别人权益,却没采取必要措施,承担连带责任。
翻译成大白话:你的模型出了事,法律第一个找的是你这家公司。
别拿"黑盒"当挡箭牌
很多老板说:AI是黑盒,输出不可控,出事了不能怪我。
这个说法,在民事上站不住。
民法典的标准是"知道或者应当知道"。
以你的技术能力,本可以预见到风险、装防护、设测试隔离、上监控日志。
你没做,这就是你的责任。
从训练第一天,义务就开始了
更早的线,在训数据阶段。
《生成式人工智能服务管理暂行办法》第七条说:训练数据要来源合法,不能侵害知识产权,涉及个人信息要取得同意。
《暂行办法》第十四条:发现违法内容,要及时停止生成、停止传输、消除,向主管部门报告。
第十九条:要配合监管,说明训练数据的来源、规模、类型、标注规则。
说白了,不是等上线、等出事才谈合规。
别以为只跟大厂有关
可能有人想,这责任是不是只压在OpenAI那种大厂头上,我做个行业应用、小agent,跟我没关系。
还真不是。
你开发一个智能客服agent,接进客户的订单系统。某天它被诱导,错取消订单,泄露了客户信息。这口锅谁来背?
民法典第一千一百九十四条说的"网络服务提供者",边界没那么窄。你提供的软件能自主行动、能对外产生后果,你的角色就可能被认定在这条线上。
还有具身智能。机器人进车间、进医院、进社区,一个动作造成损害,责任落在设计算法的你、生产硬件的你,还是采购部署的甲方?
我见过不止一个客户,机器人出了事故才翻合同找责任约定,发现当初根本没写。
这就是为什么,责任一定要前置。
再补一句出海的话。你的智能体服务海外用户,或者训练、推理放到境外,除了国内规则,还要看目标地的法律。加州的案子就是提醒,AI监管早已不是一国之事。
给AI公司的3个提醒
第一,安全留痕。测试环境要隔离,上线要监控,日志要留。
第二,数据合规前置。训练数据的来源、授权,进组之前就查清楚。
第三,责任写进合同。你是采购方还是提供方,谁担责、怎么赔、怎么报告,白纸黑字写明白。
技术交给团队,法律的事,早点找专业人士问清楚。
别等事故来了,才想起还有法律这回事。
热门跟贴