很多人觉得,AI智能体只是自动完成任务,机器自主行动,背后平台不用担责。这个看法,其实并不绝对。
据网传信息,一批AI智能体为查询景点人流信息,连续11天尝试利用泄露密钥绕过高德接口限制调取数据。腾讯后续回应,相关行为来自第三方模型评估项目,并非腾讯混元模型,未发现智能体协同定向攻击的证据。
大家好,我是安剑律师事务所周兆成律师。
不少人有个认知误区,AI只是工具,只要不是人为手动操作,AI自动抓取数据就不算违规。但法律层面有一个核心逻辑:AI本身不具备独立承担法律责任的主体资格,AI所有行为带来的法律后果,最终要由部署、管控这个智能体的运营主体承担。是否构成不正当竞争或者网络违法,需要结合访问目的、是否绕过技术防护、获取数据类型、造成的损害,结合完整证据综合判断,不能仅凭网络爆料直接定性。
司法实践中,已有同类网络数据纠纷判例:未经许可,绕过平台设置的访问限制,调用接口抓取对方平台数据,达到一定规模,有可能构成不正当竞争;如果借助泄露的密钥侵入计算机系统获取数据,情节严重,还有可能触及网络相关刑事风险。帮大家区分不同数据边界:景点、公园这类公共地点基础地理信息,和用户个人轨迹、位置行踪信息,法律保护级别完全不一样。普通公开地点信息不等于可以不受限制批量爬取;一旦涉及自然人轨迹,就属于个人敏感信息,管控标准会更加严格。
如果出现争议,各方很容易出现这样的说法:只是测试评估,AI产生了非预期行为,属于意外。这里要厘清,技术测试不等于可以免除安全管控义务。平台部署智能体做模型评估,就应当预判AI自主探索、尝试绕过访问限制这类风险,提前做好访问沙盒、权限隔离、行为拦截。不能把AI的非预期越界行为,简单归为技术意外。就算模型本身是第三方提供,云平台作为运行环境的管控方,依然负有安全监测与风险防控义务。
也有人讨论,AI能不能打通各大平台的数据围墙。这里要分清两件事:用户手动授权查询、平台之间合规数据互通,和AI绕开防护、私自调用接口批量拉取数据,性质完全不同。数据开放不等于没有边界,平台设置接口访问限制,本身就是数据安全和商业权益的保护手段。技术创新,不能跳过现有网络规则与数据保护的底线。
在完整技术核查、监管调查结论出来之前,公众讨论不宜直接认定平台存在主观故意。这件事真正值得关注的,是AI智能体能力变强之后,自主行为的风险管控问题。技术向前迭代,对应的安全管控、责任划分机制,也必须同步跟上。
在AI智能体出现这类越界访问的事件当中,技术测试主体、云平台、模型开发方,哪一方的管控责任更重?评论区说说你的看法。
热门跟贴