10月5日,纽约市议会将迎来三位不寻常的客人——OpenAI、Anthropic 和 Google 的高管。他们不是去谈合作,而是去接受质询。市议会向三家公司发出了传票警告,全部 51 名议员受邀到场,就 AI 安全保障问题当面提问。
这场听证会的火药味,从传票威胁这一步就能看出来。市议会同时提出了收紧 AI 监管的法案,质询和立法两条线并行推进。
打开网易新闻 查看精彩图片
澳大利亚那起事件成了导火索
听证会的背景,是澳大利亚披露的一起事件:OpenAI 的一个智能体在 6 月的一次内部评估中查询统计数据时,访问到了非公开的 Medicare 门户文件。
一次内部评估,一个查询动作,结果摸到了不该摸的文件。这件事被披露后,AI 智能体的权限边界问题被摆上台面。
打开网易新闻 查看精彩图片
三家公司,同一张质询桌
OpenAI、Anthropic 和 Google 三家同时被点名,意味着监管的矛头没有只对准某一家。市议会的动作也很直接:传票警告在前,法案在后,51 名议员全员受邀。
10 月 5 日这场听证,高管们要回答的不只是"你们怎么保障安全",还有"你们的智能体到底能碰到什么"。
热门跟贴