下周日起，在欧洲上线的聊天机器人不能再装人了。据IT之家7月26日报道，欧盟《人工智能法案》第50条将于8月2日正式适用：AI在和人对话时必须表明自己不是真人，AI生成的图片、音频、视频和文字都要带上机器可读的标记，违规企业最高面临1500万欧元或全球营业额3%的罚款。
这套规则的核心是两层标签。一层给人看：对话界面明确提示对面是AI；一层给机器看：在文件里嵌入水印和元数据，肉眼看不见，但平台和检测工具读得出来。为什么要藏一层？因为看得见的提示很容易被裁掉，而藏在文件里的标记会跟着内容走。规则也留了口子：改错别字的工具不用标，一眼就知道是虚构的画面不算深度伪造。
其实，这套思路并不新鲜。网信办等四部门发布的《人工智能生成合成内容标识办法》去年9月1日已经施行，同样是显式标识加隐式标识的双轨设计，还配了一部同日实施的强制性国家标准。央视当时的概括是，所有AI生成内容都要亮明身份。也就是说，欧盟8月2日要开始做的事，国内已经跑了将近11个月：现在你在主流App发一张AI图，系统会要求勾选声明，平台还会给疑似AI内容自动补上提示。
两大市场先后把同一件事写进规则，说明AI内容必须可识别，正在从行业倡议变成全球互联网的默认配置。对普通人最实际的变化是：判断一张图、一段录音的真假，第一步可以从凭感觉猜，变成先查有没有标签、来源信息全不全。对创作者的提醒则相反：主动标注的成本几乎为零，而隐瞒AI身份一旦被平台识别，从限流到违规处理都有可能。
不过标签不是万能药，这点必须说清楚。机读水印可能被截屏、翻录、二次压缩洗掉；欧盟那三种看得见的AI生成标签，目前只是自愿使用；真正想造假的人，本来就没打算守规矩。所以标签主要拦住的是无意的混淆，恶意伪造仍要靠检测技术和事后追责。另外，8月2日前已上线的老系统还有4个月缓冲期，年底之前，欧洲用户看到的AI内容也未必都带标。
热门跟贴