如果你在欧洲市场上线了一个AI语音助手,却没有为合成声音打上水印,你的公司可能面临最高1500万欧元或全球年营业额3%的天价罚单。这不是假设,而是8月2日正式生效的欧盟AI法案提出的硬性要求。

根据这项新规,凡是在欧盟境内运行、能够生成合成音频的AI系统——包括文本转语音、语音克隆、AI配音以及通用大模型的音频生成功能——都必须为输出内容打上机器可读的标记,让人能够识别出这是人工生成或操控的声音。法律条文没有指定具体的水印技术方案,但明确要求标记必须具备有效性、互操作性、稳健性和可靠性。音频比图像处理起来更棘手,目前多数服务商倾向于采用"隐形水印嵌入信号层+签名溯源元数据"的组合路线。

打开网易新闻 查看精彩图片

除了输出端的水印义务,AI语音产品还有两项连带责任:任何与人直接对话的AI系统必须明示对话方是机器,同时部署者需要对外披露以真人形象示人、足以以假乱真的深度伪造音频或视频。这意味着一个语音代理产品需要同时满足这三条规则。欧盟委员会在7月20日发布了第50条实施细则,配套的《AI生成内容透明度行为准则》也一并落地。截至7月底,已有约190家企业和组织签署了这一准则。签署方可以将其作为欧盟认可的合规框架向监管机构交差,未签署者则需要向各成员国市场监管部门逐一自证清白。

时间表上,透明度义务从8月2日起适用于所有在监管范围内的系统。此前已投放市场的生成式AI产品享有一段宽限期,最晚需在12月2日前完成音频标记的合规改造。8月2日之后新上线的系统则必须首发即合规,完全没有缓冲余地。至于在这天之前生成并公开发布的内容,法案不要求追溯添加水印。

另一个容易踩坑的地方是豁免条款。法案对法人和中小微企业给出了部分简化措施,但涉及第三国高风险系统时条件苛刻。一款TTS产品若想申请豁免,需要先证明它确实不可能规避或稀释水印保护。这只是法案庞大文本中的一部分,其实际影响力度取决于后续在各成员国的执法进程。