演员吴越近日遭遇了一场她本人毫不知情的“直播带货”。

一个名为“花姐美肤日记”的账号,用AI换脸技术将吴越的面孔植入带货视频,推销一款护肤产品。视频中“吴越”面部表情自然,口型与配音基本吻合,普通观众很难在第一时间分辨真伪。视频角落有一行小字标注“含AI生成内容”,字号极小,不仔细看几乎注意不到。

10月18日凌晨3时许,吴越发文:一觉醒来,谁在利用AI肆意抓人替自己作恶?这位“花姐”你骗了多少人的钱?请如数奉还!太恶劣!!!

打开网易新闻 查看精彩图片

吴越发文称,自己发现后多次向平台投诉,却遭遇“投诉失败”“步骤太多”的困境,而造假者“有时间和精力”反复发布。她最担心的是“粉丝真信、真有人下单”。

公开报道显示,该账号所涉单品近30天售出超7000单、销售额约50万元。事件发酵后,涉事账号被平台永久封禁、内容清空。但封禁之后,账号背后的运营主体是谁、商品销售方是否被追溯、是否启动行政调查或刑事移送,目前没有平台或监管部门披露。

湖南天地人律师事务所民商委员会副主任喻皓表示,现行法律保护肖像权、声音权,但没有专门法条设立公众人物专属快速核验通道。仅靠平台自律、行业承诺力度不足,需要监管出台强制性要求,搭建权利人简易投诉核验通道,降低维权门槛。

事实上,自AI大模型迅猛发展后,吴越被盗脸并非孤例。央视主持人李梓萌的形象曾被AI伪造用于推销“深海多烯鱼油”,该产品实际执行标准为糖果,北京市海淀区市场监管局依据广告法作出行政处罚,成为北京首例AI虚假广告案。另一位女明星温峥嵘此前曾发现“同一时段现身多个直播间”,本人进入直播间质问竟被秒拉黑。

体育明星全红婵、孙颖莎、王楚钦的声音被克隆用于推销土鸡蛋,邓亚萍的面孔也曾被账号冒用。此外,名人如张文宏被AI合成形象推销蛋白棒,商品橱窗售出1266件,他本人多次投诉却“屡禁不绝”,形容这类信息“像蝗灾一样”;在企业家中,雷军被AI仿冒带货,报道称单场销售额达500万元。

AI换脸带货对公众人物权益的损害,不同于传统肖像侵权。它不只是“未经许可使用了一张脸”,而是用一张脸制造了一个完整的虚假交易场景:面孔是名人的,声音可能是克隆的,推荐话术是伪造的,消费者基于对名人的信任下单,名人本人却从未授权、从不知情。吴越所说的“最怕粉丝真信”,指向的正是这种损害的核心,被透支的不只是肖像,还有长期积累的公众信任。

然而,当名人试图维权时,面对的却是一条效率极不对称的路径。上海交大数据法律研究中心执行主任何渊指出,现行法并非没有依据。民法典第1195条规定,权利人提供初步侵权证据和真实身份信息后,平台应及时采取删除、屏蔽、断链等必要措施;《互联网信息服务深度合成管理规定》也要求平台设置便捷的投诉入口、公布处理流程和反馈时限。问题在于,现行法没有专门规定“公众人物绿色通道”,投诉流程的设计并未充分考虑权利人与黑灰产之间的效率差距。造假者可以批量注册账号、批量生成内容、批量更换马甲,而权利人每一次投诉都需要重新提交身份证明、侵权链接、初步证据,等待平台逐条审核。吴越遭遇的“投诉失败”“步骤太多”,正是这种不对称的典型表现。

从公开案例的处置结果看,平台封禁账号是目前最常见的处理方式。舆论发酵后第一时间的处理几乎都是“账号被封禁、内容被清空”。封禁当然必要,但远远不够。

网络安全正高级工程师袁博给出建议,对人脸信息滥用的治理不能仅停留在平台“封号”层面,而应构建全链条联合监管与技术防控体系。“卡死AI工具源头审核。”他进一步提出,要求AI生成工具(尤其是数字人、声音克隆功能)运营方严格落实“先审核,再生成”,对用户输入的素材进行授权核验,未取得合法授权不得根据自然人的照片、视频生成任何自然人的数字人形象,从生产端切断非法供给,将有效减少这种侵权行为。

记者:孟倩

(616676485@qq.com)

编辑:闵杰