热搜上来来回回,骂声挺多,但骂完之后我更在意一件不太起眼的事:普通消费者对屏幕里那张"脸",还能默认相信多久。这件事的关键词是信任成本,跟技术本身关系反而没那么大。

打开网易新闻 查看精彩图片

先说一下发生了什么。演员吴越在社交平台公开表示,自己过往的画面被某些直播团队在未经授权的情况下,通过深度合成技术嫁接到带货视频里,用她的形象和语气向观众推荐商品,具体卖什么她本人并不清楚,也可能对消费者构成误导。这条消息发酵很快,平台方在舆论压力下下架了一批相关直播间,涉事账号也做了处理。到目前为止,行业还在等一份更清晰的处置结果。

先把技术这一层拆干净。深度合成本身是中性工具,影视后期在做角色回春、无障碍内容在用声音克隆、教育演示也会借用历史影像,问题出在"未经授权"和"诱导消费"这两点上。工具没有意愿,背后的人有。把矛盾一股脑归结到"AI就是坏的",讨论就只能停在情绪层面,具体漏洞一个也堵不上。

真正的难点分布在三个环节。识别这一头,直播间画面流动、声音实时合成,观众在几十秒内很难做出判断,肉眼越来越吃力,靠平台算法事后回捞也永远慢一拍。追责这一头,跨境服务器、多层转包、临时账号,等受害方取证到律师函走到对方那里,主体可能已经换了三茬马甲。平台治理这一头,事后下架的成本太高,事前审核跟内容标识机制的缺失,才是同类事件反复出现的原因。三块拼图缺一块都拼不出完整答案。

打开网易新闻 查看精彩图片

再往消费者这一头推一推。直播带货的转化逻辑,很大一块建立在"熟人感"上,观众觉得屏幕那头在真心推荐,信任才有溢价,客单价才抬得上去。一旦"这张脸可信"的默认值被动摇,整个行业的沟通效率都会往下走,正规主播也要花更多力气自证清白。对普通家庭来说,最直接的变化是刷到一个"熟悉面孔"卖东西时,脑子里要多转一个弯——画面是真人吗、话术是被合成的吗、商品是不是她真的用过。多出来的这一层怀疑,成本最终由所有人分摊。

眼下能推进的几步其实有共识。第一条,AI生成内容在直播画面里长期挂显式角标,参照广告法的广告标识做法做,让观众知道自己在看"合成"。第二条,平台对涉及公众人物的合成内容做前置审核,走白名单和授权核验机制,别只靠事后投诉。第三条,消费者遇到疑似伪造带货能通过统一入口快速举报,让处置时效跟得上直播节奏。这几条提了不是一天两天,落到执行细则、跨平台协同和罚则力度上,还需要更硬的推进。

普通人层面,几个笨办法眼下仍然管用:明显低于常识价格的先警惕一下、看到"名人脸+夸张话术"心里自动打个折、涉及药品、理财、儿童食品这类高风险品类一律去官方渠道再核实一次。这些方法谈不上聪明,但在治理机制跑顺之前,能省下一些不必要的麻烦。理性看待、不贪便宜,是当下最朴素的自保方式。

打开网易新闻 查看精彩图片

这次热搜的价值不该只是一次"打假爽文",更值得被留下来的,是把"信任如何被工业化生产、又如何在几秒钟内被消耗"这个问题摆到台面上。技术继续迭代是必然的,规则能不能跟上、能不能让守规则的人不吃亏,才是接下来几年真正在较劲的东西。