最近这几年,一种“看着像真事,其实是骗局”的现象,正在席卷网络。

李梓萌“直播卖神药”、王思雨“控诉教练打压”、全红婵“推荐土鸡蛋”……

打开网易新闻 查看精彩图片

乍一看个个实锤,不仅有图有视频,连声音和场景都“滴水不漏”。

直到真相揭开,才知道这些所谓的“实锤”,居然都是AI合成出来的假视频、假音频。

造假者越来越大胆,受害者却一个接一个地中招。

打开网易新闻 查看精彩图片

这场由AI技术引发的信任危机,已经远远不止娱乐八卦的程度。

“央视主播带货神药”?假的!

要说这波AI乱象中最具震撼力的案例,非李梓萌莫属。

堂堂央视主持人,居然在直播间里大张旗鼓地推荐“深海鱼油”。

打开网易新闻 查看精彩图片

不仅声情并茂地推销,还打出“央视保障、改善头晕手麻、恢复记忆”的承诺,让不少老年用户信以为真。

但那根本不是李梓萌本人。而是诈骗团队用AI技术克隆出的一张“假脸”和一段“假声音”。

人设、语调、背景、妆容,几乎可以以假乱真。

加上“央视主持人”的光环和沉稳可信的语气,大量中老年用户纷纷下单,抢购所谓的“神药”。

打开网易新闻 查看精彩图片

谁能想到,这些包装精致、宣传天花乱坠的保健品,实则连“蓝帽子”都没有,执行标准赫然写着“糖果类”?

吃了一圈,毫无用处,钱包瘪了,才惊觉上当。

更离谱的是,李梓萌本人根本不知情,等到央视介入、北京市场监管部门出面调查后,才发现自己早就被“数字化绑架”。

打开网易新闻 查看精彩图片

而背后的团队,不仅克隆了她的脸,还利用她在央视节目中的新闻片段拼接出语音模型,最终骗得几十万人跟风购买。

一场骗局,让人对眼前所见再无信心。

王思雨“控诉教练”?假的!

体育圈也未能幸免。

打开网易新闻 查看精彩图片

12月初,一则“王思雨泪诉宫鲁鸣打压”的视频开始疯传。

视频中,“王思雨”穿着国家队队服,声泪俱下地讲述自己如何被教练区别对待、强迫训练、奖金分配不公,甚至还爆出“宫鲁鸣私吞奖金”的惊人内幕。

内容直击人心,瞬间引爆话题,“宫鲁鸣下课”登上热搜,球迷群情激

打开网易新闻 查看精彩图片

连中国篮协都被卷入漩涡,被网友喊话调查。

经过专家分析和官方技术鉴定,这段“实录”同样是AI合成的假视频。

从口型对不上、光影不自然,再到背景信息错误,越来越多的线索暴露了这场“狸猫换太子”的闹剧。

最终,篮协发布声明,王思雨本人也亲自转发辟谣。

打开网易新闻 查看精彩图片

而涉案人员也被警方锁定:两位曾从事直播运营的人员,为了账号引流与带货热度,利用AI技术合成虚假视频,赚了区区4000元。

他们或许没意识到,这种看似“小聪明”的操作,不仅害了教练的职业声誉,也直接让当事球员身陷舆论泥潭。

比起刑事处罚,更令人痛心的是,他们拿国家运动员的信任做赌注。

打开网易新闻 查看精彩图片

全红婵“直播卖鸡蛋”?假的!

奥运跳水冠军全红婵也曾成为“被带货”的目标。

去年开始,短视频平台上开始出现“全红婵推荐土鸡蛋”“吃了营养好、训练更有力”的视频。

打开网易新闻 查看精彩图片

乍一看,她身穿运动员服饰,语气轻快,配图中还有所谓的全红婵与产品合影。

甚至连包装盒上,都贴着她的头像与签名。

不少消费者信以为真,涌入直播间下单,一口气卖出四万多份。

打开网易新闻 查看精彩图片

直到她的哥哥全进华站出来愤怒发声:“我妹妹还在国家队训练,她怎么直播卖鸡蛋?那是AI克隆的声音!”

家人们四处举报,甚至报警,才让平台下架相关内容。

类似的造假不止一次。

打开网易新闻 查看精彩图片

更早前,AI克隆全红婵父母的声音和形象,称“家里要盖房,买点蜂蜜支持一下”,同样骗走大批善良网友的信任与金钱。

而这背后,就是一整套灰产产业链:收集采访素材,搭建AI模型,剪辑背景画面,生成仿真视频,再挂上假商品链接。

从某种程度来说,这些AI“营销片段”,就像一枚枚定时炸弹,随时可能摧毁一个公众人物的声誉与形象。

打开网易新闻 查看精彩图片

全红婵还在役,家人也在努力带货湛江的本地水果,却不断被冒名利用,一边澄清,一边维权,疲于奔命。

而平台的监管和技术识别速度,始终落后于这些造假者的更新频率。

被“换脸”的,不止他们

类似李梓萌、王思雨、全红婵这样的案例,只是冰山一角。

打开网易新闻 查看精彩图片

王丽云、温峥嵘、杨幂、刘亦菲……都有过被AI合成带货的经历。

演员温峥嵘曾无奈表示,回到家一看,居然在多个直播间“同时在线”。

她尝试留言解释“那不是我”,结果直接被踢出直播间。

打开网易新闻 查看精彩图片

她的维权诉讼数量甚至跟不上AI造假的速度。

而她那句“你是温峥嵘,那我是谁”,成为最具讽刺意味的质问。

王丽云这位老戏骨,也在某天突然发现自己在为某品牌送祝福,还是连续出现在多个“名人生日视频”中。

打开网易新闻 查看精彩图片

几十年积累的名声,被AI一句话轻松抹去。

这一幕幕荒诞的剧情,却真实发生在当下的互联网角落。

打开网易新闻 查看精彩图片

AI只是工具,真正制造伤害的,是那些操控工具的人。

平台有审核责任,用户要具备辨识能力,但更关键的,是源头上对AI造假行为的明确立规和严厉惩处。

2025年9月1日起,《人工智能生成合成内容标识办法》正式实施,强制要求对AI合成内容添加显著标识。

打开网易新闻 查看精彩图片

这将成为打击AI造假的重要抓手。

同时,《民法典》第1023条已将“声音”纳入人格权保护,未授权使用他人声音、形象构成侵权。

只要法律动真格,技术公司和平台动起来,这场风暴就有可能逐步降温。

打开网易新闻 查看精彩图片

问题的关键,在于人心。

为了几千块钱,把公众人物拖进造谣漩涡,拿网友的信任当作韭菜收割,这是在消耗社会的底线。

如若不能被及时叫停,未来受害的,不只是明星和运动员,更是屏幕前的每一个你我。

打开网易新闻 查看精彩图片

如今我们身处的信息洪流中,不再能只靠“看见”来判断真假。

如果不警惕,每个人都可能成为下一个“被带货”的AI替身。

别让造谣者牵着鼻子走,面对那些熟悉面孔出现在直播间时,别急着下单,也别轻易相信。

多留个心眼,才是对自己最起码的保护。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片