前言
刘欢走了还不到半个月，网上就凭空冒出了一群“家属”。
2026年9月25日，这位唱了半辈子歌的音乐人因病在上海去世，享年63岁。
消息传出来那天，多少人心里堵得慌。
可谁也没想到，有人比他家里人还“着急”，连悲伤的时间都不愿意给。
“遗孀”坐在了镜头前
刘欢去世后没几天，短视频平台上就冒出一批账号，镜头前是一个红着眼圈的女人，自称是刘欢的妻子卢璐。
她声音发颤，慢悠悠讲着老刘临走前的生活细节，画面穿插着刘欢早年的舞台片段，配着伤感的音乐，没几句话就能把人的情绪拽进去。
没等大家缓过神，她话锋一转，带出一款“黄精五黑粉”，说这是老刘生前一直喝的保养品。
视频下方直接挂着购物链接，点进去就能下单。
刚开始真有不少人信了。
评论区全是安慰的留言，有人劝她节哀，有人说支持刘老师家属，还有不少人直接下了单，觉得也算送刘老师最后一程。
直到有懂视频制作的网友看出了破绽：画面里的人说话时嘴型和声音总对不上，脸上表情也僵硬得很，哭的时候五官动得极不自然。
后来央视网跟进调查，直接实锤——这条视频里的人脸和声音，全是AI合成的，跟真正的卢璐没有一点关系。
其实卢璐本人早就通过朋友圈辟过谣。
她说网上关于老刘的临终传闻、后事图片全是造谣，自己和老刘除了朋友圈，根本没有任何社交媒体账号。
一个刚刚失去丈夫的人，连悲伤的时间都没有，就得先站出来替丈夫挡谣言。
更让人意外的是，同款剧本不止一个账号在做。
同一个平台上，还有一大批自称“刘欢儿子”的账号，用着几乎一模一样的台词，卖的也是同一款五黑粉。
顺着产品链接找过去，店铺负责人说，根本不知道有人冒充刘欢儿子带自家的货，都是博主自己挂的链接，“他们怎么说，我们也管不了，这得平台管”。
再去问平台客服，得到的回复是：必须由权利人或者家属亲自举报，平台才能处理。
两边来回推责，反倒凑成了一个完整的责任闭环，谁都不用担责。
家属连社交账号都没有，要一个刚失去丈夫的人去跟几十个假账号死磕，这种要求本身就说不过去。
信息来源：红星新闻
一条视频的成本，还不够吃顿外卖
你以为这只是个别商家蹭热度的小操作？
顺着AI造假带货这条线往下捋，你会发现这早就不是偶然事件了。
演员温峥嵘这两年被AI坑得不轻。
她本来就是个低调的人，除了工作宣传很少露面。
结果突然之间，她“占领”了好几十个直播间。
不同的账号，不同的背景，甚至不同的衣服，可那张脸清清楚楚就是温峥嵘。
她卖过面膜，卖过保健品，还卖过各种居家日用品。
有粉丝一天之内刷到了四个不同的“温峥嵘”，卖着四种完全不一样的产品，当场就懵了。
温峥嵘自己有一次半夜刷手机，看到“自己”在直播，进去质问了一句“你是温峥嵘我是谁”，下一秒就被拉黑了。
她后来在采访里说了一句话，听着特别不是滋味：“我现在就很难证明我是我。”
早在2025年4月，温峥嵘就发视频打过假，明确说自己只有一个账号直播。
粉丝也帮忙举报，有人一天就举报了18个伪造的直播间，可根本举报不过来。
这边刚删掉几个，那边换个头像改个名字就又能重新开播。
耗了几个月实在没办法，2025年11月底，温峥嵘团队带着完整的证据去报了警，警方审查后认为有犯罪嫌疑，已经正式刑事立案。
跟温峥嵘有同样遭遇的，还有央视主持人李梓萌。
信息来源：广州普法
她主持新闻节目多年，形象端庄专业，在观众心里可信度很高。
有人就盯上了这份信任，用AI把她的形象合成到鱼油广告里，说这款深海多烯鱼油适合头晕头痛、手麻脚麻、记忆力下降的人群，说得有鼻子有眼。
2025年6月，北京海淀区市场监管局查处了这起案件。
查出来的结果很讽刺：这款吹得神乎其神的鱼油，实际执行标准就是糖果，属于普通食品，根本没有任何治病的功效。
涉事公司因为虚假广告受到了行政处罚。
体育圈的明星们则是另一种玩法——盗声音。
全红婵、孙颖莎、王楚钦这些国民度很高的运动员，声音都被AI克隆过，用来给土鸡蛋带货。
有个专门做这类内容的账号，一共发了十七条视频，全是仿冒全红婵的声音卖土鸡蛋。
其中一条点赞就有一万多，链接里的鸡蛋卖出去了四万七千件。
可全红婵的家人早在2025年4月就对外说过，全红婵从来没有给任何农产品代言或者授权过。
跟过去请明星代言动辄几百万的费用比起来，现在做一条AI仿冒的视频，成本可能才几十块钱。
只要有几段公开的影像或者音频素材，就能生成以假乱真的内容，再用一堆账号批量分发，很快就能铺遍整个平台。
不管你是演戏的、主持的还是打球的，只要有知名度、有路人缘，就可能被人扒下来当免费的招牌。
信息来源：绍兴网
“不告不理”四个字，把家属架在火上烤
央视网在评论里点了平台的名，措辞相当直接：平台审核松紧，不是能力问题，而是选择问题。
这话说得很到位。
平台在面对涉政涉恐等强监管内容时，依靠人脸识别、语义识别、风险预警技术能做到精准拦截。
可换成仿冒名人带货这类灰色内容，多数平台就变得“不敏感”了，采取“不告则不理”的消极态度。
为什么会这样？逻辑并不复杂。
越煽情的内容播放量越高，算法就越倾向于加大推荐。
一条AI假视频从发布到挂载商品链接再到完成交易，要经过平台好几道关口，却能一路畅通。
每成交一单，平台就能分到佣金。
而被举报下架的概率相对较低，违规成本远低于收益。
平台客服那句“需由权利人或其家人进行举报”，看似合规，实际上是把审核责任转嫁给了最没有精力维权的一方。
逝者家属本就深陷悲痛，还要承担发现侵权、固定证据、提交材料的成本，这本身就是不合理的。
更何况，等家属发现并举报的时候，侵权账号的流量和销售额可能早已落袋为安。
有人说，那你去报警啊，去找监管部门啊。
说得轻巧。
以前明星打假，还能找到具体的公司、具体的对接人。
现在倒好，账号随时能换，内容全是AI生成的，你都不知道屏幕背后操作的人是谁。
好不容易找到一个，人家说“我们管不了”，再找一个，人家说“你得先举报”。
举报完了，号没了，钱早赚够了，换个马甲重来就是。
河南泽槿律师事务所的付建律师说得很清楚：这种冒充名人家属带货的行为涉嫌多重违法。
骗到的钱数达到一定标准就构成诈骗，消费者还可以主张退一赔三。
法律条文摆在那里，侵权事实也清清楚楚，可为什么这类内容还能批量生产、反复冒头？
问题的根子不在法律本身，而在法律和现实之间的那段空白地带。
信息来源：新京报
镰刀已经伸到了普通人头上
你可能会说，这都是名人的事，跟我们普通人没关系。
可实际上，AI造假的镰刀早就越过明星圈子，落到了普通人头上。
网络安全专家早就提醒过，AI克隆声音技术现在最大的隐患，就是被诈骗分子利用。
一旦和AI换脸技术结合，就能生成高度逼真的“数字人”实施诈骗，普通人很难分辨真假。
最常见的就是冒充亲友借钱的套路。
骗子只需要一段你身边人的公开语音或者视频片段，就能克隆出一模一样的声音和脸，打视频电话过来，说自己遇上急事需要用钱。
很多人看着画面里是熟悉的脸，听着熟悉的声音，根本不会多想，当场就把钱转了过去。
尤其是针对老年人的骗局更多。
老人对AI技术不了解，又心疼晚辈，一听见孩子带着哭腔求助，很容易就慌了神，顺着骗子的指引转账。
骗子瞄准的恰恰就是他们那份朴素的信任。
所以凡是涉及转账、借钱的视频通话，别着急做决定。
挂了之后再打个电话或者发条语音核实一遍身份，不要只凭画面就下定论。
平时也别随便在公开平台发自己和家人的高清正脸视频、详细的生活细节，减少被AI采集素材的可能。
规则有了，但拳头还不够硬
其实国家层面早就有了对应的规范。
《人工智能生成合成内容标识办法》从2025年9月1日起开始施行，要求所有AI生成的文字、图片、视频，都必须明确标注来源。
中央网信办也部署开展了“清朗·整治AI应用乱象”专项行动，聚焦利用AI技术假冒仿冒他人、制作发布虚假信息等突出问题。
可光有标识还远远不够。
刘欢那个假视频角落里确实有一行小字标注“内容由AI生成”，但说实话，大部分人刷视频的时候根本不会注意到这行字。
情绪一上来，手指一点就下单了。
平台不能总抱着“不举报就不处理”的心态，不能总把避风港原则当挡箭牌。
比起等受害者找上门来再删视频，主动排查、提前拦截，才能从根源上减少这类乱象。
平台拥有内容审核和AI识别技术，也掌握着算法推荐的分发权力，理应承担起事前防范和主动巡查的主体责任。
针对已故公众人物，完全可以建立专项风控词库，对冒用名人家属身份、拼接逝者影像的AI视频进行前置识别。
不能只靠一行容易被忽略的小字来免责。
技术本身从来不是问题。
它能降低创作的门槛，能帮普通人实现很多以前做不到的事。
真正出问题的，是拿着技术钻空子、赚黑心钱的人。
结语
当造假的成本低到可以忽略不计，当审核的门槛形同虚设，最后被消耗掉的，是整个社会的善意和人与人之间的信任。
监管要把规则落得更实，平台要把责任担得更稳，我们自己也得多个心眼。
别让我们的同情心和信任感，最后变成了骗子口袋里实实在在的收益。
热门跟贴