在阅读此文之前,辛苦您点击一下“关注”,既方便您进行讨论和分享,又能给您带不一样的参与感,感谢您的支持! 编辑:[作揖]

音乐家刘欢离世不到半个月,社交平台上就冒出了一批冒充其家属的AI合成账号,利用逝者形象和家属身份带货牟利。

这一消息迅速引发社会广泛关注,也让不少网友开始讨论:AI技术被这样滥用,到底该由谁来管?

打开网易新闻 查看精彩图片

家属还在悲痛中,网上已经有人用AI冒充她卖货了

先把事情说清楚,2026年9月25日上午9时52分,著名音乐家刘欢在上海因病逝世,享年63岁。

对外经济贸易大学发布官方讣告,遵照刘欢生前意愿,丧事一切从简,不举办追悼会和告别仪式。

打开网易新闻 查看精彩图片

消息公布后,无数听众重温《好汉歌》《我和你》等经典作品,网络上满是缅怀的文字。

但就在人们静静悼念的时候,一批AI合成视频悄然上线了。

打开网易新闻 查看精彩图片

视频里,一名面容神态酷似刘欢妻子卢璐的女子坐在镜头前,声音低沉带着哽咽,讲述刘欢最后的生活细节,渲染悲伤氛围。

视频前半段引用了刘欢生前的表演片段,配着煽情音乐,但后半段画风突变,她开始推荐一款名为“黄精五黑粉”的产品,还挂出了购买链接。

打开网易新闻 查看精彩图片

视频获得数万网友点赞、上万次转发,评论区里有人信以为真留言安慰,也有人指出这是假的。

视频页面下方确实有小字标注“内容由AI生成”,但很多人被视频前半段的情感叙事打动,根本注意不到那行小字。

打开网易新闻 查看精彩图片

更离谱的是,除了“刘欢妻子”,还有人用AI生成了“刘欢儿子”的视频,视频下方同样挂着购物链接,卖的也是同款产品。

刘欢去世后不久,妻子卢璐就曾在朋友圈公开发声。

打开网易新闻 查看精彩图片

她说得很明确:“近日网络有关老刘的临终传闻和后事图片全是造谣,除了朋友圈,老刘和我都没有社交媒体”。

卢璐还恳请大家帮忙转发辟谣内容,尤其是转发到微博、抖音、视频号这些流量最大的社交平台,让老刘不被杜撰、不被打扰。

打开网易新闻 查看精彩图片

导演郭帆等圈内好友看到后也帮忙转发了这条辟谣声明。

但这番辟谣并没有让事情往她希望的方向走,那个在视频里手还发颤的“刘老师老婆”,从一开始就不存在。

打开网易新闻 查看精彩图片

央视网与多家主流媒体跟进调查后,完整还原了整条造假链路。

这些AI视频的套路高度雷同,前半段讲故事打感情牌,后半段挂小黄车卖货。

打开网易新闻 查看精彩图片

先引用名人过往的影像资料制造共情,再用AI合成的声音讲述临终细节,最后顺势推出同款养生食品。

造假团队不需要真人出镜,抓取网络上公开的名人照片和影像资料,利用AI模型生成动态人脸与语音,一天之内就能批量产出数十条短视频。

打开网易新闻 查看精彩图片

这套产业链分工清晰。

有人负责搜集名人公开影像资料做AI训练素材,有人负责撰写悲情文案打磨台词,有人注册大量账号多平台分发,最后由电商端承接订单完成变现。

打开网易新闻 查看精彩图片

刘欢家属不是唯一被假冒的对象。

扬子晚报记者调查发现,同一时期,还有账号用AI伪造“小沈阳儿子”、赵丽蓉亲属、“赵本山前妻葛淑珍”、“冯巩妻子”等身份带货。

打开网易新闻 查看精彩图片

叙事框架几乎完全一致,推销的也大多是同款“黄精五黑粉”。

其他视频诸如“我是某央视主持人的老婆,很多人没见过我”“我是赵丽蓉的儿子盛福春”等,用的都是同一套模板。

打开网易新闻 查看精彩图片

这些AI视频的目标受众大多是中老年网民。

这部分群体辨别AI换脸、克隆语音的能力相对偏弱,更容易被情绪叙事打动,轻信画面里的身份表述。

打开网易新闻 查看精彩图片

体育领域和新闻领域的公众人物也遭遇了同类仿冒。

奥运冠军全红婵、孙颖莎的声音被AI克隆用于卖鸡蛋,央视主持人李梓萌的肖像被不法分子利用AI合成出镜视频在直播间带货。

打开网易新闻 查看精彩图片

演员温峥嵘发现自己同时现身多个直播间带货不同产品,本尊亲自去质问,却被秒拉黑。

歌手韩红和潘长江也遭遇过AI合成视频,两人被拼接成一问一答的形式推销某痔疮产品,视频中还有其他女明星为该产品“站台”。

打开网易新闻 查看精彩图片

这些案例涉及演艺圈、体育圈、新闻界,覆盖面很广,央视在报道中列举了大量同类案例,印证受害群体已遍布多个领域。

打开网易新闻 查看精彩图片

商家推平台,平台推权利人,一个完整的“甩锅闭环”

事情曝光后,各方回应很有意思,扬子晚报记者联系了“黄精五黑粉”的生产企业安徽滋逸堂药业有限公司。

工商信息显示,该公司成立于2022年8月,注册资本仅50万元,连续多年0人参保。

打开网易新闻 查看精彩图片

企业客服的回应是:“我们没请刘欢家属,也没请明星代言,相关链接是达人带货直接挂的,没有经过我们许可”。

随后客服又表示:“都是达人自己挂的,这个我们控制不了,一会直接给产品下架”。

打开网易新闻 查看精彩图片

当记者联系涉事产品所属店铺时,店铺负责人说:“应该是他们自己挂的,他们怎么说,我们也管不了,这得平台管”。

平台方的回应更耐人寻味,客服人员表示,需由权利人或其家人进行举报,平台才会处理。

打开网易新闻 查看精彩图片

商家把责任推给平台,平台把责任推给权利人,一个完整的“甩锅闭环”就此形成。

这个逻辑本身就是一个问题,刘欢家属正在经历丧亲之痛,哪里有精力去挨个平台举报?

打开网易新闻 查看精彩图片

而且造假账号换一个名字就能重新上线,删掉一条视频根本解决不了根本问题。

新京报在一篇评论中指出,平台给出的处理逻辑看似合规,实则是把审核责任向外转移。

打开网易新闻 查看精彩图片

目前,涉事的“刘欢妻儿”带货视频已被下架,但假借赵丽蓉等已故名人子女身份带货的同类内容仍大量存在。

评论区内不乏认同该人设的留言,还有不少对产品功效的吹捧话术。

打开网易新闻 查看精彩图片

针对这一乱象,多位律师给出了专业解读。

江苏苏博律师事务所吴波律师认为,这些行为已构成多重违法,未经权利人同意擅自使用其形象进行商业推广,侵犯了肖像权和名誉权。

打开网易新闻 查看精彩图片

借虚构人设利用公众信任诱导消费,构成消费欺诈。

平台没有建立有效机制来识别和拦截AI生成的“名人亲属”带货内容,也未要求发布者取得权利人同意,未尽到审核义务。

打开网易新闻 查看精彩图片

法学学者吴丹红补充说,擅自使用逝者姓名、肖像、名义进行商业推广,侵害死者人格利益。

以缅怀为幌子推销产品,属于虚假或引人误解宣传,违反广告法,情节严重还可触犯刑法虚假广告罪。

打开网易新闻 查看精彩图片

从法律上看,这些行为的定性是清楚的,问题在于,法律框架已经有了,但实际执行和平台审核的落地还差着一大截。

打开网易新闻 查看精彩图片

一个刚失去丈夫的人,为什么还要出来辟谣

从旁观者的角度看,这件事最让人不好受的地方在哪儿?

刘欢去世后,卢璐在朋友圈发了一段话,每个字都很克制。

打开网易新闻 查看精彩图片

她说“近日网络有关老刘的临终传闻和后事图片全是造谣”,她说“拜请各位不要传播”,她说“感恩所有人对老刘的怀念”,最后用了“跪谢”两个字。

一个刚失去丈夫的人,没有在公开场合哭诉,没有开社交媒体账号博取同情,只是在朋友圈里安安静静地辟了个谣。

打开网易新闻 查看精彩图片

然后她发现,有人在用AI合成她的脸和声音,在网上卖货。

有技术达人拆解后发现,这些视频里所谓的“卢女士”根本就是用AI换脸合成的,包括声音也是伪造出来的。

打开网易新闻 查看精彩图片

这套手法不仅精准模仿外貌,还假装家属身份兜售商品。

央视网在报道中指出,拿公众人物的名望做虚假背书,仿冒账号批量造假,早已是分工明确的灰产生意。

打开网易新闻 查看精彩图片

这已经触碰人格权侵权、虚假宣传、消费欺诈多条法律红线。

这件事的根本问题不在于AI技术本身,技术是中性的,能做好事也能做坏事。

打开网易新闻 查看精彩图片

问题在于使用技术的人选择了什么样的用途,以及平台在面对这些用途时选择了什么样的态度。

刘欢生前给几代听众留下了《好汉歌》《我和你》这些经典作品。

打开网易新闻 查看精彩图片

他的妻子卢璐曾是湖南电视台的当家主持人,两人1988年结婚,相濡以沫几十年,刘欢还曾为妻子创作歌曲《璐璐》。

一个人刚刚离开,家属还在悲痛里,就有人用AI合成他们的脸和声音去卖货,这件事不管从哪个角度看,都让人心里发堵。

打开网易新闻 查看精彩图片

从刘欢去世到AI冒充家属带货视频出现,中间只隔了十来天,从央视曝光到多平台下架部分视频,事情还在处理中。

AI技术降低了内容生产的门槛,也降低了造假的门槛。

打开网易新闻 查看精彩图片

当花几十块钱就能定制一条以假乱真的AI视频时,光靠事后删号封禁很难从根子上解决问题。

平台手里握着技术管理权,也掌握着算法推荐的能力,一条AI假视频从发布到获得数万点赞、上万次转发,中间要经过审核和推荐好几道关口。

打开网易新闻 查看精彩图片

如果平台在内容分发环节就能识别和拦截这类伪造身份的内容,事情不会发展到需要家属出面辟谣、央视介入曝光的程度。

法律层面已经有了框架,最高法的意见明确了裁判规则,律师也指出了维权的具体路径。

打开网易新闻 查看精彩图片

但法律是底线,真正能让这类乱象减少的,是平台在审核环节把责任担起来。

对普通人来说,看到这类“名人亲属”带货的视频,多留一个心眼,尤其是打着缅怀逝者旗号推销产品的,更要谨慎。

打开网易新闻 查看精彩图片

别让自己的善意变成别人收割流量的工具。

朋友们你们怎么看。

信息来源:

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片