在阅读此文之前,辛苦您点击一下“关注”,既方便您进行讨论和分享,又能给您带不一样的参与感,感谢您的支持! 编辑:[作揖]
音乐家刘欢离世不到半个月,社交平台上就冒出了一批冒充其家属的AI合成账号,利用逝者形象和家属身份带货牟利。
这一消息迅速引发社会广泛关注,也让不少网友开始讨论:AI技术被这样滥用,到底该由谁来管?
家属还在悲痛中,网上已经有人用AI冒充她卖货了
先把事情说清楚,2026年9月25日上午9时52分,著名音乐家刘欢在上海因病逝世,享年63岁。
对外经济贸易大学发布官方讣告,遵照刘欢生前意愿,丧事一切从简,不举办追悼会和告别仪式。
消息公布后,无数听众重温《好汉歌》《我和你》等经典作品,网络上满是缅怀的文字。
但就在人们静静悼念的时候,一批AI合成视频悄然上线了。
视频里,一名面容神态酷似刘欢妻子卢璐的女子坐在镜头前,声音低沉带着哽咽,讲述刘欢最后的生活细节,渲染悲伤氛围。
视频前半段引用了刘欢生前的表演片段,配着煽情音乐,但后半段画风突变,她开始推荐一款名为“黄精五黑粉”的产品,还挂出了购买链接。
视频获得数万网友点赞、上万次转发,评论区里有人信以为真留言安慰,也有人指出这是假的。
视频页面下方确实有小字标注“内容由AI生成”,但很多人被视频前半段的情感叙事打动,根本注意不到那行小字。
更离谱的是,除了“刘欢妻子”,还有人用AI生成了“刘欢儿子”的视频,视频下方同样挂着购物链接,卖的也是同款产品。
刘欢去世后不久,妻子卢璐就曾在朋友圈公开发声。
她说得很明确:“近日网络有关老刘的临终传闻和后事图片全是造谣,除了朋友圈,老刘和我都没有社交媒体”。
卢璐还恳请大家帮忙转发辟谣内容,尤其是转发到微博、抖音、视频号这些流量最大的社交平台,让老刘不被杜撰、不被打扰。
导演郭帆等圈内好友看到后也帮忙转发了这条辟谣声明。
但这番辟谣并没有让事情往她希望的方向走,那个在视频里手还发颤的“刘老师老婆”,从一开始就不存在。
央视网与多家主流媒体跟进调查后,完整还原了整条造假链路。
这些AI视频的套路高度雷同,前半段讲故事打感情牌,后半段挂小黄车卖货。
先引用名人过往的影像资料制造共情,再用AI合成的声音讲述临终细节,最后顺势推出同款养生食品。
造假团队不需要真人出镜,抓取网络上公开的名人照片和影像资料,利用AI模型生成动态人脸与语音,一天之内就能批量产出数十条短视频。
这套产业链分工清晰。
有人负责搜集名人公开影像资料做AI训练素材,有人负责撰写悲情文案打磨台词,有人注册大量账号多平台分发,最后由电商端承接订单完成变现。
刘欢家属不是唯一被假冒的对象。
扬子晚报记者调查发现,同一时期,还有账号用AI伪造“小沈阳儿子”、赵丽蓉亲属、“赵本山前妻葛淑珍”、“冯巩妻子”等身份带货。
叙事框架几乎完全一致,推销的也大多是同款“黄精五黑粉”。
其他视频诸如“我是某央视主持人的老婆,很多人没见过我”“我是赵丽蓉的儿子盛福春”等,用的都是同一套模板。
这些AI视频的目标受众大多是中老年网民。
这部分群体辨别AI换脸、克隆语音的能力相对偏弱,更容易被情绪叙事打动,轻信画面里的身份表述。
体育领域和新闻领域的公众人物也遭遇了同类仿冒。
奥运冠军全红婵、孙颖莎的声音被AI克隆用于卖鸡蛋,央视主持人李梓萌的肖像被不法分子利用AI合成出镜视频在直播间带货。
演员温峥嵘发现自己同时现身多个直播间带货不同产品,本尊亲自去质问,却被秒拉黑。
歌手韩红和潘长江也遭遇过AI合成视频,两人被拼接成一问一答的形式推销某痔疮产品,视频中还有其他女明星为该产品“站台”。
这些案例涉及演艺圈、体育圈、新闻界,覆盖面很广,央视在报道中列举了大量同类案例,印证受害群体已遍布多个领域。
商家推平台,平台推权利人,一个完整的“甩锅闭环”
事情曝光后,各方回应很有意思,扬子晚报记者联系了“黄精五黑粉”的生产企业安徽滋逸堂药业有限公司。
工商信息显示,该公司成立于2022年8月,注册资本仅50万元,连续多年0人参保。
企业客服的回应是:“我们没请刘欢家属,也没请明星代言,相关链接是达人带货直接挂的,没有经过我们许可”。
随后客服又表示:“都是达人自己挂的,这个我们控制不了,一会直接给产品下架”。
当记者联系涉事产品所属店铺时,店铺负责人说:“应该是他们自己挂的,他们怎么说,我们也管不了,这得平台管”。
平台方的回应更耐人寻味,客服人员表示,需由权利人或其家人进行举报,平台才会处理。
商家把责任推给平台,平台把责任推给权利人,一个完整的“甩锅闭环”就此形成。
这个逻辑本身就是一个问题,刘欢家属正在经历丧亲之痛,哪里有精力去挨个平台举报?
而且造假账号换一个名字就能重新上线,删掉一条视频根本解决不了根本问题。
新京报在一篇评论中指出,平台给出的处理逻辑看似合规,实则是把审核责任向外转移。
目前,涉事的“刘欢妻儿”带货视频已被下架,但假借赵丽蓉等已故名人子女身份带货的同类内容仍大量存在。
评论区内不乏认同该人设的留言,还有不少对产品功效的吹捧话术。
针对这一乱象,多位律师给出了专业解读。
江苏苏博律师事务所吴波律师认为,这些行为已构成多重违法,未经权利人同意擅自使用其形象进行商业推广,侵犯了肖像权和名誉权。
借虚构人设利用公众信任诱导消费,构成消费欺诈。
平台没有建立有效机制来识别和拦截AI生成的“名人亲属”带货内容,也未要求发布者取得权利人同意,未尽到审核义务。
法学学者吴丹红补充说,擅自使用逝者姓名、肖像、名义进行商业推广,侵害死者人格利益。
以缅怀为幌子推销产品,属于虚假或引人误解宣传,违反广告法,情节严重还可触犯刑法虚假广告罪。
从法律上看,这些行为的定性是清楚的,问题在于,法律框架已经有了,但实际执行和平台审核的落地还差着一大截。
一个刚失去丈夫的人,为什么还要出来辟谣
从旁观者的角度看,这件事最让人不好受的地方在哪儿?
刘欢去世后,卢璐在朋友圈发了一段话,每个字都很克制。
她说“近日网络有关老刘的临终传闻和后事图片全是造谣”,她说“拜请各位不要传播”,她说“感恩所有人对老刘的怀念”,最后用了“跪谢”两个字。
一个刚失去丈夫的人,没有在公开场合哭诉,没有开社交媒体账号博取同情,只是在朋友圈里安安静静地辟了个谣。
然后她发现,有人在用AI合成她的脸和声音,在网上卖货。
有技术达人拆解后发现,这些视频里所谓的“卢女士”根本就是用AI换脸合成的,包括声音也是伪造出来的。
这套手法不仅精准模仿外貌,还假装家属身份兜售商品。
央视网在报道中指出,拿公众人物的名望做虚假背书,仿冒账号批量造假,早已是分工明确的灰产生意。
这已经触碰人格权侵权、虚假宣传、消费欺诈多条法律红线。
这件事的根本问题不在于AI技术本身,技术是中性的,能做好事也能做坏事。
问题在于使用技术的人选择了什么样的用途,以及平台在面对这些用途时选择了什么样的态度。
刘欢生前给几代听众留下了《好汉歌》《我和你》这些经典作品。
他的妻子卢璐曾是湖南电视台的当家主持人,两人1988年结婚,相濡以沫几十年,刘欢还曾为妻子创作歌曲《璐璐》。
一个人刚刚离开,家属还在悲痛里,就有人用AI合成他们的脸和声音去卖货,这件事不管从哪个角度看,都让人心里发堵。
从刘欢去世到AI冒充家属带货视频出现,中间只隔了十来天,从央视曝光到多平台下架部分视频,事情还在处理中。
AI技术降低了内容生产的门槛,也降低了造假的门槛。
当花几十块钱就能定制一条以假乱真的AI视频时,光靠事后删号封禁很难从根子上解决问题。
平台手里握着技术管理权,也掌握着算法推荐的能力,一条AI假视频从发布到获得数万点赞、上万次转发,中间要经过审核和推荐好几道关口。
如果平台在内容分发环节就能识别和拦截这类伪造身份的内容,事情不会发展到需要家属出面辟谣、央视介入曝光的程度。
法律层面已经有了框架,最高法的意见明确了裁判规则,律师也指出了维权的具体路径。
但法律是底线,真正能让这类乱象减少的,是平台在审核环节把责任担起来。
对普通人来说,看到这类“名人亲属”带货的视频,多留一个心眼,尤其是打着缅怀逝者旗号推销产品的,更要谨慎。
别让自己的善意变成别人收割流量的工具。
朋友们你们怎么看。
信息来源:
热门跟贴