刘欢死后半个月，AI的“家人”开始带来商品。
刘欢去世不到半个月，网上突然出现了“刘欢妻子”、“刘欢儿子”等账号。视频中，一些人为失去的亲人哭泣，而另一些人则描述了刘欢临终时刻的所谓细节。但是最终，所有这些讨论都导致了大家提到的同一款养生产品。
这不是家庭的声音；这是一个利用AI合成技术的货诈。
9月25日，63岁的刘欢在上海死亡。对外经贸大学随后发表了公报。根据他的遗愿，后事从简，没有举行任何纪念。
真正的家人并不经常现身。9月30日，卢璐从上海回到北京后，在朋友圈上发表了一份声明。她声称网络上流传的关于她的临终传闻以及后事的图片都是伪造的。她还明确表示，除了朋友圈之外，自己以及刘欢并没有注册任何其他社交媒体账号。她声称，所有使用两人名义注册的账号都是假冒的。
此辟谣的信息后来被郭帆、霍尊等人传达，几家媒体也跟随了这份报告。网络上的谣言暂时被压制。
但是骗子没有停止。
10月初，社交媒体平台上出现了一组名为“刘欢老师的妻子”的新账户。这些视频中的女性在外表和声音上都很像卢璐。这些视频首先是刘欢生前表演的镜头，然后是这名女子用颤抖的声音讲述“刘老师是如何去世的”的镜头。
也许他们中的许多人已经陷入了感情。在视频的下半部分，内容突然变成产品推荐。所谓的“卢璐”始于“黄精五黑粉”的推出，并且导致观众购买小黄车。
此外，还有一个账号伪装成刘欢的儿子，运用同样的手段来哀悼父亲的去世，并推荐同样的产品。相关的视频获得了数万的“赞”以及上万次的分享。在评论区中，有人给出了安慰的话语，也有人真的购买了那些产品。
直到在线社群发现视频角被标记为“内容是由AI生成的”, 人们才意识到摄像头中的人根本不是刘欢的家人，
10月11日，央视网、江苏新闻等媒体公开曝光了这起事件，武汉广播电视台也公开曝光，并且明确将会相关内容标记为虚假信息。
据报道，记者与有关商品商店的负责人联系，后者声称这个商店是平台进行管理的一部分，无法单独处理。另一方面，平台的客户服务表明，只有在权利持有人或者家庭成员提出报告后才能采取措施。
问题恰恰就在这里。
一个刚刚失去丈夫的家庭成员首先发现一个假账户，然后收集证据，并且在平台处理之前逐案提交一份报告。卢璐仍在处理事后行为以及个人情绪，而欺诈者利用这段时间继续出版录像、获得交通以及订单。
这种做法等于让受害者承担主要责任。这个平台有账号、视频以及交易数据以及一些识别资料，但是往往等待各方报告。对于带来点击率以及佣金的内容而言，如果审查总是缓慢以及缓慢的话，它不仅仅是一个受到损害的家庭。
律师说，运用AI合成名人形象进行虚假宣传以及传送可能涉及侵犯肖像、名誉等权利。如果消费者所以购买货物的话，如果消费者契合法律要求的话，他或她可以要求归还并且索取惩罚性损害赔偿。
但是现实并非易事。许多消费者不知道自己在接收或者甚至运用货物之前被欺骗。假冒账户被冻结，往往很快以不同的名字重新出现，权利需要时间以及证据，骗子承担的费用很低。
更加令人震惊的是，受害者不仅仅是卢璐。
赵丽蓉、小沈阳、李梓萌以及全红婵等公众人物还被AI合成视频伪装，内容涵盖保健、金融课程、培训方案等各个方面。普通人也难以避免：AI作为医生、专家、成功者、推荐产品或者课程的账户在互联网上并不罕见。
这些录像以更加经常的方式制作。公众人物的公信力由照片、声音或者旧视频确立，伴有悲哀故事、生活故事或者健康建议，并且在受众建立信任后迅速转入销售链。
名人死亡、疾病爆发以及家庭变化往往是引起最高关注的时候。骗子不利用产品本身，而是公众信任名人以及人们在特定时刻产生的同情心。
卢璐是事故的受害者，而不是运输者。她没有开设帐户，也没有推荐这个产品。刘欢去世后，她一直保持低调，除了发布辟谣信息之外，她几乎没有在公众面前出现。
刘欢以及卢璐于1988年会面。两人认识了9天，半年后结婚，同居30多年。在刘欢生病期间，卢璐陪伴他很长时间。今天，她不仅处理她丈夫的死后生活，而且还面临运用假账户的问题。
他们的女儿刘一丝也与母亲在一起，没有公开面谈。已经说明了选择保持沉默以及处理实际问题的真正家庭成员与凭借家庭身份一再赚钱的虚假账户之间的对比。
AI技术本身并不是欺诈，运用这种技术的人以及允许内容传播的平台才是责任人。视频越来越真实了 光靠观众的自我认同是不够的平台不应该只看到角落的一小行字，也不应该等到家庭报告后才看到。与死者、疾病、家庭变更以及货物销售有关的内容，应事先筛选并且积极拦截。
对于普通用户来说，所有“名人家属”突然出现的带货，特别是死者死后不久出现的哭泣视频，都应该保持警惕。不要因为视频像真的，就默认账号是真的。不要混淆留言安慰以及购买商品。
这种欺诈损害了家庭的名誉，误导了消费者。相关平台以及监管机构需要尽快补充对AI合成内容的审计和追究机制，并不能让受害者承担报告费用的全部费用。刘欢家属不应继续面对虚假账户的骚扰，而必须安静地处理随后的事情。
热门跟贴