凌晨3点多大多数人还在睡觉，吴越却发了一条没有任何公关腔的微博，直接点名“花姐美肤日记”，问对方骗了多少钱，要求如数奉还。
一个拿过奖的演员半夜亲自下场撕一个素未谋面的带货号，这件事本身就比反诈宣传更有冲击力。
因为她撞上的不是普通盗图，而是AI把她整个人抓进了屏幕里。
脸是她的，声音是从旧作品里扒出来的，嘴型对得上，语气也像，唯一不对的是她从来没推荐过那款产品。
吴越的遭遇之所以让人后背发凉，恰恰因为它和刘欢家属骗局共享同一套底层逻辑。
刘欢9月25日病逝，还不到半个月打着“刘老师老婆”旗号的AI合成视频就开始在多个平台流转。
画面里的“卢璐”声音发颤说着“老刘他走了”，镜头一转挂上了黄精五黑粉的链接，旁边还配了一个凭空捏出来的“刘欢儿子”，一口一个“我爸”，卖的是同一款粉。
真正的卢璐早在9月底就托人澄清过，她和刘欢从来没有开过任何公开社交账号，网上所有以家属名义发声的都是仿冒。
可澄清的声量远远跑不过假视频的推荐算法。
这里藏着一个被大多数人忽略的细节，那些AI合成的带货视频角落里其实老老实实标了一行“内容由AI生成”的小字。
这行字看起来像是合规，实际上是一道精心设计的免责符。
它小到刷视频的人根本注意不到，但它足以让造假者在被追责时摊开手说一句“我已经标了”。
一个上了年纪的人刷到那张熟悉的脸，听见那个熟悉的声音不会趴到屏幕上去找角落里的标注，他认的是刘欢攒了一辈子的那张脸和那份信任。
骗子赌的就是这个信息差，赌的就是标注的可见性和信任的惯性之间那道巨大的裂缝。
说到这里，我需要聊聊我自己对这件事的看法，这整件事最值得警惕的地方不在于骗子用了AI，而在于平台把“治理”做成了一门成本核算的生意。
央视网在10月10日的评论里把话说得很透，平台面对涉政涉恐内容时，人脸识别和语义识别的技术精准得很，拦截也即时得很，可一到仿冒名人带货这类灰色内容敏感度就突然降了下来，退回到“不告不理”的消极姿态。
这不是能力问题，是选择问题。
一条AI假视频从发布、审核到算法推荐、挂链、结算，要穿过平台好几道关口，却能一路绿灯，因为每一单成交平台都能抽一笔佣金。
骗子是前台表演的人，平台是后台收银的人，删几个号容易，动那本账难。
吴越的怒斥和刘欢家属的沉默构成了同一枚硬币的两面。
逝者家属面对的是“被代言”的屈辱，活着的人面对的是“被上岗”的荒诞。
刘欢没有儿子这是再清楚不过的事实，可“刘欢儿子”照样在视频里演得情真意切。
吴越从来没有碰过那款护肤品，可AI生成的“她”已经在镜头前替粉丝“争取福利价”了。
受害者的名单远不止这两个名字，同一个账号里还出现过邓亚萍的AI合成视频，温峥嵘曾在自己的AI直播间里被主播拉黑，霍启刚也公开说过有人用他的声音和样貌生成短视频，连同事都分不出真假。
这套东西已经跑通了模板，换一张脸、换一个产品名就能批量复制。
监管层面其实不是没有动作。
9月30日，中央网信办部署了为期两个月的“清朗·整治短视频虚假人设乱象”专项行动，其中明确把“利用AI仿冒人物”“冒充社会热点事件当事人亲属”列入了重点整治范围，并且要求平台不得借“已标注AI生成”这类标签来规避治理责任。
央视网也提出了更具体的方向，主张把AI仿冒名人带货纳入强监管清单，把举证责任从“通知后删除”往前推到“发布前审核”。
方向是对的，但落到执行层面一个根本性的转变还没有发生。
只要平台仍然把这类内容的治理成本放在“被举报之后的删除效率”上，而不是放在“发布之前的识别拦截”上，骗子就永远比规则快一步。
回到普通人这一端，刘欢家属骗局和吴越事件真正的警示不是教人辨认AI换脸的技术破绽，那东西普通人学不会也用不上。
真正的警示在于当一张脸、一个声音、一段悲情叙事同时出现在一个带货链接旁边时，下单这个动作本身就变成了整条灰色链条的最后一环。
那些买黄精五黑粉的人很多是冲着对刘欢的敬意去的，结果敬意被兑换成了骗子的业绩，也被兑换成了平台的佣金。
善良和共情从来不是缺点，但在一套把情感当作流量原料的机制面前不加停顿的共情就是最容易被定价的东西。
官媒出手、专项行动铺开，当然是在往对的方向走，可真正能让这套生意慢下来的是每一个刷到“熟悉的脸在卖陌生的东西”时，多停的那三秒钟。
热门跟贴