屏幕里的熟面孔,未必来自真实镜头,AI换脸和声音克隆已经把“看见”这件事改写了,真假交错之间,受害者往往先被信任牵住,再被话术带着走

2026年5月7日,公安部网安局通报,山西网民邢某借助AI仿冒郑丽文开直播带货,已被依法行政拘留,这条消息之所以引发关注,不只因为冒用身份本身,也因为它把平台审核、身份冒充和网络交易一起推到台前

郑丽文的名字出现在直播间里,带来的不是授权,而是热度被借用,账号名称、头像、文案、商品话术被拼装在一起,形成一套足以让人误判的外壳,外壳之下却是一次赤裸的牟利

打开网易新闻 查看精彩图片

这类操作并不依赖高深门槛,素材来自公开视频,工具来自现成软件,流程来自复制粘贴,流程一旦顺手,冒充一个人就像搭建一间临时直播间,快得出乎许多人预料

近两天围绕这起通报的转载集中在同一件事上,官方处置已经落地,平台责任却仍被反复讨论,原因不难理解,直播间不是单向展示,它连接着交易、信任和付款,一旦入口失守,后面的损失往往接得极快

打开网易新闻 查看精彩图片

靳东案被再次提起,是因为它和郑丽文案的路径几乎一致,都是借名人形象获取流量,再把流量转化成交易,2022年以来,诈骗团伙利用AI换脸和声音克隆冒充靳东,在短视频平台持续投放内容,目标直指中老年女性

上海黄阿姨曾差点贷款200万元给假靳东拍戏,江西张阿姨被骗走近20万元养老钱,这些数字之所以扎眼,是因为它们说明一个事实,AI诈骗不只骗点击,也骗积蓄,甚至直接动到家庭储备

2023年10月,静安区检察院对8名犯罪嫌疑人提起公诉,2024年2月,法院作出一审判决,这条司法链条走到台前,说明此类案件已经不再停留在个别账号层面,而是进入持续治理阶段

打开网易新闻 查看精彩图片

名人被冒用的范围,早已不局限于演员和主持人,李梓萌、温峥嵘、全红婵都曾被卷入相似情形,表面上看是内容形式不同,底层却共享同一套逻辑,借身份光环提高可信度,再把信任变成交易入口

2025年,北京市海淀区市场监管局查处过一起AI虚假广告案,有人伪造李梓萌形象,在直播间推荐鱼油产品,还宣称可用于多种疾病,调查结果显示,所谓鱼油只是一种普通糖果,广告外壳和商品属性完全脱节

温峥嵘在2025年11月公开表示,自己的AI换脸形象被放进多个直播间,推荐不同商品,她冲进直播间质问,对方立刻拉黑,她后来感叹一句“我很难证明我是我”,这句话把身份被盗用后的荒诞感说得直接而尖锐

全红婵的案例又是另一种路径,账号发布了17条克隆声音视频,内容指向土鸡蛋带货,累计点赞量达到1.1万,售出4.7万件,家人随后明确回应,她没有为相关农产品做过代言,这组数字把“听上去像”变成了“买的人真的不少”

这些案例放在一起,指向的不是偶发巧合,而是一条成熟链路,先借公众人物制造关注,再用AI降低造假成本,随后以带货、私信、投资、借钱等形式完成转化,环节不复杂,收益却可观

打开网易新闻 查看精彩图片

近两天的相关讨论里,另一个被反复提到的词是“标识”,不少人开始关注AI生成内容是否应当明确标注,平台是否该在直播、短视频、私信场景里设置更严的识别提示,这个话题在郑丽文事件之后又被推到前排

还有人把目光放在账号认证上,蓝V、实名认证、历史内容、日常互动,过去被视作普通信息,如今成了判断可信度的基础条件,尤其在交易场景里,认证并不代表完全可信,却能减少一层误判

打开网易新闻 查看精彩图片

邢某事件之所以值得持续讨论,还在于它把“冒名直播”这件事摆成了一个样本,样本里既有技术滥用,也有话术包装,还有对地域、身份和公共认知的精准借势,直播间里的每个元素都不是随手拼凑

有网民把这类内容称作“数字人带货”,也有人坚持应当直接叫“冒用身份”,两种说法背后站着不同视角,前者强调技术形式,后者强调行为性质,这种表述差异本身就值得放进评论区讨论

围绕平台责任的看法也并不一致,有人认为现有审核已经不轻松,海量直播和视频让人工识别难度增大,也有人认为平台作为流量入口,若不能及时识别冒名账号,就难以回避管理责任

打开网易新闻 查看精彩图片

从治理角度看,郑丽文案提供的线索并不只是一条处罚信息,它还提示出一个事实,名字、头像、声音、风格,正在被拆分成可交易的素材,身份从整体被拆开后,每一块都可能成为骗局入口

这意味着反诈不能只盯着转账环节,源头识别同样重要,谁在发声,是否授权,内容是否连续,账号是否长期稳定,这些细节一旦缺失,外行人就容易把“像”当成“真”

中老年用户之所以容易受影响,不是因为他们天生缺少判断力,而是因为他们习惯以熟面孔建立信任,屏幕里的人如果足够熟、话术如果足够顺,很多人就会把怀疑暂时放下

打开网易新闻 查看精彩图片

这类直播常把“助力两岸好物互通”“支持乡村振兴”之类表述放在前面,话术本身并不稀奇,稀奇的是它们与名人身份绑定后,往往形成一种先天然可信、后再下单的心理路径

相似的套路在多个案例里都能看到,前端靠形象,中段靠情绪,后端靠交易,三段连接得越顺,受害者越难在中途停下,尤其当单价不高时,警惕心常常被日常消费的感觉冲淡

2025年以来,围绕AI换脸的讨论开始从“像不像”转向“要不要标”,这也是一个明显变化,过去大家关注技术效果,如今更多人关注责任边界,谁来确认,谁来提示,谁来追责,这些都变成焦点

打开网易新闻 查看精彩图片

还有一个被忽视的层面,是素材来源,许多假视频并不需要秘密数据库,公开采访、新闻画面、活动照片都能成为拼接材料,曝光越高,样本越多,克隆越容易,风险也就越集中

对于公众人物来说,维权成本并不轻,查账号、找平台、做公证、发声明,步骤不少,时间也不短,所以温峥嵘那句“我很难证明我是我”并不是情绪表达,而是现实处境的直接写照

如果把这些事件连在一起,就会发现近两天被讨论得最多的不是单一案件,而是同一类技术风险在不同场景里的反复上演,直播带货、情感私信、虚假广告、代言伪造,入口不同,路径却相近

打开网易新闻 查看精彩图片

这组事件里还藏着一个讨论热区,AI工具到底该不该限制,这个话题常被分成两边,一边强调技术能提高内容生产效率,一边强调门槛下降后,冒用身份的成本也被压低,双方都站得住,却落在不同层面

不少人把争论落到“工具无罪,使用者有责”,这个判断并不粗糙,但也不完整,因为工具的默认设置、平台的审核机制、传播链的转发习惯,都会改变一件事最终呈现出的危险程度

郑丽文、靳东、李梓萌、温峥嵘、全红婵,这几个名字在不同时间点被卷入类似场景,看似分散,实则都指向同一条线,公众人物的身份被拿去换取流量,流量又被转成交易或误导

与其说这些案例在提醒人们“别轻信”,不如说它们在提醒整个网络环境,真实身份正在被技术拆解,过去依靠熟人社会建立的信任感,正在进入需要重新校准的阶段

有些直播间会把背景板、字幕、口播节奏做得接近真人账号,甚至连衣着和灯光都尽量贴近原始风格,这种细节堆叠的目的只有一个,压缩观众的怀疑时间

当怀疑时间被压缩,判断就会变慢,付款就会变快,平台再想追回交易,难度就随之上升,这也是为什么近两天关于“先识别,再交易”的讨论始终没有降温

如果把这些案例拆开看,会发现一个共同规律,受害者并不总是冲动下单的人,很多时候他们只是停留在“先看看”的阶段,而这短短几秒,正是算法和话术抢占的窗口

对平台来说,最现实的动作不是一句“请注意辨别”,而是把识别提示放进内容入口,把异常账号排查做得更前,把AI生成标识做得更显眼,把投诉处理做得更快

对普通用户来说,判断也可以更简单,认证信息是否完整,账号内容是否连续,历史互动是否自然,语气是否前后统一,这些因素加起来,往往比单独看一张脸更有用

近两天围绕这件事的转发里,还有一个有意思的变化,大家开始主动把案例与家中长辈联系起来,因为真正容易受影响的往往不是追热点的人,而是把屏幕内容当作可靠来源的人

这类场景下,家庭成员的提醒价值并不次于平台提示,尤其是对直播购物、私信求助、投资邀请这三类入口,先让家里人知道“名人不在小号里卖货”,比事后追讨更省力

靳东在两会期间多次呼吁压实平台责任、完善立法、严惩不法分子,这类发声放在今天再看,依旧对应着现实中的高频场景,说明社会对AI冒用身份的关注已经从个案转向制度

李梓萌案、温峥嵘案、全红婵相关视频,和郑丽文事件一样,都不是单点孤例,它们在提醒一个共同方向,公众人物的姓名、面孔、声音,正在变成可被反复复制的传播资源

传播资源一旦进入黑灰产链条,就会被快速切割、包装、再分发,今天是带货,明天可能是借款,后天可能是虚假公益,场景在变,核心结构却几乎没有变化

有争论的人常会问,既然视频是假的,为什么还能卖出去,答案并不玄,原因在于很多人买的不只是商品,还有熟悉面孔带来的确定感,这种确定感一旦被伪造,就会直接影响决策

打开网易新闻 查看精彩图片

再往前看,AI内容识别技术、平台水印机制、实名认证体系、肖像权保护规则,这些本应彼此衔接的环节,正在被这类案件一层层检验,检验的结果并不轻松,但方向已经清楚

近两天的热议没有离开“郑丽文被冒用”这个起点,却一路牵出了多个场景,说明公众对这类风险的敏感度在上升,讨论的重心也从单次通报走向持续治理

如果说这篇通报提供了一个现实样本,那么后续围绕它展开的关注,就是另一个样本,样本里有平台,有法律,有技术,也有普通用户的辨识习惯,这些因素共同决定下一次会不会重复

冒名直播并不新鲜,新的只是速度,过去造假需要团队,现在一个人配合工具就能启动,过去一场骗局要靠大量人工,今天几段素材就能拉起一个直播间,成本结构已经变化

成本变化带来的直接后果,是伪造门槛下降,传播频率上升,修复信任的代价却没有同步下降,这种不对称,正是近两天很多讨论者共同指向的核心现实

邢某被行政拘留,说明冒用身份并不只是道德问题,也不是单纯的内容失真,它已经进入治安治理视野,甚至可以继续延伸到平台机制、广告审核和交易规则

信息越多,判断越要回到几个简单动作,先看账号来源,再看授权痕迹,再看历史内容,再看直播语气,最后看交易指向,这套步骤不复杂,却能挡住一大批假冒内容

需要警惕的不是某一个面孔,而是一整套复制身份的方式,今天复制的是脸,明天可能是声音,后天可能是签名风格,传播链条一旦形成,辨认就必须同步升级

郑丽文案之所以被持续转发,是因为它把一个抽象词变成了现场样本,AI不再只是实验室里的术语,而是直播间里能卖货、能拉人、能诱导付款的现实工具,这一点值得反复记住

打开网易新闻 查看精彩图片

近两天围绕这条通报的舆论,基本聚焦在三个方向,一是对违法行为的明确态度,二是对平台识别能力的质疑,三是对老年群体防骗能力的关注,这三条线交织在一起,构成了当前讨论的主轴

其中最有代表性的看法,是把AI换脸看成一种“身份搬运”,把原本属于他人的信任,直接搬运到自己的交易链条中,这个说法通俗,也接近本质

假若直播间里那张脸换成任何一位知名人物,流程仍然可以成立,这也是同类案件屡屡出现的原因,技术换壳容易,信任重建却难

另一类值得关注的细节,是商品本身往往不贵,正因如此,许多人在付款前不会多停留一秒,这种低客单价策略配合名人形象,常常让骗局显得没有攻击性

一些人把它理解成普通营销,等察觉账号异常时,已经错过最佳拦截点,这也是为什么“先验证再付款”开始被越来越多平台反复强调

如果说郑丽文案提供了一个近期样本,那么靳东案、李梓萌案、温峥嵘案、全红婵相关视频,就是这条样本链上的连续注脚,说明问题不是单一账号,而是模式复制

这类内容背后还牵出一个现实趋势,AI生成内容的识别难度正在上升,早期常见的嘴型不合、眼神发空、边缘模糊,现在会被更精细的模型修补,判断窗口被不断压缩

判断窗口缩小后,账号认证、官方声明、平台公示、交易提醒就显得格外重要,谁先把这些信息摆出来,谁就能先争取到一部分判断时间

近两天的搜索与转载中,关于立法和平台规则的呼声并没有消失,反而因为郑丽文事件再次被提起,原因在于公众已经意识到,单靠个体辨认,未必能堵住规模化冒用

有人把这种变化视为技术焦虑,也有人把它看作治理升级的前奏,两种理解并不冲突,因为每一次骗局升级,都会倒逼标识、审核、执法和维权同步跟上

公众人物被冒用,普通人遭受损失,平台与监管都被推上前台,近两天的相关信息围绕的正是这一链条,链条中的每一环都值得被看见,也都需要被补强

当屏幕里那张脸能被任意复制,真正重要的就不再是“像不像”,而是“谁来证明授权”,这个转向,正是郑丽文案带来的现实提醒

打开网易新闻 查看精彩图片

靳东案的持续发酵告诉人们,案件结案不等于风险消失,温峥嵘和全红婵的经历又说明,内容只要进入流量场,就可能被反复使用,名人身份一旦被切片,风险就会扩散

李梓萌鱼油广告案则把另一个层面放到台前,虚假宣传和身份冒用常常结伴出现,身份提供可信度,商品完成变现,二者结合后,骗术的完成度会显著上升

郑丽文事件则补上了政治人物被仿冒这一类目,它让人看到,不同领域、不同身份、不同人群,都可能被同一套方法盯上,这也是近两天讨论热度居高不下的原因之一

对于普通用户来说,看到名人直播卖货,先别急着下单,先看认证,再看账号历史,再看平台提示,再看是否存在授权声明,这四步足以筛掉大部分异常账号

对于平台来说,重点不在于事后删帖,而在于前置拦截,尤其当直播名称、头像、字幕、口播出现强关联时,系统识别应当比人工投诉跑得更快

对于监管来说,类似通报的价值在于释放明确态度,冒用身份不是“小聪明”,而是会进入行政与司法治理的边界,这条线已经被画出来

打开网易新闻 查看精彩图片

郑丽文被仿冒,靳东被仿冒,李梓萌被仿冒,温峥嵘被仿冒,全红婵被仿冒,这些案例没有把人推向恐慌,反倒把一条清晰路径推到了公众面前,技术越快,验证越不能省

若要在这类内容面前多停留片刻,记住的不是惊讶,而是核验,记住的不是转发,而是辨认,记住的不是“看见了什么”,而是“谁有权这么说”

近两天的信息已经说明,AI换脸和声音克隆正在从边缘话题进入日常治理,下一步拼的不是谁更会造假,而是谁先把真实身份重新摆回中心

打开网易新闻 查看精彩图片