她写道，一觉醒来谁在利用 AI 肆意抓人，替自己作恶？
这位 “花姐”你骗了多少人的钱？请如数奉还！太恶劣！！！
短短几句话连标点符号里都透着愤怒，大半夜被气成这样，
是因为有人用 AI 换脸、换声，把她的脸和声音做成了带货的假视频，拿去骗粉丝、骗老人的钱。
而被这样盯上的，其实还远不止她一个。
有一个网名叫 “花姐” 的账号，发布了一段以 “明星同款、吴越推荐” 为噱头的视频，推销一款护肤品。
视频里的说法，是吴越为了回馈老粉丝，专门联合厂家给大家送福利。
视频里有一个和吴越长得一模一样的人，声音也和她分毫不差，
对着镜头特别真诚地说这个产品不是厂家来找她，而是她主动去找的厂家。
因为她一开始看视频，还觉得哪有这么夸张，结果自己收到货一用，效果非常直观。
这个 “吴越”，还在视频里卖力地喊，今天直接送让大家闭着眼睛用、闭着眼睛囤，连孕妇妈妈都能用。
一个演技扎实、口碑极好的老演员，就这样被人套上了一张假脸、一副假嗓子，变成了直播间里忽悠人下单的推销员。
更离谱的是这条视频的最后还出现了 “邓亚萍” 带货的画面
，而在这个账号里类似的内容还有很多，全都打着 “乒乓球冠军邓亚萍推荐” 的旗号在卖各种产品。
等于说造假的人，一边用 AI 换脸、换声骗人，一边又在角落里，轻飘飘地标注了一下，企图给自己留一条免责的后路。
可就是这样一段，明眼人一看就知道是合成的视频，依然能骗到不少人。
尤其是那些，对吴越、对邓亚萍有天然信任的人，尤其是上了年纪、对 AI 技术不了解的老人。
他们一看是自己熟悉、信任的明星，脸是那张脸，声音是那个声音，
推荐的东西又是 “回馈粉丝” 的福利，心里的防线一下子就松了。
吴越出生于上海，毕业于上海戏剧学院，是圈内公认的实力派，
演过《我的前半生》《和平年代》《县委大院》《少年的你》等一大批作品，
靠的是几十年，一点一点积累起来的观众缘。
她的愤怒不只是因为自己的肖像和声音被盗用，更是因为骗子用她的信誉，去收割那些冲着她才掏钱的普通人。
所以她才会在凌晨三点直接开炮，质问这个 “花姐”，到底骗了多少人的钱并要求对方如数奉还。
如果说吴越的遭遇，还只是一段假视频，那演员温峥嵘碰到的事就更让人脊背发凉了。
她形容说那段时间早在 4 月份之前，就有很多人告诉她在多个直播间同时看到了她自己。
最诡异的是，这些直播都在同一个时间段播出，可里面的 “她”，妆发不一样，卖的产品不一样，嘴里说的却是一模一样的话。
明摆着这些要么是 AI 合成的虚假直播，要么是盗播、录播她过去的片段，根本不是她本人。
有一次她拍戏拍到很晚，回到家已经是凌晨三四点，
她自己明明没有在直播，闲着刷手机却眼睁睁看到，“自己” 正在一个直播间里卖东西。
她气不过就点了进去，在评论区问了一句，你是温峥嵘，那我是谁？结果话音刚落，她就被对方秒拉黑了。
这件事让温峥嵘发出了一句，特别无奈的感慨，她说，我现在都很难证明我是我。
这句话听起来荒诞，却是当下很多名人真实的困境，骗子用 AI 技术把你的脸、你的声音，
模仿得惟妙惟肖，你本人站出来反而要费力去证明那个在直播间里的人不是你。
这两年AI 深度合成、换脸换声的技术，越来越成熟，门槛却越来越低。
以前做个假视频，还得有专业的本事，现在普通人花点小钱，就能在网上买到换脸、换声的服务。
于是名人成了被冒用的重灾区，明星、专家、主持人、世界冠军，一个个都成了骗子嘴里的 “带货代言人”。
更可怕的是这些假视频、假直播，瞄准的往往是中老年人，他们对技术不敏感，
对名人又有信任，骗子正是利用了这一点，把假的东西做得比真的还真，等老人反应过来钱早就转走了。
吴越的愤怒，温峥嵘的无奈，其实给所有人都敲响了警钟。
很多人以为，AI 是新技术，拿它换个脸、开个玩笑，好像不算什么大事，
可一旦用它来冒充名人、骗取钱财，这就不是玩笑而是实打实的违法犯罪。
针对这种乱象，专家说得很清楚，治理的核心，在于全面落实内容标识制度，把 AI 技术的合法应用，和非法滥用，严格区分开来。
也就是说AI 本身是中性的，它可以用来做特效、做创作、提高效率，这都是好事，但绝不能被拿来，披着名人的外衣，干着骗人的勾当。
那些做了深度合成，却只在角落里，用一行小字敷衍标注，甚至根本不标注，还刻意误导消费者的本身就违背了标识的要求。
要管住这只猛兽，平台的责任首当其冲，平台不能对这种，明显打着名人旗号、却没有任何授权的带货视频，睁一只眼闭一只眼。
应当在审核、巡查、下架上，下更大的功夫，发现一个封号一个，不能让骗子换个马甲就能卷土重来。
监管部门也需要加大打击的力度，对那些组织化、批量生产 AI 假视频、假直播，专门用来诈骗的团伙，
要顺着线索一查到底，不仅要让他们退还骗取的钱财，还要依法追究责任，让造假的成本真正高起来。
而对普通人，尤其是家里有老人的，更要多留一个心眼，
看到明星、名人在直播间里推荐那些 “回馈粉丝”“亏本送福利” 的产品，尤其是护肤品、保健品，别一激动就下单。
多问自己几个问题，明星真的会在这种没听过的直播间，亲自叫卖吗？这么便宜的好事，凭什么落到我头上？
认准官方的、正规的购买渠道，遇到拿不准的，先跟子女核实，
别轻易转账，别被那张熟悉的脸、那副熟悉的声音给带跑了。
吴越那句 “请如数奉还”，骂出了被冒用者的愤怒，也替无数可能被骗的人，出了一口气。
技术往前走是好事，但技术越发达，越要守住底线，不能让 AI成了骗子手里肆无忌惮的工具。
热门跟贴