近年来，随着AI的不断发展，信息和视频造假越来越严重，很多网友根本分不清事情虚伪。
就连央视主持人李梓萌，还有奥运冠军全红婵，知名演员靳东，都被人合成视频放在网上。
不是骗粉丝们买货，就是在网上欺骗中老年妇女的情感，用来敛财，这样的行为简直是可怕。
从“贷款上班”到无辜“带货”
在AI带货风波之前，李梓萌的名字与《新闻联播》紧密相连，代表着专业、严谨与国民级的信赖。
李梓萌出生于辽宁沈阳一个高知家庭，凭借着出色的天赋与不懈的努力。
她以辽宁省专业第一的优异成绩，成为中国传媒大学的学生。
进入央视后，李梓萌的职业生涯更是稳扎稳打，一步一个脚印。
从《国际时讯》的初露锋芒，到最终在29岁那年，坐上《新闻联播》的主播台，成为当时栏目中最年轻的面孔。
为了贴合节目庄重、成熟的调性，青春靓丽的她戴上假发，这一戴，便是十几年。
这种为事业牺牲形象的敬业精神，让她赢得了同事与观众的广泛尊重。
当然，高压的直播工作也并非一帆风顺。
由于《新闻联播》的播出强度极大，李梓萌的出勤率常年位居前列，偶尔的口误在所难免。
一次，她因紧张将“劳动节”念成了“劳动姐”，这个小插曲让她直接在全网爆火。
前辈倪萍更是在节目中半开玩笑地说，按照央视“念错一字罚款200元”的规定，李梓萌怕不是要“贷款上班”。
这些善意的调侃，侧面印证了她所承担的巨大工作压力，也让她严肃的“国脸”形象之外，多了一份亲切与真实。
然而，就是这样一位将职业声誉视若生命的媒体人，却被一场突如其来的AI骗局推上了风口浪尖。
在一个拥有超过88万粉丝的直播间里。
“李梓萌”正声情并茂地推销着，一款号称能“改善记忆、缓解头晕”的鱼油产品，并反复强调“有央视把关”。
大量不明真相的消费者，尤其是信任央视的中老年群体，被这以假乱真的画面所蒙蔽，纷纷下单。
可当产品到手，他们才发现，这款被吹嘘得神乎其神的“保健品”，其产品执行标准上赫然写着“糖果”二字。
随着消费者举报的增多，官媒终于出手。
北京市市场监管局迅速立案调查，最终揭开了谜底：
直播间的“李梓萌”根本不是本人，而是不法商家利用AI技术合成的虚假影像。
他们截取李梓萌的新闻片段，通过软件提取其面部特征与声音模型，制造出了这个足以乱真的“数字人”进行欺诈销售。
这起案件作为全国首例被查处的AI虚假广告案，涉案人员很快被悉数抓获。
真相大白于天下，虽然还了李梓萌一个清白，但这次事件给她带来的无妄之灾，以及暴露出的技术监管漏洞，足以让全社会警醒。
李梓萌的遭遇并非孤例，AI技术在网上，早已成为不法分子收割信任、进行欺诈的“新式武器”。
其中，奥运冠军全红婵的经历尤为典型。
这位在跳水台上为国争光的“国民闺女”，以其天真烂漫的性格和出色的成绩赢得了全国人民的喜爱。
然而，不法分子正是利用了这份喜爱。
前段时间，网上多个账号开始发布，用AI克隆全红婵声音制作的带货视频，内容大多是推广所谓的“家乡土鸡蛋”。
视频中，AI合成的“婵宝”用她标志性的、略带稚气的口音说道：“
大家好，我是你们的婵宝，想把老家的土鸡蛋分享给粉丝。”
这种利用公众对她朴实家庭背景的同情与支持心理的营销手段，极具欺骗性，导致相关商品链接一度显示售出4.7万件。
若非全红婵的哥哥及时在社交媒体上公开辟谣，澄清家人从未进行过此类销售，恐怕会有更多人上当受骗。
与全红婵和李梓萌一样，深受中老年观众喜爱的演员靳东，也成了AI诈骗的重灾区。
他的情况更为复杂，不法分子利用AI换脸技术。
制作了大量靳东向粉丝嘘寒问暖、表白示爱的虚假视频，专门针对中老年女性进行情感诈骗。
骗子们假冒靳东的身份，与受害者建立起“网恋”关系。
在骗取信任后，便以拍戏缺钱等各种借口索要钱财，导致多位受害者蒙受了数10万元的经济损失。
分析这些案例，我们不难发现不法分子选择目标的原因。
他们瞄准的，正是这些公众人物身上最鲜明的“信任标签”。
李梓萌代表的是“官方权威”，她的“出镜”无异于为产品质量盖上了官方认证的戳；
全红婵则是“纯真”与“励志”的化身，公众对她的喜爱与支持，很容易转化为购买力；
而靳东所塑造的成熟稳重的“老干部”形象，则精准地击中了特定年龄段女性的情感需求。
骗子们利用AI技术，将这些“信任标签”无限放大并加以利用，进行精准收割。
面对这股愈演愈烈的AI造假歪风，我们每个人都应敲响警钟。
首先，要彻底摒弃“眼见为实”的旧观念，在数字时代，视频和声音都可能被伪造。
当看到名人以不符合其身份或日常行为的方式进行推销或互动时，务必保持高度警惕。
其次，要学会通过官方渠道核实信息。
无论是明星代言还是亲友求助，可以通过其官方认证的社交账号，或直接联系本人进行确认，就能有效避免大多数骗局。
最后，一旦发现可疑的AI合成内容，应立即向平台和相关监管部门举报，共同构筑抵制虚假信息的社会防线。
从李梓萌到全红婵，再到靳东，一系列AI造假事件的曝光，无疑是对社会信任体系的一次沉重打击。
它告诉我们，技术的发展是一把双刃剑，在为生活带来便利的同时，也可能被恶意利用，成为侵害个人权益、扰乱社会秩序的工具。
值得庆幸的是，国家的重拳整治与相关法律法规的迅速跟进。
如即将施行的《人工智能生成合成内容标识办法》，正在为失序的技术应用戴上“紧箍咒”。
未来，一个清朗的网络空间，不仅需要监管的利剑高悬，也需要平台筑牢技术“防火墙”。
更需要我们每一位网民擦亮双眼，提升媒介素养，共同守护来之不易的真实与信任。
热门跟贴