你刷直播的时候,有没有碰到过长得跟知名公众人物一模一样的主播带货?最近就出了一桩引发热议的事,郑丽文根本没碰过任何商业直播,结果她的AI数字人都已经在直播间割流量赚快钱了。这事闹到官方出手整治,人民日报也公开点明了真相,而演员靳东早之前就警示过这类问题,没想到他担心的事真的大面积发生了。

打开网易新闻 查看精彩图片

山西这名普通主播邢某,瞅着郑丽文大陆访问的热度高,不想着好好做内容涨粉,反而动起了歪心思。现在随便下个民用AI工具,几分钟就能捏出个以假乱真的数字人,整套操作从形象到文案,半点儿没经过郑丽文本人同意。假郑丽文一上线,靠着本身的公众知名度很快攒了一大堆流量,闹得不少网友摸不着头脑,还打乱了正常的网络传播秩序。当地网警巡查的时候很快锁定了这个违规账号,一查确认邢某这是冒用他人身份牟利,属于招摇撞骗违法行为,最后直接被处以行政拘留。

为啥名人肖像这么容易就被普通人盗用?说白了现在民用AI的门槛低到离谱。各类换脸、数字人生成软件,操作简单成本还低,普通人花不了多少时间就能做出仿真人像。加上早前监管有漏洞,平台审核也松懈,这帮投机者根本没在怕的,直接把公众人物当成免费的流量工具用。邢某这次被抓,其实只是全网AI侵权乱象里,被官方查到的冰山一角,郑丽文本人啥也没干,就平白无故躺枪卷入了低俗流量骗局,这种恶意侵权还可能误导两岸民众认知,造成不必要的舆论隔阂。

打开网易新闻 查看精彩图片

现在网上灰色渠道里,各类名人的AI换脸模板、声音数据包,百八十块就能买到一整套完整素材。别说有基础的,零基础普通人拿回去,分分钟就能做出能开播的假直播画面,极低的违法成本,难怪造假行为抓完又冒出来,屡禁不止。早在郑丽文这件事曝光之前,娱乐圈、体育圈、主持圈早就成了AI造假的重灾区,好多知名人物都接连中招。

央视主持人李梓萌就曾被不法分子克隆了人脸和声线,假李梓萌直接坐镇仿造的官方演播厅带货。假主播吹得神乎其神,说手上的深海多烯鱼油能调理多种身体不适,说白了就是绑着央视的公信力坑人。专挑对官媒有信任感的中老年人下手,好多人都下了单,结果吃了半个月半点儿效果没有,才发现这款所谓的保健品本质就是普通糖果。市场监管介入调查后,从画面光影不对、口型错位这些细节,敲定这是AI合成造假,当时李梓萌忙着筹备节目,根本没碰过直播带货,平白无故背负了虚假营销的骂名。

打开网易新闻 查看精彩图片

演员温峥嵘的遭遇更无奈,某平台一下子冒出来四个高仿她的账号,全天候换着不同场景直播。有的账号分享护肤流程,有的拍日常闲聊,甚至凌晨时段还有账号开播吃东西。温峥嵘本人找到假冒账号质问,换来的只有一键拉黑,她的团队单日最高就举报了五十个违规账号,都没能清干净。

连体育圈的运动员都没能幸免,全红婵被人作了虚拟形象推销土鸡蛋,还虚假宣传说吃了能提升体能。这款假产品销量直接突破了四万件,直到全红婵家属公开出来辟谣,大众才知道这是一起AI造假骗局。这帮骗子就是吃准了大家对公众人物的信任感,专挑辨别能力弱的群体下手。

其实靳东早之前就公开警示过这类乱象,不法分子用AI合成他的,专门盯着中老年女性粉丝骗。骗子模仿靳东的语气说温柔话,精准拿捏了中老年群体的情感缺口,诱导粉丝消费转账。好多中老年人本来就对新技术不熟悉,辨别能力弱,默认屏幕上的人脸就是本人,根本不会去核查账号真伪,稀里糊涂就掉进了陷阱。就算事后察觉被骗,维权流程繁琐取证难,多数人最后只能不了了之,吃个哑巴亏。

打开网易新闻 查看精彩图片

除了这些顶流名人,很多小众艺人、行业专家也频繁遭遇AI盗用商用。不少商家直接截取人物的公开采访片段,篡改字幕替换台词,强行给各类杂牌产品绑定背书,借着名人的公信力涨销量。这种侵权行为隐蔽性更强,批量维权的成本又高,很多当事人只能被动忍受,没什么好办法。这也正是靳东一直担心的问题,AI技术滥用,最后最吃亏的还是没什么防备能力的普通人和消费者。

泛滥的AI侵权乱象,也倒逼监管部门和网络平台赶紧出台整改措施。今年十月不少短平台开启了专项治理,一次性处置了一万一千多个虚假达人账号。平台还下架了六千七百多款仿冒虚假产品,同时升级了智能识别系统,能自动筛查违规的AI合成内容。现在直播行业还新增了实名登记的硬性要求,从源头管住匿名账号造假牟利的可能。

打开网易新闻 查看精彩图片

法律法规层面也做了优化,现行的深度合成管理办法明确规定,AI生成内容必须标注特殊标识。未主动标注合成属性、刻意隐瞒虚拟身份的直播,一律算作违规操作。之前就有企业盗用教授的演讲音频做产品推广,靠AI合成做虚假宣传,最后被判罚款十二万元还得公开致歉。业内法律学者也说,现在乱象蔓延的核心原因就是造假成本低、侵权获利高,就算被侵权的名人胜诉,拿到的赔偿也远比不上不法分子的非法收益,根本起不到震慑作用。

除了商业牟利,AI滥用还会衍生出更多隐患,虚假信息传播、个人隐私泄露这些问题都很难管控。这次邢某冒用郑丽文形象被拘留,就是给所有投机者敲了个警钟,网络空间从来就没有法外之地。警方也多次公开提示,使用AI必须恪守法律底线,尊重社会公德,绝对不能借着技术实施违法活动。

普通网友碰到不对劲的违规AI内容,也可以主动举报,全民共治才能搭起干净合规的网络环境。平台也要进一步完善人脸保护机制,给公众人物增设专属防护通道,提前拦截高仿虚假账号。监管层面也在持续细化处罚标准,不会再单一处以小额罚款,对反复造假、恶意牟利的账号直接永久封禁,严重的还会追究民事乃至刑事责任。多重管控一起发力,才能从根源压缩灰色产业的生存空间。

打开网易新闻 查看精彩图片

AI技术本身没有对错之分,便捷的创作工具本来就是用来服务大众生活的,不该沦为坏人牟利作恶的工具。从公众人物无端被侵权,到普通消费者受骗受损,AI造假其实伤害着每一个网络参与者。要想遏制住乱象,平台管控、法律约束、大众甄别哪一样都缺不了,只有守住技术底线,才能不让乱象继续蔓延。

参考资料:大河报 名人AI侵权乱象调查;红星新闻 郑丽文AI数字人带货事件调查;封面新闻 深度合成内容治理新规解读;环球网 AI换脸带货违法案例梳理