来源:上海网络辟谣

貌似“交警”的人,在“车祸现场”煞有介事地讲解安全知识,话锋一转却开始兜售“破窗神器”;貌似“和尚”“师太”的人,张口“修行”、闭口“感悟”,满屏都是人生哲理,账号却推销着养生品和经书……

近日,央视记者揭露了部分科普短视频的“假专家”现象。

央视记者将相关视频交给中国信通院,由该院专家将视频导入鉴别平台。鉴别平台可实现对视频、图片、文本的交叉鉴伪。几分钟后,结果出现,相关视频的AI生成概率高达96%。

打开网易新闻 查看精彩图片

除了用AI捏造无中生有的人设,甚至还有人盗用真实专家形象。北京眼科专家赵阳几个月前收到一位患者转来的视频,询问他商品是否真对眼睛有帮助,而咨询的这款营养品是视频里的“赵阳”推荐的。赵阳把商家告上了法庭。审理中才得知:商家委托了一家视频制作公司,用AI生成销售商品的音频,借他眼科专家的身份为产品背书。

打开网易新闻 查看精彩图片

2025年,国家出台规定,明确要求AI生成内容必须添加标识。但央视记者发现:视频平台上依然有不少AI生成的视频未做标注。有些虽做了标注,却模糊不清。

这类视频在网上还有很多,它们大多以卖货为目的,常伴随产品质量争议,卖日用百货是重灾区。

三招防骗技巧要记牢

面对以上情况,网友可以通过“眼、耳、手”防骗三招,辨别AI,避免上当。

“眼”——先找AI标识,一般标注在角落。如果没有,就看细节,比如皮肤纹理是否过于光滑无瑕疵、背景边缘是否模糊变形、画面颜色是否过于鲜艳等。

“耳”——只要在视频或通话中听到“转账”“投资”“购买”这类关键词,别急着操作,先通过官方渠道确认。对方推销的商品也要多留个心眼,谨防货不对板、以次充好。

“手”——打开国家反诈中心App,找到“AI内容鉴定”功能,一键上传,即可进行图像、视频、文本和音频的多维检测。

这些细节也能鉴伪

上海辟谣平台也曾多次介绍如何分辨真假“专家”。对AI生成的视频,还可以通过一些细节进行识别。

具体来看,AI生成的视频可能会频繁重复某种动作,因为生成模型在动作匹配上存在局限,只学习到几个关键动作,然后通过重复来呈现一段视频。眼球运动、面部细节等是AI生成视频最容易“露馅”的地方,AI生成人物的眨眼频率、嘴部动作等往往不自然、不真实。

目前,很多AI生成视频都存在缺乏个性化表情动作、画面抖动、违反物理规律等现象,它们属于“连续伪造画面的时序瑕疵”。

还有,不少AI生成的视频人物面部会有明显瑕疵,包括内脸区域的五官与外脸区域的发型等不一致;在针对特定名人的AI造假视频中,这类问题更明显。

本文来源:央视新闻微信公众号、上海辟谣平台