2026 年 3 月 23 日,全球科技安全机构发布预警,深度伪造技术已经实现实时交互突破,能实时生成真人视频、语音,模拟真人进行视频通话、语音交流,肉眼和普通设备很难辨别真假,数字身份认证体系面临崩塌风险,金融、政务、社交等领域的安全隐患大幅提升,全网拉响数字安全警报

打开网易新闻 查看精彩图片

深度伪造技术简单来说,就是利用 AI 技术伪造真人的视频、语音、图片,以前的深度伪造技术需要提前制作,不能实时交互,很容易被辨别,而这次升级后的技术,能实时生成、实时交互,对方在视频通话中,能实时回应你的问题,表情、动作、声音和真人完全一致,就算是亲人、朋友,也很难辨别真假,危险性极高。

这项技术的突破,带来了极大的安全隐患。首先,金融安全受到威胁,不法分子可以利用深度伪造技术,伪造亲人、朋友、领导的视频或语音,进行诈骗,要求转账、汇款,普通人很难辨别,容易上当受骗,财产安全受到严重威胁;其次,政务安全受到影响,不法分子可以伪造政务人员的身份,进行虚假政务办理、诈骗,扰乱政务秩序;最后,社交安全受到冲击,伪造他人视频、语音进行诽谤、造谣,侵犯他人隐私和名誉,引发社交纠纷。

打开网易新闻 查看精彩图片

目前,全球已经出现多起深度伪造实时交互诈骗案例,不法分子利用伪造的亲人视频通话,骗取受害者转账,涉案金额巨大,而且破案难度极高,因为伪造的视频、语音没有痕迹,很难追踪源头。科技安全机构表示,深度伪造技术的实时交互突破,是当前数字安全领域最大的威胁,现有的人脸、声纹身份认证体系,已经无法防范这类诈骗,必须升级安全防护技术。

针对这一安全隐患,国内多家科技企业已经开始行动,研发新一代反深度伪造技术,通过 AI 算法识别伪造视频、语音的细微痕迹,推出多重身份认证体系,比如人脸 + 声纹 + 密码 + 短信验证等多重防护,提升安全等级。同时,相关部门也加大了对深度伪造技术的监管力度,严禁不法分子利用该技术进行诈骗、造谣等违法活动,严厉打击相关违法行为。

打开网易新闻 查看精彩图片

对于普通用户来说,也要提高安全防范意识,遇到视频、语音要求转账、汇款的情况,一定要通过电话、见面等多种方式核实身份,不要轻易相信;不要随意泄露个人信息、人脸、声纹等生物特征信息,避免被不法分子利用;安装正规的安全防护软件,开启反诈提醒,防范各类诈骗。

很多网友表示,科技进步太快,反而带来了安全隐患,以后视频通话都不敢轻易相信了,希望相关部门能尽快完善防护技术,保障大家的数字安全。科技行业人士也呼吁,要合理利用 AI 技术,加强技术监管,避免技术被滥用,让科技造福人类,而不是带来危害。