打开网易新闻 查看精彩图片

打开网易新闻 查看精彩图片

文 | 空纸

编辑 | 空纸

前言

“眼见为实”这句古老的谚语,曾是我们判断真伪的金科玉律。

然而,在科技日新月异的今天,这条真理似乎正在被悄然改写。

人工智能技术的飞速发展,尤其是AI换脸技术的出现,让“眼见”变得不再可靠。

试想一下,如果一个你熟悉的面孔,用熟悉的声音向你求助,你会怀疑吗?

只需一张照片,骗子就能实时进行AI换脸,冒充你最亲近的人,对你实施精准诈骗。

这种新型诈骗手段的成功率令人咋舌,甚至接近100%,这意味着几乎所有接到此类诈骗电话的人都会上当受骗。

在AI时代,我们该如何守护自己的财产安全?如何识破这披着科技外衣的“画皮”?

打开网易新闻 查看精彩图片

AI换脸诈骗案例

近年来,AI换脸诈骗案件频发,受害者遍布全国各地,损失金额巨大。

这些案例揭示了AI换脸诈骗的运作模式,也敲响了我们防范新型网络犯罪的警钟。

2023年5月,福州的郭先生经历了一场噩梦般的骗局

一个看似平常的微信视频电话,让他在短短10分钟内损失了430万元。

电话那头,是郭先生熟识的好友,对方声称在外地竞标,急需430万元保证金,由于需要公对公账户过账,希望借用郭先生的公司账户进行周转。

出于对朋友的信任,郭先生没有过多犹豫,甚至在对方还未转账的情况下,就将430万元转到了指定账户。

事后,郭先生再次联系朋友确认时,才惊觉自己被骗了。

原来,那通视频电话中的“好友”,并非真人,而是一个由AI技术合成的虚拟人物。

骗子利用AI换脸和拟声技术,完美地模仿了郭先生朋友的容貌和声音,让他放松了警惕,最终落入陷阱。

打开网易新闻 查看精彩图片

2024年3月,内蒙古的李女士也遭遇了类似的AI诈骗。

一个自称是她老同学的人加了她的微信,并主动发起了视频通话。

然而,视频通话的质量很差,画面昏暗,声音也断断续续。

随后,对方以信号不好为由,改用文字聊天。

在聊天过程中,“老同学”声称自己正在进行一个大项目,急需资金周转,希望通过李女士的账户进行中转,并承诺事后会将钱转回。

为了打消李女士的疑虑,“老同学”还伪造了一张196万元的银行转账记录截图。

信以为真的李女士,将自己40万元的积蓄转给了对方,结果发现自己被拉黑了。

联系真正的老同学后,李女士才意识到自己上当受骗。

值得庆幸的是,警方及时介入,拦截了李女士被骗的40万元。

在随后的调查中,警方发现该微信账号的实名信息为刘某,而刘某名下竟然注册了12个微信号。

据刘某交代,他是在网上看到“租用私人实名认证手机号注册社交聊天账号可以赚钱”的兼职信息后,才注册了这些微信号,并将账号交给他人操作。

警方进一步调查发现,操控这些账号的犯罪团伙位于境外。

打开网易新闻 查看精彩图片

安徽池州的陈先生则遭遇了另一种类型的AI换脸诈骗。

骗子利用AI技术,伪装成了陈先生的领导,并通过视频通话与其联系。

由于视频中“领导”的言谈举止与平时无异,陈先生对对方的身份深信不疑。

随后,“领导”以工作需要为由,要求陈先生转账60万元。

为了避免引起怀疑,“领导”还伪造了一张转账截图,声称已经将钱转到了陈先生的账户。

然而,陈先生并没有收到任何款项。

“领导”解释称,由于系统故障,需要陈先生先将钱转回,以便重新操作转账。

出于对领导的服从和信任,陈先生按照“领导”的要求进行了转账,结果发现自己被骗了。

这三个案例,虽然情节各异,但都指向了同一个可怕的事实。

AI换脸技术正被越来越多的犯罪分子利用,成为新型诈骗的利器。

打开网易新闻 查看精彩图片

眼见不再为实

AI换脸诈骗的兴起,离不开AI技术的“加持”。

那么,这项技术究竟是如何运作的?它又有哪些特点,使得它能够如此轻易地欺骗人们的眼睛和耳朵?

AI换脸,顾名思义,就是利用人工智能技术,将一个人的面部特征“移植”到另一个人的脸上。

这项技术的核心在于深度学习算法,通过大量的图像数据训练,AI可以学习到人脸的各种特征,包括五官、表情、肤色等等。

然后,AI可以根据需要,将这些特征重新组合,生成新的面部图像。

换句话说,AI可以像一个技艺高超的“画皮师”一样,根据需要“绘制”出任何人的面孔。

与AI换脸类似,AI拟声技术也可以利用深度学习算法,学习和模仿人的声音。

通过分析大量的语音数据,AI可以学习到一个人的音色、语调、语速等特征,并根据需要生成新的语音。

这意味着,AI不仅可以让“换脸”后的人物“开口说话”,还能让他们的声音与真人别无二致。

打开网易新闻 查看精彩图片

AI换脸和拟声技术的结合,使得骗子可以轻松地伪造视频和语音,制造以假乱真的效果。

这种“眼见为实”的假象,极具迷惑性,很容易让人们放松警惕,从而落入骗子的圈套。

尤其是在视频通话中,人们往往更倾向于相信自己看到的和听到的,而忽略了其他可能存在的风险。

除了技术本身的特性外,AI换脸诈骗还有一些其他的特点,使其更具欺骗性。

骗子往往会利用熟人关系或职权关系,进一步降低受害者的警惕性。

同时骗子会精心设计诈骗场景,制造看似合理的借口,例如“竞标保证金”、“项目资金周转”、“系统故障”等等。

这些借口往往与受害者的生活或工作密切相关,更容易让他们信以为真。

并且骗子还会利用一些辅助手段,例如伪造的转账记录、虚假的身份证明等等,来进一步增强诈骗的可信度。

正是这些技术和非技术因素的共同作用,使得AI换脸诈骗成为了一种极具威胁的新型犯罪。

打开网易新闻 查看精彩图片

AI换脸诈骗的受害者群体广泛,但老年人更容易成为这类诈骗的目标。

这是因为老年人,尤其是独居老人,更容易感到孤独,渴望与亲人朋友联系。

骗子正是抓住了这一点,利用AI技术伪造亲人的形象和声音,博取老人的信任,进而实施诈骗。

此外,老年人由于生理机能的衰退,视力和听力下降,对新技术的认知也相对滞后,更难分辨AI合成的视频和语音与真人的区别。

有记者曾做过实验,将真实的语音和AI合成的语音播放给老年人听,结果发现,大多数老年人都无法准确分辨。

即使是听到自己亲人的声音,他们也很难分辨真伪,往往会认为AI合成的声音就是自己家人的声音。

除了老年人,AI换脸技术也可被用于冒充公众人物,损害其肖像权并误导粉丝消费。

公众人物的形象和声音更容易获取,骗子可以利用这些素材合成虚假的视频和音频,用于宣传虚假产品或服务,或者进行其他类型的诈骗活动。

打开网易新闻 查看精彩图片

如何防范AI换脸诈骗

面对日益猖獗的AI换脸诈骗,我们该如何保护自己和家人呢?

接到亲友的借钱请求,尤其是涉及大额转账时,一定要通过其他联系方式进行核实,例如拨打对方的电话、使用其他即时通讯软件、或者当面确认。

不要轻信单一渠道的信息,尤其是视频通话。

即使视频中的人看起来和你的亲友一模一样,也可能是AI合成的假象。

在视频通话中,要仔细观察对方的生物特征,例如眨眼频率、嘴部运动、面部表情等,AI合成的视频往往在这些细节上存在破绽。

例如,人物的眨眼频率可能不自然,嘴部运动可能与语音不同步,面部表情可能僵硬或不协调。

此外还要留意视频的背景和光线,如果背景模糊不清,光线昏暗,则更要提高警惕。

打开网易新闻 查看精彩图片

涉及转账交易时,一定要提高警惕,不轻易相信陌生人或不熟悉的账号。

要核实对方的身份,确认交易的真实性,不要被花言巧语或虚假的承诺所迷惑。

记住,天上不会掉馅饼,任何不合理的“好处”都可能是陷阱。

接到陌生电话时,要避免主动透露个人信息,例如姓名、地址、身份证号、银行卡号等等。骗子可能会利用这些信息进行AI合成,伪造你的声音和形象,用于诈骗你的亲友。

在不确定对方身份的情况下,尽量不要过多交谈,可以直接挂断电话。

与亲友之间可以约定一些只有彼此知道的安全问题,在进行涉及金钱的沟通时,可以通过这些安全问题来验证对方的身份。

关注公安机关、银行等官方机构发布的防诈骗信息,了解最新的诈骗手段,提高自己的防范意识。

如果发现自己或家人被骗,要及时报警,并保留相关证据,例如聊天记录、转账记录、视频截图等等。

打开网易新闻 查看精彩图片

结语

AI技术是一把双刃剑,它在为我们带来便利的同时,也带来了新的风险和危害。

AI换脸技术被滥用于诈骗,就是一个典型的例子。

但我们也必须清醒地认识到,技术本身没有善恶之分,关键在于如何使用它。

只有社会各界共同努力,才能有效遏制AI换脸诈骗的蔓延,守护人民群众的财产安全,维护社会和谐稳定。

在享受科技进步带来的便利的同时,我们也要时刻保持警惕,谨防落入科技陷阱。