狐妹发现,技术被用于作恶,总是比行善更快一步。

ChatGPT 发布以后,AI 技术的发展实现了量变到质变的突破,随之而来的犯罪事件也层出不穷。

打开网易新闻 查看精彩图片

技术发展的初衷原本是为了造福人类。

但还没等到打工人借助 AI 提前养老退休,咱们就先见识到了 AI 换脸、AI 诈骗……

打开网易新闻 查看精彩图片

最近,想必大家都听说了那个差点被骗走 430 万的大冤种老板。

根据官方媒体报道,4 月 20 日,福州市某科技公司的法人代表郭先生,突然接到了好友的微信视频。

好友对郭先生说,自己的朋友正在外地竞标,需要 430 万保证金,而且需要公对公账户过账,所以想要借用郭先生公司的账户走一下账

对方还找郭先生索要了银行卡号,声称已经把钱打到郭先生的账户上。

按理来说,这么大一笔钱,肯定不会说转就转。

但郭先生在视频通话中“确认”了好友的身份,无论是面部还是声音,都跟好友一模一样。

再加上对方还提供了银行转账底单的截图。

打开网易新闻 查看精彩图片

因此,他便相信这是真的,10 分钟内就把钱转了过去。

直到他电话联系好友的时候,才猛然发现自己被骗了。

接受采访时,郭先生表示:

“从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去,而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”

打开网易新闻 查看精彩图片

谁能想到,骗子不仅盗用了好友的微信号,还利用智能 AI 换脸和拟声技术伪装成好友,主动发起微信视频。

这骗术,换做任何一个人都很难识破吧。

骗子实在是太狡猾了!

不幸中的万幸,接到报警以后,福州、包头两地警银迅速启动止付机制,成功追回了 336.84 万元。

打开网易新闻 查看精彩图片

但还是有 93.16 万元被转移,这一部分钱估计是追不回来了……

事件一出,立刻引爆了热搜。

打开网易新闻 查看精彩图片

*图源微博

过去,骗子就常常伪装成亲戚朋友进行诈骗,一般情况下,只要给当事人打个电话或者视频,就能识破骗局。

但现在,视频和电话也不可信了。

利用 AI 生成语音、视频的门槛越来越低,懂这项技术的人只要稍微动点歪心思,就有可能实施诈骗。

此前,惠州电视台也报道了一起 AI 诈骗案件。

一位父亲接到了女儿被绑架的电话,对方要求他半小时内准备 30 万赎金,不然就撕票。

打开网易新闻 查看精彩图片

*图源惠州电视台

电话另一头传来女儿的哭声,几乎跟当事人女儿的声音一模一样,这位父亲差点就信了。

幸亏他的妻子留了个心眼,拨打了 110,才发现刚刚的是诈骗电话。

而 AI 换脸技术除了可以用于诈骗以外,还可能被用于其他的违法犯罪。

例如最近的“女明星”带货事件。

很多网友发现,点进直播间里,带货的主播全是“杨幂”、“迪丽热巴”、“佟丽娅”这些当红女星。

原来是部分主播利用实时变脸软件,把自己的脸替换成女明星的脸,然后在直播间卖力地带货。

打开网易新闻 查看精彩图片

*主播换脸成“迪丽热巴”在直播间带货

一些不明真相的网友看到明星“露脸”直播,以为真的是明星本人,其实这只不过是一场博流量的骗局

有律师表示,这种行为涉嫌欺诈或是虚假宣传,让公众误以为就是明星在带货。

如果产品出现质量问题,或者主播带货时说出不恰当言论,有可能对明星本人带来负面影响。因此,明星有权提出诉讼。

打开网易新闻 查看精彩图片

*AI 换脸技术展示

然而,尽管这么做是违法的,但它的维权成本却非常高,以至于难以维权。

技术的使用门槛太低,再加上使用人数太多,要找到侵权人非常困难。

就目前来看,这项技术仍然处于法律的灰色地带。

甚至,网络上已经出现了专门的 AI 换脸教程……俨然成为了新的流量密码。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

*图源抖音截图

部分普通人可能只想用它来娱乐,但总有一些人试图用它来谋利,甚至干坏事。

狐妹觉得,光靠法律规定可能还管不住他们,必须得用魔法打败魔法。

不知道有没有高人能出一种反制的技术?在审核那一关拦住他们,用 AI 制止 AI 犯罪?类似于黑客与白客的关系。

打开网易新闻 查看精彩图片

毕竟这些用 AI 技术打造的高端骗局,普通人几乎毫无招架之力。

幸好,相关的法律也在尽快出台,对 AI 技术进行监管。

去年 12 月,《互联网信息服务深度合成管理规定》发布,对人脸生成、替换、操控,合成人声、仿声等深度合成内容都有明确约束。

前不久,抖音也发布了《关于人工智能生成内容标识的水印与元数据规范》,禁止利用生成式 AI 发布侵权内容。

全世界都在呼吁对 AI 生成的内容进行强制性规定,OpenAI 也考虑在 ChatGPT 中添加数字水印,防止模型被滥用。

狐妹希望,AI 技术的进步能够给更多的人带来好处,而不是成为一部分恶人犯罪的武器。

参考资料:

雷科技:AI换脸10分钟骗走430万!普通人如何预防AI诈骗?紧急转发朋友!

央视新闻:“AI换脸”诈骗防不胜防?要用“法”打败“魔法”!

腾讯网:AI 诈骗上热搜!长相声音都对,“换脸”的“朋友”骗了他430万…

作者:小羽