近日,在二手交易平台闲鱼App上,有很多人利用AI换脸技术将不雅视频女主角的脸替换成多位国内当红女明星的脸,将视频公开售卖。

其中一位卖家称,目前手里有100多个视频,其中包含杨幂、杨紫、迪丽热巴、关晓彤等30多位被换脸的当红女明星。

而如果想购买这些不雅视频,只要花75元,就可以从他手中得到100多个包含30多位女明星AI换脸视频。

有的商家还表示,明星换脸合成情境图的价格如下:一个明星30元,两个明星40元,三个明星50元,每个明星图片数量不同,大多数都是300张左右。此外,他还有视频100部,里面包括30多位明星。

对于闲鱼卖家滥用AI技术的不良行为,闲鱼工作人员表示,闲鱼平台眼里容不得沙子,对违反公序良俗的商品零容忍,一定会认真严肃处理,处罚卖家的违规行为。

电商平台不良卖家出售女明星AI换脸视频

两年前,AI换脸技术开始在国外兴起,这项制作换脸视频的技术叫做“Deepfake ”,当时就有一部分懂技术且不怀好意的的人将女明星换脸为不雅视频女主角。

2017年12月,一个网名为deepfakes的程序员在Reddit上发布一则视频,将《神奇女侠》主演盖尔·加朵、Taylor Swift等明星的脸替换到不雅视频中,获得极高点击量。

后来,随着一款换脸软件的出现,普通人不需要学习任何技术,就可以玩转换脸软件,于是换脸视频开始快速传播。

换脸技术还曾被用于公众人物的造假视频,国外很多公众人物都中招过。

据《华盛顿邮报》报道,2018年2月,这项AI换脸技术已经被Reddit、Twitter和Pornhub等网站禁用。

“ZAO"被约谈整改

近日,在朋友圈一夜之间爆红的AI换脸软件“ZAO”,突然成了千夫所指的罪人,本来将经典影视剧男女主角的脸替换成自己照片,是一件非常好玩的事,但是由于一些照片替换过之后,某些角度太过逼真,所以才引发用户对于刷脸支付安全和个人隐私安全的担忧。

9月3日,该软件官方发表致歉声明,并更改了用户协议,并称“ZAO”不会给用户带来支付风险,但还是有大量网友给其官方微博留言,要求注销账号并终止授权肖像。

9月4日,“ZAO”由于用户隐私协议不规范,存在数据泄露风险等网络数据安全问题,被工信部约谈,随后该软件回应,一定好好整改,保护用户隐私安全。

对于电商平台不良商家利用AI技术兜售明星换脸不雅视频牟利的行为,有律师表示,这种行为属于侵犯肖像权,同时还构成名誉侵权,传播不雅视频已经构成刑事犯罪,情节严重的甚至会判无期徒刑。

由于应用领域比较广泛,AI换脸技术很可能被心怀叵测的人利用,以假乱真,助力假新闻、假视频的滋生。不仅仅是明星,普通人也有可能成为受害者。