#AI换脸软件一夜刷爆# ,也引来黑产质疑
打开网易新闻 查看更多视频
#AI换脸软件一夜刷爆# ,也引来黑产质疑

换脸应用ZAO忽然火遍朋友圈,一边是用户的狂欢,一边是业内的担忧。ZAO究竟是技术的潘多拉魔盒,还是一场全民娱乐的盛宴?

广角镜邀请到知名IT律师赵占领先生对其引发的争议进行了解读。

ZAO通过用户授权降低平台获取内容成本,转嫁风险

ZAO引发争议的原因之一就是其允许用户上传素材,而这些素材将变成平台内容。也就是说,除了平台自身拥有的有版权的视频之外,APP也允许用户自己上传平台未获得版权授权的视频。而这些用户上传的视频也将对平台本身的内容形成补充。

ZAO上的视频素材和表情素材的来源:①与权利人进行合作,获得权利人对于素材的版权及其中包含的肖像权人的授权,②由用户上传,通过用户协议约定用户将上传的素材以及修改后的素材的版权中的修改权、信息网络传播权等权利以及转授权授予平台。

其中平台素材解决了ZAO的商业模式的合规问题,但是种类和数量有限。而用户上传的内容则能大大降低平台获取内容的成本,丰富了平台上的素材,有助于满足更多用户的需求。但是,用户上传的这部分素材,平台要求用户需要对自己上传的内容的版权负责,而平台方却无责任的使用这些内容。

ZAO用户协议疑似霸王条款,且没有尽到提醒的义务

ZAO通过用户协议获得用户对于所上传素材的版权以及肖像权的授权,而且包括转授权。这种用户协议由ZAO单方制定,属于格式合同。根据合同法的规定,格式条款的提供方免除其责任、加重对方责任、排除对方主要权利的,该格式条款属于俗称的霸王条款,法律上无效。

ZAO的用户协议中的前述授权条款是否属于霸王条款可能会有较大争议,毕竟,用户使用ZAO所提供的平台服务,平台要求用户对其上传的内容进行授权,实际上是希望用户对于获取平台服务支付一定的对价。

ZAO作为提供格式条款的一方,对于免除或者限制自己责任的格式条款,应采取足以引起对方注意的方式提醒用户注意。也就是说,对于用户协议中的授权条款,ZAO应该通过显著、醒目的方式提醒用户注意。

但是,目前ZAO并没有尽到提醒义务,授权条款淹没在用户协议的众多内容之中,绝大多数用户根本注意不到。

一不小心你就侵权了,而ZAO可能是“帮凶”

用户对自己在ZAO平台上所上传的内容,有些拥有版权、肖像权,或者从权利人处获得授权,但难免有用户自己上传的内容是未取得授权的。

比如自己在网上随意下载的内容,甚至是生活中偷拍的内容等等。而用户未经授权将影视剧的片段上传到平台,其行为就可能构成版权侵权等。

ZAO对于用户的侵权行为是否承担责任一般根据通知删除规则来判断,即当权利人向ZAO发出侵权通知后,ZAO应该及时删除侵权内容,但是ZAO对于用户上传的侵权内容属于明知或应知的除外。比如,用户上传的是热播影视剧中的片段,而ZAO对用户上传的内容进行了推荐,很有可能构成“帮助侵权”。因为影视剧一般是由投资方花费巨资投资,基本不可能将其版权授权给一个普通的个人,所以在以往的司法实践中,此类案件中,提供信息存储空间的平台很难根据通知删除规则而免责。

“视频换脸”技术中立,但也有可能变“魔鬼”

谈及有关“换脸视频”的话题,赵占领表示“换脸视频”除了带来一系列的社会问题之外,还对现有的法律构成了挑战,在“有图有真相”被打破之后,即使有视频也未必就有真相。

这一技术被滥用,或者是被那些不法之徒及有恶意的人使用,便等于打开了潘多拉的魔盒。以后,我们可能会有更多机会看到某个公众人物“出演”的色情电影、某个官员“发表”敏感言论的视频、某个企业家“从事”违法犯罪行为的画面……

网友对于相关事件的担忧

以往,很多司法案件中,视频都曾作为一方甚至双方的证据,而且证明效力比较高。但是,AI技术被滥用于伪造视频之后,使得视频的证明效力减弱,甚至存在着被完全推翻的可能。

AI技术在带来商业变革的同时,也带来一系列的社会问题、法律问题,但是技术本身是中立的。因此,如何关上AI技术打开的潘多拉魔盒,关键不在于禁止新技术,而是要对滥用技术从事的违法犯罪行为进行规制。

赵律师呼吁,对于这种新型的违法或犯罪行为,需要及时完善现有法律规则。即如何定义这种违反或犯罪行为,以及这种行为所带来的巨大负面伤害。此外,还要规定对这种违法或犯罪行为在惩罚时适用什么样的标准。应该通过更多的手段让民众知晓这种行为带来的危害性和严重性,使这种技术得到善用。同时让民众更重视自己的隐私保护,让一些好事之徒没有可乘之机。

推荐

<br/><a href="https://news.163.com/19/0831/16/ENU0JH8H0001899N.html">"ZAO"威胁刷脸支付? 支付宝:不管多逼真都无法突破</a><br/>“仅需一张照片,出演天下好戏。”一夕之间,一款名为ZAO的App爆火。用户上传一张照片,用AI换脸功能,将短视频中的演员换成自己的脸,就可以“过足戏瘾”,还能“和自己的偶像同框”。<br/>但也有用户评论其“(存在)刷脸支付安全隐患”。蚂蚁金服相关人士8月31日对新京报记者表示,目前网上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。<br/>蚂蚁金服相关人士称,“刷脸支付”采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否为照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。<br/>此外,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。同时,支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作,开通之后才能进行支付,用户也可以随时关闭。而且,即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。

回顾

<br/><a href="https://tech.163.com/19/0831/08/ENT6K5DM000999LD.html">ZAO换脸APP刷屏真相:技术曾被用于情色视频</a><br/>昨日晚间,一个名为“ZAO”的AI换脸APP忽然火爆全网!<br/>用户只需要上传一张照片,就能将自己的脸替换成“小李子”“周润发”“白展堂”“玛丽莲梦露”“绯红女巫”等人的脸,其人脸融合效果非常棒,几乎可以以假乱真。