最近，有网友发消息称，“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，让不少老人信以为真，疯狂跟单。
图源：视频截图
仔细看网友提供的视频，张文宏正在反复介绍一种产品，口型是他的、声音也是他的，乍一看跟真的似的。但仔细一看，视频画质潦草、口型也对不太上，对AI多少有一些了解的人们可以分辨出来，这是AI合成的视频，但互联网了解不深的老年人的确不好甄别真伪。
这段视频也在网友曝光后，从账号内被删除，只剩商品橱窗里还保留着售卖的页面，并显示已售1180件商品。
在AI技术面前
“眼见为实”的常规认知正在被挑战
当下，AI合成技术已经非常成熟且已被频繁应用在短视频制作中。调取一段录像，输入一段语音，便能提取克隆相关的嗓音特质，并针对“自行设计”的台词，智能修改口型。一段足以“以假乱真”的“带货”视频，再加上张文宏的名人效应，其形象和言论具有一定的权威性和影响力，让不少消费者信以为真。
对此，张文宏医生也表示既愤怒又无奈。他曾多次向平台投诉类似账号，但这样的卖货账号不止一个，且一直在换，让人筋疲力尽。“这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。”不难想象，受害者们发现真相后的沮丧与失落。
在类似的AI合成冒充名人的骗局中，上当者比比皆是。
据报道，今年11月，江西一位老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自由AI合成的视频；今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌；更有甚者，已然过世的名人，也有被“借尸还魂”带货的……
在AI技术面前，“眼见为实”“有图有真相”的常规认知正在被挑战，人们对于网络信息传播的信任感也在被挑战。一些由AI合成的虚假视频内容，成为别有用心之人的造谣敛财工具，不仅影响着公众人物的专业形象和社会公信力，更破坏了互联网的诚信体系。
也能构成肖像权侵害吗？
图源：央视新闻
近日，广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定，该公司的行为侵犯了博主的肖像权。
张先生是一位知名短视频博主，经常在各大自媒体平台上发布含本人肖像的国风汉服装扮的短视频。最近，有粉丝提醒他，在一款美颜拍照小程序当中，他的汉服形象成了视频模板，还需要付费使用。张先生发现，小程序的运营方是某科技公司，付费用户可以用此模板进行“AI换脸”，体验国风妆造。张先生的代理律师严茜告诉记者，在意识到自己的肖像权被侵害后，张先生把这家公司告上了法院。
严茜：他是在古风圈也是小有名气的，有粉丝告知我们说是有这样一个侵权，发现他受邀拍或者自己拍的这些视频、图片被AI换脸。换脸后的这种妆造跟当事人是一模一样的。通过发饰、妆造或者面部的表情，能够识别出是原告，我们也认为侵犯了原告的肖像权。
AI换脸也称为深度伪造技术，其实质是一种基于人工智能的人体图像合成技术。AI换脸技术将个体的面部形象、身体形象甚至声音语调等进行分解，又与他人的形象特征进行融合、拼凑。本案中的AI换脸行为就是用用户上传的面部特征替换了原视频中张先生的面部特征。广州互联网法院综合审判三庭庭长曹钰说，本案的焦点就在于，没有使用他人面部形象的情况下是否构成侵害肖像权。
曹钰：科技公司答辩理由主要是认为，合成模板它只是利用了涉案视频的妆容、服饰、发型光线、镜头切换等这些非人格的要素，认为是没有利用人格要素，就认为公众结合视频是未能识别出视频中人物是原告本人的。而且他认为这个视频也没有对原告的肖像进行丑化污损，所以说本案的争议焦点主要是在于，在没有使用原告的面部特征的情况下，被告的这样的行为是否侵害原告的肖像权。
法官指出，由于面部特征具备极强的可识别性，所以在传统观念中，面部形象属于肖像范围并无争议。但在去除面部特征的情况下，一些不具备明显特征的身体形态、肢体动作可识别性较弱，可能不足以使相关公众联想到特定自然人。
但值得注意的是，不同人物形象，可识别性的判定应有不同标准。例如，对于媒体曝光机会较多的公众人物来说，他外在形象为公众所识别的可能性更高。
曹钰：我们认为张某在网络上发布的视频当中，是以古风妆容并着的汉服出镜的，他的面部形象和发型衣着体貌动作特征，这些是共同构成了它的外部形象。涉案视频的人物的面部特征，虽然说是进行了一定的调整，但是通过视频中其他要素的比对，可以判断模板中的人物原型就是张某，结合张某的粉丝数量比较多，他的作品也获得大量点赞，而且他作为汉服装扮为主要特色的视频博主，他除了面部特征以外的发型、服饰、动作这些特征，比普通人具有更高的可识别性。经过综合判断，原告除了面部特征以外的形象，还是属于可以被识别的外部形象，张某对这个形象是有肖像权的。
广州互联网法院审理认为，某科技公司未经张某同意，擅自利用张某的身体形象使用AI技术制作“换脸”视频，构成对张某肖像权的侵害，结合本案具体案情判令某科技公司向张某赔礼道歉并赔偿损失2000元。
如何有效防范AI技术的滥用？
图源：央视新闻
随着技术的快速发展，近两年，AI领域迎来了一轮发展热潮。但AI带来便利的同时也暴露出不少风险隐患。
对此，曹钰表示，AI技术的发展使图像、视频等更加容易被修改，而且修改幅度更大、更深入、更容易使观看者难以分辨。为此，我们应当充分注意到AI技术对肖像权可能带来的影响，通过强化行政、司法和网络平台的监管、保护，以及全社会共同提高保护意识来更好地保护肖像权在内的各类合法权益。
在2022年，我国颁布的《互联网信息服务深度合成管理规定》就划定了深度合成技术的使用规范，包括不得利用深度合成服务侵犯他人合法权益等法律规定。
中国政法大学传播法研究中心副主任朱巍表示，对AI的约束要跟上AI技术的发展，在传播渠道上，可以对AI作品实现溯源。
朱巍：现在短视频平台，它实际上无法来判定这个作品到底是不是AI合成的，除非这个作品是在本平台用AI方式来完成的，生成人工智能平台和视频传播平台有没有一种方式能给AI的作品有一个标记，平台在加工处理在传播过程中也能够进行分辨，平台必须要对这种AI合成的作品有完全的技术上和制度上的把控手段。
央视网综合央视新闻、光明日报
热门跟贴