全文共5941字，阅读大约需要13分钟
“我打了两次视频电话，都没有发现对方不是自己的爸妈”，李女士称，她曾被AI换脸骗走8000元。
北京商报记者丨 金朝力 实习记者 刘曼华
近日，知名传染病学专家张文宏直播卖蛋白棒的视频，让不少老人信以为真，疯狂买单，橱窗商品已售出上千件。但最终发现这是一起利用AI换脸技术合成的侵权视频。
张文宏等名人成为被AI技术假冒的“躺枪者”，并非个案。
今年315期间，本报曾发表了《AI换脸下的扭曲生意链》一文，揭露一些不良商家利用AI换脸构建起一条低成本牟暴利的灰色产业链。9个月后，AI换脸骗局不仅没有得到遏制，反而愈演愈烈。未来如何引导AI换脸回归正轨，不仅需要平台方更多的监管，也真正考验相关管理者的智慧。
名人到公众 泛滥的销售产业链
添加一段视频，输入一段语音，便能提取克隆相关的嗓音特质，根据预设好的文本内容，智能修改口型。当前，AI换脸技术已经非常成熟，在合成软件上生成这样一个时长1分钟的换脸视频，只需等待几小时。
北京商报记者使用了几款热门AI换脸合成软件发现，仅需提供一张照片，就可以生成写真照片、跳舞视频等。如果不确定需要哪种风格的照片或视频，软件内还提供各种模板，包括古风汉服、民族服饰、热门大咖、明星换脸等选择。
AI技术的进步给用户带来了便利性和娱乐性，但同时，由AI换脸引起的侵权和违法行为不在少数。10月30日，根据北京互联网法院发布的数据，近一年共受理个人信息保护纠纷案件113件，呈增长趋势，侵权主体以互联网企业为主，AI换脸等新型侵权案件不断涌现。
据报道，换脸明星名人直播带货的产品销量往往数小时可达上千件，并且已形成换脸销售产业链；山东济南一男子接通了由AI换脸成亲戚的视频通话，7秒的视频时间被骗了30万元；今年2月，一跨国公司在开视频会议时，不法分子换脸成公司高管，让员工先后15次将2亿港元转到指定账户。
“不仅是面部特征一样，AI还会说方言，我打了两次视频电话都没有发现对方不是自己的爸妈。”曾被AI换脸骗走8000元的李女士向北京商报记者说道。
天使投资人、资深人工智能专家郭涛说：“AI换脸技术主要基于深度学习算法，尤其是生成对抗网络（GAN）。通过不断训练，生成器能够逐渐生成难以被判别器识别的假脸。同时，结合面部特征点识别、3D建模等技术辅助，实现脸部表情、动作等逼真合成。”
面对这些明目张胆的侵权行为，张文宏在接受采访时表示：“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓，特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。”
此外，张文宏也考虑求助警方，但对方看不见、摸不着，经常更换账号，很难找到准确的报警对象。
郭涛补充到，当前AI技术飞速发展，特别是深度学习算法的不断成熟，使得换脸技术的门槛大大降低。“可以说，AI换脸的泛滥与技术门槛的降低具有密不可分的关系。”
侵权与违法 被践踏的肖像权
“我的人脸信息他们从何获得？”
“AI换脸违法吗？”
对于AI换脸所触及到的侵害个人权益和欺诈问题，北京观韬律师事务所执行合伙人、知识产权业务委员会主任李洪江律师对此直言：“AI根据用户指令生成的某些换脸视频可能涉嫌侵权甚至构成违法。”
近日，广州互联网法院就审结了一起由“AI换脸”视频合成模板引发的侵权纠纷。一位知名短视频博主发现自己的汉服装扮视频被某科技公司擅自制成了付费“AI换脸”模板。法院审理后认定，该公司的行为侵犯了博主的肖像权。广州互联网法院综合审判三庭庭长曹钰说，本案的焦点就在于，没有使用他人面部形象的情况下是否构成侵害肖像权。
此外，北京互联网法院提供的典型案例也显示，原告廖某是一名古风短视频博主，在全网拥有较多粉丝。被告某科技文化有限公司在未经原告授权同意的情况下，使用原告出镜的系列视频制作换脸模板，并上传至其运营的案涉软件中，提供给用户付费使用并以此牟利。最终法院判决被告向原告赔礼道歉、赔偿精神损害抚慰金和维权费用。
根据《民法典》，公民享有肖像权，这意味着他人不得随意使用肖像，同时，对自然人声音的保护，参照适用肖像权保护的有关规定。
李洪江认为，AI换脸技术被滥用后，不仅会侵犯他人的肖像权，如果被用于丑化、污损他人形象，或制作不雅视频等会侵犯他人的名誉权，另外，涉及获取、处理、使用他人的人脸信息等敏感个人信息，且未经权利人同意则可能侵犯个人信息权益。
李洪江进一步指出：“利用换脸技术进行直播带货，涉嫌违反民法典关于肖像权和个人信息保护的规定，同时可能涉嫌虚假宣传；而如果利用换脸技术进行诈骗，违反了刑法关于诈骗罪和帮助信息网络犯罪活动罪等的规定，可能构成犯罪。”
对此，郭涛建议：“可以通过观察面部细节是否自然、表情动作是否连贯，以及视频中光影效果的变化来判断是否是AI换脸视频。”
“如遇到AI换脸视频，受害者要第一时间保存证据，同时注意保存与侵权行为相关的所有信息，并寻求专业的技术鉴定机构对涉嫌侵权的作品进行鉴定，以确认其是否由AI合成。”李洪江补充道。
预防和识别 全链条进行治理
AI换脸等新型侵权案件不断涌现，除了用户自身提高网络安全意识，对于AI换脸相关风险的预防与整治，需要从源头进行监管、司法形成多主体、全链条的治理。
“AI换脸与个人肖像密切相关，不免引起公众对肖像权与个人信息权益的担忧。”北京互联网法院在阐述上述案件典型意义时指出，本案明确了肖像权“可识别性”不局限于面部，但应当主要集中于自然人的个人生理特征，避免肖像权的任意扩张影响妆容、造型等领域的合法使用及创作传播。
现阶段，不少平台已经明确要求在使用AI换脸技术时标明身份，并对不当使用的行为作出了处置措施。
3月26日，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容；12月15日，“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告，已处理532条内容，关闭账号209个。
另外，相关规定也为AI换脸划定了“底线”和“红线”。
2023年起施行的《互联网信息服务深度合成管理规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，深度合成服务提供者应当以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。
但AI换脸技术涉及复杂的算法和数据处理过程，使得法律难以全面覆盖所有可能的滥用情况。
李洪江认为：“AI换脸技术的法律地位尚未明确，导致侵权责任的界定困难。一方面，AI换脸技术的高度逼真性和隐蔽性，受害者往往难以发现侵权行为并获取有力证据；另一方面，AI换脸技术发展迅速，不断出现新的应用场景和滥用方式，使得法律难以跟上技术的步伐。”
“从多主体，全链条预防和识别这类内容是解开骗局的关键。”在郭涛看来，从加强监管入手，在源头上阻止这些虚假视频的传播；另外，要完善法律法规，明确AI换脸技术的使用规范和违法界限。
对于未来在监管方面，视频平台如何应对，北京商报记者采访了多家短视频平台企业，但多数平台都回避了这个问题。
某视频平台内部人士对北京商报记者表示，AI换脸是全行业问题，源头来自于AI换脸网站，平台也深受其害。建议全行业形成规范，在AI内容生成时即自动植入某种计算机能够识别的标记，以便于各平台识别AI内容，防止虚假信息传播。
此外，北京商报记者联系了相关监管部门，但截至发稿均未得到回复。
北京商报记者之后也拨打了12345热线和12315热线，两方均表示：如果遇到AI换脸视频，可以帮用户联系到相关平台方，根据用户要求进行视频下架等处理；如AI换脸视频涉及到诈骗，则建议尽快报警。
中国政法大学传播法研究中心副主任朱巍表示，对AI的约束要跟上AI技术的发展，在传播渠道上，可以对AI作品实现溯源。
据了解，此前，全国人大法工委曾就AI换脸现象作出回应，表示将不断建立健全制度和监管，以保障公民的合法权益。今年9月14日，国家网信办起草了《人工智能生成合成内容标识办法（征求意见稿）》，该办法出台后，将进一步加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任。
编辑丨王晓然
图 片丨壹图网、视觉中国、 AI换脸软件截图
热门跟贴