丹麦哥本哈根（美联社）——在2021年，丹麦视频游戏直播者玛丽·沃森收到了来自一个未知Instagram账户的她自己的照片。
她立刻认出了这张假期快照来自她的Instagram账户，但有些地方不同：她的衣服被数字化移除，看起来像是裸体。这是深度伪造。
“这让我感到非常震惊，”沃森回忆说。“我当时突然泪如雨下，因为我发现自己竟然是裸体的。”
在她经历后的四年里，深度伪造——高度真实的人工智能生成的图像、视频或音频——不仅在全球变得更容易制作，而且看起来和听起来也更加真实。这得益于技术的进步和生成性AI工具的普及，包括OpenAI和谷歌的视频生成工具。
这些工具让数百万用户能够轻松生成内容，包括用于恶意目的，比如描绘名人泰勒·斯威夫特和凯蒂·佩里，甚至干扰选举和羞辱青少年及女性。
版权法
为了应对这个问题，丹麦正在寻求保护普通丹麦人，以及那些可能被模仿和分享外貌或声音的表演者和艺术家。一项预计明年初通过的法案将通过对深度伪造的分享实施禁令来改变版权法，以保护公民的个人特征——例如他们的外貌或声音——不被未经他们同意而模仿和在线分享。
如果该法案生效，丹麦公民将拥有自己肖像的版权。理论上，他们将能够要求在线平台删除未经他们许可分享的内容。该法律仍将允许恶搞和讽刺，但具体如何界定还不清楚。
专家和官员表示，丹麦的立法将是政府为打击通过深度伪造传播虚假信息而采取的最广泛措施之一。
咨询公司Latent Space Advisory的创始人、生成性人工智能领域的专家亨利·阿杰德表示，他赞赏丹麦政府认识到法律需要改变。
“因为现在，当人们问‘我能做些什么来保护自己不被深度伪造？’我大多数时候的回答是：‘你能做的其实不多，’”他说，“而我基本上是在说，‘完全从互联网中消失。’这其实是不太可能的。”
他补充道：“我们不能假装这仍然是我们对待身份和尊严这些关键部分的正常思维方式。”
深度伪造与虚假信息
美国总统唐纳德·特朗普在5月签署了一项两党立法，使在未经个人同意的情况下故意发布或威胁发布亲密图像（包括深度伪造）成为非法。去年，韩国推出了措施以遏制深度伪造色情内容，包括更严厉的惩罚和加强对社交媒体平台的监管。
丹麦文化部长雅各布·恩格尔-施密特表示，该法案在哥本哈根的立法者中获得了广泛支持，因为这种数字操控可能会引发对现实的怀疑，并传播虚假信息。
“如果你能够深度伪造一位政治家，而她或他无法将其删除，这将破坏我们的民主，”他在九月份的人工智能与版权会议上对记者说。
正确的平衡
这项法律只适用于丹麦，社交媒体用户不太可能面临罚款或监禁。但如果大型科技平台未能删除深度伪造内容，可能会面临严厉的罚款，恩格尔-施密特说。
阿杰德表示，谷歌旗下的YouTube拥有“非常出色的系统，以在版权保护和创作自由之间取得平衡。”
这个平台的努力表明，它意识到“已经存在的挑战的规模，以及未来将会变得多么严重。”
Twitch、TikTok和拥有Facebook和Instagram的Meta没有对此做出回应。
恩格尔-施密特表示，丹麦作为欧盟轮值主席国，已经收到了包括法国和爱尔兰在内的多个其他欧盟成员国对其提议立法的关注。
知识产权律师雅各布·普莱斯纳·马蒂亚森表示，这项立法显示了在丹麦生活的各个方面都渗透着在线危险的广泛的需求。
“我认为这确实说明，如果没有这样的情况，部门是不会提出这项法案的，”他说。“我们在假新闻和政府选举中都看到了这一点。我们在色情内容中看到了这一点，我们也在名人和普通人——像你我这样的普通人中看到了这一点。”
保护互联网创意产业权利的丹麦权利联盟支持这项法案，因为其主任表示，现行版权法并不够充分。
例如，丹麦配音演员大卫·贝茨顿在数千名用户在线分享AI语音克隆时感到无奈。贝茨顿为热门视频游戏《杀手》中的一个角色配音，还为丹麦玩具制造商乐高的英文广告配音。
“当我们向在线平台报告此事时，他们会说‘好的，那你指的是哪条规定？’”联盟的律师兼主任玛丽亚·弗雷登斯伦说。“我们无法在丹麦指出一项确切的规定。”
‘当它在线时，你就完了’
沃森听说过其他影响者在网上发现自己经过数字处理的图像，但从未想过这可能会发生在自己身上。
深入探讨网络的黑暗面，在那里匿名用户出售和分享深度伪造图像——通常是女性的，她表示她对使用网络上随手可得的工具创建这样的图片是多么容易感到震惊。
“你只需在谷歌上搜索‘深度伪造生成器’或‘如何制作深度伪造’，所有这些网站和生成器就会出现，”28岁的沃森说。
她对政府采取行动感到高兴，但并不抱太大希望。她认为必须对社交媒体平台施加更多压力。
“上传这种类型的图片不应该被允许，”她说。“一旦这些图片上传到网上，你就没办法了，完全失去了控制。”
斯特凡妮·达齐奥在柏林，凯尔文·陈在伦敦，巴巴拉·奥图泰在旧金山对此报道做出了贡献。
热门跟贴