此前，社交媒体平台X一度屏蔽了对泰勒·斯威夫特的部分搜索，因为关于歌手泰勒·斯威夫特（Taylor Swift）的深度伪造（deepfake）不雅图片在网上流传。
周一，在该网站上搜索她的英文名字时，如果没有加引号，就会出现一条显示为出错的消息，并提示用户重试搜索，附有一句：“别担心，这不是你的错。”
不过，将她的名字用引号括起来，仍然可以出现提到她名字的帖子。
上周，与泰勒·斯威夫特相关的有颜色和恶意图片开始在X上广泛传播，科技平台和反虐待组织一直在努力解决此问题。
X的业务运营主管乔·贝纳罗奇（Joe Benarroch）在一份声明中表示：“这是一项临时措施，我们在处理这个问题时非常谨慎，因为我们把安全放在首位。”
与以往困扰名人的传统伪造图像不同，这些关于斯威夫特的图片似乎是使用一种人工智能图像生成器创建的，可以根据书面提示即时创建新图像。
这些图片开始在网上传播后，这位歌手的“斯威夫特粉丝团”忠实粉丝迅速动员起来，在X上反击，并使用了#保护泰勒·斯威夫特（#ProtectTaylorSwift）的标签，发布更多有关这位流行歌手的正面化的图片。一些人表示，他们正在举报贴出深度伪造图片的账户。
检测深度伪造的组织Reality Defender表示，他们追踪到了大量描绘斯威夫特的未经同意的有颜色材料，尤其是在X上。一些图片也进入了Meta旗下的Facebook和其他社交媒体平台。
研究人员发现至少有几十张由人工智能生成的独特图片。其中最广泛传播的是与足球相关，图片中的斯威夫特被涂上了颜料或沾满鲜血，将她物化，在某些情况下，以对她的深度伪造形象给她造成了暴力伤害。
威胁情报组织Memetica的本·德克（Ben Decker）表示，关于泰勒·斯威夫特的深度伪造图片，最早出现在去年于边缘社交平台上进行的一场持续活动中，该活动的目的是制作由人工智能生成的有关女性名人的不雅图像，上周广泛传播的一张斯威夫特图片早在1月6日就已出现在网上。
X减少对Swift的搜索的举措可能只是权宜之计。
他表示：“当你不确定所有东西的具体情况，也不能保证所有东西都被删除时，你能做的最简单的事情就是限制人们搜索它们的能力。”
据路透社报道，X已于周一晚间解除了阻止搜索泰勒·斯威夫特名字的临时措施。
有研究人员指出，在过去几年中，随着用于生成此类图像的技术变得更容易获取和使用，明显的深度伪造不雅照的数量在增加。
2019年，人工智能公司DeepTrace Labs发布的一份报告显示，这些图像大多数是针对女性的，大多数受害者是好莱坞演员和韩国K-pop歌手。
在欧盟，单独的几项新立法包括针对深度伪造的内容。于去年生效的《数字服务法》(Digital Services Act)要求在线平台采取措施，遏制传播侵犯隐私等“基本权利”的内容的风险，比如“未经同意的”图片或深度伪造的色情内容。
欧盟目前在等待《人工智能法》（Artificial Intelligence Act）的最终批准，该法将要求使用人工智能系统创建深度伪造的公司也要告知用户，其内容是否是人工制作或被伪造的。
热门跟贴