不要让AI成为坏人的利器|ai|性犯罪|社交平台|聊天室|韩国

视频AI生成技术的发展，在隐秘的角落已经产生出一系列令人担忧的影响。不少精通于这类技术的人已经被发现，在未经他人同意的情况下，利用技术制作女性（大多是年轻女性或身边同龄人）的色情图像。

在今年八月下旬，部分韩国女性在中国社交平台发出博文叙述“深度伪造（Deep Fake）”AI换脸的大规模违法事件且向我国的女性求助，引发起大量讨论和关注，众多相关热点标题登上热搜。据描述，韩国长期发生并产出、传播深度伪造的违法内容，而社交软件Telegram也因其加密通信和群组功能而受到这些犯罪人员的青睐。

Deep Fake到底有多可怕？早在今年的五月份，韩国某学校毕业生朴某与姜某从2021年7月到2024年4月，涉嫌利用Deep Fake技术换脸合成色情照片、视频并在社交平台上私密传播，受害女性高达61人，其中主犯朴某制造了一千八百多份非法照片和视频，传播了大概一百条视频。

并且，根据了解所知，受害女性曾经因为这些一连串的违法行为，不断遭到相关参与者的威胁，后续在坚强的毅力下申诉两年半得到上述调查结果。而韩方警察相关人员说道，根据目前线索显示，主犯朴某等人暂未通过非法合成出的照片和视频合成物赚取利益，他们的犯罪目的只是为了满足自己的欲望。

所谓的“深度伪造（Deep Fake）”就是利用AI技术生成数字篡改成其他内容的图片，这种行为却在社交平台Telegram应用上存在已久。其中Telegram某相关频道已经拥有超过22万个成员，频道内设有机器人，加入频道后弹出提示“上传一张你喜欢的女性照片”短短五秒钟，就能按照成员需求提供深度伪造的裸照图像。进入这个频道只需要简单搜索就能轻松找到，通过收取费用根据成员提交的真人照片生成伪造图像。

这个频道制作每张图片售价约0.48美元（约为3.42RMB）。为了扩大用户规模，甚至还设置了批量购买可以享受折扣，邀请朋友加入的用户也会免费获得对应的兑换道具。可能出于保持匿名考虑，该频道仅接受加密货币的付款方式，另外，该频道聊天室禁止用户之间互相发送消息或图片，因此无法追查其他成员是如何使用这个频道内的Deep Fake伪造图片。

截至到上月21日，统计得出这个Telegarm频道22.7万名用户。由于Telegarm频道访问门槛极低，聊天室中可能包含了来自不同国家的成员。在其他社交平台搜索特定关键字都可以找到对应频道链接。甚至在其他社交平台上带有链接的帖子成为“热门帖子”。

韩国女律师协会人权主任表示，“以这样在Telegarm聊天室频道中制作性剥削及深度伪造类的图像，并在其他群组或平台分享传播，正式当前诱发大规模性犯罪的根源所在。如果单单在图像制作阶段就有超过22万成员，那么后续传播造成的损失恐怕会非常之大”。这也反映出一个可怕的现实，很多人认为这种具有危害性的伪造图像，其实只是无足轻重的小事。

“当前盈利结构的存在，表明市场的需求量很大。”韩国性暴力救济中心主任 Kim Hye-jung 总结道，“尽管对女性的性侮辱已经成为一种网络‘内容’类型，但社会对此类罪行的普遍轻视亦成为诱发性犯罪的一大关键因素。”

近年来，韩国都会有一系列备受瞩目的数字性犯罪案件出现，韩方警察表示，2022年他们受理的“深度伪造（Deep Fake）”案件发生156起。2023年高达180起，2024截止到现在，已经飙升至297起。其中成功定罪的有61%为青少年。这种情况的急剧恶化主要还是因为韩方监管框架依然存在着漏洞。事实上，实际惩罚往往比法律规定的要宽松得多。

即使有人制作这种伪造的性剥削视频，面临监禁的情况非常少见，仅仅拥有这类内容的并不会受到惩罚。要追究制作或拥有伪造视频者的责任，犯罪者必须要有主观传播意愿，证明其传播意图，这种规则使许多人可以逃过法律制裁。意味着此类伪造非法内容的行为还处于灰色地带。

结果显示，曾处理的46起涉及伪造视频的法庭判决，在仅仅因传播伪造视频而遭到起诉的18人中（不包括同时被指控其他犯罪的嫌疑人），只有一人被判入狱、二人获缓刑、二人被罚款。这里其中的一个案子，嫌疑人篡改了自己十几岁表弟的照片并通过社交软件分享传播。初审判决其监禁两年，但上诉法院最终刑罚改成了缓刑。相比之下，英国司法部去年宣布，无论是否传播，只要参与了制作“深度伪造”色情内容都将面临处罚，还封锁了两个主要的“深度伪造”色情网站。

此外，韩国与“深度伪造”有关的犯罪案件及青少年犯下这种罪行的比例，皆处于上升趋势。韩国国民力量党代表赵恩熙（Cho Eun-hee）撰写的相关报告，在因此类罪行而受到惩制的120人中，有91人为青少年（占比 75.8%）。釜山市教育局表示有4名中学生因使用“深度伪造”技术对18名学生和2名教师的面部进行数字复制而受到警方调查。

这些年轻的犯罪嫌疑人一共制作出约80张受害者的色情图像，并通过社交平台应用对外分享。在去年，釜山共出现 12 起由学生传播同学“深度伪造”色情图像的案件；而到 2024 年，仅上半年就发生了15起同类案件。在济州岛，警方最近抓获了一名十几岁的国际学校学生，他曾使用至少11名同学的面部制作”深度伪造”色情内容。尽管越来越多的青少年因此而受到惩罚，但大多处罚还是较为宽松，部分原因在于对未成年人的惩罚程度更加轻。