深夜刷手机的时候，你有没有见过这样的画面：
扭动的主播、暧昧的标题、若隐若现的身体，还有擦边话术。
仿佛一夜之间，从外卖包装到知识付费，从短视频到直播带货，中国互联网的每个角落都在试探那条底线，三百六十行，行行想擦边？
这不，连新兴的行业AI，也在不经意间染了黄。
数据显示，AI色情领域早已实现了变现，还已经成熟出圈，它在全球的年收入将近1000亿美元。
这个营收金额，是全球正规的AI总收入的2倍，不夸张地说，AI涉黄已经成为新技术落地商业化效率最高的赛道。
更让人心惊的是，这项技术被用在了歪路上，这场无差别伤害正在普通人中间蔓延。
话说回来，AI是怎么涉黄呢？
它可不是凭空出现的，它的成长也是在技术的基础上一步一步迭代的。
2014年，蒙特利尔大学实验室诞生了生成对抗网络（GAN），它的目的是让AI学会无中生有地造出真实数据。
这项原本用于图像生成的技术，起初因为技术门槛高、算力成本昂贵，只停留在学术圈层。
谁也想不到，它的存在成为了是日后所有AI造黄内容的支撑。
时间来到2017年，美国有一ID为deepfake的用户发布了一批AI换脸色情视频，还将制作的技术一并公布，这些内容一时间震惊了全世界。
人们才发现，一段色情视频的制作需要数百张目标人物的高清照片，即便如此，其视频呈现目标人物的面部仍然有些边缘模糊。
由于它制作的复杂性，一度劝退了不少普通人入场。
但这件事发生之后，AI就像被打开了潘多拉魔盒一样，其技术的工具逐渐平民化。
从开始需要几十张人脸，到后来一款DeepNude一键脱衣类的应用上演。
讽刺的是，这类软件只能应用在女性身上，哪怕用了男性的图片，也会生出女性特征的图片。
虽然因舆论压力，这类APP上线两周就宣布下架了，但却让AI涉黄的成本变的更低，开始走社费付费。
只不过，仅过去不到三周，一款门槛更低的一键脱衣机器人就出现在社交平台上，不过一年，平台已生成10万多张普通女性的虚假裸照。
尤其在2023年大语言模型全面爆发后，AI涉黄从单一的图片造假，延伸到了文字、视频、实时聊天等多个形态，彻底将AI变成流量生意。
或许你觉得全世界有83亿人，AI就算造黄离自己的生活也很远，但实际上它的伤害早已落在了普通人身上。
从2023全球 Deepfake 色情内容的受害者的分布数据来看：
韩国占比高达53%，一家独大；其次的美国，占比20%，中国占有3%的比例。
可以说，这项产业之下，没有人能彻底置身事外，尤其是同一蓝天下生活着的无数女性。
这其中，最轰动世界的莫过于韩国的N号房2.0事件。
当时，韩国的各类色情聊天室加入的人群超过22万人，他们把身边女同学、女同事和亲姐妹，甚至是亲生母亲的照片，都用AI换到色情视频上，在群里公开羞辱传播。
一位来自仁荷的男大学生，组建了超过1200成员的色情聊天室。
他们把女生的脸放在各类黄色影像上，并且在群里公开她们的联系方式。
有一个家庭羞辱房，一位男性卷起了自家妹妹的衣裙，拿开了盖在妹妹身上的毯子，要知道，他的妹妹还在熟睡，他竟然偷拍妹妹的隐私视频公开羞辱。
可笑的是，这种无底线的行为没有得到制止，还有人在起哄调笑。
如今科技迭代升级了，最可怕的不是技术作恶，而是围观者把作恶当乐趣。
有个中国女孩去韩国参观时，在社交平台上分享了一张在景点游玩的照片，可就是这张照片，她成为了某色情频道里付费视频的主角。
当视频不知道传播了多久，传到她这里时，她瞪大了双眼，如遭雷击，无数个黑夜，她一次又一次地崩溃发问：“这张照片，会跟着我一辈子吗？”
这样的事件每天都在全世界不同的地方上演，倘若把目光聚焦在国内，就会知道，网络已不是净土。
7月28日，央视曝光了“AI脱衣”的黑色产业链。
有人打着教人用AI“一键脱衣”的技术，收取学费168元，入群就能得到相关教程。
一个群就有2万多人，有交钱多的学员还可以成为高级会员。
单靠卖教程，张XX就赚了十几万元。
有人靠这个赚钱，还有人靠AI造别人的黄谣，用来泄愤。
有一家理发店老板娘，发现自己招来的员工，又懒又贪吃，于是将他辞退，却想不到自己惨遭对方报复。
该员工好似没有认识不到自己的错，十分不甘，竟然想到通过AI把她的高清照片合成了不雅照，来打击报复老板娘。
这还不够，还将其生成色情视频，发布在多个本地短视频平台，这些内容一度让老板娘在本地抬不起头。
要知道，这些伤害除了名誉上的，还有更难摆脱的心理创伤。
不少受害者再也不敢在夏天穿短袖，甚至不敢把自己带脸的照片暴露出来，她们经此带来的焦虑和羞耻感始终挥退不去。
也有不少女生举着我的生活不是你的色情片的牌子，对加害者发出怒吼抗议。
可是，法律对于AI系统的合规性审查并不健全。
对这些受害者来说，比伤害更让人无力的，是维权的绝境。
如果，你在2023年之前翻开中国裁判文书，就会发现，与AI换脸相关的内容只有16篇，其中定为刑事案件的数量为0。
受害者若想要讨回公道，需要找到传播网址、统计侵权数量、固定完整证据，如此才能立案，这对于不熟悉网络的普通人来说，难如登天。
而加害者呢？
他们用着假身份，藏在屏幕背后抱团作案，因此无法确定事件的主谋。
最终，AI色情形成了受害者忍气吞声，加害者有恃无恐的恶性循环。
难道AI涉黄就没人管了吗？
当然不是，而是它的治理难度，远超传统色情内容。
原因之一是它的犯罪成本极低，用户只需要花费9.9元就能买到全套教程，10分钟就能上手操作；倘若花费19.9元，可直接生成一段色情视频。
这样低的门槛，毫无疑问只会让加害者的数量呈指数级增长，监管根本管不过来。
当然，这个行业充满着暴利，它能让人快速暴富，也是众多普通人入场的原因。
2024年，全球AI伴侣市场的规模高达281.9亿美元，轻易抢走了传统成人平台14.5%的流量。
相关机构预计：未来十年它将以30.8%的年复合增长率扩张，到2030年能突破1400亿美元。
除此之外，一些平台发现，如果今天引导用户交流大尺度内容，那么在第二天，他大概率还会再次交流，这样的流量，也让平台睁一只眼闭一只眼。
但，中国在对待AI涉黄的问题上，从未缺位。
比如说在2023年颁布的试行方法明确要求服务商在AI的训练上，不能出现违法违规内容，个别内容需建立审核机制。
2026年4月五部门联合公布新规，明确禁止AI传播淫秽色情内容，同时表示不得向未成年人提供虚拟亲密关系服务，规定在7月15日正式施行。
若再发生类似问题，我们可以拿起法律的武器，捍卫我们自身的利益。
除了官方下场，豆包、千问等AI大模型纷纷下场表示7月15日正式下线软件的自定义智能体。
说到底，AI只是高科技产出的一个工具，它的存在没有善恶，真正决定它走向的是使用它的人。
我们期待，AI成为照亮未来生活的光，而不是将普通人的生活成为黑产变现的素材。
参考资料：
第一财经：《大模型被调成小黄文生成器，AI“聊黄”正滋生灰产》
时代周报：《起底利用AI“造黄”灰产：9.9元兜售“焚诀”指令，19.9元一键脱衣》
中国蓝新闻：《豆包、千问集体宣布：将下线同一功能》
作者：玖玖归伊
编辑：柳叶叨叨
热门跟贴