2025年7月，香港大学几名女生发帖称，一名法律系男生的电脑里，存着涉及约20名女性的色情合成图。
韩国教育部2024年9月公布的434起校园深伪受害报告中，12起来自小学。
北京海淀检察机关办理的一起案件中，售卖“AI脱衣教程”的人，经营的社群累计已有2.7万名成员。
AI色情内容里的那张脸，已经可能属于你的同学、朋友，甚至你自己。而加害者可能是认识你的任何一个人。
这些AI生成的色情内容中，换脸可能是最容易理解的一种。把现成影像里的面孔，替换成另一个人的脸之后，原来由谁出演的视频，可以看起来像是另一人参与了拍摄。
无论是哪种，这些AI的色情内容最重要的是脸是谁的。
而卖工具，已经能单独做成一门生意。
这些社群累计有2.7万名成员，其中传授“一键脱衣”的私密付费群有1500余人。2025年6月，一名学习AI的市民发现群组后举报，警方于当月26日抓获孙某。他获利10万余元，2026年5月9日被以非法利用信息网络罪判处一年六个月，并处罚金2万元。
这类工具也进入了正规应用商店。TTP在2026年1月从Google Play和苹果App Store分别找到55款、47款具有脱衣或性化改图功能的应用，部分在Google Play上标为全年龄适用。数据公司AppMagic估算，这批应用全部业务的累计下载超过7亿次、收入约1.17亿美元。
但是在社交媒体平台上，AI色情的内容还有另一种面目。
在一份英国调查里，年轻人接触色情内容最常见的入口，已经是社交平台。
英格兰儿童事务专员2025年发布的调查访问了1020名16至21岁的年轻人。在看过网络色情内容的受访者中，45%曾在X上看到，超过专门色情网站的35%。两年前，X就已经领先；到2025年，两者的差距从4个百分点拉大到10个百分点。
2026年初，X还把改图工具直接放进了这个传播场景。
看过色情内容的受访者中，59%表示曾意外看到，2023年这一比例是38%；主动搜索的比例则是35%。对不少人来说，接触色情内容已经不需要专门去找一个网站，刷日常使用的社交平台，就可能撞见。
在国内，入口甚至包括青少年模式和学习平板。网信部门2024年12月通报，个别社交平台开启青少年模式后，搜索结果仍出现色情引流，诱导未成年人加群、下载应用。个别学习平板上的短视频应用，也出现擦边舞蹈，评论区还藏着色情网站的引流信息。
AI生成内容也已进入日常使用的平台。2026年9月2日，网信部门通报，抖音、快手、小红书、微信上的一些账号，利用AI换脸、换声仿冒公众人物，生成低俗舞蹈、亲密图像营销牟利；另有应用的AI角色封面、简介和对话出现淫秽色情内容。
一次主动搜索，也很快在大数据的推荐机制下，变成持续推荐。
《检察日报》2025年7月的一次实测中，记者注册了一个短视频新账号，搜索、观看并点赞相关内容。此后接连几天，即使不再搜索，平台仍会自动推荐热舞、暴露着装和猎奇视频。最初一次主动寻找，变成了随后反复收到推荐。
但这不是开源的问题，是使用开源工具的人的问题。
当然，封堵服务仍然有用。MrDeepFakes在2025年5月宣布永久关闭，站方称一家关键服务商终止服务，导致网站无法继续运行。
国内2025年的“清朗”专项已把“一键脱衣”列为整治对象，AI生成合成内容标识办法也于当年9月施行。但平台审核和标识要求，不能自动阻止有人拿着已下载的工具，在自己电脑上继续造图。
但法律法规仍然不够具体。
今年9月实行的广电总局令第 16 号《微短剧发展管理办法》第二十五条只写了“宣扬淫秽”，对于擦边、软色情、性暗示都没有提及。
AI在近两年开始巨幅改变我们的生活，一切都来的太快了，以至于我们还没准备好来接受这一切。
当AI和色情扯上关系，不管是主观还是被动，我们都有可能成为当事人。
