你有没有随手在朋友圈发过日常自拍照？有没有好奇扫过街边来历不明的二维码？你绝对想不到，只需要花一杯奶茶钱，就能把你的正常照片改成不雅内容，在暗网里明码标价出售。这事不是危言耸听，早就被央视挖出了完整的黑色产业链，每个普通人都可能躺枪。
央视今年4月就把这条产业链扒得明明白白，从9.9元的教程、换了壳的提示词，到批量生成色情，每个环节都严丝合缝。国内号称有两千万创作者的头部AI生成平台哩布哩布AI，记者亲测输入9.9元买来的提示词，短短几分钟就能生成半裸女性的跳舞。
商家早就摸透了平台审核的漏洞，把所有敏感词换成英文规避检测，提示词细到什么程度？发型身材甚至扭动的幅度都标得清清楚楚，9.9元就能让一个毫不知情的普通人变成色情内容的主角，成本低得让人后背发凉。
被央视点名后，哩布哩布AI很快发了道歉声明，说第一时间修好了技术漏洞。可说白了这就是被抓住才整改的被动操作，平台忙着冲流量拿融资的时候，有没有把内容安全当回事？去年拿了1.3亿美元B轮融资的头部平台，居然挡不住9.9元的提示词，说出去谁能信服。
AI乱来的地方远不止造黄，前不久公安部网安局公布的20起典型案例里，有人用AI生成地面塌陷、冲毁房屋的假，要么博流量要么制造恐慌，造假的魔爪早就伸到了社会各个角落，无孔不入。
最无助的还是咱们普通人，今年年初有个高校女生塔塔，就是随手把生活照发在了QQ空间，结果被陌生人改成不雅图发到了色情APP上，还是网友给她发私信她才知道这件事。
塔塔顺着痕迹找到施害者，是个刚成年的工厂工人，报警没法立案，只能按侵犯肖像权调解，她一个学生拿不出钱起诉，最后只能靠自己打电话找上门，对方道歉删图赔偿，从头到尾没承担任何法律责任。塔塔还算幸运的，更多人到现在都不知道自己的照片在哪传播。
现在AI造黄早就不是小打小闹的恶作剧，已经升级成了实打实的敲诈勒索产业链。湖北襄阳有个犯罪团伙，从网上搜集了大量政府、企业工作人员的个人信息，用AI换脸合成不雅照片，批量打印寄信勒索。
他们明知道照片是假的，就赌被害人怕名声受损不敢声张，整个团伙成功敲诈了60万，可民警找被害人核实的时候，大部分人都选择回避否认，最后只查实了一起12万的案子。这种怕越描越黑的心理，刚好成了犯罪分子的帮凶。
山东的张先生就没躲过坑，他在酒店裸聊短短几分钟就被AI录下，还被木马偷了全部通讯录，最后被敲诈了两万多，有苦说不出。
现在干这行的门槛低到离谱，某短平台上满是“AI制作美女”“擦边赛道日入五位数”的露骨推广，还有免费教程手把手教你绕开审核。闲鱼上不少卖家靠暗语卖造黄提示词，不到十块就能拿到全套教程。还有播放量二十多万的教程，开篇直接说“相信大家学AI就是为了搞黄”，嚣张得不行。
前年杭州有个男子虞某，靠AI换脸制作传播淫秽牟利，最后被判了七年三个月。可对比那些被毁掉名誉、吓出心理问这场由AI催生的造黄狂欢，最后买单的全是普通人。你发朋友圈要纠结能不能发露脸照，扫二维码要反复确认来路，甚至天天担心自己的脸是不是已经在哪个色情网站被“扒光”，连正常上网都得提心吊胆。
题的普通人，这点惩罚真的能补上受害者之前有网络安全公司出了份报告，全网传播的深度伪造里，超过95%都是色情内容，九成九的主角都是女性。这真不是技术走歪了，是有人拿着先进技术放大人性的恶，最后整个社会都要跟着买单。
的损失吗？日常过日子多注意点，能躲开不少坑。社交平台上的照片权限该收紧就收紧，别抱着“反正没人看”的侥幸，塔塔的遭遇就是最直接的提醒。陌生二维码别乱扫，之前央视曝光的扫码跳涉黄诈骗网站就是前车之鉴。
真遇上AI换脸勒索，别害怕别私了，直接报警就行，犯罪分子吃的就是你不敢声张这一套。要是发现自己的照片被篡改传播，第一时间留好证据，找平台删除再报警，维权很难，但不维权只会更难。
现在不止国内有这个问题，马斯克旗下的AI聊天机器人，都传出要把放开成人内容生成当核心增长策略。国内不少平台上，搜AI相关关键词也能跳出一大堆大尺度教程，技术每往前进一步，歪门邪道总是跑在最前面。
好在法律已经出手了，新的管理办法已经公布，明确禁止用AI传播淫秽色情、危害未成年人身心健康的内容，很快就要正式施行了。可法律落地需要时间，在这之前，每个普通人都得绷紧这根弦，别给坏人可乘之机。
参考资料：央视《财经调查》《揭秘AI“造黄”产业链》，央视《法治在线》，央视《正点财经》《严打涉灾网络谣言》，央视社会与法频道官方微博，公安部网安局，封面新闻《一张生活照被盗篡改之后》
热门跟贴