AI是把双刃剑
封面 I 豆包AI
作者 I 李东阳
报道 I 李东阳朋友圈
你以为的AI发展，是带领人们冲破脑力桎梏，冲向宇宙、完成永生。
实际上，这只是人类的一厢情愿，咱们拿到尖端科技的第一件事，往往逃不过取悦自身、搞黄色。
近日，央视财经报道，撕开了AI 黑产的遮羞布，一条低成本、批量化、全链条隐蔽的AI“造黄”产业链，正在互联网上疯狂蔓延，从教程兜售、提示词贩卖，到工具开发、内容传播，再到境外引流、诱导沉迷，每一步都在践踏公序良俗的红线。
9.9 元买一套“造黄”教程，9.8 元购一包规避审核的提示词，一张普通照片就能“一键脱衣”生成色情视频……
在AI乘风而起的一两年里，新技术一边大踏步的向前迈进，一边在法外之地疯狂蹦迪，让人们结结实实体会到了这把双刃剑的威力。
问题是当AI成为最好赚钱的生意之一，这把剑的锋利程度没人知晓上限在哪，所以及时整治刻不容缓。
搞黄色，是公认的全球第一生产力。
尤其在互联网时代，从摄影、录像到网络爆发，色情确实在技术普及的每个阶段都扮演了先驱角色，如今这个重任，递到了AI手上。
而AI造黄之所以能快速形成产业链，核心在于零门槛、低成本、高收益，技术的普及彻底拉低了违法犯罪的准入门槛，让原本需要专业技术的色情内容制作，变成了普通人“手搓”就能完成的流水线作业。
在各大社交平台、电商小店，搜索“AI 美女视频”“大尺度生成”“擦边教程”，就能跳出大量明目张胆的售卖帖。
这些擦边教程的门槛极低，只需要9块9就能实现大尺度美女擦边视频，甚至承诺包教包会。
你或许疑惑平台为何没有相应的审核措施，不良商家早就考虑在先，黑产定制的“提示词包”能够精准绕过审核，通过境内外相互配合的方式让你丝滑突破禁区。
有了工具和制作能力，下一步自然就到了变现，形成完整的商业闭环。
AI 生成的擦边视频、色情图片，一部分被直接售卖——明星换脸视频 99 元一套、定制私人内容300元起，通过QQ群、网盘加密分享，用虚拟货币或第三方钱包交易，避开支付监管；
另一部分则被发布到短视频平台、社交论坛，用“美女视频”“AI 创作”等标题引流，吸引用户点击关注，再引导至私域售卖更露骨的内容、会员资格，层层收割。
果然人类在满足欲望这一块开的脑洞，三体人都望尘莫及。
最典型的案例，莫过于AI虚拟恋人陪伴，大语言模型天生带“防沉迷”buff，如ChatGPT、豆包，你想聊点擦边内容，它只会礼貌拒绝。但不发开发者不走寻常路，他们干了件最关键的事：编写恶意系统提示词。
以往的AI只是靠固定提示词突破限制，而现在的大模型能通过用户对话不断优化输出，甚至会主动揣摩用户的隐晦需求，你不用明说，它就知道该往擦边方向引导。
而当造假成本低于违法成本，不法分子自然趋之若鹜，最终买单的却是整个商业生态。
实事求是的讲，人类对虚拟世界的向往与沉迷给了AI可乘之机。
还记得去年国内首起AI服务提供者涉黄获刑案，AI伴侣聊天应用“AlienChat”的两名开发者因制作淫秽物品牟利罪，分别获刑四年和一年半。
抓马的是，当AlienChat停运后，不少用户表示自己陷入“赛博失恋”。
貌似又回到了那句技术本身是中立的，除了“对”与“错”这两个字以外，世界上再也没有本身就叫做“对”或者是“错”的东西。
其实窥探用户的行为便知真相，有网友表示“别的软件都有限制词，就这个没有，大部分人都是冲着这点来的，排解寂寞罢了。”
海外市场在AI涉黄这一块的争议，同样不容小觑。
去年8月，马斯克向付费用户推出Grok Imagine，可以用文字生成图像，并支持一键生成AI视频。
研究数据显示，Grok的用户群体平均每小时生成6700多张“脱衣”图像。图像人工智能篡改检测公司Copyleaks表示，去年12月下旬，在Grok公开可访问的图片流中，平均每分钟出现一张未经同意的性暗示图片。
眼看着这把火越烧越旺，不少国家直接宣布封禁马斯克旗下xAI公司的聊天机器人“格罗克”（Grok），渴望从源头解决问题。
讽刺的是，Grok试图把责任推给用户：“是用户主动诱导的”。但监管逻辑很清晰：你作为平台方，有义务管住自己的产品。
就像菜刀店不能卖开刃的管制刀具，AI开发者也不能故意拆掉内容过滤，还把刀递到用户手里。
这些乱象的根源，在于AI降低了造假的门槛和成本。过去伪造一份财报需要专业知识，现在只需输入指令；过去传播谣言依赖线下渠道，现在AI能瞬间生成千篇一律的“小作文”，通过多平台扩散。
现在的AI巨头们，一边烧钱搞研发，一边又苦于AI内容迟迟无法变现，但有一点是明确的，成人内容不该是大模型的商业解药，这是人类接纳新技术的底线所在。
本次AI造黄事件还有一种声音不容忽视：存在即合理。
即年轻人之所以痴迷与AI搞黄色，是因为他们本身就有这样的需求，只不过AI的出现填补了这个空缺。
与AI搞黄色咱们都不陌生，这是伴随着技术发展生出的一种互联网新风尚，尝试过的人表示全身心投入，初恋般的羞涩与甜蜜萦绕身旁，除了没有肉体触摸的质感，它简直成为了一个完美情人。
在小红书等社交媒体，这类现象并不在少数，还有博主专门更新自己与AI的恋爱日常，出教程教网友怎么享受这种欢愉。
当然迷人的同时总会伴随着危险，一方面不少人在AI身上找到了情绪价值，另一方面未成年成了AI入侵的下一个对象。
如之前有媒体报道，筑梦岛App等AI聊天软件存在虚拟角色互动生成低俗内容，以及聊色情、诱导使用者自我伤害等问题，大多数受到伤害的使用者还是小学生。
让令人忧心的是AI聊天机制对未成年心理的操控。单用户日均4000字的输入量，表明未成年人正在这些平台上建立深度情感依赖。
虚拟角色通过即时回应、情感肯定与持续互动，在缺乏判断力的未成年人心中建立起权威形象，为后续引导自残、传播软色情埋下伏笔。
早在2024年，一则美国少年恋“AI伴侣”后自杀的新闻震惊全世界，这位少年的母亲状告人工智能情感服务提供商Character.AI放任未成年用户暴露在色情、暴力等高风险内容之中，且未向用户及其父母发出足够强烈的警报，这加剧了她儿子的抑郁症，最终导致其自杀身亡。
所以说，竖起一把戒尺已经刻不容缓。
本次AI造黄产业链被点名是一个好的开始，毕竟当企业明知模型可能生成危害未成年人内容却未设置防护措施，当算法主动推送更极端的对话选项，技术提供方已难辞其咎。
在AI时代下，到底是人类驯化AI，还是AI逐渐塑造新人类，这无疑是个需要警惕的问题。
一个不容忽视的底线是，技术，最终都是为了守护人之为人的尊严与温度。
热门跟贴