4月13日，央视财经揭露AI“造黄”黑色产业链。

在多个互联网平台发现，有人公开兜售AI生成色情擦边视频的教程和“提示词”，售价9.8元至9.9元不等。商家宣称仅凭一张图片甚至几句话就能“手搓”大尺度视频，还详细刻画发型、服饰、身材、姿势、表情乃至腰部和胯部扭动幅度，并将敏感词汇翻译成英文以规避监管。

报道称，对10款AI应用实测发现，多款存在涉黄生成漏洞。输入提示词后，仅需几分钟即可生成半裸女性跳舞视频，未触发任何限制机制。部分教程刻意引导用户使用境外图生视频AI软件，或将程序部署在本地电脑离线运行以逃避监管。

市场上还存在专门靠AI生成色情视频牟利的软件，号称“免下载、快速换脸”，付费即可通过一张图片生成全裸照片和色情视频。境外AI聊天软件也通过灰色通道流入国内，这些软件尺度很大、充斥色情内容，通过发放金币、充值返利等方式激励用户拉新，吸引众多年轻人甚至未成年人沉迷其中。

2025年4月，网信办“清朗·整治AI技术滥用”专项行动明确将重点整治利用生成式人工智能技术向公众提供内容服务却未履行大模型备案或登记程序的违规AI产品。今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，进一步明确了安全评估和算法备案要求，并对未成年人和老年人使用相关服务作出规定。（央视财经）