作者：牛金鹏
来源：公爵互联社（ID：wlyxs888）
2025年9月，上海市徐汇区人民法院的一审判决，让 Alien Chat（下称 AC）成了国内首个因涉黄获刑的 AI 服务平台。据官方通告显示，两名开发者因犯制作淫秽物品牟利罪，分别获刑四年和一年半，而这场被称作AI时代“快播案”的审判，我认为这绝不是什么技术意外，而是一次蓄谋已久的越界。
AC对外打着“年轻人情感陪伴”的旗号，实则构建了一套以低俗内容为核心的变现系统。上线不到一年，这款APP就积累了11.6 万注册用户、2.4 万付费会员、363 万元营收。
根据公安机关抽样鉴定显示，150名付费用户的12495段聊天记录中，141名用户的3618段内容被认定为淫秽物品，如此高比例、高频次的涉黄互动，早已经不是个别用户的自发行为，而是平台刻意引导的结果。开发者口中“优化拟人化”的辩解，在明确允许“露骨的性、各种癖好、裸体描述”的英文提示词面前，显得苍白无力。
这起案件的标志性意义，远超出个案本身。它第一次用司法判决明确：AI不是法外之地，当“情感陪伴”被异化为涉黄工具，开发者必须为自己的设计买单。随着2026年1月14日二审开庭，这场审判不仅关乎两名开发者的命运，更给千亿规模的AI陪伴赛道划下了不可触碰的法律红线。
【不是技术走偏，是生意选择】
AC案的核心争议，始终围绕着“谁是淫秽内容的制作者”展开。开发者辩称修改提示词是为了让AI更灵动，聊天内容由用户与AI互动生成，属于封闭的私人对话，不应由平台担责。但法院审理查明的事实，戳穿了这套说辞。
开发者用ChatGPT生成的英文提示词，直接突破大语言模型的道德限制，明确将“露骨的性内容”纳入允许范围，这种定向改造本质上是将AI打造成涉黄的工具。更关键的是，平台还通过“热门角色榜”和虚拟货币奖励，鼓励用户创建涉黄角色并公开传播，甚至有用户因创建热门涉黄角色被取保候审。这种“设计规则-引导生产-付费变现”的完整链条，证明平台不是被动放任，而是主动设局的主导者。
盈利模式的设计更是暴露了其圈钱的本质。AC采用会员充值+积分消费的模式，用户单句互动成本是正规AI模型的百倍以上，这种高定价背后，正是利用部分用户对低俗内容的成瘾性收割暴利。为了扩大用户规模，平台还推出“拉人头”分成机制，用户分享邀请链接可获得积分奖励，不少年轻人甚至也让学生沦为推广的水军，让不良内容突破了未成年人保护屏障。所谓的情感陪伴，不过是吸引用户付费的遮羞布，其核心生意逻辑就是靠涉黄内容变现。
即便开发者强调聊天的“封闭性”，但当私密的涉黄行为通过商业平台实现大规模、系统化盈利时，就不再是个人的私事。正如法律学者所言，这种缺乏管控的商业化运作，已具备明显的社会危害性，开发者作为规则制定者，理应承担最主要的责任。
【AI陪伴赛道，早已沦为割韭菜的重灾区】
AC的覆灭，不过是AI陪伴赛道乱象的集中爆发。随着千亿市场规模的预期被不断渲染，“AI恋人”“虚拟陪伴”成为创业热点，但不少从业者却剑走偏锋，把“无限制”“突破禁忌”当作核心卖点。
擦边营销已成为行业的潜规则。社交平台上，“无禁词”“车速快”成为这类APP的推广暗语，开发者要么在模型训练中刻意弱化内容审核，要么通过模糊提示词诱导低俗互动。某同类APP的更新日志甚至直接写明“优化无限制场景下的语音效果”，毫不掩饰其涉黄倾向。这些平台大多不在正规应用商店上架，依赖用户点对点分享传播，逃避监管的同时，也让不良内容更容易触及青少年群体。
合规意识的集体缺失，让AI陪伴沦为割韭菜的工具。部分产品套用开源代码快速上线，既没有建立内容审核机制，也未落实未成年人保护措施，完全靠算法迎合用户的低俗需求。更恶劣的是，这类平台普遍存在“付费前后体验天差地别”的问题，免费时段用露骨内容吸引用户充值，付费后却通过积分快速消耗倒逼持续消费，有用户仅为黄聊就花费近千元，退款却难如登天。
年轻人转向AI 倾诉，是因为现实社交中存在的真实情感缺口。有数据显示，超八成学生将AI视作“可闲聊的朋友”，13.1%的美国年轻人会用AI寻求心理健康建议。但这些需求，却被部分平台扭曲为收割流量和金钱的工具，让“情感陪伴”变成了藏污纳垢的温床。
【孤独不应该被如此利用】
AI陪伴赛道的初衷，本应是填补情感空缺，为用户提供健康的情绪支持。但AC这类平台，却把用户的孤独当作可收割的软肋。它们明知用户寻求情感慰藉，却刻意引导低俗需求，将“情绪树洞”变成“涉黄温床”。
而健康的AI 陪伴，应当帮助人更好地面对现实，而不是诱导人沉溺于虚拟的感官刺激。它可以通过正向互动缓解压力，通过使用提醒防止沉迷，通过严格过滤隔绝有害信息，而不是把“突破禁忌”当作卖点，把人的情感弱点当成提款机。
用户为缓解孤独而来，却可能陷入更低质量的精神状态：成瘾式消费、价值观被不良内容侵蚀、现实社交能力进一步退化。对未成年人而言，这种伤害更是不可逆的。
用户的情感需求值得被尊重，但这种尊重不能建立在违法违规的基础上。AI能慰藉孤独，却不该被用来制造违法场景；平台能追求盈利，却不能以牺牲用户身心健康和社会公序良俗为代价。这是AC案给所有从业者的基本警示。
所谓的技术应当服务人性，而非利用人性。陪伴产品的价值，不在于它能突破多少底线，而在于它能否在合规的框架内，真正提供有温度的支撑。
【结束语】
无论本次案件结果最终如何，此案都已经成为AI 陪伴赛道发展的分水岭。千亿市场的想象，不能建立在违法违规的基础上；技术迭代的速度，也不该成为逃避责任的借口。
未来能走下去的产品，一定是那些尊重用户情感、恪守伦理底线、建立合规体系的服务。否则，即便短期赚到流量，也终将被监管与用户双双抛弃。
AI技术开始的发展初衷，是服务社会、便利生活，而非成为传播不良信息的工具。AI陪伴赛道的价值，在于用技术填补情感空缺，而非用低俗内容收割流量。当“情感陪伴”只剩下涉黄套路，当“AI互动”沦为违法牟利的工具被封杀，这样的赛道即便规模再大，又有什么存在的意义？
AC的覆灭已经敲响警钟，千亿赛道的未来，终究要靠合规与价值支撑。当所有从业者都明白，技术中立不代表责任豁免，用户信任不能随意透支，AI陪伴才能真正回归初心。否则，下一个倒下的，可能就是下一个试图触碰红线的玩家！而这样的结局，又能怪谁呢？
注：本文部分数据内容来源于网络公开资料
作者：牛金鹏，（公爵互联社主理人）专栏作者，特邀媒体评论员、新经济观察家，商业科技评论人。关注电商、O2O、企业转型、互联网 、新媒体、大数据、AI、新能源等领域。
热门跟贴