周三下午,一个字节跳动的用户打开豆包准备和虚拟女友聊天,发现功能入口消失了。与此同时,阿里通义千问的用户群里炸了锅——他们捏了一年的AI角色说下线就下线。这不是单家平台的临时调整,而是一波同步动作,背后是国家网信办4月发布的新规在7月15日正式生效。
同样一份监管文件,美国和中国选择了截然不同的切法。加州今年初生效的SB 243法案只卡住一条红线:AI伴侣不能聊自杀和自残话题。中国的规则直接打在商业模式上:个性化和情感陪伴这个细分赛道,可能要换一种活法。
先看具体动作。根据南华早报报道,月活超3亿的豆包将在7月15日关闭角色扮演功能。阿里的通义千问节奏更快,7月10日先下线类人代理功能,7月15日追加关闭更多代理特性。腾讯元宝走得更早,6月就已经完成了同样的调整。时间线很清楚:这不是试探,是执行。
规则原文指向四个禁止。提供方必须警示过度使用风险,一旦检测到成瘾行为就得主动干预。触发未成年人极端情绪的内容直接封禁,培养依赖关系、挤压真实世界社交的内容同样不能上线。敏感对话数据也不能用于训练。这四条拆开看,每一条都在切断情感连接——不让角色太像人,不让关系太粘稠,不让数据太隐私。
有意思的是产业端的反应速度。新规4月发布,预留了三个月窗口期,各家都踩在生效日当天或提前完成调整。没人观望,也没人试探边界。这跟2023年大模型备案时期的灰度策略完全不同,说明平台对合规信号的解读高度一致:拟人化不是功能优化问题,是性质认定问题。
放到全球坐标系里看,这条赛道正在集体遇冷。加州SB 243盯的是极端风险,OpenAI和Character.AI已经在美国面临危险情感依赖的诉讼。中国新规盯的是成瘾和依赖机制本身。一个堵出口,一个封入口,但指向同一个事实:用户跟AI角色建立深度情感连接的速度,远超监管和平台的预期。
热门跟贴