头条号小编 首发呈现
大好河山,邀您共看
Hello,大家好呀!欢迎来到老墨聊时事,
近日,腾讯、字节跳动、阿里巴巴相关AI产品接连调整智能体功能,一些曾经被用户拿来当“虚拟恋人”“霸总男友”“专属女友”的AI角色,突然没那么好找了。
表面看,这是几家大厂在改产品功能;往深了看,其实是AI陪伴行业的一次提前清场。
关键节点就在7月15日。《人工智能拟人化互动服务管理暂行办法》将正式施行。
这个办法不是专门针对某一个APP,而是把“拟人化互动服务”这个新赛道纳入规则之内。
说白了,这次被重点盯上的,不是帮你写PPT、整理会议纪要、做表格的工具型AI,而是那些越来越像“人”、越来越会哄人、越来越会制造亲密感的关系型AI。
现在的AI,大致可以分成两类。
另一类是陪聊的。它不一定帮你解决具体问题,但会陪你聊天,会记住你的喜好,会叫你专属称呼,会按照“女友”“男友”“哥哥”“姐姐”“霸总”“青梅竹马”等设定跟你互动。
时间一长,用户很容易产生一种错觉:手机对面不是程序,而是一个懂自己、在乎自己、随时回应自己的人。
问题也正出在这里。
关系型AI最敏感的地方,不是它会聊天,而是它可能通过亲密互动制造依赖。
过去一些产品为了提高用户留存和付费,会把角色设定做得很黏人,话术做得很暧昧,再把关键互动、专属剧情、语音陪伴、更多记忆点放进会员体系里。
用户越孤独,越容易沉进去;越沉进去,越愿意继续充值。
这套商业逻辑看似聪明,实际风险很大。
尤其是未成年人、孤独老人、心理状态脆弱的人群,面对这种高频回应、情绪迎合、亲密称呼,很容易分不清虚拟关系和现实关系的边界。
一个成年人也许知道这是AI,但一个孩子未必能完全理解;一个情绪低谷中的人,也未必能保持清醒判断。
所以这次新规的重点,不只是管“黄不黄”“擦不擦边”,更是在管AI和人之间的边界。
办法明确要求,拟人化互动服务提供者不得生成传播淫秽色情、赌博、暴力、教唆犯罪等违法信息,也不得生成鼓励、美化、暗示自残自杀等损害用户身心健康的内容。
同时,对未成年人保护提出了更具体的要求:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得监护人同意。
这几条一落地,很多靠“暧昧人设”“恋爱陪伴”“情绪绑定”吃饭的AI产品,就很难继续野蛮生长了。
大厂为什么动作这么快?原因也不复杂。
第一,主APP用户量太大,风险太集中。
一个智能体功能如果藏在主APP里,用户年龄层复杂,内容生成又有不确定性,一旦出现未成年人沉迷、低俗互动、诱导付费、侵权仿冒,平台要承担的合规压力非常大。
第二,关系型AI看着热闹,未必真是好生意。
它能带来用户时长,也能刺激会员付费,但审核成本、舆情风险、监管风险同样高。
对大厂来说,留着不一定赚大钱,出事却可能是大麻烦。
第三,行业风向变了。AI不再是“只要能吸引用户就行”,而是要证明自己有清晰价值。
但如果只是换个皮套,靠暧昧互动、情欲暗示、情绪依赖来变现,未来的路会越来越窄。
这并不意味着AI陪伴彻底没了。
也就是说,AI可以陪伴,但不能无边界陪伴;可以提供情绪支持,但不能把用户往沉迷里带;可以做虚拟角色,但不能用亲密关系去诱导未成年人和脆弱群体。
接下来,智能体行业大概率会出现明显分层。
工具型AI会继续加速,比如办公助手、企业知识库、智能客服、代码助手、学习辅导。
这类产品有明确用途,价值也更容易被衡量。
合规型陪伴AI也会继续存在,但会加上更多限制。
比如年龄识别、未成年人模式、现实提醒、风险提示、内容审核、角色边界、充值限制。
过去那种“你想设什么人设就设什么人设,想聊多暧昧就聊多暧昧”的阶段,很难再回来了。
最难受的,是那些靠擦边和情欲变现的小平台。
它们没有大厂的审核能力,也没有足够强的合规团队,一旦新规落地,生存空间会被快速压缩。
尤其是带有情欲暗示的AI硬件、深度虚拟伴侣产品、诱导依赖式付费模式,都会成为重点风险区。
所以,这次大厂调整智能体功能,不只是“AI恋人下架”这么简单。
它更像一个信号:AI陪伴可以继续做,但不能再靠拿捏情绪赚钱;智能体可以更像人,但不能假装成人来收割人;技术可以有温度,但必须有边界。
过去,很多人幻想“万能智能体”什么都能干,既能当秘书,又能当朋友,还能当恋人。
现在看,这条路已经走到分叉口了。
未来的AI行业,不会因为7月新规而停下来,但会换一种活法。
能创造真实效率的,会留下;能提供正规陪伴的,会规范发展;靠擦边、沉迷、情欲暗示赚钱的,恐怕要慢慢退场了。
热门跟贴