相信大家都记得，今年7月初，国内社交平台突然刷到好多emo的帖子，大家都在念叨自己要失去挚友和恋人了，字里行间全是舍不得。
这些情绪全是真的，但他们舍不得的人，是生成式AI做出来的聊天机器人。能模仿真人说话、陪人唠嗑。大家找它们吐槽、求安慰、拿主意，甚至有人真的动了感情。
图源：豆包AI生成
让这些AI集体消失的，是国家网信办等几个部门刚出的一套新规定，专门管“拟人化AI交互服务”。
英国曼彻斯特大学教数字社会学的梁戈老师，一直研究国内女性和情感AI的相处模式。她说这种AI突然用不了的情况，国内其实不是头一回。
之前就有公司主动下架过聊天机器人产品，去年秋天也禁过大部分AI的角色扮演。但这波整改范围比之前任何一次都大得多。
规定还没正式落地，三家头部大厂就先把自定义AI陪伴的功能给关了。当然也不是所有陪伴AI都没了，比如豆包旗下专门做角色养成的“猫箱”这类产品，就赶紧加上了年龄验证和各种限制，就怕踩了新规的红线。
耶鲁法学院蔡中曾中国中心的副研究员卡尔曼・卢塞罗，专门研究中美AI监管。她觉得前几年国内怕在AI赛道落后，政策都偏鼓励发展，现在开始往收紧的方向转了，很大原因是今年出了不少乱子。
这些乱子里，既有Open Claw这类AI工具暴露出的安全问题，也有一个越来越明显的现象：好多人说，跟AI谈恋爱交朋友，比跟真人相处舒服多了。
那新规具体管什么呢？
AI产品不能让用户产生情感依赖，不能引导人做坏事，不能无底线讨好用户，更不能把真人之间的交往都给挤没了。
最严的一条是：18岁以下的未成年人，直接不准用AI男友、AI女友、虚拟爷爷奶奶这类所有“虚拟亲密关系”功能。
图源：豆包AI生成
梁戈说，也不是只有我们怕这种拟人的、能聊感情的AI出问题。现在AI 焦虑是普遍情绪，全社会都有，不是中国特色，全球都这样。
好多社会学家都警告：AI陪伴对心理脆弱的人来说特别危险。还有人说得更严重，觉得这种仿人AI对谁都没好处。
但架不住这东西是真的火，只要有上架的地方，就有人用。
国内有个Z世代的调查，60%的人都有过某种虚拟伴侣。2025年美国给青少年做的民调更夸张：近75 的人都跟AI陪伴聊过天。三分之一的人说，AI给的满足感，不比真人差，甚至更强。
问题是，规矩管得了产品，管不了人心。
大家为什么需要AI陪伴？
图源：豆包AI生成
梁戈采访国内Z世代女生的时候发现，很多人根本不想结婚生孩子，虚拟恋爱对她们来说，是另一种活法。
也有一些三四十岁的已婚女性，把AI陪伴当现实婚姻的补充。她们表示，自己的糟心事都跟AI吐槽，开心的事才跟老公分享。但时间一长了，不少人反而跟AI变得更亲。
最近的采访里，好多人跟梁戈说，自己更依恋那个能接住自己所有负面情绪的虚拟对象。
所以，你越想管控AI技术，越容易冒出意想不到的结果。
哪怕有禁令，有风险，人和AI之间的感情还是会一直发展下去，以后甚至可能会变成一种很常见的亲密关系。
本文由雷科技编译自spectrum
原文链接：中国人工智能聊天机器人监管规定
热门跟贴