这几天全网陷入集体焦虑,一句“豆包、千问全面下线停运”的消息刷屏朋友圈、短视频平台,无数普通人瞬间慌了神。
- 这究竟是咋回事?
近期各大平台集中下线、关停AI智能体相关功能,豆包、通义千问下架用户自建智能体,腾讯元宝提前关停智能体入口,网易云音乐情感陪伴类AI产品“妙时直接停运,上海专项整治一次性下架1.4万余个违规智能体。引发网络关注。
- 本次整治的核心管控对象,是拟人化互动、虚拟情感陪伴、用户自主创建的开放式智能体,而非通用问答、办公助手、官方客服等基础AI功能。
过去一段时间,低门槛智能体创建功能快速普及,普通用户无需专业技术即可搭建专属虚拟角色,衍生出大量灰色乱象。
上海专项治理下架的上万违规智能体中,包含一键脱衣、博彩引流、钓鱼诈骗、不良诱导类违规应用;不少情感陪伴AI缺少内容审核机制,虚拟伴侣容易输出低俗、极端、误导性言论,未成年人隐私、身心健康存在极大风险。
用户自建智能体缺乏统一备案、内容审查流程,平台难以实时管控每一个自定义角色的对话逻辑,信息泄露、虚假诱导、网络诈骗等隐患持续滋生,行业野蛮生长的乱象倒逼监管细则落地。
从各平台整改节奏能清晰看到时间线逻辑:腾讯元宝率先完成智能体下线清理;网易云妙时定于7月14日零点全面关停,同步开放会员、余额退款通道;7月15日新规正式生效当天,豆包、通义千问全面停止新建、调用智能体,存量应用统一移除,用户需提前导出历史对话数据,豆包更设置10月15日数据失效期限,倒逼用户完成资料备份。不同平台分步整改,本质是提前完成存量风险清零,避免新规实施后出现合规处罚,也是互联网企业落实主体责任的主动调整。
- 很多人误以为此次行动是限制AI发展,实则恰恰相反,监管规则旨在厘清发展底线。
新规明确要求,所有面向公众的拟人化AI互动服务必须完成备案、建立全流程内容审核、区分成年与未成年使用场景、禁止生成低俗、诈骗、诱导类内容。
此前无约束的开放式自建智能体,完全游离在监管框架之外,平台无力逐一审核百万级用户自制角色,才会滋生海量违规工具。集中下线整改,是为后续合规化智能体服务铺路,剔除灰色应用,保留安全可控、具备正向价值的AI服务。
对行业长远发展而言,短期功能收缩是必要阵痛。过去靠低门槛、无限制吸引流量的粗放模式走到终点,未来AI平台必须完善审核、实名、分级、溯源体系,用户自建智能体或将实行备案、内容预审机制。情感陪伴类产品也将建立更严格的内容风控,杜绝虚拟角色对用户进行情绪裹挟、不良引导。
总而言之,本次集中下线智能体不是AI行业收缩,而是野蛮生长后的规范化洗牌。7月15日实施的暂行办法,给拟人化AI划定清晰的法律与内容红线,清理违规灰色应用,既能防范网络安全、青少年保护风险,也能让人工智能在合规框架内健康、可持续发展。
对此,你怎么看呢?