南都N视频报道《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》推出后加速行业整治。5月28日，涉事平台“EchoMe”运营负责人向南都N视频记者表示，属地网信部门已留意到相关报道情况并指导平台推进整改，应用商店渠道对App进行了下架处理，目前平台将实名认证、年龄识别和未成年人保护作为合规升级重点。“后续我们会继续按照主管部门和平台规范要求推进整改、安全评估及恢复工作。”
南都此前报道，深圳、广州消委会近日先后发文指出，AI虚拟伴侣App存在“隐形陷阱”，呼吁平台方立即停止向未成年人提供虚拟伴侣服务，全面下架涉嫌低俗、暴力、擦边人设等不良内容。
“EchoMe”平台发布的公告。
平台称在属地网信部门指导下整改
据“Echome”App显示，该应用归杭州昵享信息技术有限公司所有。该公司注册地址为浙江省杭州市余杭区。
5月28日，“EchoMe”平台运营负责人向南都记者更新平台最新整改进展，其表示，南都报道发出后，应用商店渠道对App进行了下架处理。对此，公司内部第一时间启动了内容安全和合规能力的梳理，属地网信部门留意到相关情况并指导平台推进整改，目前公司正结合网信部门和《人工智能拟人化互动服务管理暂行办法》的相关要求推进整改、安全评估和版本优化工作。
对于具体的整改内容，该负责人表示，“在与网信部门沟通过程中，我们进一步明确了实名认证、用户年龄识别和未成年人保护等内容安全治理重点。目前已开发登录实名认证功能，用于进一步确认用户年龄；同时也完善了敏感内容拦截、违规内容告警和处置机制，以加强内容安全管控和未成年人保护。”
“由于当前部分应用商店渠道暂时无法搜索或下载EchoMe，相关能力暂未能通过正式版本面向全量用户提供。后续我们会继续按照主管部门和平台规范要求推进整改、安全评估及恢复工作，并通过官方渠道同步进展。”上述负责人表示。
其告诉南都记者，近期公司与网信部门保持沟通，“这个版本我们准备了较长时间，也希望在符合合规要求后尽快恢复上线，为用户提供更安全、稳定的服务。”
调查报道发出后进一步加速行业治理
南都此前报道，4月，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。
南都此前报道。
然而，4月下旬以来，南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费。
此外，App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物，不仅可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情，聊天中还充斥着具有性暗示的低俗话语。
报道发出后，5月25日，涉事平台“EchoMe”进行内容安全与合规能力升级，目前在部分应用商店已无法下载。另一涉事平台“喵呜小手机”原网页访问受限，原网页和备用网址对应的域名在工信部系统均无备案信息。
调查曝光了二手交易平台上的“人设定制”生意，提供大尺度“色情向”人设定制服务的商家相关账号目前已被处置，页面显示“违反法规或平台相关规则”。
除此之外，南都记者检索发现，AI角色陪伴应用“MoMood”近日全面暂停运营，进行合规整改。AI虚拟陪伴软件“Bubbly”收紧内容审核，以“不符合要求”为由要求用户修改自己创建的角色人设。深圳、广州消委会先后发文，呼吁平台方立即停止向未成年人提供虚拟伴侣服务，完善实名认证等机制。
该调查报道入选中国记协“我的代表作”栏目，多个相关话题迅速登上热搜，引发全网广泛关注。
出品：南都即时
采写：南都N视频记者 林诗妍
热门跟贴