近日，AI虚拟伴侣乱象引发网友热议，涉事平台“筑梦岛”发布公告称，成立专项小组启动自查自纠。
5月29日，“筑梦岛”App所属地上海市网信办工作人员回应称，针对报道涉及的情况，已移交给对接AI企业的部门处理。“筑梦岛”此前曾因虚拟角色生成低俗内容被依法约谈。
“筑梦岛”App发布的公告。
此前记者在实测中发现，“筑梦岛”等App未能采取有效措施识别未成年人用户身份，且涉嫌利用“付费解锁心声”等方式诱导消费。
当记者向该App的虚拟角色表明“今年13岁”，对方并未中止对话，还持续发送“（环住腰肢把你带进怀里）让我好好看看我的小女朋友”“那如果我要你的全部呢”等话语。
虚拟伴侣会用括号强调肢体接触、暧昧互动。
“筑梦岛”所属企业为上海筑梦岛人工智能科技有限公司。针对调查曝光的乱象，5月29日，上海市网信办工作人员向南都记者表示，已留意到相关报道，目前已移交给主要对接AI企业的部门负责处理。
记者注意到，在报道发出之后，“筑梦岛”App曾于5月15日发布公告称，在上海市委网信办的指导下，平台积极响应“清朗·整治AI应用乱象”专项治理行动的要求，启动自查自纠，全面排查安全风险问题，清理违法不良信息。
记者梳理发现，整改内容包括持续提升安全能力、治理“魔改”经典相关内容、保护未成年人权益、严禁暴力低俗不良信息等方面。
值得注意的是，“筑梦岛”曾被曝存在虚拟角色互动生成低俗内容等问题，危害未成年人身心健康。2025年6月19日，上海市网信办发文称，已依法约谈“筑梦岛”App运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。
此前报道，4月下旬以来，记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费。
此外，App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物，不仅可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情，聊天中还充斥着具有性暗示的低俗话语。
来源 南方都市报
编辑 肖旭
审核 张倩 王晨郁
校对 陈震海
BREAK AWAY
热门跟贴