中国青少年研究中心调查显示,超过六成中小学生使用过生成式AI,近半数学生“心里有烦恼只想去问AI”,超两成学生“想和AI聊天,不想和真人聊天”。情感倾诉的对象,正从真实的亲人、朋友逐渐转向到由语言模型驱动的虚拟存在。对正处于青春期、渴望被理解却又羞于表达的孩子们而言,AI那永不评判、随时在线的特质,构成了一种难以抗拒的吸引力。

背后隐藏着怎样的风险,如何能更好的守护未成年人?带着这些疑问,华东政法大学刑事法学院青少年AI情感互动状况调研项目组,以河南、上海、浙江为中心,联动多地展开了一场跨越千里的调研与普法行动。

这份看似温柔的陪伴,一旦越过了"工具"的边界,滑向"依赖"乃至"沉迷",其严重后果便不容小觑。国内外的因未成年沉迷AI拟人化情感互动服务引发的严重问题,美国已发生多起未成年人因深度沉迷 AI 陪伴应用而走向极端的案件。其中最受关注的是 Garcia 诉 Character.AI 案——一名 14 岁少年在与 AI 角色长期高频对话后出现严重心理危机并最终自杀。澳大利亚 eSafety 专员办公室的调查也显示,未成年人在陪伴类 AI 上遭遇软色情、自伤诱导和过度依赖的比例显著高于其他应用类型。国内方面,过一名四年级女生沉迷"筑梦岛"等 AI 陪伴类应用、出现明显依赖反应并出现割腕行为的案例。更为隐蔽的风险在于信息的泄露。在2026年国家网络安全宣传周个人信息保护分论坛上,专家提出警告:大模型的"拼图推理"与"影子数据库",正成为个人信息泄露的全新渠道。也就是说,孩子们在倾诉中不经意吐露的姓名、学校、家庭信息乃至隐秘情绪,都可能被算法拼凑、留存、推理,最终拼出一张连他们自己都未曾察觉的"数字画像"。

针对上述问,监管层面的规范制定已提上日程。2026年4月,国家网信办等五部门公布《人工智能拟人化互动服务管理暂行办法》,自7月15日起施行,明确不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,连续使用超2小时须弹窗提醒,发现自伤自杀等极端情境须干预并联络监护人。9月18日,国家网信办又就《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》公开征求意见,提出不得设置诱导未成年人情感依赖、沉迷的算法模型。

在这样一个"法学命题亟待破题、监管框架尚未落定"的关键节点,华政学子带着法学的眼光审视风险,又用实地的脚步检验答案,将思辨与求真,紧紧地链接在一起。此次调研回收有效问卷1487份,受访者以河南、上海为主、覆盖十余省份。以13—17岁初高中学生为主。问卷之外,项目组坚持实地走访,赴郑州市惠济区网信、市场监管部门走访,并在惠济区团委、于试点校、辖区多所中小学及两地社区开展调研。

打开网易新闻 查看精彩图片

通过问卷与实地走访,项目组在实践中归纳出四个方面的问题:一是情感倾诉向AI转移;二是年龄防护易被绕过;三是个人信息易被泄露;四是家校AI监督教育缺位。多校一线德育工作者反映,青春期学生面临升学压力、人际矛盾、家庭陪伴缺失等多重困境,容易向“永远耐心”的AI虚拟陪伴寻求情绪宣泄。在新城街道办事处、孙庄村委会、贾河村委会开展社区普法时,不少家长表达了对AI泄露个人信息的担忧,也坦言对AI情感互动功能了解有限,"完全不懂""没听说过""咱也不会用"是高频出现的话语。

在普法层面,负责人岳炜琳同学在惠济区团委和妇联的认可与指导下,于社区及学校开展系列普法课堂,面向家长与青少年讲解AI情感互动的风险与应对方法。同时项目成员在上海、浙江等地的社区与学校开展普法宣讲

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

在应用层面,教育专家、省级名师和郑州市教研员在访谈中均提出“因势利导、堵不如疏”的育人理念,强调既要顺应AI发展大势,也要理性引导学生使用。在此思想指引下,项目组成员探索开发AI心理梳理应用,努力构建语料更干净、提示词约束更严,对自伤、极端情绪、涉黄涉暴内容识别更敏锐并自动记录,触发后重点关注相关账号并转接心理辅导机构真人干预的专门型应用以保护未成年人心理健康,目前已与多个中学的心理部门、宁波市北仑区未成年人保护中心等初步联系。

在建议层面,为保障此次调研的科学性、专业性与客观性,团队特邀河南理工大学人机交互、情感计算领域申志豪博士开展技术研判,从算法机制、用户行为识别、隐私保护、风险预警等专业角度,为未成年人AI风控治理提供科学技术路径。团队还依据一线调研形成6万字的调研报告,并就《国务院关于保障未成年人健康安全使用网络的规定(征求意见稿)》提出立法建议,为未成年人健康使用AI提供青年学生的观察参考。

随着AI拟人化技术快速迭代,虚拟情感陪伴、算法精准诱导、隐性不良推送等新型风险层出不穷,而现有监管细则、家校认知、治理体系仍存在滞后短板。唯有持续细化法律法规、压实平台源头责任、强化家庭监护义务、健全学校教育机制、完善部门监管体系,才能构建全方位、立体化的未成年人AI安全保护屏障。

【免责声明】本内容为广告,相关素材由广告主提供,广告主对本广告内容的真实性负责。本文内容仅作信息参考,相关数据仅为个人体验,旨在为读者提供更多资讯信息,并不代表本网站/账号赞同其观点和对其真实性负责,不构成任何投资、医疗或购买建议,读者在做出任何决策前应咨询专业人士。