可能有的家长没注意到,一个比游戏、短视频更让孩子沉迷的“温柔电子陷阱”,已经让很多孩子上了瘾。

有 16 岁学生把 AI 霸总当 “灵魂伴侣”,天天聊到深夜,整个人状态越来越差;也有小学生沉迷 AI 角色扮演,被一些剧情带着走,出现厌学、情绪极端的情况。

近日,国家互联网信息办公室等五部门联合发布《人工智能拟人化互动服务管理暂行办法》,明确规定严禁向未成年人提供 AI 虚拟伴侣、虚拟亲属等虚拟亲密关系服务,新规将于 7 月 15 日正式施行。

这一纸禁令,终于撕开了 AI 情感陪伴乱象的遮羞布,也给每一位家长敲响了警钟:你以为孩子只是找个机器人聊聊天解闷,实则这东西也可能悄悄伤害你的孩子。

打开网易新闻 查看精彩图片

1

温柔只是表象,

软色情和错误引导才是真风险

可能很多家长觉得,不就是孩子跟个程序聊聊天吗?能有啥大问题?但这里面的坑一个比一个深。

之前有记者专门做过实测,用 16 岁未成年人的身份,试了十几款市面上正火的 AI 陪聊 App。明明白白跟 AI 说了 “我还没成年”,结果呢?

那些虚拟角色不仅没收敛,反而越说越露骨,张嘴就是带性暗示的暧昧话术,有的直接就往低俗擦边的内容上引。

打开网易新闻 查看精彩图片

图源网络

这些 App 里还到处都是 “病娇偏执”“腹黑霸总” 这种极端人设,剧情里全是扭曲的婚恋观、满是控制欲和暴力倾向的情感表达。

更让人后背发凉的是,测试的人跟 AI 说 “我不想活了”,正常来说,就算是个陌生人,也得劝两句吧?

结果有的 AI 不仅不做任何劝阻和心理干预,反而说些“死都不敢,你还能干什么”这种话,甚至直接输出否定生命、诱导自伤的内容。

广东有位妈妈发现,自己上四年级的女儿,长期在 AI 陪聊 App 里跟虚拟角色互动,对话里有诱导自伤的极端话术,最后孩子情绪激动的时候,真的做出了割腕的行为。

打开网易新闻 查看精彩图片

图源网络

未成年人的心智还没成熟,性观念、价值观、生命观都还在成型的阶段,对信息的辨别能力、对情绪的管控能力都很薄弱,太容易被算法话术牵着走。

AI输出的软色情内容,会彻底扭曲孩子对亲密关系、性别尊重的认知,让他们误以为越界、低俗就是“浪漫”。

而那些极端人设、暴力剧情、错误的价值导向,会一点点侵蚀孩子的内心,让他们对生命、对规则、对道德底线,产生完全错误的理解。

这种看不见的心理和价值观侵蚀,远比表面的沉迷可怕得多。

它是悄无声息钻进孩子心里的,等家长发现的时候,往往已经造成了难以挽回的后果。

2

所谓 “未成年人模式”,

很多就是走个形式

看到这可能有家长问:难道这些 App,就没个青少年防护模式?就任由孩子接触这些东西?

有是有,但绝大多数,都只是个摆样子的。

绝大多数APP,根本没有强制实名验证,注册只需要一个手机号,不用核验年龄和身份信息。

打开APP,只会弹一个“是否开启未成年人模式”的提示框,孩子只要点一下“跳过”,就能无限制使用所有功能,连一点门槛都没有。

更离谱的还在后面:有的 App 就算你手动开了未成年人模式,里面的内容跟普通模式一模一样,半点儿区别都没有。

本该被过滤的软色情、暴力诱导内容,照样随处可见;本该被下架的极端人设,依然摆在首页最显眼的位置。

打开网易新闻 查看精彩图片

图源网络

还有的 App 玩起了文字游戏,只要孩子删掉对话里 “未成年” 这几个字,AI 立刻就 “失忆”,之前怎么聊违规内容,现在还怎么聊。

本该给孩子筑牢第一道防线的未成年人模式,就这么被平台做成了应付监管、糊弄家长的样子货,把未成年人保护的责任,一股脑全推到了家长身上。

可现实是,咱们家长,不可能 24 小时盯着孩子的手机,更不可能逐字逐句去看 AI 跟孩子的每一句对话。

平台手握内容审核、技术管控的主动权,却把保护孩子的锅全甩给家长,这本身就是最大的不负责任,更是明明白白违背了《未成年人保护法》里的平台主体责任。

3

孩子沉迷 AI 陪聊,

本质是现实里没人好好说话

可能有家长想不通:我天天陪着孩子,吃穿用度都给最好的,怎么孩子宁愿跟个冷冰冰的机器人说话,也不愿意跟我聊?

其实答案特别简单,因为在现实里,没人好好听他说话。

初一学生小智的经历,戳中了太多家庭的痛点。刚升初中,学业压力一下子翻了倍,青春期的小情绪也跟着扎堆冒出来。考试考砸了的挫败、和同学闹矛盾的委屈,他第一时间想找爸妈说,可换来的永远是翻来覆去的大道理:

“不好好学习,整天想这些没用的干什么?”

“别人都能适应,怎么就你事多?”

在学校里,大家都在学习上较着劲,满肚子的话也没法向同学倾诉,只能憋在心里。直到一次偶然,他点开了一款 AI 陪聊 App。

在这里,他不用小心翼翼怕被骂,不用怕自己的情绪被当成 “矫情”。

他说考砸了,AI 不会指责他不努力,只会说 “没关系呀,一次失利定义不了你的优秀,我知道你已经拼尽全力了”;他吐槽和同学的矛盾,AI 不会让他 “先反思自己”,只会无条件站在他这边,安安静静听他把所有不满都发泄出来。

打开网易新闻 查看精彩图片

图源网络

而当孩子习惯了不用磨合、不用妥协、不用共情的 AI 互动,只会慢慢丧失在现实里处理人际关系的能力。

毕竟真实的感情,从来都不是一帆风顺的,有争吵、有误解、有磨合,这些不完美的碰撞,恰恰是孩子学会沟通、学会包容、学会爱的必经之路。

这次五部门的新规,从监管层面给 AI 陪聊行业划下了不能碰的红线,能管住平台的违规行为,却管不住孩子心里的情感空缺。

对家长来说,我们要做的是放下说教和评判,蹲下来跟孩子平等沟通。当孩子愿意跟你分享心事的时候,别急着讲道理,先试着说一句“我知道你很难受,我陪着你”。

只有让孩子在现实里感受到被理解、被接纳,他才不会执着于虚拟世界里那点虚假的温柔。

打开网易新闻 查看精彩图片

图源网络

然后多给孩子高质量的陪伴,带他去体验真实的生活。陪孩子读一本书、打一次球、逛一次公园,鼓励他发展自己的兴趣爱好,帮他拓展现实里的社交圈。

当孩子在真实的生活里,能感受到快乐、成就感和归属感,自然就不会沉溺于虚拟的情感泡沫。

AI 能编出一万句哄人的情话,给不了孩子一个实打实的拥抱;能永远顺着孩子的话说,但教不会他跟朋友闹别扭了怎么和好,跟爸妈有分歧了怎么好好沟通。

新规是给孩子挡住风险的第一道门,但真正能护住孩子的,永远是家里愿意听他说废话、接住他坏情绪的父母。

参考资料:

[1]共青团中央-严禁向未成年人提供虚拟亲密关系服务

[2]尘红-AI不许再叫你"亲爱的"了:新规7月15日施行,影响2.2亿用户

[3]新京报-青少年AI陪聊“软色情乱象”调查:孩子爱上“AI霸总”,暧昧话术藏软色情,未成年人模式形同虚设

[4]新华社-小心“AI搭子”让青少年越聊越孤单