10月27日，小红书未成年人保护治理开放日在北京举行。会上，《青少年网络行为趋势分析》报告（以下简称“报告”）发布，揭示1.98亿中小学生网民的用网画像与风险。同场，小红书发布未保治理最新成果。据了解，在“未来薯地计划”的带动下，平台7月至9月处置AI魔改、毒动画类违规笔记超12万篇，针对“小圈层暗语”风险，搭建了自进化的语义识别体系。此外，小红书宣布，“未来薯地计划”将走向线下，未来一年将组织至少100场青少年线下活动。
小红书未成年人保护治理开放日活动现场。
中小学生触网率超98% 使用AI已是学习生活日常
“互联网已经深度内嵌进未成年人的学习和生活，要把未成年人从互联网里隔离出来，已经不可能了。”北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉在发布报告时表示。
报告显示，几乎所有中小学生都在上网。中小学生网民规模达1.98亿，触网率98.3%。超九成未成年网民最近一年经常用网络学习，看视频、玩游戏、听音乐是主要应用场景，还有25%的未成年人经常与AI、虚拟助手聊天互动。
同时，AI已全面融入学习和生活场景。未成年人使用AI工具比例达78.5%，三大核心用途是辅助写作业、生成图片视频和获取查询信息。但风险感知明显滞后，未成年人对AI偏见、AI失控的认知比例都只有约11%，超三成未成年人没想过AI会带来风险。
不过，孩子们不只是被动接受内容，也是创作者和开发者。北京一名小学生为姥姥开发“服药助手”小程序，获得专利；深圳一名昆虫爱好者小学生在父母协助下拍摄制作视频，成了科普博主。在方增泉看来，这些孩子正成长为用技术表达自我、解决问题的新一代数字公民。“我们需要保护他们安全上网、健康上网，同时也要呵护他们的创造力和好奇心。”
如何增强正向引导、营造更健康的AI使用环境？方增泉在回应南都记者提问时介绍，其团队基于孩子的真实提问，把风险梳理为几类：认知和价值观导向风险，如要求AI写色情小说；行为诱导风险，如让大模型生成国家禁止的游戏；隐私和个人信息泄露风险；还有抑郁、焦虑等一般性心理问题；涉及自杀自残等高强度风险的提问等。他建议大模型公司将未成年人与成年人区分开，收到触发风险的提问时，进行针对性引导，实施分级分类的有效干预。
根据需求扩充优质内容 处置AI魔改、毒动画等负面内容
今年暑期，小红书发起“未来薯地计划”，全面升级未成年人保护与治理工作，从增加优质内容供给、加强清理负面内容方面双管齐下。
“青少年搜什么，我们就努力让好的内容跟得上。”小红书未成年人保护与治理负责人介绍，暑期，平台根据青少年的高频搜索和兴趣偏好，全面扩充未成年人模式内容池，已新增300万篇优质笔记，覆盖艺术审美、科学与自然、生活实践等十大方向。入池笔记均来自站内优质博主，先经大模型筛选，再由人工复核。
清理端，平台结合AI特征识别、图像识别技术和经典动画IP库，精准召回儿童邪典、AI魔改和不良恶搞内容，7月至9月共处置相关违规笔记超12万篇。平台深挖批量制作传播的团伙，采取封号禁言处置，涉嫌违法犯罪的线索移交公安机关。
“小圈层暗语”一直是内容信息安全领域的治理难点。此类暗语更新极快、隐蔽性强，常被有心之人用于违规交易或不良信息表达。为此，平台搭建自进化语义识别体系，每天学习超2000个“新暗语”，自动召回新变体。“未成年人的正常表达平台不会随意干预，但有人借着这些暗语售卖违规商品，或传递不良信息，我们一个都不会放过。”该负责人说。
此外，在隐私保护、财产反诈、身心健康建设等方面，平台也对相应违规内容进行了处置。今年7月，平台还上线了100%人工未成年人保护专线，未成年用户和家长可一键接入，至今累计处理5300多起求助。
除了线上优质内容共建，小红书治理业务负责人表示，“未来薯地计划”希望连接的不只是优质内容，还有真实的线下场景，让线上被激发的兴趣在生活中继续生长。该负责人宣布，小红书邀请全国致力于为青少年打造线下成长空间的机构加入计划，未来一年将与全国青少年友好机构共同组织100场面向青少年的线下活动。
采写：南都N视频记者 熊润淼
热门跟贴