新京报贝壳财经讯(记者程子姣)10月27日,小红书公开未成年人相关保护、治理进展,今年7—9月,共处置AI魔改、毒动画超12万篇;针对“小圈层暗语”风险,平台搭建了自进化的语义识别体系,每天学习超2000个新暗语。在隐私肖像保护领域,平台在今年7—9月处置涉未成年人形象不当营销笔记2.4万篇、账号1000多个。
小红书同步宣布未来薯地计划全面升级,将相关治理从线上延伸到线下:未来一年,小红书将联合全国博物馆、动植物园、体育户外等青少年友好机构,共同组织至少100场面向青少年的线下活动。
小红书未成年人保护与治理负责人表示,今年暑期已扩容超300万篇优质笔记,集中清理AI魔改、毒动画和不良暗语等违规内容。其中,AI魔改、毒动画是治理重点。据该负责人介绍,平台结合AI特征识别、图像识别技术和经典动画IP库,精准召回儿童邪典、AI魔改和不良恶搞内容,同时深挖批量制作传播的团伙,采取封号禁言的处置,对涉嫌违法犯罪的线索,平台会移交公安机关,依法追究其法律责任。
“在内容信息安全领域,‘小圈层暗语’、‘日抛型梗’,一直是治理的难点。”上述负责人称,此类暗语更新极快,像“日抛型”一样,今天流行、下周就换,这样的隐蔽性可能被“有心之人”用于违规交易或不良信息表达。
编辑 陈莉 校对 柳宝庆
热门跟贴