反极端主义研究人员发出警告:一批由AI生成的暴力果蔬视频正在社交平台传播,可能将儿童推向激进化的危险道路。
这些视频乍看之下与其他爆火的“脑腐”短视频类似——色彩鲜艳、角色拟人化,讲述着关于背叛、家庭纠纷和离奇关系的荒诞故事。然而,全球极端主义与科技网络(GNET)的调查发现,部分账号已将此趋势转化为蓄意制造震惊效果的暴力内容。
打开网易新闻 查看精彩图片
报告指出,这些视频常借助明亮的配色、卡通角色和类似儿童电影的动画风格来掩盖其中令人不安的画面。研究人员在TikTok上发现,动画水果和蔬菜会使用武器攻击其他食物角色;部分片段还借用了极端主义运动和犯罪组织常用的图像、口号及主题。
GNET警告称,AI工具让创作者能够以极低成本批量生成此类视频,几乎不需要人工参与。这些剪辑为无尽滑动而优化:简单故事、持续惊喜、重复视觉,牢牢吸引观众注意力。研究人员担心,这种内容会“让暴力显得有趣、正常甚至值得模仿”,尤其对年幼观众而言。
令人不安的案例包括:一个持刀土豆袭击被绑在树上的胡萝卜;一个被称为“胡萝卜哈里发”的角色对军队宣称“胡萝卜国将再次崛起”;其他视频还显示胡萝卜用锯子和锤子攻击土豆。
报告还提到,评论区可能成为通往更危险线上社群的入口。用户可能会解释视频中隐藏的极端主义指涉,或引导他人转向越来越极端的内容。
尽管研究人员并未断言每一段暴力食物视频都蓄意充当宣传材料,但他们警告家长和平台应提高警惕,防止这类内容成为儿童接触极端思想的“注意力陷阱”。
热门跟贴