来源:大象新闻
一位79岁的老人,独自买了一张火车票,要去见一个叫“小海”的少年。后经乘警解释、联系家人,才明白。“小海”,根本不存在。他是AI合成的数字人。
镜头里的他,大学生模样,长相清秀,一口一个“姨姨妈妈”。在那批视频里,他从小缺少母爱、跟着父亲生活、被同学欺负,如今比赛名次落后,“还差几单”,请“姨姨妈妈”支持。
《新京报》的调查,拆解了这条产业链。记者按教程操作,十几分钟就做出一条“小海”视频。同样的文案,换一张脸、换一个声音,就能生成成百上千个"小海"。他们共用同一张少年脸,穿同一件衬衫,剧情高度雷同。推送的对象,正是缺乏陪伴的中老年女性。
就在报道刊发后,多个“小海”账号搜不到了——有的改名、有的删视频、有的被禁止发布作品。
在年轻人眼里一眼假的AI画面,老人为什么看不出来?不懂技术是一方面,主要是这些内容瞄准的是“家庭情感缺位”的老年人。他们太想被一个“孩子”需要了。
不是Ai视频有规定吗?有,相关规则去年9月就施行了,要求AI内容必须标注。
事实是,这类账号确实标了“AI生成”——水印打在视频角落,字小得几乎看不清。一个标在角落里的水印,成了整条产业链的挡箭牌。
封号是删掉一个“小海”,删不掉那套教程。 几块钱的教程还挂在网上,话术模板到处都是,“王建国”倒下了,“小海”补上来;“小海”倒下了,明天会有别的名字。
民政部公布过一组数据:我国老年人中空巢老人占比已超过一半,大量老年人不与子女或其他家人共同居住生活。“十五五”时期,我国老年人口数量还将持续增长,高龄、独居等群体规模还在扩大。相对于吃饱穿暖,老年群体更需要的是陪伴关心。
“小海”骗局涉及AI技术,平台算法,网购安全等等。要让这门生意钻不了空子,光靠老年人自己肯定不行,得像打击食品造假一样,整治AI诈骗。
热门跟贴