短视频平台上,一个个身世坎坷、温柔懂事的 “小海”“霸道哥” 打动不少老年网友。老人动情留言、下单帮扶,甚至有人奔赴线下想要相见,殊不知屏幕那头只是AI生成的虚拟数字人。连日来,三湘都市报记者调查发现,这类账号依托统一模板批量生产、下架后改名换壳反复上线,靠着苦情剧本精准捕捉老年人的情感空缺,形成一条隐蔽的引流带货灰产链。
虚拟人设如何击穿老人心理防线?家人该如何科学劝导、守护长辈的钱袋子?三湘都市报记者结合律师解读、心理专家分析,拆解骗局套路,给出守护良方。
【套路起底】
10月22日,三湘都市报记者发现,这类账号生成成本极低,依靠算法精准推送给老年用户。不少中老年人分不清AI数字人与真人,不仅冲动下单消费,还主动发布合拍视频支持“小海”,评论区里随处可见老年用户暖心留言。据央视报道,有七旬老人深受触动,独自坐火车打算线下探望,经乘警提醒才知晓对方并非真人。
此外,三湘都市报记者核查发现,平台内大量关于“小海”的原始视频已经下架、无法查看,但同类AI模板换壳再生,平台上涌现出一批共用同一张AI人脸模板的账号,改名换壳持续运营。
三湘都市报记者在某短视频平台搜索发现,“霸道哥”“小海努力奋斗”等账号采用成熟稳重的中年大叔形象,账号获赞高达近千万,粉丝量突破30万;账号简介直白标注“情感互动、交友”,或是以生病住院、寻求帮扶为叙事主线,话术温柔,主打陪伴感。
这类账号、视频即便被平台下架,但运营者只需更换昵称、微调简介,就能快速新建账号卷土重来。
【律师解读】
AI虚假带货涉嫌欺诈,监管规则仍待细化完善
湖南万和联合律师事务所李健律师表示,AI数字人虚构苦难身世、卖惨诱导下单,属于虚假宣传,符合欺诈构成要件,严重情形下,以非法占有为目的骗取财物,可涉嫌诈骗罪。
依据《直播电商监督管理办法》,不得利用AI编造误导性商业信息。AI数字人不具备独立法律人格,账号运营主体是第一追责对象;数字人制作方一般不担责,若共同策划虚假剧本则构成共犯;平台未尽审核义务需承担相应责任。
此外,老年群体维权取证难点在于直播内容易下架灭失,老人缺少录屏意识。建议及时录屏、保存订单、支付凭证、商品实物照片,可向平台申请调取直播回放,依法主张索赔。
李健呼吁,依据《中华人民共和国电子商务法》第三十八条,平台负有内容审核、风险识别义务;平台明知账号违法仍持续推送,未采取处置措施,应承担连带责任。
李健表示,当前监管存在法律空白,AI生成内容标识、算法推荐责任、虚拟人设虚假叙事的认定标准尚不细化。立法层面应明确数字人带货强制标识义务,细化算法推荐过错认定规则,完善涉老年消费案件证据调取机制,压实平台事前风控责任,保护老年消费者合法权益。
【心理溯源】
虚拟人设精准利用老人情感缺口,共情之下理性失守
为何这类虚拟人设总能轻易击中老年人内心、催生强烈共情,促使老人合拍留言,甚至奔赴线下见面?湖南省第二人民医院(湖南省脑科医院)肖剑英主任医师从老年心理学角度作出解读。
肖剑英说,AI数字人直播间能让老人一掷千金,根源不在认知衰退,而在衰老带来的正常心理变化被精准利用。
社会情绪选择理论指出,老年人感知时间有限,情感需求压倒理性权衡,对温暖与赞美格外敏感;当真实社交随年龄萎缩,AI数字人以“乖巧晚辈、可怜身世”的人设成为“社会替代物”,用拟亲属称谓和永远在线的耐心回应,恰好填上了依恋的空缺。
“强烈的情绪唤醒,无论感动还是同情,都会压制老年人的认知调控能力,让判断力在‘这孩子太不容易了’的瞬间悄然失守。”肖剑英说。
【守护支招】
劝导老人切忌四件事,要共情先行
“对此类情况的应对之道是‘先补情感,再谈防护’。”肖剑英提出,家庭的关键不是没收手机、冻结账号,而是情感反哺:多聊老人关心的话题、创造代际共同活动、请老人帮忙做事,让他们觉得“被需要”;社区可提供老年大学、合唱团等真实社交空间;平台则需落实大额打赏冷静期与风险提醒。
针对深陷直播间、持续大额消费的老人,肖剑英也给出劝导切忌四件事:直接否定“你被骗了”(触发逆火效应,越劝越信)、冻结账号(激化对抗转入地下)、当众揭穿(伤及自尊)、空讲大道理。
有效路径是:共情先行“我知道你希望有人陪你说话”;再借媒体曝光等第三方案例,让老人自己产生警觉;同时悄悄屏蔽诱导内容、引入权威科普;最后用真实社交填补空缺。
全媒体见习记者 刘文
编辑丨陈舒仪
一审丨陈舒仪
二审丨袁隽永
三审丨彭治国
微信改版了
现在刷到我们的推文全凭缘分
拜托大家把三湘都市报“设为星标”
让我们的缘分更深一点
热门跟贴