在TikTok上搜索“健康建议”,你刷到的视频有高达84%可能出自AI之手。数字营销机构Hallam的研究发现,这些AI生成的虚拟医生形象,正以数百万次的观看量散布危险的健康错误信息。
研究团队分析了1198段视频,从“健康建议”“医生建议”等关键词的搜索结果中,各自抽取热度最高的50段进行判断。结果显示,当用户搜索特定词语寻找健康指导时,绝大多数内容要么完全由AI生成,要么经过了AI辅助制作。英国医学会理事会副主席艾玛·伦斯威克医生发出明确警告——这些账号兜售的“神奇疗法”,可能让人们赔上健康,甚至失去生命。
研究人员在AI虚拟医生的内容池里,找到了多种早已被科学界驳斥的致癌迷思:用塑料容器在微波炉里加热食物会致癌、使用除臭剂会致癌、睡觉时把手机放枕边会致癌。英国癌症研究中心对这些说法一一给出了否定结论。但这些被证伪多年的老谣,正借助AI生成的逼真医生形象重新获得传播力。热度最高的AI医生及健康类视频,平均每条能拿到250万次观看。
还有些内容走得更远。部分账号推销荒诞的民间偏方,比如指导用户把可口可乐和洋葱混在一起当止痛药用。更值得警惕的是,一个名叫“Hyalethinap Plus Pro Max”的抗衰老虚构产品也被包装成医学推荐。一位AI生成的虚拟医生在视频里声称,自己多年来一直在给患者开这个产品,说它能帮助身体“自然产生抗衰老分子”,改善脱发、皮肤脆弱、指甲易断和关节疼痛等症状。但《卫报》调查后发现,网上找不到任何证据能证明这款产品真实存在。
这些深度伪造的网红账号,从外观到身份设定都在刻意模仿真实的医生形象。研究指出,健康类热门视频中有40%的内容由AI生成,创作者正大量制造这类账号,以“工业化方式”榨取公众的信任。英格兰国民医疗服务体系全国医疗主任弗兰基·索兹教授观察到,临床一线已经感受到了冲击——越来越多患者因为纯粹为了骗取点击而编造的虚假建议,陷入了焦虑和困惑。英国皇家全科医师学院主席维多利亚·佐齐乌·布朗教授同样认为,误导性的AI内容确实可能对人造成真实伤害。
这并非小范围现象。患者权益机构英格兰健康观察去年委托Savanta进行的调查覆盖了英格兰7407名成年人,结果发现大约每五个受访者中就有一人会从社交媒体获取健康信息。该机构政策与公共事务临时主任威廉·佩特指出,当人们缺乏分辨可靠信息、商业炒作和错误信息的能力时,健康可能因此遭到严重损害。伦敦大学学院健康错误信息研究员亚历克斯·鲁阿尼则补充说,AI医生视频的爆发式增长,正在让公众以“令人恐惧的规模”接触虚假医疗内容。
《卫报》将部分视频样本提交给TikTok后,平台下架了被点名的内容。TikTok发言人的回应则对研究本身提出了质疑:这项研究由拥有商业利益的营销机构完成,其结果不能准确反映平台实际情况。该发言人同时强调,TikTok会删除包括AI生成内容在内的有害健康错误信息,并与世界卫生组织和英国国家医疗服务体系合作,在应用内提供可靠的健康信息,还持续投资AI素养资源和内容标注技术。
热门跟贴