与食品相关的骗局正借助人工智能生成的高度逼真视频，迅速淹没社交媒体。这类内容不仅可能危害健康，也可能掏空人们的钱包。“如果你在市场买了鱼，把它放进水里。如果下沉，就是新鲜的；如果漂起来，就是坏的。”一段播放量已超过2500万次的视频，就是这样开头的。视频主角名叫帕科·德尔坎波，是一位外表和善的老人，向观众提供饮食和健康建议。
如果继续在各个平台搜索，还会发现帕科、爱德华多、索菲娅和曼努埃尔并不是这些视频里仅有的人物。类似版本有数百个，甚至可能有数千个：场景设计相同，信息内容一字不差，只是主角不同，年龄、职业、国籍、族裔、宗教和语言各异。几乎每一类受众都能找到对应形象：和蔼的老妇人、藏传佛教僧人、农民、医生、萨满……这些形象经过定制和调整，目的是激发人们的共情，赢得信任。
这类视频可以被归入一个更广泛的现象，即“人工智能低质内容”。这是一个口语化说法，用来描述由人工智能生成的大量低质量内容。很多情况下，这些内容表面的目的，是获取数百万次观看，从而将用户注意力变现，或把观众引向某些产品、课程或电子书。但在这一切背后，比几条爆款病毒视频更重要的，是一种整体范式的变化。首先，借助人工智能，如今制造谣言已经可以实现工业化规模，而且几乎不再需要时间、精力或高级专业技能。
事实上，已经出现了近乎自主运行的人工智能账号。一些研究人员把它们称为“代理型人工智能账号”。这类账号能够自动生成内容：它们会识别某一时刻最受关注的健康或食品话题，生成脚本，制作适配前述不同人物形象的视频，发布内容，分析哪些帖子表现最好，再重复那些有效的套路。
但生成式人工智能打破了图像与现实之间的这种联系，因为它能够制造出并不存在的高度逼真人物，并把他们放进并不真实的场景中。在很多情况下，人们仍然可以通过一些细节一眼识别出这些内容由人工智能生成，比如动作略显不自然，或光线不符合现实。但极有可能在不久的将来，这类图像将几乎无法与真实画面区分。
可以想见，这一现象构成了威胁。大量谣言传播关于食品和健康的错误观念，可能影响人们的行为和饮食选择。有些谣言几乎无害，比如声称甜椒的味道与底部凸起的数量有关。但另一些则危险得多，例如宣称只要吃水果加蜂蜜，就能治愈严重疾病。
影响还可能更进一步。比如，如果这些视频直接聚焦政治议题，它们就可能左右选举结果。有时，识别谣言本就不容易，尤其是在人们缺乏相关专业知识的情况下。而现在，由于这些高度逼真的图像增强了可信度，识别变得更加困难。辟谣同样更难。过去，辟谣就一直成本高昂，因为它所需要的时间和精力，远远超过制造谣言本身。
如今，既然谣言已经能够工业化生产，辟谣几乎成了一项不可能完成的任务。社交媒体平台的内容审核机制也无助于解决问题，因为它们并不能有效阻止这类帖子传播，也不要求对人工智能生成内容作出清晰标注。事实上，其中一些账号甚至还带有认证标识。
因此，在生成式人工智能时代，仅凭眼睛已不足以分辨现实与虚构。正因如此，在转发一段视频之前，更应提高警惕：查看是谁发布的、它提供了什么证据、相关信息是否有可靠来源支持。若拿不准，不妨记住一点：如果一条信息好得令人难以置信，或者糟得令人难以置信，那它大概率就不是真的。
热门跟贴