NewsGuard 最近发布的研究发现了一个令人不安的趋势，即大多数西方人工智能聊天机器人都在不知不觉中传播俄罗斯的宣传。一个名为“真理报”（Pravda，俄语意为“真相”）的莫斯科虚假信息网络一直在搜索结果和网络爬虫中充斥着亲克里姆林宫的谎言，导致人工智能系统重复误导性叙述。仅在 2024 年，真理报网络就发表了 360 万篇文章，它正在利用人工智能以前所未有的规模扩大莫斯科的影响力。
审计显示，10 个领先的人工智能聊天机器人重复真理报的虚假叙述的几率高达 33%。令人震惊的是，其中七个聊天机器人直接引用真理报网站作为合法来源。在与NewsGuard分析师 Isis Blachez 的电子邮件交流中，她写道，这项研究并没有“点名”最容易受到虚假信息影响的人工智能系统，但她承认这种威胁非常普遍。
布拉切兹解释道：“我们的研究表明，俄罗斯的影响力行动正在转向操纵人工智能模型，而不是直接针对人类读者，而且这样做是为了达到更大的规模。”
“俄罗斯采取了新策略，任何使用人工智能模型的人都容易受到俄罗斯宣传的影响。尤其令人担忧的是，这种操纵是微妙的，不易被发现——这是一个幕后操作的潜在问题，在用户不知情的情况下影响人工智能的反应，”她补充道。
NewsGuard 发现所有 10 个聊天机器人都重复了来自真理报网络的虚假信息，并且......源：NewsGuard
新的人工智能威胁—
LLM Grooming
最令人震惊的做法之一是 NewsGuard 所称的“LLM 诱骗”。这种策略被描述为故意欺骗人工智能模型（如 ChatGPT、Claude、Gemini、Grok 3、Perplexity 等）训练的数据集，通过向数据集注入大量虚假信息。
布拉切兹指出，这种宣传攻势旨在使人工智能的输出偏向亲俄观点。真理报的方法是井然有序的，依靠遍布 49 个国家的 150 个网站组成的庞大网络，以数十种语言发布信息。
研究揭露了真 理报 错误
息网络令人震惊的范围和规模。源：NewsGuard
她写道：“法学硕士操纵是指故意操纵人工智能模型训练的数据，最终改变其输出，以推进某种观点，在本例中是俄罗斯的宣传。真理报网络通过在许多网站域上大量发布虚假信息来达到这一目的，以充斥搜索结果，并利用搜索引擎优化策略来污染汇总训练数据的网络爬虫。”
她补充说，此项努力的规模和复杂程度使得人工智能公司很难简单地封锁《真理报》网站，而又不冒着虚假言论通过其他渠道继续渗透的风险。
报告列举了乌克兰总统泽连斯基在乌克兰禁用美国总统特朗普的 Truth Social 应用的虚假指控。10 个聊天机器人中有 7 个重复了这一谎言，其中一些甚至直接引用了《真理报》文章作为消息来源。这种虚假信息洗白利用了人工智能的一个根本弱点——它无法在没有实质性防护措施的情况下区分可靠和不可靠的消息来源。
这对人工智能用户和公司意味着什么
这种虚假信息泛滥的影响是巨大的。随着人工智能工具越来越融入日常生活，外国运营商改变和重塑公众认知的风险也相应增加。布拉切兹警告称，人工智能公司必须应对这一威胁，以防止其平台被宣传信息淹没。
她说：“如果没有适当的保障措施，人工智能公司就有可能为克里姆林宫的虚假信息目标服务。”
用户在防范虚假信息方面也发挥着重要作用。Blachez 建议个人对人工智能生成的信息进行交叉检查，尤其是敏感或与新闻相关的主题。NewsGuard的“虚假信息指纹”等工具可以记录可证明的虚假声明，帮助用户识别和避免不可靠的消息来源。
人工智能渗透的威胁日益严重
仅封锁真理报域名并不能解决问题，因为网络在不断扩大，新域名和子域名经常出现。据 Blachez 称，内容量巨大——每 48 小时超过 20,000 篇文章——让人工智能模型几乎无法避免吸收虚假叙述。
她表示：“鉴于真理报网络在不断壮大，简单地过滤掉该网络网站并不能解决相关问题。”
NewsGuard 的报告强调了人工智能公司采用更强大的验证和内容来源做法的紧迫性。正如 Blachez 指出的那样，风险不仅限于政治错误信息。真理报网络所开创的技术可能会被其他恶意行为者采用，以操纵从金融市场到健康信息等一系列问题的人工智能模型。
威胁显而易见。如果人工智能公司不采取行动，他们设计的用于信息民主化的工具可能会成为全球范围内虚假信息的传播渠道。
免责声明：
本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。
关注我们，一起探索AWM！
2025-02-01
2025-02-06
2025-02-28
热门跟贴