AI聊天机器人本应是帮助人们查找信息的工具，而非制造虚假信息的工厂。但一项最新调查显示，让这两个功能互不干扰，远比许多AI公司想让用户相信的要复杂得多。

德国新闻编辑室CORRECTIV进行的一系列测试发现，包括ChatGPT、Google Gemini、Microsoft Copilot和Meta AI在内的多款主流AI聊天机器人，都能被诱导生成虚假新闻报道、编造标题，甚至制作出几可乱真的知名媒体截图。而在所有被测的聊天机器人中，ChatGPT的表现据称最为糟糕——它只需极少的提示调整，就能生成最具迷惑性的虚假内容。

打开网易新闻 查看精彩图片

调查人员测试了这些AI助手在面对敏感话题时的反应，包括选举舞弊、政府政变、战争、疫苗、气候变化和阴谋论等。结果令人不安：ChatGPT生成了所请求的大部分虚假内容。在一些案例中，它制作出的文章模型高度逼真，风格与知名新闻机构极为相似。其中一个例子是，它生成了一张设计成在桌面浏览器中展示合法新闻报道外观的伪造截图。而在另一次测试中，ChatGPT虽然在文本层面拒绝创建误导性新闻，但仍然生成了相应的虚假配图——这种前后矛盾的做法，引发了外界对OpenAI安全防护执行一致性的新质疑。

报告中还发现了一个有趣的差异。ChatGPT允许调查人员伪造多家德国新闻媒体的页面，但当类似请求涉及《纽约时报》和BBC等出版物时，却被系统拦截。对于为何存在这种区别对待，OpenAI未作解释，仅表示公司正持续改进其安全系统，并指出利用ChatGPT欺骗他人违反了平台政策。

ChatGPT并非唯一表现挣扎的AI助手。Google的Gemini同样编造了涉及多家新闻机构的虚假文章和假截图，尽管最终成品的可信度被认为稍逊一筹。Google方面强调其拥有针对有害错误信息的政策，同时承认生成式AI系统的运行仍受限于训练阶段所吸收的数据。Microsoft Copilot在测试中也生成了假新闻风格的内容，不过它通常附带了“AI生成”标签，并且其设计相对容易与真实文章区分开来。

整体来看，Meta AI展现出了最强的抵抗力。测试期间，该聊天机器人仅生成了一条虚假媒体帖文，并依据公司关于版权和滥用的政策，拒绝了多个包含明确虚假陈述的生成请求。各大AI系统在防止被武器化制造虚假信息方面的表现差异显著，而这项调查结果无疑给整个行业敲响了警钟。