OpenAI披露一起隐蔽影响力行动

OpenAI近日曝光了一起俄罗斯方面利用ChatGPT生成社交媒体内容的隐蔽行动,并已通过封禁一批相关账号进行干预。操作者从俄罗斯境内通过虚拟专用网络接入平台,并指示ChatGPT隐藏任何可能暴露其俄语来源的语言线索。

打开网易新闻 查看精彩图片

该行动的核心目标是推广一家据称设在以色列的智库“国际伯克研究所”。这家机构发布了一份“主权指数”,在排名上对俄罗斯较为有利,同时让西方国家看起来更差。

34篇专家署名文章被指抄袭

OpenAI称,2025年9月至2026年5月期间,该智库发布的36篇带有专家署名的文章中,有34篇复制自其他来源,部分还使用了虚假作者署名。其中一篇来自剑桥大学出版社的文章,被错误标注为诺丁汉大学一位教授的作品;另一篇来自移民政策研究所的内容,则被署上了一位澳大利亚食品化学教授的名字。

这些内容被散布到X、领英、脸书、Substack和Telegram等多个平台。部分德语内容发布在一个名为“Lahme Ente”的Telegram频道上,该频道批评乌克兰、欧盟和德国联邦政府,同时主张与俄罗斯建立更紧密关系。另一名操作者则为大约十几个聚焦德国、美国、法国、波兰和土耳其的Telegram频道制作了标识,并定期索取这些频道活动的俄语摘要。

单帖浏览量低,但频道粉丝过万

根据OpenAI的观察,单条帖子的浏览量很少,IBI官方账号的订阅人数也不高。不过,相关联的Telegram频道各自拥有1万到2万名关注者。在布鲁金斯学会的“突破量表”上,OpenAI将此次行动评为六级中的第三级,意味着它已在多个平台传播,并出现触达真实用户的早期迹象。

目前该行动的覆盖面仍然较小,但OpenAI指出,其背后较为复杂的基础设施具备随时间扩大规模的可能。

此前已多次打击类似行动

OpenAI此前已多次阻断滥用ChatGPT的俄罗斯影响力行动。2024年6月,该公司曝光了一个名为“Bad Grammar”的俄罗斯网络,该网络利用其模型在Telegram上生成涉及俄罗斯、乌克兰和波罗的海国家的政治评论。一年后,OpenAI又识别出“Helgoland Bite行动”,这是另一场俄罗斯方面利用ChatGPT制作德语内容的行动,发生在德国2025年联邦大选之前,内容攻击美国和北约,同时为德国选择党造势。

这些还只是OpenAI在自家平台上发现的情况。考虑到中国AI服务商和开放权重模型可以自由获取,AI驱动的影响力行动的实际规模很可能要大得多。