Anthropic 发了一份报告,把一场与阿联酋有关联的影响力行动摆到了台面上。行动的目标是穆斯林兄弟会,工具是自家的 Claude 模型。
报告里最扎眼的数字是 约 300 个虚假社交媒体账号。这不是零散的水军,而是一整套配合动作:一家掩护性非政府组织、为联合国使用而代笔的证词,以及整理成档的欧洲议员、记者和联合国官员资料。
AI 生成内容,接上了老派秘密手段
Anthropic 的结论是,这场行动把 AI 生成的内容和常规的秘密行动手法拼在了一起。虚假账号负责铺量,掩护性非政府组织提供身份外壳,代笔证词往国际场合送,档案则用来盯人。
公司表示,以高置信度将该活动追溯到阿联酋政府官员。阿联酋外交部没有回应置评请求。这个"未回应"本身也是报告披露的一部分,原文没有给出更多解释。
背景并不复杂。阿布扎比自 2014 年起已将穆斯林兄弟会列为恐怖组织,美国则将其埃及、约旦、黎巴嫩和苏丹分支视为恐怖组织。这场针对行动,被放在阿联酋长期反对政治伊斯兰的政策脉络里看。
但它不是报告里最严重的那一档
Anthropic 在同一份报告里还列了其他 AI 滥用案例,按原文的说法,阿联酋这场行动远非其中最令人不安的:
- 俄罗斯网络攻击
- 中国对维吾尔人的监控
- 也门开发的用于武装无人机、炸弹和导弹的软件
把这几项并排放,能看出 Anthropic 这份报告的真实意图:它不是在讲一个孤例,而是在给"AI 被滥用"画一张分布图。影响力行动只是其中一类,军事和监控用途是另外两类。
值得盯的是"高置信度"这四个字
Anthropic 用的是"高置信度"归因,不是"确证"。这个措辞在安全报告里很常见,它意味着公司有足够证据链支撑判断,但没到可以完全钉死的程度。阿联酋方面的沉默,让这件事暂时只有一方说法。
对科技从业者来说,这份报告的价值不在站队,而在它展示了一种新的组合方式:大模型不再只是被拿去写代码、做客服,它正在被嵌进国家层面的信息操作流程里。300 个假账号只是可见的那一层。
热门跟贴