据美国有线电视新闻网（CNN）报道，今年春天，在两伊战争期间，美国险些对一艘中国船只发动军事行动。

起因是一份人工智能生成的情报报告错误地将该船只识别为载有核武器部件。

媒体援引四位知情人士的话称，美军当时已开始准备拦截该船只，美军人员已做好登船准备，军用飞机也已升空。

打开网易新闻 查看精彩图片

一旦这一行动真的实施，将成为又一起“银河号事件”，按照现在的中国民意和军事实力，绝不可能像当年一样忍气吞声，极容易引发军事摩擦！

然而，美国情报官员们很快发现这份报告是由聊天机器人生成的，他们无法确定船上货物的真实内容。

这位分析师利用从位于夏威夷的美国太平洋特种作战司令部获得的货物清单数据，通过聊天机器人进行了查询。

该工具利用了公开信息和机密信号情报，并得出了一个关于货物的结论。随后，这位分析师运行了另一个人工智能工具将这些结果整理成一份格式化的标准情报报告，并将其发送出去。

这种标准化的报告通常在军方内部传阅并被广泛信任！

在审查情报后，官员们发现这名特种作战分析员使用的聊天机器人错误地识别了船只清单上的材料，随后叫停了原定的行动。

据报道，一位消息人士称该报告是聊天机器人“完全是捏造的”（AI幻觉），并表示它“几乎引发了一场战争”，因为针对中国船只的行动有可能升级为华盛顿和北京之间的武装冲突。

自国防部长皮特·海格塞斯（Pete Hegseth）推行激进的 GenAi.mil 战略和“AI 加速策略”以来，分析师面临极大的情报产出速度压力。

军内知情人士吐槽道：“AI 确实能让你更快地得到一个烂主意”。但是，由于缺乏统一的安全验证标准，盲目让 AI 介入正在严重放大误判和意外擦枪走火的几率。

媒体没有透露，这次AI幻觉是哪个大模型产生，不过当时恰逢美国军方封杀了Anthropic。

不知道是否因为Claude的幻觉让军方失去了信任，还是替换Claude过程中，其他大模型发生了AI幻觉！