距离冲上一艘中国船只，只剩几分钟。
就在这时，有人多看了一眼底层情报。
整份作战依据，是假的。而写这份报告的，不是间谍，也不是叛徒。
9月18日，美国有线电视新闻网CNN甩出一份独家报道，四名知情人士同时开口。
事情发生在今年春季，美国对伊朗作战期间。一份情报报告在美军内部正式传阅：一艘中国船只，正把核武器计划相关零部件运往中东。
报告格式标准，措辞专业。美军当即围绕它制定作战计划，行动一路推到出发边缘。
然后就是开头那一幕。登船行动已在最后关口，有美军官员决定细查底层情报。这一查，后背全湿了——报告出自特种作战司令部一名分析师之手，是问AI聊天机器人"问"出来的。
知情人士的原话是："完全是假的。但它差点开始一场战争。"
因为任何针对中国船只的军事动作，都可能把美伊战争直接烧成中美冲突。
这艘船到底装的什么，到今天没人说得清。连船名，美国媒体至今都没披露。9月19日，央视中文国际频道也援引了这份报道。
那么问题来了：一个聊天机器人，是怎么混进美军情报链最深处的？
把造假流程拆开看，每一步都合规得可怕。
那名分析师拿着这艘船的货单去问AI。AI把手里的开源信息和政府机密信号情报搅在一起，一口咬定：船上装的就是核武零部件。
它没查清楚。它也从来不会说"我不知道"。
分析师拿到这个错误结论，干了第二件事：又让AI把结论包装成标准格式的情报报告。
这一步才真正要命。格式规范，编号齐全，术语专业，在军内系统一路绿灯。就像假钞印在了真钞的纸上——防伪线、水印全都有，验钞机都能过，唯独内容是空的。
CNN的消息人士给这份报告起了个名字："教科书式的AI胡扯。"
另一位知情人士说得更透："AI让你更快地得出一个坏主意。"
可奇怪的是，美军层层审查，为什么就没有一个人多问一句？
答案藏在这支军队的AI家底里。
CNN挖开的现状是：军内用的AI系统，大多是给商业产品"涂了口红"的翻版；年轻分析师倾向于不加质疑地相信AI；全军没有一套统一的验证标准。
这很致命。有人测过主流大模型的幻觉率，最高的超过九成；新一代推理模型不降反升，最高的能到79%。
也就是说，它编瞎话的速度，比人快得多。
而且这已经不是AI第一次在美军手里出事。
今年2月28日，对伊开战第一天，一枚"战斧"巡航导弹把伊朗南部一所女子小学夷为平地，据报道百余名学童遇难。美军指挥官后来承认：数据库里的情报过时了十多年，AI系统照着过时数据，把这所学校列成了打击目标。
而就在今年1月，五角大楼刚发布"AI优先"加速战略，要把AI一路装进"杀伤链"。美国媒体的评论一针见血：Grok进来了，伦理出去了。
机器在踩油门。而刹车这件事，暂时还没排上日程。
1993年，美国咬定中国货轮银河号运送化学武器原料，把它截在印度洋。船被翻了10天，一无所获。那时候，编瞎话的还是人，得亲自写报告。
33年后，瞎话由机器批量生产，成本压到了一句话都不用自己写。
这一次拦下战争的，不是什么防火墙，是一个恰好多看了一眼的人。机器越快，人类最后的刹车，就越是"较真"两个字。
热门跟贴