近日，CNN在一篇独家报道中爆出一则猛料，称在今年春季，阿拉伯海域险些上演一场大国冲突。当时美军战斗机紧急升空，特种部队准备强行登船拦截一艘中国商船。而下达拦截指令的依据，竟是AI聊天机器人凭空捏造的一份情报。
参与该事件的美军知情人士在接受CNN采访时后怕地表示：“这份报告完全是假的，但它差一点就引发了一场战争。”所幸在行动即将展开的最后一刻，美军核查人员发现这份情报完全是AI“瞎编”的产物并紧急叫停，才避免了一场因算法失误而引发的大国军事冲突。
这一幕很容易就会让人联想到33年前的中美“银河号”事件。1993年7月，美国同样是以“确凿情报”为由，指控中国货轮“银河号”载有向伊朗运送的化学武器前体物资。美军出动军舰和飞机在公海上跟踪监视并强行拦截，最终在沙特达曼港进行了长达数十天的联合检查，结果没有发现任何美方所指控的化学品。
33年后，相似的剧本再次被推到悬崖边缘。同样的中国商船，同样的中东目的地，同样的“核生化敏感物资”指控，以及同样如临大敌的美军海空拦截行动。但两次事件之间有一个本质不同。33年前的“银河号”事件，是美方冷战思维下的人工情报失误和霸权施压；而2026年这场差点重演的“新银河号”危机，驱动美军行动的则是AI算法的幻觉。
一份毫无事实根据的虚假情报，究竟是如何突破美军层层审核、直达最高作战决策层的呢？
据CNN披露，事件起源于美军太平洋特种作战司令部驻夏威夷的一名情报分析师。当时，该分析师正试图分析这艘中国商船的货物清单，但他并没有按照传统规程认真比对原始数据，而是直接将公开情报与美军内部持有的秘密信号情报输入给了一个AI聊天机器人进行查询。
这个模型在面对复杂、碎片化的数据时，触发了AI大模型常见的幻觉现象。它自动将毫无关联的信息拼接在一起，得出了一个严重结论，称这艘船上装载的是“核武器项目部件”。
更荒唐的是，这名分析师随后再次使用AI工具，将聊天机器人生成的这一“臆造结果”快速打包、格式化，一键生成一份符合五角大楼标准规范的情报报告，并直接分发到军方指挥系统中。由于报告格式规范、语言专业，系统内各级指挥官对其深信不疑，作战指挥链条随即被激活。
这次事件只是因为运气足够好才化险为夷。但回顾美军近年来盲目推进AI军事化的轨迹，我们就会发现，类似的问题其实早就在战场上制造了多起严重惨剧。今年2月28日，也就是美以伊战争爆发首日，美军发射“战斧”巡航导弹对伊朗南部米纳卜市的一所小学发动打击，造成至少175人死亡，其中绝大多数是儿童。
此外，早在2024年，美军在伊拉克的一次空袭中造成一名20岁青年死亡，这也是美军首次公开承认因AI辅助目标识别系统失误而导致平民伤亡。
这种去中心化的狂热推广，带来的却是严重的安全混乱。美军内部多名官员透露，目前五角大楼各部门、各军种使用的AI工具五花八门，既没有统一的安全验证标准，也没有严格的情报核查规程。美军特种部队在用一套工具，美国海军在用另一套工具，情报部门又在用商业大模型修改后的版本。不同工具的准确性和稳定性天差地别，整个决策链条处于严重无序的状态。
在军事理论中，一直存在一个“人在回路”原则，即强调无论算法如何演算，最终按按钮、下达杀伤指令的必须是人类。然而在现实中，当AI以秒级的速度不断生成海量的情报摘要、目标排序和作战方案时，疲于奔命的人类分析师和指挥官往往会产生自动化偏见，倾向于无条件信任机器给出的答案。慢慢的，“人在回路”就沦为了一种形式主义。
这次，美军在拦截中国商船的前一刻发现自己被AI骗了，但下一次，在战云密布、人心惶惶的战时状态下，当AI算法再次产生幻觉，并生成一份虚假战报时，美军指挥官还能保持理智，在短短几分钟内分辨真伪吗？算法是没有良知的，也不会敬畏战争。如果盲目追求所谓的“决策速度”，当下一次“银河号”事件来临，美国恐怕就没有在最后一秒喊停的幸运了。
热门跟贴