你敢信吗?一次AI生成的错情报,差点捅出中美军事摩擦的大娄子。今年美伊战争那会儿,美军战机都升空了,武装人员也做好登船准备,临门一脚才发现不对劲——情报错了。最近美国财长贝森特还拿中美AI竞争放话,说“没有后天”,这话背后藏的风险,其实早就已经差点出事了。
这份错情报出自美军特种作战司令部一名分析员之手。他把商船货单相关的情报丢给聊天机器人处理,AI把公开资料和美国掌握的秘密情报混在一起分析,直接给结论说船上拉着和核项目相关的部件。之后这名分析员又用AI把结论整理成了标准情报报告,在美军内部层层传了下去。
整个流程走下来没人觉得不对,美军很快就布置好了拦截行动。负责登船的武装人员到位,升空的军机都已经在往目标区域飞了。直到行动前最后一次核查,大家才发现,这个核心判断压根就是AI认错了货。
AI没直接下令调兵派飞机,它只是出了一个看起来逻辑通顺、像模像样的结论。接手的人把这个结论放进了军方常用的报告格式,后面流程上的人按规矩走,错信息就拿到了正规情报的身份。以前美军情报靠来源评级、交叉验证、分析员签字这套流程来把关,错漏不会走这么远。
生成式AI进来之后,几分钟就能把零散材料攒成完整流畅、结构规整的报告。内容越像成品,大家越容易盯着结论看,反倒忘了回头去一条一条核对来源。机器犯错不是新鲜事,麻烦就麻烦在它能把错话说得比正经分析还像那么回事。
要是美军真登船了,这绝对不是普通海上执法差错那么简单。商船不配合,登船人员和船员起冲突,或是后续两边军事力量介入,这事直接能从美伊战争外溢成中美直接军事摩擦。一个小小的识别错误,经过AI加工和美军流程放大,居然走到了军机升空、大兵待命这一步。
五角大楼这些年改革就是拼速度,AI就是拿来提速的核心工具。情报、指挥、目标识别、作战规划全给AI塞进去,目标就是比对手早发现早判断早动手。AI能把分析时间压缩一大块,也能把没核实的判断更快递到决策层面前。
今年年初美国国防部就出了人工智能加速战略,有的项目直接要求把情报转成能力的时间从好几年压缩到几个小时。五角大楼还打算给三百万左右的军人文职都用上AI模型,不同密级的环境都能用。人家说得很直白,和中国这样的技术强国冲突,慢一步就没先机。
现在这些AI都已经进了美军的机密网络,2025年五角大楼给好几家美国科技巨头都发了项目,每家上限两亿美元,专门搞国防作战方向的前沿AI能力。到2026年,谷歌等企业的模型已经能用在机密网络做任务规划,合同里明明写了要保留适当的人工监督,真落到实战环节,根本不是这么回事。
不同军种情报单位用不同的AI工具,至今没有统一的AI信息验证标准。不少年轻分析员本来就信AI,战时又要抢时间,指挥官等着要结果,人工复核那一步自然就被挤没了。美军本来想用AI缩短发现目标到动手的时间,结果连发现错误的时间也一起缩短了。
贝森特说中美AI竞争“没有后天”,说白了就是华盛顿现在把AI当成能改变国力军力的核心通用技术。中国AI能力追得快,美国政客对这个时间窗口越来越急。就算他承认美国现在还领先,这话本质就是政治动员,把AI和国家竞争力绑死,军方采购、建数据中心、卡芯片、对华限制全靠这个说法推。
现在中美AI性能差距确实在缩小,2026年3月的数据显示,美国领先模型只比中国领先模型领先2.7%。美国有名的模型多专利多,中国这边论文、引用、专利、产业落地规模更大,早就不是比单个模型跑分的阶段了,算力、芯片、部署全都会影响最终结果。
美国现在还有个头疼的事,中国的开放权重模型成本低,不少美国企业都在用。一边要限制中国AI,一边又没法把中国模型完全挡在美国市场门外,只能接着砸钱堆投入,加快军事领域的部署。越怕优势没了,就越把速度放第一位,速度上去了,制度、测试、人员训练根本跟不上。这次中国商船差点被拦,就是这种压力下结出的苦果。
美国想用AI减少人的反应时间,又得给人留够时间核对机器的判断,两个要求挤在一套流程里,一句“人工监督”根本解决不了问题。这次还好,最后关头人工复核拦住了错情报,叫停了行动。可往后AI用得越来越多,中美AI竞争早就不是产业比大小的事了,已经变成影响战略稳定的大问题。
最近不少中美安全专家都提了,得给军事AI建类似核风险管控的安全机制。比如核指挥系统附近划红线,关键军事行动得留好人类决策权,出了AI异常得有能直接通上话的热线。为啥要搞这个?因为自动化系统很容易误判,出了异常对方几分钟根本分不清楚是官方下令,还是系统故障,还是有人自作主张。
贝森特本来就要和中方谈AI安全,什么开放权重闭源模型、安全护栏这些都是议题。谈之前出了这么一档子事,直接把AI安全从纸面议题变成了实打实的军事风险。它不光是模型会不会写错内容的事,还关系到错内容怎么进情报系统、谁来核对、动手前得留多少复核时间、出事了能不能快速说清意图。
贝森特说中国AI领先就是美国失去未来,可这次险情已经给美国摆了另一道难题。要是竞争只拼部署速度,现实的危机说不定比技术分出胜负来得还早。中美都是核大国,几分钟的误判就能改写整个危机走向。这次是有人最后查了一下拦住了,未来AI情报越来越多传递越来越快,这道人工复核的关,还能不能每次都赶在动手之前?
参考资料:环球时报 美AI误判情报致中国商船险遭拦截
热门跟贴