9月18日，CNN援引多名知情人士披露，今年春季美伊战争仍在持续时，美军内部曾流转一份情报报告，声称一艘中国船只正在运输与核武器项目有关的部件。
报告进入作战链条后，美军开始准备拦截，军机升空，登船人员进入待命状态，就在行动即将启动前，更有经验的专业分析人员重新核查原始资料，才发现关键判断来自AI对货物信息的错误识别，行动随即取消。
这件事真正值得警惕的，不是AI又答错了一道题，而是一个机器判断竟然穿过情报分析、报告制作和行动准备，差一点变成现实中的海上军事行动，AI犯错只是技术问题，人如果不核查就开始调兵，性质就完全不同了。
当时中东局势高度紧张，美军对伊朗核项目相关信息十分敏感，CNN披露，美军某特种作战司令部的一名分析人员拿到了一批与中国船只有关的资料，其中包括信号情报、公开来源信息以及货物舱单。
正常流程应逐项核对货物名称、用途和是否属于受控物项，但分析人员把资料交给AI聊天机器人，希望机器判断其中有没有敏感部件，AI随后给出了错误结论，把部分货物识别成与核武器项目有关的部件，问题真正扩大在下一步。
分析人员没有把AI答案停留在“参考意见”层面，而是继续借助AI整理成标准情报报告，再把报告送进军方系统，机器的一次错误推断，穿上正式报告外衣后，迅速获得新的可信度。
上一级看到的是正式情报，再往上一层可能只剩结论：一艘中国船只疑似向中东方向运输核项目相关物资，美军随即进入行动准备，飞机升空，武装人员待命，拦截方案开始推进。
直到专业分析人员重新翻查材料，才确认AI误判了货物性质，这场险情说明，军事AI最危险的未必是机器失控，而是它把错误说得足够专业，让人忘了追问证据。
看到中国商船因“敏感物项”差点遭美军登船，很难不想到1993年的“银河号”，当年7月，美国政府指控“银河号”货轮向伊朗运输制造化学武器所需的硫二甘醇和亚硫酰氯，并声称掌握可靠情报。
随后美方对“银河号”实施跟踪和施压，事情持续一个多月，中国工信部保存的历史资料记载，8月7日，中国外交部部长助理秦华孙紧急召见美国驻华大使，对美方做法提出抗议。
最终“银河号”在沙特阿拉伯达曼港接受检查，9月4日，中、沙、美三方签署检查报告，结果明确确认，船上没有美国此前指控的两种化学品。
1993年的“银河号”经历了长时间跟踪、交涉和检查；2026年这次则在美军登船前被内部核查叫停，但两件事最值得比较的地方，不是结果，而是启动逻辑。
都是先出现高度敏感的情报判断，然后军事力量迅速跟进，区别在于，33年前依赖传统情报链，今天又多了生成式AI这个速度极快的新环节。
过去错误情报还要人工查资料和整理，过程中有时间发现矛盾；现在AI几分钟就能把零散材料拼成完整解释。
效率提高了，错误也可能被同步加速，所以“银河号”的旧影提醒人：涉及他国商船和重大安全问题，不能把“正规报告”当成“事实成立”。
AI为什么会把货物认成核项目部件？美国自己的技术机构早就提醒过这种风险。
这也是大模型最容易让人放松警惕的地方，真正麻烦的是，AI能给出背景、推理和专业术语，让错误看起来像经过充分验证。
普通场景里，AI答错参数最多让人买错东西；进入军事情报场景，同样的错误可能引出飞机、舰艇和武装人员，偏偏在AI风险越来越清楚时，美国军方还在加速扩大生成式AI使用范围。
问题在于，分析速度提高后，核查机制必须同步加强，如果AI把处理效率提高十倍，而人工审核仍然停留在原来的强度，那么被放大的就不只是效率，还有错误。
中国商船事件就是现实案例：机器并不需要自己作出军事决定，它只需要把最初的信息认错，后面的系统如果全部相信它，现实行动自然会被推着向前走。
把整件事全怪到AI头上也不准确，AI没有权限自己派出军机，更不会自己安排武装人员登船。真正值得追问的是，为什么错误判断能够连续穿过多层人工流程。
CNN披露，最后发现问题的是有相关经验的专业分析人员，他们重新检查原始资料后，才确认AI把货物认错了。
这恰恰证明，只要有人认真回头看底层证据，错误是可以发现的，问题在于，这一步出现得太晚。
分析员第一次拿到AI答案，没有彻底拦住；报告形成之后，没有立刻拦住；进入行动准备后，才有人重新追溯原始材料。
每一层都有人，但每个人都以为别人已经负责，这种流程风险比单纯AI错误更值得警惕。
今年2月28日伊朗米纳卜学校遭袭事件也暴露过类似问题，美方后续调查显示，目标数据可能已经过时，相关区域仍被当作军事目标，最终造成严重平民伤亡。
它说明了同一件事：只要底层信息错误，而后续核查没有发现，再先进的系统也会把错误继续传下去。
所以真正该修补的，不只是某款聊天机器人，而是AI输出、人工复核、正式情报和军事行动之间的每道关口。
好在这一次，美军最终停了下来，飞机已经升空，武装人员已经进入准备状态，但在真正登船之前，专业人员重新检查了资料，行动被取消，可现在仍有不少问题无答案。
这艘中国商船叫什么名字，美方没有公布；真实货物是什么，美方没有公布；分析人员使用的是商业聊天机器人还是美国政府内部系统，也没有得到确认；这份错误报告究竟经过了哪些审核层级，目前同样没有公开完整调查结果。
一份错误判断进入了正式情报体系，现实中的飞机和武装人员随之行动，这说明军事AI最大的风险，可能不是机器自己扣动扳机，而是机器给出一个错误结论后，人类替它完成后面的所有步骤。
未来军队使用AI已很难逆转，真正要解决的，是哪些决定必须保留独立、有效的人工复核。
涉及拦截外国船只，应该重新检查原始证据；涉及重大军事目标，应该明确区分哪些内容来自情报、哪些只是AI推断；涉及武装行动，更不能让同一个人既向AI提问，又让AI生成报告，最后再自己确认结果。
所谓“人在回路中”，不能只剩一个点击确认的人，33年前，“银河号”的检查结果说明，再笃定的情报也可能查无实据，33年后，这次中国商船风波又多提醒了一层：AI能够让错误产生得更快，也能把错误包装得更加专业。
这一次，美军在最后时刻踩住了刹车，真正值得关注的，是下一次类似报告送上来的时候，这道刹车还能不能及时踩下。
因为军事AI时代最危险的场面，未必是机器突然失去控制，而是机器非常平静地说了一句错误的话，所有人却都以为前面已经有人核实过了。
热门跟贴