中国船只就在眼前，美军动手只差一秒，危急关头猛踩刹车，否则后果不堪设想。特朗普最得意的“王牌”，差点闯下大祸。
日前，CNN报道称，有消息人士指出，此前美军内部发生了AI虚假情报事故，导致险些误判酿成大祸。当时美军接到了一份由美特种作战司令部分析整理的情报，其中显示，在中东海域，有一艘中国船只在运送“核武器相关组件”。
美伊冲突的节骨眼，这类情报当然属于高度敏感。美军立即采取应急措施，准备拦截中方船只。士兵已经准备好强行登船，军机已经升空。这时候有官员深入核查相关报告的来源，才发现这个消息是AI聊天机器人错误识别了货物种类，情报是“完全错误的”。
消息人士指出，这差点引发“一场战争”。中东火药桶本来就易燃易爆，尤其涉及到中美两个大国之间，一旦擦枪走火，美军任何的军事行动，都可能在短时间内迅速升级，若变成直接武装冲突，那就更是难以收场。
这场惊心动魄的乌龙实际上能反映出多方面的问题，《联合早报》报道中指出，现如今美国军事、情报界正在全面推动AI使用，从初步的分析收集情报到精准选择打击目标，都越来越倚重AI。美军之所以积极推动这一功能，是因为相信AI能够加快战场决策。可是，这把双刃剑的副作用也相当明显，AI工具产生“幻觉”极易引发误判。
不仅如此，多名美国官员还强调，现在政府之间用的AI工具不同，指令和安全标准也不同。问题就在于，现在没有一个具体的标准核实相关信息，因此出错的风险较高，很可能导致“灾难性误判”。
要知道，特朗普现在对美国的AI发展相当得意，已经多次强调在这一行业领先中国，甚至现在准备组建“AI部队”。特朗普政府在这一领域发足狂奔的时候，也必须得承认，这一领域存在较大的风险。
就以这次的事件来说，至少有两个风险，值得认真对待。第一，AI会凭空捏造军情，而且编得足够“专业”，让人难以分辨。核心问题不是AI算错了什么，而是它“编”出了一整套看起来像模像样的情报。
一艘普通商船的公开信息，经过AI的加工处理，竟然被包装成了一份格式规范、术语准确、逻辑自洽的正式情报报告。这种报告如果放在日常工作中，可能连经验丰富的情报人员都不容易一眼看出破绽。
这就是所谓“AI幻觉”在军事领域的可怕之处。在商业场景中，AI编造一段错误信息，最多是让用户多打几个客服电话。但在军事情报链条中，一份带有幻觉的报告，会像病毒一样沿着指挥系统一路向上传播。
从基层分析员到战区指挥官，每一层都可能默认“下面报上来的应该是核实过的”，结果错误信息畅通无阻地抵达决策层。等到有人发现问题时，军事行动可能已经启动了。这次美军军机已经升空，如果不是官员深入核查，留了个心眼，很可能已经引发了中美两国的冲突。
大国之间的海上对峙，从来都不是简单的“误会”两个字就能收场的。一旦危机点燃，双方国内舆论、地区盟友、军事部署都会形成强大的惯性，快速降温的空间非常有限。
第二个风险：人容易过度依赖AI，人工核查环节正在被架空。正如报道中指出，现在年轻的分析员中，更熟悉这类工具，也就更加难以鉴别信息的真伪。也就是说，在关键时刻，人工核查这个最重要的把关环节，差点完全缺位。
这不是偶然的。当AI系统被广泛引入情报分析流程后，人很容易产生一种心理惯性：机器算得比我快、比我全，那我还费劲去核实什么？这种依赖一旦形成，审核就会变成走过场。
更值得警惕的是，如果按照特朗普的计划，未来大规模组建AI部队，让AI深度参与从情报分析到作战决策的全过程，人的角色可能进一步被边缘化。到那时，如果审核把关松懈，后果不堪设想。
特朗普对美国的AI技术感到得意，这本身不奇怪。但得意归得意，如果因为技术领先就放松对AI风险的警惕，那就危险了。
这次事件虽然没有造成实际冲突，但它像一次提前拉响的警报：AI可以成为得力的工具，但当它被嵌入军事情报和作战链条时，必须有人始终盯着、始终握着刹车。技术越先进，越不能让机器代替人做最后的判断。否则，下一次可能就没有这么幸运了。
热门跟贴