近日CNN爆出猛料：今年春季，美军战斗机紧急升空，特种部队准备强行登船拦截一艘中国商船。
而下达拦截指令的依据，竟是AI聊天机器人凭空捏造的一份情报。
参与事件的美军知情人士后怕地说："这份报告完全是假的，但它差一点就引发了一场战争。"
所幸最后一刻，核查人员发现情报是AI"瞎编"的，紧急叫停了行动。
这一幕很容易让人联想到1993年的"银河号"事件。
当时美国以"确凿情报"为由，指控中国货轮载有化学武器前体物资，在公海强行拦截，检查数十天，什么都没发现。
33年后，相似剧本再次被推到悬崖边缘。同样的中国商船，同样的中东目的地，同样的敏感物资指控。
但本质不同：当年是人工情报失误和霸权施压，这次驱动美军行动的是AI算法的幻觉。
据CNN披露，事件起源于驻夏威夷的一名情报分析师。
他没按规程比对原始数据，而是直接把公开情报与秘密信号情报输入AI聊天机器人。
模型触发了常见的幻觉现象，把毫无关联的信息拼接在一起，得出结论：船上装载的是"核武器项目部件"。
更荒唐的是，这名分析师又用AI把臆造结果一键打包成符合五角大楼标准的情报报告，直接分发到指挥系统。
报告格式规范、语言专业，各级指挥官深信不疑，作战链条随即被激活。
这次只是运气好。但美军近年盲目推进AI军事化，类似问题早已制造了多起惨剧。
今年2月28日，美军"战斧"导弹打击伊朗米纳卜市一所小学，至少175人死亡，绝大多数是儿童。
2024年，美军在伊拉克空袭中因AI目标识别失误致一名20岁青年死亡，这是美军首次公开承认此类事件。
今年1月，美国防长赫格塞斯发布《人工智能加速战略》，要求把顶尖AI大模型推送到300万美军人员手中。
五角大楼的逻辑是：大国竞争中决策速度决定生死，不能在AI应用上落后。
但去中心化推广带来的是严重混乱。各部门各军种AI工具五花八门，没有统一安全标准，没有严格核查规程。
军事理论中有个"人在回路"原则：最终下达杀伤指令的必须是人类。
但现实中，AI以秒级速度生成海量情报和方案，疲于奔命的指挥官产生自动化偏见，无条件信任机器。"人在回路"正在沦为形式主义。
这次美军在最后一刻发现被AI骗了。但下一次战云密布时，AI再次幻觉生成虚假战报，指挥官还能在几分钟内分辨真伪吗？
算法没有良知，也不会敬畏战争。盲目追求"决策速度"，当下一次"银河号"来临，美国恐怕就没有最后一秒喊停的幸运了。
热门跟贴