设想一下这个画面：中东海面上，一艘挂着中国旗的货轮正按计划航行，船员做着日常工作，谁也不知道，几百海里外的一处美军指挥中心里，拦截命令已经下达，武装人员登船装备就位，头顶上的军机也已经拉起在空中盘旋。距离动手，只剩最后几十分钟。
而促成这场军事行动的＂核心证据＂，是一台聊天机器人瞎编出来的。这不是电影桥段。
美国有线电视新闻网（CNN）抛出的一篇独家报道，把这段发生在今年春天的险情摆到了公众面前。四位知情人士向CNN证实，那份把中国货船和＂核武器零部件＂扯到一起的情报报告，从头到尾没有一句是真的。
事情的起点很平常。美伊局势紧张那阵子，美军驻夏威夷的太平洋特种作战司令部有位情报分析员接到任务，评估中东海域几艘过境船只的可疑程度。
他把船只舱单、加上一些网上公开抓来的资料，全部丢给了一个AI工具，让机器帮他做研判。问题也就从这儿开始滑向失控。
这个AI工具把敞开的公开信息和政府手里的机密信号情报揉在一起处理，输出的结果直接把那艘中国船定性为＂疑似运载核项目相关部件＂。分析员没有翻回去核对原始资料，反手又用AI，把这个结论润色成一份格式规整、用词专业的正式报告，然后就上交了。
一份从数据处理到成文都由机器包办的报告，就这么一路畅通地爬上了指挥链。美军的反应堪称迅速。方案很快敲定：拦截、登船、检查。
执行任务的军机接令升空，海面上的舰艇也调整了位置。按照CNN报道里那位知情人的原话——＂这份情报完全是编的，可我们差一点就为它开了一枪。＂真正把这件事从悬崖边拉回来的，不是什么高科技风控系统，而是几个老资历的分析人员。
他们在最后复盘时觉得有些细节对不上，回头翻原始素材，才发现那份漂亮报告底下全是漏洞。命令随即撤销，军机返航，登船小组解散。
躲过一劫，靠的是运气加经验，而不是制度。再看这次AI犯下的具体错误——它把船上的普通民用货物＂看＂成了核武器零部件。
至于究竟是什么货，CNN说细节至今没有公开，但美军事后的复查确认，这就是一艘再正常不过的商船。事后美国防部和相关司令部对CNN的置评请求都选择沉默，这种态度本身就说明问题不小。
事情曝光后，美国国内讨论的重点很快从＂一次乌龙＂转到了更深的一层：美军现在到底是怎么用AI的？答案不太让人放心。
今年年初，美国防长赫格塞思签发了一份《人工智能加速战略》，明确要给AI落地＂松绑＂，减少审批环节，鼓励各军种大胆试。政策的意图不难理解——不能在这一轮技术竞赛里被甩下。
但松绑之后，混乱也来了。CNN援引多位美国官员的话说，眼下五角大楼各个部门用的AI工具五花八门，标准不一样，规矩不一样，甚至连给谁用、怎么用都没个统一说法。
热门跟贴