北京时间9月19日，一桩险些引爆中美军事冲突的内幕突然曝光，美军根据AI情报锁定一艘中国货轮，武装人员进入待命状态，军机已经升空，炮口随时可能对准目标，行动即将开始时，美方才发现自己居然被AI给骗了。
事件发生时，一艘中国货轮正在中东海域航行，美军特种作战系统内的一名情报分析员，为了判断船上装了什么，把公开资料和秘密信号情报交给一款AI聊天工具分析。
AI没有找到能够证明货物涉及核计划的可靠证据，却把零散信息拼在一起，给出了一个十分肯定的结论：中国货轮正在运输与核武器计划有关的部件。
分析员随后又用AI整理内容，生成一份格式完整的情报报告，由于报告看起来专业，结论又符合美军当时对伊朗物资来源的怀疑，这份材料很快在军方内部流转，并被当成已经核实的情报。
接下来，美军的反应一路加速，武装人员准备强行登船，部队制定拦截方案，军用飞机也已经飞到空中，美军虽然还没有开火，但却已经把这艘中国货轮推到了炮口前面，只差行动命令。
在我看来最可怕的不是AI说错一句话，而是这句话几乎没有遇到阻拦。AI先负责分析，接着又负责写报告，人类分析员则把它包装成正式情报。
等报告传到上级手中时，AI的猜测已经变成调动军机和武装人员的依据，行动开始前，有官员重新检查原始材料，才发现AI错误识别了货物，所谓核武器部件完全不存在。
军机升空以后才发现被骗，说明美军缺少可靠的安全闸门，若复核再晚几分钟，武装人员强行登上中国货轮，事情就会从情报乌龙变成中美之间的军事事件。
1993年的“银河号事件”也源于错误情报，美国当时宣称中国货轮载有制造化学武器的原料，随后进行拦截和检查，结果没有找到违禁品。
三十多年过去，美军又把中国货轮与危险武器联系起来，不过这次美方在行动前重新核查，并紧急叫停拦截。
表面看是复核程序发挥了作用，往深处看，美军也很清楚，对中国船只动武会带来什么后果，从我的视角来看，这不是普通的海上临检。
一旦美军飞机逼近、武装人员强行登船，中国人员出现伤亡，两个核大国之间就可能发生正面冲突，到那一步，谁先收到错误报告已经不重要，如何阻止局势升级才是最大难题。
正因为目标是中国货轮，美军高层才必须多算一步，过去先拦船、再搜查、最后慢慢解释的做法，如今要承担的代价已经完全不同，中国有能力保护海外利益，也有足够手段要求美方为冒险行动付出代价。
按照我的理解，美军最后踩住刹车，既说明内部仍有人保持清醒，也说明中国实力形成了现实约束。
AI可以胡乱生成结论，可真正下达命令的人必须考虑，对方会不会反制，冲突会不会失控，美国能不能承受军事和政治成本。
不过实力约束只能阻止部分冒险，解决不了情报系统内部的问题。这份报告能够一路走到作战准备阶段，根本原因还是美军把速度摆在了核实前面。
AI可以快速整理卫星图像、通信记录和货运资料，可它越快，错误也可能传播得越快。
以前一份假情报还要经过多层人员整理，如今AI几分钟就能生成一份像模像样的报告，一旦人类把流畅表达当成可靠证据，误判就会直接进入作战链。
CNN在9月公开春季发生的事情，首先指向五角大楼的AI管理漏洞，美军不同部门正在各自使用AI工具，却缺少统一审查标准，连使用边界都没有说清。
今年1月，美国防长赫格塞斯推动“AI加速战略”，要求美军减少官僚障碍，更快把人工智能送进情报、指挥和作战环节。
速度成为最高要求以后，负责安全复核的人承受更大压力，因为任何质疑都可能被说成拖慢行动。
在这里我要说句实在话，CNN这次爆料不只是揭露一名分析员犯错，也是在追问赫格塞斯的路线：当AI能够影响登船拦截、目标判断甚至武力使用时，谁来检查答案，谁来为错误负责，又由谁踩下最后一脚刹车？
五角大楼回应称，美军重视情报验证，也会负责任地使用新技术。可这套说法很难解释一个事实：如果核查机制足够可靠，假报告就不该推动武装人员集结，更不该让军机飞到空中。
报道公开的时间也十分敏感。美国国内正在争论AI安全，中美之间也在讨论为军事人工智能设置护栏。
此时，一起“AI差点引发中美冲突”的案例被摆上台面，必然会给特朗普政府和五角大楼带来压力。
我始终觉得，真正需要警惕的不是AI会不会主动发动战争，而是人类会不会为了追求速度，把AI编出的答案当成事实。机器没有扣动扳机的权力，却可以给拿枪的人制造理由。
这次中国货轮躲过了拦截，美军也躲过了一场可能无法收拾的危机。只要AI生成的内容仍能绕过严格核查进入军事报告，下一次被锁定的船只、城市或者人员，未必还能等到最后一分钟的纠错。
热门跟贴