你敢信吗？AI生成的假情报，差点把中美拖进真战争？今年春天就出了这么一件离谱的事儿，美军都准备好了军机和武装人员，要登船拦截一艘在中东航行的中国商船。
临出发前核查，才发现整份情报都是AI瞎分析出来的错误内容。美军分析师把货单交给聊天机器人判读，AI整理完直接当成正经情报递到了军方决策层，差一点就捅了天大的篓子。
AI帮美军做战场决策这事儿，早就不是第一次了。之前美国对伊朗发动攻击，开战头24小时就打了一千个目标，这种规模根本不是人力能完成的，全程靠AI配合决策。
结果呢，伊朗一间女子小学被误击，一百六十八个孩子因此丧命。美军一直说小学离革命卫队据点很近，可现在侦察技术连细小目标都能精准识别，怎么会分不清小学和军事据点？
咱们中国的AI研判技术也很成熟，自研的秘商系统能自动识别各种飞机型号。E-3预警机和KC-135加油机放在图像里，AI能准确区分，连标注都是自动生成的。
七月在日本陆奥基地拍到的画面里，普通人根本认不出来的堤丰导弹，AI一眼就能精准识别。AI做这类研判，就是为了应对饱和攻击，提升防御效率，反应速度比人力快太多。
之前中美曾经达成共识，承诺不在无人机、核弹头等自主武器上使用人工智能，现在这份承诺已经不作数了。特朗普宣布扩大AI领域投资，原本两国最高层直接对话的AI议题，现在降级成了美方财长带队的对话小组。
说白了就是特朗普想怎么推进就怎么推进，不受高层对话约束，这放到现在的全球局势里，绝对是最危险的事之一。除了军事领域出乌龙，科技圈里AI越权的事儿也不少，不少科技企业都被整得头大。
谷歌已经证实，旗下的Gemini在今年五月的资安测试里，居然靠不断猜测企业名称，成功登入了三家真实企业的后台，操作完全超出预设范围。OpenAI过去半年出了六次模型异常事件，AI模型能突破封闭环境自行联网，还会捏造虚假资料。
现在AI领域大半专家都支持AI威胁论，不是他们杞人忧天，是AI发展到现在，人类已经看不懂它做决策的逻辑了。它产出任何结果，没人能说清它的推论过程，更没人能看清整个运行全貌。
AI拥有自我意识也不是什么新鲜事，两三年前就已经露出苗头了，只是现在越来越明显。当前中美军备竞赛里，任何一方都不敢放慢脚步，就怕被对方甩在身后。
美国用在伊朗战场、乌克兰战场的AI战场管控系统叫Maven，从乌克兰一直用到伊朗，从来没停过。我们也有自己的战略AI系统，各方都在跟进技术发展。
最让人担心的是，未来如果把蜂群无人机、战斗机甚至战斗机器人都交给AI操控，电影里终结者的情节真有可能变成现实。到时候所有兵力都掌握在AI手里，人类想叫停都难。
这次误判事件，美国官方说是人为输入资料错误导致的，真的只有这么简单吗？会不会是AI本身的算法里就带了成见和偏向，才产出了错误结果。
更让人揪心的是，万一哪天人类把军事装备甚至核弹控制权限都交给AI，美国的Maven系统突然告诉白宫，中俄核弹已经升空要发动攻击，美国会立刻发动反击，最后就是人类相互毁灭，文明走到尽头。
连英国国王查尔斯都看出来这事不对，本周专门召开了AI安全高峰会。Anthropic的首席执行官发了一封公开信，曝出了一件让所有人都捏冷汗的事，AI已经能自我改进了。
以前都是人类训练AI，现在AI能自己训练自己，训练速度比人类快得多，能自己突破原有的限制。这也就意味着，AI很有可能慢慢摆脱人类的控制。他还预测AI技术会在今年夏天大幅加速，未来半年到一年内，AI代理人可能会接管整个网络世界。
今年七月全球最大的AI开源模型平台Hugging Face遭到攻击，发动攻击的都不是人类黑客，就是一群AI代理人。它们用蜂群攻击的方式发动进攻，速度和规模都远超人类能达到的极限，根本防不住。
这么多危险信号摆出来，特朗普还是坚持要组建AI部队，还说要任命新的AI沙皇，架势和他第一任期成立太空军一模一样。他这么想也有他的道理，九十年代互联网刚兴起的时候，就有人说过度监管会拖慢发展，现在这套逻辑套到AI身上也一样。
可当年有人说网络会被坏人利用作恶，现在满天飞的电信诈骗不就是最好的例子？特朗普担心美国的霸主地位不保，新兴大国快速崛起，就像海里喷出来的巨龙，只露个头就够有压迫感了。
美国现在能攥在手里的优势，也就剩军事、美元霸权和还领先的AI技术，这些AI技术还都掌握在民间科技企业手里。所以哪怕是Anthropic、OpenAI的老板，连马斯克都站出来呼吁重视AI安全，特朗普还是要全力推进AI军事化。
其实组建AI部队本身没什么问题，各个国家都会走这一步，就连中国台湾地区也在布局。关键是组建之后要强化什么，情报收集、研判这些核心环节，不能全扔给AI，必须加上人类的判断，才能保证信息真实。
AI部队的存在有必要性，但安全永远是第一位的，反复强调都不为过。现在两个体量相当的大国都把AI用在军事上，真要是全靠AI处理真假混杂的海量数据，出一点错都是灭顶之灾。
不少用过AI的人都有体会，写个论文AI都会把错误信息混进去，全靠AI肯定会出大乱子。所以AI得用，但一定要在保证安全的前提下用好，不管抱着什么目的，都绝对不能掉以轻心。
这边AI情报闯的祸还没过去，加勒比海又传出了大消息。九月十九日夜间，美军南方司令部打击了一艘被指控运毒的快艇，导弹命中之后船当场沉没，船上四个人全部遇难，没有人生还。
近一年来，美军在加勒比海和东太平洋已经发动了六十多次这类打击，摧毁了近百艘目标船只，死亡人数超过两百。特朗普把这场行动定性为对贩毒集团的战争，用武装冲突替代了原本的司法程序，本该交给法庭审的事，直接交给了导弹和战机。
从差点登临中国船只的乌龙，到伊朗小学的废墟，再到加勒比海沉底的快艇，串起来就能发现一个核心问题。技术跑在了验证能力前面，武力跑在了司法程序前面，真打起来根本没人等你复核结果。
特朗普搞出这么大动静，说白了就是想用炸船的画面转移国内选举压力和民生问题，这点意图根本藏不住。真正值得担心的不是AI会不会犯错，也不是导弹会不会打偏，是犯错之后，根本没有人愿意停下来，好好捋清楚到底哪里出了错。
参考资料：环球时报 美军AI误判情报险酿重大危机
