你敢信吗,差一点点,两个核大国就因为一份假情报擦枪走火。这事不是瞎编的小道消息,是美国CNN自己爆出来的美军内部秘闻。今年春天美伊战事紧张的时候,这么一档子离谱到后背发凉的事,就实实在在发生在了美军的指挥体系里。
当时美军一个情报分析师,用AI辅助整理军情报告,捣鼓出来一个大新闻。说有一艘中国船停在中东,正在给伊朗运核武器相关的零件。这份报告做得像模像样,在美军内部转得飞快,直接触发了最高级别的作战响应。
特战队员已经整装待发准备登船检查,战机也都升了空在边上待命,就等一声令下动手了。要不是动手前有个美军官员多留了个心眼,重新把报告翻出来核查了一遍,后果真的不敢想。他查来查去发现了一个吓死人的事实,这份从头到尾能把人骗过去的情报,全是AI瞎编的。
知情人士直接说了,这份报告“完全虚假”,但它真的“差点引发了一场战争”。要是美军真的动了这艘中国船,两个核大国之间的武装冲突,真的一触即发。说白了,这次就是AI出幻觉捅了大篓子,整个过程说出来就是个标准的灾难操作模板。
分析师把美军手里掌握的船只货运清单,直接塞进了一个AI聊天机器人里。这个AI也不挑,把公开能查到的情报和美方的机密信号情报混在一起乱搅,出来啥就是啥。AI直接出了幻觉,把船上装的普普通通的民用物资,硬生生认错成了核武器相关零部件。
更离谱的是,这个分析师之后还用AI,把这份错得离谱的结果,整理成了格式标准、语言专业的官方情报报告,按流程分发了出去。因为这份报告看起来太正规太专业了,一路传上去没人觉得有问题,可信度直接拉满。有美军前高级官员忍不住吐槽,美军内部用的AI工具,说白了就是商业产品换个皮,本质上啥也没变。
这事出了之后,好多人都想着把锅全甩给那个分析师,说他偏听偏信太不小心。这事真不是一个人的错,甩锅给普通人,根本掩盖不了背后藏着的系统性大问题。整个美军的AI军事应用,从根上就藏着一堆没解决的漏洞。
美军现在正玩命推AI在军事领域的应用,国防部长今年年初就发了所谓的人工智能加速战略,明着说要把美军打造成“AI优先的作战力量”,七个核心项目全方面推进AI进军事决策。从处理堆成山的情报到选打击目标,AI已经钻到了美军每个决策环节里。CNN报道明明白白说了,美国政府到现在都拿不出一套标准化的流程,验证AI生成的情报靠不靠谱。玩命加速应用,连个验证的规矩都没有,这组合说有多致命就有多致命。
美军不同部门用的AI模型,都是各搞各的,没人统一管。这种去中心化的玩法,连个统一的严谨性安全性标准都拿不出来。一个部门的AI出了幻觉乱说话,另一个部门用的工具完全不一样,想交叉验证都做不到。
还有个特别讽刺的点,AI其实只是把原本就有问题的流程,给加快了速度而已。有网友说得特别戳痛点,AI的错分析能误导美军,根子还是分析人员愿意信AI的错结果。早几十年没有AI的时候,美军不也靠着错情报打了伊拉克,还误炸过苏丹的药厂吗。
AI没凭空造出这些问题,它只是把原本就脆弱不堪的情报验证链条,加快到人类根本反应不过来的速度。过去误判是慢慢发酵,现在AI直接把误判变成了秒判,连反应的功夫都不给你留。这事最吓人的地方也就在这。
这份错误的假情报,被AI包装得格式完美语言专业,顺着决策链一路快跑,差一点点就变成了真的军事行动。人类情报分析本来就没多少容错空间,分析师会错,情报会读错,过去的流程里,从写报告到复核再到做决策,中间还有足够的时间,让哪个官员停下来多瞅一眼。AI一插手,直接把这个缓冲的时间窗口给挤没了。
AI几秒钟就能攒出一份像模像样的专业假报告,决策者越来越依赖AI快点出结果快点选目标,原本那个停下来多瞅一眼的环节,现在已经被整个体系给忘了。这次能躲过一劫,完全是撞大运撞出来的。
现在美方拼了命的往AI军事应用里押注,全程都是战时姿态,就想靠着技术代差稳住自己的全球军事优势。还有美军高层公开喊,要是不在AI军事应用上加速,美国就会被中国甩在后面。这种为了不落后连验证都不要的紧迫感,恰恰就是最大的危险来源。
中国在AI军事应用上的立场一直都摆得明明白白,国防部发言人早就说过,中方始终坚持以人为本智能向善的原则,人工智能军事应用得由人主导,我们也反对靠着AI技术优势谋求绝对军事霸权。不分边界玩命推进人工智能军事化,让AI说了算掌控战争决策,让算法决定人的生死,不光碰了战争伦理和责任约束的红线,还很容易搞到技术失控。
这话真不是空口说的话,美军这次出事,正好打在了我们之前担心的点上。当AI在情报分析、目标选择这些核心环节占的权重越来越大,验证机制却追不上技术应用的速度,一次小小的AI幻觉,就能直接变成开火的命令。说出来真的让人后背发凉。
这次全是假情报的报告,差点让两个核大国在海上真刀真枪打起来。最后拦住这件事的,不是什么高精尖的技术,也不是多么完善的制度,就是一个普通人类官员在动手前的多看了一眼。下次再遇到这种事,还会有那个官员,还来得及多看那一眼吗?
参考资料:新华网 人工智能军事化应用应坚持以人为本智能向善
热门跟贴