谁也没有想到,一份 AI 写出来的虚假情报,差一点就在中东的大海上挑起一场大国之间的冲突。最近美国媒体 CNN 爆出一则消息,看完之后很多人心里都捏了一把冷汗。三十三年前屈辱的银河号风波,居然差一点在今天再次上演,而这一回制造假线索的不再是某个人,而是人工智能。

打开网易新闻 查看精彩图片

事情发生在今年春天,当时中东局势十分紧张,美伊之间正在交战。美军里面一名情报分析师,图省事直接拿一款 AI 工具做情报整理。谁能料到 AI 出现了所谓的幻觉,凭空编出来一份看着格式相当正规的情报报告。报告里面言之凿凿,声称有一艘行驶在中东海域的中国商船,正在给伊朗运送核武器零部件。

这份报告流转到美军指挥部门之后,大家一开始并没有仔细甄别真伪,就信以为真,马上着手制定军事行动方案。武装登船的士兵已经整装待命,战斗机也接到指令升空,一切准备就绪,就等着一声令下,冲到公海上强行登上这艘中国货船开展搜查。万幸就在马上要动手的紧要关头,有工作人员回头重新复核这份情报,顺着原始资料仔细比对,才猛然发现,整套核心线索全部都是 AI 凭空编造出来的,根本就没有事实依据。美军这才紧急叫停整个行动,一场一触即发的海上危机,就这样擦肩而过。事后美军内部知情人员也坦言,假如当时没有发现问题,这次行动很有可能直接引发战争。CNN 的报道当中,并没有对外公布这艘涉事中国商船的名字,船上到底装载哪些货物,外界至今也无从知晓。

打开网易新闻 查看精彩图片

更加值得深思的一点是,美军内部现在使用的这套 AI 并不是专门独立研发的军用系统,本质上只是商用 AI 换了一层外壳。它可以同时调取公开网络资料,又能够读取军队内部的机密档案,把两类信息混杂在一起自动生成分析报告。更要命的是,情报生成之后,缺少另外一套独立的人工审核流程把关。分析师看完 AI 输出的内容,简单整理之后就直接上交,很容易就把机器的错误判断当成真实军情向上传递,这一次能够及时发现问题,很大程度上只能算是运气好,并不是成熟制度带来的必然结果。

打开网易新闻 查看精彩图片

看到这则新闻,很多网友不由自主就想起了 1993 年的银河号事件。当年的那一幕,至今想起来依旧让人心里不好受。银河号货轮从天津新港起航,船上一共装载 628 个集装箱,38 名船员随船出海,船上装的只是文具、五金还有染料一类普通民用货物。航行途中,美国单方面抛出一份情报,一口咬定这艘货轮偷偷向伊朗运送制造化学武器的原料。随后美军派出军舰和直升机一路尾随施压,银河号无奈之下只能在阿曼湾的公海上原地抛锚,整整滞留了 33 天。

打开网易新闻 查看精彩图片

那一带海上的气温极高,甲板被太阳烤得滚烫,船上储存的淡水、新鲜果蔬越来越少,不少船员中暑,身上长出大片的红疹,所有人都承受着身体和心理上的双重煎熬。后来经过中国、沙特、美国三方工作人员,一箱一箱开箱彻底查验之后,最终出具正式报告,确认船上根本不存在美方所说的违禁化学品。

事实已经清清楚楚摆在面前,可美方依旧不肯正式道歉,仅仅是轻描淡写说了一句表示遗憾。这一次风波还给我们带来超过 1300 万美元的直接经济损失。银河号的往事,直到今天依旧是很多国人心中难以释怀的记忆。

打开网易新闻 查看精彩图片

前后两件事,看上去剧本有着惊人的相似之处,同样是在中东航线,同样是美方指控中国商船向伊朗输送危险物资,同样已经调动海空力量准备登船检查。但是两次事件的结局却有着天壤之别。当年我们海上力量薄弱,远洋护航能力有限,很多时候只能依靠外交途径据理力争;而现在的中国,已经拥有自己的远洋护航编队,还有吉布提海外保障基地,海上实力早已今非昔比。就算当时美军没有及时发现 AI 造假,执意强行登船,所要面对的后果,和三十多年前已经完全不一样。

当然我们也要清醒,不能单纯觉得只是运气躲过一劫就可以高枕无忧。这件事也给全世界敲响了警钟,现在越来越多国家开始尝试把人工智能运用到军事情报分析当中。AI 写出来的报告排版规整,行文严谨,很容易让人先入为主地相信它的内容,可机器一样会犯错,会凭空捏造事实。一旦一份虚假的 AI 情报被上层采信,很有可能就会让整个世界滑向冲突的边缘。

打开网易新闻 查看精彩图片

我们回过头看,银河号的教训告诉大家,茫茫大海之上,公海航行自由从来不是光靠一纸国际法条文就能够稳稳守住,背后必须要有实打实的国力作为后盾。而这次险些发生的海上风波又提醒我们,现代战争的风险,不一定全部来自枪炮,AI 技术的漏洞,同样有可能埋下巨大的隐患。

现如今这则消息仅仅来自美媒 CNN 的爆料,还没有得到官方的证实。对于网络上面的各类说法,我们普通人还是应当理性看待。希望各个国家在处理军事决策的时候,不要过度迷信人工智能,越是重大的决定,越要做好多重核查,千万不要因为机器犯下的错误,把整个世界拖入动荡当中。