美军滥用AI再次险些酿成险情，这次目标是中国，差点引发“银河号2.0”事件上演！
综合环球时报等报道，今年早些时候，美军差点因为一份AI写的假情报，全副武装冲上一艘中国货轮。
事情是这样的，今年春天，美国正在跟伊朗打仗。美军情报部门有个分析员，用AI聊天机器人分析了一份关于船只舱单的情报。AI给出的结论是：有一艘中国船只，正在向伊朗运送核武器相关零部件。这还得了？美军当即开始制定作战计划，全副武装的士兵准备冲上那艘船，战机都已经升空待命了，估计当时五角大楼都在研究：如果动手，三战是不是会就此爆发？美军能顶得住解放军的反击吗？
可是紧跟着，转折来了，就在行动即将开始的前一刻，有官员复核情报，发现了一个无聊至极的问题：这份报告，竟然是AI瞎编的。你想想这个画面：美军士兵全副武装，战机在天上盘旋，指挥官一声令下就要冲上中国货轮。然后突然有人喊：“等一下！这情报是AI写的！”这就有点尴尬了。对此，美媒做出了这样的评价，这是一个“完全虚假”的报告，却“差点引发一场战争”。更有消息人士仍心有余悸，感慨：“AI能让人更快得到答案，但也可能让人更快走向错误结论。”
应该说还好美方千钧一发之际发现这一情报有问题，否则这事儿完全就是“银河号2.0”事件上演。大家还记得吗？1993年，美国说中国货轮运化学武器原料，强行拦截，查了628个集装箱，最后啥也没找到，这件事被国人视为“奇耻大辱”，曾任联合国秘书长的沙祖康为此连说17次“窝囊”。
33年后的今天，都不用美方胡编，AI就会说中国货轮运核武器零件，美军都准备冲上去了，要是冲上去，最后也是啥也没找着，到时候美方打算还像33年前那样搪塞咱们吗？还是打算告诉中方：不好意思，我们才发现情报是AI编的？恐怕没那么容易吧。
而且，这并不是AI第一次给美军制造问题，就在不久前，我曾为大家提到过，2月底美伊以战争爆发时，美军用“战斧”导弹打击伊朗女子小学，造成一百多人死伤的惨剧。美军之所以干出这种事情，就是因为AI在处理情报时使用了旧的信息库，将女子小学误当作伊朗重要的军事据点，结果酿成悲剧。
这一切也都印证了不久前我为大伙介绍过的，美国在AI的军事应用上，走的太过激进了。作为当下全球AI的领军国家，虽然中美都有探索AI在军事领域的应用，但是两国路线截然不同。中国这边是先求稳，再求快，强调军事AI应用要“慎重负责”，为此2023年就发布《全球人工智能治理倡议》，说的就是大国在军事领域用AI得有个底线。解放军这边除用AI强化信息处理外，练的更多是怎么防AI、破AI，比如训练士兵怎么破坏对方的数据链、怎么识别AI生成的假情报等。
相比之下，美国的路线就激进、极端的多，你看他们跟硅谷那几家大模型公司的合作，几乎是硬拽着上车的。有公司不乐意把AI用在自主武器上，白宫直接翻脸，把它踢出联邦供应链，转头就找愿意配合的顶上。而且他们尤其重视用AI强化决策效率，喜欢用AI来处理情报数据，制定打击计划，说到底，就是把从发现目标到开火这个军事行动的必要时间给压缩到最短，逻辑简单而粗暴，什么伦理审查、人类审批，在军事目标面前都得靠边站。
所以我不久前跟大伙说，美国就是用AI生产“杀人机器”，但因为没有设定底线，过于依赖AI，导致出现大量的决策失误，比如炸伊朗女子小学，这次更直冲中国货轮，差点闯下大祸。说的干脆点，美国在想怎么用AI赢，中国当然也有考虑这个，但在具体落实上，更为系统化，也考虑到风险，所以中方也在确保不被AI坑。
这一桩桩的乱象，不仅仅让美国社会对他们的AI模型产生了顾虑，就连美国政府自己都有点心虚。再加上美国AI模型本身是闭源的，价格昂贵，所以几乎就在美媒曝光AI误导美军直冲中国货轮一事的同时，英媒也有了发现：美国联邦政府的官方公告网站，用上了阿里巴巴的通义千问模型。
对这件事，美国信息技术与创新基金会的主席丹尼尔·卡斯特罗直接破防，说这是自己“见过最不可思议的事情之一”。不过仔细想想这场面，他破防好像也不奇怪，这不就是“臣等正欲死战，陛下何故先降”吗？FBI玩命针对中国AI，一查大本营居然被偷家，这谁顶得住？
但是，美方在埋怨事情“不可思议”之前，是否应该思考一下，为什么会发生这样的事情呢？其实就好像美国政府千方百计对中国无人机下禁令，但是美国政府还是有机构想对中国无人机下订单一样，选择产品，经济和耐用是最优先的考量。
如果把这两件事结合起来，大家就会发现一个特别可笑的事情。美国政府在公告网站这种完全不对国家安全构成威胁的领域，对中国AI如临大敌，抱有完全多余的警惕，美军又在动辄可能关系到几百甚至几万人存亡的军事行动上，不设底线地应用AI，只为了提供效率，甚至不经分析，就将其当成了什么“可信依据”，并由此制定军事计划。这种领域和方案的错位，直接表明当下美国政府对AI的整个应用，都出现了极其重大的问题，他们在不必要的领域投入了过度的警惕，却在真正需要重视的方面，盲从AI给出的信息。
这说明什么？说明美国AI行不行，这还在关键是人不行。其实当下AI技术还有不足，是所有从业者都知道的事情，美国国会随便抓几个行业代表举行听证会问一问就明白了——当然他们不敢问，怕断了AI产业景气的趋势，影响到投资，但他们心底有必要懂这个道理。为什么中方对AI在重要领域的应用非常警惕，反观美国政府，整个应用完全错位，该警惕的不警惕，不该警惕的乱花心思？就这，你说怎能不出事？
热门跟贴