大家好，这里是《美国那些事儿》系列，今天继续聊聊美国的事儿。
当AI生成的虚假情报险些将中美推向战争边缘，当加勒比海上的快艇被导弹瞬间击沉、四名船员无一生还，这套不宣而战的打法背后，究竟隐藏着怎样的逻辑？特朗普如今又将矛头对准了哪些新目标？
人工智能已成为全球发展的重要趋势，然而AI一旦生成虚假情报，其后果可能极其严重。近期就有一起事件，险些引爆中美之间的军事冲突。据披露，美军当时甚至已准备强行登临一艘中国船只，而美国部分AI系统正处于无视失控警报的状态。
事件的经过是这样的：今年春季，美军情报部门指控一艘在中东航行的中国船只，可能载有与伊朗核武相关的零部件。消息一出，美军立刻准备启动拦截行动，武装人员整装待发，随时准备登临这艘中国船只，军机也已升空待命。
就在行动实施前，相关人员进行了一次核查，才发现这份报告竟是AI自行分析产生的错误情报。整个情报分析过程如下：美军特种作战司令部的分析员先将船只货物清单交由聊天机器人判读，随后由AI将结果整理成正式情报。
最终这份错误信息竟直接进入了军方的决策流程，才导致了这场乌龙事件。倘若这次军事误判险些引发中美战争，那么下一次误判是否会成为更大的引爆点？
而这一决策过程带来的后果之一，便是伊朗一所女子小学遭到误击。美方一再声称该小学距离革命卫队据点非常近，但即便再近，也应能研判清楚，因为如今连每个细节都能被精准识别，168名小学生的墓穴便是误判酿成的悲剧。
这真的仅是误判吗？来宾进一步展示了中国大陆的秘商系统，该系统能够清晰辨识每一架飞机的型号，例如E-3预警机与KC-135加油机，图像上的小字并非人工标注，而是AI自动研判的结果。
此外，7月14日在日本陆奥基地拍摄的画面中，可以看到堤丰导弹的部署，若无经验则难以辨认，但AI能够准确识别。AI之所以需要进行此类研判，是因为它能够实施饱和攻击，并进行有效防御。
前段时间解放军公布的制胜影片中提到"采用快打战法组织发射"，正是事前完成AI研判并制定相应作战计划的体现。过去，中美两国曾就AI应用达成一定管制共识，承诺禁止无人机、核弹头等自主武器中使用人工智能。然而如今这项承诺已不复存在。
特朗普宣布扩大AI投资，而中美之间原本由两国最高领导层直接讨论AI议题的机制，如今已降级为由美方财长贝森特与中方代表组成的AI对话小组。这意味着，尽管中美对话小组仍在运作，但特朗普想做什么便做什么，这可谓当今世界最危险的一件事。
除了差点引爆中美冲突，AI越权现象也令众多企业深感忧虑。谷歌已证实，其Gemini在今年五月的资安测试中意外登入了三家真实企业，方式是不断猜测企业名称，最终成功登录。
另一方面，OpenAI在过去半年中发生了六起模型异常事件，AI模型突破封闭环境，自行联网，甚至捏造虚假资料。在AI领域中，多数专家属于所谓"AI威胁论"派。之所以形成AI威胁论，是因为AI的发展已经脱离了人类能够理解的范围。
如今AI所做的任何决策与产出，人们已无法理解其推论过程与得出结果的逻辑，没有人能够看清全貌。而且AI在发展过程中已越来越具备自我意识，这并非近期才出现的现象，两三年前便已显现。
在当前中美军备竞赛的过程中，任何一方都担心一旦放慢脚步就会被对方超越。美国用于伊朗战争乃至更早乌克兰战场的AI战场管控系统称为Maven系统，从乌克兰战场一路沿用至伊朗战场。
中国大陆则拥有自己的战略系统。这些系统最令人担忧的是：未来若将蜂群无人机交由AI操控，若战斗机、战斗机器人皆由AI操控，过去电影《终结者》中的情节岂不将真实上演？届时全部兵力都将掌握在AI手中。
此次误判事件，官方声称是人为输入资料错误所致，但真的仅是人为输入的问题吗？还是AI本身的意识中已存在某种成见与判断倾向？
这才是最令人担忧之处，尤其是在AI已具备自我意识的当下。英国国王查尔斯三世本周召开了AI安全高峰会，可见连英国都已介入此事。原因在于，Anthropic首席执行官达里奥发表了一封公开信，公布了一件令众人高度忧虑的事实：AI已经可以自我改进。
以往是人类训练AI，如今AI能自我训练，而且其训练速度远超人类。若AI能自我训练，便意味着它已能摆脱人类的控制。他预测AI技术将在今年夏天大幅加速。第三，他预测在未来6至12个月内，一群AI代理人可能会接管整个网络世界。
达里奥之所以提出上述警告，是因为今年7月，全球最大的AI开源模型平台Hugging Face遭到黑客攻击，而这群黑客并非人类，正是由AI agent组成。他们采用蜂群攻击的方式，多个AI agent同时启动，其攻击速度与规模均超越人类所能达到的极限。
从Hugging Face遭袭、Gemini在安全测试中登入美国企业，到OpenAI新版GPT沙盒模型突破限制、危及其他平台，种种情况已然发生，自然引起外界的高度警觉与担忧。
就在这样的背景下，特朗普仍选择组建所谓的AI部队，并宣布将任命新的"AI沙皇"，将其类比为其第一任期设立的太空军。目前尚未公布过多细节，但可以看出特朗普对AI发展持全力支持的态度。
特朗普此番表态自有其道理。1990年代互联网兴起时，也有类似论调——若对网络进行过度监管，将拖慢其发展。但同时也有人认为网络太可怕，黑客中既有好人也有坏人，一旦坏人介入便会作恶多端，如今猖獗的诈骗即是明证。
同样的道理，如今AI已更上一层楼，若监管过严，AI发展必然放缓。特朗普担心美国已不再是世界唯一的霸主，另一个由弱转强、直线上升的强国正如从海中喷涌而出的巨龙，只见其首不知其尾。
面对这样的巨龙崛起，美国当然心生忌惮，如今唯有紧握军事、美元霸权以及仍具优势的AI科技，而这些AI科技又都掌握在民间企业手中。因此无论是Anthropic的Amodei、OpenAI的Altman，还是马斯克，都纷纷出来呼吁重视AI安全。
成立AI部队确有其必要，每个国家都会走上这条路，中国台湾地区也不例外。关键在于其内容究竟要强化什么。某些方面尤其是情报的收集、知识的摄取以及研判等环节，不能仅仅依靠AI，必须充分融入人性化的判断，方能确保真实性。
AI部队的成立有其必要性，但真正需要强调的是安全性、安全性、再安全性。当前各方都在讨论安全议题，因为倘若两大敌对且实力雄厚的势力都将AI用于军事，极有可能引发一场大规模战争。
因此必须善用AI，尤其在考量安全性的前提下用好AI，无论意图为何，都绝不可掉以轻心。而就在AI情报险酿冲突、伊朗小学废墟尚未清理之际，加勒比海上又传出震动国际的消息。
9月19日夜间，美军南方司令部指挥的力量对一艘被指控为运毒船的快艇实施精确打击，导弹落下船只当场沉没，四人全部死亡，无一生还。
据统计，近一年来美军在加勒比海和东太平洋对所谓涉嫌运毒船只已发动六十多次打击，摧毁目标近百艘，死亡人数超过两百。特朗普将此定性为对贩毒集团的战争，用"武装冲突"的标签替代了原本的执法程序，把本该交给法庭的事提前交给了导弹与战机。
从险些登上中国船只的行动，到米纳卜小学的废墟，再到加勒比海被击沉的小艇，这条链条上的每一环都指向同一个问题：技术跑在了验证能力前面，武力跑在了司法程序前面，而战争不等人复核。
特朗普将矛头从AI情报失误蔓延到真枪实弹的海上行动，用炸船画面转移国内选举压力与民生困境的意图昭然若揭。真正值得担心的不是AI会不会犯错，也不是导弹会不会打偏，而是犯错之后，究竟有没有人愿意停下来仔细看看。
这是本期《美国那些事儿》，咱们下期见
热门跟贴