一部机器可以自己决定向谁开火、什么时候开火,而人类全程不在场——这类武器正在从设想变成战场现实。本周在日内瓦,围绕要不要给它划一条全球红线的争论再次摆上台面,而结果很可能又是原地踏步。

打开网易新闻 查看精彩图片

据《新科学家》报道,美国、中国和俄罗斯预计将在本周的会议上削弱推动全球禁止自主武器的努力。这场会议是《特定常规武器公约》(CCW)第七次审议大会,该公约是联合国框架下约束"过度伤害或滥杀"武器的条约,目前有128个缔约国。

公约现有的五份议定书已经禁掉了不少东西:燃烧武器、爆炸后无法用X光检出的碎片炸弹、以及专门致盲士兵的激光武器。这些都是国际社会认定"不能接受"的武器类别。而自主武器,各国已经讨论了10多年,至今没能被写进这份清单。

为什么这件事越来越急?因为AI在军队里的使用已经很普遍——从海量情报数据里挑出目标、让导弹和无人机自动转向,这些都在发生。多数情况下人类还在回路中某个环节上,但至少有一次,完全自主的无人机在没有人类监督的情况下杀死敌方士兵。乌克兰国防工业的一位高层人士今年早些时候告诉《新科学家》,两年前的一次测试导致了两人死亡。

正是这种"人类输入极少甚至为零"的武器,让活动人士最不安。"机器不应该做生死决定。让武器系统或算法去识别目标并杀人,这就是一条我们不该越过的道德红线,"压力团体"停止杀手机器人"的伊丽莎白·迈纳说。

过去三年,CCW内部一直在为禁令做铺垫。本次会议主席国秘鲁提议,应就一份议定书启动谈判,并在两年内完成相关工作。迈纳说,有130个国家支持禁止或限制自主武器,70多个国家准备开始谈判。

但她也警告,美国、俄罗斯和中国,以及英国、日本、韩国等国,很可能拦下这些努力。"随着本周推进,我们不幸会看到的,是这份文本在更大军事化国家的要求下被削弱——它们希望继续看到这些武器不受监管。"

美国的立场已经摆出来了:在会议上提议,应进一步研究现有国际法如何适用于自主武器,认为没必要更新CCW,实质上把潜在的禁令一路推到2031年的下一次会议。

英国埃克塞特大学的奥雷尔·萨里指出,自主武器其实已经受现有武装冲突法约束——使用者必须避免造成过度附带损伤,并采取一切可行预防措施保护平民。一台无法按这些规则使用的自主武器,本身就已经不合法。但现有法律没有一条禁止使用它们。

萨里点出了监管的死结:

  • 支持禁令的人想拦下那些"操作者无法预测或控制其选择和攻击方式"的武器;
  • 而部署防御系统的国家——比如自动拦截来袭导弹、保护军舰的系统——反应速度比人快,不希望这类系统被禁;
  • 禁令若宽到能满足前者,就可能把防御系统一并网进去;若窄到能赢得军事大国支持,又几乎禁不掉任何国家真打算上战场的东西。

更根本的是战略算计。萨里说,主要大国各有各的优先级:"没有哪个大国想要一份让对手在战场上占优的协议。一份广泛的禁令只有在所有对手都遵守时才有吸引力。而这需要各国就禁令到底覆盖什么达成一致、堵住漏洞、建立可靠的核查方式——目前这些看起来都做不到。"

CCW的规则是协商一致,也就是说,只要一个国家反对,行动就会被卡住。会议讨论预计在11月20日持续到深夜, deliberations 不对公众开放,11月21日预计发布公告。

迈纳并不认为已经太晚:"我不会说我们来不及制定规则。这件事任何时候都可以做。仍然有时间做出有意义的回应,防止事情滑向更糟的方向,但这取决于国际社会是否真的现在就行动。"

她提到的另一条路是绕开CCW,把问题提交联合国大会——在那里,启动条约谈判只需要多数票。"但他们必须现在就做,否则我们只会继续看到这些能力上逐底竞争的态势。"