一场持续了一个星期的联合国谈判,最后又谈崩了。

这次争论的不是普通武器,而是一种越来越让各国军方着迷、却让国际社会感到不安的新型武器:能够利用人工智能识别、选择甚至攻击目标的自主武器。

简单说,就是未来战场上,可能出现这样的场景:机器发现目标,判断目标性质,然后自行决定是否开火。人类士兵甚至不需要在每一次攻击前亲自下达命令。

问题来了:如果机器判断错了,打死了平民,谁负责?

11月21日,英国《卫报》报道,联合国《特定常规武器公约》第七次审议大会在瑞士日内瓦结束。各国经过连续一周的谈判,最终没能就启动具有法律约束力的自主武器国际条约谈判达成一致。

打开网易新闻 查看精彩图片

原本,奥地利、比利时、巴西、爱尔兰、墨西哥、新西兰和巴拿马等7国,推动在一年内启动具有法律约束力的条约谈判,希望明确哪些自主武器应该禁止,哪些必须受到严格限制。

这项提议获得了100多个国家的支持。

但问题出在俄罗斯身上。

按照《卫报》的报道,俄罗斯代表团在谈判中不断提出程序性异议,拖延会议进程,反对相关方案。由于这项会议机制采取协商一致原则,任何一个缔约方不接受,最终决定就很难通过。

谈判一直拖到当地时间凌晨,最终还是没能取得突破。

看起来,会议没有完全空手而归,实际上,最关键的问题还是被推迟了。

如果把这次谈判简单理解为俄罗斯阻挠国际社会管制AI武器,就低估了事情的复杂程度。

俄罗斯确实是谈判破裂的重要因素,但美国同样不愿意接受严格的法律约束。

《卫报》指出,美国代表团倾向于非约束性安排,认为现有国际人道法已经能够为战争中的武器使用提供基本框架。

打开网易新闻 查看精彩图片

美国此前还提出过一个长达五年的讨论方案。

这意味着,美国和俄罗斯虽然在国际政治上存在严重分歧,但在这个问题上却出现了某种共同点:都不愿意轻易接受一套可能限制自身军事技术发展的新规则。

其他国家也不是完全一致。

英国、法国、德国、日本、韩国和土耳其等国,同样对具有强制约束力的新协议持保留态度,更倾向于非约束性安排。

这就形成了一个尴尬局面。

100多个国家希望尽快推动新规则,但真正掌握先进军事技术、拥有庞大军工体系的国家,却不愿意轻易让渡自主权。

这场争论与中国并不是没有关系。

《卫报》报道,中国和伊朗等国表达了对新议定书的支持或愿意推进的态度。

中国一直强调人工智能军事应用应当遵守国际法,特别是国际人道法,同时重视人类在使用武力问题上的最终判断和控制。

这其中有一个很现实的问题。

中国正在发展人工智能、无人机和智能装备,未来同样需要面对自主武器的使用边界、责任认定和国际规则问题。

因此,国际社会讨论自主武器,并不是限制某一个国家,而是要避免技术发展跑在规则前面,最后让所有国家都承担风险。

打开网易新闻 查看精彩图片

这场谈判最值得关注的,其实不是俄罗斯和美国谁赢了,而是人类正在面对一个越来越现实的问题:战争中的生杀大权,究竟能不能交给机器?

过去,武器再先进,最终仍然需要人来判断目标、决定是否攻击。即使出现误伤,也可以沿着指挥链追查责任。

但自主武器的发展正在改变这一切。

如果一套系统能够自行识别目标、选择攻击对象,甚至在没有实时人工干预的情况下完成打击,那么问题就不再只是武器精度高不高,而是机器有没有资格作出决定。

打开网易新闻 查看精彩图片

识别错误怎么办?目标已经投降怎么办?攻击对象是平民怎么办?如果系统出现故障,造成重大伤亡,究竟应该由研发企业、军方指挥官,还是实际部署武器的国家承担责任?

这些问题,现在都没有形成足够明确的国际共识。

更值得警惕的是,军事竞争不会等待国际规则慢慢完善。

谁都不愿意在技术竞争中落后。一个国家加快研发,其他国家就会担心自己的军事优势受到挑战,随后跟进。这种竞争一旦形成,限制武器发展的政治动力反而可能越来越弱。

这也是为什么这次谈判的结果令人失望。

俄罗斯不愿意让步,美国不愿意接受强制约束,其他军事技术强国也各有顾虑。大家都在计算自己的国家利益,却没有人愿意首先承担限制自身武器发展的成本。

但战争的后果,从来不只是由这些大国承担。

一枚导弹打错目标,受到伤害的是普通家庭;一架无人机误判,付出生命代价的可能是根本没有参与战争的平民。

如果未来战场上,机器能够比人更快地决定攻击目标,却没有明确的人类责任机制,那么技术进步未必意味着战争变得更加安全。

中国需要参与国际规则制定,也需要推动建立真正公平、合理、有效的国际规范。

不能一边强调人工智能造福人类,一边在军事领域放任机器越来越多地掌握生杀大权。

武器可以越来越智能,但决定人的生死,不能成为机器说了算的事情。

这次联合国谈判虽然没有取得实质性突破,但至少再次把一个问题摆到了全世界面前:如果连自主武器的基本红线都无法确定,那么等到这类武器大规模进入战场,再想建立规则,恐怕就更难了。