随后被拿掉的内容，涉及武器运行的可预测性和可靠性，也涉及攻击前是否必须由人类审核人工智能选出的军事目标。
而美国几天后却又公开推动与中国建立人工智能安全沟通机制，这种反差让整件事真正有了看头。
这场会议讨论的不是普通人工智能监管，而是致命自主武器系统，也就是机器在发现目标、识别目标和实施攻击过程中究竟能够获得多大自主权。
原本这种会议看起来离普通人很远，可一旦把专业术语拆开，事情其实很直接，那就是未来战场上机器能够替人做到哪一步。
如果人工智能只是帮忙分析情报、标记目标，最后开不开火仍然由人决定，责任链条还比较清楚，但如果目标识别、判断和攻击逐渐连成一套自动流程，人类真正能够踩刹车的机会就会越来越少。
美国和俄罗斯这些年在乌克兰、安全秩序和军控问题上冲突不断，但国家之间并不是所有问题都必须站在对立面，当双方碰到相似的现实利益时，立场完全可能临时靠拢。
自主武器就是这样的议题，因为对拥有较强军事能力的大国来说，规则写得越细，未来发展新武器时受到的限制也越具体。
路透社早在9月4日谈判结束当天就已经报道，美国和俄罗斯对草案提出了后期修改和删除意见，美国倾向于制定指导性质的规则，而不是迅速建立具有法律约束力的新条约，俄罗斯、印度和土耳其在这一点上支持美国立场。
多数国家承认现有国际人道法适用于自主武器，但对于是否还需要新增具有约束力的国际标准，以及人类必须保留多少判断和控制权，各方分歧一直没有解决。
美国的想法其实不难理解，人工智能正在快速进入国家安全和军事体系，美国自然希望把技术优势尽快变成实际能力，而不是等国际规则全部谈完再部署。
特朗普今年6月签署的国家安全总统备忘录要求美国国家安全机构加快人工智能应用，并要求在90天内更新五角大楼关于武器自主性的3000.09号指令，这说明美国正在重新调整自己的军用人工智能规则。
真正出现差别的地方，是美国愿意在国内制度里给自己设什么限制，与美国愿不愿意把同样限制写进国际规则，并不是一回事。
对军事大国而言，这种选择有现实利益，但对于那些担心自主武器扩散的国家来说，留下的空间同样意味着更大的不确定性。
而事情真正有反差的地方，还在美国对人工智能安全的另一套公开表态上。
就在日内瓦会议结束后不久，美国财政部长贝森特公开表示，美国已经向中国提出建立人工智能事故通报机制。
按照他的说法，中美作为人工智能领域的重要力量，需要提高透明度，并对可能影响国家安全的人工智能事故建立沟通渠道。
如果只看这番表态，美国似乎非常担心人工智能失控，也希望大国之间尽早建立安全护栏，可把它和自主武器谈判放在一起，画面就变得复杂起来。
美国并不是简单地反对人工智能安全规则，而是在不同领域计算不同成本，涉及可能引发跨境危机和国家安全事故的问题，美国愿意增加沟通渠道，涉及可能限制自身军事技术使用的问题，美国对国际强制约束就明显谨慎得多。
这种做法其实比所谓的“双重标准”三个字更值得琢磨，因为它揭示了大国治理人工智能时真正面对的矛盾。
谁都希望别人的人工智能不要失控，也都愿意讨论防止重大事故，可当安全规则开始影响自己的技术优势、军事效率和行动自由时，原本容易达成的原则就会立刻变成艰难的利益谈判。
战场上的技术变化又在不断压缩谈判时间，无人机、自动导航、机器识别和人工智能辅助目标分析已经不再只是实验室概念，乌克兰、中东等冲突都在推动这些技术快速进入实际军事体系。
所以，这件事最需要警惕的并不是美国和俄罗斯突然成了盟友，真正发生变化的是，面对一种可能改变战争方式的新技术，两个军事大国在限制自身行动空间的问题上找到了共同利益，而这种利益已经能够直接影响国际规则最后写成什么样。
人工智能武器的麻烦就在这里，机器处理信息越来越快，战场也越来越强调速度，如果每次攻击都经过完整人工审核，军事效率会受到影响，可如果为了效率不断减少人的介入，一次识别错误、一次数据偏差或者一次系统异常，造成的后果就可能直接落到真实的人身上。
到了那个时候，责任究竟算在算法、操作人员、指挥官还是国家头上，也会比传统武器时代更难说清楚。
人工智能进入战场的速度正在追赶甚至超过国际规则形成的速度，而当最有能力发展这类武器的国家同时要求给自己留下更多空间时，人类真正能够牢牢握在手里的那道最后决定权，恐怕才是接下来几年最难守住的东西。
热门跟贴