谈判拖到最后一天,现场的摄像机突然被人关上了。
民间观察员被请出门外,两排律师低着头在条约上划来改去。
被擦掉的那行字,关系到最后由谁来扣扳机。
关门之后,那行字没了
2026年9月,联合国关于管控致命自主武器的谈判走到最后一天。这场谈判断断续续开了好多轮,各国代表团坐在一起商量,想给AI武器立下一些基本规矩。
据《华盛顿邮报》事后的披露,美方在收尾关头要求关闭现场的摄像设备,把民间观察员请出了谈判室。门一关,美俄两边各自调了大约10名律师进来,埋头快速改动条约文本。
被动手脚的内容里,有一项极其关键的安全条款:在发动攻击之前,必须由人来确认AI系统锁定的目标确实是军事目标。这一条本来是防止AI自己决定打谁的最后一道保险。
据新华社/中国军网报道,美俄两边调进来的律师,人数几乎是其他代表团外交人员的两倍,改动又快,场外规模较小的代表团根本应接不暇。十几个小国家的代表压根没反应过来,球早就不在他们脚下了。
条约文本翻到人类审核那一页,那一行字最终被划掉了。
走廊里,各国代表团成员、旁听的民间组织观察员、甚至来联合国参观的学生,都看到了那行字被划掉的全过程。这不算严格意义上的秘密,只是在半掩着的门后面做的事。
谈判室窗户外面,远方战场上空的无人机正在待命,等着下一次出击指令。条约文本上少了一行字,天上的机器就多一分自己拍板的空间。
这件事的意义不在于删了哪一句话,而在于删这句话的方式。关摄像机、清观察员、律师快改,这套动作说明这行字见不得光,不能放在镜头前面讨论。
回头看整个谈判过程,各国代表团磨了好多轮,就是在人类该不该对AI武器保留最终决定权这个问题上反复拉锯。
支持保留审核的一方认为,机器再聪明也不能替人决定生死;想删掉审核的一方认为,实战中人工确认太慢,会让自己处于劣势。
最后一天关起门来改文本,等于把拉锯的结果直接定了。
那些被挡在门外的小代表团,很多是发展中国家,它们既没有研发AI武器的能力,也没有在战场上使用无人机的经验,但它们的平民可能成为AI误判的第一个受害者。
这些国家的声音,在关摄像机之后变得更弱了。条约文本上少一行字,承担后果的却不是拍板删字的人。
谈判桌两边的律师改完文本就回家了,战场上按这个逻辑行动的机器,却可能在另一个国家的平民头顶上飞过。
美俄立场趋同背后的共同诉求
美国要保住自己在军事技术上的领先身位,不愿意被国际条框绑住手脚。AI自主武器是下一代军事优势的主赛道,华盛顿不希望任何国际公约限制美军在这个方向上的探索。
俄罗斯在俄乌冲突中大量投入无人机实战,同样不乐意被外部规则捆住。战场上无人机的节奏极快,俄方需要保留自主决策的灵活度。这是俄方在谈判桌上的立场,客观陈述即可。
耐人寻味的是,美国一边在公开场合呼吁开展AI安全合作,一边在同一张谈判桌上跟俄罗斯联手抹掉人工审核条款。把这两件事摆在一起看,逻辑很清楚:对外讲合作是讲给别人听的,关门删条款是留给自己用的。
替美方说话的人会讲,战场形势变化太快,人工审核会拖慢反应,贻误战机。这个说法要正面接:速度确实重要,但再快也不能把人从决策链里彻底拿掉。快半秒和误炸一座村庄,这两件事的分量不在一个天平上。
机器反应快是优点,可快到不需要人确认就开火,那它就不是一件工具了,而是另一个决策者。
美俄在这个问题上立场趋同,不是偶然。两个军事大国都在无人机和AI武器上投入巨大,都不希望自己的发展空间被一纸国际条约框住。
不同的是,美国是技术领先方,怕被规则束缚;俄罗斯是实战使用方,怕规则捆住手脚。两边的诉求方向不同,但指向同一个结果:人类审核这道闸,松一点对自己更有利。
那些主张保留人工审核的国家,大多是中小国家和民间组织。它们的逻辑很朴素:AI武器一旦可以自主开火,就没有人能为后果负责。
没有人负责的武器,是这个世界上最危险的东西,比任何已知的常规武器都危险,因为它连扳机都不需要人去扣,完全由机器自己决定。
机器越快,人越得攥住最后一道闸
机器处理信息的速度,人脑根本追不上。传感器扫一遍战场的工夫,人脑可能还没完成第一个判断。这种速度优势,正是AI军事化最吸引人的地方,也是最让人不安的地方。
人工审核这一环一旦被削弱,误判的概率就跟着放大。AI把民用汽车认成军事目标怎么办?把救护车当成装甲车怎么办?这些错误在有人审核时还有一道纠正的机会,审核没了,错误直接变成弹药打出去。
责任划分也会跟着乱套。一旦AI自主开火造成平民伤亡,该谁担责?写算法的工程师?下指令的军官?还是当初谈判桌上划掉那行字的代表?责任链条一旦模糊,战争失控的门槛就会跟着降低。
这在事实上可能意味着,开火权交到了AI手上。机器自己判断、自己锁定、自己发射,人只在事后看结果。
这是AI军事化治理绕不开的一道坎。联合国那扇半掩的门后面,被划掉的不只是一行条约文字,是人类对武器使用的最终控制权。
今天划掉的那行字,将来总有一天要在战场上被人重新提起。等第一起因AI误判造成的伤亡摆到桌面上时,今天动笔划掉它的人,到时候还得把它再写回来。
联合国走廊里那扇半掩的门,关上的是摄像机,关不上的是全世界对AI武器走向的注视。各国代表团成员、民间观察员、参观的学生都看见了那行字被划掉的过程。
看见本身就是一种压力,今天能在门后改,明天就要在众人面前解释为什么改。
AI安全和责任规则的博弈,不会因为一次关门修改就结束。机器跑得越快,人越得想办法把最后那道闸攥紧。
真正的问题从来不是AI能不能用,而是用了之后谁来负责。没有人负责的杀人机器,比有人负责的大规模杀伤性武器更可怕。
今天在谈判桌上划掉的那行字,表面上是技术条款之争,骨子里是要不要把人类留在战争决策链上的根本立场之争。这个立场问题,关一次摄像机解决不了,改一次条约文本也解决不了。
热门跟贴