你敢信吗?现在战场上已经有机器自己动手杀人,全程没人类下攻击命令,出了事连谁负责都找不到。这件事不是科幻电影的脑洞,是俄乌战场上实实在在发生的全球第一起案例。把杀人的决定权交给一串代码,这事儿不光改写了无人机作战的规矩,还把整个人类关于战争的底线问题,狠狠甩在了所有人面前。
事情发生在俄乌交火的前线阵地上,乌军投了一批装了全自主作战程序的小型攻击无人机。操作人员只做完了划定坐标、录入作战区域这些基础工作,就把无人机放出去了。刚放出去没多久,对面就来了大范围电子干扰,无人机和后方的双向通信直接断得干干净净。
这套无人机本身就预设了应急方案,检测到一直联系不上后方,就自动切到了完全自主作战的模式。机载的红外和视觉识别模块一直扫地面,找移动的热源和单兵轮廓,算法对着预设好的敌方特征参数比对,全程不需要后方确认目标,也不需要等开火许可。无人机群自己按着内置路线巡航,很快锁定了一个正在移动的作战人员,直接投放了搭载的爆炸载荷,当场就造成人员身亡。
等电子干扰减弱,后方重新连上信号,操作人员调了无人机存的录像,才看明白整个攻击过程,从头到尾没有半个人类插手。现在市面上大部分军用无人机,都遵守“人在回路”的规矩,哪怕你在上千公里外操控,每一次开火都得操作员亲眼确认目标,手动点下攻击确认,中途想叫停随时都能停。哪怕是远程导弹或者大型察打一体无人机,也都留着人工最终审核的环节。
人类能分清楚平民、老人、伤员和作战人员,碰到不对的情况直接就能放弃任务,最大限度减少误杀的可能。机器算法可没有这种柔性分辨的本事,它只认数据库里的特征数据,对不对得上就行。这次出事的无人机最特殊的地方,就是断了通信之后,直接把人工审核的步骤给彻底拿掉了。从识别到追踪再到锁定打击,全都是机载芯片自己运算执行,连让人叫停让人复核的缓冲空间都没有。
平时无人机出了误击误伤,责任分得清清楚楚,下命令的指挥官、操作无人机的士兵,谁该担什么责任,顺着操作记录一查就能查到。换成全自动自主作战模式,整个责任链条直接断了。投放无人机的士兵只负责开机启动,后面的识别攻击动作他管不着也控制不了。写算法的技术人员只是预设了通信失联的应急方案,不可能预判到战场上所有突发情况。
前线指挥官也看不到实时动态,半路想干预都干预不了。真要是误杀了平民,搞成了无差别杀伤,连一个能出来担责任的人都找不到。机器本身也没法承担法律和道义上的责任,这就是为什么这件事能让国际人道机构这么紧张。没人下实时攻击令,出了事自然也找不到明确的人来背锅,想想就后背发凉。
这两年俄乌战场差不多成了各种智能化武器的实测场,两边都在不停更新无人机的AI识别系统。低成本的小型无人机早就可以批量生产,配上轻量化的识别芯片,自主作战功能也就顺理成章从试验室走到了真实战场。研发全自主程序本来是为了对付高强度的电子对抗,现在战场上电磁干扰太普及了,远距离操控信号说断就断,全自主模式能让无人机失联了也能完成任务,提高装备的战场存活率。
问题出在大家都只想着怎么提升作战效率,完全没同步跟上对应的约束规则。算法本身的识别精度就有误差,碰到远距离、复杂地形、人员混杂的场景,搞错特征匹配是常有的事。一门心思拼效率,把人道约束扔到一边,才搞出了这起全球首例全自动无人机致死的事。好多国际人道机构都站出来反对,说完全自主杀伤武器根本就不该投入实战。
现有的国际战争法早就说清楚了,所有杀伤性武器用的时候,必须留着人类的最终决策权,就是为了约束无差别杀戮,保护平民伤员这些非作战群体。自主攻击无人机直接把现有的法规框架给突破了,机器不受人类道德和战争规则的约束,只靠着程序执行杀伤命令。这些机构最担心的就是,这次的事起了坏头,各国都会加速研发无人工干预的自主作战装备,以后打仗平民死的会更多,战争的底线会越来越低。
现在好多机构都呼吁各国赶紧达成统一的约束协议,限制完全自主杀伤武器投入实战,强制要求所有攻击型装备都留着人工终审的权限,再也别让代码自己决定人的生死。这件事也绝对不是什么前线单个案子就完了,它直接会改变各国军工研发的方向,还有整个军备博弈的格局。中小国家一眼就能看到自主无人机成本低、突防能力强的好处,肯定会加大投入搞相关技术,智能化无人武器的军备竞赛只会越来越激烈。
连战场规则都会跟着发生大变动。以前那种靠远程操控管控杀伤范围的打法不好使了,两边都会多部署电磁干扰设备,故意切断对方的无人机通信,逼着对方更多自主作战机型上场,来来回回就是个恶性循环。普通老百姓的安全空间也会越来越小,小型自主无人机方便携带,难拦截,要是技术流出去,极端组织随便就能拿到,城市居民区碰到无差别袭击的风险只会越来越高,公共安全防控的难度直接翻了好几倍。
其实也不能一竿子把无人机技术打死,工具本身没有对错善恶,决定它怎么用的是使用规则和管控机制。AI识别、自主飞行这些技术,用在灾后搜救、边境巡逻、应急物资投送这些和平领域,能帮上好大的忙。真正该警惕的,是人类自己主动把杀伤行为的管控权给扔了。军工研发和军队使用环节没约束,随便放开自主攻击的权限,才会搞出没法收拾的人道灾难。
技术进步就得跟上对应的规则约束,不能放任武器自己掌握生杀大权。各国发展智能化装备的时候,得同步完善内部的管控规则,划清楚自主作战装备的使用边界,建立完整的事故追责流程,平衡装备作战性能和战争的基本人道底线,别让科技变成没人管得住的杀人工具。这次的事带来的冲击,远不止前线多了一起伤亡那么简单。人类几千年来的战争约束和道德底线,都是建立在人类掌握杀伤决定权这个基础上的,这个基础要是塌了,现有的整个战争秩序都得重构。
代码没有共情能力,不会权衡现场的复杂情况,只会机械地对着预设数据比对。以后越来越多的自主无人机上战场,误杀、无差别袭击就会从偶尔出事变成家常便饭,平民和非作战人员的生命安全,连最基础的保障都没有。现在技术发展的速度,比国际法规和各国管控体系完善的速度快太多了。这起全球首例案例,其实就是给全人类敲了个警钟,要是再不赶紧出台统一的约束标准,未来战争的残酷程度,会突破所有人的想象。
冲突还在继续,智能化武器的迭代也不会停下脚步。现在所有人都得想明白一个问题,我们到底要不要把决定生死的权力,彻底交给冰冷的程序?要是放任自主杀伤武器无限制发展,未来我们还怎么守得住战争和人道之间的底线?
参考资料:人民日报 智能化武器发展需守住人道底线
热门跟贴