当威尼斯电影节放映厅的灯光亮起时，观众们起立鼓掌，掌声长达25分钟。银幕上定格的，是24名以色列情报官员和士兵被数字技术模糊的面孔。
“一次预期死亡500人的空袭获得批准”“攻击不会区分成年人和孩子”“婴儿只是‘附带伤亡’栏里的一个数字”……这些回荡在影院里的声音让观众久久不能释怀。
这部片子叫《NAZA》，是希伯来语“附带伤亡”的缩写。这是一个标准的军事术语，用来作一部纪录片的名字，就像一把锋利的刀，让以色列政要们瞬间破防。内塔尼亚胡在社交媒体平台发布视频，批评该影片“令人震惊”，称两名导演煽动“反犹主义”，这种行为“绝不能容忍”。
这部片子获得了威尼斯国际电影节评审团特别奖，得到了广泛赞誉。但这部片子之所以拍的好，并不在于拍的有多“惨”，加沙的惨状人们已经看的太多了。片子最大的价值，就是冷酷无情地给世人展示了一套高效杀人机制。两名以色列导演说得很清楚：他们要呈现的不是“偏离规范的个例”，而是“命令、政策和行动模式”本身。
理解这部电影之前，要先了解一个被很多报道忽略的技术细节。
被采访的情报人员所描述的是一个叫做“Lavender”（薰衣草）的AI辅助目标锁定系统。运作的方式并不复杂：以军监控整个加沙电信网络，收集通话记录、位置信息、短信内容等海量数据，输入到系统后，再利用人工智能算法从中找出需要清除的武装分子。
更让人不寒而栗的是决策过程。
根据以色列媒体之前所做的调查和纪录片里军人们的证词，在冲突刚开始的时候，以色列军队就已经做出了这样的决定：对于系统中被标记出来的每一个“初级武装分子”，可以允许空袭造成最多15到20名平民的死亡；如果是“高级指挥官”的话，数字就会更大一些。
国际人道主义法里有关战争中平民伤亡的“比例原则”，即平民伤亡要和预期的军事利益成比例。但是什么是“成比例”呢？由谁来作出判断呢？以前依靠指挥官的经验和现场情报，现在这个判断已经被量化为数值。系统会计算出“预期死亡人数”，然后送到上级审批，只要有人签字，就会有人按下武器发射按钮。
这就形成了现代战争中最为恐怖的一种形式：杀戮就像玩红警游戏，操作者看不到尸体，听不到哭声，他们与惨无人道的世界物理隔绝，没有丝毫的心理负罪感。他们所看到的只有坐标、参数和“预期伤亡”栏里的数字。这样的杀戮可以给人带来成就感，甚至会上瘾。
纪录片里有一个细节很多报道都引用了。受访者说，那套AI系统利用了从数以千计的手机中收集来的数据识别目标。孩子发一条“爸爸在家”的短信，就会引来以色军的一次空袭。
手机短信内容被读取，就等于把最私密的家庭对话暴露给了算法。一个孩子问爸爸是否在家，这是任何社会中最无害的对话。但是在该系统中，则变成了一种坐标定位信号，而这栋房子也就会被标注，随之而来的可能是某种精确制导武器。
为什么要等目标回到家里再攻击呢？因为从情报收集的角度来看，在私人住宅里更容易找到目标。也就是说，并不是“不小心”炸到了民宅，而是有意选择在民宅里面炸。
这就意味着，在战争中，平民住宅不再是一个需要规避的地方，而是优先攻击的目标。国际人道法的一个基本原则就是区分军事目标和民用设施，但是当人工智能算法告诉你“目标现在在家里”，并且系统给你授权在“预计附带伤亡范围之内”进行打击的时候，一个家庭就会被摧毁。
这套系统最可怕的地方就是让杀戮者没有负罪感。有媒体称，情报人员在被允许进行轰炸之前，对目标进行确认的时间不会超过20秒，而系统出错的概率为10%。再加上以军内部所设定的“预期伤亡”参数，那么每一个“错误标记”，就会有15到20名无辜平民丧生。
算法标记了目标，情报人员确认了目标，长官批准了“预期伤亡”的范围，飞行员按下发射按钮，每个人都在自己的岗位上“履职尽责”，因此没有人需要为这些“错误标记”负责。
这就是工业化，每个人只负责生产线上的一个环节，不承担整个责任，心理学家把这叫做“道德脱离”，即伤害被中介化、远程化和程序化之后，人的共情能力就会丧失。加沙的例子也说明了该系统可以被有意识地加以利用，并且非常有效。
游戏中死了人，玩家不会有内疚感，因为“那只是游戏”。但是当“游戏”的坐标是真实的加沙街道，“玩家”按下一个按钮就会有真实的人在真实的房子里被炸死。心理上的隔离本身就是系统的道德失败。
一部纪录片并不能阻止对加沙的轰炸，内塔尼亚胡也不能因为一部电影而改变自己的战略。但是这部电影最大的意义就是做了一件让以色列破防的事情——把“附带伤亡”的遮羞布撕掉了。
两名以色列导演用本国语言对本国军人进行采访，并拍摄了一部本国政府不希望全世界看到的影片。他们所展示的是一个被人为制造出来的、有组织有系统、有具体参数并且有明确授权程序的杀人机器，并不是某一个指挥官疯了，也不是某个士兵失控了。这套机制叫做“附带伤亡”，其实质就是用人的生命来换取作战参数。
威尼斯观众为电影鼓掌25分钟，是因为他们终于看到了一部没有把加沙当作“背景”的作品了。之前有关于加沙的影像都是废墟、尸体、哭泣的母亲。《NAZA》所表现的不是结果而是过程：数据是如何被收集起来的，目标又是怎样被标示出来的，数字又如何被计算出来的，按钮又是怎样按下的，而那些按下按钮的人又是如何平静地讲述这一切的。
这才是最令人不安的：人们被精确的计算杀死，而杀死他们的人觉得自己只是在“工作”。
热门跟贴