一名以色列军方人员表示，以色列国防军据称在加沙战争初期使用人工智能系统生成了一份包含37000个潜在人类目标的名单，“目标是数量，而不是质量”。
“你感觉自己就像上帝，因为你听到了他们说的一切，”另一名以色列国防军情报官员谈到第二个名为“爸爸在哪里？”的系统时说道，该系统用于定位每个目标的居住地。
这种方法可以监听亲属的电话，从而确定目标何时回家。“你黑掉她的手机，然后杀了她，”一名警官这样描述一名曾被这样监控的12岁女孩。
这些引语以及其他数十条类似的引语均来自纪录片《纳扎》采访的24位匿名以色列国防军消息人士。该片于本月在威尼斯电影节首映，并荣获评审团特别奖。
这部电影在以色列引发了轩然大波，政府称之为“血祭诽谤”。自1963年汉娜·阿伦特报道纳粹战犯阿道夫·艾希曼的审判以来，以色列从未因任何一篇新闻报道而如此愤怒。
这部电影提出了关于人工智能在战争中迅速扩展的应用的棘手问题，以及究竟是士兵应该为此负责，还是系统本身应该为此负责。
军事伦理专家表示，人工智能革命——就像工业革命一样——有可能改变战争，并“超越”国际法的框架，包括在纳粹大屠杀后制定的现代日内瓦公约。
他们还补充说，这个问题不仅限于以色列军队或加沙战争。
在伊朗战争爆发的第一天，美国在伊朗南部米纳布发动空袭，造成100多名女学生死亡，此次空袭也使用了名为Maven的人工智能目标定位系统。
据CNN报道，该系统访问的一个数据库包含了一张过时的目标军事设施卫星图像，而人工核查本可能发现这一问题。
Naza是希伯来语中“附带损害”的意思——即在打击合法军事目标时被认为可接受的平民伤亡人数。战争法规定，每次打击前必须对此进行估算，并且必须与军事收益“成比例”。
每次打击决策都必须存档，包括法律签字——以色列与其他西方军队一样，声称在每一起案例中都是这样做的。
一名参与“目标开发”的以色列军方官员——由以色列国防军选定就纪录片所提出的问题向媒体做简报——表示该片制造了一幅虚假的画面。
他并未否认使用人工智能系统，但表示在授权打击之前，一名高级军官会审查所有打击行动，包括对附带损害的估算。
“我晚上睡得很好，”他说。
这部电影以及其幕后记者在以色列媒体上发表的相关调查并未反驳这一点，但表示人工签字已成为“橡皮图章”。
为这部电影接受采访的吹哨人以及以色列刊物《本地对话》和972+杂志发表的调查详细描述了两种人工智能系统，他们称这两种系统在加沙战争中被广泛使用。
一种名为“薰衣草”，用于生成“恐怖分子”目标。第二种俗称“爸爸在哪里？”，随后将目标“大规模自动”关联到“家庭住宅”。
据称，“薰衣草”在加沙战争前接受了已知哈马斯成员的手机使用和行动轨迹的训练。随后在10月7日之后被用于扫描加沙的手机数据，生成潜在目标名单。
“在高峰期，该系统为我们生成了37000人作为潜在人类目标，”该系统的一名使用者告诉记者。
他们补充说：“但数字一直在变化，因为这取决于你把哈马斯成员的标准设在哪里。有时候他们把哈马斯成员的定义放宽，然后机器就开始给我们带来各种民防人员、警察，在他们身上浪费弹药真是可惜。他们帮助哈马斯政府，但并没有真正危及士兵。”
战争初期，当10月7日哈马斯大屠杀带来的震惊和创伤仍然新鲜、感受最为强烈时，据报道，由总理本雅明·内塔尼亚胡领导的以色列政治层向以色列国防军施压，要求生成更多目标。
“当（军方首脑）向内阁介绍以色列国防军在战争头48小时的行动时，他指出空军已经袭击了加沙的1500个目标，”以色列主要报纸《新消息报》在2025年3月报道称。
“内塔尼亚胡勃然大怒，大喊大叫并猛敲桌子。‘为什么不是5000个？’他斥责总参谋长。‘我们没有5000个已批准的目标，’（指挥官）回答说。‘我对目标不感兴趣，’内塔尼亚胡反驳道。‘把房子推倒，用你所有的一切去轰炸。’”
据称，“薰衣草”正是在这种氛围中被用于生成目标。
“在战争中，没有时间将每个目标都定罪。所以你愿意承担使用人工智能的误差：既冒着附带损害和平民死亡的风险，也冒着误击的风险，”接受《纳扎》纪录片制作人采访的一名情报分析人员说。
吹哨人表示，“薰衣草”系统生成的目标在进入杀伤链之前由人工操作员核查，但通常只是短暂核查。一人说他花“20秒”核查每个目标。
“核查是为了确认目标是男性——假设如果是女性，机器就是出了错。消息人士说，军方知道这只是部分和通用的核查，无法发现所有错误，”记者们报道称。
据称使用的第二种人工智能系统将目标与其住所关联。随后通过监听家庭成员的手机来监视这些住所，当目标到达时，住所即遭到轰炸。
“你把数百个（目标）输入系统，等着看能杀谁。这叫做广泛猎杀，”一名使用过该系统的消息人士说。“你从目标生成机器产出的列表中复制粘贴。”
他们补充说：“我们不只是对军事人员在军事设施中或从事军事活动时将其杀死感兴趣。相反，以色列国防军毫无顾忌地轰炸他们的住所。作为首选方案，轰炸一个家庭的住所要容易得多。这个系统就是为在这些情况下寻找他们而构建的。我在多起案例中这样做了。”
以色列国防军安排向做简报的军方官员表示，他从未听说过“薰衣草”或“爸爸在哪里？”人工智能系统。他说，定位目标使用了多种情报技术，并且这些技术是可靠的。
“我不了解情报（部门）使用的所有机器或所有技术，但我希望他们使用人工智能来定位尽可能多的恐怖分子。”他补充说，最“重要的事情”是打击如何被批准，而那不是情报部门的职责。
“我们在以色列国防军的工作方式是，情报人员把情报交给我们。他们告诉我们谁在那里、周围有多少人、正在发生什么。但批准不是由情报部门做出的。我认为（《纳扎》）电影中接受采访的人对（完整）程序了解不够。”
10月7日的大屠杀中近1200人被杀，251人被劫为人质。据当地卫生部称，自那以来，加沙已有超过73000名巴勒斯坦人被杀。
据《纳扎》纪录片及相关调查，在战争初期，以色列国防军对附带损害率的批准并非总是逐案计算，而是“固定的”。
“没有就军事收益与预期平民损害进行具体审查，而是‘以色列国防军给予了全面批准’，”一名匿名消息人士告诉记者。
他们补充说，在战争初期，“获得了为每名哈马斯低级成员杀死最多15名无关个人的批准”。另一人说，他们被授权为每名哈马斯成员杀死最多“20名无关平民”，无论其级别、军事重要性或年龄。
“不仅仅是你可以在国际法意义上明显允许且合法地杀死任何哈马斯士兵，”该消息人士说。“而是他们直接告诉你：‘你被允许连同许多平民一起杀死他。’实际上，比例标准并不存在。”
以色列国防军对此坚决否认，称其行动完全符合国际法，每此打击都由一名高级军官和军事律师签字批准。
接受媒体采访的以色列国防军目标官员表示，不存在“单一的”附带损害规则，允许的水平取决于具体目标，因案而异。
他将当前战争中加沙死亡人数的差异主要归因于战争持续时间——三年，而2014年加沙冲突为50天。
他补充说，打击批准包括对在场人员、附近人数、目标有效性、弹药选择、平民存在和潜在人盾的核查。
他补充说，打击由无人机和其他飞机监视，并定期审查以评估准确性。所有打击的决策和法律签字都有详细存档。
“我晚上真的睡得很好，因为我知道并相信我正在做的事情……我想让你确信我们正在尽最大努力……如果我不能尽可能确保没有平民（和）没有人盾（在场），并且我们打击的目标是正确的目标，我就不会批准。”
《纳扎》纪录片问世之际，对人工智能“未来”及其可能对人类构成的存在性威胁的担忧占据了全球头条。
其他人，包括牛津大学全球史教授彼得·弗兰科潘，则表示“我们不需要等待超级智能来对抗我们”。
“最重要的结论是，复杂的网络攻击不再需要复杂的攻击者：人工智能可以执行侦察、开发危险工具、处理窃取的信息并利用各种数字系统。在许多情况下，人类所要做的就是选择一个目标，然后让人工智能代理完成工作，”弗兰科潘教授说。
伦敦玛丽女王大学伦理、技术与社会学教授大卫·莱斯利在评论现有军事人工智能系统时表示，危险在于这些系统在杀伤链中制造了“责任缺口”，因为其运行速度和综合数据量。
他说，自动化目标定位、情报、监视、侦察和自主系统可能将“有意义的人类判断”降格为橡皮图章功能。
莱斯利教授说，有了自动化系统，“你将面临预防、比例和区分等法律维度根本无法满足的情况”。
“你将没有机会进行有意义的人类干预或判断……杀伤链本身变成了一种数据流，而不是一个迭代的制度化沟通与核查系统。”
莱斯利教授补充说，虽然这些症状可能使一些操作人员感到个人责任减轻，但“战争规则下的法律责任保持不变”。
《纳扎》纪录片背后的以色列记者尤瓦尔·亚伯拉罕和拉谢尔·佐尔在威尼斯电影节放映该片时获得了超过20分钟的起立鼓掌，但该片在以色列引发了广泛批评。
以色列政府部长们呼吁剥夺亚伯拉罕先生和佐尔女士的公民身份并将其驱逐——内塔尼亚胡周三表示他将通过新立法支持这一做法。
以色列国内外的多位评论人士将《纳扎》纪录片与阿伦特1963年的著作《艾希曼在耶路撒冷：一份关于平庸之恶的报告》相提并论。
该书因拒绝将艾希曼描述为怪物而在犹太国家引发愤怒。阿伦特反而说，审判表明暴行可以由普通的、流程驱动的人犯下，他们服从命令而不运用批判性思考。
“艾希曼的问题恰恰在于有太多人像他一样，而这些人既不变态也不虐待狂，他们过去是、现在仍然是可怕地、令人恐惧地正常，”她写道。
“可悲的事实是，大多数邪恶是由从未下定决心做善人或恶人的人所做的。”
这种讽刺在《纳扎》中得到了体现。“我们抹去了历史，”纪录片中一名匿名以色列国防军操作员说。“我的角色是技术性的，”另一人说。“我只是一个小齿轮，”第三个人补充道。
热门跟贴