本周，来自加利福尼亚州的民主党参议员亚当·希夫提出《致命行动中的人类授权法案》。该法案要求，任何由自主武器系统采取的行动，最终都必须由人类指挥官拍板。
法案还要求详细记录军事决策的形成过程以及目标选择方式，以便事后审查；为举报人设立保护措施；并禁止在某些涉及核武器和大规模监控的情形中使用人工智能。
希夫在新闻稿中表示：“过去几个月已经表明，我们迫切需要建立常识性的防护栏，确保国防部对人工智能的使用符合美国人的国家安全和隐私优先事项。我的立法将保护美国人免受非法国内监控，确保指挥链中的人类对任何致命技术的使用承担责任，并在部署自主和半自主武器时维持强有力的伦理保护。”
人工智能进入战争领域已有一段时间。世界各国军队都在借助人工智能系统进行打击目标选择和大规模监控，其中一个较为突出的例子，是以色列军队针对巴勒斯坦人使用人工智能。美国也长期在军事行动中部署人工智能，包括其最近针对伊朗的战争。
不过，今年早些时候，军方使用人工智能的问题被迅速推上公共讨论前台。原因是五角大楼与人工智能公司安思罗皮克之间一项原有协议告吹，而且五角大楼还以前所未有的做法，将这家公司列为供应链风险。
据称，安思罗皮克拒绝取消其人工智能系统中的防护限制。这些限制原本旨在防止国防部将其模型用于大规模国内监控以及完全自主武器，也就是几乎不需要人类参与的武器系统。
在合作破裂后，五角大楼与其他主要人工智能公司签署了合同，包括开放人工智能研究中心、谷歌、英伟达、太空探索技术公司、微软和亚马逊云服务。安思罗皮克已就这一认定提起诉讼。不过有报道称，在该公司发布最新模型“迈索斯”后，特朗普政府对它的态度正在转暖。这一模型被宣传为网络安全行业的“噩梦”。
在特朗普政府与安思罗皮克高调决裂后，一批民主党人公开表态支持这家人工智能公司及其立场，希夫就是其中之一，也是《致命行动中的人类授权法案》的提出者。
希夫今年3月在“庞奇博尔新闻大会”上说：“我希望外界能有更多像安思罗皮克这样的声音。”过去几个月里，希夫还提出了一系列与人工智能相关的法案，包括要求大型数据中心自行承担用电成本、要求人工智能公司披露用于训练模型的版权作品，以及将人工智能素养课程引入学校。
据报道，他现在正计划把这项法案附加到年度军事开支法案，也就是《国防授权法案》中。这项法案最迟必须在今年年底前通过。
提出类似方案的并不只有他。来自纽约州的民主党参议员柯尔斯滕·吉利布兰德本月早些时候也提出了一项非常相似的法案，对人工智能在核武器部署、国内监控和完全自主武器中的使用设限。
根据这项法案的定义，所有这些以及更多“高后果行动”，都必须获得国防部高级官员批准后才能推进。据报道，吉利布兰德也计划把这项提案作为《国防授权法案》的修正案提出。
此外，来自密歇根州的民主党参议员伊丽莎·斯洛特金早在3月就提出了《人工智能防护栏法案》。这项法案同样试图建立与希夫和吉利布兰德法案非常相近的限制措施。据报道，斯洛特金也正准备将其作为《国防授权法案》的修正案提出。
这三项法案都试图通过在人类监督下约束军方场景中的人工智能决策，以提高安全性。但风险并不止于此。许多人工智能使用者容易受到专家所说的“自动化偏见”影响，也就是因为系统掌握更多信息，或者看起来推理更高效，就认为人工智能比人类判断得更准确。但事实显然并非如此：这项技术远未成熟，大语言模型容易出现“幻觉”或带有偏见的判断。
再加上人工智能具有“黑箱”特性，使用者无法完全了解系统为何会以某种方式推理、又是如何得出结论的。这样一来，即便有人类监督，军方的人工智能方案仍可能导致致命错误。这也说明，对军方人工智能决策设置明确边界和人为约束，仍是不可回避的问题。
热门跟贴