洛克希德·马丁公司首席技术官克雷格·马特尔在人工智能峰会上预测，未来战争的核心形态将是“人机协作”。他主张人类应深入训练将部署的AI系统，充分了解其误差和局限性，并在决定使用后“为错误负责”。美国陆军刚刚接收了首架自主“黑鹰”直升机，可在无人操作或远程监督下执行任务。随着无人机战争成为现代冲突的核心，美军正加速向自主系统转型，但关于“何时信任AI”和“谁为失误负责”的伦理与法律辩论也在同步升温。
洛克希德·马丁公司首席技术官克雷格·马特尔周三在美国媒体Axios举办的人工智能+DC峰会上预测，未来战争将是人与机器的协同作战。
随着美国军方扩大自主武器的使用，关于何时（或是否）信任这些系统、以及谁应为错误或误击负责的辩论日益激烈。
马特尔说，“我希望我们真正聚焦于人机协作，因为我不相信大规模统计数据能让我们实现认知型机器。”
他表示，人类的责任是与计划部署的AI系统一起训练，并弄清它存在的错误和局限性。“然后你才能做出理性的决定：是否愿意承担责任，部署那台设备，部署那个平台。”
“我选择使用它，”他说，“如果它出错了，那是我的错。”
马特尔设想的“梦之队”是一位飞行员与一群自主飞机协同飞行，这些自主飞机可以保护飞行员。
马特尔曾担任美国国防部首任首席数字与人工智能官，了解军队如何将AI整合进保密系统。
美国陆军刚刚接收了首架自主“黑鹰”直升机，它可以独立完成任务，或在安全远程位置的远程监督下完成任务。
这架直升机正在进行“严格”测试，由洛克希德·马丁公司的一家子公司开发。
此次交付反映了随着无人机战争和无人车辆日益成为现代作战的核心，美军正朝着自主系统方向广泛迈进。
今年1月，美国陆军在阿拉巴马州拉克堡举行的仪式上，正式接收了首架UH-60A“自主黑鹰”直升机。该机由洛克希德·马丁旗下西科斯基公司与DARPA合作开发，已完成超过500小时无人飞行测试，可在无飞行员介入的情况下执行物资投送、伤员后送和侦察任务。陆军未来司令部负责人表示，自主黑鹰“不是取代飞行员，而是让飞行员从高风险任务中解放出来”。
据美国国防部3月发布的《自主武器系统伦理指南》更新版，五角大楼重申“人在回路”原则，强调“任何自主武器的使用决策，必须有可追溯的人类责任链条”。指南同时承认，“当前的技术发展速度已超过伦理框架的更新速度”，呼吁国会加快立法进程。
据报道，美国国会2月审议了《自主武器系统问责法案》，该法案要求国防部在部署任何“致命自主武器”前，必须提交详细的人工监督方案和误击责任归属机制。法案在两党间获得初步支持，但科技伦理团体批评其“仍将人类视为决策后置环节”。
热门跟贴