电影导演斯坦利·库布里克在预见人工智能带来的挑战方面展现了非凡的洞察力。在作品《2001太空漫游》中，名为哈尔（影射国际商业机器公司）的计算机试图从人类手中夺取控制权。他在《奇爱博士》中也展示了这一点：电影中秘密建立了一个自动核报复系统，导致在一名阴谋论者下达针对苏联的轰炸命令后，包括美国和苏联领导人在内的人类无法阻止地球的毁灭。
我们现在正处于这样的境地，正如人工智能初创公司安索罗比克负责人达里奥·阿莫代伊的担忧所显示的那样，他不希望在其研发的人工智能模型“克劳德”辅助下的武器能够在没有人类干预的情况下杀人。达里奥·阿莫代伊在2月26日周四写道：“如果没有适当的监督，就不能依靠全自动武器来行使我们训练有素、专业的部队每天表现出的批判性判断。”他认为这些武器的部署需要适当的护栏，而这些护栏在今天并不存在。
安索罗比克已宣布打算采取法律行动。公司在声明中表示，来自战争部（特朗普政府给国防部起的名称）的任何恐吓或惩罚都不会改变其立场。安索罗比克在2025年夏天与国防部签署了一份价值2亿美元（约1.7亿欧元）的合同。其克劳德服务器特别被帕兰提尔公司使用，正是该公司协助美国军方在2011年找到了奥萨马·本·拉登。在这场纠纷中，可以看到倾向于威权主义的特朗普政府与一家处于抵抗前沿、具有民主党倾向的公司之间的对抗。
“这里潜台词是安索罗比克与‘让美国再次伟大’的议程并不一致，”卡内基国际和平基金会研究人工智能在战争中用途的研究员斯蒂芬·费尔德斯坦告诉《华盛顿邮报》。他认为这既是一场政治斗争，也是一个军事用途问题。这在一定程度上是事实，加利福尼亚州的科技从业者已敦促他们的老板支持安索罗比克。
但除了政治之外，由于人工智能已成为战场的核心，教义问题也至关重要。其风险远超孤立行动中对武力的使用。1月3日，美国军队在安索罗比克的人工智能模型克劳德的帮助下，绑架了被废黜的委内瑞拉总统尼古拉斯·马杜罗，这似乎是当前危机的导火索之一。《华盛顿邮报》在2月27日披露，风险甚至一直延伸到核升级。安索罗比克与战争部之间的讨论集中在如果核导弹发射向美国时，该如何使用克劳德。
早在2021年，当时已近百岁的亨利·基辛格在他与谷歌创始人之一埃里克·施密特合著的书《人工智能时代：以及我们人类的未来》中就讨论了这个核问题。施密特在接受《时代周刊》采访时解释说：“我们不想要的是那种根据自身对局势的分析而自动发射的武器。”基辛格补充道，攻击者的速度可能超过人类大脑的分析能力，从而形成恶性循环。
基辛格引用了一个现实生活中的例子——1962年的古巴导弹危机，赞扬了漫长的处理过程（苏联和美国当时僵持了13天），尤其是人类直觉的价值。如果当时存在人工智能，决策的速度是否会快到超出人类评估的能力？如果人工智能建议对古巴进行军事干预（这种行动最终并未发生，否则可能升级为核战争），谁又敢承担反驳它的风险？在这一领域，达里奥·阿莫代伊呼应了亨利·基辛格的疑问。
第二个问题是谁来决定？五角大楼对达里奥·阿莫代伊感到愤怒，因为他想阻止其模型被用于国内大规模监控，以及如前所述的自动杀戮。特朗普政府指责他在面对美国遭受核攻击的可能性时，基本上是以“到时候给我们打电话，我们再看看”作为回应。安索罗比克对此予以强烈否认。
“达里奥·阿莫代伊是一个撒谎者且患有救世主综合征，这真是一种耻辱，”曾任优步高管、现加入特朗普政府的副战争部长埃米尔·迈克尔在社交媒体平台上指责道。埃米尔·迈克尔声称达里奥·阿莫代伊一心想个人控制美国军队，并不惜将国家安全置于危险之中，而战争部将始终遵守法律，绝不屈服于任何营利性科技公司的反复无常。
这个问题值得关注。是否可以想象达索公司对阵风战斗机的使用设置限制，或者赛峰集团对其核导弹施加限制？这也是国防公司帕兰提尔首席执行官亚历克斯·卡普所捍卫的观点。亚历克斯·卡普在接受全国广播公司商业频道采访时反问：“你真的认为一名战士会信任一家因为某些事情变得有争议就拔掉电源的软件公司吗？”他认为，硅谷这个渴望决定人们吃什么、如何吃并将所有数据变现的小岛，不应同时决定谁能在一个国家生存以及在什么条件下生存。
政治首要地位的问题早于特朗普时代。在冷战高峰期，德怀特·艾森豪威尔总统在他的告别演说中就警告过企业的力量，并创造了“军事工业复合体”一词。艾森豪威尔在1961年1月17日的演说中表示：“我们必须警惕军事工业复合体获取不当的影响力，无论这种影响力是刻意追求还是无意形成的。”这位诺曼底登陆的幕后策划者还指出，近几十年的技术革命标志着这一演变的决定性转折点。
今天，国防不再仅仅发生在波音或洛克希德·马丁的工厂里，也发生在旧金山湾区。特朗普给了安索罗比克6个月的时间来切断与联邦政府的联系，这表明五角大楼并不能轻易离开其服务。尽管总统发出了强力谴责，但在此之前或许并非没有达成协议的可能。
2月27日晚，开放人工智能负责人山姆·奥特曼宣布与战争部达成协议，其中包含与达里奥·阿莫代伊设定的相同的红线。山姆·奥特曼在社交平台上写道：“我们最重要的两条安全原则是禁止国内大规模监控，以及对使用武力（包括自主武器系统）承担人类责任。”除安索罗比克外，目前只有埃隆·马斯克的埃克斯人工智能公司被授权用于机密国防背景，但其可靠性和部署速度仍存疑问。
如果是在一个温和的政府领导下，这种政治首要地位的问题引发的担忧可能会减少。第三个问题同样如此：五角大楼行动的合法性。山姆·奥特曼选择相信战争部的诚意，他在周五解释说，战争部赞同这些关于监控和武力使用的安全原则，并将其反映在法律和政策中。虽然特朗普政府可能承诺尊重法律，但它并未赢得所有人的信任。该政府已被指责在消灭坠海毒贩、罢免总统尼古拉斯·马杜罗或部署移民海关执法局时无视法律。一旦致命武力被使用，法院的裁决往往无济于事。
对法律遵循的问题也并非始于特朗普的任期。无论是乔治·沃克·布什在九一一袭击后设立的酷刑和关塔那摩监狱，还是贝拉克·奥巴马的有针对性无人机袭击。但是，如果是人工智能做出杀人决定，最终谁将承担责任？
热门跟贴