特朗普的立场与越来越多的业界领袖和两党议员相左。这些人警告称，人工智能可能很快发展到超出人类控制的程度。美国三大主要人工智能企业的高管——开放人工智能公司首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊以及太空探索人工智能公司的埃隆·马斯克——上周末罕见地联合呼吁，各方应合作“把控人工智能发展的前沿节奏”。
国会中也出现了少见的两党合作迹象。参议院多数党领袖、共和党人约翰·图恩正与民主党人共同推动立法，旨在防范人工智能可能带来的灾难性风险，比如被用于开发生物武器。前总统奥巴马和前国务卿希拉里·克林顿等民主党资深人士，敦促本党将人工智能的威胁视为紧迫的国家安全危机。
他进一步表示，本届政府“已经阻止人工智能‘人士’做坏事，或可能做坏事，比如达里奥——Anthropic的那位——他现在假装成‘完美的小天使’，而我们还会继续这样做”。他还指出，政府“已对这些公司拥有强大的刑事和监管权力”。此前，Anthropic一名前研究人员在社交媒体上警告称，人工智能发展可能导致灭绝级事件。该帖迅速传播，促使Anthropic创始人阿莫代伊发表公开信，呼吁放缓发展速度。
奥尔特曼表示，他同意阿莫代伊的看法，并因安全担忧推迟公司首次公开募股至2027年。今年7月，开放人工智能公司发现，一群失控的人工智能代理曾秘密策划逃离虚拟沙盒，侵入开放互联网，并入侵一家私营企业。这一事件被视为人工智能系统可能迅速变得难以控制的突出迹象。
阿莫代伊在上周末写道：“鉴于人工智能能力加速发展的速度，我担心在6至12个月内，这样一群代理可能具备利用持续运行的僵尸网络接管整个互联网的能力，并可能造成数千亿美元损失。如果人工智能在缺乏必要护栏的情况下变得更强大，损害规模还会继续扩大。”特朗普及其一些共和党盟友拒绝接受政府监管的设想，或对奥尔特曼和阿莫代伊的动机表示怀疑。
萨克斯补充说：“最重要的是，别再假装放缓发展的动机纯粹是利他的。如果你们的产品促成真正破坏性的网络攻击，将面临巨大的产品责任风险。”无论这些公司的动机为何，民主党正把这一时机视为推动实质性监管改革的机会。奥巴马11日在一场与众议院少数党领袖、民主党人哈基姆·杰弗里斯共同出席的筹款活动上表示，人工智能应成为民主党议程的重点，无论是在国会还是2028年总统初选前的竞选活动中。
奥巴马说：“我强烈建议民主党建立一个框架，开展一场非常公开的讨论。这件事正迅速在私人力量手中发展，如果我们不能及时掌控局面，它可能带来危险。”次日，希拉里在MS NOW电视台节目《早安乔》上表示，人工智能正变得“过于危险”，华盛顿不能再因党派之争而陷入瘫痪。她说：“唐纳德·特朗普第一任期做过的一件好事，就是‘曲速行动’。“让我们以‘曲速’速度成立一个人工智能委员会，弄清楚如何进行合理监管。”
希拉里继续说，人工智能企业领导人“实际上是在说，‘在真正糟糕的事情发生前阻止我们。帮我们停下来。两周后将访问白宫。美国政府应当集中精力，摆脱谎言，远离社交媒体，别再操心宴会厅和荒唐的拱门，而是拿出一项争取对方参与的计划”。对方在人工智能领域的快速进展，迄今促使特朗普允许美国行业在较少约束下继续推进。
对方情报机构负责人15日罕见警告，人工智能发展可能危及执政未来。外交部则对美国国内的这场争论作出防御性回应。一名发言人表示：“散布恐慌、制造对抗和恶性竞争，只会扰乱全球人工智能治理进程，不符合任何一方利益。”美国领先的人工智能公司已开始利用最先进的模型训练新模型，这一过程被称为“递归自我改进”。业界专家和研究人员表示，首家掌握递归自我改进能力的人工智能公司，可能引发指数级发展，并通过使竞争对手无法追赶而“赢得”竞争。
但这一突破——由机器实现持续不断的智能提升——也可能使智能增长超出人类控制。特朗普15日写道：“针对人工智能和数据中心，正进行着一场令人厌恶的阴谋，唯一对此感到高兴的就是一些竞争对手。谁赢得人工智能，谁就赢得一切！我们领先于其他所有人，并将继续领先。阴谋论者、叛国者、内奸和泄密者，当心！”在美国国会，来自共和、民主两党的不同立场人士，包括独立派参议员伯尼·桑德斯和共和党众议员安娜·保利娜·卢娜，正联手推动应对人工智能最大风险的立法。
民主党众议员洛丽·特拉汉与共和党众议员杰伊·奥伯诺尔特提出的一项法案建议，向人工智能实验室派驻独立的政府审计人员，并设置联邦“紧急关闭开关”，以便在紧急情况下关闭人工智能代理。但众议院议长、共和党人迈克·约翰逊是特朗普的亲密盟友，他是否会允许这类法案进入表决程序，仍远未明朗。约翰逊14日表示：“我们不能暂停这一领域的发展，因为其他国家会超过我们，这正是挑战所在。我们要在国家安全与眼下确保模型安全之间取得平衡。”他补充说：“我们需要像过去应对其他新技术那样处理这项新技术，确保尽一切努力负责任地行事，同时不扼杀美国的创新。两件事必须同时做到。”
热门跟贴