当科技公司开始亲自为监管自己的法律起草条文，这本身就是一个耐人寻味的信号。
美国媒体获得的一份保密法案草案显示，AI公司Anthropic希望美国国会限制联邦政府叫停先进AI模型的权力。根据草案，政府干预将与特定的灾难性威胁挂钩，而且任何暂停措施都必须获得法官批准。
这份草案一经曝光，便在华盛顿的AI政策圈引发热议。
作为前沿AI公司之一，Anthropic长期以重视安全著称。但这份草案也让外界看到，它同样希望为政府干预设定清晰的边界。
叫停门槛：10亿美元或50人伤亡
草案为政府干预设定了相当明确的门槛。只有在面临可预见、迫在眉睫的威胁时，联邦当局才能寻求叫停某个模型。
这种风险必须可能造成超过10亿美元的损失，或导致50人以上死亡或重伤。
草案涵盖的威胁只有三类：制造或释放生物武器、模型脱离开发者控制，以及网络攻击。其他类型的危害，不在这一框架之内。
这三类威胁，也是业界和监管机构普遍认为最可能造成大规模灾难的AI风险方向。Anthropic发言人表示，这些都是国会应当采取行动的合理政策。
这份草案目前仍处于保密阶段，具体条款在正式提交国会前仍可能调整。
据悉，这份草案体现了Anthropic自6月以来向联邦和州立法者推介的“先进AI框架”。
第三方评估与法院“把关”
草案还设计了一套独立评估机制。评估机构需要在美国商务部登记，并定期对前沿AI开发者及其模型进行评估。
这些评估机构可以由被检查的公司付费，但报酬不得与评估结论挂钩。
这种模式与金融审计有相似之处：公司付费请审计机构检查自己，但审计结论必须保持独立。一旦发现迫在眉睫的威胁，评估机构必须在完成审查后72小时内通知商务部。
关键在于，商务部无权自行叫停模型。
它必须向位于哥伦比亚特区的联邦地区法院申请命令。其他联邦部门和官员，则被禁止暂停模型的开发、部署或内部使用。
这相当于给政府的“急刹车”加了一把法院的“安全锁”。
支持者认为，司法审查可以防止行政权力被滥用。反对者则担心，法院程序可能拖慢紧急情况下的处置速度。
此外，草案还要求前沿开发者建立安全框架、发布新模型透明度报告、保护举报人，并向商务部报告重大事故。
背后的博弈与争议
这份草案的出台，有着现实背景。据报道，今年夏天美国出口管制措施曾让Anthropic的两款先进模型一度暂停对外提供，这引发了业界对政府限制强大AI系统的担忧。
草案还将优先于部分州级法规，涉及公开风险披露、独立评估和重大事故报告等要求。
这可能再度点燃一场长期争论：AI监管究竟应该由联邦统一标准，还是允许各州实施更严格的保护？近年来，美国多个州已经出台或酝酿自己的AI安全法规，联邦与州之间的立法权限之争一直悬而未决。
国会中也存在多个相互竞争的方案。
这些方案在干预门槛、监管机构权限以及州法地位等问题上，存在明显分歧。
众议员洛丽·特拉汉和杰伊·奥伯诺尔特推动了“前沿法案”，授权政府干预高风险模型，并凌驾于部分州法之上。
参议院多数党领袖约翰·图恩则与参议员艾米·克洛布彻、特德·克鲁兹合作，推进针对AI灾难性风险的立法。
一些安全倡导者和参议员玛丽亚·坎特韦尔希望建立更严格的联邦审查程序。另一端，众议员格雷格·卡萨尔和参议员伯尼·桑德斯则呼吁暂停先进AI开发、禁止超级智能。
支持者认为，明确的门槛和司法审查，可以防止政府随意干预技术创新，给企业带来可预期的规则。
批评者则担心，由企业主导起草的规则，可能让监管门槛过高，在风险真正降临时难以及时出手。
如何既不扼杀创新，又能在真正的危机面前迅速反应，是任何AI监管方案都必须回答的核心问题。
在AI能力飞速提升的今天，如何在创新与安全之间划出那条线，已经成为华盛顿最棘手的政策难题之一。
在这场讨论中，企业、立法者和公众的立场差异明显。任何方案，都难以让所有人满意。
这份草案最终能否成为法律，还有待国会的漫长博弈。
热门跟贴