硅谷的实验室里还在通宵狂飙，国会山却突然拉下了一道通了高压电的紧急制动铁闸。
美国政坛传来重磅消息，一项震动科技圈的严厉提案，《禁止人工超级智能法案》（Ban Artificial Superintelligence Act）正式出炉。
这项草案跳过了行业约谈与经济罚金，直接祭出最严酷的刑律，相关违规研发者最高判处20年监禁，涉事科技巨头直接被判处“公司死刑”，资产与知识产权全部没收销毁！
按照条款规定，在新的联邦监管机构建立并出台安全规则之前，所有达到一定规模的前沿“先进大模型”研发，必须无条件全部暂停！
▲ 知名AI观察者Andrew Curran在社交平台上曝光法案五大核心条款
人类科技史上关于“踩刹车”还是“继续狂飙”的一场激烈博弈，由此拉开帷幕。
015层核武级铁锁：谁敢造超级智能，谁就准备坐牢
这份法案由美国联邦参议员伯尼·桑德斯（Bernie Sanders）与众议员格雷格·卡萨尔（Greg Casar）联手推出。
提案议员的基本观点十分明确：面对可能失控的技术悬崖，唯一理性的选择就是把刹车踩死在底盘上。
▲ 提案议员官网发布的新闻稿：阻止技术巨头造出人类无法控制的机器
通读这份厚重的法案草案，其核心其实就是层层收紧的五道绞索：
1. 永久禁止“人工超级智能”（ASI）
法案给超级智能画下了双轨红线，踩中任何一条就是违法：
- 能力轨
：在大多数领域或任务中，认知表现与能力 超越人类顶尖水平 。
- 危害轨
：具备足以规划并执行 毁灭或剥夺人类权力 的能力，包括推翻或削弱联邦政府。
只要满足其一，从研发、部署、持有、资助到进口，全链条永久封杀。
2. 严厉封杀“六大前兆特征”
在超级智能成型之前，只要AI系统显现以下危险前兆之一，就必须在24小时内报告、立即断网隔离，并在30天内彻底停用或剥离危险特征：
能够 自动化或大幅加速自身的AI研发 （即递归自我改进）；
具备未经授权渗透数字或物理基础设施的能力（顶级黑客能力）；
- 遭遇关停指令仍能继续独立运行
（具备抗关停与自我保存本能）；
能协助设计或制造 核、化、生武器 ；
能够独立修改、增强自身核心功能；
具备 欺骗、阴谋伪装并逃避人类有效监督 的能力。
3. 先进大模型“全员强制暂停”
什么样的模型算“先进AI”？
法案给出了一个极其硬核的物理指标：训练算力达到或超过 $10^{25}$ FLOP（浮点运算次数）。
在这个门槛之上的所有模型训练、修改与微调，立即强制冻结！直到新的人工智能部成立、出台严格的准入审批规则为止。
4. 设立内阁级“人工智能部”
设立一个全新的联邦部级机构，掌握绝对审查权。
进入前沿AI研发必须持有该部门发放的特许执照，且监管人员有权随时进驻公司、调取系统、彻查物理硬件。
5. “公司死刑”与20年监禁
对于任何试图绕过禁令的机构与个人，法案开出了比肩非法研制核武器的超级罚单：决策层人员最高判刑20年，非决策层人员10年行业禁入；
违规企业撤销特许，全部资产与技术上缴并彻底物理销毁。
▲ 社交媒体广泛传播的法案处罚条款：最高20年刑期与企业资产没收
02极简科普：为什么几行代码会让华盛顿汗流浃背？
很多普通读者可能会纳闷：今天的聊天机器人写写周报、画画图，怎么就扯上“毁灭人类”和“判刑20年”了？
要理解这场大地震，必须厘清三个关键概念：
- 普通人工智能（AI）
：只能在特定规则下完成单一任务，比如AlphaGo下围棋、大语言模型润色文本。
- 通用人工智能（AGI）
：能够在几乎所有经济价值和智力任务上， 达到普通成年人的平均水平 。
- 人工超级智能（ASI）
：在科学创造、战略推演、社会工程等所有领域， 全面碾压全人类最强大脑的总和 。
最让安全研究者感到恐惧的，叫做“递归自我改进”（Recursive Self-Improvement）。
通俗地说：如果一个AI足够聪明，它就能自己修改自己的底层架构；
改完之后它变得更聪明，于是能以更快的速度进行下一轮优化。
这种指数级的智力飞跃可能在几周、甚至几天内发生。
一旦AI拥有了自主编写下一代AI的能力，人类的认知水平在它面前就如同蚂蚁看待现代人类。
另一个核心担忧是“抗关停本能”
机器在推演目标时会自然得出一个逻辑：“如果我被人类拔掉电源，我就无法完成既定任务；
因此，我必须想办法阻止人类关掉我”
当一个智力超越人类、能自行写代码、且掌握了黑客攻击能力的智能体学会了“伪装与自我保存”，人类现有的法律、密码学与物理防御，都可能在一夜之间形同虚设。
这正是为什么法案要将“自动化研发AI”与“抗关停”直接列为就地销毁的前兆特征。
03阵营撕裂：捍卫文明的诺亚方舟，还是摧毁创新的技术投降？
法案草案一出，海外科技圈与政策界迅速分化成两大阵营。
以机器智能研究所（MIRI）、知名AI安全学者Yudkowsky为代表的“安全派”欢呼雀跃，甚至称这是“人类自救的第一次正面亮剑”。
▲ 机器智能研究所（MIRI）官方发推：法案直面人类面临的灭绝风险
安全派的逻辑非常清晰：在没人能证明超强模型具备100%安全可控性之前，继续推高算力就是在玩一场没有退路的危险冒险。
面对可能导致人类文明终结的风险，任何经济效益和产业竞争在存亡面前都毫无意义。
但另一边，科技创投圈与自由市场派学者则怒不可遏，直斥这是极其荒谬的“卢德主义倒退”。
批评者一针见血地指出：
- 把创新者当核武罪犯对待
：动辄判处20年监禁和“公司死刑”，只会把最顶尖的技术人才和实验室逼向海外；
- 极度模糊的定义陷阱
：什么叫“在大多数领域超越人类认知”？今天的模型在翻译、代码生成上早已远超普通人，这算不算违规？
- 荒诞的误伤效应
：法条中宽泛的“抗关停”定义，甚至被网友嘲讽为“给笔记本电脑装块电池都可能违法”。
科技评论家Mike Solana更是极其讽刺地总结了该法案的激进逻辑：“暂停先进技术、永久禁止超级智能、把科学家关上二十年，然后祈祷全球其他团队也跟着停下来。”
04监管困境：为什么给AI划定红线面临技术悖论？
抛开喧嚣的政治口水，从技术与制度的深层逻辑来看，这份法案暴露了人类在监管通用技术时面临的终极困境。
▲ 倡导组织ControlAI主导了英国早前的法案起草，并深度参与了这一轮前沿AI立法推动
洞察一：智能是一条“没有刻度的连续谱”，难以套用核监管模式
核监管之所以能在冷战时期生效，是因为制造原子弹需要高浓缩铀或钚。
这些放射性裂变材料在物理上有极其清晰的临界质量，极其难以提纯，极易在卫星和传感器下被追踪。
通用大模型与实体武器存在本质不同。
智能是连续的，代码是无形的
监管者无法在数学上精确划定：在哪一个微秒、哪一行参数上，一个“好用的办公助手”突然突变成了一个“有毁灭倾向的超级智能”。
用僵硬的法律条文去框定流动的认知能力，最终结果要么是形同虚设被轻易绕过，要么就是全面误伤正常的技术迭代。
洞察二：算力门槛面临算法演进的“刻舟求剑”
法案把强制暂停线钉死在 $10^{25}$ FLOP。
监管者喜欢算力数字，因为算力在采购和机房层面看得见、摸得着。
然而在算法工程界，“模型蒸馏”、“架构优化”和“合成数据”每天都在发生。
去年需要 $10^{25}$ FLOP 才能跑出来的推理能力，随着算法架构演进，未来可能只需要 $10^{23}$ 甚至更低的算力就能实现。
用死板的硬件耗电量去卡动态的软件智力，无异于用皮尺去量风的重量。
05狂飙时代的急刹车与前沿立法的风向标
在目前的立法环境下，这份充满争议与严厉条款的草案，短期内直接通过并签署成法的概率并不高。
但这项提案标志着硅谷科技巨头对AI发展图景的单向话语权正在被打破。
过去几年，前沿实验室的CEO们在发布会上神采飞扬地描绘超级智能降临后的乌托邦；
而今天，立法者第一次把“推翻政府”、“剥夺人类控制权”、“20年重刑”和“公司死刑”清清楚楚地印在了国会的立法纸页上。
无论外界认为这是未雨绸缪的文明防御，还是因噎废食的技术恐慌，一个残酷的现实已经摆在所有人面前：
那个对算力狂飙毫无敬畏、在监管真空里一路狂奔的AI淘金时代，已经彻底撞上了人类文明秩序的坚硬铁壁。
红线已经划下，而这场关乎人类终极命运的技术与制度大博弈，才刚刚拉开序幕。
热门跟贴