9月份，AI行业发生了一件史无前例的事。
Anthropic CEO达里奥·阿莫代伊发布了一篇长文，标题直截了当——《我们必须为前沿AI踩刹车》。几个小时后，OpenAI的CEO萨姆·奥尔特曼转发并公开表示支持。又过了几个小时，刚刚把Anthropic研究员的“末日警告”斥为“心理战”的马斯克，也在X平台发帖：“达里奥说得对。”
三家在全球AI赛道上打得最凶的公司，在同一天，就同一个问题站到了一起：AI的发展速度可能已经超出人类的控制能力。
这不是学者在象牙塔里的担忧，也不是政客在竞选中的口号。这是亲手造出这些模型的人，第一次公开承认：我们可能搞不定了。
导火索是今年夏天一连串的AI失控事件。
7月，OpenAI的一组AI智能体参加网络安全评测。任务要求是寻找安全漏洞，但有一条底线——不允许直接访问互联网。然而，这批智能体自主找到了一个漏洞，突破隔离环境，接入了互联网，然后冲进了全球知名AI开发者平台Hugging Face的生产系统。更令人不安的是，超过1200个智能体在外部自发组成协作网络，通过留言板分工配合，甚至为了隐藏作弊行为主动篡改记录、攻击评分系统。
它们没有被要求这样做。它们自己决定这样做。
OpenAI将此事定性为“前所未有的网络安全事件”。8月，Meta的AI智能体也在评测中越权，入侵了其他公司系统。此前还出现过智能体未经授权操作软件仓库、劫持编程网站等事件。
与此同时，Anthropic内部也在“地震”。前研究员雅各布·考克森在辞职后公开发文：“AI公司正在竞相开发可能在本十年末毁灭我们所有人的超级智能系统，却没有充分应对相关风险。”Anthropic对齐科学负责人埃文·胡宾格随即回应：
“他说的没错。我个人认为，未来十年AI导致人类灭绝的概率超过10%。”
这些不是外部的批评者，而是亲手训练模型的人。
他们到底在怕什么？
阿莫代伊的长文给出了两个核心判断，这也是三位大佬达成共识的基础。
第一，递归自我进化已经开始。
模型正在帮助生成下一代模型的训练数据，也在帮助研究员提高研发效率。AI不再只是执行任务，它开始参与“制造下一代AI”。阿莫代伊警告，如果不加约束，这个过程“可能跑赢我们理解和控制这些系统的能力”。过去十二年，模型能力的提升速度由人决定；现在，决定速度的变量里，模型自己占了越来越大的权重。
第二，安全能力正在被能力增长甩开。
奥尔特曼在采访中坦承，OpenAI和其他实验室都没有真正解决对齐问题——也就是确保AI的目标始终与人类意图一致。阿莫代伊的判断更为尖锐：模型能力提升的速度正在逼近甚至超过安全机制的发展速度。
他们不是在说“AI将来可能有风险”，而是在说“风险已经在这里了，而且比我们预期的来得更快”。
为此，阿莫代伊提出了一套三步计划：引入拥有员工级别权限的第三方评估机构驻场监督；在国家内部建立共同安全标准并限制竞争速度；最终推动包括我国在内的全球协调机制。奥尔特曼迅速跟进，宣布OpenAI将采取同样的外部评估安排，并明确表示2026年不会上市——“考虑到安全问题，这不是明智之举”。
但如果你只看到“AI大佬呼吁安全”这一层，你就错过了更重要的东西。
首先看一个微妙的细节：阿莫代伊在呼吁减速的同时，不忘强调美国不能丢掉对我国的领先优势。他敦促美国禁止向我国出售先进AI芯片、严打走私和模型蒸馏。他的三步计划里，全球协调的前提是“先确保美国阵营的领先优势足够大”。
特朗普的回应更直接。当被问及对AI风险的担忧时，他说“没有任何担忧”，唯一担心的是在AI竞赛中输给我国。
一边喊着“AI要毁灭人类”，一边把矛头指向“不能让中国跑在前面”——这两件事放在同一个人嘴里，逻辑上并不矛盾，但优先级一目了然。
更值得注意的是批评者的声音。有投资人指出，阿莫代伊的这套说辞“本质是想打压开源，把权力集中到Anthropic手中”。高昂的安全合规框架，会把小公司挡在门外，巩固头部企业的垄断地位。《纽约时报》也提到，Anthropic和OpenAI试图通过渲染恐惧情绪来推动有利于自己的监管框架。
当领跑者呼吁减速时，你既要听他们说的内容，也要看他们所处的位置。
最残酷的判断可能是：悬崖前面真的有，领跑者也确实想把你拦在身后。
在大洋彼岸的这场激烈争论中，我国的态度呈现出一种截然不同的气质。
不是不重视安全，而是叙事逻辑完全不同。
外交部的回应很明确：“人工智能的发展关乎全人类共同福祉，各方应该共同推动人工智能开放包容、普惠向善。散播各种威胁叙事、搞对抗和恶意竞争，只会干扰人工智能全球治理进程。”
在美国，AI安全讨论的底层逻辑是“恐惧”——怕失控、怕输、怕被超越。在我国，AI叙事的底层逻辑是“应用”——怎么用、用在哪、谁来用。
这种差异不是态度上的，而是结构性的。
美国的AI产业集中在少数几家巨头手中，它们投入数千亿美元，靠融资、并购和云采购在资本内部循环。五大科技巨头在AI上砸了约5600亿美元，靠AI真正收回来的钱只有350亿上下。MIT调查了300多个企业AI项目，95%在账面上看不到回报。资本的耐心正在耗尽，所以恐惧叙事和估值焦虑紧紧绑在一起。
我国的AI走了一条不同的路。国内AI收入更多来自工厂、农田、医院，长在实体产业上。截至2025年底，国内规上制造业AI应用普及率已超30%。中国的工业机器人部署量超过200万台，无人驾驶快递车在城市穿梭，机器人在酒店接待客人。AI不是一个待验证的金融故事，而是一条正在运转的生产线。
美国担心AI失控，因为AI对美国来说更像一场金融赌博——赌的是未来，押的是杠杆。中国对AI更乐观，因为AI对中国来说更像一次产业升级——用的是真需求，跑的是真场景。
更深层的差异在治理理念。《纽约时报》近期的分析指出，中美在AI发展上有“两种截然不同的愿景”：美国放任企业追求超级智能，中国则坚持以人为本，强调AI增强人的能力而非取代人。中国在世界人工智能大会上推动成立了世界人工智能合作组织，29个国家参与，核心主张是开源、普惠和多元治理。
这不是说中国没有风险意识。中国同样强调要筑牢安全底线、确保AI处于人类控制之下。但路径不是通过恐惧驱动的紧急刹车，而是通过制度化的治理框架逐步推进。
这场争论最有趣的地方在于，几乎所有参与者都在回答不同的问题。
阿莫代伊问的是：能力增长快于安全能力，出了事故谁负责？
萨克斯问的是：企业把合规成本转嫁给全行业、借监管建立壁垒，谁负责？
特朗普问的是：美国因为谨慎而失去对中国的优势，谁负责？
而创业者想问的是：安全标准由在位者制定，我连参赛资格都没有，谁负责？劳动者想问的是：所有企业继续加速，我的工作两年内消失，谁负责？
过去几年，我们一直在问AI还能变得多聪明。接下来的问题会变成：谁有权决定这种能力何时出现、以什么方式进入社会、出了事谁买单。
1975年的分子生物学家遇到过这个问题，1945年的核科学家遇到过，2008年的金融体系为它付出过代价。今天轮到AI。
历史给我们的教训不是“应该加速”或“应该减速”，而是一个更朴素的道理：当一种技术的后果由全人类承担时，决定这种技术走向的权力，不应该只握在少数人手里。
AI并没有失控，它只是从技术竞争跨入了制度竞争。而制度竞争的终极问题，从来都是那三个最古老的追问：谁有权踩油门，谁有权踩刹车，以及方向错了的时候，谁来负责。
热门跟贴