Anthropic，Dario Amodei，与「最后一家私营公司」|amodei|anthropic|dario|私营公司|科学|翻译

文｜Sleepy

关于 Anthropic 的创始人 Dario Amodei，流传着两种说法，互相矛盾，又都说得通。

一种说法是，他是这个时代最清醒的守夜人。全世界都在往超级智能的悬崖上踩油门，只有他肯站在路边，一遍一遍喊，前面是深渊。

另一种说法是，他是硅谷野心最大的人之一。他领着全世界最强的 AI 公司，日夜赶工，把所有人警告过的那个未来，一点一点，亲手造出来。

一个人，真的可以同时把这两件事都干了。

他给那个设想中的那个世界取了个名字，「数据中心里的天才之国」。那个国度里有五千万个天才，不睡觉，一天工作二十四小时，思考的速度是普通人的几十倍，还能复制出无数个和自己一样的天才。这个国家没有土地，没有边界，它处在一排一排的数据中心里。

2026 年 1 月，他把这个想象写进一篇长文，题目叫《技术的青春期》。

然后他又往前推演了一步。要是有一天，这五千万名天才不听人类的话了，会怎么样？

再往后的画面就危险起来了。生物武器、大规模失业、独裁、战争，他一样一样往下数。数到最后，说，留给我们的时间不多了。

可在同一篇文章里，他还写着：「AI 已经在替 Anthropic 写大量代码，帮着把下一代模型更快地做出来。」

一边警告，一边加速。他不觉得这中间有什么矛盾。

这就是全部问题的起点，不是他坏，是他真的不觉得。

当然，他有他的解释。Anthropic 停下来，OpenAI 不停，Google 不停，别的国家的公司也不会停。没有谁肯第一个松手，最先停下的那一个，多半什么也拦不住，只是把果子让给别人。

这套说辞翻译过来就是，既然大家都在抢，那就让「我」来抢第一。既然谁也停不下来，那就让「我」来决定什么时候停。

这样一来，超级智能该不该造，反倒不那么要紧了。照他的判断，它迟早会被造出来。真正要紧的，是谁先把它造出来，以及到了那一天，谁有资格握住方向盘。

来不及

Dario Amodei 1983 年出生在旧金山，1983 年。父亲是意大利托斯卡纳人，一辈子做皮具生意；母亲是芝加哥的犹太裔，旧金山公共图书馆的规划和建设，她出过一份力。

他从小就喜欢数学和物理。1990 年代末，湾区互联网泡沫，公司一家接一家往外冒，年轻人写网站、找投资，盘算上市那天能套现多少钱。这些故事没能打动他。很多年后他说，自己当时要找的是「基础科学真理」，他只想弄明白，世界为什么会长成这个样子。

他对所谓「重要问题」，很早就有一份近乎固执的认真。只要认准一件事足够重要，他就想不通，人怎么还能若无其事地慢下来。

2003 年，美国要打伊拉克，他在加州理工学院读书。校园里反战的人不少。聊天时，有人说着忧心忡忡的话；第二天，大家照旧上课。他在学生报上写了篇文章批评同学，说要是真怕一场战争会害死很多人，反对就不该只停在嘴边，等它真的发生，再后悔就晚了。

在他看来，犹豫从来不是中立。等待，本身就是一种选择。

这个二十岁的年轻人，最不能忍受的，就是等。

三年后，他二十三岁，父亲死于丙型肝炎。

当时的丙肝几乎无药可治。标准疗法是打一整年的干扰素，但是会导致发烧、脱发、抑郁，治愈率还不到一半。

2013 年 12 月，一种新药获批。疗程缩到十二周，治愈率百分之九十五。

他父亲没有等到。

只差七年。

此后他的人生，几乎可以用一句话概括：

一个没有救下父亲的儿子，此后二十年，都在催着科学快一点，再快一点。

父亲去世以后，他从理论物理转向生物物理，在普林斯顿研究视网膜的神经回路。当时的仪器一次只能记下很少的神经信号，他嫌慢，就参与去造新的传感器。

再后来，他进斯坦福医学院，研究癌症和蛋白质。离病越近，人就越显得小。一种病牵扯几百个基因、成千上万种蛋白质，还有数不清的通路彼此勾连。研究者耗尽许多年，或许能把其中一环看明白，却仍不知道，把它放回整个身体以后，会发生什么。

后来他形容，那种复杂让他几乎绝望。

AI 就是在这个时候进了他的视野，那是一样能把人的尺度撑大的工具。机器能同时读许多论文，处理许多数据，试许多种可能，替代原本要几百名、几千名研究人员一起完成的认知劳动。

他从「人太渺小」出发，抵达的结论是造一个更大的东西，把人再压缩一次。

2014 年，他离开生命科学，进了百度在硅谷的人工智能团队。团队很快发现，模型大一点，数据多一点，算力再往上加一点，效果就还会再往上走。几年以后，这套经验被总结成「规模定律」，你未必知道下一代模型会突然学会什么，却可以大致断定，它一定比上一代更强。

智能头一次显得可以像工业品一样被生产出来。强大的 AI，也就成了一件早晚会诞生的东西。

剩下的差别，只是多少数据，多少芯片，多少电力，以及还要等多久。

那个最恨等待的人，亲手证明了，通往他想要的答案的路，是存在的。

方向盘

2016 年，Dario Amodei 进了 OpenAI。

此后几年，语言模型迅速长大。到 GPT-3，OpenAI 把公司一半以上的算力交给 Dario，由他把模型规模放大一百倍。结果比许多人预期的还要惊人，它可以写文章、翻译、总结，还有一些没人教过它、自己学会的本事。

规模长一分，能力长一分。

他确信这条路通往通用智能。而一旦接受模型最终可能和人一样聪明，安全就再也没法被当成鸡毛蒜皮。

然后他发现了问题。Dario 负责把模型造出来，却慢慢发现，造模型，和决定模型往哪儿去，压根是两码事。模型什么时候发布，开放到什么程度，跟哪些公司合作，谁有决策权，这些事并不因为他负责训练就自动归他管。

OpenAI 内部分成两拨人。一拨要快点把技术推向世界；另一拨担心，公司由谁领导、按什么原则行事，也许比某一项技术细节更要紧。

那究竟什么样的人，有资格领导一家制造强大智能的公司？

他的答案是，领导者必须诚实，动机必须真诚，也必须真心希望世界变好。

技术安全，慢慢变成了对人的判断。这条推导很危险，也很顺理成章。危险就危险在，它把一切复杂问题，最后都化简成这个人可不可信。而在这个推导里，永远缺席的一环，是谁来判断这个人可不可信。

到 2020 年，他与 OpenAI 领导层之间的矛盾已经很难再调和。那一年 12 月，他带着妹妹 Daniela、Jack Clark、Chris Olah 和几名同事，离开了 OpenAI。因为 Dario 喜欢熊猫，这个小圈子在内部被叫作「熊猫派」。

几个月以后，他们创办了 Anthropic。Anthropic，词典里的意思是「与人有关的」。

这一回，Dario 不打算再把方向盘交给别人。

二十个人

2021 年，旧金山的疫情还没结束。

Anthropic 刚成立没多久，只有十五到二十个人。多数时候，大家隔着 Zoom 开会；每周再挑一天，各自带把椅子，到公园里碰头。一边吃午饭，一边聊模型、算力、安全研究，也聊这家公司到底该长成什么样子。

不到二十个人，坐在旧金山的草地上，手里兴许还捧着半盒没吃完的沙拉，操心的却是八十亿人的往后。

规模定律告诉他们，未来一定会来。既然一定要来，总得有人提前把路备好。「总得有人」这四个字，就是全部的合法性论证。

Anthropic 给自己定下的目标，是一边造最前沿的模型，一边研究怎么理解和控制它，再把这一套安全方法，变成别家公司的标准。

Dario 在 OpenAI 吃过一回亏。他明白，只站在技术的外围谈安全，到头来多半只能给真正握着模型的人提提建议。话说得再好听，也不过是站在岸上，教水里的人怎么游泳。

得自己下水。

这让 Anthropic 从成立第一天起，就显得很拧巴。想知道最强模型有什么危险，就得先拥有最强模型；想影响监管，就得先在行业里有分量。

于是，Anthropic 很快卷进了所有前沿大模型公司都躲不开的那个循环，融资、买算力、训练模型、发布产品、抢客户，再用新的收入和估值换更多的算力。

Dario 说，把公司做大，是在保护世界。投资人也愿意相信，押注 Anthropic，是在投一家更负责任的 AI 公司。

这套说法的精妙之处在于，他越赚钱，就显得越道德；公司估值越高，他「保护世界」的证据就越足。

商业利益和文明使命互相抬轿子。

方向，由 Dario 来给。他写长文，谈文明、民主、科学和人类的未来。把这些宏大判断落地的，是妹妹 Daniela，管招人、搭团队、找钱。

公司的起点，是一个几乎没法证伪的宏大判断：

强大 AI 就要来了，而世界需要一家更值得信任的公司，站到最前面去。

「更值得信任」，是公司自己说的。

这样的叙事给了 Anthropic 很强的凝聚力。加入的人，并不是只在找一份薪水更高的差事。他们相信，自己干的是关系到人类文明的大事。

一家公司最可怕的状态，就是员工真的相信自己在拯救人类。因为从那一刻起，所有商业上的扩张，都自动变成了圣战；所有反对的声音，都自动变成了对人类的背叛。

创业头几年，Anthropic 想证明，一家 AI 公司可以比别人更谨慎，也更负责任。这个愿望大概是真诚的。

但真诚从来不保证正确。真诚的人做错事，往往比虚伪的人更麻烦，因为他们从不停下来问自己：

负责任，究竟是什么意思？

一家私人公司，凭什么替全世界做决定？

尺子

早期的大模型训练，通常得靠大量人类标注员去评判回答。什么样的答案更好，什么样的内容有害，模型该不该拒绝，都得先由人做出判断，再把这些偏好喂回给机器。

这个方法有效但笨重。标注员来自不同地方，价值观也不同。规则写得再细，也覆盖不住所有情况。

Anthropic 想出了另一个办法，与其让人类一遍遍告诉模型每一道题怎么答，不如先交给它一套原则。2022 年，Anthropic 提出「宪法式 AI」。做法大致是，先让模型生成回答，再让它照着一套成文原则挑自己答案的毛病，找出问题，再重新改过。

这套「宪法」越写越长。它要懂得权力，懂得利益冲突，懂得什么叫成熟，什么叫智慧。它甚至得想想自己的身份、处境和福祉，别把自己简单当成一件没有内在价值的工具。

它在塑造的，是一种人格。

Anthropic 在宪法里写，这份文件直接塑造 Claude 的行为，代表公司对 Claude 价值观和性格的设想，也是理解 Claude 该如何行动的「最终权威」。历史上管这种事的人，有教会，有皇帝，有政党。现在是一家私人公司。

可当一个大模型对世界的影响不再是一次消费那么简单。Claude 拒绝什么、鼓励什么，怎样描述一个国家、一场战争或一种政治制度，都会影响下游的产品，成为别人理解世界的一部分。

Anthropic 还是在用一家公司的方式做决定，可这决定带来的影响，越来越像一套公共制度，却不用承担公共制度的任何审查。

给模型写完宪法，Anthropic 又开始给行业设计交通规则。2023 年，公司推出「负责任扩展政策」。一个只会写邮件的模型，和一个能设计生物武器、发动复杂网络攻击的模型，显然不能用同一套办法管。于是 Anthropic 给模型划出不同的风险等级。能力越强，可能闯的祸越大，公司就得上越严的安全措施。

一家私人公司，就此同时演了好几个角色。它造模型；模型造出来，由它来测这模型有多危险；什么算危险，由它定标准；危险到哪一步该被叫停，也由它划界线；最后，它再揣着这套结果，去告诉监管者该怎样立规矩。

又当运动员，又当裁判。

Anthropic 显然也想到了这一层。为了不让公司最后被商业利益整个吞掉，Anthropic 又设计了长期利益信托。这个信托，由一些不直接持有公司经济利益的外部成员组成，为的是让 Anthropic 在股东回报之外，也顾念人类的长期利益。照最初的设计，信托会一步步拿到任免多数董事的权力，等公司偏离使命时踩下刹车。

从公司治理的角度看，这样的安排相当少见。多数创业公司融资时，都在忙着向投资人证明自己会高速增长。Anthropic 却反着来，搭了一套结构，防着未来的投资人和管理层为了赚钱，把安全的承诺扔到一边。

不能说这些是摆样子。Anthropic 确实比绝大多数科技公司更认真地在想权力这件事，也肯给自己找麻烦。但它自始至终认真思考的全都是怎样把这份权力用得更好，而不是要不要这份权力。

一个从出生起就自带使命的公司，是永远不会问「我凭什么存在」的。它只会问「我怎样才能更好地存在」。

它没有回答「谁给你的权力」，它只是在宣讲，权力既然已经在手里，自己打算怎样当一个好人。

到这一步，Dario 已经不只是在经营一家公司。他的安全观正在渗进模型的性格，渗进公共政策。接下来他开始谈论，哪个国家该先拿到强大智能，什么样的政治制度值得被护住，全世界获得智能的顺序，又该由谁来定。

美国先得到未来

2024 年，Dario Amodei 写下《Machines of Loving Grace》。

这个名字取自一首诗。1967 年，诗人 Richard Brautigan 在加州理工学院写下《All Watched Over by Machines of Loving Grace》：

一首讲机器与万物和解的诗。他借走标题，写出人类历史上最乐观的技术预言之一。

强大 AI 会变成一支由无数顶尖科学家组成的研究团队，昼夜不停地读论文、设计实验，把几十年的科学进步压进短短几年。癌症、传染病、遗传疾病，可能被大规模攻克。人类或许真能搞懂抑郁、焦虑和成瘾是怎么发生的。寿命能延长，贫困国家能跳过工业化。

他给出一个极大胆的判断，如果强大 AI 发展顺利，未来 50 到 100 年的生物医学进步，可能在 5 到 10 年内完成。

很难不想起他的父亲。

他的儿子等了七年，等到一种新药获批，可以救别人，却已经救不了他。他希望往后的人不必再等。

在他的理想世界里，他是真的相信，这项技术能减少疾病、痛苦和死亡。他甚至专门讨论，怎样不让 AI 的好处只落在富裕国家头上，他希望 AI 能帮全球南方发展，让技术红利尽量盖到全世界。

可等他开始谈怎么走到这个未来，事情就不那么四海一家了。

他认为，强大 AI 出现的时候，民主国家必须占住优势。这个优势，不能只是一家公司产品更好，或在排行榜上多拿几分。它得落到芯片、算力、能源、供应链、军事和国际联盟上。

美国及其盟友必须拿到更多先进半导体，建起更大规模的数据中心，同时卡住战略竞争者，不让它们拿到训练最强模型所需的芯片。等强大 AI 真来了，民主阵营还要借它扩大军事和经济优势，形成别国轻易撼动不了的地位。

再往后，才轮到分享。

药是要分发的，芯片是要卡住的。他许诺的「让往后的人不必再等」，真实版本是「让符合条件的人不必再等」。而谁符合条件，他说了算。

他甚至用「永恒的 1991 年」来形容那种状态。1991 年，苏联解体，冷战收场，美国及其盟友拿到压倒性优势。他盼着强大 AI 能再造一个那样的历史时刻。

请注意这个比喻的含金量。一个声称要造福全人类的技术，理想蓝本是人类历史上最彻底的一场单极霸权。

天下为公，四个字写得漂亮。只是「天下」归美国，「为公」归 Anthropic。

后来 DeepSeek 出现。中国公司用相对有限的资源，训练出有竞争力的模型。在 Dario 看来，这恰恰证明中国有出色的研究者和工程能力。一旦再拿到足够多的先进芯片，中国公司可能训练出世界上最强的模型。

所以，更不能把芯片给它。

对手越强，越证明封锁是对的；对手证明了自己的能力，反而成为被封锁的理由。这套逻辑永远讲得通，因为它是条衔尾蛇。

他把未来分成两种。一种两极世界，两边都能训练极强模型，智能竞赛变成新冷战。另一种单极世界，美国及其盟友掌握绝大部分先进算力，西方用领先的这几年，形成技术、经济和军事优势，再把这份优势固定下来。

他明显更盼着第二种未来。什么造福人类，什么不必再等，什么机器与万物和解，在「永恒的单极」面前，都是前言。

他曾经公开反对过一种叙事，他说他不喜欢 AI 公司的创始人把自己描述成带领人类走向救赎的先知，也警惕少数企业仗着技术优势，单方面塑造所有人的未来。

他反对先知。但他做的，和先知做的，是同一件事。

他看见了所有危险，除了自己

再把时间拨回 2026 年 1 月的《技术的青春期》。

在这篇文章里，Dario Amodei 几乎把外界对他和 Anthropic 的全部批评，自己先写了出来。

他承认，前沿 AI 公司正在拿到一种历史上很少有私人企业握过的权力。他甚至捅破窗户纸说，AI 公司可能借产品去影响用户的政治态度，甚至给用户「洗脑」。他呼吁公众必须紧紧盯住 AI 公司，政府也得提防这些公司跟国家权力靠得太近。

他也担心，AI 会让财富和政治权力进一步收拢。少数公司把智能、财富和信息都攥在手里，普通公民对经济和政府的影响，就一点点弱下去。

这些危险，他都看见了。写得清楚，写得到位。很少有站在权力中心的人，会这样坦白地讲出自己那个位置有多危险。

正因为写得太好，才必须追问一句：然后呢？

他每回提出解法，最后都会绕回同一个方向。顺着他的解法走到头，Anthropic 总比原来拿到更多权力。模型越危险，越需要 Anthropic 留在前沿；政府越不懂技术，越得依赖 Anthropic 的判断；公众越容易被模型影响，Anthropic 就越得替模型把价值观写好；别的国家越不可信，美国和它的 AI 公司就越该多握芯片和算力。

他承认每一场病，开出的都是同一张药方，Anthropic。

他相信自己真诚地相信，这项技术危险到不能随便交到任何人手里。他也相信自己比多数人都更早看清了这个危险。

真诚的人，有时是自己最先骗过的那个。尤其当骗自己的收益如此巨大的时候。

他似乎真诚地相信，这项技术危险到不能随便交到任何人手里。他又真诚地相信，自己比多数人都更早看清了这个危险。

这两句话搁在一起，就是一套完整的自我授权。他从来不必宣布自己该当人类的监护人。他只需不断地把那些他觉得不够可靠的人排除掉，市场不行，公众不行，威权国家不行，其他公司也不够谨慎，等人都被排除干净，剩下来最适合握方向盘的，恰好是 Anthropic。

排除法的终点，永远是他自己。

他不相信任何人有资格替人类决定未来。

于是，他决定自己来。