美国AI产业近期最值得关注的一场公开讨论，在刚刚过去的周末在X上上演了。

事情源于《All-In》播客发布的一段视频。投资机构Atreides Management管理合伙人Gavin Baker在节目中表示，有几位他信任的人告诉他，Dario曾经说过，随着AI能力不断增强，Anthropic未来可能成为世界上唯一剩下的私营公司，其他主要权力主体则只剩下政府。Gavin认为，这至少反映出Anthropic内部对自身技术实力和未来竞争地位有着极强的信心。

节目中的Jason Calacanis和David Sacks随后对这一说法提出质疑，甚至带有几分嘲讽。Sacks认为，如果Dario确实说过这番话，那反映出的是一种相当危险的傲慢。Gavin则表示，如果这句话真的出自Dario之口，他会建议Dario以后不要再对任何人这么说。

此后，Anthropic负责强化学习扩展研究的Sholto Douglas公开回应，称这一说法“完全错误”。他表示，自己平时其实很认同Gavin的许多观点，但这一次，向Gavin提供消息的人显然是在说谎，只是在迎合某些人希望外界相信的叙事。

Sholto指出，有些人一方面声称Anthropic没有真正的竞争壁垒，另一方面又说Anthropic未来可能强大到成为世界上唯一的公司，这两种说法本身就相互矛盾。他还强调，Anthropic真正担心的问题之一，恰恰是经济权力过度集中。不存在任何合理情形，政府应该允许一家公司拥有如此巨大的影响力。AI行业仍然需要竞争，也仍然需要市场机制发挥制衡作用。

Sholto同时引用了Dario此前发表的《The Adolescence of Technology》。Dario在文章中专门讨论了AI可能带来的经济权力集中问题。他担心，少数公司或个人如果凭借AI创造出巨额财富，就可能进一步影响政府政策，使普通公民逐渐失去经济和政治上的议价能力。

在Sholto作出回应后，Gavin发帖感谢他“澄清事实”，但认为更大的问题仍然存在。Gavin说，硅谷有多位非常严肃的人士听说过类似说法，而且愿意相信它是真的，原因在于，这类传闻与Dario长期以来的一些公开表态之间，确实存在某种一致性：Dario一直认为，AI可能通过多种方式危害人类，也可能导致经济权力高度集中，因此需要经过审慎设计的监管。

Gavin表示，他相信Dario提出这些风险是出于善意，而且自己也认可AI可能带来的风险。但是，如果认为AI可能非常危险，大致有两种处理方式：一种是通过监管，把AI集中在少数被选中的企业和政治人物手中；另一种则是尽可能广泛地分发AI，让更多模型和参与者彼此制衡。

Gavin认为，这个问题其实可以归结为一句话：AI究竟是“危险到不能集中”，还是“危险到不能分发”。他更倾向于前一种判断，也就是说，正因为AI可能非常强大，所以更不能把这种能力集中在少数公司或政府手中。

为此，Gavin引用了扎克伯格的观点。扎克伯格认为，如果因为AI非常危险，就认定唯一安全的道路是把权力极端集中起来，那么这种想法本身就值得警惕。历史经验也从未证明，把近乎绝对的权力交给一个被认为足够开明、足够理性的主体，最终一定会带来安全和积极的结果。

Gavin还引用了Dario文章中的另一段论述。Dario曾提到，有人可能认为，可以像现实社会通过多方力量彼此制衡那样，让多个AI系统相互制衡。Gavin表示，这恰恰是自己更支持的方向。他希望世界上存在尽可能多的AI，因为模型越多、权力越分散，至少有一个模型能够代表特定个人价值观和利益的概率也就越高。

随后，Gavin判断，Dario所主张的监管路线目前已经在政治讨论中处于下风。他提到，Hugging Face此前遭到一个由尚未正式发布的OpenAI模型驱动的自主智能体入侵，而Hugging Face最终依靠自行部署的开放权重模型分析攻击过程。这一事件强化了开放模型支持者的一项核心主张：攻击者可以使用强大的AI工具，防守者同样需要拥有不受商业API限制、可以本地部署和自由分析的模型。

Gavin还提到，除Anthropic外，美国主要科技和AI企业基本都签署了由Jensen Huang推动的《Open Weights and American AI Leadership》公开信。公开信主张，开放权重模型有助于竞争、创新、网络安全和技术自主，并呼吁政策制定者避免过早限制开放模型。

尽管如此，Gavin认为，Dario长期以来关于AI危险性的公开表态，已经对美国国内的数据中心建设产生了不利影响。他预计，反对数据中心的团体未来完全可能在广告中使用Dario警告AI风险的讲话片段，以证明建设更多AI数据中心会给公众带来风险。他相信AI有可能帮助人类治愈大多数疾病、延长寿命，并创造一个类似《星际迷航》的富足未来。但在他看来，Dario目前的公开传播方式，反而可能降低这种未来实现的可能性。

因此，Gavin建议Dario，既然推动严格监管的努力至少暂时没有成功，就应该更多公开强调AI行业可能创造的积极价值。如果未来事实证明AI确实需要更严格的监管，那么Dario现在表现出对其他路线的开放态度，也会让他将来推动监管时更有说服力。

Gavin最后特别澄清，他并不看空Anthropic。相反，他认为Anthropic拥有很深的竞争优势，是一家非常优秀的公司。他此前甚至认为，Anthropic面临的一个主要风险，反而是Dario本人的言论和行为可能引发政府对Anthropic进行国有化或采取类似干预。

在Gavin发帖后，Dario罕见地在X上连续发布两篇长帖回应。他首先感谢Gavin提出了一个值得认真思考的问题，并表示，这场讨论确实触及了AI政策中最核心的问题之一。

Dario首先否定了Gavin提出的这个二选一。他不认为AI政策只能在“通过监管把权力集中在少数公司和政治人物手中”和“把AI尽可能广泛地分发”之间作出选择。

Dario表示，硅谷内部经常使用一种非常简化的逻辑，即监管等于监管俘获，而监管俘获又等于权力集中。但在硅谷之外，也有很多人持完全相反的看法，认为监管恰恰可以约束企业权力、保护普通人。Dario认为，这两种理解都不完全准确，监管究竟是在集中权力还是分散权力，关键取决于制度具体如何设计。

他还指出，人们经常低估客观、公平、可预期的制度程序本身所具有的分权作用。Dario用法院作类比：正式的法院体系有时确实显得僵化、精英化，但与群众私刑相比，它通常更能保护弱势个人的权利。在最理想的情况下，制度的意义就是把权力交给规则和原则，而不是交给某几个具体的人。

Dario表示，Anthropic一直在谨慎设计自己的政策建议，希望让相关规则对最前沿的AI公司约束更强，同时尽量减少对规模较小的竞争者的影响。他举例说，加州SB 53以及此前的SB 1047都设置了收入、训练成本或算力门槛，低于相应门槛的企业不需要承担与大型前沿实验室相同的义务。

他还提到，Anthropic向美国AI标准与创新中心和白宫建议的测试制度，也采取类似思路：对前沿模型实施更严格的测试，对非前沿模型实施较轻的测试。这样的安排，实际上会相对有利于追赶者。

Dario认为，“Pacing the Frontier”公开信同样是为了调节最领先模型的发展速度，而不是限制正在追赶的模型。按照Anthropic所支持的实施方式，这种制度甚至会损害前沿实验室自身的商业利益，同时帮助挑战者，其中也包括开放权重模型。

Dario接着表示，AI本身就是一种具有权力集中倾向的技术，而这种倾向并不是监管造成的，主要来自规模定律，以及训练最强模型所需要的巨额算力、先进芯片和资本投入。

他承认，开放权重模型能够在一定程度上缓解权力集中问题，但并不足以从根本上解决这个问题。因为开放模型同样需要大量芯片和算力才能训练和运行，最终可能只是把一部分权力从模型公司转移给拥有最多算力的前沿实验室、云服务商和硬件供应商。

Dario认为，合理的AI规则应该同时完成三件事：处理AI带来的网络安全、生物安全和模型失控风险；通过制度约束前沿AI公司的权力；同时继续为开放权重模型保留发展空间，并处理开放模型可能带来的特定风险。

Dario还不同意Gavin关于其监管路线已经失败的判断。他表示，特朗普政府据报正在考虑对前沿模型实施发布前测试，并在开放权重模型接近前沿能力时，也对其实施相应测试。Dario表示，自己原则上支持这一方向，但仍然需要看到具体制度设计。他也支持Demis Hassabis提出的、类似美国金融业监管局FINRA的AI监管机构设想。

在第二篇回应中，Dario重点谈到了AI行业的公共传播问题。他不同意外界认为自己讲话过于负面的批评，认为自己对AI风险和收益的讨论总体上是平衡的。

Dario说，自己分别写过一篇重点讨论AI风险的文章和一篇重点讨论AI收益的文章。即使是在讨论风险的采访中，他也会谈到AI可能带来的巨大收益，并提出解决相关风险的方法。只是社交媒体上传播最广的往往是负面内容，因为这类短视频更容易吸引注意和获得点击。

他特别提到《Machines of Loving Grace》。Dario表示，自己之所以写这篇文章，正是因为他认为AI行业并没有为公众描绘出一个足够具体、足够有吸引力的积极未来。文章的大部分内容都在讨论AI如何改变医疗和生物学，以及为什么AI可能在五到十年内帮助人类治愈大多数疾病。

Dario还提到，自己最近发表的《Policy on the AI Exponential》不仅讨论AI风险，也提出了改革药品监管流程的建议。他担心，如果AI大幅加快药物研发速度，现有FDA审批制度可能很快成为瓶颈。如果未来突然出现大量候选新药，而现有监管体系无力及时处理，那么现在就应该提前改革。

Dario在回应中还讲到了自己的个人经历。他的父亲因丙型肝炎去世，而在父亲去世几年后，索磷布韦等直接抗病毒药物被开发出来，可以治愈约95%的患者。Dario认为，如果这种药物更早出现，很可能能够挽救他的父亲。因此，他本人对AI加速医学进步具有一种非常直接、甚至带有个人色彩的紧迫感。

Dario承认，公众目前对AI总体持负面看法，而且这是一个严重问题。但他不认为这种负面态度主要来自自己或其他AI领导人对风险的警告。他认为，更深层的问题是一场长期形成的信任危机：普通公众不信任企业、政府和科技行业，总是怀疑这些机构正在想办法利用新技术损害他们的利益。

因此，Dario不认同仅仅通过更积极的营销宣传就能改变公众看法。他认为，现在不断宣称“AI将治愈癌症”已经快要变成一句陈词滥调，很多人听到这种话，第一反应甚至会认为这又是一种营销和欺骗。真正能够改变公众态度的，不是继续承诺AI有一天会治愈癌症，而是实际把癌症治好。

Dario表示，对包括Anthropic在内的AI公司最准确的一项批评，是它们到今天还没有真正兑现那些关于“AI造福世界”的宏大承诺。Anthropic正在迅速扩大生物和医疗领域的工作，希望未来几年取得真正有意义的成果，并在未来几个月先展示一些早期迹象。

他承诺，一旦Anthropic真正取得实际成果，公司会尽可能广泛地向世界宣传。但在此之前，他不愿意靠空洞承诺来赢得公众支持，也仍然会诚实讨论AI真实存在的风险以及应对方法。Dario认为，如果公众已经感受到了某种风险，行业却不断告诉他们“这根本不是问题”，未必能够建立信任。相反，坦率讨论风险，反而可能更有利于维持长期公信力。

老实说，我对Anthropic和Dario都没有什么好感，但在我看来，这的确是最近一段时间看到的关于AI重大公共政策问题比较深刻的一次公开讨论，对我国的AI监管和AI产业政策也有一些启示。

第一，我同意Dario Amodei的看法，对开放权重模型不能一禁了之，也不能一放了之。我国正在依靠Qwen、DeepSeek等开放权重模型扩大国际生态影响力，“人工智能+”政策也明确支持开源社区、模型、工具和数据集建设。因此，如果把开放模型整体视为安全威胁，很可能首先削弱中国自己最具竞争力的一条技术扩散路径。但也要防止走向另一个极端，如果开放权重模型已经具备很强的能力，却因为它是“开放”的，就完全不进行监管，或者比能力相当的闭源前沿模型监管更轻，既说不过去，也无法切实防范安全风险。尤其是，开源模型权重被恶意非国家行为者获取后做坏事，也是需要关注的一种风险类型。

一种更合理的办法，是把“开源”拆分成不同层次进行分层监管。开放权重、开放代码、开放训练方法、开放数据，以及是否允许商业再分发，本来就是不同的事情，也对应不同的风险。监管可以根据开放程度和实际能力分层。中小型开放模型可以适用安全港；一旦达到高风险能力门槛，则可以要求开发者公布模型卡和安全测试结果，接受第三方能力评估，对权重文件进行完整性签名，并建立漏洞披露、版本撤回和事件响应机制。我国的《人工智能安全治理框架2.0》已经将“模型开源风险”纳入风险体系，为这种分层监管提供了一定政策基础。

第二，只靠开放模型权重，并不能真正实现AI产业的分散化。如果训练、微调和推理仍然依赖少数算力平台，那么“开放模型”可能只是在模型公司、芯片公司、云服务商和基础设施企业之间重新分配价值和控制权。对我国来说，支持开源模型不能只看权重是否开放，还必须同时解决算力可获得性、不同国产芯片之间的适配、云平台迁移，以及接口和推理框架的互操作问题。

第三，我国AI监管的重点，应该从主要针对面向公众提供聊天服务的chatbot（即使它底层模型参数量很大）更多转向真正具备高水平网络攻击、生物化学辅助、自动化科研、长时间自主执行和现实工具调用能力的模型。与此同时，监管设计还必须避免出现只有大企业才负担得起合规的情况。这恰恰是Dario反驳Gavin时最值得注意的一点，设计得当的规则，可以主要约束前沿实验室，同时保护小型挑战者；设计不当的审批、备案和评测要求，则很容易反过来成为大型企业的竞争壁垒。

第四，Dario透露了Anthropic正在迅速扩大生物和医疗领域的工作，希望未来几年取得重大成果，并在未来几个月展现一些早期迹象。

Anthropic从2025年下半年开始布局生命科学，并在2026年6月推出面向科研人员的Claude Science，可接入基因组学、蛋白质组学等科研工具，在研究机构自己的计算环境中分析数据，并保留可复核的研究过程。与此同时，该公司还引入诺华CEO、医学科学家Vas Narasimhan进入董事会，并不断扩大与制药、医疗和科研机构的合作。其思路和Claude Code类似：先让Claude成为科研和医药人员的日常工作平台，再逐步进入更核心的研发环节。

OpenAI也已经推出ChatGPT Health和OpenAI for Healthcare，连接个人健康记录、医院系统和医疗数据库。据其披露，每周有超过数亿人使用ChatGPT咨询健康问题，其企业医疗产品也已进入多家美国大型医疗机构。

这不免让人想象，生命科学和医疗是不是正在成为继编程之后，头部AI公司争夺的下一个高价值应用场景，甚至可能是经济价值和社会价值最大的方向。只是想想就很激动！