文 | 字母AI
就在Anthropic联合创始人杰克·克拉克宣布“奇点已经开始”的第二天，Anthropic准备拿出公司5%的股份，为AI可能带来的社会问题善后。
按照5月9650亿美元的估值计算，这笔股份价值约480亿美元（折合约3208亿人民币）。钱的用途之一，就是应对AI造成的就业冲击，甚至考虑直接向受影响的人群发钱。
过去几年，从超级智能失控、人类灭绝，到数百万白领失业，Anthropic一直是AI末日论最积极的宣传者之一。
然而，“最担心”AI毁灭世界的公司，自己却在拼命开发更强的AI，甚至准备冲刺万亿美元级IPO。
曾经AI末日论是Anthropic证明自己足够前沿的一块招牌，如今随着上市临近，这套叙事开始反过来找它要账了。
Anthropic被自己的末日预言反噬了
10月14日，纽约市审计长马克·莱文（Mark Levine）致信阿莫迪，要求Anthropic暂停IPO。
他负责监督总资产超过3250亿美元的纽约市公共养老基金，其中约700万美元通过私募股权投资间接配置于Anthropic。
莱文在信中专门列举了Anthropic最近的几次警告：
9月9日，Anthropic研究员雅各布·考克森（Jacob Coxon）离职时表示，公司内部有人真诚相信，AI可能在2030年之前杀死所有人。对齐科学负责人Evan Hubinger甚至认为，未来十年AI导致人类灭绝的概率超过10%。
三天后，阿莫迪又发表长文，呼吁放缓前沿模型能力的增长，警告AI的自我改进可能超出人类的控制。
9月底，Anthropic甚至把末日预言写进了IPO申报草案——在这份文件261页的正文中，介绍公司业务的部分只有48页，却用了约80页来披露风险。其中明确警告，先进AI可能对人类造成灾难性乃至生存性威胁。
莱文表示，既然Anthropic呼吁放缓AI发展，那么在推进IPO这件事上，也应该表现出同样的谨慎。
类似的批评不是第一次出现。
今年8月，科技投资人加文·贝克（Gavin Baker）就公开批评阿莫迪，认为他反复渲染AI的危险，正在助长美国社会对AI的抵触情绪，甚至加剧了民众对数据中心建设的反对。
图注：加文·贝克在X上公开批评阿莫迪的部分内容
贝克劝他，作为一家即将成为全球最重要科技公司之一的CEO，应该多为自己的行业说点好话。阿莫迪却不认同，他承认公众对AI的负面态度是个严重问题，但认为这主要是一场信任危机，不能归咎于AI公司对风险的警告。
Anthropic花了好几年告诉世界AI有多危险，现在真的有人相信了，并要求它为此付出代价。
嘴上喊减速，油门踩到底
阿莫迪相信AI有可能失控，也反复呼吁放缓技术发展，但Anthropic的商业扩张并没有因此停止。
9月12日，阿莫迪刚刚呼吁放缓前沿AI能力的增长。十天后，Anthropic就推出了Opus 5.5。
紧接着，9月28日Sonnet 5.5登场，10月7日Haiku 5.5发布。短短半个月，Claude 5.5系列就更新了三款模型，并打起了价格战。
模型研发没有停，烧钱的速度也丝毫没有放缓。
此前，据外媒披露的IPO申报草案，Anthropic未来十年的算力和基础设施支出预计至少达到5180亿美元。其中约80%属于不可取消、或者无论实际使用多少都需要付款的承诺。
就在最近，华尔街又开始为Anthropic筹措一笔约600亿美元的芯片融资，用于采购约1.5吉瓦的谷歌TPU。交易代号为「北极星计划」，有望成为史上规模最大的芯片融资交易。
这笔交易由投资机构出钱购买芯片，再通过五年期租赁协议提供给Anthropic使用。其中，黑石旗下基金拟认购90亿美元高风险债务，票息达到10%。为了拿到足够多的芯片，Anthropic愿意承担相当高昂的融资成本。
如此庞大的投入，自然需要更加庞大的收入来支撑。
10月14日，Anthropic召开上市前的投资者日，公布第三季度营收达到168亿美元，并连续第二个季度实现调整后盈利。
但增长速度已经开始放缓。第二季度Anthropic营收环比暴涨约145%，第三季度增速则降至45%，虽然表现不差，却已经让部分投资者感到失望。据路透社报道，参加投资者日的部分投资者甚至开始讨论，将Anthropic的IPO估值预期下调至1.5万亿美元。
有意思的是，这次阿莫迪虽然依旧强调AI安全，却没有再主动谈及人类灭绝风险。
毕竟，面对即将掏钱的投资者，Anthropic更需要展示自己的增长潜力。哪怕阿莫迪真的认为AI发展太快，Anthropic也已经很难停下来了。
Anthropic正在为自己的预言买单
某种意义上，AI灭世论本身也可以是一种相当极端的技术宣传。当Anthropic反复警告AI可能让数百万白领失业，甚至毁灭人类时，也在向世界展示：自己掌握的技术，已经强大到了足以改变人类命运的地步。
技术被描述得越危险，Anthropic需要承担的责任也就越多。
10月15日，Anthropic宣布，向非营利AI评估机构METR的六名工作人员开放接近内部员工级别的访问权限。这些外部评估人员可以使用公司的内部工具和系统，检查模型、安全措施及潜在风险，还能独立发表评估结果。Anthropic不能直接阻止发布，但可以要求删除特定的敏感信息。
这也算是兑现了阿莫迪一个月前在长文里的承诺。
对于一家始终强调AI可能失控的公司来说，让外人进来检查自己究竟有没有管好AI，显然比单纯发出警告更有说服力。
而在社会责任方面，Anthropic动作更大。
今年6月，Anthropic宣布投入2亿美元成立经济未来研究基金。7月，公司进一步明确了研究方向，包括职业转型、失业收入保障，以及让劳动者分享AI创造的财富。
到了10月18日，Anthropic更进一步，宣布拿出5%的公司股份成立公益基金。
按照官方公布的方案，此后公司估值每增长50%，董事会还可以酌情向基金追加2%的股份。加上创始人和员工此前的捐赠承诺，Anthropic表示，未来可能有约20%的公司股份用于公共利益。
不过目前这笔价值约480亿美元的股份仍是待股东批准的承诺，具体如何使用，还有待进一步披露。
消息一出，马斯克跑到Anthropic的评论区锐评：“我建议直接把股份分给公众。”
随后，他发文表示：“明年，我会把SpaceX股票分给美国的每个孩子。”
还有网友在马斯克的评论区直言，Anthropic的做法恐怕只是为了公关。
从公开呼吁减速，到主动接受外部监督，再到拿出巨额股份支持公益，Anthropic正在试图证明，自己有能力承担AI可能带来的风险和社会后果。
这中间或许有真诚的责任感，也可能包含上市前必要的形象建设。两者并不冲突。
只不过，当年讲述AI末日故事的时候，Anthropic或许没有想到，有一天它真的需要为这些故事付出数百亿美元——而且，这笔钱还未必买得来公众的信任。
热门跟贴