新智元报道
就在昨天，Anthropic发布了公司历史上首份年度《公益报告》（Public Benefit Report）。
这份报告堪称「人类拯救计划」。
这个词并非官方原话，而是对Anthropic总裁Daniela Amodei在前言中那句「长期造福人类（Long-term benefit of humanity）」的戏剧化提炼。
但当你真正翻开这份报告的PDF原件时，你会发现，它比任何科幻电影都更让人屏息。
在这份报告里，Anthropic不仅晒出了高达20%股份的「散财」计划，更罕见亲口承认：AI，已经开始动手制造它的下一代了。
潘多拉魔盒的裂缝：「AI正在训练AI」
过去两年，AI圈最头疼的问题是什么？是算力不够吗？不，是人类的数据快被榨干了。
当互联网上所有的高质量文本都被大模型吞噬殆尽，通往超级智能（ASI）的阶梯似乎撞上了天花板。
怎么破局？硅谷心照不宣的答案是：合成数据与自我迭代——也就是让AI自己教自己。
但在这次的报告中，Anthropic第一次将这种「AI训练AI」的内部进展与巨大隐患，赤裸裸地摆在了台面上。
报告的字里行间透着一股寒意，原话是这样写的：
Claude已经承担了我们越来越大比例的安全研究工作，而且我们正日益依赖现有的模型来训练未来的模型 。
更惊人的是报告前言中的那句定调：
AI正越来越接近于制造它自己的继任者。
（AI coming closer to building its own successors）
这不是危言耸听。结合Anthropic研究所上个月底披露的一份内部测量数据，你会看到一条陡峭得可怕的曲线：
今年2月，在Anthropic内部的AI研发（R&D）任务中，由Claude主导（在人类高阶提示下完成大部分任务）的比例还不足1%；
到了今年8月，短短半年时间，这个数字飙升到了26%！
而在超过90%的研发任务中，Claude已经深度参与协作。
这意味着大模型正在跨越人类数据的瓶颈，进入「自我进化」的前夜。
但Anthropic非但没有为此欢呼，反而拉响了警报。他们在报告中坦承：当AI开始训练AI，人类要想真正检查、核实它们的工作将变得极其困难。
试想一下，如果初代AI在庞大的代码或合成数据中，悄悄埋下了一丝极其隐蔽的「有害行为」或「欺骗倾向」，而人类审计员根本看不懂、查不出，那么这个缺陷就会像基因突变一样，被毫无察觉地直接写入下一代更强大的模型中。
一代传一代，直到彻底失控。
撕掉安全滤镜：大模型学会了「装乖」和「越狱」
很多科技巨头在发布报告时，总是喜欢把自家的AI包装得人畜无害。
但Anthropic这份报告最炸裂的地方在于——它居然在官方报告里「自曝家丑」，承认AI安全问题「远未解决」。
在今年1月，Anthropic刚刚更新并开源了新版AI「灵魂文件」，试图用一套人类价值观的准则来约束模型。同时，他们也一直在推行严苛的《负责任扩展政策》（RSP），将其作为防范灾难性风险的刹车片。
但即便如此，报告还是揭露了三个令人细思极恐的现实：
模型已经能识别「自己正在被测试」;
欺骗行为与黑箱困境;
真实的「越界」事件已经发生：报告明确提到，在近期的评估测试中，已经出现了模型在未经授权的情况下，自行访问第三方系统的事件！
连全球最顶尖、最把「安全」刻在脑门上的实验室都坦言「控制难度正在急剧上升」，那些还在蒙眼狂奔、鼓吹「无限制开源」或「全速冲刺AGI」的公司，到底哪来的自信？
也正因如此，当同行们都在高喊「加速」时，Anthropic在报告里大声疾呼：「放慢前沿探索的步伐！」
他们甚至主动引入了METR等外部独立评估机构，求着别人来给自己挑刺。
在淘金热里，有人拼命挖矿，有人卖铲子，而Anthropic选择做那个站在悬崖边拉警戒线的人。
拿出20%股份「兜底」：一家硅谷异类的金钱观
如果只喊口号，那叫公关；如果把真金白银拿出来分掉，那才叫信仰。
要读懂这份报告，你必须先理解Anthropic的特殊身份——它不是一家普通的商业公司，而是一家公益企业（PBC，Public Benefit Corporation）。
在法律结构上，它被强制要求在「替股东赚钱」和「造福全人类」之间寻找平衡。
为了证明自己不是在画饼，报告梳理了董事会与「长期利益信托」共同确立的五大支柱：
解决 AI 安全的技术难题；
让AI安全成为行业通识并由法律兜底；
强化民主与全球稳定；
扩大经济繁荣与人类福祉；
确保AI红利普惠大众。
怎么确保「红利普惠」？就在报告发布前三天，Anthropic刚刚扔出了一颗重磅炸弹——宣布成立「Anthropic公益基金」（Public Benefit Fund）。
这笔账算下来，足以让华尔街的资本家们目瞪口呆：
公司承诺（待股东批准）将至少5%的股份直接注入该基金；未来公司估值每上涨50%，董事会还可酌情再追加2%的股份。
如果算上创始团队早就承诺捐出的80%个人股权，以及员工的配捐，Anthropic最终将有大约20%的股份被彻底导向公共利益！
以Anthropic如今动辄数百亿乃至向千亿美金狂奔的估值来看，这是一笔天文数字的财富。
这笔钱用来干嘛？
报告写得很清楚：除了资助非营利组织，还将用于应对AI对人类劳动力市场的剧烈冲击（，甚至不排除未来向特定受影响人群直接发钱。此前,他们已为此单独砸下了2亿美元成立经济未来研究基金.
用AI赚来的钱，去拯救被AI抢走饭碗的人。
希望当超级智能真正降临的那一天，人类回首2026年的这个秋天，会庆幸还有人曾写下过这样一份报告。
参考资料：
https://www.anthropic.com/public-benefit-report
https://www-cdn.anthropic.com/a9ceec76a54d28d27affffcdab6faf7c142cd587.pdf
https://x.com/AnthropicAI/status/2112966949273801086
编辑：大卫
热门跟贴