当地时间2026年11月2日,Anthropic向美国SEC提交修订版S-1/A文件,披露研发流程出现变化:Claude正深度参与下一代模型开发,AI辅助开发AI的模式,可能即将触及递归自我改进(RSI)相关门槛。
Anthropic在风险因素章节中表示,根据内部测算及未来模型预期,公司可能很快达到《负责任扩展政策》(RSP)中“可归因于AI的急剧加速进展”标准。同时公司澄清:目前尚未认定现有模型跨过这一门槛,评估仍在进行。本次预警针对未来模型,并非宣告Claude已实现完全自主的递归自我改进。
按照2026年7月生效的RSP 3.4版本,AI研发自动化门槛并非要求同时满足两项条件,而是两条择一满足的路径:
一,AI模型以有竞争力的成本(不超过人类团队成本的5倍)完全替代公司全体研究科学家和研究工程师;二,研发自动化使AI整体能力进步速度达到两倍:对比基线既包括没有显著AI研发贡献时的预期速度,也包括历史上观察到的最快持续进展速度(至少跨越三代模型);另外,这种加速须能合理归因于AI研发自动化,而非人员增加、算力扩容或一般生产率提升等因素。这一翻倍指AI整体能力进步速率,而非科研人员个人效率提升。
文件数据体现了Claude在研发中的参与度快速攀升。2026年9月,Anthropic代码库中超过90%的贡献内容由Claude编写;2026年第三季度,每位工程师日均向代码库贡献的代码量,超过2024年全年日均水平的45倍。Anthropic补充说明,该指标衡量代码贡献量,不能等同于工程师整体效率提升45倍,也不代表有效工程成果同步增长,主要体现AI深度嵌入研发流程、改变工作模式。
随着多轮迭代,现在Claude早已不只是代码助手,Claude Code可以编写、运行程序,并在较长时间内自主处理多步骤复杂工程任务。工程师的工作重心正从逐行手写代码,转向分配任务、监督执行和审核成果。Claude也已参与模型训练与研究,包括执行实验、生成和处理训练数据、自动化模型评估与安全审计,以及编写和审核代码。但这并不意味着整个研发过程已经自动化。
Anthropic将AI参与开发下一代模型的循环称为研发“闭环”,模型能力越强,能够承接的研发任务就越多;研发效率提升又会加快新模型迭代,形成持续增强的反馈循环。不过,公司坦言,当前AI距离自主研发下一代前沿模型仍有显著差距。
在研究报告《当AI构建自身》中,Anthropic指出,Claude在目标和评估标准明确的实验执行任务中,已能匹敌甚至超过熟练研究人员;但在研判科研方向、筛选课题和作出全局判断等方面,人类研究人员目前仍有明显优势。自主选择研究目标、判断结果价值,仍是AI自主研发后继模型需要跨越的差距。
与此同时,Anthropic对研发加速带来的安全风险表达担忧。文件警告,AI参与自身迭代可能使模型能力提升快于安全、对齐与安保措施的研发、验证和部署。由于相关证据多为滞后指标,公司过去曾未能在研发明显加速前及时识别,未来也可能出现类似情况。
对于人类监督问题,Anthropic表示,目前不认为在缺乏有意义的人类监督或理解时,Claude可以安全地自主设计和构建后续前沿模型。公司正考虑更新RSP,以确保人类继续掌握研发过程的控制权。
总体而言,AI正在从辅助研发走向参与自身迭代,递归自我改进可能不再遥远。但技术进步越快,安全治理面临的压力也越大。如何在加速创新的同时守住人类监督与安全底线,将成为下一阶段AI发展的关键考验。
小编将在第一时间分享更多相关最新动态和爆料,敬请关注。
热门跟贴