大模型，正在进入一个让顶级研究员既兴奋又焦虑的临界点。
今年1月以来，一个名为RSI（Recursive Self-Improvement，递归自进化）的概念火爆起来。简单来说，RSI意味着AI能够完全不依赖人类，自己提出实验想法、进行测试并验证结果。当这一能力真正成熟，AI可能会把人踢出自身进化的循环，人的劳动价值将不再有竞争力。
6月4日，大模型公司Anthropic发表了一篇令人心情复杂的文章《When AI builds itself》，文章一方面将RSI视为技术史上的关键里程碑，一方面声称应该有效减缓RSI技术的发展速度，为人类面对即将到来的手足无措，提供足够的缓冲时间。
这种矛盾，正在越来越多AI研究员身上出现。他们既为模型能力的快速跃迁感到兴奋，又担心AI技术演进太快，让自己的研究失去意义。但理性也告诉他们，在资本、竞赛和抢占未来叙事的共同驱动下，没有一家模型公司愿意主动踩下刹车。
资本还在推高这场竞赛。今年Q2，硅谷一家直接以RSI命名的Recursive公司，成立三个月在没有任何产出的情况下，就获得6.5亿美元的融资。4月成立的Core Automation，6周的时间估值从10亿美元跃升到40亿美元。6月刚刚成立的 Mirendill，成立初估值就高达10亿美元。
虽然真正意义上的RSI尚未实现，但AI参与自身研发的时代已经越来越逼近。
在《When AI builds itself》中，Anthropic披露称，截至2026年5月，Anthropic代码库中的代码超过80%都出自Claude。如今，Claude编写的代码在Anthropic公司的表现与员工编写的代码水平基本持平。它们预计一年之内，Claude的代码能力将明显优于人工编码。
更关键的是，Claude已经深度参与科研工作，他们认为AI和研究员的差距不再是实验执行能力，而更多体现在研究方向的选择、科研品味和最终判断上。
Anthropic因此推断，拥有较强模型的公司，可以半自动开发下一代更强的模型，能力会如滚雪球一样。这也意味着强者会更强，如果其他模型公司缺乏真正的技术壁垒，很容易在这场竞赛中掉队。
伦敦大学学院博士、里斯托大学助理教授杨梦月告诉我们，一旦基础模型厂商形成自己的技术壁垒，外界无论是通过蒸馏还是自研其实是很难突破的。她解释道，模型的研究本身是个系统工程，从数据，infra都涉及到很多工程设计和规划。
模型的差距确实在拉大。从模型发布节奏来看，整个Q2，Anthropic模型更新了三次。4月16日，claude 4.7发布，5月28日claude 4.8发布，到6月9日，推出新一代大模型Claude Fable 5。小米Mimo模型负责人罗福莉认为，Anthropic的最新模型Fable 5的参数量级，可能已经达到当前最强开源模型的数倍。
杨梦月觉得，这并不代表国产模型没有出路。在她看来，国产模型厂商不应该陷入“追赶Claude”的思维惯性，应该想清楚AGI到底是什么，然后从底层出发，选好赛道，看准市场，一点点解决所有的挑战。只有坚持自己的技术判断，建立起完整的系统能力，才能形成真正的壁垒。
在第八届智源大会“觉醒与进化：AI如何自我迭代”圆桌论坛上，杨梦月和西湖大学工学院人工智能系统特聘研究员林涛、Neo Cognition联合创始人谷雨、前腾讯混元Frontier专家研究员王琰，很坦诚的聊了聊他们对RSI的理解，以及可能会给人类带来的改变。
我们摘录其中一些观点：
*在大模型里，Harness是最容易做的，但也容易被模型进步所吞噬。
*AI自进化是时刻发生的，它不是单点的进化，而是forward 、backward、memory 和skill层面的共同进化。
*当前的benchmark属于静态评估，已经不适用AI自进化的变化。
*约束AI失控的不是技术，而是人性。
*或许有些是一家之言，但站在下一代AI技术来临前，这些来自顶级研究人员们的真实感受，那些对未来世界的好奇、警惕与隐约的不安，都成了碳基生命与硅基生命协作共生的时代注脚。
以下是，华中师范大学人工智能教育学助理教授熊宇轩和他们的对话，发生于6月12日。我们稍微做了处理。
01
什么是AI自进化
熊宇轩：现在的智能体已经具备了反思、调用工具、优化指令等一系列能力，展现出自我改进的能力。但如果要更严格地定义，你们会怎么定义 AI 自进化？
林涛：我认为，自进化应该是一个多层次的进化，它可以是外脑的进化，也可以是内脑的进化，最重要的是AI如何能认知到自己的局限，同时进化自己。
谷雨：我觉得RSI最重要的两个维度，一个是Proactiveness（主动性），一个是learning。Proactiveness，需要解决what层面的Metacognition（元认知），你要知道自己缺什么、需要什么、应该怎么选。
Learning是指怎样让AI能够有持续学习和在线学习的算法。解决的是how层面，也就是学习算法具体如何实现。
王琰：这个答案总在变，我也不知道什么是自进化。两年前，我做了有关loRA（一种高效、轻量级的 AI 模型微调技术）的工作，把context存到loRA里，现在来看相当于是一种人类驱动的进化。
今天外界说的自进化，可能比我们建模时，更少的依赖人类。但我认为，从传统脉络来看，SFT（监督微调）和RL（强化学习），更少的依赖人类，它其实就是自进化。
杨梦月：现在说的RSI其实是self improvement再往前进一步，它这个进化能力是不是能变得更强，而不只是说这个能力得到进化。
当前硅谷比较热的Recursive公司，原创团队成员Jeff Clune和Tim Rocktäschel的研究方向是Open-Endedness。Open-Endedness是指在一个开放世界里面，能不能有一个有自我提问能力的AI，它能发现知识和系统的边界。它要对system、记忆的边界在哪里，能提问。我觉得这点是非常重要的。
熊宇轩：站在今天这个节点上，结合学术界和工业界的基础，今天最有价值、最可能优先落地的自进化领域是什么？
王琰：2026年1月以后，模型迭代明显加速了。尤其在大模型训练领域，最熟悉AI能力上限的人，已经很明显不可能完全靠人写代码、调流程。
某种意义上，AI迭代AI已经发生在模型训练过程中。你看Claude、国内外模型的迭代速度，都在加快。它不能说完全是自进化，因为方向仍然有人指定，但AI已经深度参与了AI的迭代。
如果不改变模型参数和结构，只优化prompt、workflow、harness，能力也会有很大提升。人写prompt都能明显改善模型表现，那么硅基生命，当然也有机会把这些规则写得更好，把能力推到我们难以想象的高度。
林涛：模型训练也是一个迭代的过程。我们用更好的harness（驾驭工程），也就是外脑，发挥当前模型的上限。
随着越来越多的人用自己的harness，它会反哺给基模，变得更强。而这个更强的基模，可以发展出更好的harness。
熊宇轩：现在这个节点上，综合各种资源来说的话，哪一块最有希望最先成熟的？
林涛：我觉得对大部分人来说，做harness是最容易的。
谷雨：我更倾向于以统一的视角来看，比如harness、skills或者 tools，模型权重，它们都是一种长期记忆，只是它可能对应不同角度，harness可能更多是Meta-level（元认知）的长期记忆，工具的话， skill 更多是一种关于workflow（过程知识）的长期记忆。模型权重影响可能更多的是关于一些直觉的长期记忆。
如果让我回答，优先哪一个？从学术研究的角度来说，很难判断，我觉得它们都很重要，属于相互促进的过程。从公司的角度来说，有很多现实的因素，比如资本、人才，可能更容易起步的是在harness阶段。
有了harness，你的产品可以帮你去获得用户，有了用户，有数据形成闭环，可以针对harness做模型训练。这可能是一个非技术层面的优势。
杨梦月：我在学术界研究的主要方向是如何理解规则，理解因果，我更想站在memory层面上看，它能不能更好的进化。模型的能力越来越强，它是慢慢的在吞噬harness的能力。所以未来的发展很难说，可能基模越来越强，harness方向的提升可能会微乎其微。
但是从我自己的角度上来说，我研究的方向其实独立于这个体系之外。
谷雨：我是觉得harness有可能被模型精度裁剪的，但是还得看在什么方面，像有一些模块我觉得它必须得要用，比如说安全性、可验证性上，这是概率模型永远不能取代的。
熊宇轩：自进化发生在什么时候是最恰当的？比如说是在执行任务的过程当中，还是说事后复盘？
谷雨：从我们人类的学习过程看，每一次的推理都在解决问题，都是一次学习的机会。人并不是说搜集了一堆的问题，再基于这些问题静态的学习。
如果相信人的学习方式是高效的，我觉得agent也一样，你可能会希望 agent不会浪费每一次推理的机会，因为每一次推理，都有机会得到一些learning signal。这其实跟强化学习的思考机制是一致的，但是现在主流的思路情况下，还是基于模型参数、环境，很难做到这种online learning的设置。
所以要实现这件事情，可能需要一些新算法的学习。比如说基于一些非参数的特性，让系统每做一个任务就能立刻学到东西。这是我个人会想长期去 get 的方向。
林涛：从模型训练的角度，我想把它再分一下，它可以先从harness影响到后训练，通过后训练提升模型性能，更强的模型再反馈到后训练，形成闭环。
从这个角度去看，什么时候自进化，我觉得是时时刻刻都在进化，只是以不同尺度和方式进行。
杨梦月：我也同意自进化是时时刻刻地在发生，而且延伸到所有环节。比如说怎么样产生一个trajectory（轨迹，是指智能体在与舆论环境互动过程中所经历的一系列状态和行动的序列 ）。ChatGPT针对问题输出的答案是一个推理过程，可以看成一个创造组合的过程。
其实这就像人去提问，有个forward design。forward design本身有一个机制叫设计的进化。另外一点就是说当它得到了一个反馈后，怎么样去更新现在的轨迹，或者说更新现在的思考链条。也就是说这个反馈，带来 knowledge 怎么样内化到现在的这个轨迹的设计里面，这个过程其实就是backward update。
另外在整个过程，是不是有一些背景 ，比如像一些causal knowledge 或者physical knowledge 能被沉淀下来，成为一些skill或者 mechanism，那整个流程其实就是在逐步的往上提升，形成闭环。这也就是说，forward 、backward 然后再加上memory和skill层面上的共同进化。
02
如果 AI 会进化，benchmark还够用吗？
熊宇轩：传统 AI 任务都依赖benchmark，但自进化后能力会越来越强，静态benchmark可能会跟不上。未来是否需要适配这种自进化，有一些动态生成任务、动态升级评测出现？能让AI参与设计自己的benchmark？
杨梦月：其实这个问题的本质是怎么帮助agent得到一个更好能力。是不是有一个可以增长式的benchmark，甚至说是一个世界模型自我进化式的可以帮助agent去做。
比如做一个具身机器人，一开始环境很简单，后来怎样逐步增加环境复杂度。任务设计要随着agent能力逐步增长。
现在很多benchmark都是静态的，就是给出固定的问题去测试。模型可以专门围绕这个benchmark训练。换句话说，benchmark是有一定参考价值，但是如果目标是通往AGI，就远远不够。我们需要有一个动态的评测，适应当前agent的自进化能力 。
王琰：我其实是有点怀疑，自进化到底能不能被benchmark评测。以前做开放生成、对话、角色扮演时，本来就很难用benchmark评测，很多时候还是靠人评。
静态benchmark肯定不行。动态benchmark能不能行，也不确定。其实现在很多模型，仿真训练的很好，benchmark分也很高，但基本上一上线，agent直接就是各种的问题，必须要用线上的数据飞轮调整一下才会好。现在的静态评测已经有很大的局限性，更复杂的自进化产生后，问题会更复杂。最后可能还是要回到人类评测。
谷雨：我很同意王老师的观点。当一个系统足够复杂后，很难用简单指标量化。一个物体若能被简单指标量化，那它本身的能力就很弱。比如评判好人的指标如何量化，一旦量化，就一定会有人利用这个量化指标，AI一样，这是第一个层面。
另一方面，AI没有太复杂，在这个阶段，benchmark还是能引导我们前进。这里涉及两个层面，一是当AI自进化后，benchmark谁提供？benchmark是一个目标，我觉得还得人提供。
二是人提供benchmark后，怎么做agent？过去的benchmark指引的是value，而对自进化来说，很重要的是趋势。我觉得新的benchmark应该有二维性，横轴是做不做得到任务，纵轴是性能表现，理想状态下应该不断向上提升。
这背后有一个更大的哲学，就是我非常喜欢的一句话，智能并不在于你会做多少事情，而是你怎么会做事情的。过去的benchmark看的是掌握了什么能力，现在回看，我觉得应该是让大模型知道学习的原理，这是很核心的一点。
林涛：我简单补充一下。我确实觉得模型跟benchmark应该是协同进化的。目前我们都是由人来定义这个benchmark是否到了瓶颈，是否需要设计更新更强的benchmark，并且基于这个更强的benchmark去找到单线模型漏洞，进而让模型去训练。
我觉得未来一个重要的点，是有一些半自动化的方式可以实现更加有意义的发现，至少先把后训练这个环节走通，让这个半自动发现的benchmark去提升模型的输出能力。
03
如何防止AI失控？
熊宇轩：在自进化的过程中，AI会不会出现一些问题，比如行为偏移，对不好行为的奖励，以及对记忆的污染。在自我迭代的过程中，它会不会哪天把自己进化到了一个无法控制的地步？
王琰：我来点悲观的。我看过一句话说，过几年，人类只能在没有网的地方生存。我觉得对啊，现在AI进化速度太恐怖了。而我们对安全重视明显是不够的。每家公司都说重视安全，但没见哪家公司，在融资BP里说自己重视安全，能融到很多钱的，但是刚成立几个月的RSI公司，首轮融资就融到了6亿多美元。如果创业公司说自己专注AI安全，可能融不到十分之一的钱。
我认为当下，AI失控或许不是耸人听闻，约束它的也不是技术，而是人性。这是我今天的暴论。
林涛：这就是为什么我刚才说需要有个半自动化的benchmark，一定需要在有人参与的半自动化benchmark设定下进行。至少在一定程度上可以给它一些约束，使它能够通过人类所定义的一些标准。
杨梦月：其实我本身研究方向跟AI trustworthy非常相关。我们说的 trustworthy，包括安全 、可解释性，本质上说，AI的内部一定是白盒可见的。比如说智能体做一个决策，做决策的原因是什么？
我们希望所有这些组件之间，能够形成一种为什么做这个决策的过程，这里面要有一套规则，得被直接的显示出来。在trustworthy或者safety领域，白盒是非常重要的。
熊宇轩：因为杨老师是因果基础模型的背景，如果说要实现在RSI当中的对安全的控制，从因果的角度来看，还有哪些挑战？
杨梦月：挑战还蛮大的。因为传统的causal（因果）方法，是在统计学上面做的。本身这一系列的方法，包括因果发现、因果推断，面对大模型时代复杂的开放世界，是有一些水土不服的，所以说现在我们又回归causal本质的哲学定义上面，包括我说的三层因果阶梯。
这些基本概念在RSI系统里面，或者现在的基模或harness system里面，它到底应该变成一个什么样的形式？我们应该用什么样的constraint去学到它，这个是我们现在正在努力的目标吧。
谷雨：我可能觉得还有两个层面来看。首先是这个AI的可控性能不能受人控制。从更长远的层面说，AI是否凌驾于人，我没有什么想法。马云也说过，对于他控制不了的事情，他不会去想。如果真的到那一天了，我是无法改变的。
我可能更想讨论一下，短期内更具体的AI怎么样变得更可控。我觉得除了杨老师说的可解释性因果关系的挖掘以外，还有两个维度，一个是reliability(可靠性)，一个是verifiability（可验证性）。
reliability简单说是，你这个模型，这次做对了，下次还得做对。结果不能是随机的，要一直可靠，一直做对。verifiability是说如果做错了，它得知道自己做错了。不能说我交付给你一个东西，它自己都不知道对错。短期来看，我觉得是非常现实的两个指标。
04
人使用AI的能力，会像财富差距一样分化
熊宇轩：在AI 自进化中，人会不会和它一样协同进化？人的进化又会不会反过来，帮助 AI 更好的自进化？
林涛：这是一个教育学的问题。从我个人来说，我已经把我大部分的工作流用AI去替代了，随着AI越来越强，我也去替代越来越多的我原来的工作流，并且用这样一种方式加速我各方面的产出。确实，AI帮我提升效率，节省时间，这个可能是我基于AI的某种进化。
因为我是训模型的，把这个放在模型训练的过程中，在一定程度上提升了AI的进化，但我觉得不是特别的多，所以我觉得未来可能大家去进一步探索一下，人怎么去更高效的进化，让AI能进化得更好。
杨梦月：作为教职人员，明显的感觉到，学生用AI工具的越来越多。但是我觉得现在有一个很重要的问题，就是你到底能不能驾驭这些工具？ AI可以给你一个大量内容输出，有时候太相信它的话，可能会让你本身的信念，或科研的感知，被绕到一个奇怪的层面。
我觉得AI对人的进化影响是分层的。有一些学生，如果基础打得非常扎实，他利用AI工具，能快速地产出高质量的工作。但是对一些基础不扎实的学生，他无法驾驭这些AI工具反而会被其误导。
现在我觉得很重要的一点是，大家面对AI工具时，还是不要放弃一些基本观念的构建，和基础知识的学习。当AI给你提供一些错误信息，你怎么样能辨识出来，我觉得这个是非常重要的。
熊宇轩：所以在和AI交互的过程当中，它也倒逼人进化。
杨梦月：我觉得这个是肯定的，AI只会让更好的人更好登顶，但如果本身基础知识不稳固，只是靠AI工具帮助的话，它最后出来的东西只是镀了一层金，本质上还是不行。在这个信息被淹没的时代，还是要把人的本身能动性发挥到最大，不要太依赖于AI工具，学会利用AI工具是最好的状态。
谷雨：很多时候使用AI的工具，其实不知道发生了什么。最近我们公司内部很喜欢引用段永平的一句话，慢就是快。我们深刻的体会到了这一点，让AI coding工具写代码，冲的很快，冲完之后理解还没跟上，可能导致你的level越来越失控，反而要花更多的时间。
回到问题本身，我觉得有两个视角来看，如果把AI当作工具的话，人和工具向来都是有共同演进的关系，因为工具决定了人去掌握什么样的能力。现在人会的这些能力都是由当前这些工具决定的。
但从另一个角度来看，AI是不是只是一个工具。这可能是一个偏哲学的问题。如果AI不是像人一样平等的东西，那未来的演进可能不是一个共同进步的关系，乐观看，未来的人只要躺平就好。不乐观的话，可能要成为AI的附庸。
05
RSI会改变什么？
熊宇轩：以前的经典范式，大多数都是以人为主导。AI自进化是AI agent技术的自然延伸，还是说开启了AI的新范式。它与旧的范式相比，有什么显著的区别？
王琰：我觉得它就是下一阶段。我们现在每个人用的模型都是共享参数，下一阶段肯定每个人会有一块独有的参数区域。现在这个事情有点难，主要是一个infra不支持，太耗成本。
长远来看，每人都可能有一个loRA，infra可以支持实时的loRA，付费用户的 loRA大一点，免费用户只能用基模。
如果这样的infra成立，每个人自己的loRA会执行个人的任务，只需要将前向推理的Delta规则做好，其实就是一个很好的自进化学习范式了。
这相当于基模已经训练好，强化学习和传统的监督学习只是自进化中间的一个阶段，我们只给到task和reward，它有环境会自己做，其实也算半自进化了。在推理层面，任务其实已经是奖励机制，例如模型给出任务结果后，我说“干得好”或“干得太蠢了”，也相当于一种奖励机制。
谷雨：我觉得这不是一个新旧问题，是量变引起质变。它可能既是现有技术范式的延续，又是新的机会。这个量变的维度是什么？我觉得有一个很好的指标，AI做任务的长程程度，这也是现在的一个共识。
随着AI做的任务越来越长程，它就越来越接近这种新方式。比如最早期AI可能只能做单独轮次的对话，后来到多轮，以及现在的长程推理，深度研究，最终可能会有生命全周期的任务，这个任务天然需要不断的发现自己的变化，它自然就成了自进化。
杨梦月：Self-improvement其实不是一个很新的概念了。几年前LLM刚出来时，我们就在做一些类似的工作。我也同意，现在是一个量变引起质变的时刻。
我觉得评判标准不是说只有长程任务。长程任务更多层面上是一种planning，还需要有一些非常精致的操作。比如具身的智能体系统，除了长程规划外，它还会有完成每一个动作的能力。它是一个非常综合的东西，能不能快速的适应到新系统的持续学习 ，每一个精致操作是否能顺利完成。
其实Self-improvement只是一种技术手段，大家最终目的是通往 AGI。关键是，Self-improvement带来的能力是否能让智能体快速泛化到开放的世界，新场景。
熊宇轩：如果未来5-10年，RSI技术已经成熟，智能化的AI很可靠、可控、可部署，它首先会改变什么？
林涛：我觉得会改变一切。你可能一出生就有一个随身AI设备，帮你一起理解这个世界，慢慢地构建属于你的数字身份，带有你的taste，可能有具身，参与到你生活的各个方面。我觉得这是一个可以畅想的事情。
谷雨：我也同意，改变肯定是方方面面的，它不会是具体的某一个场景，具体的某一种机器人或者数字智能体。我希望看到的改变，理想情况下，如果agent已经取代我的话，就挺好的，创业挺累的，有点想躺平了。
王琰：我不希望AI造成大面积失业，我认为它应让我们由一周5天工作制变成三天工作制，一天工作8小时变成一天工作4小时，生产的很多东西变得更便宜，而不是像现在这样一出来许多新东西，就制造焦虑。
杨梦月：我觉得从比较哲学的角度上讨论，人存活在这个世界上，是需要有价值和意义的。现在我每天起来，刷小红书或推特，都能发现新东西，感觉我现在做的东西很快就要被AI取代了，我是很焦虑，我目前在做的研究有什么意义？
所以我觉得很多时候AI可以慢一点，给人一定的空间去思考人本身，当没有了竞争价值后，人的价值到底是什么？
王琰：我补充一句，AI进步的快也行，但是往好的方向进步，别总是想要让人失业，如果能让人工作5天变成3天工作，每天工作4小时，那是最好的。
谷雨：五天变三天了，那就得开40%。
素材｜第八届北京智源大会
主持人｜熊宇轩
整理｜刘培
热门跟贴