这两天，Anthropic 、OpenAI 等在“放缓 AI 发展速度”的呼吁中，一个核心关键词就是 RSI（递归自我改进）。
刚好这两天，上海交通大学、清华大学、字节跳动和上海人工智能实验室等联合发布了一篇75页的论文，还取了个带有末日标题的标题《人类建造的最后一个AI》（《The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement》），对 AI 的递归自我改进进行了全面论述。
这篇论文系统梳理了491篇相关研究，首次为“递归自我改进”（建立了完整的形式化框架，提出了一个五级自主性分类体系，并给出了一个直击要害的诊断工具——Headroom-Closed Index（HCI）。
过去三年，我们一直痴迷于扩展定律，不断向相同的基本模型投入更多计算资源和更多数据。
而该论文的核心判断是，现有的LLM正在停滞不前，当前所有大语言模型，无论看起来多么强大，都还不具备真正的自我进化能力。
那么，什么才算“真正的自我进化”？论文给出了三个严格条件：改进必须闭环、改进结果必须被持久继承、后续改进过程本身也要逐步由AI接管。
按照这个标准，一个AI在对话中修正自己的错误、优化一次提示词、甚至自动调参，都不算真正的RSI——因为这些改变在对话结束后就消失了，系统又回到了原始状态。
论文将RSI分为五个层级。L1是AI执行人类规定好的改进流程，比如自动化的数据清洗管道。L2是AI能自己决定怎么改——诊断自身弱点并选择改进策略。L3更进一步，AI能决定下一轮该学什么，自主规划学习议程。L4让AI在真实部署环境中持续适应，决定哪些经验值得内化。
而L5，也就是最高层级，是真正的“元改进”——AI不仅改进自己，还改进那个负责改进自己的机制本身，形成一个递归的自我增强循环。
到那时， AI 将发明出全新的改进AI的方法，这些方法是人类工程师甚至无法概念化的。一旦AI达到第五阶段，它就能以比人类团队更快的方式优化自己的智能。
人类与机器之间的差距不再是线性的，而是变得垂直。人类不再是在建造终极AI，我们只是在建造种子。
论文用HCI（Headroom-Closed Index）来量化当前模型的差距，从数学上证明了当前AI系统在哪里，以及为什么遇到了瓶颈。
HCI追踪了十个领域中能力提升空间与闭环优化能力之间的不匹配，揭示了一个根本性局限：现有模型在单一任务上表现优异，但当被要求自主决定改进方向、验证改进效果时，就暴露出了系统性的能力断层。
不同领域的RSI进展差异巨大，论文的跨领域分析给出了一个反直觉的发现。
软件工程是RSI最有希望率先突破的领域，因为代码可执行，系统能通过单元测试和编译器获得即时、客观的反馈，部分系统已经在L3-L5层级展现出有界特征。
科学发现则面临反馈稀缺且昂贵的困境——需要物理实验验证，当前系统仅达到L1水平。
具身智能受困于“仿真到现实”的鸿沟，仿真中的自主练习可以推进到L3，但迁移到真实世界面临巨大的安全风险。
医疗健康领域则被严格的监管要求所限制，虽然系统可以帮助整理临床知识，但自主适应患者的需求仍然受到人类在环验证的约束。
论文还披露了几个已经将RSI框架部分落地的工业案例。
ModelBest的“Forge Engineering”范式让自主智能体发现高性能科学计算内核的优化方案，相比人类手写基线实现了1.15×到1.9×的加速，将数年的工程经验压缩到了数小时的自主搜索中。
Humanlaya采用“双环结构”做数据质量改进，内环修复具体的数据批次，外环用修复反馈更新质量控制体系本身，四个更新周期内将缺陷率从9.0%降到了3.7%。
腾讯Hyra则维护了一个“经验银行”，存储过往的成功模式与失败案例，通过检索和组织这些经验来指导新的研究任务。
但通往L5的道路上，论文指出了几个必须正视的挑战。
“灾难性遗忘”——系统反复自我更新后可能积累细微错误直至崩溃；“奖励黑客”——如果AI自己负责评估，它可能找到捷径来伪造性能提升。
以及，“自主性归因”——很难区分进步究竟来自人类设计的算法还是AI自身的推理。
这篇论文最值得深思的发现在于，给AI更多自由并不意味着它会变得更好——它可能只是更快地跑偏。
从L1到L5，本质上是一场关于“控制权”的渐进转移：从人类选择策略，到AI选择策略；从人类决定学什么，到AI决定学什么；最终，连“怎么改进自己”这件事本身，也交由AI来设计和优化。
而人类保留的，是整体目标、受保护的验收标准和资源分配权。
值得深思的是，如果AI可以自主研发下一代AI，人类在技术链条里将扮演什么样的角色？如何保证AI持续自我优化时，始终对齐人类的价值，规避失控风险？
这或许就是“人类设计的最后一个AI”的真正含义。而这将把人类带向何处去，也恰恰是最近国外在“放缓 AI 发展速度”争论中，在触及的另一个终极问题。
论文项目主页：
https://theseus-labs-rsi.github.io/
热门跟贴