上个月,Anthropic在公开报告中预言AI即将迈入“递归自我提升”(RSI)阶段,并给出了一组数字:2024年3月,Claude 3 Opus只能替代人类完成4分钟的工作;一年后,3.7 Sonnet能扛下1.5小时的任务;最新4.6 Opus已能支撑12小时的连续工作。每7个月,AI承担人类工作时长的能力就翻一番,比摩尔定律还快。同一时间,由陈天桥出资并亲自掌舵的AI公司Apodex,将自己的首席科学家推到台前。他们只专注于一件事——打造能自己进化、专啃无解难题的“发现模型”。
这家公司的定位相当特别,不卷通用对话,也不磨编程辅助,而是直指“重型求解器”。他们要的模型,不是从已知信息中掏答案,而是生成人类从未提出的假设,自己想办法验证,去拆解医学、气候等尚未有标准答案的终极问题。实现路径就四个字:自我进化。Apodex的两位首席科学家——华盛顿大学副教授Simon杜少雷(推理模型与训练方向)和负责自我进化与编程方向的Beibin Li,在与《硅谷101》的对话中,勾勒出一条清晰的时间线。
自进化并不是新概念。三年前,Google就发表过“LLM as Optimizer”论文,用大语言模型当优化器来调优其他模块;同一时期,Beibin在微软研究院参与的AutoGen项目,也出现了“agent optimizer”和“teachable agent”——智能体教智能体,下次工作时可调用已有技能。那时模型能力还不够强,一次自优化顶多撑两三个小时,偏差和短板需要人频繁干预。转折点出现在模型写代码能力飙升之后。
“Anthropic有八成的代码是自己写的。”Beibin指出。合成数据的生成、自然语言数据的清理、自我训练学习的代码和算法,甚至底层基础设施的代码,本质上全是代码。模型写代码的能力一旦上来,用它来改写自己、训练自己,就成了最自然的水到渠成。今年初,Andrej Karpathy发布AutoResearch,把“AI自己搞科研”炸成行业热点,那种闭环动作被摆上台面:模型自己找问题、自己出题、自己解答、自己训练自己。
今年的不同,就藏在“递归”那一个字母里。过去像LLM as Optimizer那样的优化,是一次性的短链升级;现在模型能吞下长达几十小时、需要多个步骤互相印证的长程任务。以处理播客为例,它可以先剪辑音频,自己听一遍,发现裁错就重剪,来回循环数次,再推进到下一环节,全程无需人类盯着。能力变强,让同一个模型能在同一条任务链上反复自我提升多次,这才是递归自我提升(RSI)真正跑起来的底子。
“每一波方向,内核都是长链推理能力在往上走。”Beibin把Deep Research、Coding、自进化这三年热点串起来看,表面分属不同领域,实则是同一个引擎在不同磨坊里转动。他在Meta、xAI时期跟进的Agentic RL,用强化学习增强智能体用工具、写代码的能力,已经为现在的自进化埋下种子。一年前,他和Simon就断定模型自我提高绝对可行,当时他们所做的强化学习数据生成,就有一大块由代码驱动。
实现闭环的路径图,也被两位科学家勾出了关键节点。Beibin预言,最快半年,AI就能跑通一次完整的自进化流程——从假设生成、实验设计、数据收集到模型更新,形成一个圆环。但要进入持续的、可靠的递归提升,模型必须先过一关:成为自己的考官。它必须能自我验证,判断自己产出的假设对不对、实验设计是否稳健,这逼着模型练出“科学家的品味”——大胆假设之后,知道什么是好的求证。
而支撑模型吃下长程任务的硬核功夫,藏在架构创新里。“传统的Self-attention是O(n²),当任务链条过长,计算成本会以平方级暴增。”Beibin解释,这正是技术攻坚的方向。虽然具体细节未展开,但信号已经清晰:从三年前的牛刀小试,到如今八成代码自写、任务链逐月翻倍,支撑递归自进化的每一个齿轮都在加速咬合。陈天桥押注的这个“发现模型”,正在把科幻中的自我进化,拉进一个半年倒计时的现实。
热门跟贴