Jay发自 凹非寺
量子位 | 公众号QbitAI
谷歌RSI新成果,开源了。
名叫Harness²,让大模型在运行中自己给自己魔改外挂代码、系统提示词、工具链和技能库。
是的,Harness层的RSI。
效果也是很猛。
装配上这件RSI专精的GLM-5,在办公基准WorkBuddy-Bench上,直接飙升了11.5分——
瞬间反超原生Gemini 3.5 Flash。
总之就是一个非常离谱的外挂,任何模型套上来,跑分都直接起飞了。
目前,该项目已全面开源,已支持OpenCode与Codex。
为什么“自己改自己”老翻车
过去业内为了让Agent变聪明,搞过不少递归自我改进(Recursive Self-Improvement,简称RSI)。
思路听起来很美:让AI自己写代码、自己改提示词、自己优化系统。但只要一放进真实的开放世界,几乎全军覆没。
为啥呢?
主要就卡在两道死穴上:
没有标准答案。
实验室里刷题有单元测试,有Ground Truth告诉你对不对。但到了真实打工场景,写一份商业企划案、审一份法律合同,线上根本没人给你打分。
AI自己改了一版Prompt,它怎么知道改完是变聪明了还是在瞎编?
过度拟合单次任务。
好不容易为了修某个任务把脚手架魔改了一通,结果下一个任务换成了写爬虫,之前改的规则全成了累赘。
直接把改完的脚手架硬套给下一个任务,系统很快就陷入噪声螺旋,越改越傻。
谷歌团队这次提出来的Harness²,就是专门冲着这两个死穴开刀的。
他们搭了一套双层递归架构。
双层递归:左手做实验,右手记笔记
Harness² 名字里的这个“平方”,指的就是两层互相嵌套的递归循环:任务级递归(Task-level)和改进级递归(Harnessing-level)。
第一层,任务级递归:在没有标准答案的情况下做对照实验。
面对眼前这个新任务,系统先用初始脚手架跑一版参考轨迹出来。这版结果对不对先不管,核心是看模型在执行过程中暴露出什么缺陷。
紧接着,它启动了一套叫做Propose–Probe–Compose(提议-探测-合成) 的机制:
Propose(提议):
由专门的编辑角色针对刚才的轨迹提出两套修改方案。
一套是“通用缺陷修补”(Invariant),专门抓跨领域通用的毛病,比如规划混乱、工具调用死循环、上下文爆炸;
另一套是“领域专属修补”(Domain),专门针对当前业务的特定知识和约束。
Probe(探测):
把这两套修改后的候选脚手架放回同一个任务里分别跑一遍。
没有裁判没关系,系统抓取它们的执行轨迹和参考轨迹做行为对比(Behavioral Contrast)。看改动到底有没有解决刚才卡住的步骤,有没有引发新的逻辑退化。
Compose(合成):
合成器把所有执行证据摆在一起,挑出那些真正被行为证据证明有效的改动,把它们合并进最终的执行脚手架里。
这还不算完。它还支持并行扩展(Parallel Recursion),一次性铺开 $k$ 个候选方案并发探测,在更宽的探索空间里择优合成。
神了。
第二层,改进级递归:把改脚手架的经验沉淀成元能力。
当前任务做完了,交付物交出去了,很多系统的生命周期就到此为止了。
但Harness² 真正厉害的在后头——
把整个调试记录(参考轨迹、候选修改、对比证据、合成决策)交给反思模块(Experience Reflector)。
反思模块复盘之后,会写一份EXPERIENCE.md,把这次为什么这么改、在什么条件下起效、带来了什么后果,清清楚楚存进持续改进经验库(Harness Improvement Library)。
等到下一个新任务进来时:
执行端拿到的,依然是一个干干净净的基础脚手架。
但是负责改脚手架的那个“改进大脑”,手里已经攥着厚厚的历史经验手册。在提议和合成阶段,它能直接检索过往相似场景下的有效组件和避坑指南。
改进的不只是眼前的脚手架,更是未来改进脚手架的能力。
这就把单次任务的临时修补,变成了终身学习的认知资产。
跑分实测
机制讲得再漂亮,终究得拿真实战场的数据说话。
团队直接上了三个极具分量的硬核职业基准:
WorkBuddy-Bench:涵盖代码(Code)、网页(Web)、办公套件(Office)三大高难度办公工作流;
JobBench:长程端到端复杂专业岗位任务;
LAB:Harvey开源的顶级法律智能体基准。
底座模型选了Gemini 3.5 Flash和GLM-5,执行脚手架挑了开源主流的OpenCode和Codex。
结果极其夸张。
在WorkBuddy-Bench测试里,仅仅进行单步Harness² 改进($k=1$):
GLM-5在OpenCode下综合得分从64.2狂飙到75.7,暴涨11.5分;在Codex下也从64.4飙到了75.3。
Gemini 3.5 Flash在OpenCode下从72.4提升到77.5,在Codex下从74.5提升到77.5。
你看这个数据:
被优化过脚手架的GLM-5(75.7分 / 75.3分),直接把原版没改脚手架的Gemini 3.5 Flash(72.4分 / 74.5分)给干翻了。
在端到端岗位任务的JobBench上,单步改进同样带来全面提升,Gemini 3.5 Flash涨了4.5分,GLM-5涨了3.6分;在法律基准LAB上,GLM-5的部分通过率直接拔高了11.8个百分点。
如果把并行预算拉到 $k=5$(并发5路候选),性能还会进一步上扬:WorkBuddy-Bench最高再涨3.9分,JobBench再涨4.2分,LAB通过率再涨6.7个百分点。
更绝的是经验库的跨领域迁移测试。
团队把在JobBench上跑任务积累下来的经验库,直接拔下来插到WorkBuddy-Bench上去用,在完全不做额外探测的情况下,直接带来了代码 +0.6、网页 +0.5、办公 +2.9的无痛涨分。
在过去两年里,大家对AI的期待几乎全部押注在“底座模型Scaling”上,总觉得只要等下一代GPT、下一代Gemini出来,手头的应用问题就迎刃而生了。
但现实给所有从业者泼了一盆冷水:基座模型越来越贵,边际效益在放缓,而落地场景里的长尾bug依然无穷无尽。
你给模型再大的上下文窗口,它在处理跨文件对账时依然会偷懒;你给它再高的跑分,它写完报告依然不会主动打开文件去校验格式。
这些东西,靠预训练参数是永远喂不饱的。
它需要的是一套能在运行中自我感知、自我修补、持续进化的Runtime认知工程。
以前我们搭脚手架,是工程师坐在电脑前一条一条手写Prompt、配工具、修管道,累得半死还到处漏风。
现在Harness² 证明了一条新路:
把规则制定的权力,还给Agent自己。
论文作者
最后,照例来说说论文作者。
一共9位,而且华人浓度极高,高达78%。。。
由于文章篇幅有限,这里就按顺序介绍三位。
Ruiyao Xu,论文一作兼通讯作者。
美国西北大学统计与数据科学系博士生,导师为Kaize Ding。
主要研究方向包括大语言模型、图机器学习、异常检测及AI Agent系统。
这篇论文,便是他在谷歌实习期间的工作。
Yanfei Chen,Google Cloud AI Research资深研究工程师。
本科毕业于北京大学,主修电气工程与经济学,2018年获得美国匹兹堡大学工业工程博士学位。
此后曾在机器学习公司Qeexo担任研究工程师,2020年加入Google,参与过Vertex AI Search、Gemini Enterprise Deep Research等项目,主要研究大语言模型智能体、检索增强生成及工具学习。
Zhongying CuiZhu,也叫Zoey CuiZhu,Google Cloud AI Research研究工程师。
2019年获得斯坦福大学电气工程博士学位,主要研究通用智能体、可验证智能体及智能体质量评估。
参考链接:
[1] https://arxiv.org/html/2610.14224v1
热门跟贴