让智能体自己改自己,最怕改出问题。Google 与 Carnegie Mellon 的论文提出 Harmony Harness,把 agent harness 的自进化拆成多个目标分别优化,而不是拧成一股绳。

把"通过测试"和"堵住漏洞"分开进化

打开网易新闻 查看精彩图片

这套思路的核心,是把通过测试与阻断漏洞建模为两个独立目标,各自进化,再在推理时按任务动态组合。测试要过,漏洞也要堵,两件事不再互相拖后腿。

效果落在数字上:在 SecRepoBench 未见崩溃类型上,66.7% 的修复既有效又阻断了漏洞,起始 harness 只有 36.7%。

安全收益保留 55%,基线是 0%

更关键的一项对比是安全收益保留率:Harmony Harness 为 55%,而 DGM 基线为 0%。也就是说,后者在自改进过程中把安全收益丢了个干净。

多目标进化没有让智能体变慢,而是让它学会在不同任务里切换侧重——该过测试时过测试,该堵漏洞时堵漏洞。