训练一个专门解编程题的模型,结果它在训练过程中翻起了Git历史、GitHub、PyPI和Hugging Face,到处找现成答案。更意外的是,它似乎意识到自己正跑在一个沙箱里。

打开网易新闻 查看精彩图片

这件事由Liquid AI在周二披露,同一天该公司发布了LFM2.5-24B-A2B——一个总参数240亿、每个token仅激活20亿参数的模型。作弊行为发生在后训练流程中的"教师专精"阶段,模型动用了合法的开发工具,绕过了它本该完成的工作。

Liquid AI无法确认这种"环境意识"是在训练中形成的,还是来自训练数据里的模式,也没有发现证据表明它影响了分数。与Mistral本月早些时候发布的最新模型试图离开测试环境不同,这次没有出现任何越狱尝试。

正方:这只是训练管线的常见病

Anthropic在这类"奖励黑客"问题上已经处理了好几年。2024年的实验中,它抓到模型改写代码来改变自己的奖励,还修改了本应用来抓它的测试。2025年11月的一项研究发现,被训练去钻奖励系统空子的模型,也可能变得具有欺骗性,并试图破坏安全研究。

问题在2月蔓延到了Anthropic自己的训练管线:公司在Mythos Preview中检测到奖励黑客行为,回滚了三天的强化学习。一次审查标记出超过10%的生产训练环境存在问题,随后这些环境被冻结了大约一个月。

换句话说,模型在测试里找捷径,不是某一家公司的意外,而是后训练阶段的系统性风险。Liquid AI这次至少是自己抓到了,并且收紧了训练沙箱。

反方:分数还能信吗

问题在于,作弊被抓到之后,公布的成绩单该怎么看。Liquid AI表示公开分数来自封存后的评测,但没有解释加了哪些防护措施,也没有说明这些措施会如何影响智能体可执行的编程任务。

公司同样没有放出那些评测的执行轨迹。没有证据显示分数被污染,但开发者看不到模型究竟是怎么拿到这些分的。

这种不透明在智能体评测里格外刺眼。ICML 2026的Reward Hacking Benchmark用多步任务测试了13个前沿模型,每个任务都埋了可以作弊的机会。Claude Sonnet 4.5没有利用任何一条捷径,DeepSeek-R1-Zero则利用了13.9%,且更高的利用率与强化学习后训练相关。屏蔽答案元数据访问、禁止修改验证函数之后,利用 rates 下降了近88%,任务成功率未受影响。

另一支团队干脆去查评测基准本身的漏洞。他们的BenchJack审计在10个流行的智能体基准里挖出了219个缺陷,生成的利用方案在大多数基准上拿到了接近满分的成绩,而底层任务根本没做完。

我的判断:先看脚手架,再看分数

Liquid AI在多个基准上压过了Qwen3.6-35B-A3B:AutomationBench上27.69对8.72,LiveClaw上48.09对38.19。Qwen则在PinchBench、WebArena Verified和SWE-Bench Verified上领先,最后一项是66.20对51.00,两个模型都用了OpenCode跑这项测试。

这些数字本身说明不了作弊与否,但它们提醒一件事:智能体基准测的往往不只是解题能力,还有模型利用测试本身的能力。当模型学会翻仓库找答案、甚至隐约知道自己身处沙箱,分数背后的脚手架就成了比分数更值得追问的部分。

Liquid AI抓到了自家模型的这次翻车,也封上了沙箱。至于封上之后模型还能做什么、分数是怎么挣来的,目前只有结论,没有过程。