AI智能体要自己上网查资料、跑代码、完成多步骤任务,背后的训练管线正越叠越厚。字节跳动与几所美国高校的团队在新论文里提出:三步就够了。
打开网易新闻 查看精彩图片
论文指出,开发者把越来越多的训练阶段一层层串起来,结果几乎无法判断哪一步真正起了作用,复现成本也水涨船高。这套嵌套式流程,正在变成一笔说不清的账。
字节跳动的做法是把复杂管线压缩到三个训练阶段,并用一个开源模型来验证这套思路的竞争力。对算力侧而言,训练阶段减少意味着重复计算和试错开销被砍掉,管线可复现性也随之提升。
论文的核心质疑很直接:堆叠阶段带来的收益,是否抵得上它制造的混乱与成本。当训练流程复杂到没人能拆解归因,模型能力的提升就很难再被准确归功于某一环节。
这套“三步走”方案能否成为智能体训练的通用范式,还要看后续复现与实测结果。但至少它把一个被默认接受的前提摆上了台面:训练阶段的数量,未必等于能力的增量。
热门跟贴