企业AI助手正在面临一个现实问题:模型能力越强,调用成本越高。Glean给出的解法是把"用多少智能"的决策从开发阶段移入运行时,让系统根据任务难度动态调配资源。

这家公司的基准测试覆盖了180+企业任务,结果显示,相比Claude Cowork,其运行时路由方案可降低81%的token成本。具体到数字:Glean每查询成本为$0.58,而Claude Cowork为$2.98

打开网易新闻 查看精彩图片

成本降了,体验没降

更关键的是,在78%的测试任务中,用户更偏好Glean的输出结果。这意味着成本下降并非以牺牲回答质量为代价,而是通过更精准的资源分配实现的。

需要特别说明的是,这一基准并非模型对模型的直接对比,而是固定模型推理,对比"上下文+路由"系统的整体表现。换句话说,比拼的是系统调度能力,而非底层模型本身。

对正在控制AI预算的企业团队来说,这种"按需分配智能"的思路,或许比单纯换更便宜的模型更具参考价值。