Google DeepMind 提出了一种名为 Pandora's Router 的模型路由新思路,将路由决策建模为“潘多拉魔盒问题”。核心逻辑很直接:先给每个专家模型一个廉价粗略评分,只有当额外信息的预期价值高于成本时,才付费运行更强的评估器。

成本与遗憾双降

打开网易新闻 查看精彩图片

在 MATH、RAG 和 EmbedLLM 基准上,该方法的综合路由遗憾与检查成本达到最低或并列最低。以 EmbedLLM 为例,平均检查成本从 1.986 降至 0.075,降幅超过96%;路由遗憾也从 0.370 降至 0.311

按需付费的评估逻辑

这套机制的本质是避免“一刀切”式的高成本评估。对于简单问题,粗略评分足够;只有面对复杂任务时,系统才愿意为更精确的判断支付额外计算开销。

这种“按需付费”的路由策略,为多模型调度提供了一种更经济的平衡点——在准确性和资源消耗之间,不再需要二选一。