自动模式成为默认选项

AI编程公司Replit正在把“智能模型路由”系统设为所有账户的默认配置。该系统会在任务执行过程中自动选择由哪个底层模型来处理，路由决策会综合权衡质量、速度和成本。

打开网易新闻 查看精彩图片

Replit表示，这项名为Auto mode的功能将成为所有用户的默认选项。Core和Pro订阅用户仍可手动覆盖该设置，在需要更多控制权时自行选择模型。

模型路由赛道近期动作密集

这一消息紧跟着模型路由领域的一系列动态。8月早些时候，Stripe同意以据报道80亿美元的价格收购模型网关平台OpenRouter；同一天，Ramp推出了Router.com，该平台会把请求路由到满足指定性能标准的最低成本模型。

更早之前的7月，SpaceX旗下的Cursor推出了自己的路由器，可自动为编程请求选择模型，并声称能以大幅降低的成本提供相当的性能。与此同时，据报道Meta正在开发一款名为“Switchboard”的内部路由器，它会按难度给编程任务打分，把较简单的任务交给更便宜的模型。

成本差距带来优化空间

Replit总裁兼AI负责人Michele Catasta表示，推动路由技术更广泛应用的一个原因很简单，就是经济性——模型成本与开发者在特定任务中实际所需能力之间的差距正在扩大。

“在同一个模型家族里，每个token的费率可能相差几个数量级。”Catasta告诉The New Stack，“与此同时，更便宜、更小的模型在智能水平上已经更接近它们更大的前沿同类，这给了我们很大的成本优化空间。”

长期测试后才推向公开

Replit朝这个方向推进已有一段时间。Catasta称，公司最近几个月一直在试验Auto mode的早期版本、子代理路由以及多个迭代版本。

“像任何关键发布一样，我们在beta阶段对智能模型路由进行了长时间测试，之后才决定公开发布。”他说，“最重要的收获是从第一性原理理解每个实验的失败模式，这样我们才能在刚刚交付的最终系统上持续爬坡优化。”

从免费模式扩展到更广范围

这项工作的基础在上周浮出水面，当时Replit推出了Free Mode，这是一种成本更低的Agent模式，不消耗使用额度，并会使用Auto在用量限制范围内替用户选择模型。

现在，同样的Auto路由方法正被更广泛地推广到Replit各处。该公司表示，智能模型路由系统会随着任务变化自动选择底层模型，并在路由决策中持续权衡质量、速度和成本。