大家好,我是袋鼠帝

我最近在疯狂使用Fable 5,好用是好用,就是太贵啦!

不过不是在Claude 官方使用的,因为我最新的一个号,在7月1号又tm被封了,服了都(已经记不清是第几个了)

打开网易新闻 查看精彩图片

A社真就是那种贱兮兮的公司,看不惯又干不掉它...

所以,我最近都是在Cursor上用的Fable 5,虽然我下血本充了200$的订阅,但跑了两天Fable 5,总用量就已经超过48%了。。。

打开网易新闻 查看精彩图片

整的我都有点不敢用了,除非核心任务,其他时候我都只敢开启auto模式(自动选择模型)

不过让我兴奋的是,最近发现了一个很便宜的平替方案,是在X上刷到的一个很有意思的开源项目:OpenSquilla 0.5.0(在Github 已经有5.5K Star)

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

当时我还发了一篇推文

打开网易新闻 查看精彩图片

说实话,用了那么多Agent,也一直浸泡在AI里面。已经很少有让我兴奋的东西了。

但这次看完这个项目,让我久违的产生了兴奋感。

它揭示了一个非常反常识的事:一组便宜的国产模型以一定的方式组合起来,居然可以在公开评测上打赢国外更强的旗舰模型们(Claude Fable 5、Opus4.8、GPT-5.5)

简单来说,就是三个臭皮匠,顶个诸葛亮的意思。

打开网易新闻 查看精彩图片

它解决了什么问题?

目前大部分的 AI Agent 存在一个很明显的瓶颈:算力分配过于粗放

在实际使用过程中或多或少有下面这些问题:

传统的路由方法(如根据输入 Prompt 的难度来决定调用大模型还是小模型)通常只针对“单次对话”。

但在复杂的 Agent 执行过程中(比如涉及多步推理、工具调用等等..),是有状态且多步的。效果就比较差。

而且现在的模型还挺偏科的:有的擅长代码,有的长上下文理解能力强,有的agent能力更强,有的是速度快+便宜(比如flash模型)。貌似很少有六边形战士。

以及实际使用的 Agent 框架(如 OpenClaw),如果全局都用最强模型(比如Fable 5),成本高的就简直没边了...如果全用小模型,一旦在某个关键点失败,连锁反应和时间成本反而会更高。

OpenSquilla 解决的核心问题就是:如何在 Agent 执行的每一个具体步骤中,根据当前的上下文状态和任务风险,动态且精准的匹配最合适的模型,从而在不牺牲甚至提升整体任务成功率的前提下,大幅降低成本。

另外,OpenSquilla完全开源,甚至有桌面客户端,傻瓜式安装好就能用了。

打开网易新闻 查看精彩图片

Github仓库地址:

https://github.com/opensquilla/opensquilla

支持Mac、Windows、Linux,这点还挺棒的。

打开网易新闻 查看精彩图片

另外,OpenSquilla是通过 步级(Step-level)的上下文感知路由替代了传统的查询级路由,还支持两种核心运行模式:

单模型路由(省钱模式 / Singleton Routing):

在 Agent 运行的每一步,系统会评估当前状态(比如:这是一个简单的格式转换,还是一个高难度的代码 Debug?上下文有多大?上一步工具调用是否报错?)。对于低风险的常规操作,路由会精准分配轻量级模型;只有在关键节点或需要错误恢复时,才拉起更贵的强大模型。

多模型集成路由(高精度模式 / Multi-Model Routing):

面对高难度、高风险或无法撤销的操作时,路由会同时选择几个能力互补的模型(比如:一个主攻逻辑生成,一个负责低成本纠错,一个核对 API 格式),然后通过聚合策略(Aggregator)将它们的输出整合。这种策略能突破单一顶配模型的性能天花板。

打开网易新闻 查看精彩图片

我看了下技术报告,他们在 DRACO 测了 100 道高难度研究任务:

对上Anthropic最强模型 Fable5,分数略高(60.85 vs 59.80),成本只有约 1/3(0.39vs1.21)

打开网易新闻 查看精彩图片

对上单跑的 Opus 4.8 和 GPT-5.5,质量分更高,成本低约 86-92%

说实话一开始我是保持怀疑的。

但其中有一些细节,又让我觉得这次不太像跑分作秀。

一个是DRACO本身:

它是Perplexity和OpenAI一起开源的公开评测集,100道高难度的研究、分析类任务,题目和评分全都有了。而且数据集在HuggingFace,任何人都可以自己去验证,去复现:

https://huggingface.co/datasets/perplexity-ai/draco

打开网易新闻 查看精彩图片

还有一个原因是,我发现这已经是他们第二次用这类数据说话了(第一次没有暴雷,反而Star一直在涨,感觉还是有可信度的)。

之前就在README里放了一组PinchBench的结果:

用一套国产为主的模型路由组合,去跟单跑的Opus 4.7比,25个任务平均分几乎打平(0.9251 vs 0.9255),但成本一边是$0.688,另一边是$6.233。

打开网易新闻 查看精彩图片

差了9倍,看到这个的时候我人都麻了。。这也太省钱了吧!

他们更早还发过一篇Claw-SWE-Bench论文,有个结论让我印象深刻:

同一个模型,换一个Harness(Agent的工程外壳),结果最多能差27.4个百分点。

打开网易新闻 查看精彩图片

模型没变,但性能天差地别。

然后我还看了一下他们的技术路线:

先是做了智能路由,就是就简单任务自动分给便宜模型;

后面又做了MetaSkill自组织工作流、可验证编码;

这次0.5.0直接上多模型集成。每一次都在死磕同一件事,不改变模型,通过改变模型的用法来降低成本,提升性能。

所以这次DRACO的成绩,在我看来不是一次偶然,而是这条线走到今天的一次阶段性验收。

方向清楚,动作连续,不得不说这个团队执着专研的精神我还是挺佩服的。

而且这事儿背后,有两条一直往前走的曲线:

一条是国产模型本身在变好(迭代非常迅速,体感上也是在明显变得越来越好用)。

国产模型一直在刷新大模型竞技场的开源第一;

Kimi、GLM、Qwen、MiniMax、豆包这一年的迭代速度大家也都看在眼里。

虽然目前它们中的任何一个单拎出来和顶尖旗舰模型确实还有差距,但这个差距在肉眼可见的缩小。

而且国产模型的一大优势就是性价比很高。要不然为什么openrouter调用量排名前10的模型,80%都是国产呢?

打开网易新闻 查看精彩图片

另一条是组织模型的方法在变好。

从最早的单模型硬扛,到路由分流,再到现在的并行提案加聚合,Harness这一层的工程化开始逐渐发力。

两条曲线各自往上走,叠加在一起:"用一组国产模型媲美一个顶尖旗舰模型"这件事,大概率会慢慢变成常态。

当然它也不是没有代价,我测试了一下,多个模型并行提案再聚合,速度比单模型慢,那种对时效性要求较高的场景不一定合适。

不过有得就有失,自古鱼和熊掌不可得兼。

便宜和快,目前只能先选一个。你会选哪个呢?欢迎评论区聊聊

「最后」

我觉得接下来AI Agent 的效率/性能红利,可能真的不只在「换一个更贵/好用的模型」上。

国产模型单拎出来确实和顶尖旗舰有差距,但组织好了,甚至能打赢,成本还低。

这或许会成为下个阶段的主流方向。

《孙子兵法》里那句"善战者,求之于势,不责于人",没想到两千多年后在AI身上也成立了:不苛求每个兵都能以一挡百,把阵摆对,借助天时地利,就能战胜强大的对手(干掉A社!!)。

对我们这种天天靠Agent干活的人意义非常重大!

对了,OpenSquilla官方还有个产品体验官计划,想参与的朋友可以去看看:

https://opensquilla.ai/zh/invite/

打开网易新闻 查看精彩图片

Agent 的下一步,是继续追更贵的模型,还是把高性价比模型组织起来使用?欢迎评论区大胆发表你的看法,大家一起交流交流。

我是袋鼠帝,一个致力于帮你把AI变成生产力的博主。我们下期见~

能看到这里的都是凤毛麟角的存在!

如果觉得不错,随手点个赞、在看、转发三连吧~

如果想第一时间收到推送,也可以给我个星标⭐

谢谢你耐心看完我的文章~