Ramp 的工程师花了几个月时间,把市面上的托管智能体接口、开源框架和第三方平台挨个测了一遍,最后得出一个结论:不如自己造。结果就是 Laminar——一套内部智能体运行框架,第一版只用了六周,现在支撑着这家金融科技公司所有的智能体产品。

打开网易新闻 查看精彩图片

“我们研究了市场上的其他方案,认定自建能做得更好、跑得更快,也更贴合我们想去的方向。”主导这套平台的 Ramp 工程师 Sam Kronick 在公司工程博客里写道。这句话背后是一个很现实的判断:现成的工具,不够用。

Ramp 在周二的博客里拆解了 Laminar 的设计:把智能体执行、沙箱、可观测性和异步工作流收进同一个平台。这套架构引来了 LangChain CEO Harrison Chase 的注意,他在 X 上点赞了其中几个设计选择,同时提到 LangChain 的 Deep Agents 也在做类似的事。两家公司从不同方向切同一个问题,指向的是智能体基础设施的一次整体位移——当运行框架承担的责任越来越多,企业就得决定:这套东西,自己养多少。

为什么非要自己造

Ramp 不想被单一模型供应商锁死。它需要根据成本、速度和性能随时切换模型,也需要更清楚地看到智能体到底在干什么。工程师们早就在翻调用链,找多余的工具调用、臃肿的上下文和报错,但现成的可观测性工具让这件事比应有的难度更高。于是 Ramp 把调试界面直接做进了 Laminar。开发留在内部还带来一个好处:框架团队能直接和产品工程师对接,不用等供应商排期改东西。

Chase 认同 Ramp 的这些优先级,尤其是模型无关性和可观测性——这两点 LangChain 在自己的工作里也反复强调。Laminar 架构里还有别的部分引起了他的兴趣。

会话和沙箱分开

Laminar 上跑的东西从客服智能体,到 Ramp 自家的云端编码智能体 Ramp Inspect,再到处理长周期协作任务的 Glass。要撑住这些产品,框架得管得住持久会话、人工审批和跨环境作业。

Chase 特别提到 Kronick 的一个观察:生产级框架做的事,远不止跑一个简单的执行循环。“+100 同意,”他写道,并指向 LangChain 在 Deep Agents 上的投入。

Ramp 把智能体会话和运行代码的沙箱分开。对话历史和執行状态独立存储,沙箱可以随时启停而不打断会话。Chase 认为“沙箱即工具”是一种正在成型的趋势,Deep Agents 用了类似设计。这种拆法还把凭证和编排留在沙箱之外——当开发者要隔离运行不可信代码的智能体时,这一点很关键。

默认异步,成本靠路由压

Laminar 让智能体不必等每一步都跑完才继续。Chase 把非阻塞的异步智能体称为未来,并表示 LangChain 正在为 Deep Agents 开发类似能力。Ramp 的 Connectors Service 也引起了他的注意:它把认证、凭证、访问控制和工具执行集中到一个共享接口后面。Chase 说 LangChain 正在为托管版 Deep Agents 探索可比的功能。集中管理这些能力,也让平台团队有了统一的地方处理访问和凭证,不必为每个智能体各写一套。

框架也是压推理成本的地方,LangChain 已经把这件事摆上了台面。在 10 月 1 日的一篇工程博客里,它描述了把模型选择搬进开源编码智能体 Open SWE 框架的做法:一个路由器先看初始请求,按预期任务复杂度分配三种模型之一——最简单的活给 GLM-5.3-Flash,中等任务给 GPT-5.6 Sol,最吃力的请求给 GPT-6 Astra。

在 973 个智能体线程上,路由器把每线程的 LLM 成本中位数从 2.61 美元压到 0.94 美元,相比全部任务都用 GPT-6 Astra,降幅 64%。省钱没有带来可测量的性能损失:路由线程的合并拉取请求率为 29.2%,对照组为 27.3%,差异在统计上不显著。九成请求流向了两个更便宜的模型档位。

LangChain 认为,路由放在框架里比放在通用 LLM 网关上效果更好,因为网关对智能体正在做什么了解更少。框架本身知道涉及哪些提示词、工具和领域上下文,做选择时信息更充分。LangChain 用模型选择中间件在每个线程开始时挑模型。

这些结果并不能说明自建框架比用现成框架更便宜——Ramp 没有参与这项实验。但它们确实显示,在框架层面做更聪明的模型选择能省下多少钱,尤其是当智能体处理的任务难度差异很大时。

自建的账还没算完

Ramp 的决定也照出了编码智能体如何改变了基础设施成本。Kronick 说,Laminar 的初始代码全部由智能体生成,有经验的工程师负责把关架构和实现。

但六周做出第一版是一回事,维护是另一回事。Ramp 仍然需要工程师处理故障、更新平台、支持产品团队。公司也没有公布运营成本对比或与竞品平台的基准测试,这让“自建是否更便宜”很难判断。

LangChain 提供了另一种选择:与其从零搭框架,企业可以用现成框架接住大部分底层基础设施——随着更多厂商把自己的框架开源,这条路也在变宽。