最懂你的焦虑的,往往不是老板,是月底那封API账单邮件。

一位开发者最近干了件很"程序员"的事:被AI接口费用搞到心态崩了,干脆自己造了个开源工具。不是等供应商的延迟仪表盘,而是每一分钱花出去,当场就知道。

打开网易新闻 查看精彩图片

为什么供应商的账单总是"事后诸葛亮"

用过OpenAI、Claude这些大模型接口的人都有同感:代码跑完那一刻,你大概猜得到烧了多少钱,但只是"大概"。

供应商后台的数据滞后,更关键的是——它们不会告诉你哪行代码、哪个调用、哪个功能模块在烧钱。账单来了,你只能对着总数干瞪眼。

这位开发者(项目署名Tirith)的解法很直接:在代码和API之间塞一个透明代理(transparent proxy)。请求照常走,但它会"偷看"一眼,记下花了多少,然后放行。

用他自己的话说:「One import to add, one to remove.」加一行导入就能用,删一行就能卸,零侵入。

透明代理 vs 封装库:一个"装死",一个"作死"

其实监控API调用的思路不新。很多人用封装库(wrapper),把官方SDK包一层,强行塞入统计逻辑。

但封装库有个死穴:供应商一更新接口、一加新端点,你的封装就崩。 chasing a moving target,永远在追。

透明代理的逻辑完全不同——它不碰你的代码结构,只是转发请求、记录日志、然后消失。供应商改什么、加什么,跟它没关系。

这种设计哲学叫"provider-agnostic"(供应商无关)。不是绑定某一家,而是通吃所有走HTTP的AI接口。

开源的底气:MIT协议+主动求虐

项目直接扔GitHub,MIT协议,随便 fork。作者还在评论区放话:「Feedback very welcome; especially edge cases where the proxy behaves weirdly.」

翻译一下:欢迎来虐,尤其是那种让代理抽风的边缘场景。第一版,毛糙是预期内的。

另外埋了个小功能:Templates。快速存一些常用提示词片段,或者FAQ回复模板。算是从"记账"延伸到了"提效"。

这件事的真正价值

表面看是个CLI工具,实际戳中了一个正在膨胀的痛点:AI原生应用的成本可观测性(observability)

当模型调用从"实验"变成"生产",从"一个月几百块"变成"一天几千刀",开发者需要实时、细粒度、可回溯的支出数据。不是月底看总账,是每次调用完就知道。

Tirith的解法够轻、够狠、够程序员——不改造架构,不依赖供应商,一行代码解决问题。这种"中间层工具"可能会越来越多:在代码和云之间,在开发者和账单之间,抢回一点控制权。

如果你也在用AI接口跑业务,建议现在就去看看你的仪表盘延迟多久。答案可能会让你想立刻装个代理。