一个团队同时用着Google、Azure、AWS三朵云的LLM服务，每个应用一把独立API Key。结果就是：没人知道哪个Key属于哪个项目，token消耗成了一笔糊涂账。直到财务来问"哪个产品烧钱最多"，团队答不上来。
这是不少多云AI团队的共同困境。有人选择用LiteLLM快速搭网关，但团队一扩大，问题就来了——LiteLLM的管理后台SSO免费版只支持5个用户，超过就要买Enterprise计划，组织管理和SCIM也是付费功能。开发者Nelson Lin不想在控制平面上遇到授权墙，干脆自己动手，把整个方案开源了。
开源的不只是代理，还有管理后台
这个名为Open LLM Gateway的项目，以Apache 2.0协议发布了完整技术栈。和很多只开源代理层的方案不同，它把管理后台也一并开放了。仓库里包含的东西很直接：兼容OpenAI和Anthropic的代理接口，加密主密钥体系——应用用的是子密钥，后台支持组织、角色、邀请，还能选配Google登录，密钥可以轮换、打标签、禁用。成本分析按供应商、模型、标签三个维度拆开，部署目标锁定Cloudflare Workers和Vercel。
最关键的差异点在于：开源版没有5人SSO的席位上限。这意味着团队从几个人涨到几十人，控制平面的成本不会突然跳出一个企业版账单。
它不是什么，比它是什么更重要
项目作者在说明里把边界划得很清楚。如果你只需要少量席位、不想碰企业功能，LiteLLM依然够用；如果你想要托管服务、完全不想自己运维，OpenRouter是现成的选择。Open LLM Gateway的定位是：公司愿意自托管、需要无席位上限、且希望管理后台完全开源——这三条同时满足的场景。
目前项目还有明显的未完成项：消费限额和防护护栏（guardrails）功能尚未就绪。也就是说，它能帮你把流量管起来、把账算清楚，但还没法自动拦截超预算的调用。
控制平面的授权墙，是自托管方案的真实痛点
这个项目的出现，折射出一个现实：LLM网关这类基础设施，一旦团队规模超过某个阈值，商业版的席位费就成了隐形税。5个免费用户的设计，对小型团队是甜点，对中型团队就是门槛。把管理后台和代理一起开源，等于把"控制平面"这个最容易被商业化的部分，直接变成了公共品。
对于正在多云LLM环境里挣扎的团队，这个项目提供了一个值得评估的选项：不花钱、无席位上限、能看清每一笔token花在哪。当然，前提是你愿意自己部署，并且能接受护栏功能还要再等等。
热门跟贴