❝ new-api 太强但没用户体系,sub2api 界面好看但不够完整。于是我自己写了一个。

今天给大家介绍一下我的第二个开源项目——Team-API

为什么要造这个轮子?

大模型时代,AI API 聚合平台不是什么新鲜事。开源社区里已经有不少成熟方案,但用下来总觉得差点意思:

  • new-api:技术能力很强,供应商适配、计费、重试机制都很完善。但它是典型的「个人部署」产品——单一用户体系,没有多租户,没有团队协作,想做 SaaS?不够!想看个人信息账单?不行!

  • sub2api:用户体系和前端体验做得不错,监控面板也好看。但它最大的缺点是只能接入官方渠道,并且在团队管理方面也明显不足。

简单说:没有一个开源方案,能让你「开箱即用地运营一个 AI API 商业服务」。

所以 Team-API 的目标很明确——

做一个面向企业团队的多租户 AI API 网关 SaaS 平台。

它能做什么?

一句话概括:租户注册后拿到 API Key,一行代码接入 OpenAI/Claude/Gemini 等 25+ 大模型,平台搞定计费、限流、监控、审计和团队管理。

具体来说:

多租户 + 双控制台

系统有两套完全独立的用户体系:

  • 管理后台(平台运营方用):管租户、管渠道、看收入、配置全局策略

  • 租户控制台(企业/团队用):管成员、管 API Key、看用量、充值续费

租户之间数据行级隔离,从数据库层面保证安全。

主流大模型供应商,一行代码切换

支持 OpenAI、Claude、Gemini、DeepSeek、通义千问、智谱、Moonshot、Mistral、xAI、Bedrock、Vertex AI、Ollama 等主流供应商。

接口完全兼容 OpenAI 格式:

curl http://your-domain/v1/chat/completions \
-H "Authorization: Bearer your-api-key" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-4o",
"messages": [{"role": "user", "content": "你好!"}]
}'

换了平台,代码不用改。甚至 OpenAI、Claude、Gemini 之间可以自动协议转换。

智能渠道调度

配置多个渠道后,系统自动根据优先级和权重路由请求。某个渠道挂了?自动故障转移。还有渠道亲和性——同一个用户的同类请求尽量打到同一个渠道,避免上下文丢失。

亲测缓存率高达90+%

五层额度 + 实时计费

这是我觉得最有意思的部分。Team-API 设计了一个五层额度模型:

租户钱包(钱)
└─ 套餐额度(资源池)
└─ 成员额度(控制线)
└─ 项目预算(控制线)
└─ Key 额度(控制线)

每一层都是一道「闸门」,企业可以精确控制到每个 API Key 的用量上限。

计费流程走的是经典的「预扣 → 转发 → 结算 → 退补」,预扣用 Redis 原子操作,并发场景下不会超扣。

还有更多

  • 异步任务:Midjourney 图片生成、Suno 音乐、可灵视频、Sora 视频

  • 全链路监控:Request ID 贯穿全链路,请求日志、操作审计、告警引擎

  • 开放平台 + Webhook:30+ 事件订阅,支持 HMAC-SHA256 认证

  • 通知、工单、帮助中心、反馈系统:运营一个 SaaS 该有的都有

  • 更多使用功能开发中...

技术栈

后端和前端都选了稳扎稳打的方案:

层级

技术

后端

Go + GoFrame v2

数据库

PostgreSQL

缓存

Redis + 内存缓存(双层)

管理后台前端

Vue 3 + Naive UI + TailwindCSS

租户控制台前端

Vue 3 + TailwindCSS

对象存储

S3 / OSS / COS / MinIO

目前进展

核心功能基本完成了,列几个关键模块的状态:

  • 多租户架构、双控制台认证 ✅

  • 25+ 供应商适配器(含协议转换)✅

  • 渠道调度引擎(优先级/权重/亲和性/健康评分)✅

  • 计费引擎(预扣/结算/退款/梯度定价)✅

  • 限流与并发控制(四级 QPS + 三级并发)✅

  • 管理后台和租户控制台前端 ✅

  • 套餐/订单/支付框架 ✅

  • 通知/工单/帮助中心 ✅

  • 监控告警 ✅

  • 开放平台 + Webhook ✅

正在进行和规划中的:

  • 支付渠道对接(支付宝/微信/Stripe)

  • 新手引导流程 ⬜

  • 插件系统 ⬜

几张截图

管理后台仪表盘,全局数据一目了然:

打开网易新闻 查看精彩图片

租户控制台,面向终端用户,干净清爽:

打开网易新闻 查看精彩图片

实时监控面板,运维同学的好朋友:

打开网易新闻 查看精彩图片

详细的用量日志,每次请求的token用量及费用都很清晰:

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

⬆️这是用户端的详情,信息,是不是很清晰

每笔费用尽在掌握,更适合商业网站的报表:

快速上手
打开网易新闻 查看精彩图片
快速上手

三步跑起来:

# 1. 克隆仓库
git clone
cd team-api

# 2. 启动基础设施(PostgreSQL、Redis、MinIO)
docker compose -f manifest/docker/docker-compose.yaml up -d

# 3. 启动后端
make migrate-up && make run

前端按需启动:

cd web/admin && bun install && bun dev # 管理后台
cd web/tenant && bun install && bun dev # 租户控制台

开源不是终点,是起点。如果你正在找一个可以商业运营的 AI API 网关,或者对多租户 SaaS 架构感兴趣,欢迎来看看。