每秒生成超过1000个token,上线就打五折。Inception的Mercury 3已经出现在AI Gateway上,带着一个足够扎眼的数字和一个足够直接的价格动作。

按照Inception公布的说法,Mercury 3在一系列基准测试上表现强劲,生成速度超过每秒1000个token。这个速度指标被放在了最前面,指向的是一类对延迟格外敏感的场景。

Mercury 3的技术路线是扩散——通过并行细化来生成文本。这条路径和常见的逐token生成方式不同,Inception把它用在了需要快速响应的负载上。

官方点名的场景包括:

  • 浏览器智能体
  • 实时搜索
  • 交互式教育
  • 客户支持

这些场景的共同点是对等待时间敏感。浏览器智能体要在页面之间来回操作,实时搜索要在用户失去耐心前给出结果,交互式教育和客服则直接面对人的即时反馈。速度在这里不是跑分数字,是体验本身。

另一个关键参数是上下文窗口:100万token。Inception的说法是,这个窗口给上述应用留出了容纳长文档和较长对话历史的空间。对客服和交互式教育这类需要记住前文的场景来说,窗口大小决定了对话能延续多久而不丢线索。

接入方式上,开发者需要在环境中设置 AI_GATEWAY_API_KEY,模型名使用 inception/mercury-3。官方给出的示例用streamText发起调用,提示词是一个客服场景:给一位快递延迟的客户写一段简短友好的回复,然后逐段读取返回的文本流。

如果要在Claude Code、Codex、Cursor这类编码智能体里使用,需要先安装最新版Vercel CLI并运行 npx vercel ai-gateway setup,之后在智能体中选择inception/mercury-3。官方也提供了在模型playground里直接试用的入口。

AI Gateway本身的定位是一个统一API层:调用模型、追踪用量和成本、配置重试、故障转移和性能优化,目标是获得高于单一供应商的可用性。它还带有自定义报表、零数据保留支持、API密钥预算、路由规则等功能。

价格方面,AI Gateway按供应商定价呈现,不加价,也不对推理收取平台费,自带密钥(BYOK)的请求同样适用。Mercury 3此次上线伴随五折的发布价。

把速度、上下文窗口和定价放在一起看,Inception想切的是那些被延迟卡住的应用场景。每秒1000个token以上的生成速度配上100万token的窗口,意味着长文档处理和长对话不必在响应速度上做太多妥协。至于这些基准成绩在实际负载中能兑现多少,还要看开发者把它放进浏览器智能体或客服系统后的真实表现。