谷歌上周发布了一款新模型,它只做一件事,而且做这件事时一个字都不写。这款模型叫 Gemini Decision 1,随新的 Gemini Decisions API 一同上线。它的输入是一段内容和一组封闭式问题,输出不是文章,而是概率:是或否、选项 A/B/C、某个评分标准下的分数。

打开网易新闻 查看精彩图片

听起来不算大新闻,但影响面不小。每一个智能体(Agent)系统背后都跑着几十次这类“安静”的调用:这条查询该交给哪个模型、该触发哪个工具、这条消息是否违反策略。多数团队的做法是调用一个完整的生成式模型,再配一个 JSON 解析器,为那些最终被丢弃的输出 token 付费。谷歌现在把这一层单独拿出来卖,定价 每百万输入 token 0.10 美元,输出不收费。

它能做什么

Decision 1 在一次前向推理中读取文本、图像、视频、音频和 PDF,单次请求最多支持 262,144 个输入 token。针对同一份输入,可以提出最多 1,000 个相互独立的问题,分三类:

  • 是/否(API 中名为 noul):返回 0.01 到 0.99 之间的概率
  • 选择(Choice):从 2 到 255 个选项中挑一个,并为每个选项返回概率
  • 评分(Score):按有序评分标准打分,返回加权分数以及每个等级的概率

每个答案都附带一个置信度值,代码可以据此把不确定的情况转交给备用方案或人工处理。

定价是这款产品的卖点。共享的输入只计费一次,无论你问多少个问题;输出没有内容,所以不产生费用。谷歌 AI Studio 提供一个免费额度,用于原型验证。能力表也说明了它不是什么:文本生成、思考、函数调用、结构化输出、批处理和缓存,全部标注为不支持。它是打分引擎,不是聊天机器人。

实测表现

测试者安装谷歌的 google-genai SDK,在 AI Studio 创建免费 API key,跑了三组测试:谷歌的快速上手示例、发布帖中的图像示例,以及一条自行构造的语义模糊的客服消息。延迟从本机计时,因此包含网络往返。

快速上手示例针对一条客户消息提出两个问题:商品是否到货即损坏,以及该消息应进入哪个客服队列。图像测试则把输入换成一个包含图片链接和文字说明的列表。准确率没有出问题:谷歌的两个示例都答对了,图像结果与谷歌自己的截图一致。每次调用计费的输出 token 均为零。折算成金额,文本查询每次约 0.000017 美元,约 58,000 次调用花掉一美元;图像查询每次约 0.00013 美元。

谷歌自己已经在用

谷歌称旗下已有四款产品接入 Decisions API:

  • Gemini Notebook 将每条查询路由到相应的模型层级和思考深度,谷歌称日常查询延迟最多降低 40%
  • Stitch 在快速画布实验中用它生成可交互线框图,并应用语音或点按编辑
  • Google Labs 的 CC 从 200 多个选项中挑选表情回应,且不增加可见延迟
  • 谷歌搜索把它当作安全层,检查模型上下文协议(MCP)工具是否存在对抗行为

几点判断

置信度分数才是真正的产品。那条模糊消息是关键测试:它同时符合两个队列,模型如实给出——替换队列 50.2%,账单队列 48.4%,置信度 0.50。它没有在五五开的情况下假装确定,同一次调用中它仍以 0.99 判定手柄有破损。一个例子不能证明校准水平,校准要在成千上万个案例上衡量,但这正是谷歌在卖的行为,而测试者去找它时,它确实出现了。

要读置信度,不能只看选项。陷阱在这里:在那条五五开的消息上,choice 字段仍然返回了替换队列,且没有附带任何标记。只读胜出项的代码,会像处理明确案例一样自信地把它路由出去。校准只有在你对置信度设阈值、并把低于阈值的一切转走时才有价值。谷歌的快速上手示例只打印胜出项,生产代码不该停在那里。

速度宣称在图像上没有兑现。谷歌给出的端到端延迟是 150 到 250 毫秒。首次调用之后,测试者的文本调用落在 339 到 577 毫秒之间,网络距离可以合理解释这一差距。图像调用耗时 1.1 到 1.4 秒,中位数是宣称值的五到九倍,尽管谷歌表示其数字在多模态输入下同样成立。其中一部分原因可能是谷歌要从链接抓取图片并处理 1,064 个图像 token,从外部无法拆分原因。还有两个细节:谷歌的延迟数字覆盖的是最高 16K token 的上下文,而非完整的 256K;测试中相同的调用波动超过 300 毫秒。在把它放进任何实时链路之前,先在自己的媒体上做基准测试。

基准是谷歌自己的。“便宜近 5 倍”这个数字,比较对象是谷歌自家的 Gemini 3.5 Flash-Lite,用的是谷歌选定的基准套件。如果你已经在跑 Gemini,这有参考价值;但它说明不了 Decision 1 与你手上已有的小型微调分类器相比如何。

小字部分也要看。模型页面宣传的是对实时媒体流做分类,同一页面却把 Live API 列为不支持。而且这款模型目前只支持 Gemini。它已上架 OpenRouter、LangChain、Vercel 的 AI SDK、LiteLLM 等平台,但谷歌云支持仍标注为即将推出。

Decision 1 把一个窄任务做得不错:便宜,在测试者给出的所有输入上都准确,被追问时也承认不确定。现在可以把它用于路由和策略检查。从第一天起就让代码读取置信度,并在向任何人承诺 200 毫秒之前,先在自己的图像上计时。