Google 首次向 Agentic Inference Benchmark（智能体推理基准测试）提交了测试结果。这份结果用的是 FP8 精度、基于 vLLM 的 TPU v7，对标的是 NVIDIA GB300 NVL72 在 FP4 精度下的运行表现。

结论有点扎眼：Google 的方案实现了高达 1.67 倍的每美元性能优势。

精度低一档，吞吐量没输

TPU v7 的代号是 Ironwood。这次测试的场景是做量子校准实验分析，属于典型的大吞吐量 AI 推理任务。

精度差异是这次对比的关键。TPU v7 用的是 FP8，NVIDIA GB300 用的是 FP4——前者精度更低一档。但即便在精度不占优的情况下，TPU v7 在每秒处理的 qubit 数量和总体吞吐量上完全不落下风，最终把成本性能优势拉到了 167%。

这说明 Google 在硬件微架构和指令集优化上拿到了实质进展，靠这些优化补上了精度上的差距。

1.67 倍不只是芯片便宜

成本效率的来源不止一个。TPU 本身可能更便宜是一方面，另一方面是 Google 优化的软件栈和集群管理能力——这两块叠加起来，让数据中心运营商在总拥有成本上省下真金白银。

换句话说，这不是单点硬件的胜利，是硬件加软件加集群调度的组合拳。

NVIDIA 的默认选项地位被撬动

长期以来 NVIDIA 一直是 AI 加速器的市场领导者。Google 这次的强劲表现意味着，大型科技公司可以开始选择 TPU 来满足自己的 AI 需求，减少对 NVIDIA 的依赖。

可能出现的连锁反应有两条：

  • 触发价格战，成本效率成为竞争焦点
  • 迫使 NVIDIA 在未来的产品中更加注重成本效率

对企业和研究机构来说，多了一个可比的选项。对 NVIDIA 来说，市场份额的护城河第一次被摆到了台面上。