性价比最高提升50%

SemiAnalysis 发布报告称,TPU 推理外化正在全面提速。报告点名了 InferenceX,并给出一个关键数字:性价比至多提升 50%

打开网易新闻 查看精彩图片

这不是小幅优化,而是直接改变成本结构。对跑推理负载的团队来说,同样的钱能买到更多算力。

TPU stack 快速外化

报告提到 TPU stack 正在快速外化,客户群也在增长。这意味着谷歌的 TPU 生态不再只是内部工具,外部用户正在涌入。

同时被点名的还有 Ironwood 与 TPUv8i。报告认为,这一系列动作正在削弱 CUDA 的护城河

详情可查看 SemiAnalysis 发布的完整报告。