性价比最高提升50%
SemiAnalysis 发布报告称,TPU 推理外化正在全面提速。报告点名了 InferenceX,并给出一个关键数字:性价比至多提升 50%。
打开网易新闻 查看精彩图片
这不是小幅优化,而是直接改变成本结构。对跑推理负载的团队来说,同样的钱能买到更多算力。
TPU stack 快速外化
报告提到 TPU stack 正在快速外化,客户群也在增长。这意味着谷歌的 TPU 生态不再只是内部工具,外部用户正在涌入。
同时被点名的还有 Ironwood 与 TPUv8i。报告认为,这一系列动作正在削弱 CUDA 的护城河。
详情可查看 SemiAnalysis 发布的完整报告。
热门跟贴