谷歌把刀伸向了英伟达最结实的那块地基。它发布了一个叫 TorchTPU 的东西,是开源框架 PyTorch 的一个专门版本,目标很直接:让开发者不用重写代码,就能把模型搬到自家的 TPU 上跑。
英伟达的 GPU 之所以在 AI 行业里站得这么稳,原因不复杂——绝大多数 AI 应用就是照着它的芯片写的。谷歌这次动的,正是这个现实。
PyTorch 是开发者用来创建、训练和运行 AI 模型与神经网络的流行开源工具包。按一些说法,超过 85% 的 AI 应用都是用 PyTorch 做出来的。这个框架由 Meta 在 2016 年打造,那时候大语言模型还没影,AI 热潮更没来。
当年英伟达的 GPU 已经是开发者做 AI 研究的首选硬件,Meta 也就把 PyTorch 设计成专门配合这家公司芯片工作的样子。这种对英伟达硬件的偏重一直延续下来,哪怕 Meta 在 2022 年把 PyTorch 开源、交给非营利的 Linux 基金会托管之后,也没变。
TorchTPU 提供的是另一条路:开发者做模型和应用时,可以更容易地让它们跑在谷歌的 TPU(张量处理单元,专为 AI 负载设计的芯片)上。已有的应用和模型也不用推倒重来,改几处简单配置就能迁过去。
盯上 PyTorch 这块地的不止谷歌。就在本周早些时候,亚马逊云科技(AWS)发布了自家版本的 PyTorch,叫 TorchNeuron,思路类似——让 AI 应用方便地跑在别的硬件上,这里指的是亚马逊的 Trainium 芯片。
亚马逊还多走了一步,透露自己向 PyTorch 原项目贡献了代码,把一批关键功能从英伟达 GPU 上解耦,目的是让它跟任何硬件都更兼容。谷歌没做这件事,但在另外几个地方可能占了先手。
谷歌说,它跟 Meta、Hugging Face,以及开发 vLLM 和 SGLang 的两家初创公司 Inferact、RadixArk 紧密合作,确保 TorchTPU 的各项功能和代码库跟这些开发者工具兼容。PyTorch 带来的另一项优势,也就这么被抹平了。
还有一件 AWS 没做的事:谷歌亮出了一个叫 TPU agent suite 的新工具,帮开发者把 AI 应用迁到谷歌云平台上,并在迁移过程中自动修掉冒出来的错误。
另外,它更新了已有工具 LiteRT。这个工具用来构建直接跑在智能手机、笔记本电脑和嵌入式设备上、而非云端的 AI 应用。谷歌称,它现在应该能兼容基于 PyTorch 的应用了。
当然,要让数百万开发者突然扔下英伟达的 GPU、涌向谷歌的 TPU,光靠这些远远不够。但这至少说明,谷歌有信心在更长的时间里一点点啃掉英伟达的领先身位。
热门跟贴