谷歌在当地时间周二宣布，面向自家TPU的原生PyTorch框架TorchTPU已在GitHub上开源。这一步直接冲着英伟达在人工智能行业的垄断地位去的——目前绝大多数人工智能应用默认都基于英伟达的GPU开发运行。

打开网易新闻 查看精彩图片

PyTorch是人工智能开发者和初创企业搭建、训练、部署模型的主流工具库。有统计称，85%的人工智能应用都在使用PyTorch。它最初由Meta在2016年开发，那时大语言模型还没显露出改变世界的迹象，英伟达GPU已经是AI研究的标准硬件，PyTorch的诸多功能因此专门为适配英伟达GPU打造。2022年，Meta把PyTorch移交给了Linux基金会。

TorchTPU要做的，是让人工智能应用跑在谷歌自研的张量处理单元（TPU）上。按谷歌的说法，现有PyTorch应用可以便捷迁移到TPU，进而迁移到谷歌云，开发者只需简单修改配置，不用重写应用代码。

亚马逊在当地时间周一发布了类似消息，推出自家的PyTorch版本TorchNeuron，同样支持在不重写代码的情况下把应用移植到自研芯片Trainium以及亚马逊云AWS。亚马逊还表示，将进一步削弱英伟达对PyTorch的掌控力，正在向PyTorch主项目提交代码，把各类功能与英伟达芯片解耦，让PyTorch原生兼容各类硬件。

谷歌在部分举措上的力度或许超过亚马逊。谷歌称，其直接联合Meta、Hugging Face、英菲拉克特（Inferact，vLLM开发方）、拉迪克斯阿克（RadixArk，SGLang开发方）等多方合作，保证TorchTPU的功能与代码库能像原版PyTorch一样，与这些主流开发工具良好兼容。

配套动作也在跟进：

  • 推出专用工具TPU智能体套件，帮开发者把应用迁移到谷歌芯片与云平台，并在迁移过程中排查修复错误；
  • 升级广受使用的LiteRT工具，该工具用于在手机、笔记本电脑和嵌入式设备上运行人工智能模型，升级后可更好地支持基于PyTorch开发的应用。

这些进展并不代表开发者会仅仅因为迁移方便，就集体放弃英伟达硬件。但亚马逊和谷歌显然正在努力终结英伟达的优势地位。