谷歌正努力撬动Nvidia公司在人工智能计算行业中的主导地位，今日推出了开源PyTorch框架的专用版本TorchTPU，旨在消除对手的一项关键优势。
Nvidia及其图形处理器之所以在AI行业依然占据主导地位，一个重要原因在于，绝大多数AI应用程序都是专门针对其GPU编写的，而谷歌此次发布正是试图改变这一现状。
PyTorch框架是一款广受欢迎的开源工具包，开发者使用它来创建、训练和运行AI模型以及神经网络。据某些统计，超过85%的AI应用都是使用PyTorch开发的。该框架由Meta Platforms公司于2016年创建，彼时人们尚未意识到大语言模型将会推动AI浪潮的到来。
当时，Nvidia的GPU已经是开发者进行AI研究时首选的硬件，因此Meta将PyTorch专门设计为与该公司芯片配合使用。即便在2022年Meta将PyTorch开源并将管理权交给非营利组织Linux基金会之后，这种对Nvidia硬件的专注依然延续了下来。
借助TorchTPU，谷歌打造了一个PyTorch的替代版本，让开发者能够更轻松地创建可在其张量处理单元（TPU）上运行的模型和应用程序，TPU是专为AI工作负载设计的专用芯片。TorchTPU还为开发者提供了一种简便方式，只需进行少量配置调整，便可在TPU上运行现有的应用程序和模型，而无需重写任何底层代码。
谷歌并非唯一试图削弱Nvidia借助PyTorch所获得巨大优势的公司。事实上，就在本周早些时候，亚马逊云科技公司宣布了自己的PyTorch版本，名为TorchNeuron。与TorchTPU类似，TorchNeuron让AI应用程序能够轻松在不同硬件上运行，此处指的是亚马逊的Trainium芯片。亚马逊的举措更进一步，透露其已向原始PyTorch项目贡献代码，这些代码将把若干关键功能与Nvidia的GPU解耦，目的是使其能够更好地兼容任何类型的硬件。
谷歌没有采取这种做法，但它可能通过其他几种方式获得了相对于AWS的优势。首先，该公司表示已与Meta、Hugging Face以及两家初创公司Inferact Inc.和RadixArk Inc.（分别是vLLM和SGLang的开发者）密切合作，以确保TorchTPU的各项功能和代码库与它们的开发者工具兼容。如此一来，谷歌也消除了PyTorch带来的另一项优势。
谷歌还做了一件AWS没有做的事情。它推出了一款名为TPU智能体套件的新工具，旨在帮助开发者将其AI应用程序迁移到谷歌云平台，并在迁移过程中自动修复出现的任何错误。此外，谷歌还更新了一款名为LiteRT的现有工具，该工具用于构建直接在智能手机、笔记本电脑和嵌入式设备上运行的AI应用程序，而非在云端运行。谷歌表示，该工具现在应该已经能够兼容基于PyTorch构建的应用程序。
当然，要说服数以百万计的开发者放弃Nvidia的GPU转而投向谷歌的TPU，仅凭这些举措还远远不够。但这确实表明，谷歌对自身能够在更长期内逐步蚕食Nvidia的领先地位抱有信心。
热门跟贴