亚马逊网络服务公司（AWS）周一发布了一款名为TorchNeuron的工具，该工具能让AI初创企业轻松将其AI应用迁移至亚马逊自研AI芯片Trainium上运行。借此举措，亚马逊也直接触及了英伟达长期以来的软件优势——这一优势帮助英伟达成为AI应用的默认硬件选择，并推动其崛起为业界首选的AI硬件供应商。
TorchNeuron与PyTorch兼容，后者是开发者用于构建、训练和运行AI模型的免费开源工具包。据亚马逊介绍，借助TorchNeuron，用PyTorch编写的AI应用只需修改一行配置，即可在Trainium上运行，无需重写代码。
亚马逊表示，约85%的AI应用是用PyTorch编写的。该工具包最初由Facebook开发，但自2022年起，已归属于负责维护开源项目的Linux基金会管理。多年来，英伟达一直致力于确保其CUDA软件——即支持应用在英伟达GPU及其他硬件上运行的软件基础设施——能够无缝支持用PyTorch编写的AI应用。因此，英伟达的硬件如今已深深嵌入该工具包生态，几乎成为默认选项。
TorchNeuron脱胎于PyTorch，因此熟悉PyTorch的开发者已经知道如何使用它。亚马逊并非首家尝试将自家芯片便捷接入该平台的公司。PyTorch用户同样可以通过简单的配置修改，将应用迁移至AMD的GPU甚至苹果的芯片上运行。
不过，亚马逊方面表示，迁移至Trainium不仅操作简便，还能让AI初创企业接入亚马逊完整的云服务体系。不出所料，AWS宣称，相比使用那些与英伟达及其硬件深度绑定的"新型云服务商"（如Coreweave、Nebius和Firmus），这对初创企业而言是更优选择。
"你是在AWS之上进行开发，而不是把赌注押在单一功能的计算服务商身上，然后手忙脚乱地围绕它搭建其他一切所需设施，"AWS Annapurna Labs（负责研发亚马逊定制芯片的部门）技术软件副总裁科林·布雷斯通过邮件告诉TechCrunch。他接着说道："在AWS上，从原型到量产所需的基础设施已经齐备，这能让创始人在需要时快速推进并实现规模化扩张。"
AWS表示，由于同一款芯片既能处理训练（教导AI模型学习），也能处理推理（让训练完成的模型投入实际使用，例如回答用户问题），且与初创企业所需的云基础设施紧密集成，即便AWS并非提供最低的单Token价格，其云服务仍能为企业节省成本。
"Trainium的价值在于兼具性价比优势，以及能作为训练和推理统一平台这一特点，这能改善整个工作负载的经济性，"布雷斯说道。"以Deepgram为例，他们借助原生PyTorch迁移至Trainium，并获得了技术支持，如今在保证生产级精度的前提下，每美元能处理的音频量提升了70%。"Deepgram是一家AI语音应用提供商，是ElevenLabs的竞争对手。
但亚马逊并不满足于仅仅为PyTorch应用开发者提供便捷的云迁移选项。
亚马逊还表示，正在推动PyTorch减少对英伟达的默认依赖，并将把相关代码贡献给PyTorch主项目。在宣布这款新工具的博客文章中，该公司写道：
"亚马逊的举措并不仅限于自家硬件领域。公司正在向PyTorch上游贡献代码，与PyTorch社区合作，剔除将该框架与特定芯片绑定的代码。其目标是让PyTorch对整个开发者社区而言更具硬件中立性，而不仅仅是服务于Trainium用户。"
毫无疑问，这样的做法对那些销售与英伟达竞争的硬件和云服务的公司而言是有利的，但PyTorch的核心意义之一，正是要屏蔽让AI代码在硬件上运行时所面临的各种棘手难题。我们还需观察，将英伟达的影响力推得如此之远，究竟会像亚马逊所承诺的那样，为开发者带来更多选择和更实惠的方案，还是只会带来更多配置方面的麻烦。
无论结果如何，如果亚马逊成功让PyTorch与英伟达实现深度解绑，这对这家GPU巨头的影响，可能远不止是应对芯片领域竞争对手那么简单。正如布雷斯所言："真正重要的变化在于，消除了此前让开发者无法真正拥有选择权的'锁定效应'。"
Q&A
Q1：TorchNeuron是什么？它有什么作用？
A：TorchNeuron是亚马逊网络服务公司发布的一款工具，它能让用PyTorch编写的AI应用只需修改一行配置，无需重写代码，就能轻松迁移至亚马逊自研AI芯片Trainium上运行。
Q2：使用TorchNeuron迁移至Trainium有什么优势？
A：据AWS介绍，Trainium同一芯片既能处理训练也能处理推理，且与AWS云基础设施紧密集成，即便单Token价格不是最低，也能通过提升整体工作负载的经济性为企业节省成本，例如Deepgram迁移后每美元处理的音频量提升了70%。
Q3：亚马逊推出TorchNeuron对英伟达有什么影响？
A：亚马逊不仅推出TorchNeuron帮助开发者迁移应用，还向PyTorch主项目贡献代码，推动剔除将该框架与特定芯片绑定的部分，试图让PyTorch对硬件更加中立，这可能会削弱英伟达长期以来在AI软件生态中的默认优势地位。
热门跟贴