打破CUDA护城河|amd|cuda|gpu|hpc|新模型|编译器|英伟达

公众号记得加星标⭐️，第一时间看推送不会错过。

英伟达主要以硬件公司而闻名，这得益于其GPU的巨大成功。但英伟达在软件领域也举足轻重，这要归功于其CUDA编程语言，该语言已成为人工智能和高性能计算开发人员的事实标准。如今，Spectral Compute的一群CUDA专家正致力于将CUDA语言从英伟达平台剥离出来，使用户能够在其他芯片上运行他们的CUDA代码。

Spectral Compute成立于2018年，当时包括首席执行官Michael Søndergaard、首席技术官Chris Kitching、软件工程师Nicholas Tomlinson和软件工程师Francois Souchay在内的四位工程师，厌倦了CUDA代码的硬件锁定问题。这四位创始人拥有60年的高性能计算（HPC）优化经验，他们之前就职于一家人工智能公司，但对英伟达GPU的高昂成本以及其他编译器的糟糕性能感到极度不满，于是决定自行开发编译器。

创始人开发了一款名为SCALE的产品，它采用 CLang 和 LLVM 编译器技术，旨在替代英伟达 CUDA 编译器 NVCC。SCALE 最初的目标是AMD GPU，但现在正拓展其目标，使用户能够在其他 AI 加速器上运行 CUDA。该公司也支持英伟达 GPU，其理论是英伟达为了销售更多硬件而放弃了基于软件的性能优化。

Spectral 是 CUDA 的忠实拥趸。据 Spectral 增长主管 Giulio Malitesta 称，CUDA占据了当前 HPC 代码的约 80%。Malitesta 在德国汉堡举行的 ISC 2026 大会上告诉HPCwire ：“CUDA 基本上是 HPC 的事实标准。我们需要接受这个事实，作为编译器工程师，我们只需努力使其能够在不同的平台上运行，这些平台不一定是 Nvidia 的，但也要在 Nvidia GPU 上进行改进。”

正如Malitesta指出的那样，市面上还有其他编译器可以让 CUDA 代码在其他平台上运行。AMD开发了一款名为HIPIFY的工具，可以将 Nvidia CUDA 代码转换为 C++ 代码，并通过 HIP（异构计算接口）在 AMD 的 ROCm 软件栈上运行。此外，还有SYCLomatic ，这是一款最初由Intel开发的开源工具，用于将 CUDA 代码迁移到数据并行 C++ (DPC++)。当然，还有ZLUDA，这款曾经由 AMD 支持的即时编译器可以将 CUDA 二进制文件编译后在非 Nvidia 硬件上运行。

然而，大多数工具都有其缺点。例如，Spectral 的创始人之前曾使用过的 HIPIFY，基本上忽略了并行线程执行 (PTX)，而 PTX 是英伟达的汇编语言，能够为 CUDA 提供深度硬件支持，Malitesta 指出。SYCLomatic 可以迁移大约 90% 的代码，但剩余的 10% 需要手动完成。而 ZLUDA 则直接操作编译后的二进制代码，充当中间件层，这会降低性能。此外，各种非英伟达的 CUDA 编译器也一直受到法律问题的困扰。

Malitesta表示，Spectral Compute的SCALE编译器能够超越其他编译器的中等性能，并使CUDA能够充分利用底层硬件。该公司在其网站上发布的基准测试表明，与使用HIPIFY将CUDA代码转换为AMD自家的ROCm环境相比，SCALE在AMD GPU上实现了近6倍的性能提升。

Malitesta表示，Spectral之所以能够达到如此高的性能水平，是因为它基于尖端的编译器框架进行了彻底的重新实现。“我们采用了CPU行业标准的方法，并将其应用于GPU，”他说道，并补充道，“这种方法也使得C++能够在AMD和ARM CPU上运行，因为没有人会预期会出现性能差距，除非底层硬件的差异直接导致这种差距。”

Spectral公司在重新编译代码后，会从数值角度验证其正确性。如果验证结果与正常的NVCC输出一致，则该公司认为此次实现成功。

总部位于伦敦的Spectral公司去年融资600万美元，目前正致力于支持第三方AI加速器（尚未公布具体名称）。该公司还在开发一些专有的新型编译器优化技术，据称这将为在Nvidia GPU上运行CUDA的用户带来重大升级。本月晚些时候，Spectral预计将发布对PyTorch的支持，这将使其工具能够更好地与该AI和机器学习框架协同工作。

公司员工表示，他们的工作对 CUDA 社区有益，就连英伟达也明白这最终是一件好事。今年 6 月，Spectral 与英伟达正式建立合作伙伴关系，并加入了英伟达的 Inception 项目。