NVIDIA 推出面向行业的 NVLink Fusion,非Nvidia CPU 和 GPU 与 Nvidia互通数据

NVIDIA 推出了 NVIDIA NVLink Fusion计划,可以让各行各业与庞大的合作伙伴生态系统一起构建半定制的 AI 基础设施,并使用世界上最先进、应用最广泛的计算结构 NVIDIA NVLink 构建。

MediaTek、Marvell、Alchip Technologies、Astera Labs、Synopsys 和 Cadence 是首批采用 NVLink Fusion 的公司,可实现定制芯片扩展,以满足模型训练和代理 AI 推理的苛刻工作负载要求。使用 NVLink Fusion,Fujitsu 和 Qualcomm Technologies 的 CPU 还可以与 NVIDIA GPU 集成,以构建高性能的 NVIDIA AI 工厂。

NVIDIA 创始人兼首席执行官黄仁勋表示:“一场结构性转变正在发生:几十年来第一次,数据中心必须从根本上重新架构 — AI 正在融入每个计算平台。NVLink Fusion 为合作伙伴打开了 NVIDIA 的 AI 平台和丰富的生态系统,以构建专门的 AI 基础设施。”

NVLink Fusion 还为云提供商提供了一条简单的途径,可以使用任何 ASIC、NVIDIA 的机架级系统和 NVIDIA 端到端网络平台将 AI 工厂扩展到数百万个 GPU,该平台可提供高达 800Gb/s 的吞吐量,并配备 NVIDIA ConnectX-8 SuperNIC、NVIDIA Spectrum-X 以太网和 NVIDIA Quantum-X800 InfiniBand 交换机,并即将推出联合封装的光学器件。

互联互通的技术生态系统

使用 NVLink Fusion,超大规模企业可以与 NVIDIA 合作伙伴生态系统合作,集成 NVIDIA 机架级解决方案,以便在数据中心基础设施中无缝部署。

创建可使用 NVIDIA NVLink Fusion 部署的定制 AI 计算的 AI 芯片制造合作伙伴包括 MediaTek、Marvell、Alchip、Astera Labs、Synopsys 和 Cadence。

联发科技副董事长兼首席执行官蔡崇信表示:“联发科技利用我们世界一流的 ASIC 设计服务和在高速互连方面的深厚专业知识,与 NVIDIA 合作构建下一代 AI 基础设施。“我们的合作始于汽车领域,现在进一步扩展,使我们能够提供可扩展、高效和灵活的技术,以满足云规模 AI 的快速发展需求。”

“Marvell 正在与 NVIDIA 合作,重新定义 AI 工厂集成的可能性,”Marvell 董事长兼首席执行官 Matt Murphy 表示。采用 NVLink Fusion 的 Marvell 定制芯片为客户提供了构建高级 AI 基础设施的灵活、高性能基础,从而提供下一代万亿参数 AI 模型所需的带宽、可靠性和敏捷性。

打开网易新闻 查看精彩图片

Alchip 首席执行官 Johnny Shen 表示:“Alchip 通过设计和制造生态系统扩大其可用性,包括 ASIC 行业最灵活的参与,并得到 ASIC 行业最灵活的参与支持,从而支持 NVLink Fusion 的采用。“这是我们为确保能够高效训练和部署下一代 AI 模型以满足未来智能应用的需求做出的贡献。”

Astera Labs 首席执行官 Jitendra Mohan 表示:“基于我们与 NVIDIA 密切合作的悠久历史,我们很高兴能够添加专用连接解决方案来应对 NVLink Fusion 生态系统。“低延迟和高带宽纵向扩展互连以及对内存语义的原生支持,对于最大限度地提高 AI 服务器的利用率和性能至关重要。通过使用 NVLink 解决方案扩展我们的纵向扩展连接产品组合,我们为超大规模和企业 AI 客户提供了更多选择和更快的上市时间。

Synopsys 总裁兼首席执行官 Sassine Ghazi 表示:“数据中心正在转变为 AI 工厂,Synopsys 行业领先的 AI 芯片设计解决方案和基于标准的接口 IP 是关键任务的推动因素。“我们对 NVIDIA NVLink Fusion 的支持反映了我们致力于为下一代 AI 和高性能计算培育开放且可扩展的生态系统。”

Cadence 高级副总裁兼芯片解决方案事业部总经理 Boyd Phelps 表示:“HPC 和 AI 工作负载需求是独特的,并且正在迅速发展,构建最先进的定制 AI 系统的超大规模企业依靠 Cadence 提供从数据中心到边缘的使能技术。“我们全面的 IP 产品组合,包括设计 IP、小芯片基础设施、子系统和其他关键 IP,与 NVIDIA NVLink 生态系统相辅相成,加速了功能强大、节能且可大规模生产就绪的 AI 工厂的交付。”

NVLink Fusion 还使 Fujitsu 和 Qualcomm Technologies 等 AI 创新者能够在机架级架构中将其自定义 CPU 与 NVIDIA GPU 耦合,以提高 AI 性能。

“将富士通的先进 CPU 技术与 NVIDIA 的全栈 AI 基础设施相结合,可将性能提升到新的水平,”富士通首席技术官 Vivek Mahajan 表示。“富士通的下一代处理器 FUJITSU-MONAKA 是一款基于 Arm 的 2 纳米 CPU,旨在实现极高的能效。将我们的技术直接连接到 NVIDIA 的架构标志着我们通过世界领先的计算技术推动 AI 发展的愿景向前迈出了里程碑式的一步,为新型可扩展、主权和可持续的 AI 系统铺平了道路。

Qualcomm Technologies 总裁兼首席执行官 Cristiano Amon 表示:“Qualcomm Technologies 的先进定制 CPU 技术与 NVIDIA 的全栈 AI 平台相结合,为数据中心基础设施带来了强大、高效的智能。“由于能够将我们的定制处理器连接到 NVIDIA 的机架级架构,我们正在将高性能、高能效计算的愿景推进到数据中心。”

NVIDIA NVLink 展示经过行业验证的规模

为了以最节能的方式最大限度地提高 AI 工厂的吞吐量和性能,第五代 NVIDIA NVLink 平台包括 NVIDIA GB200 NVL72 和 GB300 NVL72,这些计算密集型机架每个 GPU 的总带宽为 1.8 TB/s,比 PCIe Gen5 快 14 倍。

领先的超大规模企业已经在部署 NVIDIA NVLink 全机架解决方案,并通过 NVLink Fusion 在 NVIDIA 机架架构上标准化其异构硅数据中心来加快可用性。

专为 AI 工厂打造的软件

与 NVIDIA NVLink Fusion 连接的 AI 工厂由 NVIDIA Mission Control 提供支持,NVIDIA Mission Control 是一个统一的运营和编排软件平台,可自动管理 AI 数据中心和工作负载的复杂管理。

NVIDIA Mission Control 增强了 AI 工厂运营的各个方面,从配置部署到验证基础设施,再到编排任务关键型工作负载,以帮助企业更快地启动和运行前沿模型。