随着客户需求的加速增长,双方深化了在整个 AI 技术栈的整合,将 NVIDIA Vera CPU、高性能网络、Nemotron 开放模型和物理 AI 技术引入亚马逊云科技。

打开网易新闻 查看精彩图片

亚马逊公司 (Amazon.com, Inc.,纳斯达克股票代码:AMZN) 旗下的亚马逊云科技 (AWS) 和 NVIDIA (纳斯达克股票代码:NVDA) 宣布大幅扩展战略合作,以应对全球对 AI 基础设施日益高涨且不断加速的需求。基于客户对亚马逊云科技上的 NVIDIA 加速计算的快速采用,双方计划在亚马逊云科技的全球基础设施中新增部署 200 万个 NVIDIA GPU,并在 AI 工厂、CPU、网络、开放模型、数据处理和机器人领域深化合作,提供共同打造的 AI 解决方案,助力客户以前所未有的规模加速 AI 开发和部署。

AI 工作负载正在迅速扩展,从模型的训练和运行方式,到数据处理、索引和用于驱动智能应用的方式均在快速演进。客户正在从试点阶段转向生产阶段,并在代理式 AI、科学发现、企业自动化和机器人领域扩展工作负载。他们需要更广泛的模型选择、更快速的数据管线以及针对物理 AI 等新兴用例的新功能。他们还需要确保底层基础设施能够跟上他们自身的创新能力,同时为关键任务工作负载保持高水平的安全性与可靠性。

为了满足来自前沿实验室、全球企业、初创公司和政府机构不断增长的需求,亚马逊云科技和 NVIDIA 基于长达 16 年联合创新,进一步扩大 AI 计算能力,并更快地为客户提供全新联合打造的解决方案。作为扩展合作的一部分,双方正致力于:

  • 将于 2027-2028 年间,在亚马逊云科技的全球基础设施中新增部署 200 万个 NVIDIA GPU
  • 将基于 NVIDIA Vera CPU 的基础设施引入亚马逊云科技
  • 使用 NVIDIA 定制高带宽内存 (NVHBM) 扩展 NVIDIA NVLink Fusion™
  • 为政府构建 AI 工厂,包括在亚马逊云科技安全的基础设施上部署 10 万个 GPU,用于运行国家级安全工作负载
  • 将 NVIDIA 平台与亚马逊云科技 Nitro 系统和 Elastic Fabric Adapter (EFA) 集成,以增强安全性与可靠性
  • 继续支持 Amazon Bedrock 和 Amazon SageMaker 上的 NVIDIA Nemotron™ 开放模型,为客户提供更丰富的开放模型选择
  • 使用 NVIDIA cuDF 和 cuVS CUDA-X™ 库加速 Amazon EMR 和 Amazon OpenSearch 上的数据处理和向量索引,实现更快、更合算的分析和 AI 应用
  • 通过 Amazon Robotics 采用 NVIDIA 物理 AI 平台,进一步推进机器人工作负载,加速仓库自动化和新一代机器人的创新

亚马逊云科技首席执行官 Matt Garman 表示:“客户希望能够自由选择适合其 AI 工作负载的工具,并确保所有工具能够无缝协作。因此,我们与 NVIDIA 展开了深入合作,使亚马逊云科技成为运行 NVIDIA AI 技术的重要平台,从网络、安全到部署,全面优化我们基础设施的性能。此次扩展合作将为前沿实验室、企业和政府提供更多在亚马逊云科技上构建和部署 AI 的方式。”

NVIDIA 创始人兼首席执行官黄仁勋表示:“NVIDIA 和亚马逊云科技共同打造了 AI 时代最强劲的增长引擎之一,且需求量已经超出了所有预测。过去 16 年来,我们共同在云端扩展 NVIDIA 的计算能力。现在,我们正将合作拓展至整个技术栈,包括 GPU、CPU、网络、开放模型和软件,以只有亚马逊云科技和 NVIDIA 才能够提供的空前速度和规模,让代理式 AI 和物理 AI 成为现实。此次扩展反映了客户对于在亚马逊云科技上使用 NVIDIA 平台的需求。”

以上为新闻摘要内容,如需阅读新闻全文,请点击链接:亚马逊云科技和 NVIDIA 将提供 200 万个新增 GPU 和新一代基础设施,助力代理式 AI 和物理 AI 发展 | NVIDIA 英伟达博客