英伟达CEO黄仁勋发布多项加速计算和人工智能AI进展|gpu|nvidia|人工智能|加速计算|英伟达ceo|黄仁勋|黄健森

5月29日，Nvidia（英伟达）联合创始人兼首席执行官黄仁勋现身台北电脑展COMPUTEX 2023，公布了一系列涉及加速计算和人工智能（AI）的进展，包括大内存生成式AI超级计算机DGX GH200，加速以太网平台 Spectrum-X，游戏定制化AI模型代工服务Avatar Cloud Engine (ACE) for Games，芯片发布日期以及与主要公司的合作伙伴关系等。

黄仁勋先生长达2小时主题演讲的精彩内容

1. Nvidia 面向游戏玩家的 GForce RTX 4080 Ti GPU 现已全面投产，并与台湾合作伙伴进行大批量生产。

2. 黄仁勋先生宣布推出适用于游戏的 Nvidia Avatar Cloud Engine (ACE)，这是一项可定制的 AI 模型代工服务，为游戏开发人员提供预制模型。它将通过 AI 支持的语言交互赋予非玩家角色（NPC ）更多个性。

3. Nvidia Cuda计算模型现在服务于400万开发者和3000多个应用程序。Cuda 的下载量达到了 4000 万次，其中仅去年一年就达到了 2500 万次。

4. GPU 服务器 HGX H100 已经全面开始量产，正由“全台湾的公司”制造。他补充说，这是世界上第一台装有变压器引擎的计算机。

5. 黄仁勋先生称英伟达2019年以69亿美元收购超级计算机芯片制造商Mellanox是该公司有史以来“最伟大的战略决策之一”。

6. 下一代 Hopper GPU 将于 2024 年 8 月开始生产，也就是第一代开始生产日期的两年后。

7. Nvidia 的 GH200 Grace Hopper 现已全面投产。超级芯片提升了 4 PetaFIOPS TE、72 个通过芯片到芯片链路连接的 Arm CPU、96GB HBM3 和 576 GPU 内存。黄仁勋先生称之为世界上第一个拥有巨大内存的加速计算处理器：“这是一台计算机，而不是芯片。” 它是专为高性能数据中心应用而设计的。

8. 如果 Grace Hopper 的内存不够用，Nvidia推出新型大内存AI超级计算机DGXGH200。它首先将8个Grace Hoppers和3个NVLINK交换机连接在一起，然后将 900GB 的 pod 连接在一起。最后，将 32 个连接在一起，再加上一层开关，总共连接256 个 Grace Hopper 芯片。由此产生的 ExaFLOPS Transformer Engine 具有 144 TB 的 GPU 内存，可用作巨型 GPU。黄仁勋先生说 Grace Hopper 速度非常快，可以在软件中运行 5G 堆栈。谷歌云、Meta、微软等是首批获得DGXGH200访问权限、用于生成式AI工作负载的公司。

9. Nvidia 和软银已建立合作伙伴关系，将 Grace Hopper 超级芯片引入软银在日本的新分布式数据中心。他们将能够在一个多租户公共服务器平台中托管生成式人工智能和无线应用程序，从而降低成本和能源。

10. 英伟达与软银的合作将基于 Nvidia MGX 参考架构，该架构目前正在与台湾公司合作使用。MGX为系统制造商提供了一个模块化的参考架构，帮助他们为人工智能、加速计算和广泛应用构建100多种服务器变体。参与合作的公司包括 ASRock Rack、华硕、Gigabyte、和硕、QCT和美国超微。

11. 黄仁勋先生还宣布推出了 Spectrum-X 加速网络平台，该平台旨在提高基于以太网的AI云速度。它包括 Spectrum 4 交换机，它有 128 个端口，每秒 400GB 和每秒 51.2T。Huang 说，该交换机旨在实现新型以太网，端到端的设计，以便实现自适应路由、隔离性能和进行结构内计算。它还包括连接到Spectrum 4交换机来执行拥塞控制的Bluefield 3 智能网卡。

12. 世界上最大的营销公司 WPP 已与 Nvidia 达成合作伙伴关系，将以Nvidia Omniverse为基础构建一个生成式AI内容引擎。该内容引擎将能够制作用于广告的照片和视频内容。

13. 机器人平台 Nvidia Isaac ARM 现在可供任何想要构建机器人的人使用，并且是全栈的，从芯片到传感器。Isaac ARM 以一个名为 Nova Orin 的芯片开始，是第一个机器人全参考堆栈，黄先生说。

受益于生成式AI热潮对于高性能AI芯片需求的爆发式增长，Nvidia 的股价在过去一年中飙升，目前市值约为 9600 亿美元，成为全球最有价值的公司之一（仅次于苹果、微软、沙特拉美、Alphabet 和亚马逊）。

英伟达CEO称：中国是科技行业非常重要的市场！

毫无疑问，中国的人工智能公司也在密切关注英伟达带来的最先进的芯片技术。虽然，美国芯片禁令会影响我们在生产人工智能方面进步的步伐，但也会催生中国AI公司寻求自主研发芯片的决心。

美国政府去年限制英伟达向中国出售其 A100 和 H100 图形处理器。这两款芯片都用于训练大型语言模型，如 OpenAI 的 GPT-4。H100 是基于 Nvidia Hopper GPU 计算架构并内置 Transformer Engine 的最新一代芯片，市场需求特别强劲。与 A100 相比，H100 能够在 LLM上提供快 9 倍的 AI 训练和高达30 倍的 AI 推理。

中国显然是一个不容错过的大市场。仅去年第三季度，芯片出口禁令就使 Nvidia 损失了约 4 亿美元的潜在销售额。因此，英伟达只好向中国出售一种符合美国出口管制规定但速度较慢的芯片——“中国特供版”芯片。

短期内，中国AI芯片还难以与英伟达一战。但从长远来看，中国可能会寻找更强大的替代方案，因为禁芯令就像一把“卡脖子”的剑，时刻提醒中国需要在关键技术领域实现自力更生。