一个集群里塞进 131,072 块 GPU,网络延迟压到 2.5 微秒。这是 Oracle 云基础设施(OCI)给出的 AI 算力方案里,最扎眼的两个数字。

OCI Supercluster 的定位很直接:给前沿 AI 模型的训练和推理提供底座。它支持横向扩展的 GPU 算力集群,规模上限就是那串 131,072——对应的是 NVIDIA Blackwell GPU 或 Grace Blackwell Superchips。

打开网易新闻 查看精彩图片

网络才是真门槛

堆 GPU 不难,难的是让它们像一块卡那样协同。分布式训练里,节点之间的通信效率往往比单卡算力更能决定整体速度。

OCI 的做法是定制设计的 RoCE v2 协议,配合 NVIDIA ConnectX 网卡搭 RDMA 集群网络。延迟可以做到 2.5 至 9.1 微秒,节点间总带宽最高 3,200 Gb/秒。

这套网络结构的扩展能力不止一种配置:

  • 131,072 块 NVIDIA B200 GPU
  • 超过 100,000 块 NVIDIA Grace Blackwell Superchips
  • 65,536 块 NVIDIA H200 GPU
  • 同时兼容 AMD MI300X

存储和主权 AI 是配套题

大模型训练绕不开频繁的 Checkpoint。OCI 在这块给的是高达 61.44 TB 的 NVMe 本地存储,加上基于 Lustre 的高性能文件系统,专门应对这种高频读写需求。

另一条线是主权 AI。OCI 通过分布式云架构满足各国合规与数据主权要求,让 AI 部署能落在本地规则之内。

应用场景上,页面提到了金融反欺诈、医疗影像分析和药物发现。这些场景的共同点是对算力和数据合规都有硬要求。

Oracle 与 NVIDIA 的合作是这套方案的底层支撑。从 GPU 裸金属实例到超快 RDMA 集群网络,OCI 想讲的故事是:把训练速度提上去,把延迟压下来。

131,072 块 GPU 连成一张网,2.5 微秒的延迟——这两个数字放在一起,才是这套方案真正的卖点。