英伟达想让新的AI算力在抵达数据中心时就已经是“装好的”。在柏林GTC大会上,这家公司抛出了DSX POD——一种集装箱参考设计:合作伙伴在出厂前就把Vera Rubin机架、网络和液冷全部装进去。

打开网易新闻 查看精彩图片

按英伟达的说法,在传统数据中心里安装并接线机架可能要花上几个月;而只要站点已经具备必要的电力、冷却和网络连接,DSX POD最快14天就能开始产出token。当然,电力、冷却和网络本身往往也是瓶颈。

这套思路指向的是让数据中心运营方更快见到价值。英伟达创始人兼CEO黄仁勋在声明里的原话是:“AI工厂在开始生产token时创造价值——而不是在施工完成时。”

一个箱子里装了什么

每个集装箱容纳七个Vera Rubin NVL72机架,也就是504块Rubin GPU。英伟达超大规模与高性能计算副总裁伊恩·巴克在发布前的新闻简报会上说,单个单元包含约1000万个组件,重约28公吨。

集装箱内还预装并测试了大约20公里的铜缆和17公里的横向扩展网络。巴克说,集装箱运抵后,工作人员把它就位、与相邻单元连接,再跑最后的烤机测试。

用水这件事

巴克还提到,英伟达把这套系统设计成冷却不用水。按英伟达的说法,Vera Rubin可以运行在高达45摄氏度的冷却液上,因此干冷器——工作原理和汽车散热器差不多——可以替代目前许多数据中心仍在使用的蒸发冷却塔。

集装箱里的数据中心

服务器装进集装箱这件事不算新鲜,科技公司确实喜欢用集装箱,哪怕有时候更像公关噱头而非真实问题的解法。

2006年,Sun Microsystems推出过Project Blackbox,一个装在20英尺集装箱里的数据中心。十年后,时任AWS CEO安迪·贾西在re:Invent 2016主题演讲结尾,让一辆18轮卡车把Snowmobile开上舞台——那是一个45英尺的集装箱,可搬运100PB数据。此后微软和AWS都为灾区和军事任务建过集装箱化数据中心。

但这些和英伟达做的事并不相同。DSX POD本质上是预制部件,可以插进数据中心。巴克把它描述为新建AI工厂的积木。

已经在卖集装箱化边缘数据中心的Armada是17家承建合作伙伴之一,其他还包括Bull、戴尔、HPE、施耐德电气和维谛。

英伟达表示,合作伙伴将从2027年初开始在全球交付DSX POD系统。