打开网易新闻 查看精彩图片

Arista将芯片、系统等领域的多家合作伙伴联合起来,共同推动以太网在AI扩展(scale-up)机柜中的应用。

Arista认为以太网是AI领域首选的扩展网络架构,并持续构建其对英伟达NVLink等专有互连技术的替代方案。本周,Arista发布了全新的以太网参考架构,并与AMD、Arm、博通、Meta、微软和高通等多家行业伙伴建立了一系列集成合作关系,旨在帮助大型企业和超大规模数据中心客户将基于以太网的扩展与横向扩展设计变为现实。

Arista将提供其7060EX7系列交换机,并配合光纤配线架、集成液冷歧管、带主动检漏功能的接水盘、机柜管理控制器,以及配备备用电池的电源架,同时整合合作伙伴提供的软件和其他技术。

所有这些方案均基于标准以太网技术。Arista云与AI业务部门副总裁兼总经理哈德夫·辛格(Hardev Singh)向Network World表示:扩展基于ESUN以太网标准,横向扩展则基于具备UEC特性的以太网。

辛格表示:Arista的定位与英伟达专有的NVLink和InfiniBand技术栈形成了鲜明对比。

以太网扩展网络(ESUN)倡议由非营利组织开放计算项目发起,旨在推动网络技术发展,以应对加速AI基础设施中的扩展连接需求。ESUN的支持者包括AMD、Arista、Arm、博通、思科、HPE Networking、Marvell、Meta、微软、英伟达、OpenAI和甲骨文。

根据Arista介绍,ESUN为网络运营商在加速器、交换芯片、光学器件、物理机柜设计和网络软件方面提供了灵活性,同时保留了集合通信所需的高带宽、低延迟和可靠有序传输能力。

超以太网联盟(UEC)的成员包括AMD、Arista、博通、思科、Eviden、HPE、英特尔、Meta和微软。该联盟的使命是联合行业领导者,构建面向高性能网络的完整以太网通信堆栈架构。

辛格表示:Arista的策略是,直到最近,英伟达一直是市场上唯一的玩家,其专有的扩展技术是构建扩展网络的主要技术。随着扩展市场规模不断扩大,非英伟达加速器生态系统也在壮大,这为Arista带来了全新的机遇。这也是另一个差异化优势——这一切都是基于以太网,纯粹的以太网。

辛格说:只需看看AI网络领域正在发生的事情,他提到了微软Maia、Meta的MTIA(Meta训练与推理加速器)、AMD的Helios,以及谷歌的张量处理单元(TPU)。这些技术都为Arista这样的以太网厂商带来了机遇。

辛格表示,Arista及其合作伙伴提供的设计方案将为客户提供一条路径,使其能够在不断演进的高密度AI部署中整合计算、网络、电力和液冷系统。Arista将其基于ESUN的以太网扩展架构称为Etherlink SU-144,主要包括以下三种设计:

正交机箱设计:在加速器与交换机板卡之间采用直接正交连接,支持在100千瓦至400千瓦直接液冷范围内实现144个XPU的加速器密度。

线缆背板设计:将高密度线缆背板与模块化机柜结构相结合,实现高度可维护的设计。

跨机柜设计:一种模块化架构,为跨多机柜部署扩展计算和网络提供最大灵活性,使扩展与横向扩展能够支持更大规模的扩展域。

Liberte Research Group首席分析师兼创始人鲍勃·拉利伯特(Bob Laliberte)在LinkedIn上就此发文称:跨机柜架构尤其值得关注,因为它将扩展域扩展到了单个机柜的物理极限之外,最多可支持1024个加速器,同时保持高带宽、低延迟的连接。

拉利伯特写道:Arista同时也在应对更广泛的基础设施变革。随着AI集群密度不断提升并转向液冷,机柜正在取代单个交换机,成为实际部署的基本单元。电力分配、散热管理、光纤密度、检漏以及系统验证,如今都必须作为一套集成方案来设计。

在横向扩展方面,Arista正在定义基于UEC的设计方案,其中包括多路径可靠连接(MRC)架构弹性、多平面路由、智能动态负载均衡以及集群负载均衡,以应对AI Token生成效率和相关工作负载的需求。

辛格表示:客户的设计方案会因加速器功率、GPU数量、带宽、散热范围和机柜配置的不同而有所差异。Arista在机箱工程、散热设计和信号完整性方面的能力,是我们的差异化优势所在。

例如,辛格提到某种机柜配置的带宽会随着下一代互连技术的发展而扩展。一个16交换机的配置方案每机柜带宽接近1.6拍字节,而采用XPO、CPO和NPO等光学技术的其他设计方案,带宽有望提升至四倍。辛格说:基于200G的Tomahawk 7一代产品,单机柜可支持6.5拍字节带宽,功耗超过100千瓦。

辛格表示:与目前基于OSFP的交换机每机柜1.6拍字节/秒的传输能力相比,下一代光学技术可将其提升至每机柜6.5拍字节/秒。这种大幅度的密度提升,意味着数据中心整体占地面积可减少近50%,从而带来可观的时间和成本节省。

辛格说:我要明确一点,客户不会在Arista的产品价目表上找到整机柜的产品型号。我们不销售集成机柜,我们销售的是用于这些液冷机柜的交换机,再被整合进机柜中。我们提供软件和技术,用于与定制联合开发设计进行整合,并与增值经销商或系统集成商等合作伙伴合作,由他们为客户交付完整集成的机柜。此外,我们还在与多家光学器件厂商以及富士康、广达和Hive等合作伙伴展开合作。

所有这些设计方案的基础,是Arista的网络诊断基础设施(NetDI)诊断与验证层,它可在Arista的EOS操作系统,或SONiC、FBOSS等其他网络操作系统之间运行。例如,Arista最新的1.6T AI交换机就专门集成了NetDI,以便在不同操作环境中提供一致的诊断能力。

辛格表示,NetDI能够追踪多项交换机诊断功能,例如线缆和光模块健康状况、设备遥测、故障排查与隔离,以及其他有助于云计算公司管理这些超大规模网络的因素。

Arista在一篇相关博客中写道:NetDI提供深度硬件级验证、信号完整性分析、安全启动认证以及单粒子翻转抗扰能力,为交换机、物理光模块、电源架和液冷基础设施提供丰富的遥测数据支持。

Q&A

Q1:Arista的Etherlink SU-144架构是什么?

A:Etherlink SU-144是Arista推出的基于ESUN标准的以太网扩展架构,主要包括正交机箱、线缆背板和跨机柜三种设计,可支持从144个到1024个加速器的扩展部署,用于替代英伟达NVLink等专有互连方案。

Q2:Arista的以太网方案与英伟达NVLink相比有什么区别?

A:Arista的方案完全基于标准以太网技术构建,通过ESUN和UEC两大行业标准实现AI扩展与横向扩展网络,而英伟达NVLink和InfiniBand则是专有技术栈。Arista强调其开放性可兼容AMD、博通等多种加速器生态。

Q3:哪些公司参与了Arista此次的以太网合作方案?

A:Arista此次联合了AMD、Arm、博通、Meta、微软、高通等多家公司推出新的参考架构,同时依托ESUN和UEC两大行业组织,成员还包括思科、HPE、英特尔、英伟达、OpenAI和甲骨文等。