公众号记得加星标⭐️,第一时间看推送不会错过。
虽然像GPU这样的专用加速器在人工智能热潮中备受瞩目,但事实上,目前制约工作效率提升的瓶颈在于数据传输,而非数据处理。近期在硅谷举办的Hot Interconnects 2026大会展示了互连和网络领域的最新突破。我们最近采访了HotI'26组委会,听取了他们对此的看法。
HPCwire:目前高性能计算和人工智能的瓶颈似乎在于数据传输,因为内存带宽(以及网络)的增长速度并没有跟上处理能力的增长。您认为造成这种情况的原因是什么?
HotI'26组委会:芯片内部计算的速度会随着处理技术的进步(包括节点尺寸的增大)而提升,但芯片间的数据传输速度却无法同步提升。此外,随着处理器速度的提升和数据传输需求的增加,互连技术必须应对串行或并行互连方案的选择、SerDes的成本以及尚未成熟的能耗预算等问题。
这种情况已经持续了大约十年,只是在过去五年里,由于人工智能/机器学习计算需求的激增(迈向“超级”智能及更高层次!),我们才更加深刻地感受到这一点;因此,扩展领域(纵向扩展、横向扩展和跨域扩展:HotI'26 的主题)也得到了持续改进。随着处理任意复杂查询所需的推理能力不断增长,资源解耦架构和机架级计算(例如 CXL、NVLink/NVSwitch 等)目前仍占据着有利地位。
HPCwire:在过去的六到十二个月里,您在互连领域看到的最有前途的发展是什么?(请随意选择不同的时间段)。
HotI'26组委会:最有前景的发展是(众多)从前面板可插拔组件向NPO和CPO演进的新方法,尤其是像基板中间垂直链路这样的3D解决方案。这些方法将互连与计算ASIC更紧密地耦合在一起,以解决海岸线问题并降低能耗。大多数此类解决方案需要外部激光器,但我们看到越来越多的方法将光源放置在NPO或CPO上,而不仅仅是调制和检测位置。
围绕光学器件的MSA(多系统协议)和标准(例如近封装光学器件外形尺寸OpenCPX)的社区的兴起,简化了光学器件的组装和测试,为提高能效并增强光链路架构的灵活性提供了途径。今年大会上的所有MSA(OpenCPX、XPO、SDM4 MCF和OCI)都解决了制造、带宽密度和能效方面的重要挑战,为下一代系统的交付奠定了基础。
另一方面,机架级计算正在取得显著进展:Nvidia NVLink/NVSwitch 已将 AI 系统设计从节点级思维转向机架级思维,一个包含 72 个 GPU 的 NVL72 机架可以作为一个统一的 GPU 运行。Nvidia 宣布,第六代 NVLink Vera Rubin 将为每个 GPU 提供 3.6 TB/s 的吞吐量,每个 NVL72 机架可提供 260 TB/s 的纵向扩展带宽。Nvidia NVLink Fusion 通过允许合作伙伴将定制 CPU 和 XPU 连接到 Nvidia 的机架级平台,将这一优势扩展到了半定制 AI 基础设施。更广泛地说,近期围绕纵向扩展互连技术的行业活动,例如 UALink 2.0(4 月)和 Ultra Ethernet 1.1(10 月),反映了一种普遍的转变:机架内部的互连架构正日益成为 AI 和 HPC 系统设计中至关重要的组成部分。
HPCwire:您预计互连技术在未来六到十二个月内会发生怎样的变化(我随意设定的时间表也一样)。
HotI'26组委会:带宽增长仍然是一个令人兴奋的前沿领域,但其未来一年不断上涨的物理成本可能会推动互连设计向系统设计转变。届时,优化目标将从原始链路速度转向交付的应用性能,这意味着弹性(例如,最大保留时间)、工作负载感知(例如,推理与训练)以及延迟/功耗/成本权衡必须与带宽协同优化,而不是作为事后考虑的因素。
新的几项市场服务协议(3月份签署了四项,10月份又签署了一项)有望就某些方法达成行业共识,从而扩大市场规模,加速新技术的普及应用。未来24-36个月内,我们将看到光路交换机的应用日益广泛,但只有采用新的网络架构,才能充分发挥其优势。而这些新的网络架构在进行大规模部署之前,需要经过验证。
HPCwire:硅光子学如何影响网络和互连技术的发展?
HotI'26组委会:硅光子技术正在推动传输距离、能源效率和带宽密度的提升。它降低了规模化传输的密度,并允许在拓扑结构、尺寸和带宽增加方面拥有更大的灵活性。多机架系统架构在规模化传输方面涌现出大量创新,多家公司正在探索光纤布局、连接器、激光器以及托盘和机架可维护性方面的新设计。硅光子技术将带来巨大的收益,尤其是在降低功耗方面,最高可达200 Gb/s/通道,但其发展潜力究竟有多大尚不明朗。
HPCwire:您认为未来 12 到 18 个月内,硅光子技术的发展会受到哪些因素的阻碍?
HotI'26组委会:这项技术在过去几年中日趋成熟,但随着对激光器、制造、组装和测试的需求不断增长,供应出现了瓶颈。封装、通道速度以及不同材料等因素都限制了这项技术的应用(其影响甚至超过了研发本身)。
HPCwire:目前看来,下一代规模化互连领域存在很多不同的标准在竞争,例如 UALink、ESUN 和 NVLink Fusion。这种协议多样性是好事还是坏事?市场是否需要单一标准?
HotI'26组委会:我们必须拭目以待,但在当前人工智能/机器学习领域,市场不会容忍三种标准长期共存(除非厂商做出稳定的承诺)。只要厂商能够为客户带来特定价值,像NVLink这样的专有互连技术就会继续存在。ESUN似乎越来越受欢迎,如果获得厂商的共同支持,它甚至可能占据主导地位(NVIDIA已经开始支持它)。另一方面,UALink的前景则有些不明朗。
HPCwire:您目前对 2026 年底互连技术的发展现状最兴奋的是什么?
HotI'26组委会:这是一个创新与颠覆并存的时代。我们尚不清楚哪些解决方案最终会胜出,而在此之前,整个行业的发展都将受到阻碍。最令人兴奋的是,互连技术正受到如此广泛的关注。
当然,原因在于数据中心预算大致可以分为两部分:计算和互连或网络。计算能够产生收益,而互连则不能。因此,重点在于降低互连所消耗的预算,而这种关注会转化为对开发新型互连技术的科技公司的更多投资。
(来源:编译自hpcwired)
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第4569期内容,欢迎关注。
加星标⭐️第一时间看推送~
求推荐
热门跟贴