打开网易新闻 查看精彩图片

观点网讯：据中兴通讯消息，该公司OEX超节点机柜采用正交无背板互联交换架构，通过缩短机柜内GPU数据传输路径、减少GPU等待时间，优化GPU算力。

在大模型训练和推理中，一颗GPU往往难以独立完成全部计算，需等其他GPU传来中间结果或新的任务数据到位，才能继续运行。协同的GPU越多、交换的数据越大，通信等待的问题越突出。

以张量并行为例，多颗GPU分担大模型任务，每算完一步需互换中间结果，对同步要求高，任一GPU落后，其余GPU需停下等待。在专家并行场景下，任务按输入内容分发给不同的“专家GPU”，专家算完后结果回传、汇总，GPU之间因此存在频繁的任务分发、结果回传和数据汇聚。

在机柜间互联方面，中兴通讯Matrix集群超节点推进两条路径，一是“电交换+光互联”的主流路线，二是“光交换+光互联”的前沿探索。

从OEX超节点机柜内的正交无背板互联，到构建万卡的Matrix集群超节点，再到光互连探索。

免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。