新华三王锋：超大规模超节点系统的全栈协同架构实践 | GACS 2026|新华三|服务器|王锋|超大规模超节点系统的全栈协同架构实践|运维

主讲人：王锋

智猩猩AI整理

编辑：六六

在 2026 全球 AI 芯片峰会同期进行的超节点技术研讨会上，新华三集团云与计算存储产品线解决方案部总经理王锋带来了主题为《超大规模超节点系统的全栈协同架构实践》的一场演讲。

新华三致力于构建超大规模、极致效率、安全可信、业务永续的新一代超节点系统，以解决在智能体这一时代，Token 消耗量大幅增长给AI基础设施带来的四个巨大挑战：集群规模扩展难、算力资源的利用效率低、硬件安全防护能力不足、AI基础设施的运维排障慢。

演讲中，王锋详细分享了新华三在新一代超节点系统中，在计算、网络、存储、云、安全和运维六大领域所做的技术探索和相关进展。

计算：以单柜 128 颗 GPU 的超高密部署叠加全液冷（无风扇）系统，一次性破解空间、供电、散热三大瓶颈。
网络：走"柜内电、柜间光"的光电并行路线，以算网多维度调优将带宽利用率从 70% 提至 96% 以上，并用 Scale-up / Scale-out 实现全互联。
存储：高性能分布式存储引擎做到了单节点带宽 200GB/s、数据访问性能 300 万 IOPS、时延低于 100 微秒；并以"以存换算"的 XCache 构建多级 KV Cache，让计算不再等数据。
云：以"一云多芯"打通异构算力壁垒，支撑 10 万节点 30 天长稳训练；研发智算加速引擎将跨节点通信时间降低 50%，内存利用率超 90%。
安全：构建算力运行、模型、Token 产出三层全链路防护，覆盖攻防检测、数据防泄漏与 AI 安全审计。
运维：统一运维智能体整合 5000 万个真实运维案例，贯穿"规、建、维、优"全生命周期，实现开局部署时间节省 60%，重复告警压缩 90%，故障排查效率也提升 90%。

王锋认为，未来的超节点不是单一产品或单一技术的竞争，而是全栈能力与系统效率的综合较量。

以下是演讲回顾：

王锋：非常高兴和各位来宾、各位同仁一起分享新华三在超节点系统上的一些思考和成果。今天我分享的主题是《超大规模超节点系统的全栈协同架构实践》。

新华三作为一家 ICT 厂商，我们既不是站在单纯的 GPU 芯片视角，也不是站在某一个具体领域的视角，而是站在整体领域、从全局思考的角度来看超节点，分享我们的一些理解。

构建新一代超节点系统

应对AI基础设施四大挑战

智能体时代已经全面来临，算力行业迎来了颠覆性的重构，算力重心从过去的大模型训练转向了超大规模推理。Token 消耗量的巨大增长，给AI基础设施带来了巨大挑战：

集群规模扩展难；
算力资源的利用效率低；
硬件安全防护能力不足；
AI基础设施的运维排障慢。

基于这些挑战，我们迫切需要我们打造一套面向超大规模场景的多元、开放、高效的超节点创新架构，这也是新华三一直在探索的方向。

新华三深耕计算、网络、存储、云、安全和运维六个领域，我们认为这六大方向都能够为超节点带来新的创新架构。因此，基于在硬件工程、软件融合、方案架构和专业服务上的核心能力，我们对超节点产品进行了深度整合。

我们的目标非常明确：构建超大规模、极致效率、安全可信、业务永续的新一代超节点系统。

算力释放超节点澎湃性能

首先需要释放超节点澎湃的算力性能。Token 用量呈指数级增长，Token 的每一次生成、每一次应用，都离不开算力，直接推动了算力需求的爆发式增长。

在同等算力规模下，高密机柜的优势非常明显：机柜更少、占地更小、布线和供电更集中、建设周期也更短。但挑战也随之而来：如今的算力芯片性能越来越强、功耗越来越高、面积越来越大。高密部署会让单机柜功耗飙升到几百千瓦，柜内温度急剧升高，散热问题也会进一步加剧，难以通过风冷和局部液冷来解决。

因此，我们必须采用超高密的算力架构，再加上全液冷系统，一次性地破解空间、供电和散热三大瓶颈。

（1）超高密算力架构设计

在柜内节点上，我们通过深度小型化的设计，让主板体积缩小 25%，彻底拿掉了节点的本地电源和风扇，省下了空间用于计算芯片的高密部署。其次，采用新一代液冷技术，将液冷部件同步做了一体化设计，把空间占用压到最低。

在机柜设计上，我们在国内首家落地了 1U 38.4 千瓦的高密电源，实现了大功率集中供电，整套架构原生兼容 800V 的高压直流供电。

这一系列组合让我们实现了单柜 128 颗高性能 GPU 的高密度部署，并且可以支撑未来更高算力密度的演进。

（2）全液冷（无风扇）整机系统设计

新华三在液冷领域持续深耕迭代：从最初的 CPU 冷板产品，到液冷背门技术，再到冷板式整机系统，如今我们将极致的液冷散热技术运用到超节点中，最大程度保障系统的冷静运行。

计算节点侧，主板上所有发热元件全部纳入液冷，冷板内部采用更高密度的流道设计，散热效率提升 10% 以上；机柜侧，率先落地集中式电源模块与机柜母线排的全液冷覆盖，配合全液冷计算节点，率先量产全液冷无风扇整机系统。

下一步，我们将在精密制造与整机密封技术上持续创新，推出相变冷板系统，目标是散热能力再提升 60% 以上。

网络实现超节点效能倍增

在大规模的超节点系统里，网络是算力规模高效扩展的关键变量，高效的网络设计可以实现超节点性能的效能倍增。

一方面，单 GPU 的互联带宽已从 800G 提升到 1.6T，强劲的 GPU 推动了互联带宽的持续飙升；另一方面，集群规模现已达到 10 万卡，受限于单机柜的空间和供电能力，跨柜协同已成为趋势。

只有 Scale-up 和 Scale-out 两大场景的有机结合，才能实现更高带宽和更大吞吐的算力效率。

（1）光电并行演进

柜内 Serdes 速率已发展到 224G，电信号在 PCB 板上的有效传播距离非常有限，对材料和设计都提出了更高要求。因此我们认为光电并行是未来的趋势，机柜内的电互联十分重要。我们通过对高速材料的甄选和高密度的制造，保障 224G 高速信号的可靠传输。

在机柜间互联场景，光已经成为更优的选择。CPO 等技术能够显著提升传输距离和带宽密度，但也对工程设计带来非常大的挑战：制造精度、散热和运维。所以我们并不是简单地“光电替代”，而是通过工程能力，把光和电都做到极致，从而实现高密可靠的互联。

（2）算网多维度调优

第二个技术点是算网协同调优。Scale-out 场景下带宽能否充分利用十分关键，而模型架构演进使流量更趋复杂，未经调优的网络物理带宽利用率仅约 70%。

新华三的网络调度技术已在某企业的超节点集群中将带宽利用率提升至 92.5% 以上，在某互联网客户的计算项目中将 GPU 带宽利用率提高到 96% 以上。

下一步，我们还将在毫秒级的微突发检测、网络状态快速通知和拥塞控制方面持续创新，进一步提升各场景下网络的有效吞吐。

超大规模超节点网络所需要的是一套真正面向 AI 大模型时代、Scale-up 与 Scale-out 全互联统一架构。我们通过“一级 Scale-up + 二级 Scale-out + Scale-Across”的三层融合架构，实现从芯片到机柜再到集群的全场景无缝互联。

存储消除超节点数据等待

随着超节点系统的规模不断提升，有一个问题开始愈发突出，那就是计算在等数据。我们认为让计算不再等待是超节点的关键。

算力服务商和大型金融机构的实践表明：存储性能已经成为算力集群普遍的瓶颈。

在模型训练时，常常因为数据访问带宽不足导致 GPU 等待；在模型推理时，超长上下文又需要存储提供微秒级的响应，才能保证多轮对话的连续性。所以超节点的存储面临三个问题：既要高带宽，又要高并发，还要低时延。

为此，新华三研发了高性能分布式存储系统和 KV Cache 推理加速系统来应对这些挑战。

（1）高性能分布式存储引擎

首先，我们通过全链路零拷贝、智能数据读取和多节点带宽聚合技术，打造了高性能的分布式存储引擎。该存储引擎可实现单节点带宽 200GB/s、数据访问性能 300 万 IOPS、时延低于 100 微秒，在全球测试榜单中排名第一。

（2）KV Cache 推理加速系统

第二是 KV Cache 推理加速系统。KV Cache 可以把大模型的历史上下文缓存在 GPU 显存中，避免重复计算；但长文本、多并发会使数据量激增，远超 GPU 显存上限。

为此，新华三以"以存换算"的理念，推出了 XCache 加速软件，构建从共享内存到 CXL 内存池、再到外部存储的多级缓存体系，扩展缓存容量，大幅提升了长上下文的响应速度。

云让超节点算力随需而动

谈完计算、网络、存储，下一个核心就是云。我们认为在 ICT 基础能力之外，如何让大规模超节点系统的算力高效运转，真正实现每一份算力随需而动，是关键所在。

在超节点的落地实践中，客户最关心的始终是三个核心痛点：

管控的挑战：如何弥补多算力芯片的架构差异、降低使用门槛；
资源的挑战：如何提升资源利用率；
效能的挑战：如何深挖硬件潜力，最大化的释放算力性能。

我们认为，只有通过系统性的整合和优化，才能实现更大规模的资源池、更均衡的算力调度和更高性能的训推服务。为此，我们推出了智算融合架构与智算加速引擎。

（1）智算融合架构

首先是智算融合架构。通过“一云多芯”打通算力壁垒，通过多元异构统一纳管、亲和性拓扑感知调度、算力细粒度切分与全域资源池化聚合，实现算力的细粒度复用。

同时依托弹性伸缩高容错技术，我们能保证在 10 万节点规模下持续稳定运行，实现 30 天以上的长稳训练，从而实现资源的高效供给与调度。

（2）智算加速引擎

我们研发了智算加速引擎，其核心技术是通信域的拓扑感知优化，包含“云算网协同 + 低时延集合通信库”。

新华三通过网络拓扑感知与路径导航，实现流量的全局负载分担；结合通信算子卸载与计算通信重叠，降低算力开销；再辅以秒级的故障感知与分钟级的故障自愈，确保可靠性。将跨节点通信时间降低 50%，突破传统 AI 服务器的通信极限。

智算加速引擎的另一个核心是算子融合与内存池化。通过异构算子融合和多粒度并行，实现算子性能提升 20% 到 50% 以上；依托异构内存资源池化，将 GPU 显存和 CXL 全局内存池化，突破单卡显存瓶颈，内存利用率超 90%，推理效率提升 10% 以上，让超节点的硬件算力效能真正转化为业务性能。

安全护航超节点可靠供给

安全很少有人在超节点上谈。我们认为安全已成为超节点规模化应用的必要条件，来护航超节点算力的可靠供给。

当前超节点面临三类典型的安全威胁：

算力被窃取：非法占用 GPU 资源，导致租户业务卡顿，拉高整体运营成本。
数据安全风险：数据篡改、越权访问、敏感信息泄露，既造成资产损失，还会引发模型输出偏差、影响可用性。
边界防护的缺失：DDoS、恶意高危操作劫持核心业务资源等，低成本的攻击就能引发严重损失。

这些问题，是我们提供 Token 服务时，整个超节点都必须考虑的痛点。

（1）算力体系化防护和数据供应链条管控

首先需要搭建分层、全链路的算力安全防护体系，从算力运行安全、模型安全、Token 产出安全三层架构入手，覆盖攻防检测、数据防泄漏、AI 安全审计等能力；同时从数据安全、供应链安全维度落地安全管控策略，做好模型合规训练、数据分级、服务器安全检测等。通过两者的协同防护消除安全隐患，保证 Token 业务稳定运行，最终达成最优的投入产出比。

运维保障超节点业务永续

接下来要考虑的核心点就是超节点系统能否稳定运行，而这正是运维要解决的核心问题，也是保证超节点业务永续的关键。

运维的本质是赋能人、管理物、处置事。当前超节点在运维方面面临几个痛点：