打开网易新闻 查看精彩图片

深夜机房没人打扰,设备安安静静,桌上泡着一壶金骏眉。

三兄弟凑一块儿唠闲嗑,不攀比各家业务长短,就聊聊行业刚爆出的重磅新进展。

中科曙光(端起茶杯抿了一口,慢悠悠开口)

很多人看算力,眼光永远盯在芯片规格上,总觉得单卡性能就是一切。

咱们做底层基建的心里都清楚,大模型、Agent落地,互连才是藏在幕后的关键。

芯片算力再强,卡间通信拖后腿,大量算力直接空转浪费。

今天浪潮放出的实测数据,刚好印证这个道理,高速互连早就不是配套边角料。

浪潮信息(往前挪了挪椅子,说起自家新品劲头十足)

老哥说到点子上了,这次元脑SD200超节点,核心底牌就是自研3D Mesh高性能互连架构。

打开网易新闻 查看精彩图片

依托原生内存语义开放总线,单机能稳稳拉起64张本土AI芯片,实现统一寻址,百纳秒级链路大幅削减显存访问、芯片互通损耗,系统自动规划最优传输路由。

我们针对Kimi K2.6万亿参数模型实测,单Token生成速度直接冲到4.77ms,正式迈进5ms推理时代,首Token延迟直接下降35%。

打开网易新闻 查看精彩图片

不管是代码重构、数万Token长文本解析,还是多Agent并行协同、无人自主持续推演,低时延互连直接解决并发排队、交互卡顿的痛点。

光靠硬件互连还撑不起这个成绩,我们做了全链路软硬协同优化。

引入多Token预测技术,减少解码轮次压低响应时延;针对万亿MoE模型推出W4A8量化方案,缓解带宽压力、降低推理成本;底层搭载JIT即时编译,针对性解决KV Cache访存瓶颈,把64卡算力完整释放出来。

整机适配DeepSeek V4、GLM 5.2、MiniMax M3一众主流国产大模型,单机最高承载4万亿参数大模型,搭配元脑企智EPAI平台实现多模融合。一次API调用就能联动多款大模型交叉校验输出,企业复杂业务落地省心不少。

打开网易新闻 查看精彩图片

之前客户想流畅跑Agent应用,要么高价采购海外互连设备,要么将就普通网络导致推理体验拉垮,现在这套3D Mesh方案落地,国产推理终于不用再被通信短板拖累。

紫光股份(轻轻点头,把整条链路梳理明白)

分开看两层算力网络就很好理解。

我主攻跨城、跨机房的广域调度外网,打通全国算力大动脉;曙光深耕十万卡集群内部大规模无损互联,适合超算训练项目;浪潮这套3D Mesh,主攻单机高密度卡间高速传输,专门适配万亿模型推理与商业化Agent场景。

过去国产算力的短板就是内外链路割裂,外部调度通畅,机房内部高密度传输跟不上。现在三家各有对应的互连方案,从广域调度、大型训练集群到单机推理节点,整条算力链路不再有明显缺口。

中科曙光(温润一笑)

算力赛道下半场,互连架构才是拉开差距的核心。

浪潮靠着3D Mesh互连交出4.77ms的亮眼实测,实实在在证明国产互连技术已经站上行业主舞台。

不管是大规模训练集群,还是面向商业化落地的推理超节点,自主可控的互连底座,才是国产AI长期发展的底气。

浪潮信息

说得没错,芯片决定理论上限,互连决定算力实际能用多少,现在国产互连双双突破,大模型商业化落地速度直接提上来。

紫光股份

内外传输短板全部补齐,接下来国产算力,该轮到我们主导行业新赛道了。

打开网易新闻 查看精彩图片

​​​#算力#​#科技股#​#股票#​​​​​​​#今日A股#​