在阅读此文前,为了方便您进行讨论和分享,麻烦您点击一下“关注”,可以给您带来不一样的参与感,感谢您的支持。
本文章内容均有可靠的信息来源,相关信源加在文章结尾
大家好,这里是北境翁,今天来给大家聊一下华为昇腾。外界关注近一年的华为昇腾Atlas950超节点,终于要和大众见面了。
这款从PPT构想走到实物的国产算力巨兽,本周五将在上海世界人工智能大会亮相,直接拉上英伟达比一比,胜算到底有多大?
从PPT到真机
去年9月,华为高管徐直军公布了昇腾AI芯片三年产品计划。当时不少科技圈人士觉得,这不过是PPT构想,真要落地难度极大。
谁也没想到,华为仅用不到10个月,就把规划变成了可展示的真机。目前国内中科曙光、摩尔线程等厂商,都已经推出了自家的万卡级超节点,华为的进度显然跑在了前面。
硬核参数拉满
本次亮相的昇腾950超节点,总共有160个机柜,其中128个为计算柜,32个为互联柜。每个计算柜配备64块昇腾950DT计算卡,128个计算柜加起来,一共有8192块昇腾950DT卡。
单卡性能方面,华为昇腾950DT配备144GHBM内存,访问带宽达到4TB/s,单卡互联带宽为2TB/s,还新增了FP8等低数值精度支持,训练和推理效率都有大幅提升。
整机集群总算力亮眼,FP8算力达到8EFlops,FP4算力达到16EFlops,总内存容量1152TB,互联带宽达到16.3PB/s。这是什么概念?如今全球互联网峰值带宽约为1.6PB/s,也就是说这款超节点的互联带宽是其10倍。
对比英伟达
有网友觉得,用8000多块卡对比英伟达的百卡集群,有点不公平。我们拆开来看,英伟达即将发布的Welink144,是由144块H100卡组成的集群。
从规模上看,华为的卡数量是英伟达的56.8倍,最终集群算力达到英伟达的6.7倍,内存容量是其15倍,互联带宽更是达到62倍。
至于单卡性能,华为昇腾950DT的FP8算力和英伟达H200相当,BF16算力稍弱,但内存带宽接近,HBM容量还比H200更高。
之所以单卡性能不如英伟达,核心原因还是美国的长臂管辖限制。国内厂商拿不到先进制程和HBM内存,只能走集群堆算力的路子。
华为用这种方式,硬生生把集群算力拉到了世界级水平,为国内大模型研发、AI训练提供了靠谱的自研算力支撑。
为的独家杀器
堆卡不是简单的堆叠显卡,传统以太网连接大量显卡时,会有大量时间浪费在数据等待上。华为的突破,在于光电融合的零拷贝互联技术。
机柜内部用同一介质的电信号传输数据,机柜之间用光纤光芯片传输,带宽更大、衰减更小。对比英伟达的方案,英伟达柜内显卡用软铜线连接,不仅占空间还会影响传输效率;柜间互联只用简单光纤,架构简陋。
华为的技术则是底层全面升级,把所有机柜融合成一个超级大脑,共享内存池,所有数据操作高度协调统一。英伟达其实也在布局光互联技术,但华为在通讯领域的积累更深厚,这项技术的优势已经显现出来。
未来还有更大算力巨兽
华为还规划了更宏大的算力集群,将42个950超节点连接起来,打造950超级集群,配备52.4万多张计算卡,FP8算力达到524EFlops,FP4算力突破1EFlops,真正成为全球顶级的算力巨兽。
信源:WAIC上的算力重器:华为昇腾950超节点真机现身
信源:从拼芯片到拼集群 华为昇腾950超节点首次真机亮相384超节点已商用超750套
热门跟贴