针对高速AI推理中内存带宽这一核心瓶颈，Cerebras周二发布了新一代晶圆级引擎（WSE）及Nexus机架系统。其餐盘大小的AI加速器内存带宽高达21.6 PB/s，号称是英伟达或AMD旗舰GPU的1000倍。新系统旨在将每瓦吞吐量提升至上一代的十倍。
WSE-3T：频率翻倍的“涡轮”版
新发布的WSE-3T（T代表Turbo）在计算能力、内存互连总线和I/O带宽上均实现翻倍。数据显示，其稀疏FP16算力从125 PFLOPS升至250 PFLOPS，密集FP16算力从12.5 PFLOPS升至25 PFLOPS，内存带宽从21.6 PB/s增至43.2 PB/s，I/O带宽从1.2 Tbps增至2.4 Tbps。
值得注意的是，WSE-3T并未改变硅片基础规格。其晶圆面积（46,225 mm²）、工艺节点（台积电5nm）、晶体管数量（4万亿）、核心数（90万）及SRAM容量（44 GB）均与两年前的WSE-3保持一致。性能提升主要源于供电效率的优化，使芯片工作频率从1.4 GHz翻倍至2.8 GHz，从而实现更高的令牌生成速度。晶圆级TDP预计从15 kW增至33 kW，系统级TDP预计从23 kW增至46 kW。
尽管纸面数据亮眼，但实际效能需理性看待。Cerebras的性能宣传高度依赖稀疏性，而大语言模型（LLM）推理通常更看重密集算力。若按10倍稀疏度折算，WSE-3T的密集FP16性能约为25 PFLOPS。此外，峰值内存带宽可能仅为理论值，因为在LLM推理中，单芯片往往难以饱和其SRAM。
在应用策略上，Cerebras不再试图独立运行整个推理堆栈，而是与亚马逊云科技（AWS）和AMD合作，将计算密集的提示处理部分卸载至Trainium XPUs和Instinct GPU，自身则专注于充当解码加速器。凭借板上巨大的SRAM容量，Cerebras仅需几十个处理单元即可运行万亿参数模型，远低于其他方案所需的数千个单元。鉴于SRAM容量自WSE-2以来未显著增加，业界推测下一代WSE-4可能会在适度提升算力的同时，重点翻倍SRAM容量。
CS-4机架：模块化与去交换直连
伴随WSE-3T发布的CS-4机架系统，标志着Cerebras正式进军机架规模计算。借鉴英伟达NVL72和AMD Helios的思路，CS-4采用模块化架构，将计算、供电和布线分离。芯片被封装在名为“背包”的独立模块中，每个CS-4最多可容纳三个“背包”，插入机架背面，正面则部署电源架。由于单系统加速器数量增加三倍，预计总系统功耗在120 kW至140 kW之间，虽高于前代，但相比竞品即将推出的240-250 kW机架仍显保守。
在互联方面，CS-4通过移除额外交换机，让芯片直接通信，将延迟从5微秒降至2微秒。这种二维环形拓扑结构支持流水线并行，特别适合对延迟敏感的多加速器推理场景。虽然也支持基于RoCE的交换式fabric，但延迟会略有增加。据基准测试数据，在单个CS-4系统上，gpt-oss-120b模型的推理速度可达每秒4400个令牌，远超当前基于GPU服务的每秒约350个令牌。该拓扑结构理论上可支持高达50万亿参数的模型。
Cerebras预计，首批基于CS-4的系统将于本季度晚些时候上线。
【星途科讯 图文丨Patrick 首发于ZAKER科技，转载请注明出处】
热门跟贴