IT时代网8月27日消息,高通技术公司高管近期接受采访时透露,超大规模云服务商对高带宽计算(HBC)技术表现出浓厚兴趣,高通正联合内存厂商加速推进该技术商用落地。
过去十年,Transformer 模型规模每两年增长约 240 倍,而同期计算内存的带宽与容量仅翻了一番。这道巨大落差意味着,若内存瓶颈打不破,再强的计算集群也难充分发挥效能。
传统方案靠 HBM(高带宽内存)提升带宽,但"计算与物理分离"的架构让数据仍需跨硅中介层传输,搬运本身就要消耗大量功耗,能效短板日渐明显。随着 AI 驱动的数据中心投入攀升,HBM 供应压力有增无减,大规模推理部署的总拥有成本(TCO)负担沉重。
正是瞄准这些痛点,高通在今年 6 月的投资者日活动上正式披露数据中心业务蓝图,并推出 HBC 技术。该方案采用近存计算架构,通过 3D 堆叠把计算单元与内存深度融合,在保留高带宽、高密度、大容量优势的同时,从根源上缓解"内存墙"造成的传输拥堵。
这位高管指出,相比 HBM,HBC 不仅能大幅降低功耗,还能实现更高的有效带宽,为下一代 AI 工作负载提供更优解。目前已有多家超大规模云厂商与高通展开技术交流,高通也正与各大内存制造商协作,推动从标准制定到产品化的全链条落地。
打开网易新闻 查看精彩图片
注:本文中包含AI辅助创作的内容。
热门跟贴