公众号记得加星标⭐️,第一时间看推送不会错过。

英特尔前CEO再次抨击HBM内存架构存在缺陷,尽管他承认这是“我们目前能得到的最佳方案”。与此同时,由于HBM产能持续增长而DRAM产能下降,南亚半导体重申DRAM短缺将持续到2028年初。

继7月份称HBM是“糟糕的”解决方案之后,英特尔前CEO帕特·盖尔辛格近日再次加倍抨击HBM。

英特尔前任掌门人在接受 a16Z 的专访时,对高带宽内存 (HBM) 解决方案提出了严厉批评,并指出:

“HBM内存简直糟糕透了。这已经是我们能找到的最好的了……它真的太差劲了。你知道,它的位密度非常低。带宽受限,功耗、散热等等问题也让我很头疼。DRAM内存不喜欢高温。所有数据都集中在一个地方……对于人工智能这种内存计算密集型工作负载来说,HBM内存简直是灾难性的。”

为了那些可能不了解的人,PHY(物理层接口)——GPU/ASIC 核心逻辑与 HBM 堆栈之间的物理转换器——是海岸线带宽问题的主要驱动因素,这基本上是由计算芯片的有限周长(或“海岸线”)造成的物理和架构瓶颈。

HBM 是一种“宽而慢”的架构,需要大量的并行连接。例如,HBM3/3E 的总线宽度为 1024 位,而 HBM4 的总线宽度则提升至 2048 位。因此,单个 HBM 接口拥有大量的物理连接/引脚(微凸点)也就不足为奇了,而 PHY 芯片则包含了每个引脚的驱动器、接收器和路由逻辑。

因此,PHY 芯片占据了计算芯片边缘(即“海岸线”)一块巨大且坚硬的矩形硅片。正是这块硅片限制了芯片旁可放置的 HBM 堆叠数量。此外,计算芯片通常只能分配两个边缘用于 HBM,其余两个边缘通常用于系统 I/O,这进一步加剧了海岸线带宽不足的问题。

如果说上述限制还不够,那么PHY芯片自身产生的热热点会显著降低HBM的效率。例如,根据韩国科学技术院(KAIST)的热分析,在内存利用率较低时,GPU核心是主要的发热源;但一旦HBM的功耗超过约30瓦,HBM PHY芯片自身产生的热量就会成为内存热应力的主要来源。

最后,考虑到 HBM 堆叠中的各个 DRAM 芯片必须通过大量的硅通孔 (TSV) 连接,从而减少了单个芯片上可以放置的存储单元数量,因此每个 DRAM 芯片的位密度要低得多,即使整个堆叠累积起来每平方毫米的密度更高。

请注意,Pat Gelsinger 早在 7 月份就对 HBM 发表了类似的贬损性言论,当时他在 RAISE 峰会上指出,HBM 是一部“糟糕的”记忆法:

“我们都听说过HBM,也就是高带宽内存。HBM是一种很糟糕的内存。我知道我的内存专家朋友们马上就要上台发言了,说他们的产品丑陋可能不是结交朋友和影响他人的最佳方式。但它确实是一种很糟糕的内存。”

与此同时,我们已经知道,HBM 芯片消耗的晶圆数量大约是同等尺寸普通 DRAM 芯片的三倍。这导致普通 DRAM 芯片长期供应短缺,而南亚半导体在最近的财报电话会议上也指出,人工智能正在给整个存储领域带来结构性变革,由此造成的DRAM 芯片短缺可能会持续到 2028 年初。

初创公司,打造HBM“替代品”

随着AI模型规模持续扩大,存储器正在成为制约AI芯片性能、能耗与扩展能力的重要因素。围绕高带宽存储器(HBM)和静态随机存取存储器(SRAM)的技术瓶颈,一家美国初创公司正试图寻找新的解决方案。

据EE Times Japan 10月13日报道,美国初创公司Kepler Computing计划于2027年启动新型存储器的生产。该公司表示,通过结合自主3D集成技术与铁电存储器技术,其产品相较HBM的单位功耗带宽有望提升至5至10倍,另一类产品的容量则有望达到传统SRAM的至少10倍。

Kepler希望借此突破现有存储器架构的限制,并与GlobalFoundries(格罗方德)等产业伙伴合作,推动相关技术走向规模化制造。不过,上述性能指标目前主要来自公司方面的披露,最终表现仍有待产品落地验证。

AI算力增长,存储器的能耗瓶颈日益突出

在AI数据中心中,GPU承担主要计算任务,HBM则为其提供高带宽数据供给。随着大模型参数规模、上下文长度以及计算负载持续增加,处理器与存储器之间的数据传输压力不断上升。

问题不仅在于带宽够不够,还在于获取数据需要消耗多少能源。随着数据传输规模扩大,存储器的设计与制造成本、系统能耗和散热压力也随之增加,进一步抬高AI基础设施的建设和运营成本。

Kepler首席执行官Debo Olaosebikan在接受EE Times采访时表示,AI数据中心消耗的大量能源用于GPU与HBM之间的数据传输。该公司认为,继续沿用现有存储器架构,可能越来越难以同时满足带宽、容量和能效方面的需求。

对于HBM而言,堆叠更多存储芯片、提升数据传输能力是一条重要的技术路线,但更高的集成密度也会带来散热与制造方面的挑战。与此同时,SRAM虽然具备低延迟等优势,但其存储单元面积较大,进一步提高容量和密度同样面临限制。

Kepler试图从存储器器件、集成架构和制造工艺三个层面寻找突破口,而不是单纯依靠传统晶体管持续微缩。

3D单片集成与铁电技术,试图绕开传统微缩路径

据报道,Kepler成立于2018年,总部位于美国加利福尼亚州圣何塞。该公司的技术路线结合了3D单片集成和铁电存储器技术,希望在提高存储密度的同时,降低对先进光刻工艺的依赖。

Kepler首席执行官Olaosebikan介绍,公司开发的技术可以在控制热问题的前提下,将不同器件单片集成在半导体芯片内部。其思路是使用现有晶体管作为基础,在晶体管上方进一步集成其他器件,从而提升单位面积内的功能密度,而不是完全依赖缩小晶体管尺寸。

这一路线与传统的二维微缩有所不同。过去,先进芯片性能提升的重要途径之一是持续缩小晶体管尺寸,但随着工艺不断推进,制造复杂度、设备投入和成本都在上升。Kepler希望通过垂直方向的器件集成,提高既有晶体管的利用效率。

公司首席技术官Sasi Manipatruni表示,这种方法有望将存储密度提升至原来的2至3倍,同时保持与CMOS工艺的兼容性。

在制造方面,Kepler称,其技术路线有望减少对极紫外光刻(EUV)的依赖。公司表示,基础晶体管层可以采用EUV工艺制造,但上层器件的集成不必完全依靠进一步缩小晶体管尺寸。

这并不意味着先进光刻工艺将被彻底取代,而是意味着在特定架构下,部分密度提升有机会通过器件集成实现,从而为制造成本和工艺选择提供新的空间。

此外,铁电材料也是Kepler技术路线的重要组成部分。公司称,其团队过去约七年一直在探索相关材料,并对材料成分、梯度和电极等因素进行了大量试验。不过,Kepler并未披露其铁电存储器的具体材料配方和详细技术参数。

两类新型存储器,分别瞄准HBM和SRAM

Kepler并非只开发一种存储器,而是计划推出两类产品,分别面向HBM和SRAM所处的应用领域。

根据公司披露,其中一类产品可视为HBM的替代方案,重点在于提升带宽与能效;另一类则瞄准SRAM,希望在保留相关应用价值的同时,显著提高存储容量。

Kepler表示,其存储器相较SRAM,容量有望达到至少10倍;与HBM相比,单位功耗带宽则有望提升至5至10倍。

需要注意的是,容量提升与带宽提升是不同的指标,不能简单理解为所有产品都能同时实现相同幅度的性能改善。公司也尚未公布足以全面评估其产品的完整规格,包括具体容量、绝对带宽、延迟、功耗、成本以及不同工作负载下的表现。

对于AI芯片而言,存储器的价值不仅取决于理论带宽,还取决于实际访问延迟、数据传输效率、封装集成方式和软件适配等因素。因此,Kepler能否形成真正的竞争优势,还需要结合具体系统进行验证。

在HBM替代产品的实现上,Kepler将采用自主开发的3D封装技术。公司联合创始人Rajeev Dokania表示,3D集成通常会引入额外的热管理挑战,而公司希望通过自身的架构设计,将热方面的额外开销控制在较低水平,从而以较低能耗实现高带宽。

如果相关技术能够达到预期,其意义不仅在于提高存储器自身的能效,还可能为AI加速器的存储架构提供新的设计选择。

联手格罗方德,向2027年量产推进

从技术研发走向规模化制造,是Kepler接下来需要跨越的关键一步。

报道称,Kepler已经与格罗方德展开合作,并为扩大3D集成和铁电存储器的生产规模建设了自己的小型晶圆厂。

Kepler的设想是,在客户现有晶圆厂附近建设小规模自有工厂,以相对较低的投资实现先进器件集成。公司认为,与新建一座最先进制程晶圆厂相比,这种模式所需投资可能只有后者的十分之一。

这一模式的核心,是通过工艺与器件架构创新降低对传统先进制程投资的依赖,并借助产业合作推进制造。报道还提到,英特尔资本是Kepler的投资方之一。英特尔资本董事总经理Srini Ananth认为,公司已经发展到可以与产业伙伴协同推进规模化制造的阶段。

Ananth还指出,如果能够利用晶圆厂后端工艺(BEOL)实现超出传统工艺节点预期的集成密度,就有机会进一步推动芯片技术的发展。

不过,具体产能、良率、制造成本以及与现有存储器供应链的衔接情况,仍是这项技术走向商业化过程中需要观察的关键因素。

Kepler称,2027年的生产能力已经全部分配完毕,客户涉及AI数据中心和制造业领域,但公司没有披露除格罗方德以外的客户及合作伙伴名称。除了存储器产品,该公司还计划在长期布局中开发逻辑芯片。

HBM之外,AI存储架构是否迎来新选择?

从行业角度来看,Kepler的尝试反映出AI存储器技术正在探索更多可能性。

随着AI算力需求不断增长,单纯依靠增加HBM堆叠层数或持续推进晶体管微缩,未必能够独立解决带宽、容量、功耗和散热之间的全部矛盾。通过3D集成、存储器件创新以及制造流程调整,寻找新的性能提升路径,正在成为值得关注的方向。

但新型存储器要真正进入AI计算系统,还需要证明其在实际工作负载中的性能、能效、可靠性和成本优势,并解决量产良率、封装兼容性以及生态适配等问题。

对于Kepler而言,2027年将是一个重要节点。公司已经给出了量产计划和颇具吸引力的性能目标,但这些目标能否转化为稳定的产品能力,仍需要后续量产进展和实际应用结果来回答。

HBM在AI基础设施中的地位不会仅凭一家初创公司的技术宣示就发生改变。不过,如果Kepler能够兑现其承诺,AI芯片在存储架构上的选择或许将进一步拓宽。

(来源:内容来自半导体行业观察综合)

*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。

今天是《半导体行业观察》为您分享的第4559期内容,欢迎关注。

加星标⭐️第一时间看推送~

求推荐