打开网易新闻 查看精彩图片

10月12日,在2026年OCP全球峰会上,三星电子集中展示了下一代内存与存储技术,并与AMD联合演示了基于CXL(Compute Express Link)的内存扩展解决方案。与此同时,三星还展出了与Groq、英伟达相关的芯片产品,以及2纳米环绕栅极晶圆。这一系列动作并非简单的产品迭代,而是AI基础设施从“算力单点突破”转向“存力系统重构”的信号。

当AI推理成为内存的“吞金兽”,服务器架构先撑不住了

过去两年,行业对AI芯片的注意力多集中在HBM(高带宽内存)的产能与带宽上。但随着AI模型参数规模指数级增长、AI代理承担的任务从单轮问答走向多步骤复杂推理,一个更棘手的问题浮出水面:单台服务器的内存容量和内存带宽,正在成为制约推理效率的硬瓶颈。

大模型推理时,KV Cache(键值缓存)会随上下文长度急剧膨胀。AI代理需要反复调用历史信息、工具调用结果和多轮对话状态,对内存容量的需求远超传统云计算场景。如果内存不足,系统就不得不频繁访问SSD,产生严重的I/O延迟;如果内存带宽不足,GPU即便算力再强,也只能空转等待数据。

传统服务器围绕CPU插槽组织内存的方式,已经无法满足这种“内存饥渴”。每台服务器的内存插槽和容量上限固定,扩容意味着新增整台服务器,而新增服务器的CPU和GPU资源往往又闲置。行业急需一种能够将内存资源从单一服务器中解耦、实现动态池化与共享的方案。

CXL内存池化:让内存像“云资源”一样流动

三星与AMD此次联合演示的,正是基于CXL的内存扩展方案。CXL协议的核心价值,在于为处理器、GPU、内存扩展设备之间提供高带宽、低延迟的一致性互连,使多个系统可以共同访问内存资源池。三星采用其CMM-D(CXL Memory Module - DRAM)内存池化技术,将内存从单机边界中释放出来,让多台服务器按需从池中获取容量。

这一方案对AI推理的意义在于:推理工作负载具有明显的突发性和波峰波谷效应。通过池化内存,系统可以在推理请求激增时弹性扩展可用内存,而不必为峰值需求长期配置大量闲置的本地内存。数据中心的内存利用率、能源效率、总体拥有成本,都有望获得显著改善。

值得注意的是,CXL内存池化并非新概念,但此前一直停留在标准制定和小规模试点阶段。三星与AMD的联合演示,意味着CXL生态正在从“协议验证”走向“真实负载适配”。AMD作为服务器CPU的主要供应商,其对CXL内存池化的支持力度,将直接影响下一代数据中心基础设施的采购决策。

从HBM到存算一体:三星在存储路径上的“两条腿走路”

除了CXL系统级方案,三星还展示了新一代高性能内存产品,包括定制化HBM和HBM5,以及存算一体(Processing-In-Memory, PIM)技术。

HBM自不必说,是AI加速器最核心的存储组件。三星强调“定制化HBM”,反映出AI芯片厂商对内存规格的分化需求——不同架构的AI ASIC对容量、带宽、能效比的要求各不相同,通用HBM已不能完全满足头部客户的差异化竞争需求。

更值得关注的是存算一体技术。将计算逻辑嵌入内存芯片内部,在数据存储位置直接执行运算,可大幅减少数据搬运带来的功耗和延迟。当前大模型推理的能耗瓶颈很大程度源于“存储墙”——数据在处理器与内存之间来回搬运消耗的能量远高于计算本身。存算一体若能规模商用,将是能效比的代际提升。

不过,存算一体的产业化仍面临生态和工艺挑战,短期内难以替代传统架构。三星同时布局HBM演进与PIM技术,实际上是“近期靠HBM升级、远期靠存算一体”的策略叠加——既守住当下AI算力市场的基本盘,也为下一代内存计算范式卡位。

存储介质同步进化:企业级SSD与KV Cache优化

算力再强,数据最终要落到存储介质。三星在数据存储与管理方面,展出了企业级固态硬盘,以及面向AI推理的键值缓存优化技术。

KV Cache优化技术的核心逻辑,是让AI模型复用先前处理过的信息,避免重复计算。在长上下文推理和多轮对话场景中,KV Cache的命中率直接决定响应速度和成本。传统文件系统与块存储接口并不适配KV语义,而专用键值存储和缓存策略可显著降低推理延迟。三星将这一层能力纳入“存储技术”范畴,意味着存储厂商的角色正从“硬件供应商”向“数据处理加速器”延伸。

产业信号:半导体竞赛从单点性能转向系统级协同

三星此次参会的另一个重要信号,是其展示了2纳米环绕栅极晶圆、Groq语言处理单元晶圆以及英伟达的Groq 3 LPX系统。内存厂商与AI芯片厂商的展品同台出现,本身就是产业融合的注脚。

过去,内存、代工、加速器各自为战;现在,AI系统的整体性能由芯片架构、内存层次、互连协议、存储软件共同决定。三星Max实验室的定位也说明了这一点——让客户在商业化前,基于真实AI工作负载测试内存与存储方案。这不再是“卖颗粒”的思路,而是“做系统”的思路。

对AMD而言,其在服务器CPU领域与英特尔的竞争,如今正被CXL内存扩展这一新维度影响。10月7日,AMD首席执行官苏姿丰访问韩国期间,双方探讨了内存与代工领域的潜在合作。结合年初签署的谅解备忘录,AMD与三星在AI内存、先进制程上的绑定正持续加深。这对两家公司而言,都是应对英伟达主导的AI算力生态、英特尔在代工和内存方面布局的防御性动作。

中国通信产业的“存力”视角

对于中国通信产业而言,三星与AMD的CXL方案带来的启示同样明确。

国内算力基础设施建设正从“千卡集群”走向“万卡集群”,存力规划不足的问题日益凸显。三大运营商及云厂商在AI智算中心招标中,往往把GPU数量作为核心指标,而内存容量、存储带宽、KV Cache效率等“存力”指标仍是次要位置。但实际运行中,大模型训练与推理的算力利用率,经常受制于内存瓶颈。

在CXL生态方面,国内虽有澜起科技等厂商推出CXL内存控制芯片和模组,但整体产业仍处于标准跟随和早期验证阶段。操作系统、虚拟化、集群调度软件对CXL内存池的支持尚不成熟,而这一层软件生态恰恰是决定方案能否落地的关键。

此外,美国对先进内存和AI芯片的出口管制持续加码,HBM等高端存储产品获取难度增加。这也迫使国内产业加速在存算一体、新型存储、CXL国产化替代等方向上建立自主能力。短期内,内存池化或许还难以全面落地,但AI大模型对内存的无限渴求,决定了存力技术必将成为继算力之后的下一个产业高地。

结语

三星与AMD的此次联合展示,让外界看到了AI服务器从“堆算力”到“破存墙”的路线转变。内存不再只是芯片旁边的配件,而成为决定AI系统扩展性、成本和能效的关键变量。当CXL内存池从演示走向量产,当存算一体从论文走向晶圆,真正的AI基础设施革命,或许才刚刚开始。