过去九个月,推理模型带来的KV缓存规模增长了约10倍。这个数字来自Marvell高管Will Chu和Dave Lazovsky在Six Five Summit 2026上的一次访谈。它意味着一个很具体的后果:单机架内的HBM容量,已经装不下前沿模型的运行需求。

市场长期把注意力放在XPU本身,却忽视了围绕它的"附着层"——网络、内存、存储与安全。当推理时计算成为主流负载,这层被忽视的基础设施开始反过来卡住算力的脖子。

打开网易新闻 查看精彩图片

互连域被迫从144扩到576

内存装不下,系统只能往外扩。Marvell给出的路径是:把互连规模从144个XPU扩展至下一波约576个XPU的Pod,并持续向上扩展。这不是架构偏好问题,而是容量约束下的必然选择。

规模一扩,铜连接就逼近了物理极限。随着互连距离和带宽需求同步上升,传统铜基互连的性能已经见顶。Marvell的判断是,从铜到光的转变并非可选升级,而是维持算力扩张的必要条件。

公司同时推进板载光学(NPO)与共封装光学(CPO),并提供从计算单元到交换机端口的完整迁移路径。在功耗层面,相比传统2.4T SerDes的光学链路,基于模拟SerDes的规模扩展网络可将功耗降低约4倍,预计全面部署后可实现数据中心整体能耗降低25%以上。

内存墙的多层次解法

内存价格高企,倒逼云厂商重新审视架构。Marvell提出的方案覆盖了从芯片内部到机架外部的多个层次:

  • 专有高密度SRAM IP
  • 集成定制HBM
  • 3D堆叠技术
  • CXL内存扩展
  • 光子织物内存,提供32TB外挂内存池

这套组合的目标是让容量与带宽能够独立扩展,而不是被单机架的物理空间绑死。

四家公司吃掉75%市场,定制成标配

超大规模云市场的集中度极高:四家公司占据数据中心基础设施总可寻址市场的75%以上,且各家架构差异显著。标准化通用芯片难以满足极致性能需求,定制化因此成为标配。

Marvell的策略是深度嵌入客户开发团队,提供从SerDes、I/O到交换芯片的端到端定制硅片方案。用访谈中的说法,每一颗XPU背后,存在三到四个甚至更多的配套定制机会。

这也解释了Marvell自身的角色变化:从芯片供应商转型为基础设施核心设计伙伴。在算力扩张撞上物理墙的阶段,能同时提供光学互连、内存扩展和全链路定制的厂商,拿到的不只是订单,而是架构定义权。