随着AI服务器出货规模扩大,需要更多地处理上下文数据(Key-Value cache,即KV缓存),已开始形成瓶颈,为此英伟达打算通过上下文存储(Context Memory Storage,即CMX)来缓解这一问题。目前英伟达用于AI服务器的CMX需要576块SSD,容量达到了9600TB。有业内人士预计,2026年CMX需要的总容量约为3500万TB,2027年将继续大幅上涨,达到1亿TB以上。
打开网易新闻 查看精彩图片
据TrendForce报道,Vera Rubin平台出货开始提升,对存储的影响已经从HBM延伸到NAND闪存,其中TLC NAND闪存现货价格从6月的低谷反弹,逐渐走高。市场数据显示,本周价格相比上周上涨了4.97%,相比三周前上涨了11.6%。虽然英伟达的大部分TLC NAND闪存供应是通过长期协议来获得保障,但是相关需求仍然给现货市场带来了压力,从而引发了价格的持续上涨。
之前有消息称,继通用型DRAM、HBM、以及晶圆代工领域建立合作关系后,三星与英伟达进一步扩大合作范围,延伸到了NAND闪存领域。三星已经向英伟达大批量供应第9代V-NAND闪存,另外也在推动第10代V-NAND闪存的量产,以满足英伟达CMX方面的需求。
另外今年铠侠(Kioxia)推出了新款CM10系列PCIe 6.0 SSD,首次搭载了最新的第十代BiCS FLASH TLC闪存,是一款支持CMX架构的产品。其相较于上一代产品,顺序读取性能提升约92%,随机读取性能提升约85%,而且支持直接冷板液冷散热。
热门跟贴