IT时代网9月2日消息，据媒体报道，美光正在研究高耐久性NAND闪存模块，计划将其部署在距离GPU更近的位置，而非像传统方案那样通过多个协议连接到较远的存储池。

这种产品当前被称为近GPU NAND，可用于处理非低延迟、高带宽工作负载，让GPU直接访问数百GB的NAND存储池，可直接放置在GPU封装内部或PCB上，工作方式类似HBM、GDDR7。与传统TLC或QLC NAND相比，该芯片存储密度更低，重点在于提升I/O速度与带宽。该存储层位于显存和普通存储之间，可充当高速缓冲层，适合运行更大规模的AI大语言模型，落地后LLM推理将不再受显存容量限制。

打开网易新闻 查看精彩图片

注：本文综合自IT之家等，文中包含AI辅助创作的内容。