据DigiTimes报道，美光正在研究高耐久性NAND闪存模块，计划将其部署在距离GPU更近的位置，而不是像传统存储那样通过多重协议连接到较远的存储池。这种架构目前被称为“近GPU NAND”（near-GPU NAND），目标是让GPU直接访问数百GB的存储池。

与追求高密度的传统TLC、QLC NAND不同，这种新芯片会适当降低存储密度，把研发重心放在提升I/O速度、带宽与读取延迟上。它可以被直接放置在GPU封装内部或PCB上，工作逻辑与HBM、GDDR7等高速存储方案类似，作为介于显存与普通存储之间的高速缓冲层。

对运行超大参数的大语言模型来说，这一层级尤为关键。当模型参数超出显存容量时，近GPU NAND可以缓解内存带宽瓶颈，让系统在不增加GPU数量的前提下支撑更大规模的推理任务。

TechPowerUp的报道提到了相同细节，称美光希望在存储密度与耐久性之间取得折中，面向不需要极致低延迟和高带宽的工作负载。SK海力士与SanDisk已经率先推动HBF方案，试图用更耐用的NAND扩展GPU的HBM寻址空间。

不过所有厂商仍面临共同挑战：如何在保持NAND成本优势的同时，大幅缩小其与HBM在带宽和耐久性上的差距。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

本文源自：市场资讯

作者：听潮