AI服务器爆发 但存储需求大不同

在2023年，整个IT圈，甚至普通人，在工作、生活中感受到的最大改变应该是：AI应用离我们真的很近了。我们可以利用各类AI工具生成小说、图表、图片和音乐，只要是你想得到的内容，它几乎都可以帮助用户实现。我们还可以借助AI进行图像、语音识别，实现自动驾驶，对行业、天气的发展趋势进行预测。根据NVIDIA财报数据（FY2Q24）显示，其数据中心业务达103.2亿美元，季成长率达141%，年成长率更高达171%。而NVIDIA高营收成长动力来则主要自于其数据中心AI服务器相关解决方案业务，这也因应了AI服务器在2023年对SSD固态硬盘需求大增的结果。

AI、互联汽车、智慧交通的兴起虽然提升了人们的工作效率、生活品质，但也会产生极大的数据量。

普通2U HDD服务器、边缘服务器的存储容量无法满足新的需求。

不过与普通服务器不同，AI服务器对存储设备的需求有所不同。一是容量需求，5G、AI、智能交通以及物联网等应用源源不断地催生大量数据流。根据数据统计，AI模型规模每两年增长10倍，每小时智慧农业拖拉机产生18TB的数据量，每小时互联汽车产生19TB的数据量，预计到2025年全球每天将创建约463EB数据。而现在容量优化的2U HDD服务器存储空间大约只有240TB、典型的边缘服务器大多只能提供28～80TB的存储空间，显然传统的存储配置不能应对这种挑战。

二是海量小文件。由于训练任务需要的文件数量都在几亿到十几亿的量级，所以存储方案需要承载几十亿甚至上百亿数量的文件。同时，由于很多训练模型都是依赖于图片、音频片段、视频片段文件，而这些文件的大小大部分都是在几KB到几MB之间。

三是读多写少。AI环境的数据特点是读多写少，以视觉识别为例，它需要加载数千万甚至上亿张图片，针对图片使用卷积神经网络、ResNet等算法，生成识别模型。完成一轮训练后，为了减少图片输入顺序的相关性对训练结果带来的影响，会将文件次序打乱之后，重新加载，训练多个轮次。这就意味着每个轮次都需要根据新的顺序加载数千万乃至上亿张图片，因此对于存储的高吞吐、低延时提出了更高的要求。

四是可靠性。比如AI业务中不同环境的数据组织方式不可控，很有可能用户会将大量文件存放在同一个目录，容易导致多个计算节点在训练过程中同时读取这一批数据，这个目录所在的元数据节点就会成为热点。那么目录热点读取的可靠性，存储介质在读取状态下的均衡性和平稳性就需要有所保障。

从以上需求可以看出，要迎合AI时代的存储需求，首先最为重要的就是要提升服务器的存储容量，为服务器提供可靠的大容量存储空间。不过每台服务器的使用空间都是有限的，一般而言，尽管2U服务器可以部署最多约24块硬盘，但由于之前单块SSD的最大容量大多在20TB或30TB左右，按2U服务器配置24块硬盘的配置来看，显然无法实现PB级的容量，最大也就在720TB左右。因此存储厂商在2023年的一个重要举措就是提升存储密度。

2023存储密度大提升

存储厂商认为提升存储密度是解决从云到边到端演化所带来的尺寸重量受限、维护成本增加及运行效率降低等问题的重要因素。那么如何才能在服务器内有限的使用空间里提升存储容量呢？正如我们在前面所说，像Solidigm推出的192层堆叠第四代QLC颗粒就是一个不错的答案。借助这种颗粒，Solidigm推出了单盘容量达61.44TB、性能不错的Solidigm D5-P5336 QLC SSD，在2U服务器上部署24块这样的SSD，其容量就能轻松突破1PB级别，为用户提供了更高密度、更低成本的选择。

Solidigm亚太区销售副总裁倪锦峰先生表示，Solidigm非常注重通过对解决方案的创新，以进一步提升密度所带来的价值。一方面，Solidigm将继续投入以“领跑”密度；另一方面，Solidigm产品均针对实际环境下的工作负载进行深度优化，为客户提供更为高效、便捷的解决方案。此外，Solidigm在硬件和软件方面“双管齐下”，借助Solidigm Synergy 2.0、Cloud Storage Acceleration等创新软件进一步调动硬件性能，增强产品的性能和可靠性。

在2023年，Solidigm发布了世界首款基于浮栅技术的192层堆叠PLC闪存，可实现单Die容量达到1.67Tb。

Solidigm在闪存技术上的大量更新也让其在今年的2023中国闪存市场峰会上获得了“最佳产品创新奖项”，Solidigm亚太区销售副总裁倪锦峰先生（图右）领取了奖项。

值得一提的是，Solidigm还在今年发布了世界首款基于浮栅技术的192层堆叠PLC闪存。相对于QLC颗粒，其存储密度又提升了25%，在仅仅73.3平方毫米的单Die里，其容量可以做到1.67Tb，而目前即使采用232层堆叠的TLC单Die容量也只有1Tb，因此高密度PLC颗粒的问世为打造更大容量、更高性价比的SSD创造了条件。而且，Solidigm的PLC颗粒寿命已经达到了1000次编程/擦写循环，具备实用性，预计不久的将来，其PLC SSD就会问世。而也正是Solidigm在这一系列闪存技术上的创新，Solidigm在今年的2023中国闪存市场峰会上获得了“最佳产品创新奖项”，Solidigm亚太区销售副总裁倪锦峰先生特别上台接过奖牌，领取了奖项。

Solidigm亚太区销售副总裁倪锦峰表示Solidigm QLC将重塑客户体验，使客户切身感受到超高密度和更低成本结合的美妙之处。兼具存储领域的深厚积淀与前沿洞见的双重优势，Solidigm将助力客户持续创新，突破存储边界，为未来存储新范式创造无限可能。

满足密集写入需求，企业级SLC SSD也在高速发展

除了致力于提升存储密度，存储厂商在今年也没有忘记那些需要高耐用性和极致写入密集型的工作负载，并继续推出了新的SLC企业级固态硬盘。SLC即单层单元闪存，每一个单元只存储1bit数据，虽然存储密度最低，但寿命最长，这是因为每个单元只有1bit数据，SSD在读写操作SLC闪存期间，不再需要遍历单元中的多个数据级别。其每个SLC单元的额定写入次数可达10万次，同时它也拥有NAND闪存中最高的写入性能，所以非常适合用于写入需求较大的应用。

D7-P5810现已推出800GB（U.2 15mm外形规格）版本,1.6TB版本将于2024年上半年推出。

为此，存储厂商Solidigm也在今年推出了最新的D7-P5810 SSD。这款产品专为高耐用性和极致写入密集型工作负载而设计，采用了Solidigm的144层堆叠3D SLC闪存。这款超快存储级内存（SCM）SSD可为随机写入提供每天最高50次、为顺序写入提供每天最高65次的全盘写入（DWPD），而一般家用消费级SSD的DWPD指标只有0.3左右，企业级 QLC SSD的DWPD在0.4～0.6左右。和同样的高性能SSD相比，D7-P5810 SSD可将缓存、高性能计算（HPC）、数据记录、日志等多方面的性能提升高达2倍，更重要的是所需成本不到非NAND存储介质加速存储产品如傲腾内存的20%。

在应用方面，D7- 5810非常适合作为高密存储容量层（如QLC SSD存储）的加速器，并为以下使用场景带来显著优势：

1.元数据/日志：将元数据或日志等对性能敏感的数据放在SLC SSD中，以此加快系统性能。例如在Ceph集群中将SLC SSD用于专用预写式日志中。

2.缓存：SLC SSD可充当写缓冲器或缓存，助力消除性能瓶颈，显著提高应用性能，改善TCO。

3.分层：将D7- 5810用于QLC SSD存储阵列的加速器，服务器可以首先将数据写入SLC SSD中，由此获得更快的提交速度和后续读取速度。待数据冷却后，再将其聚合、压缩、批量写入下层的高容量QLC硬盘中（比如最大61.4TB容量的D5-P5336），从而在该介质上实现更高的存储空间效率。此外，云存储加速层（CSAL）等写入整形软件提供了更进一步的解决方案，使得QLC SSD在密度、TCO和可持续性等方面的价值可以在更多工作负载当中得到体现。

总体来看，在傲腾内存这类高性能存储介质由于价格、成本问题逐步退出“江湖”后，像Solidigm D7-P5810这类企业级SLC SSD就是平替傲腾内存，加速QLC SSD阵列存储性能的更好选择。

国产企业级SSD不断突破

在2023年国产企业级SSD也获得了很大的突破，除了前面谈到首款PCIe 5.0企业级国产主控的量产，国内另一家SSD厂商忆芯科技也在今年推出了国产高端企业级存储主控芯片—STAR2000。STAR2000基于12nm工艺制造，集成50亿晶体管，内部包括一颗64位多核CPU和高达8TOPS算力的NPU，并全面支持最新的NVMe2.0协议；其采用了更先进的架构设计，借此提供强大的稳态随机及顺序读写性能，在服务质量、延迟、安全、可靠性、容错纠错等企业级所关注的指标上将达到业内领先的高规格水平。STAR2000在芯片SoC架构上继续基于同构多核CPU，创新地使用了功能更为强大的ARM Cortex-A55内核。该内核是Arm家族中最强大、最高效的中端系列处理器，以DynamIQ技术为基础，适用于企业级SSD和数据中心设备等复杂计算任务，可以最大程度释放出忆芯科技自研SSD控制技术和算法的优势。

忆芯科技新一代高性能企业级PCIe4.0 SSD主控芯片STAR2000

STAR2000的另一大创新之处是集成了高达8TOPS算力的NPU。NPU的加入使得SSD主控获得了机器学习和深度学习能力，能够执行CPU不擅长的计算任务，从而运用于各种可计算型或智慧型SSD产品，并且降低闪存的访问频率。最显著的益处就是，为了更好应对企业级SSD“存算一体”的需求趋势，NPU可以支持SSD在高速的数据存取过程中实时的进行检索、比对、分类等计算工作。

同时忆芯专门自研了AI计算加速IP，通过与NPU集成在一起，可实现关键任务加速，释放CPU算力，提升SSD工作的服务质量和可靠性，并完成优化功耗、实现智能自检及早期故障排查等功能。此外忆芯科技还推出了内置STAR2000主控芯片的STAR2000E SSD成品盘，该系列产品主要面向数据中心应用，包括存储服务器、云计算等市场。两款产品相互呼应，为国内高端企业级SSD的升级打下了坚实的基础。在今年8月举办的全球闪存峰会FMS2023上，忆芯科技首次展示了STAR1516高端企业级PCIe 5.0主控芯片。该产品支持多达16条闪存通道读写，并采用了自研的企业级SSD架构，内置硬件加速器，可以提升地址映射、数据搬移和数据计算的效率，并能借助第五代StarNVMe架构，降低访问延迟。而其所用的第五代StarSecurity安全算法能支持硬件实时数据加解密、侧信道攻击防护，第五代StarLDPC架构则可以提供更强的纠错能力。

得一微电子股份有限公司与龙芯中科技术股份有限公司就龙架构（LoongArch）处理器IP核的授权签署协议。

得益于国产新处理器龙芯3A6000的发布，国内存储厂商得一微电子股份有限公司也迅速同龙芯中科技术股份有限公司合作，签署了龙架构（LoongArch）处理器IP核的授权签署协议。依据授权协议，龙芯中科向得一微电子提供了其龙架构（LoongArch）处理器IP核的授权，以支持得一微电子基于LoongArch架构的处理器核设计开发SOC，为得一微的SSD固态硬盘、嵌入式存储控制芯片等产品提供高性能的处理器支持，助力得一微打造新一代汽车存储、企业存储与计算型存储解决方案。

通过此次合作，龙芯中科将充分发挥其自主指令系统龙架构（LoongArch）的优势，为得一微电子提供高性能、低成本的处理器技术支持。同时，依托龙架构（LoongArch）IP核的技术和资源共享，为得一微电子加速研发和推出基于国产处理器IP核的存储控制器产品提供有力支持。这一合作将为市场带来更多创新高效的解决方案，进一步推动中国存储芯片产业的持续发展。显然龙芯处理器将不仅在人们的日常生活、办公中得到广泛应用，也将有望成为企业级SSD、嵌入式SSD的主控芯片，再加上国内先进的NAND闪存的助力，不难预见国产企业级SSD也将像消费级产品那样，打出一片天地。

友情提示

MCer请注意，由于微信公众号调整了推荐机制，如果你发现最近很难刷到Microcomputer（微型计算机）公众账号推送的文章，但是又不想错过微机的精彩评测内容，可以动动小手指把Microcomputer设置成星标公众账号哦！