• AIC F2026 推理AI服务器结合了NVIDIA BlueField-3 DPU的高速网络与强大计算能力,以及ScaleFlux CSD5000 PCIe 5.0 NVMe SSD的高效性能。这一突破性解决方案将HDD的容量密度提升至6倍,同时实现SSD耐久性的6倍,在有限空间内极大优化AI数据处理效率。

预计从2022年到2026年,人工智能和数据中心的全球电力需求将激增75%[1],对高效解决方案的需求变得尤为紧迫。为此,AIC Inc.与ScaleFlux重磅推出一款突破性存储解决方案,以应对AI和机器学习工作负载的严苛需求。这款F2026推理AI服务器是一台2U闪存阵列(JBOF),配备双NVIDIA BlueField-3数据处理单元(DPU)和26个高性能ScaleFlux CSD5000存储设备。

打开网易新闻 查看精彩图片

该解决方案由AIC精心研发,专为高性能、数据密集型AI应用设计,具备卓越的速度、存储密度和效率。通过整合ScaleFlux CSD5000 NVMe SSD的强大性能与NVIDIA BlueField-3 DPU的计算能力,该存储阵列能够轻松满足AI模型构建、机器学习及推理任务对存储工作负载的严苛要求。该产品将于2024年11月19日至21日在亚特兰大举行的Supercomputing大会上AIC展位(#1107)正式亮相。

打开网易新闻 查看精彩图片

AIC和ScaleFlux团队

随着AI工作负载的复杂性不断提升,存储解决方案不仅需要提供高性能,还需极大提升数据密度和效率。每个BlueField-3 DPU可提供400 Gb/s的连接能力,通过这一基础设施计算平台,可以加速网络和存储操作,并以全速处理软件定义的网络、存储及网络安全任务。

当与具备先进写入优化和压缩技术的ScaleFlux CSD5000存储设备结合使用时,BlueField DPU可显著提升整体性能、存储效率和设备耐久性——这些特性对于依赖大规模数据吞吐的AI应用而言至关重要。

2U存储阵列搭载26个ScaleFlux PCIe 5存储设备的主要优势:

  • 卓越的数据吞吐能力:通过集成BlueField-3 DPU,该存储阵列能够加速数据处理,实现快速数据访问和低延迟,特别适合需要高速数据处理的AI和ML模型。
  • 高密度存储能力:配备26个ScaleFlux CSD5000存储设备,用户当前每2U可实现超过1.6PBe(有效PB)存储容量——是传统HDD阵列容量密度的6倍;明年可扩展至每2U超过6.6PBe,最大化数据中心空间的AI运算价值。
  • 高可靠性、可用性和可维护性:系统采用完全冗余的硬件设计,确保数据访问可靠,同时注重易维护性。
  • 高能效与低功耗:结合BlueField-3的高效计算能力和ScaleFlux的节能存储技术,该系统有助于减少能源消耗,支持用户的可持续发展目标。
  • 高耐用性和可靠性:ScaleFlux的写入减少技术显著提升了存储设备的耐用性,是普通SSD的六倍,非常适用于高频写入的AI应用场景。
  • 优化的总体拥有成本(TCO):通过将存储、网络和安全功能整合到一个高效系统中,用户可减少运营成本、降低空间需求,从而显著降低TCO。

性能测试结果

初步测试表明,在仅启用两个NVIDIA BlueField-3 DPU插槽的情况下,系统实现了高达55.4 GiB/s的读吞吐量和超过69.4 GiB/s的写吞吐量。

  • AIC首席技术官CT Sun表示:“这些初步结果令人鼓舞。随着系统的进一步优化和BlueField DPU插槽的扩展,我们有信心实现更高的NVMeoF吞吐性能。”
  • AIC首席执行官Michael Liang指出:“数据密集型AI工作负载需要具备推动技术进步能力的基础设施,而不仅仅是满足需求。通过整合NVIDIA BlueField-3 DPU与ScaleFlux CSD5000存储设备,我们实现了卓越的性能和效率,助力客户在数据竞争中占得先机。此次与ScaleFlux及NVIDIA的合作充分体现了我们致力于不断提升性能标准的承诺。”
  • NVIDIA存储技术副总裁Rob Davis补充道:“AI生态系统的快速发展离不开高性能存储系统。AIC与ScaleFlux正在利用NVIDIA加速计算解决方案(如BlueField-3)开发先进系统,为AI开发者提供支持创新和推动技术突破的强大存储能力。”

AIC与ScaleFlux的深度合作,并在NVIDIA的支持下,标志着AI存储领域的一项重大突破。这一高性能存储解决方案不仅具备卓越的扩展性,还专为下一代AI工作负载量身定制。

关于ScaleFlux锐钲:
  • ScaleFlux是大规模部署计算存储的领导者,旨在帮助其客户利用数据增长作为竞争优势,提供企业级计算存储芯片解决方案,其硬件计算加速引擎极大优化了NVMe SSD,提升了存储的能力。有效加速应用程序并优化数据中心、企业和边缘网络的基础设施资源。让客户在处理数据库、分析、物联网和5G等工作负载时获得更大的竞争优势。更多内容请访问www.scaleflux.cn
  • 关于 AIC:
  • AIC Inc. 是一家全球领先的服务器和存储解决方案提供商。凭借近30年的高密度存储服务器、存储服务器裸机和高性能计算机研发经验,AIC成功拓展至AI存储及AI边缘设备领域,并凭借自有品牌产品赢得了市场广泛认可。公司具备自主设计、制造与验证能力,产品高度灵活,可根据多种外形规格需求定制。AIC总部位于台湾,在美国、亚洲和欧洲设有办事处和生产设施。欲了解更多解决方案信息,请访问 https://www.aicipc.com/ 或发送邮件至 sales@aicipc.com

参考资料

Kindig, Beth.AI Power Consumption: Rapidly Becoming Mission-Critical.Forbes, 20 June 2024:http://www.forbes.com/sites/bethkindig/2024/06/20/ai-power-consumption-rapidly-becoming-mission-critical/