科学AI(AI for science)正在改变存储基础设施需要承担的功能。这类基础设施最初大多是围绕模拟计算和长期存储构建的。如今,AI系统需要持续、实时地访问海量科学数据。因此,科学计算环境中存储的角色开始发生变化。许多传统的研究存储系统在架构设计时从未考虑过这种持续检索和AI级别的访问需求。

打开网易新闻 查看精彩图片

一份存放了十年的基因组学档案可能包含基础模型宝贵的训练素材。然而,让这些数据保持持续可用正变得越来越困难。

在此之前的运作方式是:研究人员运行模拟、生成输出数据、归档结果,仅在后续需要时才进行检索。存储更侧重于容量和保存,而较少关注持续可访问性。一旦模拟完成或研究论文发表,大部分数据会直接转移到冷存储中,并在那里长期保存。

这种情况现在正在改变。

为什么科学界如此强调快速访问和实时数据?因为这正是现代AI系统所需要的:快速和实时的数据。AI系统会不断回溯并提取科学数据集,而不是偶尔访问一次。那些可能多年未被触及的数据现在需要能够被快速访问,以用于模型训练和分析。

打开网易新闻 查看精彩图片

这就不难理解为什么存储供应商在AI热潮期间重新获得了投资者的关注和股价上涨!也正是西数(Western Digital)在一年内股价上涨近900%的部分原因。当然,这一热潮还有其他原因,包括云和超大规模企业的支出激增。

所有人最初都关注Nvidia,因为GPU是显而易见的瓶颈。但在幕后,AI也创造了巨大的存储需求,因为这些模型需要庞大的数据集和检查点。

这种转变已经在迫使整个存储行业发生变化。传统上专注于容量和长期保存的供应商正越来越多地围绕需要更快检索、更高吞吐量和持续可访问性的AI工作负载进行重新定位。

Western Digital日益强调AI数据基础设施和超大规模存储需求,因为AI系统会产生海量数据。希捷(Seagate)同样专注于高容量的HAMR硬盘,旨在支持日益增长的AI和云存储工作负载。与此同时,VAST Data和DDN等公司正越来越多地将存储系统定位在AI级检索和持续数据可访问性上,而不仅仅停留在长期保存。

对于科研机构而言,克服存储挑战是一项艰难的平衡行为。旧的研究档案是基于不频繁检索和冷存储层级的假设构建的。AI彻底改变了这些假设。曾经主要作为历史记录的科学数据正日益成为AI训练和发现的活跃基础设施。

打开网易新闻 查看精彩图片

AI驱动的科学计算环境中的另一个主要挑战是热存储和冷存储管理的重要性日益增加。传统上,较旧的科学数据集可以移入较冷的存储层级,因为在模拟完成或论文发表后检索相对不频繁。AI彻底改变了这种模式。较旧的基因组记录、气候模拟、显微镜图像,甚至卫星数据集现在可能需要保持更高的可访问性,因为AI系统会为了训练和分析而不断回顾它们。曾经主要作为存档历史记录的数据现在成为了关键的运营要素。

科研机构需要让海量研究档案保持持续可访问。但这会显著增加基础设施、存储和电力成本。与此同时,将过多数据推入冷存储会减慢依赖快速检索和持续数据移动的AI工作负载。数据存储行业正在悄然发生改变以应对AI驱动下的新应用环境。