AI数据中心里最紧俏的东西,正在从算力变成内存。超大规模云厂商开始重新思考一件事:内存到底该怎么分配。

一种叫"可组合内存"的方案浮出水面。它把内存容量从单台服务器里抽出来,汇成一个池子,再按需分配给具体的工作负载。换句话说,内存不再焊死在某台机器上,而是跟着任务走。

打开网易新闻 查看精彩图片

为什么现在盯上内存

压力来自AI工厂。当模型规模往上走,单机内存很快见底,而每台服务器各自为战的内存配置,利用率并不理想。可组合内存被看作应对这种挤压最务实的答案之一。

微软在这一方向上下注。它的逻辑不难理解:与其让每台机器囤着用不满的内存,不如让容量流动起来,谁需要就给谁。

内存跟着负载走意味着什么

对运维者来说,这改变的是资源调度的颗粒度。内存从"固定资产"变成"可调度资源",闲置容量可以被重新指派给正在跑的任务。

在AI供给持续收紧的背景下,这种思路的价值在于把已有硬件的潜力再榨一遍,而不是单纯靠堆新机器。至于它能缓解多少缺口,取决于池化和按需分配在实际负载下的表现。