打开网易新闻 查看精彩图片

全球内存短缺不断加剧,AI对高带宽内存的巨大需求,把整个供应链都卡死了。

嗯,苹果也被卡脖子了

最近,苹果官网上多款高内存配置的Mac mini和Mac Studio已无法直接购买。32GB、64GB内存的Mac mini高配版本下架,Mac Studio的256GB内存M3 Ultra版也基本停供,仅剩96GB等低配选项,部分高端机型的预计发货时间甚至拉长至9-10周甚至更久。

打开网易新闻 查看精彩图片

所以,普通用户想买一台够用的本地AI机器都越来越难

更别说像Jeff Geerling这哥们,搞了4台M3 Ultra Mac Studio,塞进了一个小4柱机架里这么玩了。。。

不过这套装备总价差不多4万刀(大概28 万元人民币左右)

你看啊,两台大内存512GB+两台中等内存256GB的 Mac Studio

不过他自己也说买不下手。苹果借给他,DeskPi还送了一个迷你机架来装。

嗯?白嫖

打开网易新闻 查看精彩图片

他没有抱怨内存贵、买不到,而是直接把多台机器的内存池化

硬生生虚拟出了1.5TB统一内存的集群

这不就是高端局咯

Jeff用Thunderbolt 5把4台机器全互联,每个Mac要和其他所有Mac直连,形成全网状

然后用了一个小4柱机架把它们竖着堆叠起来,方便布线和散热

打开网易新闻 查看精彩图片

不过要实现集群这个效果,当然不是把四台电脑摆在一起插 Thunderbolt就完了

先要在 macOS 26.2 里启用 RDMA

RDMA是啥玩意?

简单说,macOS 26.2新增了RDMA(Remote Direct Memory Access)支持(需在恢复模式下运行rdma_ctl enable命令开启)。这让不同Mac之间可以直接访问对方内存,绕过CPU和内核,大幅降低延迟。

打开网易新闻 查看精彩图片

再配合开源AI集群工具Exo 1.0,就能把整个集群当作一台拥有巨量统一内存的超级电脑来用。

特别适合跑超大参数的本地大模型(LLM inference),比如几百B甚至上万亿参数的量化模型。

打开网易新闻 查看精彩图片

所以,这操作给内存短缺下的提供了一个曲线救国思路

买不到256GB/512GB?

那就买多台中高配,通过高速互联拼内存池

Apple Silicon的统一内存架构 + Thunderbolt 5的高带宽

怎么说,硬件短缺逼着普通人变成极客。。。