跑本地模型,只看两件事: 装得下 ,和 跑得动 。

装得下看内存容量,跑得动看内存带宽。

按这个标准,64GB 这一档的账很好算。但先把配置看清楚—— 苹果在这两台机器上都埋了"配不上去"的坑 。

01 先看清配置和上限

官网的规格表:

Mac mini(M5 Pro)

• 15 核 CPU、16 核 GPU:24GB 起,最高可配 64GB, 307GB/s

• 18 核 CPU、20 核 GPU:24GB 起,最高可配 64GB, 307GB/s

• 内存 24GB→48GB 加 4,500,24GB→64GB 加 7,500

• 芯片从入门档升到 18/20 核,加 1,500

Mac Studio(M5 Max)

• 18 核 CPU、32 核 GPU:36GB 起,最高 36GB , 460GB/s

• 18 核 CPU、40 核 GPU:36GB 起,可选 48GB、64GB、128GB, 614GB/s

• M5 Ultra 那台:1.2TB/s,最高 512GB

注意 Studio 这里有个坑: 19,999 那档入门款,36GB 到头了 ,想上 64GB 只能选 18/40 核版。

02 64GB 这一档的实价

Mac mini(15/16 核,64GB,512GB)

12,999 + 7,500 = 20,499 元

Mac mini(18/20 核,64GB,512GB)

12,999 + 1,500 + 7,500 = 21,999 元

Mac Studio(18/40 核,64GB,512GB)

27,499 元

03 为什么推荐 18/20 核那一档

多花 1,500,换来 3 个 CPU 核心(15→18)和 4 个 GPU 核心(16→20)。

考虑到整机已经两万出头,这 1,500 是整张配置单里最划算的一笔——尤其对跑模型来说,GPU 核心直接决定预填充和并发的处理能力。

所以下面按 21,999 这档算。

04 每 GB 内存多少钱

方案

内存/显存

价格

每 GB

Mac mini 64GB

64GB

21,999 元 344 元

Mac Studio 64GB

64GB

27,499 元

430 元

DGX Spark 64GB

64GB

约 36,000 元($4,999 折算)

约 562 元

RTX 5090

32GB 显存

约 54,000 元(仅显卡)

约 1,688 元

RTX 5090D v2

24GB 显存

约 38,000 元

约 1,583 元

Mac mini 每 GB 344 元,比 Studio 便宜 20%,比 DGX Spark 便宜近四成,比 5090 便宜五倍。

打开网易新闻 查看精彩图片

而且它是整机价——CPU、系统、SSD、机箱、电源全在里面。5090 那 5.4 万只是张卡。

(5090 的价格是 10 月中旬行情:9 月前三万五,现在五万四,涨了五成。5090D v2 是特供版,24GB,三万六到四万。)

05 那 5,500 块买到什么

同样是 64GB,Studio 贵 5,500。

买到的是:

• 带宽 307GB/s → 614GB/s ,翻倍

• GPU 从 20 核到 40 核

• 10GbE 标配(mini 要加 750)

• 更好的散热,长时间满载不降频

没买到的:一 GB 内存都没多。

按 mini 的 344 元/GB 算,5,500 块差不多是 16GB 内存的价格——但 Studio 还是 64GB。

所以这 5,500 不是买容量,是买速度。

06 能装多大的模型

给个参考(4 位量化,权重+KV 缓存+系统占用一起算):

• 30B 级:约 18–20GB,两种机器的入门款都够

• 70B 级:约 40GB, 必须 64GB 才能跑

• 100B 以上:吃力,要么激进量化,要么换 128GB 的机器

这就是为什么 64GB 是个关键门槛:32GB 只能跑 30B 级,再往上就要跳档。

而 64GB 这个门槛,21,999 元是最低入场价。

07 mini 的代价

带宽只有 307GB/s。 这是它和 Studio 最大的差距——一半。跑 70B 模型时,token 生成速度大概每秒 10 到 15 个:能聊天、能写代码,但不算快。

不能加内存。 买的时候定死,64GB 就是 64GB。

散热是小盒子的水平。 长时间满载,比如连续几小时推理,可能会降频。

接口少。 两个雷雳口加 HDMI,最多三台显示器。

10GbE 要加 750。

这些代价换来的是:21,999 元、12.7 厘米见方、能塞进显示器底下、功耗几十瓦、安静得听不见风扇。

08 结论

跑模型的人,判断标准应该很朴素: 每 GB 内存多少钱,以及这个容量能装下多大的模型。

按这条标准:

• Mac mini 64GB:344 元/GB,能跑 70B,307GB/s

• Mac Studio 64GB:430 元/GB,能跑 70B,614GB/s

• DGX Spark 64GB:约 562 元/GB,官方称能到 100B

• RTX 5090:约 1,688 元/GB,32GB,跑不到 70B

要容量、要便宜,Mac mini 64GB 是这一档唯一的答案。

它不快,但它装得下——而装不下,再快也没用。

你现在本地跑的是多大的模型?用的什么机器?