跑本地模型,只看两件事: 装得下 ,和 跑得动 。
装得下看内存容量,跑得动看内存带宽。
按这个标准,64GB 这一档的账很好算。但先把配置看清楚—— 苹果在这两台机器上都埋了"配不上去"的坑 。
01 先看清配置和上限
官网的规格表:
Mac mini(M5 Pro)
• 15 核 CPU、16 核 GPU:24GB 起,最高可配 64GB, 307GB/s
• 18 核 CPU、20 核 GPU:24GB 起,最高可配 64GB, 307GB/s
• 内存 24GB→48GB 加 4,500,24GB→64GB 加 7,500
• 芯片从入门档升到 18/20 核,加 1,500
Mac Studio(M5 Max)
• 18 核 CPU、32 核 GPU:36GB 起,最高 36GB , 460GB/s
• 18 核 CPU、40 核 GPU:36GB 起,可选 48GB、64GB、128GB, 614GB/s
• M5 Ultra 那台:1.2TB/s,最高 512GB
注意 Studio 这里有个坑: 19,999 那档入门款,36GB 到头了 ,想上 64GB 只能选 18/40 核版。
02 64GB 这一档的实价
Mac mini(15/16 核,64GB,512GB)
12,999 + 7,500 = 20,499 元
Mac mini(18/20 核,64GB,512GB)
12,999 + 1,500 + 7,500 = 21,999 元
Mac Studio(18/40 核,64GB,512GB)
27,499 元
03 为什么推荐 18/20 核那一档
多花 1,500,换来 3 个 CPU 核心(15→18)和 4 个 GPU 核心(16→20)。
考虑到整机已经两万出头,这 1,500 是整张配置单里最划算的一笔——尤其对跑模型来说,GPU 核心直接决定预填充和并发的处理能力。
所以下面按 21,999 这档算。
04 每 GB 内存多少钱
方案
内存/显存
价格
每 GB
Mac mini 64GB
64GB
21,999 元 344 元
Mac Studio 64GB
64GB
27,499 元
430 元
DGX Spark 64GB
64GB
约 36,000 元($4,999 折算)
约 562 元
RTX 5090
32GB 显存
约 54,000 元(仅显卡)
约 1,688 元
RTX 5090D v2
24GB 显存
约 38,000 元
约 1,583 元
Mac mini 每 GB 344 元,比 Studio 便宜 20%,比 DGX Spark 便宜近四成,比 5090 便宜五倍。
而且它是整机价——CPU、系统、SSD、机箱、电源全在里面。5090 那 5.4 万只是张卡。
(5090 的价格是 10 月中旬行情:9 月前三万五,现在五万四,涨了五成。5090D v2 是特供版,24GB,三万六到四万。)
05 那 5,500 块买到什么
同样是 64GB,Studio 贵 5,500。
买到的是:
• 带宽 307GB/s → 614GB/s ,翻倍
• GPU 从 20 核到 40 核
• 10GbE 标配(mini 要加 750)
• 更好的散热,长时间满载不降频
没买到的:一 GB 内存都没多。
按 mini 的 344 元/GB 算,5,500 块差不多是 16GB 内存的价格——但 Studio 还是 64GB。
所以这 5,500 不是买容量,是买速度。
06 能装多大的模型
给个参考(4 位量化,权重+KV 缓存+系统占用一起算):
• 30B 级:约 18–20GB,两种机器的入门款都够
• 70B 级:约 40GB, 必须 64GB 才能跑
• 100B 以上:吃力,要么激进量化,要么换 128GB 的机器
这就是为什么 64GB 是个关键门槛:32GB 只能跑 30B 级,再往上就要跳档。
而 64GB 这个门槛,21,999 元是最低入场价。
07 mini 的代价
带宽只有 307GB/s。 这是它和 Studio 最大的差距——一半。跑 70B 模型时,token 生成速度大概每秒 10 到 15 个:能聊天、能写代码,但不算快。
不能加内存。 买的时候定死,64GB 就是 64GB。
散热是小盒子的水平。 长时间满载,比如连续几小时推理,可能会降频。
接口少。 两个雷雳口加 HDMI,最多三台显示器。
10GbE 要加 750。
这些代价换来的是:21,999 元、12.7 厘米见方、能塞进显示器底下、功耗几十瓦、安静得听不见风扇。
08 结论
跑模型的人,判断标准应该很朴素: 每 GB 内存多少钱,以及这个容量能装下多大的模型。
按这条标准:
• Mac mini 64GB:344 元/GB,能跑 70B,307GB/s
• Mac Studio 64GB:430 元/GB,能跑 70B,614GB/s
• DGX Spark 64GB:约 562 元/GB,官方称能到 100B
• RTX 5090:约 1,688 元/GB,32GB,跑不到 70B
要容量、要便宜,Mac mini 64GB 是这一档唯一的答案。
它不快,但它装得下——而装不下,再快也没用。
你现在本地跑的是多大的模型?用的什么机器?
热门跟贴