群里又有人甩链接:满血 5090,32G,街价三万四往上。底下立刻有人回,国行不是只要一万六吗?

我点进去一看,国行叫 5090D v2,显存写的是 24G。

同一句「5090」,容量差出 8G,价格差出将近一倍。我们这种普通人想本地跑大模型,最容易卡在「到底该砸多少钱、显存买多大」。

这篇按分析视角把 2026 年 9 月能买到的本地 LLM 硬件摊开——消费卡、专业卡、一体机、苹果整机都进表。只比显存/统一内存、带宽、官价与实际买价、适不适合本地跑。数字来自 NVIDIA / Apple 公开页和国内街价引用;公开页没写死的标「公开页没写死」,不编每秒多少 token。看完按一万五、两万五、五万以上对号入座就行。

先把名字说清楚

网上爱说「最新 A6000」。老 Ampere 那张叫RTX A6000,48G;Ada 叫RTX 6000 Ada,还是 48G;现在旗舰工作站卡正式名是NVIDIA RTX PRO 6000 Blackwell Workstation Edition,全球版96GB GDDR7。国行工业包装里常见PRO 6000D,挂牌多写约 84GB,带宽以公开页为准——ZOL 有数,我这边按「SKU 相关、公开页没写死」处理。

苹果这边也容易叫错。没有单独产品名「Mac Studio Ultra」。正确说法是Mac Studio,搭载 M5 Ultra(或以前的 M3 Ultra)。2026 年 8 月国行刷新:Mac mini 是 M6 / M5 Pro;Mac Studio 是 M5 Max / M5 Ultra。

5090 也得分清:全球满血32G / 1792 GB/s;国行当前是5090D v2:24G / 1344 GB/s,指导价¥16,499 起。早期还有过 32G 的 5090D,后来被 v2 替掉。别拿满血海报去对国行价签。

四类硬件,参数与买价1. 消费卡

RTX 4090 24G:带宽约1008 GB/s。街价引用大概¥17k–21k(含 4090D / 涡轮口径)。按显存粗看,很多 7B–14B 高量化、30B 左右 Q4–Q5 还能玩;70B 就紧。

4090 48G 魔改:不是 NVIDIA 官方产品,多数是单芯 + 双面显存改板,别跟「双芯」混为一谈;带宽大体还在母卡~1008 GB/s那一档。街价引用大约¥22.5k–28k。显存对本地部署很香,70B Q4 更有底气。

满血 RTX 5090 32G:带宽1792 GB/s,发射建议价常被引成$1,999。国内 FE 街价引用大约¥33,999–36,400。比国行 5090D v2 多 8G 显存、多一截带宽,本地塞更大模型更从容;代价是买价差不多翻一倍,电源也要跟上。预算够、就要 32G 这一档时,它和 D v2 是两条真实选项。

RTX 5090D v2:24G /1344 GB/s。指导价¥16,499 起,街价常见约 ¥17k–24k,看具体非公和涡轮。容量回到 4090 那一档,架构和带宽更新。图的是这个价位段的国行旗舰游戏卡,不是「买到满血 32G」。

2. 专业卡

RTX A6000:48G ECC,带宽768 GB/s。历史官价大约$4,650。国内现价公开页没写死,街价要看当时挂牌。要 48G ECC 时值得拿出来谈,别因为它「老」就从对比里删掉。

RTX 6000 Ada:48G ECC,带宽960 GB/s。国内有过约¥53,000的秒杀引用。比 Ampere A6000 带宽更高,仍是单卡 48G 档。

RTX PRO 6000 Blackwell:全球版96G GDDR7 / 1792 GB/s,美区标价曾涨到约$16,000。国行PRO 6000D挂牌约84G,ZOL 引用大约¥47,999起;带宽按 SKU,公开页没写死的我标未知。国内挂牌能见到。真要超大显存、长上下文、一台机器塞更大模型,看这条线。

3. 一体机(DGX)

DGX Spark:128GB 统一内存,带宽273 GB/s,Founders 价涨到约$4,699。NVIDIA 营销页写过大概能推到约 200B 推理、约 70B 微调——这是厂商说法,我不当独立跑分。软件栈是 Arm 侧,装机体验跟普通海景房独显不一样,参数和价仍进总表。

DGX Station:桌子边的大家伙,相干内存到几百 GB 量级(公开页口径约 252GB HBM3e + 496GB LPDDR5X 一类),HBM 带宽到7.2 TB/s量级。消费级公开价基本没有,伙伴报价常到数万美元。有预算时可以谈,不当「普通人默认第一张卡」。

4. 苹果统一内存

安静、开箱就能折腾。

  • Mac miniM6:最多32GB,带宽最高约170 GB/s¥6,999
  • Mac miniM5 Pro:最多64GB307 GB/s¥12,999
  • Mac StudioM5 Max:最多128GB,最高约614 GB/s¥19,999
  • Mac StudioM5 Ultra:最多512GB1.2 TB/s¥46,999起;512GB 配置大概要到 10 月下旬才陆续有货

CTO 加内存的精确人民币,公开新闻稿没写死,这篇不编。带宽比独显同价位通常低一截,但噪音低、不用配海景房电源,是它的本事。

附:企业卡二手价位(可选对照)

二手市场上能见到A100 80GH100。长三角指数引用大概 A100¥34k–38k,H100 高位曾到约¥82,000,形态和报价都乱。显存大,适合已经知道自己在买什么的人;不当本文默认 Top 推荐。

AMD 消费卡在国内本地 LLM 教程生态里仍偏折腾,这篇不当一线推荐。国产 NPU 小主机在冒头,可比的「显存等价 + 稳定街价」这轮没锁死,只当垂直方向提一句,不映射成模型尺寸。

一张总表(参数印在图上)

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

设备 × 显存/统一内存 × 带宽 × 参考价,见配图《普通人能买到的本地LLM硬件对照》。按消费卡 / 专业卡 / 一体机 / 苹果分组——表里都是能买到的选项。

我怎么打推荐星

没有全面第一。我按四个主观维打星:好不好买&贵不贵;性价比&速度感;能否真满足本地部署;本地买卡 vs 买网络 Token。细表见配图。

TOP1 · Mac mini M5 Pro(≤64GB)

整机开箱最省心。官价 12999 起,安静。中等本地模型友好。独显党会嫌带宽,可你要的是「今晚就能跑」,它经常赢。

TOP2 · RTX 5090D v2(24GB)

国行旗舰游戏卡。指导价 16499 起,盯街价。容量像 4090,算力带宽更新。预算卡在两万上下、认 NVIDIA 生态时,它最省事。

TOP3 · 满血 RTX 5090 32G

街价大约 3.4–3.6 万。多出来的 8G 和 1792 GB/s 带宽,本地大模型更从容。愿意比 D v2 多掏一倍左右买价、电源也跟得上时,这是明确的升级档。

另外值得打分的两条

  • 4090 48G 魔改:三万内显存很猛,街价大约 2.3–2.8 万,70B Q4 更现实;认改板就谈,不认就跳过。
  • PRO 6000D / A6000:要 48G+ ECC 或接近 84–96G 这一档时拿出来比。A6000 历史约 $4650、现价公开页没写死;PRO 6000D 引用约 4.8 万起。

预算到了、真要超大显存:看 PRO 6000 / PRO 6000D,或苹果 Studio Ultra 芯片那条线。DGX、二手 H100 留给预算和场景都对得上的人。

买卡,还是买 Token?

2026 年国内 API 已经很便宜。DeepSeek V4 Flash 峰值大致是输入未命中每百万¥3、输出¥9,闲时大约一半;Pro 更贵一档。通义 Qwen-Plus(≤128K)大约输入¥0.8/ 输出¥2。豆包 Seed-2.1 Turbo 大约输入¥3/ 输出¥15

一张¥17k–25k的卡,按 Flash 峰值粗算,能换非常非常多百万 token。可别急着跟人吵「几个月回本」——日活字数、要不要隐私、能不能接受限流,差一个人一个样。

本地赢在隐私、离线、延迟稳、不限流。API 赢在零买卡、跟最新闭源、没有机箱和电费。钱砸在显存上,买的是自主权;钱砸在 Token 上,买的是省心。公开数据撑不起「买卡一定更省钱」这句狠话。

按预算怎么选(普通人落地)

我们这种普通人本地跑大模型,别先盯型号名,先卡预算:

  • 大约一万五:优先Mac mini M5 Pro(官价 12999 起,≤64GB)。想独显、已有电源:看5090D v2街价能否压进两万内;再往下是 Mac mini M6 或二手 4090 24G 档。日常轻量需求,先把 API 用熟也完全合理。
  • 大约两万五:在5090D v24090 48G 魔改之间选——前者好上手,后者显存更大、70B Q4 更现实。整机路线可看 StudioM5 Max(19999 起,≤128GB)。
  • 五万以上:要 32G 满血就上5090 32G(街价约 3.4–3.6 万);要更大显存比PRO 6000D / PRO 6000A6000 / 6000 Ada,或苹果Studio M5 Ultra。一体机 DGX Spark/Station、二手 A100/H100 也是这个预算带才谈得上的选项。

街价会变。文中 tok/s 一个没有,只有显存够不够塞的粗判断。

你现在机器是啥配置?预算卡在一万五、两万五,还是五万以上?评论区报个号,我按你的预算帮你缩到两个选项。

#显卡#