先说结论,省得你白激动: 如果你用的是 8GB 显存的卡,Qwen3.6 这两个开源权重你一个都跑不动。

我知道这话有点扫兴。前几天群里、后台都在刷 Qwen3.6,一堆人问"是不是该冲了"。我把两个权重都拉下来实际跑了一圈,越跑越清楚——升级是真升级,但这次的门槛也是真门槛。所以这篇我分两半写:前半讲 Qwen3.6 到底升级了什么、值不值得关注;后半讲 8GB 卡的现实处境,以及你该退回哪个平替。

一、Qwen3.6 这次开源了什么

Qwen3.6 一次放出两个权重,定位完全不同,别搞混:

权重

类型

激活参数

特点

qwen3.6:27b

dense(稠密)

全参激活

编程 / 代码质量更高

qwen3.6:35b-a3b

MoE(混合专家)

约 3B 激活

推理速度快

两个都是 256K 原生上下文 ,这一点延续了之前写过的长上下文那条线——窗口够大不是新鲜事了,Qwen 全系这两代都站稳了 256K。

拉取命令很直接:

# 默认拉 27b dense
ollama pull qwen3.6


# 拉 MoE 版,指定量化
ollama pull qwen3.6:35b-a3b

升级点我只讲定性的,不给你编 benchmark 分数 (那种"编程 +12.7%"的数字我核不到就不写)。社区和官方口径一致的方向是: 编程能力、agentic(工具调用 / 自主执行)、仓库级代码推理这三块比上一代明显更强 。27b dense 在纯代码质量上更稳,35b-a3b 靠 MoE 换来更快的吞吐——这是这次两个权重分工的核心逻辑。

二、35B-A3B 的 "A3B" 是个大坑,先讲清楚

很多人看到 "35b-a3b,只激活 3B",脑子里立刻算出一个错误的账:

"才激活 3B?那不就跟个 3B 小模型差不多,我 8GB 稳稳的?"

这是这次最容易踩的误区。

MoE 的"激活 3B"指的是 每次前向计算只走一部分专家 ,所以 算得快、吞吐高 。但—— 全部专家的权重仍然要完整装进显存 。35b-a3b 装载时占的是 ≈35B 量级的体积 ,不是 3B。

换句话说: 它省的是算力,不是显存。 你显存里得先把整整一屋子专家都请进来,只是每次干活只叫其中几个。

看体积就明白了(量级,随量化实现略有出入):

权重

量化

体积(量级)

qwen3.6:35b-a3b

Q4_K_M

约 23-24GB

qwen3.6:27b

Q4

约 17GB

qwen3.6:27b

Q8

约 30GB

qwen3.6:27b

bf16

约 56GB

三、8GB 卡的现实:这次真别碰

把上面的体积和 8GB 显存放一起,账一目了然:

  • 35b-a3b(Q4_K_M) :光权重就 21-24GB 量级,纯显存跑得要 24GB 显存卡 (4090 / 3090 那一档),或者靠 CPU 卸载硬撑(速度会很难看)。

  • 27b(Q4) :约 17GB,最低也得 16GB+ 的卡 才谈得上纯显存。

8GB?两个都进不去。别说满上下文了,光把权重塞进去这一步就过不了。硬用 CPU 卸载不是不能启动,但那速度 因硬件而异,慢到基本不实用 ——这不是"忍一忍"的问题,是体验直接崩掉。

所以对 8GB 用户,我的结论就一句话: Qwen3.6 目前不是你的菜,先别浪费带宽去 pull。

四、8GB 该退回哪:平替就是 qwen3.5:9b

好消息是,退路早就铺好了——就是之前写过的那个 Qwen 平替主力:

  • 体积约 6.6GB ,8GB 显存 纯显存 就能装下,不用 CPU 卸载;

  • 同样是 256K 原生上下文 ,长文档那套玩法一点不缺;

  • 日常问答、写代码、长文总结,8GB 卡上它就是当前的稳态主力。

对照一下就清楚谁适合你:

需求

选谁

最低显存(量级)

8GB 纯显存主力

qwen3.5:9b

8GB ✅

更强代码 / agentic,有 16GB 卡

qwen3.6:27b

(Q4)

16GB+

极速 MoE,有 24GB 卡

qwen3.6:35b-a3b

(Q4)

24GB

不用为了追新硬冲。8GB 的甜区还在 9B 这一档,等你哪天换了 16GB+ 的卡,再回来碰 Qwen3.6 也不迟。

五、两个必须提醒的坑

坑 1:Qwen3.6 的多模态(看图)在 Ollama 上目前用不了

这个坑我踩了才知道。Qwen3.6 本身是有视觉能力的,但 它的视觉权重(mmproj)在 Ollama 的 GGUF 流程里目前没接上 。结果就是:

  • 纯文本推理:正常。

  • 发图片让它看:用不了 (多模态这条路在 Ollama 上暂时是断的)。

如果你就是要在本地"看图",别指望 Qwen3.6,直接上专门的视觉权重:

这个是能正常看图的,8GB 场景也有得玩。

坑 2:别去 pull qwen3.7

我看到有人已经在群里问"3.7 是不是也开源了,怎么拉"。 Ollama 上没有 qwen3.7 ——它目前只有 API 形态,本地库里不存在。你去 pull 只会得到一句 model not found

别浪费时间,也别以为是自己网络出问题。想本地跑,认准 qwen3.6qwen3.5 这两代就行。

六、行动建议

  • 8GB 卡用户 :这次直接跳过 Qwen3.6,继续用 qwen3.5:9b

  • 有 16GB 卡 :可以上 qwen3.6:27b

  • 有 24GB 卡qwen3.6:35b-a3b

  • 要本地看图的 :Qwen3.6 的多模态在 Ollama 上暂时用不了,改用 qwen3-vl:8b

  • 别做的事 :别 pull qwen3.7 (Ollama 没有);别被 "a3b 只激活 3B" 骗着以为 8GB 能装。

Qwen3.6 这次最亮的其实是 agentic 和仓库级代码能力。光有强模型还不够,得有个会自己动手的壳子把它用起来。