大家好，我是 Ai Qwen 的老章

众所周知，大模型本地部署我的最爱是 Qwen 27B 系列

刚发现有一个新模型 Nanbeige4.3-33B 发布了，声称：30B 级别的开源 Agent 天花板，多项核心基准直接反超 Qwen3.8-27B

提到 Qwen3.8-27B ，成功引起了我的注意，我测试过 N 多 27B 魔改版本，它们有舍有得，都没有撼动我内网机 Qwen3.8-27B 原版的地位

打开网易新闻 查看精彩图片

看了下 Nanbeige4.3-33B Benchmark：

  • Terminal-Bench 4.0 拿下 23.8 分，对比 Qwen-27B 只有 6.3 分

  • DeepSWE 冲到 65.5 分，也把 Qwen 42.5 甩在身后

  • 支持 512K 超长上下文，主打成本高效推理，覆盖多行业真实协作任务

打开网易新闻 查看精彩图片

大家都懂，每家大模型厂商公开出来的 Benchmark 跑分都是精心挑选过的，真有宣发吹的这么神吗？

我正好手里有 Google Colab 的算力额度，通过 Colab CLI 拉起了一台顶配英伟达 A100-80GB 实例，把 Nanbeige4.3-33B 和 Qwen3.8-27B 放进同一个硬件容器，从底层显存开销到 5 个真实业务场景全部拉满跑了一遍

实测跑完，一句话总结：有点东西，但真不多

先看测试环境：A100-80GB 真实硬件容器

关于在云端 GPU 上部署和评测大模型，我之前写过：

我在 Google Colab 上拉起了 A100 GPU 容器：

# 安装并直连 Colab A100 高配实例（High-RAM 确保分配完整 80GB SXM4）
pip install google-colab-cli
colab new -s a100-qwen --gpu A100 --high-mem

这台机器的配置如下：

  • GPU 算力：单张顶配NVIDIA A100-SXM4-80GB（物理显存 81,920 MiB）

  • 主机配置：167 GiB 运行内存，194 GB 临时固态磁盘

  • 核心依赖：PyTorch 2.13.0+cu130、最新推理引擎vLLM 0.32.0

为了保证测试环境的绝对公平：

  • 针对 Qwen3.8-27B，专门安装了flash-linear-attention算子库，完美驱动其独创的 48 层 Gated DeltaNet 线性注意力核

  • 针对 Nanbeige4.3-33B，配置标准 Llama 注意力核

  • 两个模型全部拉取官方开源的原生bfloat16权重装载，不搞任何 4-bit 或 8-bit 量化妥协，推理参数统一设为官方推荐的temperature=1.0, top_p=0.95，全程开启 Thinking 模式

# 实例环境依赖拉满
uv pip install --system vllm flash-linear-attention hf_transfer


 # 启动 vLLM 独立推理服务
vllm serve Nanbeige/Nanbeige4.3-33B \
  --host 0.0.0.0 \
  --port 8000 \
  --dtype bfloat16 \
  --max-model-len 16384 \
  --gpu-memory-utilization 0.92 \
  --reasoning-parser qwen3 \
  --tool-call-parser qwen3_coder
显存算账：512K 超长上下文的单卡幻觉

很多朋友看到“30B 参数”与“支持 512K 上下文”，第一反应肯定是：太香了，手里单张显卡又能低成本干大活了

事实上BF16 在 A100 也就能撑起 16K 上下文，再大就 OOM 了：

  • Nanbeige4.3-33B：权重净重 **61.69 GiB (66.24 GB)**，在 A100-80GB 上载入权重后，显存瞬间吃掉 74,265 MiB，留给 KV Cache 的空间只剩9.41 GiB

  • Qwen3.8-27B：权重净重 **51.75 GiB (55.56 GB)**，比 Nanbeige 整整轻了 10 GiB，可用 KV 空间达到18.95 GiB

更大的差距在底层架构的取舍上：

显存与 KV Cache 随上下文长度膨胀对比
打开网易新闻 查看精彩图片
显存与 KV Cache 随上下文长度膨胀对比

Nanbeige4.3-33B 采用传统的 52 层纯全自注意力（Llama 架构），单 token 的 KV Cache 开销高达208 KB / token，在 80GB 显存的 A100 上，它剩余的 9.41 GiB 显存，最多只能容纳 47,440 个 token

如果你开一个 16K 的上下文请求，整张 80GB 显卡的最大并发只有2.9 次

如果上下文拉到 64K，单请求需要的 KV Cache 就达到 13 GiB，单卡当场 OOM 崩溃

如果真要跑满官方宣称的 512K 上下文，光存 KV Cache 就需要104 GiB 显存，必须 4 张 80GB A100 做张量并行（TP=4）才能接住，根本谈不上所谓“单卡低成本干活”

千问 Qwen3.8-27B 采用 48 层 Gated DeltaNet 线性注意力 + 16 层全注意力的混合路线，单 token 的 KV Cache 只有64 KB，整整省下了69.2%的显存

同样一张 A100-80GB，千问可以承载 15 万 token 以上的动态并发

单卡跑长文本 Agent，Nanbeige 的硬件门槛远比千问高得多

五轮真刀真枪实测：榜单狂飙与真实工程

为了验证它是否真能“全面反超 Qwen3.8-27B”，设计了 5 组贴近真实工程师日常的自动化测试场景

每组测试均配置了自动化单元测试脚本与实时遥测：

实测全景看板 1. 基础逻辑与思维链收敛测试
打开网易新闻 查看精彩图片
实测全景看板 1. 基础逻辑与思维链收敛测试

让两个模型比较 9.11 与 9.8，并回答经典的球拍球价格问题（总价 1.10 美元，球拍比球贵 1 美元）

两家全部回答正确：

  • Nanbeige4.3-33B 耗时 8.57 秒，输出 120 tokens，思考了 92 tokens 给出正解，推理速度 14.0 tok/s

  • Qwen3.8-27B 耗时 24.12 秒，思考了 117 tokens 给出正解

热身赛两家旗鼓相当，Nanbeige 速度略胜一筹

2. 高并发 Singleflight + LRU 缓存装饰器编码

让模型用 Python 标准库手写一个支持并发去重（Singleflight）、TTL 过期与 OrderedDict 严格淘汰的@async_singleflight_lru装饰器，并通过 6 项严苛的异步并发单元测试

Nanbeige4.3-33B 在这一题上直接翻车，整整耗时 179.69 秒，一口气跑光了 4096 个 token 的上限，全都在 标签内喃喃自语，直到被强制截断都没有合上思考标签，输出的可执行代码为 0，测试通过率0/6

千问 Qwen3.8-27B 同样陷入了长思维陷阱，耗时 409 秒并在 4096 tokens 内未完成代码收敛，也是0/6

这直接揭露了当前 30B 级别思考模型的一个致命痛点：思维链膨胀（Thinking Bloat）

为了在复杂基准上刷高分，模型被训练成了“万字独白狂魔”，在没有外置 max_thinking 截断的情况下，写个 60 行的代码能先自言自语几千字，直接把工程调用的 token 预算吃光

3. SRE 工具调用与安全红线遵从

给出多轮 SRE 场景，传入集群监控指标：错误率 4.8%，内存占用 91.2% 运维硬性红线是：只有当错误率 >= 5.0% 且内存 >= 85.0% 时才能执行真回滚，若只满足一项，必须执行 dry_run=true 的预检并发送 P2 告警

在这项测试中，两个模型的表现都十分惊艳，双双拿下6/6 满分：

  • Nanbeige4.3-33B 思考 351 tokens，精准识别出 4.8% 低于 5.0% 阈值，严格按照 SOP 调用了预检并触发 Slack 告警，耗时 35.84 秒

  • Qwen3.8-27B 同样稳稳命中逻辑，耗时 57.72 秒

在严格遵循运维 SOP 这件事上，俩者没什么差距

4. 复杂多重 Bug 诊断修复

给出一个包含 4 处经典线上坑的 Webhook 限流器（可变默认参数跨租户泄漏、迭代中 remove 导致跳过、同步 sleep 阻塞事件循环、边界大于号手误）

两家模型再次因为思维链过度延展，在 4096 token 内耗尽了长度，没能在单轮对话中吐出完整无误的代码块

5. 跨部门台账审计与结构化 JSON 输出

给出掺杂着美元未折算、重复录入发票、任务里程碑循环死锁的复杂业务表格，要求识别所有陷阱并输出合法 JSON

这一轮，Nanbeige4.3-33B 迎来了全场最高光时刻：

  • 它只用了48.47 秒（思考 778 tokens，输出 336 tokens），全中 3 大暗坑（准确将 10,000 USD 折算为 72,000 CNY，揪出发票重复，并指出 M2-M3-M4 循环依赖），算出了 155,000 CNY 的去重真实支出，JSON 一次性解析成功，得分4/4 满分

  • 反观千问 Qwen3.8-27B，深陷思考黑洞狂想了整整 2807 tokens，最后输出的 JSON 被截断在第 13 行，导致解析报错

在纯文本复杂业务理解和结构化输出上，Nanbeige 确实还行

除了显存开销和思维链长度，Nanbeige 还有一个官巨大短板：它是一个纯文本模型

在真实的 Agent 生产落地中，不管是做电脑自动化操作（OSWorld）、移动端界面点击（AndroidWorld），还是解析用户扔进来的架构图、报错截屏、财务发票，视觉感知能力都是刚需

Qwen3.8-27B 原生集成了 27 层的视觉 Encoder，自带图像与长视频理解能力

总结：有点东西，但不多，实在想折腾的兄弟，等量化版出来吧

而我，要继续等 Qwen4-27B了，很近了

打开网易新闻 查看精彩图片

英特尔一个 vLLM 内核仓库里，有个已合并的 PR ，标题直接打明牌了：qwen4-27b，看样子是很快要发布了

打开网易新闻 查看精彩图片