我之前的文章,测试 N 多开源模型,尤其是本地部署系列,评论区永远有一个高频问题:能不能接入 OpenClaw(小龙虾)?
大多数其实都不行,理由也很简单——模型能力不足是最核心、最致命的短板。Agent 的自动化、工具调用、多步骤任务执行能力,全都建立在大模型的基础能力之上。模型不行,Agent 就是个花瓶。
打开 PinchBench 排行榜()就知道了,排在前面的清一色是旗舰闭源模型。你用一个小模型跑 Agent,和用筷子喝汤差不多,工具不对。
最近英伟达有个开源模型 Nemotron-3-Super 杀进 PinchBench 前五
直接看排行榜:
**85.6% 的成功率超越了 Claude Opus 4.5(85.4%),只比 GPT-5.4 低了 0.4 个百分点。
最关键的一点:前五里面,它是唯一的开源模型。另外四个全是 Anthropic 和 OpenAI 的闭源旗舰,都是拿钱砸出来的。
而且,它这个数据还是被CREATIVE脱了后腿的,它没有文生图的能力
Basic、Calendar、Coding、File Ops都是100%
Data Analysis到了98%
Research是90%
Comprehension是91%
Organization是89%
但Creativity只有18%
Memory甚至只有0%
Context这一项也只有70%
这模型的强项非常像一个“干活型” Agent 大脑:写脚本、改文件、跑流程、处理任务,确实强;但你要它靠长期上下文记忆、或者靠创意型表达去吃分,它就没那么惊艳。
换句话说,它更像一个靠谱的工程经理加执行助手,不太像一个文艺青年。
PinchBench 测的是什么?
可能有同学不了解这个榜单。
简单说,PinchBench 测的是模型驱动 AI Coding Agent 执行真实编码任务的能力。不是做选择题,不是写作文,而是:
文件读写操作
代码修改和重构
工具调用和 API 交互
多步骤复杂任务
出错后的自我修复
这些恰恰是 OpenClaw 这类 AI Coding Agent 的核心能力。所以 PinchBench 的排名非常实在——它基本决定了模型驱动 Agent 的实际表现。
这也是为什么我之前一直说:与小龙虾最搭配的大模型,大多都是旗舰模型。
这货凭什么这么强?
先上硬参数:
指标
数值
总参数量
120B
激活参数量
仅 12B
架构
LatentMoE(Mamba-2 + MoE + Attention 混合)
上下文窗口
1M tokens
最低 GPU 需求
1× B200-80GB 或 1× DGX Spark
推理模式
支持推理开/关(enable_thinking=True/False)
量化精度
NVFP4(训练即量化,不是后量化)
Nemotron 3 Super 120B A12B 不是“穷人版 Opus”,它更像是 NVIDIA 亲自下场,给 Agent 赛道递了一张旗舰级入场券。
架构设计有点东西
Nemotron-3-Super 不是传统的纯 Transformer,而是一个三合一混合体:
Mamba-2(状态空间模型):擅长处理长序列,线性复杂度。这也是它能支持 1M 上下文的关键——传统 Transformer 的注意力机制在超长序列上会被二次复杂度卡死。
MoE(混合专家):120B 参数里每次只激活 12B。用的是 LatentMoE,先把 token 投射到更小的潜在维度做路由,精度更高、开销更低。
Attention 层:在关键位置保留注意力机制,保证关键信息不丢。
三者配合,NVIDIA 管这叫 LatentMoE 架构。又快又准。
还有一个彩蛋:Multi-Token Prediction(MTP)。模型训练时不只预测下一个 token,而是同时预测后面好几个 token。推理的时候可以做 speculative decoding,生成速度直接起飞。
NVFP4 量化,几乎零损失,毕竟就是英伟达独创的
下面这张图是官方的基准对比:
基准
BF16 原版
FP8
NVFP4
MMLU-Pro
HMMT Feb25(含工具)
GPQA(无工具)
LiveCodeBench v6
IFBench
Arena-Hard-V2
RULER-500 @128k
有意思吧?NVFP4 版本在 HMMT、GPQA、IFBench 上甚至反超了 BF16 原版。这不是传统的"训完再量化",而是训练的时候就在 FP4 精度下跑,模型天然适配低精度推理。
这才是真正的实用主义工程——精度不丢,显存还省。
训练方法论:这次是真开源
NVIDIA 这次把"开源"两个字做到了实处:
预训练数据:25T+ tokens,全部公开(Nemotron Pre-Training Datasets)
后训练数据:SFT + RL 数据集,全部公开(Nemotron Post-Training v3)
训练配方:完整训练脚本在 GitHub 上
评估工具:NeMo Evaluator SDK,可以复现所有 benchmark 结果
RL 环境:NeMo Gym,异步 GRPO 多环境强化学习
训练三大阶段:预训练 → SFT(合成代码、工具调用、指令跟随等) → RL(数学、代码、科学、工具使用等多环境 GRPO)。
怎么体验?
方式一:NVIDIA API(最快上手)
直接去build.nvidia.com注册,免费额度直接用。
在线对话体验,零门槛。
方式二:OpenRouter 等第三方 API
很多 API 平台已经上架了。但是要注意:PinchBench 上免费版nemotron-3-super-120b-a12b:free只拿了 75.0%,和付费版 85.6% 差了超过 10 个百分点。省钱和效果之间,得想清楚。
方式三:本地部署(硬核玩家)
支持 vLLM 和 SGLang,单卡 B200-80GB 即可运行:
# vLLM 部署
vllm serve $MODEL_CKPT \
--async-scheduling \
--served-model-name nvidia/nemotron-3-super \
--dtype auto \
--kv-cache-dtype fp8 \
--tensor-parallel-size 1 \
--trust-remote-code \
--enable-auto-tool-choice \
--tool-call-parser qwen3_coder \
--reasoning-parser-plugin "./super_v3_reasoning_parser.py" \
--reasoning-parser super_v3
推理参数官方建议:temperature=1.0,top_p=0.95,所有场景通用。
部署后暴露的是 OpenAI 兼容 API,可以直接接入 OpenCode 等终端 Agent:
{
"model": "local/nvidia-nemotron-3-super",
"provider": {
"local": {
"npm": "@ai-sdk/openai-compatible",
"options": {
"baseURL": "http://localhost:8000/v1",
"apiKey": "EMPTY"
}
}
}
}
HuggingFace 模型页(含完整部署指南):https://huggingface.co/nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4
说完好的,说说现实问题:
GPU 门槛还是高。B200-80GB 不是消费级显卡,你的 4090 跑不了,或许可以等等Unsloth对极致量化版。DGX Spark 是 NVIDIA 推的桌面方案,但价格也不便宜。对大多数个人开发者来说,API 调用更现实。
Benchmark ≠ 实战。PinchBench 85.6% 很好看,但实际项目中的复杂度、特定语言框架支持、长时间多轮对话的稳定性,都得实测才知道。
开源 Agent 模型的格局正在变
Qwen 3.5-122B-A10B 也值得关注——同样是 MoE 架构,122B 总参数 / 10B 激活,和 Nemotron 思路非常接近。两家不约而同选了 100B+ 总参数、10B 级别激活的 MoE 路线,这不是巧合。
MoE + 混合架构正在成为开源 Agent 模型的主流技术路线。用小激活量撬动大参数量,在效率和能力之间找到一个甜点。
制作不易,如果这篇文章觉得对你有用,可否点个关注。给我个三连击:点赞、转发和在看。若可以再给我加个,谢谢你看我的文章,我们下篇再见!
热门跟贴