我之前的文章,测试 N 多开源模型,尤其是本地部署系列,评论区永远有一个高频问题:能不能接入 OpenClaw(小龙虾)?

大多数其实都不行,理由也很简单——模型能力不足是最核心、最致命的短板。Agent 的自动化、工具调用、多步骤任务执行能力,全都建立在大模型的基础能力之上。模型不行,Agent 就是个花瓶。

打开 PinchBench 排行榜()就知道了,排在前面的清一色是旗舰闭源模型。你用一个小模型跑 Agent,和用筷子喝汤差不多,工具不对。

最近英伟达有个开源模型 Nemotron-3-Super 杀进 PinchBench 前五

直接看排行榜:

**85.6% 的成功率超越了 Claude Opus 4.5(85.4%),只比 GPT-5.4 低了 0.4 个百分点。

最关键的一点:前五里面,它是唯一的开源模型。另外四个全是 Anthropic 和 OpenAI 的闭源旗舰,都是拿钱砸出来的。

而且,它这个数据还是被CREATIVE脱了后腿的,它没有文生图的能力

Basic、Calendar、Coding、File Ops都是100%

  • Data Analysis到了98%

  • Research是90%

  • Comprehension是91%

  • Organization是89%

  • 但Creativity只有18%

  • Memory甚至只有0%

  • Context这一项也只有70%

  • 这模型的强项非常像一个“干活型” Agent 大脑:写脚本、改文件、跑流程、处理任务,确实强;但你要它靠长期上下文记忆、或者靠创意型表达去吃分,它就没那么惊艳。

    换句话说,它更像一个靠谱的工程经理加执行助手,不太像一个文艺青年。

    PinchBench 测的是什么?

    可能有同学不了解这个榜单。

    简单说,PinchBench 测的是模型驱动 AI Coding Agent 执行真实编码任务的能力。不是做选择题,不是写作文,而是:

    • 文件读写操作

    • 代码修改和重构

    • 工具调用和 API 交互

    • 多步骤复杂任务

    • 出错后的自我修复

    这些恰恰是 OpenClaw 这类 AI Coding Agent 的核心能力。所以 PinchBench 的排名非常实在——它基本决定了模型驱动 Agent 的实际表现。

    这也是为什么我之前一直说:与小龙虾最搭配的大模型,大多都是旗舰模型。

    这货凭什么这么强?

    先上硬参数:

    指标

    数值

    总参数量

    120B

    激活参数量

    仅 12B

    架构

    LatentMoE(Mamba-2 + MoE + Attention 混合)

    上下文窗口

    1M tokens

    最低 GPU 需求

    1× B200-80GB 或 1× DGX Spark

    推理模式

    支持推理开/关(enable_thinking=True/False)

    量化精度

    NVFP4(训练即量化,不是后量化)

    Nemotron 3 Super 120B A12B 不是“穷人版 Opus”,它更像是 NVIDIA 亲自下场,给 Agent 赛道递了一张旗舰级入场券。

    架构设计有点东西

    Nemotron-3-Super 不是传统的纯 Transformer,而是一个三合一混合体:

    Mamba-2(状态空间模型):擅长处理长序列,线性复杂度。这也是它能支持 1M 上下文的关键——传统 Transformer 的注意力机制在超长序列上会被二次复杂度卡死。

    MoE(混合专家):120B 参数里每次只激活 12B。用的是 LatentMoE,先把 token 投射到更小的潜在维度做路由,精度更高、开销更低。

    Attention 层:在关键位置保留注意力机制,保证关键信息不丢。

    三者配合,NVIDIA 管这叫 LatentMoE 架构。又快又准。

    还有一个彩蛋:Multi-Token Prediction(MTP)。模型训练时不只预测下一个 token,而是同时预测后面好几个 token。推理的时候可以做 speculative decoding,生成速度直接起飞。

    NVFP4 量化,几乎零损失,毕竟就是英伟达独创的

    下面这张图是官方的基准对比:

    基准

    BF16 原版

    FP8

    NVFP4

    MMLU-Pro

    HMMT Feb25(含工具)

    GPQA(无工具)

    LiveCodeBench v6

    IFBench

    Arena-Hard-V2

    RULER-500 @128k

    有意思吧?NVFP4 版本在 HMMT、GPQA、IFBench 上甚至反超了 BF16 原版。这不是传统的"训完再量化",而是训练的时候就在 FP4 精度下跑,模型天然适配低精度推理。

    这才是真正的实用主义工程——精度不丢,显存还省。

    训练方法论:这次是真开源

    NVIDIA 这次把"开源"两个字做到了实处:

    • 预训练数据:25T+ tokens,全部公开(Nemotron Pre-Training Datasets)

    • 后训练数据:SFT + RL 数据集,全部公开(Nemotron Post-Training v3)

    • 训练配方:完整训练脚本在 GitHub 上

    • 评估工具:NeMo Evaluator SDK,可以复现所有 benchmark 结果

    • RL 环境:NeMo Gym,异步 GRPO 多环境强化学习

    训练三大阶段:预训练 → SFT(合成代码、工具调用、指令跟随等) → RL(数学、代码、科学、工具使用等多环境 GRPO)。

    怎么体验?

    方式一:NVIDIA API(最快上手)

    直接去build.nvidia.com注册,免费额度直接用。

    在线对话体验,零门槛。

    方式二:OpenRouter 等第三方 API

    很多 API 平台已经上架了。但是要注意:PinchBench 上免费版nemotron-3-super-120b-a12b:free只拿了 75.0%,和付费版 85.6% 差了超过 10 个百分点。省钱和效果之间,得想清楚。

    方式三:本地部署(硬核玩家)

    支持 vLLM 和 SGLang,单卡 B200-80GB 即可运行:

    # vLLM 部署
    vllm serve $MODEL_CKPT \
    --async-scheduling \
    --served-model-name nvidia/nemotron-3-super \
    --dtype auto \
    --kv-cache-dtype fp8 \
    --tensor-parallel-size 1 \
    --trust-remote-code \
    --enable-auto-tool-choice \
    --tool-call-parser qwen3_coder \
    --reasoning-parser-plugin "./super_v3_reasoning_parser.py" \
    --reasoning-parser super_v3

    推理参数官方建议:temperature=1.0,top_p=0.95,所有场景通用。

    部署后暴露的是 OpenAI 兼容 API,可以直接接入 OpenCode 等终端 Agent:

    {
    "model": "local/nvidia-nemotron-3-super",
    "provider": {
    "local": {
    "npm": "@ai-sdk/openai-compatible",
    "options": {
    "baseURL": "http://localhost:8000/v1",
    "apiKey": "EMPTY"
    }
    }
    }
    }
    HuggingFace 模型页(含完整部署指南):https://huggingface.co/nvidia/NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4

    说完好的,说说现实问题:

    GPU 门槛还是高。B200-80GB 不是消费级显卡,你的 4090 跑不了,或许可以等等Unsloth对极致量化版。DGX Spark 是 NVIDIA 推的桌面方案,但价格也不便宜。对大多数个人开发者来说,API 调用更现实。

    Benchmark ≠ 实战。PinchBench 85.6% 很好看,但实际项目中的复杂度、特定语言框架支持、长时间多轮对话的稳定性,都得实测才知道。

    开源 Agent 模型的格局正在变

    Qwen 3.5-122B-A10B 也值得关注——同样是 MoE 架构,122B 总参数 / 10B 激活,和 Nemotron 思路非常接近。两家不约而同选了 100B+ 总参数、10B 级别激活的 MoE 路线,这不是巧合。

    MoE + 混合架构正在成为开源 Agent 模型的主流技术路线。用小激活量撬动大参数量,在效率和能力之间找到一个甜点。

    制作不易,如果这篇文章觉得对你有用,可否点个关注。给我个三连击:点赞、转发和在看。若可以再给我加个,谢谢你看我的文章,我们下篇再见!