英伟达一次放出了两款开源模型:Nemotron-3.5-Bolt 和 Nemotron-3.5-Super-VL。前者主打小内存跑大模型,后者主打视觉语言能力,两条路线同时推进。

先看 Bolt。完整型号是 Nemotron-3.5-Bolt-74B-A9B,官方给出的说法是它能在 24GB 内存上运行,并且在这个体量下拿出了顶级性能。74B 的参数量塞进 24GB 内存,这是它最直接的卖点。

打开网易新闻 查看精彩图片

另一款走的是视觉路线

Super-VL 的完整型号是 Nemotron-3.5-Super-VL-120B-A12B,运行内存需求是 82GB。从命名看它属于视觉语言模型,参数量比 Bolt 更大,对硬件的要求也更高一档。

两款模型都放出了 GGUF 格式,托管在 Hugging Face 上,由 unsloth 提供。配套的使用指南也一并发布,地址在 unsloth.ai 的文档页。对想本地部署的人来说,GGUF 意味着可以直接走量化推理这条路。

为什么值得关注

24GB 是一个很微妙的数字。它对应的是单张消费级显卡的显存档位,也是不少开发者和中小团队手头设备的实际上限。一个 74B 模型能压到这个门槛,意味着本地跑大模型的选择又多了一个。

另一边的 82GB 则明显指向更专业的配置。两款模型一轻一重,覆盖的是两类不同的使用场景。

这条发布在社交平台上的浏览量是 4,992。数字不算大,但两款模型加 GGUF 的组合,对关注本地部署的人来说信息量足够。