英伟达近日发布Nemotron 3.5 Super VL，这是一款开源的1200亿参数模型，为专用的常驻智能体提供最快任务完成速度和最高准确率。
与之一同推出的还有两款全新边缘模型：Nemotron 3.5 Bolt 74B-A9B 24GB，针对本地智能体工作负载优化了每GB智能与速度的平衡；以及Nemotron 3.5 Bolt E4B 4GB，针对快速对话智能体优化了每GB智能表现。
Super VL与Bolt 74B-A9B已可使用，Bolt E4B将于10月23日上线。
这三款开源模型共同覆盖了从大型企业服务器到边缘设备及本地硬件的全部智能体部署场景。
任何希望在英伟达基础设施上运行智能体的机构，如今都能根据自身层级获得一款开放且经过优化的模型，不必在能力与可部署性之间做出取舍。
Super VL与Bolt加入Nemotron家族，与此前的Lightning和Ultra并列。今年8月发布的Lightning专注于高吞吐量工作负载；Ultra处理最复杂的推理任务；而Bolt将智能带到边缘端。
Nemotron 3.5 Super VL：以五分之一规模实现前沿准确率
Super VL与Nemotron联盟合作打造，在多模态智能体任务——包括指令遵循、工具使用、多步骤业务流程以及视觉理解——上实现了领先准确率，性能可与英伟达最大推理模型相媲美，而参数量仅为其约五分之一。
Nemotron 3.5 Super VL在高容量智能体工作流中提供了同级别中的前沿级智能表现。
作为同级别中速度最快的开源智能体模型，其速度比次优模型快5倍，能帮助企业智能体在横跨数天或数周的工作流中更快完成大批量任务。
根据Artificial Analysis智能指数排行榜数据，Nemotron 3.5 Super VL相较同类其他模型实现了高达5倍的吞吐量提升。
与闭源前沿模型不同，各机构可以用自己的数据对Super VL进行后训练，部署在自有基础设施上，并自主掌控所构建的系统。
Nemotron 3.5 Bolt：边缘端的智能体智能
Bolt 74B-A9B 24GB专为在英伟达RTX/DGX Spark上本地运行日常智能体任务而设计，采用原生2位量化技术，可在24GB显存内运行，并与其他应用程序并行使用。
相较于同等显存占用的其他模型，该模型在智能与速度之间取得了良好平衡：足够智能以完成大多数工作任务，同时比最智能的模型运行速度更快。
借助Bolt 74B-A9B 24GB，用户可以将项目交给主流的本地智能体工具——从网络搜索到文档撰写再到代码调试——全部过程无需将工作负载发送至云端。该模型是PinchBench排行榜同级别中排名第一的开源模型，也是BrowseComp排行榜同级别中排名第二的开源模型。
Bolt E4B 4GB专为GeForce RTX、Jetson以及RTX/DGX Spark上的物理与对话智能体打造。它将自然对话能力与多轮智能体能力相结合，可为快速本地语音助手、交互式角色及嵌入式界面提供动力支持。
定制化超级智能的采用情况
各行业的数十家机构正在用自身数据、工具、政策与工作流对Super VL进行后训练，以在决定其智能体部署效果的专用任务上进一步提升准确率。
多家机构正在跨行业对Super VL进行后训练与定制。Scale AI为Skydance的供应商信贷融资智能体及EY的并购尽职调查智能体对该模型进行了后训练。AfterQuery为Hebbia定制该模型用于信贷协议分析。AI21和Alice针对网络安全攻击抵御能力对该模型进行了后训练。Mercor基于APEX-SWE编程基准对该模型进行后训练，用于能够规划、编写和调试代码的编程智能体。ModelScope通过其ms-swift框架使开发者能够为专用多模态应用微调该模型。
其他定制Nemotron 3.5 Super VL的机构包括：Ramp用于金融文档智能分析；Dream用于主权AI驱动的网络安全研究与漏洞分析；Lila Sciences用于科学发现与检索；R1用于医疗理赔分析与收入周期管理。TrainLoop利用Nolla提供的皮肤科数据对该模型进行后训练，Nolla刚刚成为首家获批使用AI开具初始患者处方的公司。
正在集成Nemotron 3.5 Super VL的软件平台公司包括：
Atlassian，用于诸如跨Jira和Confluence等应用的智能体搜索任务。
CrowdStrike，正在定制该模型用于企业安全中的智能体蓝队防御。
达索系统，为工程设计与仿真提供动力支持。
Perplexity，用于其搜索产品Perplexity Search和Computer中的检索与智能体任务。
Salesforce，正在定制Nemotron，为其Missionforce Operations产品中在安全客户环境下实现复杂政府工作流数字化与自动化的AI智能体提供动力支持。
Synopsys用于半导体设计验证的软件已与该模型实现互操作。
Nemotron 3.5 Super VL究竟能“看到”什么
Nemotron 3.5 Super VL的视觉语言能力专门针对智能体在实际应用中会遇到的场景：光学字符识别、表格、图表以及视觉文档中的结构化信息。
该模型能够处理网页，提取文本，读取图表，并从中提炼洞察。同样的能力也适用于PDF及其他智能体常用的文档类型。
Nemotron 3.5 Super VL能够理解图像、网页和PDF，并基于这种理解采取行动。将文本理解与视觉理解整合于一个模型中，意味着智能体无需在不同系统间转发任务——上下文信息可以在文档、数据和决策之间的流转过程中保持连贯。
开放性带来最大化的控制、安全与隐私保障
开放性与可定制性相辅相成。该模型随附开放权重、开放数据集以及训练方案。
控制权体现在两个方向。各机构可以根据自身安全与数据驻留要求，在任意场所部署该模型；同时他们也可以选择采用一款自己能够加以调整的模型，而非受限于提供商各类限制的模型。
例如在保险行业，经过定制的智能体可以反复扫描理赔单据中的欺诈信号。在金融服务领域，智能体可以根据机构自身的放贷标准审核信用评分并标记异常活动。模型保持在本地部署，数据也始终保持私密。
定制化工作通过NVIDIA NeMo、基于Python的流水线以及开放数据集来支持。
Nemotron 3.5 Super VL在预训练及持续预训练阶段共使用了约26万亿Token进行训练，随后利用约380万样本及跨数十种环境的强化学习进行了后训练。
英伟达还在Hugging Face上发布了涵盖智能体工具使用、金融、指令遵循、长上下文、公平性以及视觉语言理解等方面的开放数据集，以及NeMo Gym中的强化学习环境。
NVIDIA NIM将该模型打包为生产就绪的微服务，具备性能优化、经过验证的配置以及企业级支持，每两周进行一次安全补丁与性能改进更新。
借助在NVIDIA Dynamo上运行该模型，各机构能够以降低85%的延迟为多达8倍的用户提供服务。
Nemotron 3.5 Super VL目前已在Hugging Face、Open Router、魔搭社区上线，同时也以NVIDIA NIM形式提供。
可在DGX Spark、DGX Station和RTX系统上运行
Nemotron 3.5 Super VL可在英伟达全栈硬件上运行：在DGX Spark、DGX Station、RTX PRO及RTX系统上实现桌面端本地智能，在NVIDIA Jetson上实现边缘端智能，并可在数据中心与云环境中运行。
Nemotron 3.5 Bolt 74B-A9B 24GB现已在Hugging Face上线，支持llama.cpp、Ollama、LM Studio、Unsloth以及vLLM。该模型专为10月16日上市的英伟达RTX Spark笔记本电脑打造，同时也可在GeForce RTX个人电脑、DGX Spark、DGX Station及RTX PRO工作站上运行。
用户可下载开放权重，通过NVIDIA NeMo探索定制化资源，或阅读技术博客了解完整架构详情。
Q&A
Q1：Nemotron 3.5 Super VL是什么模型？
A：Nemotron 3.5 Super VL是英伟达发布的开源1200亿参数模型，专为专用的常驻智能体设计，能在多模态智能体任务上实现领先准确率，速度比同类模型快5倍。
Q2：Nemotron 3.5 Bolt有哪些版本？分别适用于什么场景？
A：Bolt共有两个版本：74B-A9B 24GB版本针对本地智能体工作负载优化，可在RTX/DGX Spark上运行；E4B 4GB版本专为快速对话智能体设计，适用于GeForce RTX、Jetson等设备。
Q3：企业能否对Nemotron 3.5 Super VL进行定制化训练？
A：可以。目前已有Scale AI、AI21、Mercor等多家机构基于自有数据对该模型进行后训练，应用于金融、网络安全、编程等多个专业领域，企业可自主部署并掌控整个系统。
热门跟贴