英伟达周四推出了专为常驻智能体和边缘计算设计的新开源权重模型。
Nemotron 3.5 Super VL 是一款拥有 1200 亿参数的大模型,面向企业使用的智能体场景。虽然该模型参数量少于 Nemotron 3 Ultra 模型,但英伟达表示它在指令遵循和工具使用任务上能够提供相近的准确度。
在另一端,该公司还推出了两款轻量级 Bolt 模型。这些模型旨在本地运行于搭载英伟达 RTX Spark 芯片的新款 AI 电脑以及搭载 DGX Spark 的工作站上。这类面向消费者、程序员和企业知识工作者的电脑,正通过微软、戴尔等合作伙伴陆续投放市场。
英伟达开放模型与软件部门副总裁 Kari Briski 在宣布这些模型的博客文章中写道:“任何希望在英伟达基础设施上运行智能体的组织,现在都能获得适合其层级的开放、优化模型,而无需在能力和可部署性之间做出取舍。”
英伟达表示,在针对特定智能体任务进行后训练后,Super VL 完成任务的速度比来自 Anthropic 和 OpenAI 的竞品模型(Opus 5、GPT 6.1 Sol、Luna、Astra)更快。这些任务包括文档智能处理、财务会计、科学实验、医疗保险理赔以及安全攻击抵御能力。
尽管每当有大型科技公司宣布新模型时,此类说法都属于常规操作,但英伟达为此提供了一份重量级客户名单,称这些公司正在使用 Super VL,包括 Skydance、安永(EY)、Ramp、Crowdstrike、Perplexity 和 Salesforce。
当然,这并非英伟达首次发布与专有前沿实验室相竞争的开源权重模型——而这些实验室既是其客户,也是其投资对象。这家 GPU 巨头拥有整个 Nemotron 模型家族,涵盖从多模态人工智能到推理、编程、数学以及企业自动化等各类功能。
不过,那些快速成长的专有 AI 实验室如今正将目光投向英伟达之外的更多芯片和 AI 系统制造商,以满足自身需求,比如亚马逊云科技(AWS)的 Trainium 和 Cerebras,同时也在自行研发芯片。
因此,英伟达正大力顺应企业公司希望在自有数据中心运行自有开放模型这一趋势。Briski 写道:“与闭源前沿模型不同,各组织可以用自己的数据对 Super VL 进行后训练,并部署在自己的基础设施上,拥有他们所构建成果的所有权。”
但通过发布这些更小型的本地个人电脑模型,英伟达也在试图推动消费级 AI 助手这一新兴趋势的发展。尽管初创公司和科技巨头似乎每天都在推出新的 AI 助手,但对隐私日益警惕的消费者,可能并不愿意让这类智能体如此深入地介入自己的生活,获取关于家庭、健康、财务等方面的信息。
因此,英伟达希望通过打造能够在本地运行模型和智能体的设备,为自家芯片驱动的电脑开辟新市场,Briski 写道,个人电脑用户“可以将日常事务委托出去……而无需将这些工作负载发送到云端”。
在两款 Bolt 模型中,Nemotron 3.5 Bolt 74B-A9B 24GB 是一款拥有 740 亿参数的模型,专为本地智能体任务设计,旨在平衡速度与推理能力,以应对多步推理、工具调用和网页浏览等任务。而最小的 Bolt E4B 模型则面向对话式智能体。
英伟达表示,Super VL 和 Bolt 74B-A9B 现已发布,Bolt E4B 将于本月晚些时候推出。
Q&A
Q1:Nemotron 3.5 Super VL 是什么?
A:这是英伟达推出的一款拥有 1200 亿参数的大型开源权重模型,专为企业智能体任务设计,能够处理文档智能、财务会计、科学实验等多种复杂任务,在指令遵循和工具使用方面表现突出。
Q2:Bolt 模型能在什么设备上运行?
A:Bolt 模型是轻量级模型,专为本地运行设计,可部署在搭载英伟达 RTX Spark 芯片的 AI 电脑以及搭载 DGX Spark 的工作站上,面向消费者、程序员和企业知识工作者。
Q3:哪些公司正在使用 Nemotron 3.5 Super VL?
A:英伟达公布的客户名单包括 Skydance、安永(EY)、Ramp、Crowdstrike、Perplexity 和 Salesforce 等知名企业。
热门跟贴