NVIDIA在获得Groq非独家授权8个月后,首次将Groq技术整合进机架级产品。搭载Groq的机架产品将于今年上线,标志着双方合作从授权阶段进入产品落地阶段。

工作负载如何拆分

打开网易新闻 查看精彩图片

NVIDIA将智能体AI工作负载按任务类型拆分处理:Rubin GPU负责重计算任务,Groq 3 LPX处理对延迟敏感的token生成环节,Vera CPU则运行代码与数据处理。三者各司其职,形成分工明确的处理链路。

性能对比

相比Cerebras的方案,Groq 3 LPX声称带来4倍响应速度提升,这一优势在长任务场景中表现得尤为明显。不过该数据为厂商声称,实际表现有待产品上线后验证。