去年末，Groq与英伟达就其推理技术达成非排他性许可协议，共同推进授权技术的升级与规模化应用。英伟达看中的是Groq的LPU单元，与其他AI芯片依赖于DRAM不同，Groq更多地是依靠SRAM，这有助于加快AI模型的交互，同时也限制了可以服务的模型大小。

打开网易新闻 查看精彩图片

据TrendForce报道，随着AI工作负载对更大存储容量的需求，芯片制造商正在探索传统缓存架构的替代方案。有业内人士透露，下一代Groq芯片或改变原本的设计，从SRAM转向3D堆叠DRAM技术，以提升存储容量上限。

英伟达在今年的GTC 2026上，发布了Groq 3 LPU，采用了三星4nm工艺制造，属于Vera Rubin平台的第7款芯片。每颗Groq 3芯片集成了500MB的SRAM和150TB/s的SRAM带宽，而完整的Groq 3 LPX机架拥有256颗Groq 3芯片，拥有128GB的SRAM和40PB/s的总SRAM带宽，另外还有12TB的DDR5内存，提供了增强的AI推理能力，使得对响应敏感的代理工作负载能够实现超高速词元生成。

不过SRAM的容量难以跟上AI模型的发展步伐，每两年仅增加约10%至20%的容量。相对应的是，AI模型规模可每六到九个月翻一番，使得两者的差距越来越大，单靠SRAM很难满足日益增长的容量和带宽需求。

目前Groq 3 LPU采用了三星4nm工艺制造，同时三星正在与英伟达讨论下一代Groq芯片的代工合作。台积电董事长兼总裁魏哲家曾在今年4月的财报电话会议上表示，正在与客户探讨下一代LPU的代工合作。外界猜测，三星和台积电正在争夺这部分的代工订单。