2025年圣诞节的凌晨,硅谷炸了。

英伟达宣布以200亿美元拿下AI推理芯片公司Groq的核心技术与团队。

三个月前Groq的估值还只有69亿美元,黄仁勋直接给出了将近三倍的溢价。

打开网易新闻 查看精彩图片

这不是一次传统收购,Groq仍然作为独立公司运营,但Groq的创始人Jonathan Ross带着几乎所有核心成员集体加盟英伟达

伯恩斯坦的分析师一针见血:本质是英伟达用金钱换时间,把最危险的颠覆者变成自己人。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

Groq这家公司2016年成立,创始人Jonathan Ross的经历相当传奇——高中辍学,没正经读完大学,却在谷歌设计出了第一代TPU芯片的核心架构。

TPU是谷歌用来跑AI的定制芯片,现在被不少公司当作英伟达GPU的替代方案。

打开网易新闻 查看精彩图片

Groq早期推出的产品叫TSP(张量流处理器),出发点跟TPU类似——在GPU之外专门做一个更专一、更高效的推理硬件。

打开网易新闻 查看精彩图片

Groq当时也没想到,自己捣鼓出来的这个架构,在多年后的生成式AI大爆发中突然变得格外吃香。

打开网易新闻 查看精彩图片

Groq随后把TSP重新包装成LPU(语言处理单元)推向市场。

这两年谷歌TPU已经在抢英伟达的饭碗了,Meta被曝考虑大规模采用谷歌TPU,消息一出英伟达股价单日暴跌8%。

打开网易新闻 查看精彩图片

加上微软、亚马逊都在搞自研芯片,黄仁勋坐不住了,快速出手把Groq收编。

有投资人评价说,黄仁勋这200亿美元买的其实就是Jonathan Ross这个人,押注未来可能赚回三倍的钱。

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

直接看图。

LPU芯片的结构很有意思,以中间的VXM为中轴上下对称分布。

VXM是向量计算单元,负责激活函数、点运算等;上下两侧的MXM是张量单元,负责矩阵运算——这部分占了整个计算量的93%。

这两个核心电路分别对应英伟达GPU里的CUDA Core和Tensor Core。

打开网易新闻 查看精彩图片

中间的SXM是数据移动引擎,负责调度数据流转。

但LPU最特别的地方在于它的存储设计——整个芯片没有缓存这个概念。

中间那一块叫MEM的存储单元,用的也是SRAM技术,但扮演的是主内存的角色。

打开网易新闻 查看精彩图片

单颗Groq 3 LPU集成了500MB的片上SRAM,一个机架256颗LPU加起来就是128GB纯SRAM。

运行时直接把权重等数据加载到MEM里,根本不用像GPU那样频繁去片外HBM搬数据。

这就大大降低了“内存墙”带来的数据搬运开销。

打开网易新闻 查看精彩图片

SRAM的读写延迟极低,单颗芯片带宽能达到150TB/s,而英伟达Blackwell GPU用的HBM4带宽只有8TB/s——差距接近20倍。

在主流大语言模型上,LPU推理速度能达到H100的5到18倍,首Token响应时间仅0.2秒。

硬件设计只是基础,真正让LPU跟其他芯片拉开差距的是它的软件哲学。

打开网易新闻 查看精彩图片

LPU运行前先用编译器把所有计算任务排成一个静态调度,形成固定的计算图。

每条指令、每个数据流什么时候到、走哪条路,全是提前算好的,不存在临时调度。

打开网易新闻 查看精彩图片

如果说GPU像一条随时调整节奏的汽车产线,那LPU就是固定好每颗螺丝、每个部件的具体装配时间,一气呵成。

这种“确定性执行”带来的好处是延迟极其稳定,不会像GPU那样时快时慢。

打开网易新闻 查看精彩图片

GPU在推理时有一个先天问题:它自己不主动计算,得靠CPU给它发指令(kernel)。

CPU频繁给GPU“派活”,这个过程本身就带来巨大开销。

每接到一个任务,GPU内部还存在动态调度,任务分给各个SM(流式多处理器),出现分支发散惩罚——这些都会拖慢速度。

打开网易新闻 查看精彩图片

LPU的设计就是为了解决这个问题——用静态调度干掉动态调度的开销,用片上SRAM干掉数据搬运的延迟。

但LPU也不是万能的。

SRAM虽然快,但成本高、容量小,没法像HBM那样动不动堆几百GB。

打开网易新闻 查看精彩图片

所以LPU不能独立运行大模型,必须和GPU配合——GPU负责并行计算和大内存需求,LPU负责低延迟的前向传播。

在GTC 2026上,英伟达正式发布了Groq 3 LPU芯片和搭载256颗LPU的LPX机架,黄仁勋说GPU加LPU协同后,推理吞吐量与功耗比能提升35倍。

打开网易新闻 查看精彩图片

分析师预测2026到2027年LPU总出货量将达400万到500万颗。

大洋彼岸的中国,北京芯片公司清微智能在2025年12月完成了超20亿元融资,走的也是类似的可重构数据流技术路线。

中美两边的资本,几乎同时把重注押在了同一个方向上。

打开网易新闻 查看精彩图片

这笔交易之后还出了个插曲——2026年3月,两名美国民主党参议员联名致信黄仁勋,质疑英伟达通过“技术授权+人才吸纳”的方式规避反垄断审查。

打开网易新闻 查看精彩图片

联邦贸易委员会也在跟进调查这类“变相收购”。

用200亿美元把最危险的对手变成自己人,还绕开了监管——这步棋走得精,但后续的麻烦恐怕才刚刚开始。

打开网易新闻 查看精彩图片