快科技8月28日消息,近日,小米玄戒O100 AI加速芯片与苹果新款Mac mini及Mac Studio先后亮相,两者均将内存带宽推至TB/s级别,这预示着喂饱GPU的数据之争已经打响。

这并非偶然,这一趋势与2025年初发布的英伟达RTX 5090不谋而合——无论是桌面SoC、端侧NPU还是独立GPU,都在将内存带宽推向新的高度,以解决AI大模型运行时数据搬运的瓶颈问题。

内存带宽是计算核心与数据之间的通道宽度。大语言模型在自回归生成阶段,每输出一个Token,都需要将内存中数千亿参数的权重完整读取一遍。

计算单元再强大,大部分时间也在等待数据到达。这种"内存受限"现象已成为制约AI性能的关键瓶颈。

苹果Mac产品营销总监Laura Metz表示,M6系列将内存带宽提升了数倍,因为运行AI Agent时模型必须驻留在统一内存中随时待命。

苹果M6系列的三档配置,恰好标出了AI硬件内存带宽的三个门槛。标准版170GB/s,Pro版307GB/s,顶配Ultra版突破至1.2TB/s。

小米玄戒O100采用晶圆级垂直堆叠技术,将DRAM晶圆直接压在NPU上方,实现1.22TB/s带宽。

英伟达RTX 5090通过512-bit位宽配合GDDR7显存,达到接近1.8TB/s。

三家带宽齐冲TB/s,虽然路径不同,但指向同一个结论:数据喂给计算核心的速度,决定了AI硬件的真实性能。

这项竞赛让内存带宽成为比核心数更值得关注的AI性能指标。谁能在数据搬运速度上建立优势,谁就能在下一个计算时代占据先机。

打开网易新闻 查看精彩图片