最近小米的玄O100 AI加速卡和苹果新款Mac mini、Mac Studio接连亮相，两边都把内存带宽推到了TB/s级别。这背后其实是一个越来越明显的信号：喂饱GPU的数据之战已经开打了。

这并非偶然。2025年发布的英伟达RTX 5090也在做同样的事。不管是手机SoC、端侧NPU还是独立GPU，各家都在把内存带宽往新的高度推，目的只有一个，就是解决AI大模型运行时数据搬运的瓶颈问题。

打开网易新闻 查看精彩图片

内存带宽为什么突然变得这么重要

内存带宽指的是计算核心和数据之间的通道宽度。大语言模型在自回归生成阶段，每输出一个Token，都需要把内存里数亿甚至数十亿个参数完整读一遍。

计算核心再强大，大部分时间也在等数据到达。这种“内存墙”现象，已经成为制约AI性能的关键瓶颈。

苹果Mac产品线营销总监Laura Metz的说法很直接：M6系列把内存带宽提上去，是因为运行AI Agent时，模型必须驻留在统一内存里随时待命。

三家路线不同，但结论一致

苹果M6系列的三档配置，恰好标出了AI硬件内存带宽的一个阶梯。标准版170GB/s，Pro版307GB/s，顶配Ultra版直接突破到1.2TB/s。

小米玄O100走的是另一条路。它采用晶圆级垂直互连技术，把DRAM晶圆直接堆叠在NPU上方，实现了1.22TB/s的带宽。

英伟达RTX 5090则通过512-bit位宽搭配GDDR7显存，达到了接近1.8TB/s。

三家带宽都冲到了TB/s，虽然路径不同，但最终指向同一个结论：数据喂给计算核心的速度，决定了AI硬件的真实性能。

内存带宽正在成为新的竞争焦点

这场竞赛让内存带宽成为比核心数量更值得关注的AI性能指标。谁能在数据搬运速度上建立优势，谁就有机会在下一个计算时代抢占先机。

从手机到桌面，从端侧到独立显卡，这条赛道已经全面铺开。对于普通用户来说，未来买AI设备时，除了看算力数字，内存带宽可能会成为一个更实在的参考项。