“AI的本质是内存,不是GPU。”
这句话不是我说的,而是出自被称为“HBM之父”的韩国科学技术院(KAIST)教授金正浩之口。
就在最近,这位半导体圈子的灵魂人物接受了专访,抛出了一连串足以让整个硅谷都坐立不安的判断。其中一句尤其扎眼——他说,即便你买上100万台的GPU,它们真正工作的时间,也只有可怜的10%!
这直接撕开了当前AI军备竞赛最华丽的外衣,暴露出一个被狂热掩盖的结构性矛盾。我们疯狂烧钱堆算力,但真正卡住AI脖子的,可能压根就不是那个被捧上神坛的GPU。
今天,我们就借着这次专访的核心信息,把金正浩教授这盘“以内存为中心”的大棋,给您掰开揉碎了讲清楚。
一、揭秘AI算力的“皇帝新装”:GPU九成时间竟在“摸鱼”?
先回到那个最颠覆认知的结论:GPU有90%的时间都在“干等”。
金正浩在访谈里打了个比方,完美解释了这个问题。当ChatGPT每次吐出一个词,背后其实发生了三步:先从HBM(高带宽内存)里“读”数据,然后送到GPU里“算”,最后再把结果“写”回内存。
问题就出在“读”和“写”这两个环节上。这就像一家顶级餐厅,厨房(GPU)再大、厨师再多(算力),但传菜通道只有一条窄缝,所有食材都得从这挤进来,做好的菜也得从这挤出去。大部分时间,厨师们只能干瞪眼等着传菜。
金正浩判断,即便通过优化算法,GPU的有效工作时间上限可能也就30%。而这,恰恰就是他多年来坚持的核心论断“AI = Memory”的现实铁证。
二、黄仁勋为什么坐不住了?因为GPU被逼进了“死胡同”
注意,金正浩对英伟达的现状用词相当犀利。他说,你看黄老板最近频繁往韩国跑,上节目、吃炸鸡、见各种人,表面上风光无限,其实内心可能“很不安”。
为什么不安?因为GPU的物理极限快到了。
芯片想提升性能,最直接的办法就是做大、塞进更多计算单元。但GPU的发热量巨大,背面必须得装上厚重的散热器,这就导致它不可能像盖楼一样把计算单元一层层堆叠上去。
金正浩的原话是:“GPU陷入了‘外通死局’。”
更关键的是,整个AI行业的重心,正在从“训练”转向“推理”。训练时代,拼的是谁能更快地学完海量数据,那是GPU的主场。但到了推理时代,比的是谁能往AI模型里塞进更多、更全的数据,让它变得更聪明、更个性化。
而决定这个“数据容量”的,是内存。
所以金正浩才敢下这个判断:AI能力的竞争,最终会是内存能力的竞争。谷歌Gemini厉害,还是OpenAI的GPT厉害?不好意思,在他看来,这哥俩的“内功”高低,很大程度上取决于他们搞到了多少、多好的HBM内存。
三、拆解HBM的两大命门:容量是房子,带宽是门
那为什么偏偏是HBM成了香饽饽?金正浩把它归结为两个核心维度:容量与带宽。
先看容量。现在的AI胃口太大了,从长上下文到多模态,再到未来24小时无休的AI Agent(智能体),它需要记住的东西每年翻一倍,十年就是1000倍。但传统靠缩小晶体管来增加容量的老路,已经撞上了量子力学的南墙,几乎走到头了。唯一的办法,就是像盖楼一样“向上堆叠”。
再看带宽。只有容量大不行,还得传得快。金正浩用了个形象的比喻:“传统内存如果是8车道的高速公路,那HBM就是1024车道,现在已经进化到2048车道,未来还打算修到100万车道。”
这种超宽体高速路,才能喂饱GPU那个无底洞般的胃口。HBM这套组合拳,把容量和速度两块板子都补齐了,自然就成了AI时代的“硬通货”。
四、决战未来:HBF、HBS登场,三星海力士的机会远不止眼前
当然,HBM也不是终点。金正浩在访谈里还勾勒了两个更超前的未来形态。
一个是 HBF(高带宽闪存) 。简单说,就是用堆HBM的方法,去堆NAND闪存。DRAM速度快但贵,容量有天花板;NAND闪存便宜、容量巨大,正好做HBM的“数据仓库”。他的预判很明确:现在是HBM的时代,但十年后,HBF的市场需求将反超HBM。
另一个是大招 HBS(高带宽SRAM) 。这更激进,直接把比DRAM快1000倍的SRAM,用一整张12英寸晶圆做出来,再像HBM那样堆叠个十几层。这相当于在CPU旁边修了个“超级高铁直达的弹药库”,速度、容量全都有了。
而他描述的终极形态,是一栋“100层的3D大楼”:HBM、HBF、HBS各司其职,组成复合体,GPU则在顶楼吹着冷气散热。这听起来有点科幻,但这就是他眼里未来AI计算机不可避免的结局。
不过,实现这个愿景的最大拦路虎,已经不是计算本身,而是供电和散热。未来给这栋“百层大楼”要供应几千安培的电流,如何设计电力网络和散热系统,将成为决定三星、SK海力士、台积电谁能活下去的核心竞争力。
五、身份互换:内存厂商开始给GPU“脸色”看了
这里还有一个至关重要的信号,关乎整个产业链的权力转移。
以前做内存,是标准化产品,厂商先生产出来,等客户来买。客户要得多,内存厂就涨价;客户不买了,库存积压,内存厂就得割肉。这就是著名的“内存周期”,内存厂商永远是被动挨打的角色。
但从HBM4开始,一切都变了。
因为AI芯片架构不同,对HBM的要求也不同,所以进入了“定制化HBM”时代。现在内存厂得先拿到英伟达、谷歌这些大客户的长期订单和设计需求,才肯启动研发和生产。
游戏规则变了,现在是卖方市场。 内存厂商开始掌握定价权,这简直是一场范式革命。
金正浩甚至预言,未来的HBM内部会集成通信功能,几个HBM之间能“自己开会商量”,谁表现好、谁更稳定,就把数据传输给谁,不听话的GPU?那就“断供”,在旁边看着吧。这绝不是开玩笑,而是正在发生的技术趋势。
六、最后的赢家是谁?
聊到最后,金正浩反复强调一点:全世界能同时大规模量产HBM(DRAM)和HBF(NAND)的,只有三星电子和SK海力士。
这两家韩国巨头手里握着通往AI未来的“万能钥匙”。他预测今年这两家的营业利润总和达到500到600万亿韩元,是现实的。
当被问到为何如此笃定时,他说,他和这两家公司的高管经常交流技术,感觉他们的“眼神越来越亮了”。
这个“眼神亮了”非常传神,它描绘的是一种格局打开后的兴奋感。AI这趟快车,虽然英伟达是现在的顶流明星,但手握“内存”这张底牌的玩家,才更像是那个在后台默默数钱、且话语权越来越重的“隐形大Boss”。
那句“AI的本质是内存”,在今天听来,愈发振聋发聩。
热门跟贴