今年4到8月,全球半导体融资约14.7亿美元,流向最集中的不是训练,是推理硬件。
你可能没听过「推理」这个词,但它正在决定AI的下一轮胜负。以前AI公司砸钱训练大模型,现在钱开始往推理流:AI真正干活时用的芯片。这个转向,比任何发布会都诚实,它说明AI的军备竞赛,正在从「比谁的模型更大」,变成「比谁的电费更省」。
和你有什么关系
如果你觉得「半导体融资」离你很远,想想你每次用AI:问它一个问题、让它写一段话、生成一张图,背后都要烧一次算力。这个成本,就是推理成本。它降下来,你用AI会越来越便宜,直到免费;它降不下来,AI就永远是少数人的工具。所以钱的流向,最终会变成你口袋里的账单。
1
训练是盖楼,推理是电费
先拆一对被搞混的概念:训练和推理。
训练,是让模型变聪明的过程。大模型是怎么来的?喂给它海量数据,用几千块显卡跑几个月,花掉几亿美元。这是一次性投入,像盖一栋楼,盖完就完了,楼就立在那里。
推理,是模型干活的过程。你每次问它一个问题,它都要实时计算一遍,消耗算力。这不是一次性的,是每次都在发生,像电费,天天要交。
关键就在这:训练是一次性的,推理是每天都在烧的。用户越多、用得越勤,推理成本就越高,而且是线性膨胀。有机构估算,像ChatGPT这样的产品,推理成本占运营成本的大头,用户每问一个问题,公司就在替用户付一次「电费」。这也是为什么AI公司一边喊着免费,一边精打细算:免费是获客的手段,成本才是生存的底线。
以前AI公司拼的是训练:谁的模型更大、更聪明,谁就有话语权。但模型能力的增长正在进入边际收益递减:从90分做到95分,付出的成本可能翻倍,收益却很小。而推理成本没有天花板,它跟着用户量走。
所以钱的流向开始掉头:与其继续砸训练,不如把推理成本打下来。因为聪明的上限是有尽头的,成本的下限没有。AI的胜负手,正在从实验室挪到账单上。
再补一组直观的对比:训练一个前沿大模型,单次成本动辄数千万美元,但它是一次性的;而推理成本是按天算的,一款日活千万级的AI产品,每天的推理成本可能就要烧掉数百万美元,一年下来比训练贵得多。这也是为什么行业里流传一句话:训练是门票,推理是运营。门票买一次,运营是天天交。
2
钱流向推理:资本在用脚投票
14.7亿美元,4到8月,流向推理硬件。这个信号比任何发布会都诚实:资本不看好故事,看好生意。
训练是「造神」的故事:烧钱、烧时间,赌一个更大的模型。推理是「卖水」的生意:每次计算都收钱,用户越多,现金流越稳。同样是赚钱,一个靠想象力估值,一个靠流水估值,资本当然知道怎么选。
再看钱去了哪:不只是GPU,还有专门的推理芯片、能效优化、模型压缩技术。这些名字听起来不如「万亿参数大模型」性感,但它们解决的是同一个问题:让一次AI问答的成本,从几毛钱降到几分钱,再降到几厘钱。每一次「降级」,都是市场扩大一级。
这背后是AI的定位在变:从「实验室奇迹」变成「基础设施」。就像电网、水管、高速公路,基础设施的竞争从来不是比谁更酷,是比谁更便宜、更可靠。谁掌握推理成本,谁就掌握AI时代的定价权。
这场竞争里还有一层暗线:巨头之外,一批做推理芯片的创业公司正在冒头。它们不跟巨头抢训练市场的蛋糕,专攻推理场景的性价比,用更低的功耗、更便宜的部署,抢AI落地的单子。大厂拼的是生态,它们拼的是便宜,而「便宜」恰恰是这一轮的主战场。
3
成本击穿,是每场技术普及的同一个剧本
把镜头拉远,看历史:每一次技术普及,本质都是成本被击穿。
手机话费:从每分钟几块钱打到几十块,用户量翻了十倍,移动互联网才真正爆发。云计算:服务器从「买」变成「租」,价格打下来,创业公司才用得起。显卡:玩家嫌贵,矿工和AI公司把价格推上天,最后被新工艺打回平民价。
推理成本正在走同一条路。技术路径也清晰:模型蒸馏,用大模型教小模型,让小模型拥有大模型八成能力、一成成本;量化压缩,把精度换成速度;专用芯片,为推理定制算力,不再让通用显卡干所有活。这些手段的目标只有一个:把单位算力成本往下打。方向明确,剩下的只是时间问题。
当成本低到「免费送你用」都划算,AI的普及才真正开始。赢的从来不是最强的模型,是最便宜的好模型。因为用户用脚投票的标准很简单:好用,还便宜。
再看两个更远的例子:液晶电视刚问世时,一台卖几万元,是奢侈品;现在一台千元出头,家家户户都换过两轮。光伏发电十年前每度电成本是煤电的数倍,如今已经低于煤电,装机量反而爆炸式增长。规律重复出现:价格打到大众能承受的临界点,市场就会自己引爆。AI推理正站在这个临界点前。
4
普通人的AI降价曲线
最后落到你身上:推理成本下降,你正在经历的,是AI的降价曲线。
你用过免费的GPT-6 Luna吗?你见过Anthropic把价格砍掉90%吗?那不是慈善,是推理成本真的被打下来了,降价的空间是算力进步一点一点挤出来的。
类比手机话费:当打电话从「奢侈品」变成「日用品」,用的人多了十倍,行业反而更赚钱。AI正在经历同一条曲线:从「用不起」到「用得起」,从「围观」到「使用」。
对你来说,这条曲线意味着三件事:第一,别急着为AI功能付费,成本还在降,等等更划算;第二,判断一家AI公司能不能活,先看它的成本结构,烧钱补贴撑不了一辈子;第三,AI普及的真正标志,不是它多聪明,是你身边的人都用得起。
还有一个反直觉的提醒:降价未必是亏钱。电费变便宜,用电的人更多,总电费反而涨了。AI也一样,单价降、用量升,行业的盘子只会更大。所以别用「它现在免费」判断AI不赚钱,用「它未来多便宜」判断AI能走多远。
AI真正普及的那天,不是它最聪明的那天,是它最便宜的那天。
5
14.7亿美元流向推理,不是一个行业新闻,是一个时代的转折点:AI的竞争,从「谁能造出更聪明的神」,变成「谁能让神更便宜地为凡人打工」。聪明的上限有尽头,成本的下限没有。看懂钱的流向,你就看懂了AI的下一轮。
*关注一刻 talks,我们不追最贵的模型。我们帮你看清,AI真正改变世界的时刻,是它便宜到你习以为常的那一刻。*
本文章谨为商业研判,不构成任何投资建议
热门跟贴