来源:市场资讯
(来源:点这里关注→刘润)
昨天,我们发了一篇文章,讨论了DeepSeek上市的事情。于是,也有很多读者留言,说最近DeepSeek宣布自研芯片,问我怎么看。
首先,DeepSeek大概率不是要盖晶圆厂,自己造芯片。
它做的,应该更多是芯片设计。因为从目前的报道看,DeepSeek做的,是招聘芯片设计工程师,接触代工、存储等企业。
而且它的目的,可能也和很多人讨论的“把模型做得更强”,不太一样。
因为DeepSeek着手研发的,是推理芯片,不是训练芯片。
都是芯片,为什么要分推理和训练?如果推理芯片没办法让模型更聪明,那采购就好了,为什么要花大力气自己做呢?
这可能因为,大模型的竞争,可能正从“模型能力”走向“使用效率”。而这个变化,也可能会给我们,带来巨大的新机会。
为什么这么说呢?
我们首先从今天的主角,推理芯片,开始讲起。
01
如果说训练是上学,推理就是出来工作
先了解两个不分家的基础概念:训练、推理。
如果把大模型看做一个小伙子,那训练就好比他寒窗苦读10年,学会了一堆知识。推理,就好比他出来工作,用学会的知识解决问题。
训练,是把模型教会。推理,是让模型干活。
DeepSeek之所以这么聪明,是因为在见你之前,工程师们已经用海量的数据,几个月不停的测试调优,陪它“上过学”了。
这个过程中用到的芯片,就是训练芯片。
可光上学也不行,你得上班才能养家糊口。于是,当用户打开对话框,提出问题之后,它就要一个字一个字往外吐答案。
这个过程中,提供实时算力支持的,就是推理芯片。
原来如此。可是,芯片为什么要分训练和推理?
很多大模型,本来就是用同一批GPU训练出来,再继续放在GPU上回答问题。今天很多训练芯片,本来就在跑推理。直接全干了,不是更方便?
问题不是能不能,而是划不划算。
训练和推理芯片,应用的重点其实完全不同。
你做训练的时候,不光要模型给答案,还要能回头,一层层传回错误,修改参数。所以对训练芯片来说,如何保存大量中间结果,让几千张、几万张芯片高速协同,更重要。
可要是做推理呢?模型已经训练好了,它不需要回答一个问题,就学习一遍。你更关心,怎么同时服务更多人,怎么少用一点电。所以,推理芯片需要更快响应,更低成本,却不需要那么高精度。
一颗芯片的面积就那么大,晶体管也就那么多。你把资源拿去支持训练,就不可能把推理效率也做到极致。
就像一辆重型越野车,起步慢,马力大。你说它能不能送外卖?当然可以。但它为了翻山越岭准备的四驱用不上,油耗和成本也高得吓人。
所以,所谓的推理芯片,就是专门为“干活”优化的芯片。它追求的,是模型回答得更快、服务更多人,成本更低。
如果你也关注芯片行业,你大概会知道,最近一段时间,关于推理芯片的新闻,其实并不少。
比如,Google在今年4月发布的TPU芯片V8,就专门分成了两个版本。分别用于推理和训练。前段时间,黄仁勋更是花了约200亿美元,和一家专门做推理的公司Groq,达成深度合作。
有意思。可问题是,推理从来都不是今天才有。ChatGPT、DeepSeek上线第一天,就已经在不停回答用户的问题。
为什么到了今天,似乎有越来越多的人,开始关注推理芯片?
02
大模型的竞争,正在从能力到效率
因为过去最重要的任务,是先把模型训练出来。现在更紧迫的问题,可能是怎么让更多人把模型用起来。
过去几年,大模型行业缺什么?缺足够好用的模型。
模型能不能听懂人话?能不能写代码?能不能把几百页资料读完,再给出分析?这些问题没有解决,速度再快、成本再低,也没意义。所以,大家自然会把主要资源,放在训练上。
但今天,情况似乎已经变化。
DeepSeek、千问,当然还算不上完美。但在写邮件、分析表格、修改代码这些日常任务里,已经跨过了能干活的关键门槛。
你问DeepSeek一个问题,它要推理一次,或者几次。程序员让它修改一段代码,它要推理很多次。公司把它接进客服系统,每天可能要完成几十万次、几百万次推理。
推理需求一旦变多,成本就开始严峻。
用户少的时候,拿训练芯片跑推理,哪怕每次多浪费点电,也没多大关系。可如果每天有几千万人使用,1次推理多花1分钱,也会变成笔巨大的成本。
所以,推理芯片突然变得重要,并不是因为训练不重要了。
恰恰是因为模型训练得越来越好了,开始有越来越多的人愿意使用它。所以,过去可以忍受的浪费,才会变贵。
大模型的竞争,也就从“谁的模型更聪明”,逐渐走向了另一个问题:谁能让这种聪明,被更多人更快、更便宜、更稳定地使用。
能力决定模型能不能上场,效率决定模型能不能普及。
嗯,明白了。
但是,市场上已经有那么多公司在做推理芯片,DeepSeek为什么不直接采购,非要花大力气,自己研发?
03
DeepSeek不是不采购,但不能只靠采购
因为推理芯片,或许正在变成DeepSeek的核心生产工具。
核心生产工具当然可以买,但不能永远只靠买。
为什么?我们算三笔账。
第一笔,是成本账。
自研芯片,是件投入非常大的事情。组建团队、设计、验证、流片,再到量产,每步都要花钱,第一次设计,也未必能成功。
所以,对大多数公司,采购现成芯片才更合理。
如果你的推理量不大,每天只有几万次调用,就算自研芯片能让每次推理便宜一点,也很难把前期巨大的研发投入省回来。
但对DeepSeek来说,这个问题就完全不一样了。
根据数据,DeepSeek的月活已经过亿。它的Token调用量,已经月超17万亿。每天的推理请求,可能要数十亿,甚至更高。
所以,当它自己研发芯片,它就可以把有限的芯片面积和电力,集中到最常进行的计算上。即便一次推理只省一分钱,但发生百亿次,也是几个亿的区别了。
小规模时,自研芯片是负担。大规模时,自研芯片是投资。
但省钱,还只是算今天的账。而模型,却会一直进化。
这就要算第二笔账:进化账。
推理芯片厂商,面对的是整个市场。它的芯片,要服务很多模型、很多客户,不可能只围绕DeepSeek下一代模型的发展方向设计。
但是,模型结构的变化,会不断对芯片提出新的要求。
举个例子。DeepSeek-V3,用了MoE,也就是混合专家架构。所有参数有6000多亿,但处理一个词,只会激活其中大约370亿。可是,哪些数据需要被频繁读取?计算单元和存储之间,怎样配合才能减少等待?
这些问题,在芯片上都有优化空间。
DeepSeek曾发表过相关研究:当模型继续扩大,存储容量、计算效率和芯片互联正在成为瓶颈。所以,以后需要更多硬件协同设计。
采购,是让模型适应芯片。自研,是让模型和芯片一起进化。
明白。可即便如此,DeepSeek也可以和芯片厂商长期合作,让厂商跟着模型迭代,为什么还要亲自下场?
这就是第三笔账:安全账。
只要芯片来自外部,那什么时候推新,什么时候交货,能提供多少产量,最终都不完全由DeepSeek决定。
推理需求不大的时候,交货晚一点,扩容就晚一点,都不算什么大问题。但当几千万人每天都在使用DeepSeek,就不一样了。芯片不够,用户就要等待。交付推迟,新模型的适配也会推迟。
前段时间,就有不少用户反映:融资赶紧到位吧,DeepSeek开始限制重生、修改次数了。还有网友做过统计,2026年,DeepSeek发生了至少18次服务异常,一个可能的原因,就是用户太多,但算力没跟上。
采购,只能解决战术问题。自研,才是战略级的安全阀。
这就是三笔账。
成本账,让它有理由做。进化账,让它有必要自己做。安全账,让它不能只靠别人做。
那这,又会给整个芯片行业,带来什么变化?
04
推理,把一场大战拆成了无数小战场
推理时代,可能给我们打开了一扇机会之窗。
为什么这么说?
因为今天的AI竞争,正在被推理这事,拆成无数小战场。在每个小战场,只要你吃透场景,就都有机会站住脚。
过去十年,芯片的主战场,是训练。
全世界,真正有能力训练大模型的公司,你掰着手指头就能数出来。它们要解决的问题,也很接近:怎么把几万张芯片连接起来,在尽可能短的时间里,把大模型训练出来。
而英伟达,已经把卷子答的非常完整了。
它不只有GPU,还有CUDA软件生态、芯片之间的高速互联,工程师已经使用多年的开发工具。你要换芯片,代码和工程经验,都要重新适配。
可如果说训练只有一张考卷,那推理就有无数道应用题。
你打开DeepSeek问问题,是推理。医院用模型整理病例,也是推理。以后,手机帮你实时翻译,电脑帮你总结文件,同样是推理。
而它们的需求,各自不同。
同样是推理,云端需要高并发,医院需要隐私,机场需要长时间稳定运行,便携设备还要控制体积、功耗和噪音。需求,完全不同。
场景越统一,通用芯片的优势越大。场景越分散,越需要有人进去,理解客户需要什么,再围绕需求设计产品。
前段时间,我就听江源科技的高管,分享了一个具体案例。
政府人员外出工作,需要用AI整理谈话资料。但数据不能上传,装着资料的机器,甚至不能离开人的视线。怎么办?那就把模型和推理芯片,装进一台手提设备里。你甚至,可以拎着它上飞机。
太妙了。
过去提到大模型算力,我们想到的都是一排排服务器,是巨大的数据中心里。但现在,一整套推理算力,已经可以被一个人拎着上飞机。
你说,这台设备需要的,是不是算力最高的芯片?当然不是。它在意的,是能不能全国产,是不是足够安全,能不能放进一个小箱子。
这就是机会所在。
过去,是芯片先定义能力,应用再想办法适配。但推理时代,越来越多的芯片,会从具体问题出发,沿场景反向生长。
这对国产芯片,尤其重要。
因为最懂中国医院、工厂和消费者需求的公司,就在国内。模型公司、应用公司和芯片公司之间,可以离得更近,反馈也可以更快。
推理带给国产芯片的,不只是一条绕开英伟达的捷径。它把一场决出总冠军才算赢的比赛,拆成了无数场规则不同的比赛。
最后的话
AI的上半场,比的是谁能把模型练出来。这个赛道上,玩家掰着手指头就数完了。我们一直在追赶,跌跌撞撞,非常辛苦。
但AI的下半场,比的可能是谁能把模型用好。这个赛道上,中国有一堆天然优势:最多的用户、最丰富的场景、最快的迭代速度……
所以,接下来的竞争,不只是谁能把模型做得更强。还要看谁能让模型更稳定,进入一个个具体场景。
医院需要隐私,机场需要稳定,手机需要低功耗,企业需要本地部署。国产芯片,未必能在所有指标上超过英伟达,但只要真正吃透一个场景,就可能先在这个场景里,成为更合适的选择。
当然,这并不是什么捷径。
芯片设计、软件生态、模型适配,任何一关都不好过。但它至少意味着,国产芯片不必继续在英伟达定义的赛道上,追赶同一个终点。
而这次DeepSeek自研芯片,可能就是一个明确的信号。
观点/ 刘润 主笔/ 景九 版面 / 黄静
热门跟贴