大模型公司都开始盯上芯片了!继昨天DeepSeek被传自研AI芯片之后,今天智谱也被曝下场搞芯片了。
核心原因①
模型推理太贵了
过去大家更关心训练,谁有更多 GPU,谁能把模型做得更大、更强。但训练只是周期性的,推理才是永恒,只要你模型服务还挺着、API接口还开着,这波消耗就没完没了。推理压力大到什么程度呢?模型厂商不得不用价格策略逼着用户昼伏夜出。比如,DeepSeek推出峰谷价格,高峰时段贵一倍
核心原因②
不想被芯片厂拿捏
老黄的GPU很强,软件也成熟,但成本、供应链很容易被锁死。对中国公司来说,还有出口管制这层不确定性。DeepSeek被曝做芯片,核心背景之一就是希望减少对芯片原厂的依赖。A社一边用AWS Trainium,一边用Google TPU,一边继续用黄记GPU,说明它也不想把全部命运压在单一供应商身上。
核心原因③
按自家推理负载定制
通用GPU未必最适合每家模型公司的具体负载。大模型推理现在越来越复杂,MoE、长上下文、多模态、智能体调用、KV Cache、低精度计算、批处理调度,全都在改变硬件需求。很多时候,瓶颈并不只在算力,还在显存、带宽、缓存和数据搬运逻辑。头部公司有足够大的请求量,也有足够稳定的负载形态,它们自然会有这样的内心戏:能不能把芯片设计得更贴合自己的模型?哪怕每token只便宜一点,放到海量调用里,都是一笔很大的钱。但具体的操作上,做芯片,不等于亲自造芯片,大模型公司都心里门清,各有各的道儿↓第一种是OpenAI路线:找博通这类芯片设计伙伴,做面向自家推理系统的定制芯片。第二种是A社路线:继续使用黄记,同时深度绑定AWS Trainium、Google TPU,并评估自有芯片可能性。第三种是 Google、Amazon、Microsoft、Meta路线:云厂和平台公司自己做芯片,用内部业务和云服务消化规模。第四种是中国大厂路线:阿里、百度这类公司同时有云、大模型、芯片团队,做全栈协同。第五种是创业公司路线:DeepSeek、智谱、Mistral 这类公司先评估、接触合作方,再决定要不要真正投入。虽然大家都叫“自研芯片”,实际难度、投入和确定性差别很大。真正的变化在于,大模型竞争正在变重。头部大模型公司已经开始把芯片当成长期成本控制工具、供应安全工具和系统优化工具。光会训练模型不够了,还要会把模型便宜、稳定、可控地跑起来。不想做芯片的大模型公司不是好卷王!
热门跟贴