5月的摩根大通全球技术大会,新官上任的英特尔CEO陈立武分享了一点管理心得[1]:芯片只给两次流片机会,超过马上开除。
看似新领导狠抓KPI,实际上是陈总心慈手软。按照IBS估算,5nm制程芯片设计成本已经超过4亿美元,3nm最高接近6亿美元,其中仅流片这道工序,就要消耗1-2亿美元的预算。
对全球90%的芯片公司来说,以自己的财务水平挑战先进制程,流片一次失败停发工资,两次失败公司解散,到时候大家一起完蛋,也不用开除员工了。
2023年,英特尔发布第四代Xeon Scalable处理器,这款芯片原定2021年发布,结果测试阶段问题频发,版本从A0、A1、B0一路干到E5,流片整整12次才成功[3]。
这起事故直接让英特尔把数据中心市场让给了AMD,加上先进制程研发还落后台积电,隔壁黑色皮衣身价屡创新高,临危受命的陈立武力排众议,重拾工程师文化。
英特尔新任CEO陈立武
新官上任三把火,映衬着整个集成电路面前的大坑:居高不下的流片风险。
去年三月,西门子EDA首席验证科学家Harry Foster公布了一组令人揪心的数据[7]:整个半导体行业流片成功率已经进入历史低点,2020年,全新ASIC芯片首次流片成功率已经降到32%,2024年又进一步下滑到14%[7]。
ARM也在招股书中援引IBS的数据,从28nm量产的2011年到如今的2nm,芯片整体设计成本上涨了1500%[5]。
摩尔定律逼近极限,Chiplet、CoWoS封装、混合键合等曲线救国手段层出不穷,共同推高了芯片设计的复杂性,代价是暴增的成本和风险,每个步骤都是一道坎。
怎么避免在流片环节栽跟头,怎么加快研发效率,产业界摸索出了两个方向:云和AI。
云计算、移动终端和AI是过去二十年最重要的三次技术浪潮,它们都由繁荣的芯片产业孕育。如今,云和AI又在改变芯片的未来。
01.没那么快
芯片是一个非常适合云计算的产业,也曾经是对上云最抵触的行业。
过去十多年里,芯片公司一直在试图解决流片这个大坑。流片的特点是容错率为零,只有完美和完蛋两种结果,一处细节出问题,整块晶圆报废。
芯片公司都有既定的产品路线图,下游客户也要按时拿到芯片指引产品开发,流片失败,上下游的节奏都会被打乱。一直以来,行业通行的解决方案是EDA仿真。
所谓EDA仿真,就是把设计图纸送到晶圆厂流片之前,先在模拟的生产环境里测试,提前找出问题,提高流片成功率。这个步骤有多重要?芯片设计中60%的时间,都用在了仿真与验证环节。
EDA仿真确实省下了流片失败的钱,但省下来的钱全都花在了算力上。
EDA仿真的算力消耗极大,但又不是常态化的消耗。芯片设计公司的算力需求有明显的波峰波谷。先进制程设计中,写代码搞设计图,四五千核就够用;后期回归测试阶段,需求通常会暴增至数十万核。
2024年,内存大厂美光做客EDA企业Cadence,分享了一组数据:EDA仿真任务一次需要几千颗CPU核心,但每次只运行几周,之后就是4-6个月的算力闲置。
按平均需求储备算力,EDA仿真阶段一定捉襟见肘;倘若按峰值需求配置,算力又会闲置吃灰,横竖都是自己亏。因此,芯片算得上为云计算公司量身打造的客户。
算力需求的波峰波谷,图片来源:Cadence
不仅云计算公司虎视眈眈,EDA公司也频频给自己的客户做思想工作。早在2017年,三大EDA厂商Synopsys、Cadence、Mentor就为上云奔走呼喊,推行云原生EDA,提供弹性的云端License计费。
与此同时,亚马逊、微软、谷歌三大云服务厂商也对芯片公司虎视眈眈,积累了一些落地方案。但行业整体的上云进度,依然不甚乐观。哪怕两三年前,跟芯片公司谈上云这件事,后者的反应大概率是“大可不必”。
2020年,Cadence发布了一份名为《云:EDA的未来》的白皮书,号召客户上云之余,也道出了行业对云服务爱恨交织的关键原因:客户担心自己“独特且关键的IP”搬到公有云上,带来安全问题。
02.安全是件大事
专利和技术文档是芯片公司的命根子,RTL代码、芯片网表、工艺设计套件和IP一旦泄露,相当于几年研发成果拱手让人。英伟达、三星、AMD这些巨头都经历技术外泄,打官司是家常便饭。
因此在很多芯片公司老板们心目中,最安全的方法就是把机房放在公司楼下,服务器和网线近在咫尺。门上挂一把大铁锁,钥匙放在枕头下面。
火山引擎半导体行业解决方案负责人袁宝勋谈到:芯片行业对于云和AI的使用上非常谨慎,因为有一系列的安全阻碍或者安全考量,芯片数据有天然的专业性、稀缺性和私有性。
即便有心上云的芯片公司,也会因为芯片行业的特殊性,客观上成为难伺候的甲方。
EDA仿真阶段会同时运行大量相互独立的测试任务,设计修改一次,测试集就要重新跑一遍,这就需要足够多的CPU同时参与调度。这个过程中产生的巨量小文件,对云服务的存储容量、IO性能提出了极端要求。
可以说,能啃下芯片公司的订单,是云计算公司自身实力最直观的体现。
今年6月,云与AI服务商火山引擎与安谋科技达成合作,双方仅前期沟通、协调和测试,就花了近半年时间。火山引擎是最早涉足芯片行业的厂商之一,需要一个有说服力的标杆案例。安谋科技主攻芯片IP设计,有大量EDA仿真场景,对数据安全的要求是行业之最,极富挑战性。
想在数学考试拿高分,就必须做出最后一道大题。在与安谋的合作中,火山引擎设计了一套“存算分离”方案:
核心IP与设计源文件放在安谋科技本地存储,云端算力基于裸金属机器部署,专机专用。数据在云端只用来计算,满足算力调用的同时,避免核心数据泄露。
安谋科技有自己的本地算力资源,火山引擎还需要打通云端算力与安谋科技本地的系统,统一调度。研发任务提交后,优先使用本地算力,算力不足时调度云上算力。
为了解决行业内极致的小文件与元数据性能问题,火山引擎提供了NetApp云上托管存储服务。
NetApp是一家专做半导体行业数据存储的公司,目前在国内主流公有云服务商中,只有火山引擎提供这一服务。
目前,安谋云端峰值算力扩展至8万多核,临时新增约2万核新机型需求时,两个月的线下采购时间在云端可以压缩到3天。
芯片是云计算产业的基石,云计算公司也是芯片的最大买家。时过境迁,曾经的甲方摇身一变,又开始推动芯片的增长。
03.安全重要,时间更重要
安谋科技位于半导体产业链的最上游,选择上云的动机之一,就是自有机房在峰值阶段,已经难以覆盖公司的算力需求。
芯片是个非常强调时间窗口的行业,芯片的研发周期与晶圆厂的流片/回片、产能安排紧密绑定,流片和量产的节奏又直接关系到下游客户的产品交付,牵一发动全身。
2024年,英伟达在Blackwell GPU里上马先进封装,成功拉低良率,产品出货延后了半年。眼瞅着下游客户拿不到货,应收账款不断积压,黄仁勋应该比谁都着急。
2024年,英伟达发布Blackwell GPU
如果身处半导体产业,会发现在今年芯片公司对云的态度明显来了个180度大转弯,完整参与了安谋以及众多半导体芯片公司与火山合作交付流程的袁宝勋道出了原因所在:
在今年芯片产业链的大周期里面,供应链的持续紧张让越来越多的芯片公司,在考虑如何把固定的CapEx算力投资转为弹性可调度的 OpEx,同时争分夺秒,用庞大的算力加速产品的上市周期。
人工智能叠加半导体的超级周期,催生了让人望而生畏的市场需求。怎么加快研发进度,让产品快速上市,是萦绕在每一个芯片公司CEO脑海中的头等大事。
举例来说,A公司用云计算压缩了研发时间,B公司为了加速产品上市,也会被“倒逼”。如果产品无法应对市场竞争,安全就是一句空谈,研发拖沓带来的损失,远远超过对安全的顾虑。
因此在上云这件事上,芯片公司的首要诉求从“节约成本”变成了“提高效率”,由此衍生出两个新命题。
一是Cloud forIC:即如何用算力换时间。半导体超级周期之下,“机房+大铁锁”派的老师傅们已然纷纷动摇,开始在上云浪潮里尝试一个疗程。
EDA仿真阶段,研发团队手里的算力越多,测试的效率就越高。越早发现问题并解决,就能越快流片投入量产。金钱买不到的时间,算力真的可以换来。
与安谋科技合作落地后,火山引擎的混合云方案又进入了GPU设计公司沐曦股份的开发流程,提前锁定流片前的算力资源,节约宝贵的研发资金。
二是AI forIC:即怎样让AI融入越来越复杂的芯片设计流程。
袁宝勋谈到了一个很现实的问题:芯片设计的复杂度不断上升,有先进制程,有先进封装,算力需求带来复杂度指数级上升,组织和人才依然在线性扩张,边际收益不断趋于平缓。
芯片逻辑设计的实质是写代码,除了需要遵循芯片时钟设计、考虑芯片的物理实现外,与软件代码工作并无太大不同。而编程恰恰是当下人工智能渗透速度最快,商业价值最高的领域。
在与天数智芯的合作中,火山引擎将TRAE一站式AI开发平台嵌入芯片软件研发流程,通过SOLO模式与行业Skill集成,覆盖代码理解、生成与优化等环节,大幅提升了研发效率。
基于这种合作,Coding等AI能力逐步渗透进芯片软件研发流程,用指数级的手段解决指数级的问题,大大提高了研发效率。
与此同时,火山引擎也在提高面向芯片研发的数据合规与安全能力,让芯片公司既能够享受SOTA模型能力,又能够兼顾数据和安全的合规要求。
在国内云计算厂商里,火山引擎是过去几年在半导体行业落地相对更快、案例也更密集的一家。除了熨平算力波动的Cloud for IC场景,火山引擎在AI Coding为代表的AI for IC领域,也在频繁落地。
按照袁宝勋的判断,从硬件研发还是软件研发,再到生产工艺、制造、封装、测试,这些场景会随着模型能力的提升,一个一个被解锁。超级周期里,芯片被拽进了人工智能时代。
市场不会说谎,“云”已经是半导体产业前赴后继的当下,“AI”是他们注定融入的未来,后摩尔定律的时代,新的变革正在发生。
04.变革将至
作为火山引擎总裁,谭待有一种非常强烈的感受:过去几年,AI最耀眼的故事在芯片下游,但今天,故事正向上游延伸。作为上游的芯片是云计算产业的基石,如今,云计算又开始改变芯片。
2017年至今,英伟达游戏业务年收入从40亿美元增长到113亿美元,数据中心业务从8.3亿美元暴增到1150亿美元。即便如此,英伟达GPU依然供应紧张。
从黄仁勋手指缝漏出来的份额,也足够养活大批芯片公司了。目前,AI芯片只占全球芯片产量大盘的0.2%,却拿走了全行业50%的收入。任何人都能意识到,这是多么大的市场空间。
也就是说,席卷半导体产业的人工智能浪潮,把本就壮观的市场规模又扩大了几十上百倍。
淘金客正在你追我赶。MarketsandMarkets预计[11],光是数据中心加速器市场,到2030年就会增长到3727亿美元,只切下10%的份额,也是一个接近400亿美元营收的大生意。
技术催生新的市场,市场又会反过来推动新的技术。当云计算从芯片的甲方变成乙方,云和AI,也在成为半导体公司新的生产力来源。
谭待提出了一个超前的判断:AI会一定程度改变半导体产业的商业模式。
目前在芯片设计语境下,用AI写RTL、补testbench、出Tcl这些生成动作,已经在随AI能力提升而加速,半导体工程师的精力从而解放,用在价值更高的“判断”上:
“能编译不等于功能正确,功能正确不等于形式等价,形式等价不等于可综合、PPA达标。知道该把标准卡到哪一层,这种判断沉淀在工程师几十年的经验里,在AI时代更加有价值。”
当一个Agent能顶上工程师的部分产能,半导体行业通行多年的按license/席位的商业模式,很可能会走向按产出/等效人力。
行业未来呈现何种面貌,上下游都在探索。目前,国内主流的芯片设计公司如天数智芯、华勤技术、沐曦股份等企业,都已经“落户”火山引擎,上了IC上云这条船。
不出意外,中国大陆会是最大的增量市场。去年,国内芯片设计公司共计3800多家,增速全球最高。
今年是中国芯片行业的大年,芯片公司排队IPO,大量芯片步入流片量产阶段。无论是对关键技术环节的攻坚,还是市场化的竞争,都将进入关键阶段。
晶体管和集成电路塑造了现代社会,“计算”则是全世界的刚需。摩尔定律气喘吁吁的时代,云计算正在探索着与“计算”有关的新的可能。
全文完,感谢您的耐心阅读。
参考资料
[1] Intel Corporation (INTC) Presents at J.P. Morgan 54th Annual Global Technology, Media and Communications Conference Transcript
[2] Building Intel: Pat Gelsinger on Engineering the AI Era, Apple Podcasts
[3] Intel's Sapphire Rapids Had 500 Bugs, Launch Window Moves Further, Tom's Hardware
[4] 英特尔财报
[5] 刚刚,4500亿芯片巨无霸上市!今年最大IPO诞生,芯东西
[6] Cloud—The Future of Electronic Design Automation, Cadence
[7] First-Time Silicon Success Plummets, semiengineering
[8] Intel, AMD notify customers in China of lengthy waits for CPUs, Reuters
[9] Battle for the AI Data Center: Deep Dive on the Semiconductor Supercycle with Stacy Rasgon, Apple Podcasts
[10] Automotive semiconductors for the autonomous age, McKinsey & Company
[11] Data Center Accelerator Market Industry worth $372.68 billion by 2030, MarketsandMarkets
作者:任彤瑶
编辑:李墨天
责任编辑:李墨天
热门跟贴