打开网易新闻 查看精彩图片

出品 | 虎嗅科技组

作者 | 王沁

编辑 | 苗正卿

头图 | 视觉中国

据The Information硅谷时间9月16日报道,字节跳动正计划与台积电合作,生产其自主设计的数十万块AI芯片,目标在2026年达到量产。字节在AI大模型基础设施上进一步发力,并试图减少对AI芯片垄断者英伟达的依赖。

对于两者合作造芯的消息,字节跳动在18日向科创板日报否认,称字节跳动在芯片领域确实有一些探索,但还处于初期阶段,主要是围绕推荐、广告等业务的成本优化。

在AI大模型上发力颇多的字节跳动,对AI芯片也一直投入重金。据报道,今年,字节跳动订购了超过 20 万块英伟达H20系列芯片,这是美国出口管制下允许向中国出售的最先进的芯片。该订单价值超过 20 亿美元,仍在等待全额交付。

字节跳动现在绕开英伟达,从台积电订购数十万块自己的训练和推理芯片。据估计,这些内部设计芯片的成本将比从英伟达购买芯片便宜数十亿美元,但这些芯片仍处于设计阶段。

早前,字节就已经在拼命囤芯片。据报道,不算上2023年新增的向英伟达采购的订单,字节此前已经拥有的A100及其前代产品V100芯片总数接近10万块。

即使在美国的出口管制下,A800、H800是作为中国特供的阉割版芯片,国内互联网大厂也不得不争着抢购。

据金融时报报道,2023年百度、字节跳动、腾讯和阿里巴巴向英伟达下达价值 10 亿美元的订单,采购约 10 万颗 A800 芯片。

算力紧张之时,字节跳动内部也得在各部门之间紧着用芯片。去年AI业界“百模大战”、各大厂争先恐后自研大模型,据晚点报道,2023年春节后,字节把一批原计划新增给字节商业化技术团队的 A100 匀给了 TikTok 产品技术负责人朱文佳,而朱文佳是字节大模型研发的负责人。

对于英伟达的垄断,大模型厂商们当然要寻找替代品,包括字节。

字节跳动已经多次爆出开发芯片的传闻。除此次与台积电合作的传闻之外,早前字节就爆出与博通合作的传闻。

今年6月,据媒体援引知情人士报道,字节跳动或与美国芯片设计商博通合作开发一款 AI 芯片,采用台积电 5 纳米工艺,暂未流片(试生产)。但后来字节跳动否认了该传闻。

早在AI大模型2022年底横空出世之前,字节早已开始自主研发芯片的步伐。

据报道,在2022 火山引擎原动力大会”上,字节跳动主管火山引擎的副总裁杨震原披露了字节的芯片自研进展,称自研芯片涉及视频编解码、云端推理加速等场景。

字节自主造芯的团队起步于 2020 下半年,当时字节在内部已组建一个人数精简的团队。当时的芯片主要用于推荐算法和视频处理。

对于AI芯片厂商,在占据大半壁江山的英伟达之外,其他AI芯片厂商也如燎原之势崛起。

不同家AI芯片的技术路径。图片来源:Etched AI
打开网易新闻 查看精彩图片
不同家AI芯片的技术路径。图片来源:Etched AI

AMD的MI300系列芯片紧追英伟达其后,谷歌的TPU芯片专为神经网络设计,Groq的LPU芯片号称解决了计算密度和内存带宽的瓶颈,Cerebras大力出奇迹用整片晶圆造出盘子大的芯片,00后哈佛辍学生创办的Etched AI造出了给Transformer架构专用的芯片......

百花齐放,包抄英伟达。

台积电则是目前先进制程芯片代工的第一选择。台积电几乎全数延揽了高端芯片,尤其AI芯片代工。目前,苹果、高通、AMD、英伟达、联发科、博通等都是台积电的客户。其中,苹果是台积电第一大客户,英伟达今年有望成为台积电第二大客户。

这次字节跳动与台积电合作的是5nm制程芯片,该工艺仅比台积电最尖端的方法落后一代。在AI芯片领域,目前英伟达的A100采用台积电的7nm制程技术,H100采用了台积电最新的4nm工艺制造,这是当前最先进的AI芯片制造工艺。此外,英特尔Gaudi 3 AI芯片采用台积电5nm工艺,韩国AI半导体公司DeepX将与三星的芯片设计公司合作量产5nm的AI芯片。

字节跳动与台积电的合作,符合美国向中国公司的芯片出口限制。合规是字节跳动与台积电合作的前提。但美国政府可能会每年更新这些限制。

据报道,去年台积电总裁魏哲家曾带队来上海和中国大陆客户开闭门会,表示只要不在美国 “实体清单” 上,台积电就可以为其代工。