根据 The Information 最新报道, 字节跳动 与台积电合作,计划在 2026 年量产其设计等两款芯片,从而减少对英伟达的依赖。
今年以来,字节跳动已经订购了超过 20 万块英伟达 H20 芯片,价值超 20 亿美元,但仍在等待全部交货。
H20 性能是H100 的 1/4,由于美国出口限制,国内厂商需要购买更多 H20 来实现同等算力的单个集群,这无疑增加了成本。
根据最新计划,字节跳动将从台积电订购数十万其设计的训练与推理芯片,希望其自有芯片驱动的集群能够以同等成本实现单个 H100 的四倍计算性能,从而节省数十亿美元的开支。
今年 6 月,路透社就曾传出字节跳动当时与博通合作开发5 nm定制 ASIC芯片,并交由台积电代工,仅比台积电最先进的 3 nm 工艺落后一代,与英伟达在 3 月份宣布的新一代 Blackwell 架构芯片相同。
目前,ASIC 芯片开发具有这些优点:
优化性能:专门针对设定的任务进行定制,提供更高的效率(即 LLM 推理;新闻推送) ;
降低成本:避免使用第三方硬件,从而降低运营成本;
能源效率:定制 ASIC 消耗的电量更少,这对于大型数据中心来说非常重要;
增强的安全性:直接控制硬件可增强数据安全性和隐私性;
当然,ASIC 芯片也具有不少缺点,例如前期在设计和制造方面需要投入大量资金,从设计到部署需要较长时间;此外,快速的技术迭代容易造成 ASIC 芯片过时。
早在 2022 年,博通便成为了字节跳动的商业伙伴,其公开表示字节跳动购买了其 5nm 高性能交换机芯片以及用于 AI 计算机集群的 Bailly 交换机,定制 ASIC 芯片将帮助平台更好地处理密集型视频任务,优化用户体验与运营效率。
热门跟贴