来源:市场资讯

(来源:快科技)

快科技8月26日消息,OpenAI当地时间8月25日公布了首款自研AI推理芯片Jalapeño的性能测试数据。这款芯片由OpenAI与博通(Broadcom)合作开发、台积电采用3nm制程代工制造,从架构设计到流片仅耗时9个月。

打开网易新闻 查看精彩图片

该芯片采用systolic array脉动阵列架构,配备HBM高带宽内存,专为大语言模型推理场景设计,不用于模型训练。

在SemiAnalysis的InferenceX基准测试中,Jalapeño与英伟达GB200、GB300系统进行了对比实测,覆盖GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款模型。

结果显示,其每瓦完成的AI吞吐量达到对比系统的1.5至1.9倍,端到端延迟仅约对方的28%至59%。

打开网易新闻 查看精彩图片

具体来看,DeepSeek R1上每瓦性能比GB300高约1.7倍,Kimi K2.5上高约1.5倍,跑GPT-OSS 120B时每千瓦峰值吞吐更比GB200高出约1.9倍。

该芯片额定功率700瓦,但测试工作负载期间持续功耗保持在550瓦或以下。

该芯片及配套服务器系统均不对外销售,仅供OpenAI内部使用,旨在降低自身GPU采购和算力运营成本。OpenAI计划2026年年底前小规模部署Jalapeño,2027年逐步扩大部署规模。

针对外界关于自研芯片是否会取代英伟达合作的猜测,OpenAI明确回应,自研芯片并非要取代英伟达,英伟达仍是重要合作伙伴,未来将持续采用多供应商策略。

该项目由前Google Cloud TPU核心工程师、OpenAI硬件负责人Richard Ho挂帅,OpenAI自家的大模型深度参与了芯片设计流程,帮助加速设计优化。

目前第二代Jalapeño芯片已进入后期开发阶段,预计未来数月内完成流片,第三代芯片也已启动概念设计。

打开网易新闻 查看精彩图片