8月26日,OpenAI正式公布首款自研推理芯片Jalapeño的最新测试结果。在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三个公开模型测试中,Jalapeño在峰值吞吐量下每瓦AI工作量是对比系统的1.5到1.9倍,端到端延迟降低1.7到3.6倍。对比系统为英伟达GB200和GB300。
OpenAI CEO Sam Altman在X平台表示:“我们制造了一款芯片,它的速度很快。”
Jalapeño专为大语言模型推理设计,解决的核心矛盾是传统硬件系统在“更高吞吐量”和“更低延迟”之间难以兼得的难题。据“半导体行业观察”报道,OpenAI芯片负责人Richard Ho在接受采访时称,该芯片的竞争对手是英伟达GB300。“这是一款非常优秀的芯片——它应该能大幅降低成本。”Ho表示,只要产量和成本节约达到预期,公司计划使用自研芯片处理更多AI任务。
性能数据来自SemiAnalysis的公开基准测试工具InferenceX。Jalapeño额定功率700瓦,但测试中持续功耗始终保持在550瓦以下。针对高交互性工作负载,性能提升达2.1到4.1倍。OpenAI在博客中强调,在最大的公开测试模型Kimi K2.5上,Jalapeño每瓦峰值性能比对比系统高出约1.5倍,端到端延迟降低约3.4倍。“这表明随着工作负载规模的扩大和要求的提高,该架构的价值也日益凸显。”
合作方信息同样关键。OpenAI与博通合作开发了Jalapeño处理器。同时,据OpenAI高管Tibo透露,部分系统能力得益于与Cerebras的深度合作及其独特的硬件架构。AI在芯片开发中扮演了直接角色:团队利用Codex和GPT-Astra在两个月内将三个原本不在生产计划中的开源模型实现高性能运行,AI生成的实现比人工专家编写的快1.5到1.8倍。芯片从初始设计到流片仅用9个月。
OpenAI计划年底前开始部署Jalapeño。第二代芯片开发已近尾声,第三代正在成型。但Ho强调,英伟达仍是重要供应商:“英伟达是一个非常好的合作伙伴,我们仍然非常需要英伟达的产品。”
网友对“墨西哥辣椒”这个名字反应热烈。有人调侃:“你打算用辣椒的名字来命名你的芯片吗?迫不及待想体验了。”测试名单中DeepSeek R1和Kimi K2.5的出现也引发关注,有开发者评论:“这似乎是在说,Jalapeño不只是给OpenAI自家模型用的。”
热门跟贴