用AI造的芯片，能有多强？
当地时间8月25日，OpenAI首款自研AI推理芯片Jalapeño（墨西哥辣椒）正式公开了完整的实测性能数据。
这款OpenAI与博通联合打造、仅用16个月就完成立项到流片的芯片，在多类主流大模型推理场景中，综合能效、延迟、吞吐量等参数全面超越英伟达旗下的旗舰款芯片，可谓开局即是巅峰。
其实在两个月前，博通CEO陈福阳就已经透露Jalapeño的性能可与英伟达最新的Blackwell芯片相媲美，而这次为了进一步获取Jalapeño 的实际性能，OpenAI 使用 SemiAnalysis 的公开基准测试工具 InferenceX 对其进行了测试。
SemiAnalysis在文档中直接表示：“在我们测试过的所有英伟达、AMD 和Google芯片上，OpenAI 在多个顶级开源模型上的表现都优于它们。”
Jalapeño最成功的优势，是极致的能效比，用AI调教出来的芯片，完美平衡了吞吐与延迟两个方向。
不同于传统AI芯片难以兼顾高吞吐量与低延迟的短板，这款芯片聚焦大模型推理场景深耕优化，额定功耗仅700W，实测持续运行功耗低至550W，不足英伟达GB300 1400W额定功耗的一半。
在台积电N3P先进工艺与HBM 4高带宽内存的加持下，Jalapeño的内存带宽达15.4TB/s，是GB300的近两倍，足以为高速推理提供硬件支撑。
根据InferenceX的数据显示，在GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T三款主流大模型中，Jalapeño每瓦AI吞吐量是英伟达旗舰芯片的1.5至1.9倍，端到端延迟降低1.7至3.6倍。相同情况下，其每千瓦吞吐量最高可达GB300的104倍；单用户推理峰值速度达1459 token/s，远超GB200的535 token/s，完美适配高交互、低延迟的AI对话场景。
除了在数值上做到平衡以外，AI还在架构的设计上带来一种极简的方案。
针对大模型推理会遇到的一些痛点，OpenAI放弃了过去行业主流的分池部署模式，采用统一算力池架构。简单来说，芯片的核心与内存被切分为一一对应的独立切片，各核心可以直接低延迟访问本地内存，缓存与模型也能就地存储，这样就能拿大幅减少跨区域数据搬运的功耗与延迟。同时，芯片搭载了专用的高带宽同步网络与简化片上网络，规避了传统GPU复杂内存层级的冗余，让硬件的性能无限地贴近理论上限。
值得一提的是，外界此前普遍认为Jalapeño是OpenAI的专属定制芯片，实则这款芯片具备全场景通用推理能力，适配性远超行业预期。
此次测试的核心模型中，DeepSeek R1、Kimi K2.5均为第三方开源模型，OpenAI团队仅依托自研Codex工具，耗时两个月就完成模型移植与高性能优化。另外该芯片可快速适配游戏，通过Codex提示词就能移植运行经典游戏。
作为造芯的“外行”，OpenAI用“AI设计AI芯片”，仅用时9个月开创了自研芯片的全新模式。过去，芯片研发依赖数十年的工程经验积累，门槛极高，而OpenAI依托AI辅助设计与自动适配能力，快速完成了芯片迭代与模型适配，让行业看到“AI造芯”的巨大潜力。
目前，Jalapeño仍为工程样品阶段，按照规划，该芯片将于2026年底逐步落地OpenAI自有算力集群，后续芯片已启动研发。
记得星标微信公众号：镁客网（im2maker），更多干货在等你
热门跟贴