Featured image of post OpenAI 发布自研 AI 芯片 Jalapeño:推理性能领先英伟达

OpenAI 发布自研 AI 芯片 Jalapeño:推理性能领先英伟达

OpenAI 推出专用推理芯片 Jalapeño,延迟降低 1.7-3.6 倍,单位功耗算力提升 1.5-1.9 倍。

核心事件速览

核心事件速览
核心事件速览|新闻截图

OpenAI 于本周二正式发布自研 AI 芯片 Jalapeño,该芯片专为 AI 推理任务优化。硬信息要点如下:

  • 发布时间:2026 年 8 月 26 日(博客文章发布日)
  • 芯片类型:专用集成电路(ASIC),专为 AI 推理设计
  • 合作方:由 OpenAI 与 Broadcom 联合开发
  • 首次亮相:2026 年 6 月已披露,此次为首次公布基准测试数据
  • 部署计划:2026 年底前小规模部署,2027 年起逐步扩大规模
  • 计算策略:不会完全替代现有芯片 lineup,将持续与英伟达等合作伙伴并行使用

基准测试:性能全面超越英伟达 top chips

基准测试:性能全面超越英伟达 top chips
基准测试:性能全面超越英伟达 top chips|新闻截图

Jalapeño 的表现通过 InferenceX 基准平台验证,对比对象为英伟达 GB200 和 GB300 超级芯片——当前业界领先的推理硬件。测试涵盖三款大模型:GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T。

关键数据呈现显著优势:

  • 能效比:单位功耗完成的 AI 工作量为英伟达系统的 1.5 至 1.9 倍
  • 延迟表现:端到端延迟降低 1.7 至 3.6 倍(即响应速度提升最高达 3.6 倍)

这一结果打破了 AI 系统必须在延迟与吞吐量之间权衡的传统取舍。OpenAI 硬件副总裁 Richard Ho 表示,Jalapeño 实现了"两者兼得"(best of both worlds)——既降低延迟,又保持高吞吐。

值得注意的是,Jalapeño 在推理任务中超越了当前业界最强的英伟达超大规模芯片,这在行业内部颇为反常。过去数年中,NVIDIA 的 H100、B100 乃至 GB200 系列长期主导高性能推理市场,而OpenAI此次选择自研ASIC而非选用现成方案,显示出其对推理环节自主权的战略重视。

Jalapeño 技术定位与部署节奏

Jalapeño 技术定位与部署节奏
Jalapeño 技术定位与部署节奏|新闻截图

Jalapeño 属于 ASIC(专用集成电路),与通用GPU相比,其电路结构针对特定模型推理流程固化优化,因此在能效和延迟上具备天然优势,但灵活性较低。OpenAI 强调,该芯片专用于"推理"环节——即运行已训练好的模型完成任务或部署智能体。

部署安排呈现递进式特征:

  • 2026 年末:小规模部署(“small volumes”)
  • 2027 年:显著扩产(“ramp the volume up”)

尽管未公布具体部署数量,OpenAI 明确表示 jalapeño 不会完全替代现有芯片。Ho 指出,公司整体计算战略依赖"非常优秀的合作伙伴",英伟达仍将是重要算力组成。OpenAI 计划持续推进 Jalapeño 的第二代与第三代研发。

核心性能对比(基于 InferenceX 基准测试)

指标Jalapeño英伟达 GB200 / GB300
能效比(GPT-OSS 120B / DeepSeek R1 / Kimi K2.5 1T)1.5–1.9 倍更高基准
端到端延迟1.7–3.6 倍更低基准
芯片架构ASIC(专用集成电路)GPU 超级芯片

读者落地建议

读者落地建议
读者落地建议|新闻截图

  • 适合立即关注者:云服务商与 AI 应用开发者——Jalapeño 的低延迟特性对需要实时交互的智能体(如客服Agent、游戏NPC)尤为重要;能效提升也关系到长期运营成本。
  • 建议再等等的人:对模型灵活性有强需求的科研机构——作为 ASIC,Jalapeño 无法像 GPU 那样灵活适配各类训练与推理任务;在 2027 年大规模铺开前,生态工具链尚待完善。

写在最后

Jalapeño 标志着大模型公司向上游硬件延伸的决心,但短期内仍将以"混合算力"策略为主——这既是务实之举,也印证了 ASIC 与 GPU 将在未来 AI 基础设施中共存演进。