Featured image of post OpenAI 首款芯片 Jalapeño 跑分公布:能效与低延迟表现领先英伟达 Blackwell

OpenAI 首款芯片 Jalapeño 跑分公布:能效与低延迟表现领先英伟达 Blackwell

Jalapeño 跑分公布,能效与低延迟表现领先 GB300

芯片正式亮相:发布时间、参数与可用时间一览

芯片正式亮相:发布时间、参数与可用时间一览
芯片正式亮相:发布时间、参数与可用时间一览|新闻截图

2026 年 8 月 25 日,OpenAI 在 Hot Chips 大会上首次公开其首款自研推理芯片 Jalapeño 的第三方见证跑分。核心硬信息如下:

  • 发布时间:2026 年 8 月 25 日(Hot Chips 大会)
  • 合作方:OpenAI 主导架构设计,博通参与实现、网络和连接,Celestica 负责板卡与机架集成
  • 额定功耗:700W
  • 内存配置:搭载 HBM4,单封装内存带宽约 15.4TB/s
  • 算力规格:B0 版 MXFP4 理论算力为 13.4 PFLOPS
  • 工艺版本:A0 工程芯片已用于跑分;B0 版本已进入台积电 N3P 工艺制造阶段
  • 部署计划:2026 年底以极小规模部署,真正上量要等到 2027 年
  • 测试模型:GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款公开大模型

跑分表现:能效翻倍,低延迟场景优势更突出

跑分表现:能效翻倍,低延迟场景优势更突出
跑分表现:能效翻倍,低延迟场景优势更突出|新闻截图

Jalapeño 在 SemiAnalysis 的 InferenceX 基准测试中与英伟达 Blackwell 系统(GB300)对测,结果如下:

  • 每千瓦吞吐量:三款模型上达到英伟达系统的 1.5 至 1.9 倍,即同等电量下多干近一倍的活
  • 低延迟表现:跑 DeepSeek R1 时,单用户生成速度最高约 700 token/s,而英伟达 GB300 仅约 169 token/s,快近 5 倍,用户等待时间缩短约四分之三
  • 单用户峰值生成速度(GPT-OSS 120B):Jalapeño 每秒 1459 token,英伟达 535 token
  • 万亿参数模型延迟优化:Kimi K2.5 上最低延迟 1.56 秒,英伟达为 5.31 秒

最意外的反差数据出现在固定速度场景:当服务质量固定在每用户 100 token/s 时,Jalapeño 运行 Kimi K2.5 的吞吐量达英伟达 GB300 的 9 倍以上,意味着同等服务等级下可承载 9 倍用户量。这突显了芯片架构对实际业务容量的巨大影响。

设计哲学:让数据不挪窝,专为模型流量变化而生

Jalapeño 的核心设计理念是减少数据搬运——业内共识是「计算几乎免费,但搬运数据才贵」。其关键架构选择包括:

  • 存算分区设计:将计算核心与 HBM4 内存切成匹配切片,实现低延迟直达通道,避免频繁从公共内存仓库取数
  • 统一加速器架构:Prefill(处理输入)与 decode(逐词生成)由同一颗加速器完成,而非像英伟达 Rubin 方案那样拆给 CPX 专用芯片。理由是真实流量比例会随应用类型(聊天、推理、Agent)持续变化,固定分工容易导致资源闲置
  • 内存带宽优化:单封装 15.4TB/s 带宽确保本地数据池足够大、调用足够快

值得注意的是,Jalapeño 从初始设计到完成流片仅耗时 9 个月,远低于 ASIC 芯片常规的 18–24 个月周期。据介绍,在 GPT-OSS 的部分 attention 和 MoE 模块中,AI 生成的 kernel 比此前人工专家编写的版本快 1.5–1.8 倍;OpenAI 借助 Codex 和 GPT-Astra,只用了约两个月完成对 DeepSeek R1 和 Kimi K2.5 的移植和优化。

芯片对比表(基于公开跑分)

芯片对比表(基于公开跑分)
芯片对比表(基于公开跑分)|新闻截图

指标Jalapeño英伟达 GB300优势倍数
DeepSeek R1 单用户生成速度~700 token/s~169 token/s4.9x
GPT-OSS 120B 每千瓦吞吐~8.54 万 token/s~4.5 万 token/s1.9x
GPT-OSS 120B 单用户峰值1459 token/s535 token/s2.73x
Kimi K2.5 最低延迟1.56 秒5.31 秒3.4x
Kimi K2.5 固定速率吞吐(100 token/s/用户)1 单位~0.11 单位>9x

适用建议

适用建议
适用建议|新闻截图

  • 适合谁用:对推理成本极度敏感的大模型服务商;需要同时支持多种架构模型(包括非自家模型如 DeepSeek、Kimi)且追求单位功耗吞吐量的云服务商;计划自建推理基础设施、且能接受 2027 年起量的早期采用者
  • 建议再等等:当前跑分均为约 8k 输入、1k 输出的单轮推理场景,缺乏多轮交互、长上下文 Agent 任务实测数据;若业务重度依赖复杂路由与前缀缓存,建议等待实际生产环境验证;对低延迟要求不苛刻、更看重现有生态兼容性的企业可继续观望 GB300 生态的成熟度

写在最后

Jalapeño 背后的「为模型造芯片」范式,标志着算力竞争从通用芯片适配模型,转向芯片与模型协同演进。苹果、英伟达、OpenAI 在 48 小时内密集发布或公布芯片进展,分别押注「端侧制程」「通用系统」「垂直专用」三条技术路径,AI 时代的芯片定价权正在多元化博弈中重构。