芯片正式亮相:发布时间、参数与可用时间一览
2026 年 8 月 25 日,OpenAI 在 Hot Chips 大会上首次公开其首款自研推理芯片 Jalapeño 的第三方见证跑分。核心硬信息如下:
- 发布时间:2026 年 8 月 25 日(Hot Chips 大会)
- 合作方:OpenAI 主导架构设计,博通参与实现、网络和连接,Celestica 负责板卡与机架集成
- 额定功耗:700W
- 内存配置:搭载 HBM4,单封装内存带宽约 15.4TB/s
- 算力规格:B0 版 MXFP4 理论算力为 13.4 PFLOPS
- 工艺版本:A0 工程芯片已用于跑分;B0 版本已进入台积电 N3P 工艺制造阶段
- 部署计划:2026 年底以极小规模部署,真正上量要等到 2027 年
- 测试模型:GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款公开大模型
跑分表现:能效翻倍,低延迟场景优势更突出
Jalapeño 在 SemiAnalysis 的 InferenceX 基准测试中与英伟达 Blackwell 系统(GB300)对测,结果如下:
- 每千瓦吞吐量:三款模型上达到英伟达系统的 1.5 至 1.9 倍,即同等电量下多干近一倍的活
- 低延迟表现:跑 DeepSeek R1 时,单用户生成速度最高约 700 token/s,而英伟达 GB300 仅约 169 token/s,快近 5 倍,用户等待时间缩短约四分之三
- 单用户峰值生成速度(GPT-OSS 120B):Jalapeño 每秒 1459 token,英伟达 535 token
- 万亿参数模型延迟优化:Kimi K2.5 上最低延迟 1.56 秒,英伟达为 5.31 秒
最意外的反差数据出现在固定速度场景:当服务质量固定在每用户 100 token/s 时,Jalapeño 运行 Kimi K2.5 的吞吐量达英伟达 GB300 的 9 倍以上,意味着同等服务等级下可承载 9 倍用户量。这突显了芯片架构对实际业务容量的巨大影响。
设计哲学:让数据不挪窝,专为模型流量变化而生
Jalapeño 的核心设计理念是减少数据搬运——业内共识是「计算几乎免费,但搬运数据才贵」。其关键架构选择包括:
- 存算分区设计:将计算核心与 HBM4 内存切成匹配切片,实现低延迟直达通道,避免频繁从公共内存仓库取数
- 统一加速器架构:Prefill(处理输入)与 decode(逐词生成)由同一颗加速器完成,而非像英伟达 Rubin 方案那样拆给 CPX 专用芯片。理由是真实流量比例会随应用类型(聊天、推理、Agent)持续变化,固定分工容易导致资源闲置
- 内存带宽优化:单封装 15.4TB/s 带宽确保本地数据池足够大、调用足够快
值得注意的是,Jalapeño 从初始设计到完成流片仅耗时 9 个月,远低于 ASIC 芯片常规的 18–24 个月周期。据介绍,在 GPT-OSS 的部分 attention 和 MoE 模块中,AI 生成的 kernel 比此前人工专家编写的版本快 1.5–1.8 倍;OpenAI 借助 Codex 和 GPT-Astra,只用了约两个月完成对 DeepSeek R1 和 Kimi K2.5 的移植和优化。
芯片对比表(基于公开跑分)
| 指标 | Jalapeño | 英伟达 GB300 | 优势倍数 |
|---|---|---|---|
| DeepSeek R1 单用户生成速度 | ~700 token/s | ~169 token/s | 4.9x |
| GPT-OSS 120B 每千瓦吞吐 | ~8.54 万 token/s | ~4.5 万 token/s | 1.9x |
| GPT-OSS 120B 单用户峰值 | 1459 token/s | 535 token/s | 2.73x |
| Kimi K2.5 最低延迟 | 1.56 秒 | 5.31 秒 | 3.4x |
| Kimi K2.5 固定速率吞吐(100 token/s/用户) | 1 单位 | ~0.11 单位 | >9x |
适用建议
- 适合谁用:对推理成本极度敏感的大模型服务商;需要同时支持多种架构模型(包括非自家模型如 DeepSeek、Kimi)且追求单位功耗吞吐量的云服务商;计划自建推理基础设施、且能接受 2027 年起量的早期采用者
- 建议再等等:当前跑分均为约 8k 输入、1k 输出的单轮推理场景,缺乏多轮交互、长上下文 Agent 任务实测数据;若业务重度依赖复杂路由与前缀缓存,建议等待实际生产环境验证;对低延迟要求不苛刻、更看重现有生态兼容性的企业可继续观望 GB300 生态的成熟度
写在最后
Jalapeño 背后的「为模型造芯片」范式,标志着算力竞争从通用芯片适配模型,转向芯片与模型协同演进。苹果、英伟达、OpenAI 在 48 小时内密集发布或公布芯片进展,分别押注「端侧制程」「通用系统」「垂直专用」三条技术路径,AI 时代的芯片定价权正在多元化博弈中重构。




