芯片发布与核心参数

OpenAI在8月25日的Hot Chips大会上公布了首款推理芯片Jalapeño的第一份公开跑分。该芯片由OpenAI主导架构设计，博通参与实现、网络和连接，Celestica负责板卡与机架集成。

核心事实要点如下：

• 公开跑分时间：8月25日，Hot Chips大会
• 测试版本：A0版工程芯片已用于公开跑分，B0版已进入台积电N3P工艺制造阶段
• 额定功耗：700W
• 内存配置：搭载HBM4，单封装内存带宽约15.4TB/s
• 理论算力：B0版MXFP4理论算力为13.4 PFLOPS
• 部署计划：2026年底以极小规模部署，真正上量要等到2027年
• 开发周期：从初始设计到完成流片约9个月

性能对决：Jalapeño挑战英伟达GB300

在SemiAnalysis的InferenceX基准测试中，OpenAI用GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款公开大模型与英伟达系统对测。结果显示，Jalapeño在「每用户token数」和「每千瓦吞吐量」两项指标上超过英伟达Blackwell系统。

• 峰值每瓦吞吐量：三款模型上，Jalapeño是英伟达系统的1.5至1.9倍
• 低延迟场景：运行DeepSeek R1时，Jalapeño单用户生成速度最高约700 token/s，英伟达GB300约169 token/s，前者约为后者4.9倍
• Kimi K2.5延迟：在万亿参数Kimi K2.5上，Jalapeño从提问到答完的最低延迟为1.56秒，英伟达GB300为5.31秒
• 固定服务质量下的吞吐：当交互速度固定在100 token/s/用户时，Jalapeño在Kimi K2.5上的吞吐量是英伟达GB300的9倍以上

一个关键架构差异在于，Jalapeño让prefill和decode由同一颗加速器完成，而不是像英伟达Rubin那样把prefill拆给专用CPX芯片。OpenAI的理由是，真实流量中输入、缓存和输出token比例会随聊天、推理模型和Agent任务变化而变化，固定比例的异构芯片组合可能带来闲置。

流水线加速：AI如何缩短芯片研发周期

按照行业常规，高性能ASIC从架构定义、RTL设计、验证、物理实现到流片，周期通常从18到24个月起步。Jalapeño从初始设计到完成流片约9个月，速度明显更快。

OpenAI还展示了AI参与芯片和软件栈开发的迹象：在GPT-OSS部分attention和MoE模块中，AI生成的kernel比此前人工专家编写版本快1.5至1.8倍；借助Codex和GPT-Astra，OpenAI约两个月完成了对DeepSeek R1和Kimi K2.5的移植和优化。

这种加速如果持续，将让模型公司更快把模型架构变化反馈到硬件设计中。公开信息显示，A0版之后，B0版已进入制造阶段，第二代芯片进入深入开发，第三代也已开始规划。

架构逻辑：让数据不挪窝

大模型推理的瓶颈往往不只在算力，还在权重和KV缓存的频繁搬运。通用GPU在许多实际负载中会受内存带宽和数据调度限制，算力单元并不总能被充分利用。

Jalapeño的设计哲学可以概括为「少搬数据」：

• 将计算核心与HBM4内存切成对应「切片」，每个核心对自己的内存区域拥有低延迟直达通道
• 单封装约15.4TB/s内存带宽，为本地数据访问提供更高吞吐
• 模型生成时反复使用的数据可以被「显式地放置并保持在本地」，减少远程调用和反复搬运

这也是OpenAI强调的优势：Jalapeño试图在单位功耗下同时实现更高吞吐和更低延迟，而传统硬件系统通常需要在两者之间取舍。

仍需观察的限制

这份跑分并不等于已经全面胜出。原始材料显示，数据主要由OpenAI提供，SemiAnalysis是在实验室现场见证运行，并非独立完成全部测试。此外，公开结果来自约8k输入、1k输出的单轮推理负载；对于更长上下文、多轮交互以及Agent任务，OpenAI尚未给出公开数字。

因此，Jalapeño目前更适合作为模型厂商自研推理芯片的一次重要信号，而不是对现有GPU生态的最终判决。真正的考验还要等到2026年底后的实际部署和更广泛负载测试。

写在最后

Jalapeño的意义不只在跑分。它代表头部模型厂商开始尝试把自家模型的需求直接写进硬件设计，从过去「为芯片适配模型」，转向「为模型造芯片」。如果这条路线能在真实部署中兑现每token成本优势，AI基础设施的定价和供给格局可能会出现新的竞争变量。