Jalapeno(OpenAI 自研推理芯片)

Jalapeno

OpenAI 自己造的 GPU

亦作、亦称:OpenAI 自研推理芯片 · Jalapeño · OpenAI Jalapeno · OpenAI ASIC

Jalapeno 是 OpenAI 与 Broadcom 于 2026 年 6 月联合发布的首款定制推理 ASIC,专为 LLM 推理优化,基于台积电 3nm 工艺,从设计到流片仅 9 个月(利用 AI 模型辅助芯片设计),能效比约 6.8 TOPS/W,内存带宽 8 TB/s,目标是每 Token 推理成本较 Nvidia GPU 降低约 50%。

技术架构与设计理念

Jalapeno 是一颗应用特定处理器(Application-Specific Processor),不追求通用计算的灵活性,而是将全部晶体管预算花在推理工作负载最需要的地方。

具体优化方向包括:大内存带宽(8 TB/s,是 H100 的 2.4 倍)、低延迟矩阵运算(针对 INT8/FP8 低精度推理优化并剔除 FP64 电路)、高效 KV-Cache 管理和连续批处理的硬件调度。

这些定制使其能效比达到约 6.8 TOPS/W,超过 NVIDIA GB200 的 4.5 TOPS/W。Broadcom 的角色不可忽视——它同时为 Google、Meta 等设计定制芯片,掌握可复用的 IP 和规模经济,实际上扮演了 AI 芯片行业的「收费站」角色。

9 个月流片速度的秘密

传统芯片设计周期通常为 18-24 个月,OpenAI 将 Jalapeno 的周期压缩到仅 9 个月,关键手段是用自家 AI 模型加速芯片设计流程。在布局布线(Place & Route)、时序收敛(Timing Closure)、设计空间探索等环节,AI 模型替代了大量人工迭代。

这种「用 AI 设计 AI 芯片」的模式本身就是行业趋势的缩影——芯片设计 EDA 工具正在被 AI 深度改造。但这也意味着 Jalapeno 的设计与 OpenAI 当前模型架构高度耦合,如果未来模型架构发生根本变化(如从 Transformer 转向新范式),可能需要重新设计芯片。

产业格局影响

Jalapeno 的发布标志着 AI 行业从「买 GPU」走向「造芯片」的垂直整合时代加速。2026 年的 AI 芯片市场正从「Nvidia 一家独大」向「Nvidia + 五大挑战者」的多元生态演变。

Google Ironwood TPU v7 拥有 9216 颗芯片超级 Pod、42.5 exaFLOPS 算力;Amazon Trainium 已部署数十万颗;Meta MTIA 针对推荐系统和 LLM 推理优化。

据 WSTS 数据,2026 年全球芯片销售额预计达 9750 亿美元,其中生成式 AI 芯片收入接近 5000 亿美元。但 Nvidia 的市场份额正从 90% 以上被逐步稀释。Jalapeno 使 OpenAI 获得了在芯片谈判桌上的筹码,但短期内它只是 Nvidia GPU 的补充而非替代。

常见误解

日常交流中容易听到的简化说法,未必准确,但能帮助理解误解从何而来。

  • 「OpenAI 自己造的 GPU」
  • 「用来替代 Nvidia 的芯片」

相关术语

和本术语关联紧密的其他词条,便于串联理解。