芯片今天·OpenAI
OpenAI Jalapeño 首个基准测试结果:700W ASIC 比 GB300 高 1.5-1.9x 吞吐量/千瓦
OpenAI 发布 Jalapeño 推理 ASIC 首个基准测试结果。与 NVIDIA GB300 对比:混合吞吐量/千瓦高 1.5x(18,195 vs 11,862),端到端延迟低 3.4x(1.56s vs 5.31s),最低 TBT 低 3.8x(1.44ms vs 5.48ms)。Jalapeño 是 OpenAI 与 Broadcom 合作 9 个月完成的首款定制推理芯片,6/24 发布,计划 2026 年底小规模部署。
OpenAI Jalapeño 首个基准测试结果
2026 年 8 月 26 日,OpenAI 发布 Jalapeño 推理 ASIC 首个基准测试结果。
事件背景
Jalapeño 是 OpenAI 与 Broadcom 合作 9 个月完成的首款定制推理芯片,于 2026 年 6 月 24 日发布。此次基准测试是 Jalapeño 首次公开实测数据,与 NVIDIA GB300 进行对比。
关键事实
| 项目 | 详情 |
|---|---|
| 芯片定位 | 定制推理 ASIC |
| 合作方 | Broadcom(9 个月完成) |
| 发布日期 | 2026 年 6 月 24 日 |
| 部署计划 | 2026 年底小规模,2027 年规模化 |
| 功耗 | 700W |
性能对比(vs NVIDIA GB300)
| 指标 | Jalapeño | GB300 | 提升 |
|---|---|---|---|
| 混合吞吐量/千瓦 | 18,195 | 11,862 | 1.5x |
| 端到端延迟 | 1.56s | 5.31s | 3.4x 低 |
| 最低 TBT | 1.44ms | 5.48ms | 3.8x 低 |
影响分析
| 维度 | 影响 |
|---|---|
| AI 芯片竞争 | OpenAI 自研芯片减少对 NVIDIA 依赖 |
| 推理经济学 | 1.5-1.9x 吞吐量/千瓦意味着更低的 per-token 成本 |
| 供应链 | 与 Broadcom 合作 9 个月完成,显示快速迭代能力 |
| 部署计划 | 2026 年底小规模部署,2027 年规模化 |
风险边界与后续观察
- 实际部署效果: 基准测试数据需在真实生产环境验证
- 规模化挑战: 从原型到大规模生产的工程挑战
- 软件生态: 需要配套的推理优化软件和工具链
- 竞争回应: NVIDIA 可能加速 Blackwell Ultra 和 Vera Rubin 路线图
AI Master 解读
核心事件
OpenAI 发布 Jalapeño 推理 ASIC 首个基准测试结果。
行业影响
为什么重要: 这是 OpenAI 首次公开自研芯片的实测数据,标志着 AI 公司从训练依赖 GPU 向推理自研转型。Jalapeño 在吞吐量和延迟上全面超越 GPU,证明定制 ASIC 在推理场景的经济性优势。
影响分析:
| 维度 | 影响 |
|---|---|
| AI 芯片竞争 | OpenAI 自研芯片减少对 NVIDIA 依赖 |
| 推理经济学 | 1.5-1.9x 吞吐量/千瓦意味着更低的 per-token 成本 |
| 供应链 | 与 Broadcom 合作 9 个月完成,显示快速迭代能力 |
| 部署计划 | 2026 年底小规模部署,2027 年规模化 |
AI Master 建议
关注 Jalapeño 在生产环境的实际部署效果和成本效益。定制 ASIC 可能成为超大规模 AI 公司的标配。
