Disaggregated Inference 硬件分化
2026 年 7 月 29 日，Forbes。
三派阵营
| 阵营 | Prefill | Decode | 策略 |
|---|---|---|---|
| NVIDIA | GPU | Groq SRAM | 收购 |
| AMD+Cerebras | GPU | CS-3 SRAM | 合作 |
| Intel+SambaNova | GPU | 专用芯片 | 合作 |
AWS+Cerebras 合作
- 3 月 13 日宣布多年战略合作
- Trainium3 处理 prefill（计算密集）
- Cerebras CS-3 处理 decode（内存带宽密集）
- 通过 Elastic Fabric Adapter 连接
- CS-3 提供 21 PB/s 内存带宽（H100 的 6000 倍）
- 推理速度提升 21 倍，成本降低 50%
产业影响
- GPU 垄断被打破
- 专用硬件崛起
- 推理成本大幅下降
AI Master 解读
核心事件
Disaggregated Inference 重塑 AI 推理硬件格局。
行业影响
为什么重要: 预填充/解码分离打破 GPU 垄断，专用硬件提升 21 倍性能。
影响分析:
| 维度 | 影响 |
|---|---|
| 性能提升 | 21 倍推理速度 |
| 成本降低 | 50% 运营成本 |
| 硬件分化 | prefill vs decode |
AI Master 建议
关注 AI 推理硬件从通用走向专用分工。