Inference Compute to Reach 75% of Total AI Compute by 2030
2025 年，多家分析机构预测推理算力占比将持续增长。
驱动因素
- 推理模型普及：o1、R1、QwQ 等生成 10x 更多 token
- Agent 应用增长：多步推理、工具调用增加推理次数
- 实时应用：对话、搜索、推荐等场景
AI Master 解读
核心事件
行业预测推理计算将成为 AI 算力的主要消耗。
行业影响
影响分析： 推理模型生成 10x 更多 token，推理成本显著增加。推理优化成为重要研究方向。
AI Master 建议
推理优化将成为核心工程挑战，建议关注模型压缩、量化、稀疏注意力等技术，以及推理专用芯片的发展动态。
