EAGLE-3
7 倍加速的推测解码
亦作、亦称：Extrapolation Algorithm for Generation · EAGLE
概述
UC Berkeley 于 2025 年 3 月提出的推测解码加速技术，核心创新是直接 Token 预测（Direct Token Prediction）和多层次特征融合（Multi-layer Feature Fusion），取代 EAGLE-1/2 的特征级预测，在 Llama-3-70B 上实现 7.2x 加速和 92.3% 接受率，仅 4% 额外显存开销；2026 年初已合并入 vLLM、SGLang、TensorRT-LLM 主线，成为生产环境标准配置。
工作原理
UC Berkeley 于 2025 年 3 月提出的推测解码加速技术，核心创新是直接 Token 预测（Direct Token Prediction）和多层次特征融合（Multi-layer Feature Fusion），取代 EAGLE-1/2 的特征级预测，在 Llama-3-70B 上实现 7.2x 加速和 92.3% 接受率，仅 4% 额外显存开销；2026 年初已合并入 vLLM、SGLang、TensorRT-LLM 主线，成为生产环境标准配置。
应用场景
EAGLE-3常见于：AI 研究与产业落地。实际选型需结合业务指标、数据规模与部署约束评估适用性。
局限与误区
围绕 EAGLE-3 的口语化说法（见「常见误解」）常过度简化。效果依赖数据质量、任务匹配与系统整体设计；生产环境应配合评测、监控与人工复核。
背景与发展
EAGLE-3随 AI 研究与工程实践持续演进，定义边界与最佳实践仍在更新。建议结合原始论文、官方文档与本站延伸阅读建立准确认知。
常见误解
日常交流中容易听到的简化说法，未必准确，但能帮助理解误解从何而来。
- 「7 倍加速的推测解码」
- 「直接预测 Token 的草稿模型」
相关术语
和本术语关联紧密的其他词条，便于串联理解。
延伸阅读
从知识库精选 1 篇文章，帮助深入理解该术语。