TokenSpeed

DeepSeek 开源的推测解码（Speculative Decoding）全栈训练与评估代码库，包含 DSpark、DFlash、Eagle3 三种算法。在 DeepSeek-V4 上实现 60-85% 的每用户生成速度提升，输出质量完全一致。MIT 协议，6.5k+ stars。

🎯LLM 推理加速，无损输出质量的推测解码训练与部署

纯 C 零依赖推理引擎，可在 25GB RAM 消费级机器上运行 GLM-5.2 744B MoE 模型。通过 per-layer LRU cache 从磁盘流式加载 21,504 个路由专家（~370GB），仅保持密集部分（~9.9GB int4）在内存中。Apple M5 Max 128GB 可达 ~1 tok/s。Apache 2.0 许可。

🎯在消费级硬件上本地运行 744B 参数 MoE 模型——无需 GPU 集群

Meta 推出的 Llama 4 系列模型统一部署栈，支持推理、微调和多模型路由，4 月新增 6,400+ 星。提供标准化的 API 接口和工具链，覆盖从模型加载、推理服务、微调到评估的全流程，简化 Llama 系列模型的部署和运维，是 Llama 生态的官方基础设施

🎯多模型 API 统一接入与路由

纯 Rust 编写的 WebGPU 推理引擎，兼容 OpenAI API，原生支持 GGUF 格式。零 Python 依赖，单二进制文件，可在任意 GPU 上运行

🎯本地 LLM 推理、边缘部署、无需 Python 的推理服务

Block Diffusion for Flash Speculative Decoding，加速 LLM 推理的新型解码方法。通过推测解码 + 块扩散显著降低 LLM 推理延迟，GitHub 1.3k stars。在保持输出质量的同时，将推理吞吐量提升数倍，是大模型高效推理的前沿研究方向

🎯LLM 推测解码加速、降低大模型推理延迟

轻量级 LLM 推理服务框架，以轻量设计、易扩展和高速性能著称，支持多模型部署和高并发推理。

🎯部署大语言模型推理服务——在自有服务器上快速搭建轻量高效的 LLM 推理 API。