AngelSpec

NEW

开源训练 & 微调 › 微调框架⭐ 176↑+1

腾讯混元 AI Infra 团队开源的统一推测解码训练框架，覆盖自回归 MTP drafting 和 block-parallel DFlash 家族。torch-native 实现，是 AngelSpec 技术报告背后的训练框架。

🎯适用场景：训练推测解码 drafter 模型，加速 LLM 推理

#speculative-decoding#mtp#inference-acceleration#training-framework#tencent

📥 收录于 2026/8/2

访问工具 📖 官方文档

📊 仓库数据

Stars176

Forks18

语言Python

上线2026/7/20

更新2026/8/2

📈 Stars 变化 ↑12 小时 +1· 统计区间 8/1 20:26 → 8/2 07:59（12 小时）

✅ 优点

•统一 MTP + DFlash 训练
•torch-native 实现
•腾讯混元实战验证
•覆盖完整推测解码家族

⚠️ 限制

•项目较新，文档有限
•需要 GPU 训练环境
•社区早期

🔗 相关工具

LLaMA Factory

开源⭐ 74k↑+10

github.com/hiyouga/LLaMA-Factory

100+ 大模型高效微调工具，71K+ stars。支持 LoRA、QLoRA、DPO、PPO 等 10+ 种微调方法，提供 WebUI 一键式微调界面，兼容 LLaMA、Mistral、Qwen、Baichuan 等主流模型。ACL 2024 论文收录

🎯大模型微调与训练

LlamaFactory

开源⭐ 74k↑+10

github.com/hiyouga/LlamaFactory

统一高效微调 100+ 大模型，71K+ stars。支持 100+ LLM 和 VLM 的高效微调框架（ACL 2024 论文收录）

🎯大模型微调与训练

#智能体#ai#deepseek#微调+1

Unsloth

开源⭐ 69k↑+27

github.com/unslothai/unsloth

LLM 微调 Web UI 和优化工具，62,269+ stars。提供 2 倍训练速度、70% 显存占用的 LLM 微调方案，支持 Llama、Mistral、Qwen 等主流模型的 LoRA/QLoRA 微调

🎯大模型微调与训练

#LLM微调#LoRA#显存优化#Web UI

nanoChat

开源⭐ 57k↑+14

github.com/karpathy/nanochat

Karpathy 用 100 美元能买到的最佳 ChatGPT 体验，从数据到训练到推理的完整实现

🎯大模型微调与训练

#大语言模型#chat#训练#karpathy

llm.c

开源⭐ 31k↑+4

github.com/karpathy/llm.c

Karpathy 用纯 C 和 CUDA 实现的 LLM 训练项目，摆脱 Python 依赖，追求极致性能

🎯大模型微调与训练

#大语言模型#cuda#c#performance

PEFT

开源⭐ 21k↑+2

github.com/huggingface/peft

🤗 Hugging Face 参数高效微调库，支持 LoRA、QLoRA、AdaLoRA 等 SOTA 方法，大幅降低大模型微调成本。

🎯大语言模型低资源微调、领域适配、指令跟随训练

#微调#lora#peft#parameter-efficient-learning