Unsloth
LLM 微调 Web UI 和优化工具，62,269+ stars。提供 2 倍训练速度、70% 显存占用的 LLM 微调方案，支持 Llama、Mistral、Qwen 等主流模型的 LoRA/QLoRA 微调
🎯适用场景：大模型微调与训练
📊 仓库数据
📈 Stars 变化 ↑6 小时 +15· 统计区间 6/28 18:12 → 6/29 00:15（6 小时）
✅ 优点
- •训练速度翻倍
- •显存占用大幅降低
- •支持主流 LLM 模型
- •提供友好的 Web UI
⚠️ 限制
- •主要针对特定模型支持
- •大规模训练仍需较强硬件
- •部分高级功能收费
🔗 相关工具
LLaMA Factory
github.com/hiyouga/LLaMA-Factory
100+ 大模型高效微调工具，71K+ stars。支持 LoRA、QLoRA、DPO、PPO 等 10+ 种微调方法，提供 WebUI 一键式微调界面，兼容 LLaMA、Mistral、Qwen、Baichuan 等主流模型。ACL 2024 论文收录
🎯大模型微调与训练
Axolotl
github.com/axolotl-ai-cloud/axolotl
LLM 微调训练工具，12K+ stars。支持 LoRA/QLoRA/全参数微调、DPO/ORPO 等对齐方法，兼容 Llama、Mistral、Qwen 等主流模型。提供 YAML 配置驱动的训练流程，是 LLM 微调的事实标准工具之一
🎯大模型微调与训练
ART
github.com/OpenPipe/ART
OpenPipe 开源的 Agent 强化学习训练框架，基于 GRPO 算法对多步 Agent 进行实战训练，支持 Qwen3.6、GPT-OSS、Llama 等主流模型
🎯对 AI Agent 进行强化学习微调，提升复杂任务的执行成功率
H2O LLM Studio
github.com/h2oai/h2o-llmstudio
H2O 开源的 LLM 微调框架和无代码 GUI，支持多种大模型，5K+ stars
🎯零代码微调大语言模型
LlamaFactory
github.com/hiyouga/LlamaFactory
统一高效微调 100+ 大模型，71K+ stars。支持 100+ LLM 和 VLM 的高效微调框架（ACL 2024 论文收录）
🎯大模型微调与训练
nanoGPT
github.com/karpathy/nanoGPT
Andrej Karpathy 的最小化 GPT 训练实现，仅约 300 行代码即可从头训练 GPT 模型，是学习 LLM 训练原理的最佳入门项目
🎯学习 LLM 训练原理、GPT 模型教学、深度学习课程