TRL
Hugging Face 维护的 Transformer Reinforcement Learning 库，覆盖 SFT、DPO、PPO 等对齐训练流程，常用于 LLM 后训练实验。
🎯适用场景：做大模型 SFT、DPO、PPO 或偏好对齐训练实验。
📊 仓库数据
✅ 优点
- •与 Hugging Face Transformers 和 Datasets 集成紧密
- •覆盖常见 LLM 对齐训练算法
- •适合快速复现后训练和偏好优化实验
⚠️ 限制
- •训练成本和显存需求取决于模型规模
- •生产级训练仍需配合分布式、数据治理和评测体系
🔗 相关工具
Oumi
github.com/oumi-ai/oumi
端到端 LLM/VLM 训练平台，9.2K+ stars。支持 SFT/DPO/评估/部署全流程，兼容 Gemma、Qwen、DeepSeek-R1 等最新模型。提供简洁 API 和预置配方，大幅降低 LLM 微调门槛
🎯大模型微调与训练
CleanRL
github.com/vwxyzjn/cleanrl
高质量单文件深度强化学习算法实现，涵盖 PPO、DQN、SAC、TD3 等主流算法，代码简洁适合学习和研究对比
🎯强化学习算法学习、教学和新算法的研究对比基线
Safe RLHF
github.com/PKU-Alignment/safe-rlhf
PKU-Alignment 出品的安全强化学习人类反馈框架，1.6K+ stars。通过安全 RLHF 实现约束价值对齐，是 AI 安全对齐领域的前沿研究
🎯大模型安全对齐训练
LLaMA Factory
github.com/hiyouga/LLaMA-Factory
100+ 大模型高效微调工具，71K+ stars。支持 LoRA、QLoRA、DPO、PPO 等 10+ 种微调方法，提供 WebUI 一键式微调界面，兼容 LLaMA、Mistral、Qwen、Baichuan 等主流模型。ACL 2024 论文收录
🎯大模型微调与训练
Axolotl
github.com/axolotl-ai-cloud/axolotl
LLM 微调训练工具，12K+ stars。支持 LoRA/QLoRA/全参数微调、DPO/ORPO 等对齐方法，兼容 Llama、Mistral、Qwen 等主流模型。提供 YAML 配置驱动的训练流程，是 LLM 微调的事实标准工具之一
🎯大模型微调与训练
BISHENG
github.com/dataelement/bisheng
企业级 LLM DevOps 平台，11K+ stars。集成 RAG、Agent、模型统一管理、SFT 微调、数据集管理和评估，提供从模型训练到应用部署的完整工作流
🎯企业 AI 应用开发与管理、RAG 系统搭建
