Easy Dataset
强大的 LLM 微调数据集创建工具，14K+ stars。支持 RAG 和评测数据集的生成，是模型微调数据准备的效率工具
🎯适用场景：LLM 微调数据准备、RAG 数据集生成、模型评测数据构建
📊 仓库数据
📈 上次抓取以来 ↑+5 ⭐
✅ 优点
- •降低微调数据准备门槛，非技术人员也能创建高质量数据集
- •支持 RAG 和评测数据集，覆盖模型训练全流程
⚠️ 限制
- •数据集质量依赖原始素材，需要用户提供足够的数据源
- •对超大规模数据集的处理效率有限
🔗 相关工具
LLaMA Factory
开源⭐ 72k↑+8github.com/hiyouga/LLaMA-Factory
100+ 大模型高效微调工具，71K+ stars。支持 LoRA、QLoRA、DPO、PPO 等 10+ 种微调方法，提供 WebUI 一键式微调界面，兼容 LLaMA、Mistral、Qwen、Baichuan 等主流模型。ACL 2024 论文收录
🎯 大模型微调与训练
Unsloth
开源⭐ 65k↑+11github.com/unslothai/unsloth
LLM 微调 Web UI 和优化工具，62,269+ stars。提供 2 倍训练速度、70% 显存占用的 LLM 微调方案，支持 Llama、Mistral、Qwen 等主流模型的 LoRA/QLoRA 微调
🎯 大模型微调与训练
Keras
开源⭐ 64k↑+2github.com/keras-team/keras
深度学习框架，64,020+ stars。高级神经网络 API，支持 TensorFlow、JAX、PyTorch 多后端。以用户友好著称，让深度学习从实验到生产的转化变得简单高效
🎯 大模型微调与训练
nanoGPT
开源⭐ 59k↑+8github.com/karpathy/nanoGPT
Karpathy 打造的训练和微调中小型 GPT 的最简最快实现，适合学习 LLM 内部原理
🎯 大模型微调与训练
nanoChat
开源⭐ 54k↑+12github.com/karpathy/nanochat
Karpathy 用 100 美元能买到的最佳 ChatGPT 体验，从数据到训练到推理的完整实现
🎯 大模型微调与训练
DeepSpeed
开源⭐ 42kgithub.com/microsoft/DeepSpeed
深度学习训练优化库，42,156+ stars。微软开发的开源深度学习优化库，提供 ZeRO 内存优化、3D 并行等核心技术，大幅降低大模型训练成本
🎯 大模型微调与训练