nanoChat
Karpathy 用 100 美元能买到的最佳 ChatGPT 体验,从数据到训练到推理的完整实现
🎯适用场景:大模型微调与训练
📊 仓库数据
📈 上次抓取以来 ↑+1 ⭐
✅ 优点
- •端到端完整实现
- •极低训练成本
- •Karpathy 出品
⚠️ 限制
- •模型规模小
- •效果有限
🔗 相关工具
llm.c
github.com/karpathy/llm.c
Karpathy 用纯 C 和 CUDA 实现的 LLM 训练项目,摆脱 Python 依赖,追求极致性能
🎯大模型微调与训练
ART
github.com/OpenPipe/ART
OpenPipe 开源的 Agent 强化学习训练框架,基于 GRPO 算法对多步 Agent 进行实战训练,支持 Qwen3.6、GPT-OSS、Llama 等主流模型
🎯对 AI Agent 进行强化学习微调,提升复杂任务的执行成功率
LLaMA Factory
github.com/hiyouga/LLaMA-Factory
100+ 大模型高效微调工具,71K+ stars。支持 LoRA、QLoRA、DPO、PPO 等 10+ 种微调方法,提供 WebUI 一键式微调界面,兼容 LLaMA、Mistral、Qwen、Baichuan 等主流模型。ACL 2024 论文收录
🎯大模型微调与训练
Unsloth
github.com/unslothai/unsloth
LLM 微调 Web UI 和优化工具,62,269+ stars。提供 2 倍训练速度、70% 显存占用的 LLM 微调方案,支持 Llama、Mistral、Qwen 等主流模型的 LoRA/QLoRA 微调
🎯大模型微调与训练
Keras
github.com/keras-team/keras
深度学习框架,64,020+ stars。高级神经网络 API,支持 TensorFlow、JAX、PyTorch 多后端。以用户友好著称,让深度学习从实验到生产的转化变得简单高效
🎯大模型微调与训练
DeepSpeed
github.com/microsoft/DeepSpeed
深度学习训练优化库,42,156+ stars。微软开发的开源深度学习优化库,提供 ZeRO 内存优化、3D 并行等核心技术,大幅降低大模型训练成本
🎯大模型微调与训练