nanoGPT
Andrej Karpathy 的最小化 GPT 训练实现,仅约 300 行代码即可从头训练 GPT 模型,是学习 LLM 训练原理的最佳入门项目
🎯适用场景:学习 LLM 训练原理、GPT 模型教学、深度学习课程
📥 收录于 2026/5/18
📊 仓库数据
📈 Stars 变化 ↑12 小时 +19· 统计区间 7/10 12:08 → 7/11 00:11(12 小时)
✅ 优点
- •极简代码易于理解
- •LLM 训练最佳入门
- •Karpathy 权威出品
- •完整训练流程
⚠️ 限制
- •仅用于教学不适用于生产
- •功能有限
- •需要 GPU 环境
🔗 相关工具
PyTorch Image Models
github.com/huggingface/pytorch-image-models
Hugging Face 维护的最大 PyTorch 图像模型集合,36K+ stars。涵盖 Vision Transformer、ConvNeXt、EfficientNet、MobileNet 等数百种预训练图像编码器,提供训练、评估、推理完整工具链,是计算机视觉领域的标准基础设施
🎯多模态内容理解与生成
ViT PyTorch
github.com/lucidrains/vit-pytorch
Vision Transformer (ViT) 的 PyTorch 实现,25K+ stars。用纯 Transformer 架构实现图像分类 SOTA 效果,是计算机视觉从 CNN 向 Transformer 演进的代表性项目,lucidrains 出品代码质量极高
🎯LLM 应用快速开发
Transformers
github.com/huggingface/transformers
Hugging Face 核心模型库,159,648+ stars。支持 200K+ 预训练模型,覆盖 NLP、计算机视觉、音频、多模态等全领域,提供统一 API 接口,是 AI 开发者的必备基础设施
🎯多模型 API 统一接入与路由
Pytorch
github.com/pytorch/pytorch
Meta 开源的深度学习框架,100K+ stars。以动态计算图和 Pythonic 风格著称,在学术界和工业界都有广泛应用,支持分布式训练、移动端部署和 ONNX 导出
🎯深度学习模型研发、学术论文实验、大模型微调训练
LLM Course
github.com/mlabonne/llm-course
LLM 学习路线图,78,479+ stars。从入门到精通的系统学习资源,涵盖 Transformers 原理、微调、RLHF、量化部署等关键技术方向,是 AI 开发者的成长指南
🎯AI 技术学习与实践教程、大模型微调与训练
Keras
github.com/keras-team/keras
深度学习框架,64,020+ stars。高级神经网络 API,支持 TensorFlow、JAX、PyTorch 多后端。以用户友好著称,让深度学习从实验到生产的转化变得简单高效
🎯大模型微调与训练
