nanoGPT

Andrej Karpathy 的最小化 GPT 训练实现,仅约 300 行代码即可从头训练 GPT 模型,是学习 LLM 训练原理的最佳入门项目

🎯适用场景:学习 LLM 训练原理、GPT 模型教学、深度学习课程

#GPT#LLM 训练#教学#PyTorch#入门

📥 收录于 2026/5/18

📊 仓库数据

Stars61,024
Forks10,495
语言Python
更新2026/7/10

📈 Stars 变化 12 小时 +19· 统计区间 7/10 12:08 → 7/11 00:11(12 小时)

优点

  • 极简代码易于理解
  • LLM 训练最佳入门
  • Karpathy 权威出品
  • 完整训练流程

⚠️ 限制

  • 仅用于教学不适用于生产
  • 功能有限
  • 需要 GPU 环境

🔗 相关工具

PyTorch Image Models

开源37k+5

github.com/huggingface/pytorch-image-models

Hugging Face 维护的最大 PyTorch 图像模型集合,36K+ stars。涵盖 Vision Transformer、ConvNeXt、EfficientNet、MobileNet 等数百种预训练图像编码器,提供训练、评估、推理完整工具链,是计算机视觉领域的标准基础设施

🎯多模态内容理解与生成

#计算机视觉#图像分类#预训练模型#PyTorch
语言Python
🍴 Forks5,169
🔄 更新2026/7/10
📥 收录2026/5/21

ViT PyTorch

开源25k+2

github.com/lucidrains/vit-pytorch

Vision Transformer (ViT) 的 PyTorch 实现,25K+ stars。用纯 Transformer 架构实现图像分类 SOTA 效果,是计算机视觉从 CNN 向 Transformer 演进的代表性项目,lucidrains 出品代码质量极高

🎯LLM 应用快速开发

#Vision Transformer#图像分类#PyTorch#计算机视觉
语言Python
🍴 Forks3,506
📅 上线2020/10/1
🔄 更新2026/7/10
📥 收录2026/6/5

Transformers

开源162k+24

github.com/huggingface/transformers

Hugging Face 核心模型库,159,648+ stars。支持 200K+ 预训练模型,覆盖 NLP、计算机视觉、音频、多模态等全领域,提供统一 API 接口,是 AI 开发者的必备基础设施

🎯多模型 API 统一接入与路由

#模型库#自然语言处理#多模态#Hugging Face
语言Python
🍴 Forks33,858
📅 上线2018/10/29
🔄 更新2026/7/10
📥 收录2026/4/20

Pytorch

开源102k+67

github.com/pytorch/pytorch

Meta 开源的深度学习框架,100K+ stars。以动态计算图和 Pythonic 风格著称,在学术界和工业界都有广泛应用,支持分布式训练、移动端部署和 ONNX 导出

🎯深度学习模型研发、学术论文实验、大模型微调训练

#autograd#深度学习#gpu#机器学习+1
语言Python
🍴 Forks28,464
🔄 更新2026/7/11
📥 收录2026/4/11

LLM Course

开源81k+22

github.com/mlabonne/llm-course

LLM 学习路线图,78,479+ stars。从入门到精通的系统学习资源,涵盖 Transformers 原理、微调、RLHF、量化部署等关键技术方向,是 AI 开发者的成长指南

🎯AI 技术学习与实践教程、大模型微调与训练

#学习路线#大语言模型#教程#从入门到精通
🍴 Forks9,415
📅 上线2023/6/18
🔄 更新2026/7/10
📥 收录2026/4/20

Keras

开源64k+27

github.com/keras-team/keras

深度学习框架,64,020+ stars。高级神经网络 API,支持 TensorFlow、JAX、PyTorch 多后端。以用户友好著称,让深度学习从实验到生产的转化变得简单高效

🎯大模型微调与训练

#深度学习#神经网络#多后端#TensorFlow
语言Python
🍴 Forks19,752
📅 上线2015/3/28
🔄 更新2026/7/10
📥 收录2026/4/20