工程实战课程高阶中文6–12 周★ 4.3k14 章可站内阅读
AI 基础设施从零到英雄
训练 / 推理基础设施系统课
Huaizheng Zhang · 4,267 stars
面向 AI 基础设施的中文系统课：覆盖算力与集群、训练/推理系统、存储网络与可观测性。适合已经会训练或部署模型、却对「系统层」发虚的工程师。这不是入门课，是进阶工程课。
为什么收录 · 书架上稀缺的 Infra 向教程。LLM 工程路线走到中后期，这类材料比再学一个应用框架更关键。
AI Infra训练系统推理系统集群可观测性分布式中文系统课
这本书强在哪
- 少见但关键的中文 AI Infra 系统课，补齐「会训模型」与「会搭系统」缺口
- 文档化路径清晰，适合进阶工程读者
- 把训练/推理基础设施当作一等公民，而不是附录
- 与 LLM 工程、算法路线交叉时价值最大
建议怎么学
- 01先画一张自己当前训练/推理架构图，再对照文档找缺口
- 02训练与推理分周学习，各做一个瓶颈分析笔记
- 03每读完一章，对应一个开源组件（如调度、推理引擎）做调研卡
- 04没有集群条件时，用单机模拟关注点：批大小、并行策略、量化与缓存
适合谁 / 前置
- 深度学习训练/推理基础经验
- Linux、容器与基础网络知识
- 分布式系统常识更佳
学完得到什么
- 理解训练与推理基础设施的关键组件与瓶颈
- 能读懂相关系统论文与开源组件定位
- 建立算力、存储、调度与可观测性的选型判断
- 知道「模型效果问题」和「系统效率问题」如何拆开排查
目录
来自站内阅读器镜像；点击章节直接阅读
文档14 章
- 01AutoML Systemmarkdown
- 02Year 2020markdown
- 03Data Processingmarkdown
- 04Deep Reinforcement Learning Systemmarkdown
- 05Edge or Mobile Papersmarkdown
- 06Federated Learning Systemmarkdown
- 07System for GNN training&inferencemarkdown
- 08Inference Systemmarkdown
- 09Machine Learning Infrastructuremarkdown
- 10LLM Servingmarkdown
- 11LLM Trainingmarkdown
- 12AI System Schoolmarkdown
- 13Training Systemmarkdown
- 14Video Systemmarkdown
策展亮点章节
算力与集群训练系统推理系统存储与网络可观测性与工程实践
仓库数据
Stars4,267
Forks407
主要语言Jupyter Notebook
更新2026/8/7
01616264（master）· 许可证 MIT License (MIT)。 上游更新后可通过同步脚本刷新。