【AI Infra小白入门④】AI Infra学习路线图：从入门到精通的完整指南（附核心思维方法）

【AI Infra小白入门④】AI Infra学习路线图从入门到精通的完整指南附核心思维方法本文是「AI Infra 小白入门」系列的第四篇。前面我们聊了什么是AI Infra、大厂组织架构、岗位路线图。今天来聊最实用的——AI Infra到底该怎么学先学什么、后学什么以及贯穿整个学习过程的核心思维方法。一、写在前面为什么需要学习路线AI Infra的知识体系太庞大了——CUDA、分布式训练、编译器、推理引擎、量化、Serving……随便拎出来一个都是深坑。如果没有清晰的路线图很容易陷入两种困境盲目跟风今天学CUDA明天听说量化火又去学量化结果每样都只懂皮毛迷失细节一头扎进某个细节里学了半天不知道学了有什么用所以在动手学习之前先搞清楚全貌和路线非常重要。先上一张完整的学习路线图二、完整学习路线五阶进阶AI Infra的学习可以分为五个阶段由浅入深、层层递进阶段一前置基础第1章内容 编程语言 / 数学 / Transformer / PyTorch / GPU硬件 / 集合通信 / 工具链 ↓ 阶段二CUDA与算子优化第2章内容 CUDA编程 / 性能优化 / 经典算子 / Attention算子 / Triton ↓ 阶段三分布式训练第6章内容 数据并行 / ZeRO / 张量并行 / 流水线并行 / 3D并行 / 通信优化 ↓ 阶段四推理与部署第3-5章 第7-8章内容 AI编译器 / Runtime / 量化 / LLM Serving / 多平台适配 ↓ 阶段五综合项目实战 端到端全链路优化项目我们逐一来看每个阶段学什么、学到什么程度。三、各阶段学习要点阶段一前置基础——打底子内容学什么学到什么程度编程语言Python进阶、C核心、pybind11能读C代码、能写Python脚本工程数学线代矩阵乘法、概率softmax、微积分链式法则能手算FLOPs、显存、维度变化TransformerAttention、FFN、位置编码、LN、MHA→MLA能画清楚前向传播流程、知道哪里是性能瓶颈PyTorch框架autograd、Module、checkpoint、profiler能熟练用PyTorch训练和推理模型GPU硬件概论SM、Tensor Core、存储层次、Memory Wall理解GPU为什么快、为什么会有显存墙集合通信基础AllReduce等原语、Ring/Tree算法、NCCL理解多卡之间怎么传话工程工具链gdb/perf/nsys/ncu、Git会用基本的调试和性能分析工具核心目标概念要清晰能手算显存、带宽、FLOPs。阶段二CUDA与算子优化——练硬功内容学什么学到什么程度CUDA编程体系Grid/Block/Thread、内存模型、Warp执行能正确计算线程索引、理解内存层级性能优化基础合并访问、Bank Conflict、Occupancy能识别常见性能问题经典算子实现Reduce、GEMM能手写并调优一个GEMM kernelAttention算子FlashAttention原理理解为什么FlashAttention快多线程并行CPU并行、OpenMP、SIMD理解CPU端的优化手段Triton编程Triton语言与优化思路能用Triton写简单算子核心目标能手写并调优kernel建立性能思维。阶段三分布式训练——玩大的内容学什么学到什么程度分布式训练总论显存构成、并行策略分类能估算训练显存需求数据并行DDP原理与实现能跑通DDP训练ZeRO系列ZeRO-1/2/3原理与显存计算能计算不同ZeRO阶段的显存占用张量并行 / 序列并行TP切分方式、通信模式理解TP怎么切、通信量多大流水线并行PP原理、气泡计算理解流水线的效率损失3D并行与混合策略DPTPPP的组合设计能设计并行拓扑通信优化NCCL、Ring AllReduce、通信重叠理解通信优化的核心手段核心目标能设计并行拓扑、算清楚显存和通信量。阶段四推理与部署——搞上线内容学什么学到什么程度AI编译器编译流水线、TVM架构、图优化、后端理解编译器的工作流程Runtime推理引擎内存池、CUDA Graph、多流并发、动态Batch理解推理引擎的核心组件模型量化PTQ/QAT、INT8/INT4、W4A16/W4A8、KV Cache量化知道不同量化方法的取舍LLM推理与ServingPagedAttention、Continuous Batching、Speculative Decoding、Prefix Cache理解vLLM等框架的核心技术多平台适配NVIDIA GPU、边缘Jetson、昇腾NPU、自研芯片知道不同平台的部署特点核心目标能端到端把一个模型从训练推上线。阶段五综合项目实战——串起来把前面所有知识点串起来做一个完整的端到端项目。比如选一个模型如MMBEV感知模型从训练优化到推理部署涉及算子优化、编译、量化、Runtime全链路有明确的benchmark数字核心目标能讲清每个技术决策的取舍形成完整的知识体系。四、贯穿始终的核心思维牺牲了什么换取了什么这是整个AI Infra学习的总纲也是1.1节讲的不可能三角的具体化。每学一个新技术都填一行这个表。填不出来 没学懂。技术牺牲了什么换取了什么ZeRO通信量显存Activation Checkpointing重计算显存TP张量并行通信带宽单卡显存PP流水线并行气泡利用率单卡显存INT8量化精度显存 速度CUDA Graph灵活性launch开销Continuous Batching调度复杂度吞吐PagedAttention管理复杂度显存利用率Speculative Decodingdraft模型成本decode速度内存池常驻显存分配开销学习方法准备一个笔记本或文档每学一个新技术就加一行这个表。学到最后你就有了一张自己的AI Infra知识地图。五、四条学习建议建议一自底向上打基础自顶向下找方向打基础按顺序来前置基础 → CUDA/算子 → 分布式训练 → 推理部署。地基打牢了后面的楼才能盖高。找方向从兴趣出发如果你不知道该深入哪个方向可以先快速浏览一遍各个方向的内容找一个最让你眼睛发亮的深入下去。建议二每个概念配一个实验AI Infra是工程学科光看不动手等于白学。学完ZeRO就跑一次不同阶段的显存对比学完CUDA Graph就测一下launch开销到底省了多少学完量化就实际跑一下INT8和FP16的精度/速度对比有对比才有理解有数字才有感觉。建议三输出倒逼输入最好的学习方式是教。写博客、记笔记你正在看的这个系列就是最好的例子给同事/同学讲一讲你学到的东西讲不清楚的地方就是你没学透的地方建议四以项目为纲不要孤立地学知识点要以项目为线索把知识串起来。比如你可以定一个小目标“我要把一个ViT模型部署到Jetson Orin上做到实时推理30fps。”围绕这个目标你会自然地学到模型导出ONNX模型优化TensorRT编译量化PTQ/QAT推理引擎TensorRT Runtime性能分析nsys、trtexec……带着问题学比漫无目的地学效率高10倍。六、小白避坑指南坑一一上来就啃最硬的骨头很多人一上来就去看vLLM源码、Megatron源码结果看了几天就放弃了——因为基础不够根本看不懂。正确姿势从基础开始循序渐进。先搞懂GPU架构和CUDA编程再看上层框架事半功倍。坑二收藏了无数资料却一篇都没看完收藏 ≠ 学会。与其收藏100篇文章不如把1篇好文章吃透再动手做一个实验。坑三只学理论不做实验AI Infra是工程学科很多东西不亲手测一下永远没有感觉。比如CUDA的合并访存到底有多重要不写两个kernel对比一下你永远只有一个模糊的概念。坑四贪多求全什么都想学AI Infra的方向很多但你不需要什么都精通。先把一个方向做扎实再横向扩展。T型人才比全栈小白值钱得多。七、总结一下今天这篇文章我们给出了AI Infra的完整学习路线五个阶段前置基础 → CUDA/算子 → 分布式训练 → 推理部署 → 项目实战核心思维任何技术都是不可能三角的取舍——牺牲了什么换取了什么是检验理解的最好问题四条学习建议循序渐进、每个概念配实验、输出倒逼输入、以项目为纲下一篇预告我们正式进入前置基础阶段首先来聊聊编程语言——为什么AI Infra是Python和C的双语世界各自用在什么地方需要掌握到什么程度本系列导航第1篇一文搞懂什么是AI基础设施五大方向与不可能三角第2篇大厂AI Infra组织架构大揭秘第3篇AI Infra岗位路线图级别、薪资与成长路径第4篇AI Infra学习路线图从入门到精通的完整指南本文第5篇AI Infra必备编程基础Python、C与Linux速通指南更多内容持续更新中……