Neural Networks Zero to Hero 教程手把手反向传播到 GPT 完整指南【免费下载链接】nn-zero-to-heroNeural Networks: Zero to Hero项目地址: https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero这个仓库是“Neural Networks: Zero to Hero”课程的配套笔记本合集7 个 notebook 全在 lectures/ 目录里覆盖反向传播完整推导与 makemore 语言模型。它只带你一行行敲出原理不教你调用现成 API。把反向传播推导变成可运行的代码新手最常见的状态视频看完觉得自己懂了一上手就卡住——梯度为什么这么反传、BatchNorm 不加会怎样这门课的答案是把推导做成能跑的代码第一讲手搓一个标量自动求导引擎讲透反向传播makemore 系列再逐节加料从二元统计一路堆到 GPT 雏形。每个公式都有对应的一行代码存疑就看下一个 cell。micrograd 与 makemore7 个 notebook 的内容地图 lectures/micrograd/第一讲前后半场的两个笔记本先用纯 Python 搭出标量自动求导引擎再用它搭网络、做训练。lectures/makemore/part1 到 part5 五个笔记本依次推进 bigram 模型、MLP、BatchNorm、手写反向传播、卷积网络。README.md课程目录每讲写清主题、前置要求和配套文件。第 7、8 讲从零搭 GPT、GPT 分词器目前只有视频仓库里还没有对应笔记本别指望在目录里翻到。四步走通 micrograd 与 makemore 学习路径克隆仓库git clone https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero。标志本地出现 lectures/ 目录。按顺序打开 lectures/micrograd 下的两个 notebook 执行。标志能口头讲清计算图里每个节点的梯度流向。补一点 PyTorch Tensor 基础再打开 makemore_part1_bigrams.ipynb。标志bigram 模型训练时 loss 下降能采样出字符序列。按 part2 到 part5 顺序推进每步只加一层复杂度。标志part4 能先自己推完各层梯度推不出来再对照视频。手写神经网络入门常见坑 ⚠️跳过 micrograd 直接进 makemore后面所有“自动求导”变黑盒part4 的手写反向传播基本做不动。part4 只看不写这一讲要求先推再对照纯看视频效果减半之后调试时定位不到是哪层梯度写错。part5 靠猜张量形状torch.nn 用法密度高不打印 shape、不翻文档维度对不上还不知道错在哪。在仓库里找 GPT 那讲的笔记本第 7、8 讲暂时没有文件找半天是白费功夫。该从手写 autograd 开始的人群画像适合想弄清反向传播到底在算什么、看完视频却动不了手的初学者天天用 PyTorch 但从未自己写过 autograd 的开发者对语言模型和 GPT 原理感兴趣的 NLP 方向学习者。别用只想快速调用现成模型出效果这套课节奏偏慢先看框架官方教程更快微积分底子薄先复习导数和链式法则否则第一讲会很吃力。现在就打开 lectures/micrograd/micrograd_lecture_first_half_roughly.ipynb把第一个 notebook 跑完。【免费下载链接】nn-zero-to-heroNeural Networks: Zero to Hero项目地址: https://gitcode.com/GitHub_Trending/nn/nn-zero-to-hero创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考