示例工程【免费下载链接】NYU-DLSP20NYU Deep Learning Spring 2020项目地址https://gitcode.com/gh_mirrors/pyt/pytorch-Deep-Learning点击查看免费下载本文以 NYU 2020 春季深度学习公开课程NYU-DLSP20课程号 DS-GA 1008日语站点首页为线索系统梳理其 15 周课程主题、配套 PyTorch Notebook 与幻灯片课件并结合仓库中的environment.yml依赖与根目录 README给出可复现的本地实验环境搭建步骤。读完本文你将获得一份完整的逐周学习路线图能够按图索骥地从张量、自动微分、CNN 起步一路推进到 RNN、VAE、GAN、Transformer、GCN 与能量基模型EBM等前沿主题的动手实践。课程基本信息该课程由纽约大学数据科学中心NYU Center for Data Science开设面向已具备数据科学或研究生级机器学习基础的学习者。课程核心信息如下依据 docs/ja/index.md项目内容课程编号DS-GA 10082020 年度春学期讲师Yann LeCunNYU 计算机科学系 Silver 教授、图灵奖得主与 Alfredo CanzianiNYU 计算机科学系助理教授讲座时间每周一 16:55 – 18:35GCASL C95 教室实践课时间每周二 19:10 – 20:00GCASL C95 教室配套资料Google Drive 幻灯片合集 本仓库Notebook 实践课程的讲座Lecture与实践课Practicum双轨并行讲座负责理论推演实践课则通过 Jupyter Notebook 完成可交互的编码实验。文档中使用 幻灯片、Jupyter notebook、YouTube 视频三类标记区分资源类型。课程内容概述根据日语主页的概要部分本课程关注深度学习与表示学习representation learning的最新技术核心主题包括监督与无监督深度学习涵盖从分类、回归到自编码器、生成模型的全谱系方法嵌入方法与度量学习embedding methods, metric learning强调样本在特征空间中的距离与结构卷积神经网络与循环神经网络作为处理图像与序列数据的两大骨干架构典型应用场景计算机视觉、自然语言理解、语音识别。课程的前置要求为 DS-GA 1001 Intro to Data Science 或同等研究生级机器学习课程。也就是说读者需要先掌握基本的概率统计、线性代数与机器学习概念再进入本课程。15 周课程路线图完整课程表主页用一张完整表格给出 15 周的教学安排。下表在保留原文档全部内容的基础上将外部资源链接替换为本仓库内可直接打开的相对路径周标题链接指向对应章节笔记周形式主题资料①讲座历史与动机、发展与深度学习幻灯片 视频①实践神经网络NN01-tensor_tutorial.ipynb、02-space_stretching.ipynb②讲座SGD 与误差反向传播、实用反向传播幻灯片 视频②实践NN 的训练slides/01 - Spiral classification.pdf、04-spiral_classification.ipynb、05-regression.ipynb③讲座参数变换、CNN幻灯片 视频③实践自然信号的特性slides/02 - CNN.pdf、06-convnet.ipynb④实践1D 卷积07-listening_to_kernels.ipynb⑤讲座优化方法 I、优化方法 II幻灯片 视频⑤实践CNN、自动微分03-autograd_tutorial.ipynb、extra/b-custom_grads.ipynb⑥讲座CNN 的应用技术、RNN 与注意力机制幻灯片 视频⑥实践RNN 的训练slides/04 - RNN.pdf、08-seq_classification.ipynb、09-echo_data.ipynb⑦讲座能量基模型EBM、自监督学习SSL、EBM幻灯片 视频⑦实践自编码器slides/05 - Generative models.pdf、10-autoencoder.ipynb⑧讲座对比学习方法、带正则化潜变量的 EBM幻灯片 视频⑧实践VAE 的训练slides/05 - Generative models.pdf、11-VAE.ipynb⑨讲座稀疏性、世界模型、GAN幻灯片 视频⑨实践GAN 的训练slides/05 - Generative models.pdf⑩讲座CV 自监督学习 I、CV 自监督学习 II幻灯片 视频⑩实践预测控制slides/09 - Controller learning.pdf、14-truck_backer_upper.ipynb⑪讲座激活函数、损失函数幻灯片 视频⑪实践不确定条件下的控制与规划PPUU幻灯片 代码⑫讲座NLP 深度学习 I、NLP 深度学习 II幻灯片 视频⑫实践注意力机制与 Transformerslides/10 - Attention transformer.pdf、15-transformer.ipynb⑬讲座/实践GCN I / II / III对应 13-1、13-2、13-3slides/11 - GCN.pdf、16-gated_GCN.ipynb⑭讲座/实践结构化预测、图方法、正则化与贝叶斯对应 14-1、14-2、14-3slides/07 - Regularisation.pdf、12-regularization.ipynb、slides/08 - Bayesian NN.pdf、13-bayesian_nn.ipynb⑮实践潜变量 EBM 的推断、潜变量 EBM 的学习slides/12 - EBM.pdf说明日语版章节笔记已覆盖第 1–14 周第 13 周起主页索引沿用英文版链接第 15 周仅有英文版笔记。上表按日语主页原样保留了这一映射关系并统一指向仓库中实际存在的文件。第一阶段基础第 1–5 周——张量、反向传播与卷积第 1 周从深度学习的历史与动机切入回顾模式识别的发展脉络引入梯度下降与误差反向传播并讨论视觉皮层的分层表示随后介绍 CNN 从 Fukushima、LeCun 到 AlexNet 的演进及其在图像分割、自动驾驶、医学影像中的应用。实践环节通过 01-tensor_tutorial.ipynb 认识 PyTorch 张量库import torch起步并用 02-space_stretching.ipynb 可视化线性/非线性变换对数据点空间的作用。第 2 周正式进入训练环节先用直觉理解梯度下降中**步长学习率**对收敛的影响再对比全批量梯度下降与 SGD最后介绍动量更新的两条更新法则及其收敛特性。配套 04-spiral_classification.ipynb螺旋分类与 05-regression.ipynb回归覆盖了第一个完整训练循环。第 3 周聚焦参数变换与卷积从堆叠stacking与平移shifting的角度理解卷积核的运用方式结合 06-convnet.ipynb 演示如何将**先验知识假设**注入 ConvNet——假设成立时带来收益不成立时则造成损害。第 4 周的单周实践课深入 1D 卷积通过 07-listening_to_kernels.ipynb 以听内核输出的方式理解滤波器在音频信号上的行为。第 5 周把优化器讲透从 SGD 推进到自适应方法 RMSprop、Adam并讨论归一化层对训练过程的影响最后给出工业界用神经网络加速 MRI 扫描的真实案例。实践课同时覆盖自动微分原理与自定义梯度03-autograd_tutorial.ipynb 讲解 PyTorch 自动求导extra/b-custom_grads.ipynb 演示自定义梯度算子仓库 extra/optimization.ipynb 还提供了优化器对比的补充实验。第二阶段序列与生成模型第 6–9 周——RNN、EBM、自编码器与 GAN第 6 周转向序列建模讲座覆盖 CNN 应用技巧与 RNN 注意力机制实践课通过 08-seq_classification.ipynb序列分类与 09-echo_data.ipynb回声数据完成 RNN 的训练实验配合 slides/04 - RNN.pdf 梳理时序结构。第 7 周引入能量基模型EBM视角随后讨论自监督学习SSL与 EBM 的关系实践课 10-autoencoder.ipynb 从零训练自编码器。第 8 周依次讨论对比学习方法、带正则化潜变量的 EBM并用 11-VAE.ipynb 完成变分自编码器VAE的端到端训练。第 9 周覆盖稀疏性、世界模型与 GAN 的理论实践课聚焦 GAN 训练DCGAN 示例。这三周的生成模型讲座共用 slides/05 - Generative models.pdf适合对照研读。第三阶段高级主题第 10–15 周——SSL、Transformer、GCN 与结构化预测第 10 周回到自监督学习在计算机视觉中的应用实践课则切换到控制领域借助 14-truck_backer_upper.ipynb 训练一个倒车入位的预测控制器配套 slides/09 - Controller learning.pdf。第 11 周系统梳理激活函数与损失函数的取舍实践主题为不确定性下的控制与规划PPUU。第 12 周进入自然语言处理讲座分两次讲授 NLP 中的深度学习技术实践课通过 15-transformer.ipynb 从零搭建注意力机制与 Transformer配套 slides/10 - Attention transformer.pdf。第 13 周的三节 GCN 课程配合 16-gated_GCN.ipynb门控图卷积网络与 slides/11 - GCN.pdf覆盖从图卷积原理到实现的完整链条。第 14 周把结构化预测作为主线先介绍能量基因子图及其高效推理再讨论 Viterbi 算法与前向算法在图变换网络上的应用并延伸到反向传播的拉格朗日乘数法表述与 EBM 的变分推断实践课以正则化与贝叶斯为主题使用 12-regularization.ipynb 与 13-bayesian_nn.ipynb配套 slides/07 - Regularisation.pdf、slides/08 - Bayesian NN.pdf讲解如何抑制高参数量模型对训练噪声的过拟合。第 15 周收官课聚焦潜变量 EBM 的推断与学习使用 slides/12 - EBM.pdf。配套 Notebook 与动手实践模式仓库根目录按编号存放 20 个 Jupyter Notebook见 find_files 结果对应的根目录文件列表与课程表一一对应教学主线01-tensor_tutorial、02-space_stretching、03-autograd_tutorial、04-spiral_classification、05-regression、06-convnet、07-listening_to_kernels、08-seq_classification、09-echo_data、10-autoencoder、11-VAE、12-regularization、13-bayesian_nn、14-truck_backer_upper、15-transformer、16-gated_GCN进阶补充extra/目录下的a-projections.ipynb、b-custom_grads.ipynb、optimization.ipynb。一个值得注意的设计是填空式编程练习以 00-logic_neuron_programming.ipynb 为例Notebook 用pass # ⬅️✏️标记待补代码要求读者在进入下一个单元格前手动实现自己的神经元与神经网络——这种手写核心逻辑的方式比直接阅读现成实现更能建立对前向传播与反向传播的直觉。本地环境搭建与运行依据根目录 README.md 及日语版 docs/ja/README-JA.md完整环境搭建流程如下适用于 macOS / Ubuntu LinuxWindows 用户建议在 Git BASH 终端中操作安装 Miniconda从 Anaconda 官网下载并安装支持 Python ≥ 3.7 的最新版 Minicondawget http:// link to miniconda sh miniconda*.sh获取本仓库git clone https://gitcode.com/gh_mirrors/pyt/pytorch-Deep-Learning创建隔离的 Conda 环境进入仓库根目录后执行cd pytorch-Deep-Learning conda env create -f environment.yml source activate NYU-DLenvironment.yml 声明了环境名NYU-DL依赖来自conda-forge与pytorch两个频道核心包包括python、pip、matplotlib、jupyterlab、ipymplJupyter 交互绘图、pytorch、torchvision、torchtext、opencv、librosa音频处理服务于 1D 卷积/听内核实验并通过 pip 额外安装torchviz模型计算图可视化。启动 Notebook二选一推荐 JupyterLabjupyter lab经典界面则使用jupyter notebook暗色主题建议课程在 GitHub 与 Jupyter Notebook 上均使用暗色主题。JupyterLab 内置可选的暗色主题若使用经典 Notebook 界面需自行安装 Jupyter Notebook 暗色主题与 GitHub 暗色主题后者需注释掉invert #fff to #181818代码块。教学团队与社区课程团队信息同样记录在主页日语版与英文版一致讲师 Yann LeCunNYU 计算机科学系 Silver 教授图灵奖得主与 Alfredo CanzianiNYU 计算机科学系助理教授助教 Mark GoldsteinNYU CS 博士研究生网站管理员 Zeming LinNYU CS 博士研究生。人物头像位于 docs/images/Yann.png、docs/images/Mark.png、docs/images/Zeming.png。多语言翻译与注意事项本仓库的文档站点提供了英语、中文、日语、韩语、西班牙语、意大利语、土耳其语、阿拉伯语、法语、波斯语、俄语、越南语、塞尔维亚语、葡萄牙语、孟加拉语、匈牙利语等多语种版本日语版入口为 docs/ja/index.md。日语主页特别声明站点文本源于 NYU 学生的课堂笔记日语翻译由多位志愿者协作完成措辞、译词与行文风格可能不统一也可能存在误译、漏译或笔误发现此类问题时欢迎提交 Pull Request并在标题中以[JA]前缀标注与日语翻译相关的内容。赞分享示例工程【免费下载链接】NYU-DLSP20NYU Deep Learning Spring 2020项目地址https://gitcode.com/gh_mirrors/pyt/pytorch-Deep-Learning点击查看免费下载相关推荐MatterconnectedhomeipESP32 All Clusters Minimal App 从编译到集群控制实战指南MatterconnectedhomeipESP32 All Clusters Minimal App 从编译到集群控制实战指南 导读本文以 exampl示例工程NYU-DLSP20 深度学习课程全景指南PyTorch 实战 Notebook 与 14 周学习路线NYU DLSP20 深度学习课程全景指南PyTorch 实战 Notebook 与 14 周学习路线 本篇技术指南以开源仓库 pytorch Deep Le示例工程免费微信聊天记录导出教程3 条命令用 WeChatMsg 把全部历史存成文档免费微信聊天记录导出教程3 条命令用 WeChatMsg 把全部历史存成文档 想换手机或想把某些对话留作纪念时你会发现微信客户端根本没有导出菜单。We示例工程上一篇网盘直链下载助手使用指南如何 3 步获取 9 家网盘直链下一篇30分钟上手 RealSense SDKD435i 深度相机开发实战指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考