教育人工智能深度学习【免费下载链接】pyre-codeA self-hosted ML coding practice platform. 68 problems from ReLU to flow matching — attention, training, RLHF, diffusion, and more. Instant feedback in the browser.项目地址https://gitcode.com/gh_mirrors/py/pyre-code点击查看免费下载Pyre Code 是一个自托管的机器学习编程练习平台本文带你走通它的「扩散模型与 DiT」学习路径在浏览器里从零实现 Noise Schedule、DDIM 采样、Flow Matching 损失和 adaLN-Zero 条件注入 4 个核心组件提交后几秒内就能看到每个测试用例的通过情况无需 GPU、无需配置 IDE。为什么用 Pyre Code 从零实现扩散模型 扩散模型Diffusion Models驱动着 Stable Diffusion 3、Flux 乃至 Sora 这一代生成模型但大多数人只停留在会用层面。Pyre Code 的思路是读论文然后亲手把公式写成代码。平台由本地评分服务FastAPI torch_judge自动运行测试用例你写什么、错在哪立刻可见。扩散模型专题共 4 道题由浅入深正好构成一条完整链路顺序题目难度核心概念题目定义文件1扩散噪声调度Noise Schedule⭐ Easy信噪比 ᾱ 的三种调度noise_schedule.py2DDIM 采样步骤⭐⭐ Medium确定性去噪单步ddim_step.py3流匹配损失Flow Matching⭐ Easy速度场与直线路径flow_matching.py4adaLN-Zero⭐⭐ MediumDiT 条件注入机制adaln_zero.pyPyre Code 本地部署一键启动扩散模型练习环境前置要求Python 3.11 与 Node.js 18。克隆仓库后一条脚本搞定依赖git clone https://gitcode.com/gh_mirrors/py/pyre-code cd pyre-code ./setup.sh npm run devsetup.sh会自动创建.venv、安装全部依赖优先使用uv否则回退到python -m venv。Windows 用户可用 setup.ps1 或 setup.bat更喜欢容器化可以用 docker-compose.yml 执行docker compose up --build。启动后访问http://localhost:3000进入网页端Monaco 代码编辑器评分服务运行在http://localhost:8000。详细步骤见 README.md。第一步Noise Schedule —— 扩散噪声调度从零实现噪声调度是扩散模型的地基。核心量是α 上划线ᾱ各时间步 (1 − β) 的累积乘积控制信号与噪声的比例——ᾱ 接近 1 表示几乎全是信号接近 0 表示几乎全是噪声。题目要求实现三种经典调度返回单调递减、值域 (0, 1] 的 ᾱ 张量linearβ_t 从 1e-4 线性增到 0.02再累积乘积cosine用余弦函数直接给出 ᾱ_tSD3 之前最常用的调度之一sigmoid用 S 形曲线生成 β平滑过渡、两端更保守动手建议三种调度共用一个入口函数noise_schedule(num_timesteps, schedule_type)先写 linear两行公式再写 cosine最后处理 sigmoid 的 min-max 缩放到 [β_start, β_end]。评分用例会检查形状、单调性、首尾取值以及未知调度类型是否正确抛错——完整测试集见 noise_schedule.py参考解法在 noise_schedule.py。第二步DDIM Step —— 确定性采样步骤实现DDIMDenoising Diffusion Implicit Models把采样过程变成确定性的不再每步注入随机噪声同样输入总能得到同一张图也为加速采样如 50 步降到 20 步铺平道路。单步更新只需 3 行核心逻辑预测 x0x0_pred (x_t - sqrt(1 - ᾱ_t) * ε) / sqrt(ᾱ_t)指向 x_t 的方向noise_dir sqrt(1 - ᾱ_{t-1}) * ε合成上一步x_{t-1} sqrt(ᾱ_{t-1}) * x0_pred noise_dir其中ε是模型的噪声预测。题目会验证两个关键性质当alpha_bar_prev 1时输出应恰好等于 x0_pred当两步 ᾱ 相等时输出应原样返回 x_t——这两个退化情形是检验公式是否写对的最快方法。参考实现见 ddim_step.py。小技巧平台提供了 demo 区提交前可以先跑内置演示观察含噪样本经过多步 DDIM 后如何一步步逼近干净信号。第三步Flow Matching —— 流匹配损失实现SD3/Flux 同款范式Flow Matching 是 Stable Diffusion 3、Flux 背后的生成范式比传统扩散模型更简洁直观把噪声 x0 沿直线路径输运到数据 x1让网络学习这条路径上的速度场。妙处在于——直线运动的速度是常数插值点x_t t * x1 (1 - t) * x0t ∈ [0, 1]在模型调用前外部算好目标速度u_t x1 - x0损失预测速度与目标速度的 MSE整个损失函数只有两行但它让你真正理解速度场与噪声预测的对应关系扩散模型预测噪声流匹配模型预测速度二者在直线路径下等价。完美预测时损失严格为 0这也是测试用例之一。参考实现见 flow_matching.py。第四步adaLN-Zero —— DiT 条件注入机制实现前三题解决数学这一题解决架构DiTDiffusion Transformer, ICCV 2023如何让 Transformer 感知时间步和类别标签答案是adaLN-Zero将条件嵌入时间步 类别标签线性投影出 6 组参数γ1、β1、α1、γ2、β2、α2手动对输入 token 做 LayerNorm无可学习仿射调制输出out α1 * (γ1 * x_norm β1)γ 缩放、β 偏移、α 门控精髓在 Zero门控参数 α零初始化整个模块初始时输出全零、等价于恒等通路训练从什么都不做平稳起步。题目用chunk(6)切分参数、unsqueeze(1)广播到 N 个 token两个 PyTorch 广播细节就是主要考点。测试会验证零权重 → 零输出和恒等调制 → 恰好等于 LayerNorm 结果参考实现见 adaln_zero.py。学习路径与练习建议 按顺序推进「扩散模型与 DiT」学习路径含 5 题另加 ViT Block已在平台内置路径定义见 paths.json建议顺序噪声调度 → DDIM → 流匹配 → adaLN-Zero卡住先看 Hint每题内置中文提示例如 DDIM 一题的提示直接给出三步公式骨架提交后对答案独立完成后查看参考解法对比实现思路差异比直接抄读收获大得多AI Help可选平台支持接入任意 OpenAI 兼容 API 获取提示配置见 README 的 AI Help 一节纯本地运行除 AI Help 外所有数据不出本机进度记录在 SQLite 中跨会话保留完成这 4 道题你就亲手实现了扩散模型训练与推理管线中最核心的四个环节——这正是 Pyre Code 从 ReLU 到 flow matching 的练习哲学。赞分享教育人工智能深度学习【免费下载链接】pyre-codeA self-hosted ML coding practice platform. 68 problems from ReLU to flow matching — attention, training, RLHF, diffusion, and more. Instant feedback in the browser.项目地址https://gitcode.com/gh_mirrors/py/pyre-code点击查看免费下载相关推荐Diffusers 归一化层详解AdaLN、adaLN-Zero 与 RMSNorm 在扩散 Transformer 中的实现Diffusers 归一化层详解AdaLN、adaLN Zero 与 RMSNorm 在扩散 Transformer 中的实现 本文基于 Diffusers人工智能媒体生成深度学习音频机器人动作如何注入扩散模型Boundless-World-Model 的 adaln 与 noise 双注入机制全拆解机器人动作如何注入扩散模型Boundless World Model 的 adaln 与 noise 双注入机制全拆解 Boundless World ModARIS 扩散模型基础全解析DDPM / Score / DDIM / EDM / CFG 公式推导、从零 PyTorch 实现与 25 道高频面试题ARIS 扩散模型基础全解析DDPM / Score / DDIM / EDM / CFG 公式推导、从零 PyTorch 实现与 25 道高频面试题 本文是AI 技能/插件AI 评测科研人工智能MCP 服务dsh-plugin创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考