简介这是一份围绕去噪扩散概率模型DDPM的Python实现资源面向计算机、电子信息、数学等专业的学生可用于理解生成模型原理、完成课程设计或毕业设计中的图像生成任务。压缩包共20个文件包含17个Python脚本、1个文本说明、1张效果示意图和1个Markdown文档大小仅985KB。17个脚本按模型定义、扩散工具、训练脚本和数据运行等模块组织入口清晰便于局部替换和二次开发既有CIFAR、LSUN、CelebA-HQ等数据集的运行脚本也包含扩散模型基础工具函数文本与Markdown说明则对环境配置和代码阅读提供引导。已有325人学习下载。代码采用参数化编程注释详细便于直接运行、修改参数、对照效果也适合搭配课程项目逐步调试对于希望深入理解去噪扩散过程并快速上手动手实验的读者这是一个结构清晰的起点。1. diffusion去噪扩散概率模型标签写着matlab解压后是你需要的DDPM Python实现我整理下载目录时翻出这份“diffusion去噪扩散概率模型附python代码.zip”第一反应是警惕资源列表的标签写着matlab可压缩包里全是.py和requirements.txt。其实这不是发错包很多课程资源站在上传时会把一批文件的共用标签打上去导致Python项目被挂上matlab关键词真实内容是完整的基于TensorFlow的去噪扩散概率模型DDPM参考实现。压缩包里的结构很典型diffusion_tf目录放网络与工具函数scripts目录下是run_cifar.py、run_lsun.py、run_celebahq.py三个训练入口models里是损失与调度相关逻辑resources/samples.png是训练过程中的采样预览图README和requirements.txt负责把你领进门。它适合两类人读刚读完扩散模型论文、想知道q_sample和U-Net在代码里怎么落地的学生以及要在自己数据集上做图像生成、需要一份干净基线的从业者。它不是双击就出图的傻瓜包但它能让你最快把公式与训练循环对上号。2. 论文公式到代码行q_sample、噪声调度和U-Net在diffusion_tf里怎么落地2.1 前向加噪与q_sample一次随机采样替代1000步迭代DDPM的前向过程用一句话能说完把一张干净图像x0按时间步t逐级加噪直到t接近T时变成纯高斯噪声。数学上写作q(x_t|x_0) N(x_t; sqrt(ᾱ_t)x0, (1-ᾱ_t)I)其中ᾱ_t是所有前序步(1-β_s)的累积乘积。扩散模型早期最容易卡住的地方是训练时根本不需要真的从t0循环跑到t1000只需要利用重参数化技巧一次性从任意时间步t采样出加噪结果。这既是DDPM计算高效的原因也是代码里q_sample函数存在的意义——一次采样代替一整个前向链条。这份包里q_sample的逻辑可以在diffusion_tf/diffusion_utils_2.py里找到对应实现。我习惯先用numpy把逻辑写清楚再去对照TF源码import numpy as np def linear_beta_schedule(beta_start1e-4, beta_end0.02, timesteps1000): # 线性从 1e-4 升到 0.02共 1000 个扩散步 return np.linspace(beta_start, beta_end, timesteps, dtypenp.float64) def q_sample(x0, t, betas): # x0: [batch, h, w, c]图像值域通常在 [-1, 1] # t : [batch]每个样本可以取不同的扩散时刻 alpha_bar np.cumprod(1.0 - betas) # 一次算完所有累积系数 ab_t alpha_bar[t].reshape(-1, 1, 1, 1) # 广播到 [batch, 1, 1, 1] noise np.random.randn(*x0.shape).astype(np.float32) x_t np.sqrt(ab_t) * x0 np.sqrt(1.0 - ab_t) * noise return x_t.astype(np.float32), noise逻辑说明alpha_bar是长度为1000的一维数组第t个元素就是ᾱ_t。通过索引把它取出来然后reshape成可广播的维度让每个batch样本乘上自己的系数。这是标准的重参数化写法随机性全部集中在noise这一个变量里。你如果去看包里的TF实现会发现它用tf.gather代替了直接索引还会有一个_extract_into_tensor之类的辅助函数处理维度广播核心思想完全一致。参数说明beta_start取1e-4意味着最开始的噪声几乎可以忽略beta_end取0.02表示最后一步噪声比例已经很高timesteps1000是DDPM原论文默认值。如果你把timesteps改成2000或4000理论上有助更平滑的生成过渡但训练步数和显存占用都会线性增加入门阶段不建议动它。2.2 时间步嵌入与U-Net去噪器nn.py里的网络输入比图像多一个t反向过程要训练一个去噪网络输入是当前噪声图x_t输出是预测噪声ε。这里有个容易被忽略的点网络必须知道当前时刻t因为同一张x_t在第100步和第900步对应的噪声强度完全不同。解决办法是把t编码成一个向量像Transformer位置编码一样打进网络的每一层。这份包里这个逻辑在diffusion_tf/nn.py里实现。常见的写法是这样的def timestep_embedding(timesteps, dim, max_period10000): # timesteps: [batch] 的整数张量dim: 嵌入维度 half dim // 2 freqs np.exp(-np.log(max_period) * np.arange(half) / half) args tf.cast(timesteps[:, None], tf.float32) * freqs[None, :] return tf.concat([tf.cos(args), tf.sin(args)], axis-1)逻辑说明dim通常取模型基础通道数的4倍比如U-Net第一层128通道那这里就是512维。freqs按对数间隔分布在1到max_period之间t越大编码里高频成分越少。这样的设计让网络对时间步的敏感度在不同尺度上都被保留相邻时刻的嵌入向量相似但不相等。U-Net主体在nn.py里通常长这样我给你一个浓缩版框架def unet(x, t, ch128, ch_mult(1, 2, 2, 2)): # x: 噪声图像 [batch, h, w, 3]t: 时间步 [batch] temb timestep_embedding(t, ch * 4) # 时间步嵌入 temb tf.nn.swish(tf.layers.dense(temb, ch * 4)) h conv2d(x, ch, 3, 1) # 3 通道输入转为 ch 通道 h res_block(h, temb) # 下采样路径上的 ResBlock h attention(h) # 低分辨率特征上加自注意力 h downsample(h) h res_block(h, temb) # 上采样路径上的 ResBlock h conv2d(h, 3, 3, 1) # 输出通道数等于输入图像通道数 return h # 语义预测噪声 ε逻辑说明ResBlock会接收两个输入一个是图像特征h一个是时间嵌入temb。temb通过全连接层变换后以偏置或缩放方式注入特征网络因此能感知当前处于哪个噪声区间。attention加在分辨率最低的几层用于捕捉长距离依赖这在生成人脸或场景时非常重要。最后的输出层通道数等于3与输入图像通道一致因为要预测的是逐像素的噪声。这里特别提醒不要照着我这段浓缩框架去改原包nn.py里的实现会更细包括GroupNorm、SiLU激活以及不同尺度的通道数配置。读代码时先找到res_block和attention两个函数比从头读unet更方便。2.3 训练目标为什么只有一项噪声MSE重建x0反而多余DDPM的训练目标在论文里推导了一大段落地的损失却简单得让人怀疑。核心只有一行让网络预测的噪声尽可能接近真实加入的噪声。def p_losses(denoise_fn, x0, t, betas): # denoise_fn: 上面那个 U-Net 的调用函数 # x0: 真实图像t: 随机采样的扩散时刻 [batch] noise tf.random.normal(tf.shape(x0)) # 真实加入的噪声 x_t, _ q_sample(x0, t, betas, noise) # 加噪结果 pred_noise denoise_fn(x_t, t) # 网络预测噪声 loss tf.reduce_mean(tf.square(noise - pred_noise)) return loss逻辑说明q_sample接收noise参数后直接把噪声注入x0然后U-Net从x_t里尝试还原这个噪声。tf.reduce_mean对batch、高度、宽度和通道全部取平均得到一个标量损失。训练时每次随机采样一批t不按时间顺序遍历这也是扩散模型训练快的原因之一。为什么不直接预测x0因为x0的像素值范围大且分布复杂网络很难直接回归而噪声是标准正态分布均值为0方差为1回归目标更平稳梯度也更稳定。你在包里看到p_losses相关代码时注意它只返回这一项MSE没有额外加重建损失或对抗损失这是DDPM最清爽的地方。3. 从requirements.txt到run_cifar.py环境准备、脚本选择和第一次出图3.1 依赖角落TensorFlow版本和tpu_utils怎么办这份包里的代码有明显的TF 1.x时代特征requirements.txt给出了依赖列表但仓库的上传时间决定了它最初适配的TensorFlow版本较老。我建议优先用TF 1.15最稳。如果你机器上只有TF 2.x也不是不能跑但大概率会遇到类似tf.log被移除、tf.ConfigProto被改名这类兼容性问题。解决办法是开一个独立conda环境把TensorFlow固定在1.15.0避免影响你其他项目的依赖。tpu_utils这个文件乍看很吓人里面封装了TPU相关的分布式训练逻辑。本地用GPU训练时这些代码基本不会被走到你不需要专门测试TPU分支。问题是某些版本的代码在import阶段会尝试加载TPU相关库如果你的环境没有对应符号就会报错。碰到这种情况直接把import那几行注释掉或者用try-except包起来不影响单卡训练。3.2 训练入口三个脚本怎么选run_cifar.py的参数怎么传scripts目录下有三个入口用途是不同的脚本文件适用数据集建议用途run_cifar.pyCIFAR-10入门调试、验证环境run_lsun.pyLSUN全类别大规模场景训练run_celebahq.pyCelebA-HQ人脸生成方向第一次跑不要碰后面两个直接run_cifar.py。CIFAR-10是32x32的小图迭代速度快出了问题也能迅速定位。常见命令是# 数据目录、检查点目录、运行模式 python scripts/run_cifar.py --data_dir./data/cifar10 \ --ckpt_dir./ckpts \ --modetrain参数说明data_dir指向存放CIFAR-10数据集的目录代码一般会自动下载ckpt_dir是模型检查点保存位置训练中会定期写ckpt文件mode有三个可选值train、eval、sample分别对应训练、评估和生成采样。如果你只想验证代码能跑把batch_size从默认值调小参数一般写在脚本顶部或者用--batch_size传入。我一般会在第一次跑时把batch_size压到16训练步数减少到几千步先确认loss曲线能下降再回来跑完整配置。3.3 resources/samples.png与第一轮出图判断压缩包里resources/samples.png是作者训练过程中的采样预览图你可以把它当作参考标尺。训练开始后代码会在检查点目录周期性生成类似的samples.png从最开始的纯色噪声块逐渐变成有模糊轮廓的图像。判断是否正常的标准有三个loss曲线单调下降不震荡samples.png里不同位置的样本在往不同方向分化图像从噪声蜕变成物体轮廓的时间点不早不晚。如果训练了几百步samples.png还是一团死白或全黑先别急着调网络结构回看下一节列的这几个坑。4. 避坑指南跑这套DDPM源码的五个高频问题与排查思路4.1 现象一import tensorflow直接抛错现象环境里明明装了TensorFlow一运行run_cifar.py就报错提示找不到某个符号或module没有属性。原因包写的时代比较早代码用了大量tf1.x专属API。TF 2.0之后tf.Session、tf.log被移除或改名导致import阶段就炸了。解决创建独立环境并固定版本。我一般是这么做的conda create -n ddpm python3.7 conda activate ddpm pip install tensorflow1.15.0 numpy不要拿全局环境硬扛这个包不值得你为它破坏现有项目。如果坚持TF 2.x可以在脚本开头添加兼容补丁把缺失的API手工映射过去但工作量取决于代码使用了多少旧接口不如直接回到TF 1.15省事。4.2 现象二显存OOMbatch 128在消费级显卡上跑不动现象启动训练后几秒内直接报CUDA out of memory进程退出。原因默认batch_size是128图像虽然只有32x32但U-Net内部特征图通道多加上正向和反向两次传播显存峰值很容易突破12G。消费级显卡比如1060、2060、3060在这种配置下撑不住。解决把batch_size降到16或32同时把num_workers调小。降batch不影响代码逻辑只是训练步数要相应增加。另外一个技巧是关掉占用显存的一些终端程序或者用nvidia-smi确认没有其他进程缓存显存。我通常会先跑一个batch_size8的验证确认显存余量足够再逐步往上加。4.3 现象三LSUN数据读取失败现象运行run_lsun.py时报错说找不到图片文件或者目录结构不对。原因LSUN数据集的原始格式是lmdb不是普通的jpg文件夹读取。有些脚本版本期望目录里是解压好的tfrecords或者特定的train/val子目录结构你直接把下载的LSUN压缩包放到data_dir下是不够的。解决先用脚本自带的预处理工具或者手工把lmdb转换成图片目录。如果你是新手我建议完全避开LSUN用CIFAR-10或自己的jpg图片数据集先跑通。LSUN全流程踩坑成本偏高不适合做第一个跑通项目。4.4 现象四训练几百步后loss变成NaN现象loss曲线稳定下降突然某一步开始变成nan并且之后永远回不来。原因最常见的是学习率过高导致梯度爆炸少数情况是数据集里存在异常像素值。DDPM的损失虽然是MSE但U-Net深度较深残差连接在训练初期很容易让梯度累积膨胀。解决把学习率调低一个数量级同时确认脚本里有没有梯度裁剪。如果没有在optimizer.apply_gradients之前加一行grads, vars zip(*optimizer.compute_gradients(loss)) grads, _ tf.clip_by_global_norm(grads, 1.0) optimizer.apply_gradients(zip(grads, vars))这样做能让梯度范数被限制在1.0以内NaN出现的概率大幅下降。正常训练里loss保持在几百到几千范围内浮动属于正常现象。4.5 现象五samples.png全灰或全黑现象训练了很长时间采样的samples.png要么一片灰色要么全黑什么轮廓都看不见。原因模型输出的值域是[-1,1]而保存图片时很多绘图函数默认期望[0,1]。直接把[-1,1]数据当成[0,1]写入PNG小于0的值会被截断成0图像自然发黑。解决保存前做一次线性变换grid (grid 1.0) / 2.0 grid np.clip(grid, 0.0, 1.0)如果换完还是全灰说明模型确实没学出来那就回去看loss是不是已经收敛或者崩掉了而不是继续调显示逻辑。5. 改造换数据、换噪声调度、接EMA把它变成自己的生成引擎5.1 自定义数据集用tf.data读自己的jpg目录把CIFAR换成自己的图片集不需要改U-Net结构只需要替换数据管道。我一般会用tf.data.Dataset.list_files读目录下所有jpg文件def load_custom_dataset(data_dir, batch_size, image_size64): # data_dir: 存放jpg/png图片的文件夹 paths tf.data.Dataset.list_files(f{data_dir}/*.jpg) ds paths.map(lambda p: read_and_resize(p, image_size), num_parallel_calls4) ds ds.map(lambda x: (tf.cast(x, tf.float32) - 127.5) / 127.5) ds ds.shuffle(10000).batch(batch_size).prefetch(2) return ds逻辑说明第一行读取所有jpg路径第二行并行解码并缩放到64x64第三行把像素从0-255归一化到-1到1保证和U-Net的输入预期一致。shuffle缓冲设为10000防止训练时总出现连续相似图片prefetch是让CPU提前准备下一批数据减少GPU等待。image_size参数要和脚本里定义的模型分辨率一致如果图片本身很大先中心裁剪再resize效果更好直接resize容易导致物体变形。5.2 噪声调度线性换成余弦为什么值得换原版DDPM用的是线性β调度从1e-4线性上升到0.02。但很多复现实验发现线性调度在t接近T时噪声增加过快导致后段扩散步几乎完全随机模型难以学习。改进版本是余弦调度def cosine_beta_schedule(timesteps1000, s0.008): # s 控制调度曲线在两端的光滑程度 steps np.arange(timesteps 1) / timesteps alpha_bar np.cos((steps s) / (1 s) * np.pi / 2) ** 2 betas np.minimum(1.0 - alpha_bar[1:] / alpha_bar[:-1], 0.999) return betas逻辑说明steps把0到1均匀切成1000份alpha_bar由余弦函数平方给出β_t由相邻alpha_bar的比值反推。加上min操作防止β_t超过0.999导致数值不稳定。换用余弦调度后前向加噪的过程更平滑t较小时仍保留足够细节t较大时也不至于瞬间全噪。改法很简单把线性调度函数替换成这个然后重新训练。要注意的是调用线性调度的地方传beta_start和beta_end参数换成余弦后这些参数就无意义了需要同步修改调用方式。5.3 加EMA并用上检查点里的历史权值EMA指数移动平均是扩散模型训练里很常见的技巧。使用EMA的原因模型快照经过指数平滑后往往会比当前实时权重更稳定尤其是训练后期噪声带来的摆动会被抹平。常见做法是维护一组影子变量ema_decay 0.999 shadow optimizer.apply_gradients(...) # 正常更新权重 # 然后对每个变量执行 # shadow_var ema_decay * shadow_var (1 - ema_decay) * var如果你换数据重新训练EMA的初始值会从当前权重复制训练过程中影子变量一路跟踪。采样阶段用影子变量生成图片视觉效果往往比用当前权重更干净。原包检查点里有时会保存多个历史epoch的权重你可以观察不同时刻checkpoint的采样结果选效果最好的那个权重来生成这是不花额外计算时间就能提升画质的办法。6. 验证与进阶从采样循环到FID确认模型没有学偏6.1 手动写一份p_sample_loop把生成握在自己手里训练本身不能保证生成质量一定好采样循环才是真正交付结果的环节。我习惯单独写一份采样循环独立于训练脚本方便随时快速验证import numpy as np def p_sample_loop(denoise_fn, x_shape, betas): # x_shape: 比如 (8, 32, 32, 3)一次生成8张图 alpha_bar np.cumprod(1.0 - betas) x np.random.randn(*x_shape).astype(np.float32) for i in reversed(range(len(betas))): t np.full((x_shape[0],), i, dtypenp.int32) eps denoise_fn(x, t) # U-Net预测噪声 ab_t alpha_bar[i] ab_prev alpha_bar[i - 1] if i 0 else 1.0 beta_t betas[i] # 反推x0并裁剪提高数值稳定性 x0 (x - np.sqrt(1.0 - ab_t) * eps) / np.sqrt(ab_t) x0 np.clip(x0, -1.0, 1.0) # 后验方差 sigma np.sqrt((1.0 - ab_prev) / (1.0 - ab_t) * beta_t) # 去噪均值当前噪声图与x0的加权组合 mean np.sqrt(ab_prev) * x0 np.sqrt(1.0 - ab_prev - sigma**2) * eps x mean sigma * np.random.randn(*x_shape).astype(np.float32) return x # 返回 [batch, h, w, 3]值域在 [-1, 1]逻辑说明循环从t999倒推到t0每一轮用noise预测eps、反推x0然后计算当前步的均值与方差并采样下一步。sigma项代表反向过程的不确定度它保证随机性在整个生成链中保留否则最终结果会退化成均值漂移的一团模糊。输出值域仍然是[-1,1]保存前要做归一化。6.2 用FID做客观指标不能只靠看着行肉眼判断容易自欺欺人尤其当你盯着同一批样本看了很久。FIDFréchet Inception Distance是扩散模型最常用的客观指标数值越低代表生成分布越接近真实分布。计算方法是把真实图和生成图都送入Inception V3拿特征向量然后算两组特征分布的均值和协方差from scipy.linalg import sqrtm def compute_fid(mu_real, sigma_real, mu_gen, sigma_gen): # 特征向量按行存放每个样本一行 cov_sqrt sqrtm(sigma_real sigma_gen) if np.iscomplexobj(cov_sqrt): cov_sqrt cov_sqrt.real # 数值误差会产生极小虚部取实部 diff mu_real - mu_gen return np.sum(diff**2) np.trace(sigma_real sigma_gen - 2 * cov_sqrt)说明不需要重新训练分类网络直接加载预训练Inception V3把瓶颈层之前的一层输出当作特征。我的经验是生成图片数量建议在10000张以上再算FID太少时协方差估计不准指标波动很大。用上面的余弦调度和EMA后FID通常会比基准有明显下降这是量化你改造效果的直接证据。6.3 我的小验证习惯每次搭建或者改造diffusion项目我都强制自己走一遍固定流程先拿16张图、batch_size8跑500步确认loss下降且samples.png从纯噪声蜕变成模糊轮廓再上完整训练。这一步只需要几分钟却能节省大量排查时间。从那以后我几乎没再浪费过大机器资源凡是看着loss不降、sample全黑的情况都先回到这个小实验里定位问题。希望这些经验能帮到你少走一点debug的弯路。本文还有配套的精品资源点击获取