One Forth

A09 · 第 5 章 · 第三编 扩散模型与综合复习

得分匹配、扩散过程与反向采样

从高斯逐步加噪和闭式边缘出发，推导 DDPM 的反向高斯模型、后验均值、噪声预测目标及其得分关系，分析噪声调度、条件引导、采样步数、训练采样成本与似然和样本评价边界。

难度 5/5约 240 分钟最近修订 2026-07-14
报告页面错误
预备知识正规化流与可逆变换连续概率分布常微分方程与动力系统综合复习神经网络与反向传播综合复习

本章目标

  1. 由逐步高斯转移推导任意时间的闭式加噪分布并直接采样。
  2. 计算真实后验的均值方差，并把噪声预测转换为反向模型均值。
  3. 解释最小均方噪声预测与条件得分、边缘得分之间的关系和限制。
  4. 比较噪声调度、反向方差、采样步数与数值误差，不把减步写成无损替换。
  5. 界定条件引导、训练成本、采样成本、似然界与样本质量评价能支持的结论。
页面阅读位置0% · 仅保存在此浏览器
章节未开始
本册完成进度0/6 章 · 0%
本页目录

用固定前向链逐步破坏数据

设数据样本为 x0∼qdatax_0\sim q_{\mathrm{data}}。DDPM 定义不训练的前向 Markov 链：

q(xt∣xt−1)=N ⁣(xt;αtxt−1,βtI),αt=1−βt,q(x_t\mid x_{t-1}) =\mathcal N\!\left( x_t;\sqrt{\alpha_t}x_{t-1},\beta_t I \right), \qquad \alpha_t=1-\beta_t,

其中 0<βt<10<\beta_t<1。等价采样式为

xt=αtxt−1+βtϵt,ϵt∼N(0,I).x_t=\sqrt{\alpha_t}x_{t-1}+\sqrt{\beta_t}\epsilon_t, \qquad \epsilon_t\sim\mathcal N(0,I).

每一步缩小已有信号并加入独立高斯噪声。若调度使累计信号接近零，末端 xTx_T 的边缘近似标准高斯，便可从简单先验开始反向生成。“近似”取决于累计噪声、有限步数和数据归一化，不能仅因 TT 很大就跳过检查。

输入尺度属于模型定义。图像若从整数区间映射到某个连续范围，训练和采样结束后的逆变换必须一致；超出范围的输出如何裁剪或量化也会影响评价。

闭式边缘允许一步抽取任意噪声层

令

αˉt=∏s=1tαs.\bar\alpha_t=\prod_{s=1}^{t}\alpha_s.

逐步代入并利用独立高斯线性组合仍为高斯，可得

q(xt∣x0)=N ⁣(xt;αˉtx0,(1−αˉt)I),q(x_t\mid x_0) =\mathcal N\!\left( x_t;\sqrt{\bar\alpha_t}x_0,(1-\bar\alpha_t)I \right),

因此训练时可直接采样

xt=αˉtx0+1−αˉtϵ,ϵ∼N(0,I).x_t=\sqrt{\bar\alpha_t}x_0 +\sqrt{1-\bar\alpha_t}\epsilon,\qquad \epsilon\sim\mathcal N(0,I).

这避免为了得到随机 xtx_t 而从第一步循环到第 tt 步。训练一次通常为每个样本随机抽一个时间步并执行一次去噪网络；前向链有许多概念步骤，不等于每个训练样本要顺序运行全部步骤。

例 1：两步加噪合并为一个高斯

取 β1=0.2,β2=0.3\beta_1=0.2,\beta_2=0.3，于是 α1=0.8,α2=0.7\alpha_1=0.8,\alpha_2=0.7，αˉ2=0.56\bar\alpha_2=0.56。逐步式为

x1=0.8x0+0.2ϵ1,x2=0.7x1+0.3ϵ2.x_1=\sqrt{0.8}x_0+\sqrt{0.2}\epsilon_1, \qquad x_2=\sqrt{0.7}x_1+\sqrt{0.3}\epsilon_2.

代入后，x0x_0 的系数为 0.7×0.8=0.56\sqrt{0.7\times0.8}=\sqrt{0.56}；噪声方差为 0.7×0.2+0.3=0.44=1−0.560.7\times0.2+0.3=0.44=1-0.56。故

x2=0.56x0+0.44ϵx_2=\sqrt{0.56}x_0+\sqrt{0.44}\epsilon

在分布上成立，其中 ϵ\epsilon 是新的标准高斯。它不是简单把 ϵ1+ϵ2\epsilon_1+\epsilon_2 当标准高斯，而是把有权独立噪声重新标准化。

反向模型近似不可直接取得的逆过程

给定 x0x_0 时，前向链的单步后验仍是高斯：

q(xt−1∣xt,x0)=N(xt−1;μ~t(xt,x0),β~tI),q(x_{t-1}\mid x_t,x_0) =\mathcal N(x_{t-1};\tilde\mu_t(x_t,x_0),\tilde\beta_t I),

其中

β~t=1−αˉt−11−αˉtβt,\tilde\beta_t =\frac{1-\bar\alpha_{t-1}}{1-\bar\alpha_t}\beta_t,
μ~t=αˉt−1βt1−αˉtx0+αt(1−αˉt−1)1−αˉtxt.\tilde\mu_t =\frac{\sqrt{\bar\alpha_{t-1}}\beta_t}{1-\bar\alpha_t}x_0 +\frac{\sqrt{\alpha_t}(1-\bar\alpha_{t-1})}{1-\bar\alpha_t}x_t.

生成时未知 x0x_0，所以训练

pθ(xt−1∣xt)=N ⁣(xt−1;μθ(xt,t),Σθ(xt,t)).p_\theta(x_{t-1}\mid x_t) =\mathcal N\!\left(x_{t-1};\mu_\theta(x_t,t),\Sigma_\theta(x_t,t)\right).

均值和方差可按不同参数化学习或固定。公式必须与实现采用的方差、时间索引和边界步一致，不能把一种采样器的系数直接移入另一种。

噪声预测给出常用均值参数化

网络接收 xtx_t 和时间编码，预测加入的噪声 ϵθ(xt,t)\epsilon_\theta(x_t,t)。由闭式加噪式可估计

x^0=xt−1−αˉtϵθ(xt,t)αˉt.\hat x_0 =\frac{x_t-\sqrt{1-\bar\alpha_t}\epsilon_\theta(x_t,t)} {\sqrt{\bar\alpha_t}}.

把它代入后验均值并整理，得到常用形式

μθ(xt,t)=1αt(xt−βt1−αˉtϵθ(xt,t)).\mu_\theta(x_t,t) =\frac{1}{\sqrt{\alpha_t}} \left( x_t-\frac{\beta_t}{\sqrt{1-\bar\alpha_t}} \epsilon_\theta(x_t,t) \right).

训练常从数据、时间步和标准高斯采样，最小化

Lsimple=Ex0,t,ϵ∥ϵ−ϵθ(xt,t)∥22.\mathcal L_{\mathrm{simple}} =\mathbb E_{x_0,t,\epsilon} \left\lVert \epsilon-\epsilon_\theta(x_t,t) \right\rVert_2^2.

这个简化目标与变分训练各时间项有密切关系，但省略或改变了某些权重；不能把未加限定的均方误差直接称为完整精确似然最大化。

训练批次必须保存同一条噪声证据链

一次可复现更新依次执行：从数据集取得并规范化 x0x_0；按已声明的分布抽取整数时间 tt；抽取标准高斯 ϵ\epsilon；用同一个 ϵ\epsilon 构造 xtx_t；把 xtx_t、时间编码和可选条件送入网络；最后让预测与这一个已保存噪声比较。若构造输入后又重新抽噪声作为标签，网络面对的是与输入无关的目标，损失仍会产生数值却无法学到正确去噪关系。

损失归约也需明确。常见做法先对每个样本的空间与通道求平均，再按时间权重和批量平均；若直接把所有元素求和，分辨率和批量会改变梯度尺度。时间步若非均匀采样，要把采样概率与目标权重一起考虑，否则训练目标被悄然改写。记录各时间区间的样本数、均方误差和预测范数，可发现模型只在部分信噪比工作。

时间索引是常见边界错误。代码可能用零到 T−1T-1 存数组，数学却用一到 TT 表示转移；βt\beta_t、αˉt\bar\alpha_t 与时间嵌入必须指向同一层。可构造固定 x0,t,ϵx_0,t,\epsilon 的单元样本，逐项核对 xtx_t、x^0\hat x_0 和 μθ\mu_\theta，并单独检查第一步与最后一步。

若训练保存当前权重和指数滑动平均权重，采样时使用哪一份必须写入模型版本。两份权重产生不同生成分布，不能在评价中混用。噪声预测、x0x_0 预测和其他参数化之间可按调度转换，但损失权重、裁剪规则与采样公式也要同步；仅替换网络输出名称不会得到等价实现。

例 2：一维前向加噪与反推均值

继续使用 α1=0.8,α2=0.7,αˉ2=0.56\alpha_1=0.8,\alpha_2=0.7,\bar\alpha_2=0.56。取 x0=2x_0=2、一次闭式噪声 ϵ=0.5\epsilon=0.5：

x2=0.56×2+0.44×0.5≈1.828.x_2=\sqrt{0.56}\times2+\sqrt{0.44}\times0.5 \approx1.828.

若网络预测 ϵθ=0.4\epsilon_\theta=0.4，则第二步反向均值为

μθ=10.7(1.828−0.30.44×0.4)≈1.969.\mu_\theta =\frac1{\sqrt{0.7}} \left(1.828-\frac{0.3}{\sqrt{0.44}}\times0.4\right) \approx1.969.

若网络恰好预测真实噪声 0.50.5，同一公式给出约 1.9151.915。用真实后验系数计算也得到

μ~2=0.8×0.30.44×2+0.7×0.20.44×1.828≈1.915.\tilde\mu_2 =\frac{\sqrt{0.8}\times0.3}{0.44}\times2 +\frac{\sqrt{0.7}\times0.2}{0.44}\times1.828 \approx1.915.

这验证了噪声参数化与后验均值的一致性。预测误差会改变每一步均值，并可能在长反向链中累积。

噪声预测与得分的关系

对固定 x0x_0，加噪条件分布的对数密度梯度为

∇xtlog⁡q(xt∣x0)=−xt−αˉtx01−αˉt=−ϵ1−αˉt.\nabla_{x_t}\log q(x_t\mid x_0) =-\frac{x_t-\sqrt{\bar\alpha_t}x_0}{1-\bar\alpha_t} =-\frac{\epsilon}{\sqrt{1-\bar\alpha_t}}.

在均方误差下，最优噪声预测是给定 xtx_t 时噪声的条件均值。对数据分布平均后，它对应噪声层边缘密度的得分，因此可写近似

sθ(xt,t)≈−ϵθ(xt,t)1−αˉt.s_\theta(x_t,t) \approx-\frac{\epsilon_\theta(x_t,t)} {\sqrt{1-\bar\alpha_t}}.

这里的得分是对噪声样本坐标的对数密度梯度，不是样本“好坏分数”。有限网络、训练误差和离散时间都会使近似不完美。

例 3：手算条件高斯得分

取 αˉt=0.25\bar\alpha_t=0.25、x0=2x_0=2、观测 xt=1.5x_t=1.5。条件均值为 0.25×2=1\sqrt{0.25}\times2=1，方差为 0.750.75，故

∇xtlog⁡q(xt∣x0)=−1.5−10.75=−23.\nabla_{x_t}\log q(x_t\mid x_0) =-\frac{1.5-1}{0.75} =-\frac23.

对应标准噪声为 ϵ=(1.5−1)/0.75≈0.577\epsilon=(1.5-1)/\sqrt{0.75}\approx0.577，再算

−ϵ/0.75≈−0.577/0.866=−0.667,-\epsilon/\sqrt{0.75}\approx-0.577/0.866=-0.667,

与直接结果一致。时间越接近零，1−αˉt1-\bar\alpha_t 越小，尺度变化越显著，因此时间条件和数值精度必须正确。

从高斯先验逐步采样

生成从 xT∼N(0,I)x_T\sim\mathcal N(0,I) 开始，对 t=T,…,1t=T,\ldots,1 迭代：

xt−1=μθ(xt,t)+σtz,z∼N(0,I).x_{t-1} =\mu_\theta(x_t,t)+\sigma_t z, \qquad z\sim\mathcal N(0,I).

最后一步是否加入噪声、σt2\sigma_t^2 取固定后验方差还是学习值，取决于采样定义。固定随机种子还不够复现：设备算法、精度、调度、条件编码和每一步噪声序列也要一致。

标准离散链每一步都需网络前向，采样成本近似随步数增长。减少到较少时间点需要新的离散化、非马尔可夫更新或数值求解策略；它可能更快，也会改变误差、随机性和样本分布，必须重新评价，不能称为跳过若干步而其他完全不变。

例 4：训练抽时刻与生成走全链的成本差异

设原调度有一千个时间点。一次训练更新可对批中每个 x0x_0 各抽一个 tt，直接构造 xtx_t，通常只需一次去噪网络前向和反向；不需要先执行前面 tt 次网络。

按原反向链生成一个批量则需约一千次网络前向。若改用五十次网络调用，调用数变为原来的二十分之一，但每一步跨越的噪声区间更大。应在相同硬件、批量和条件下实测端到端延迟，并检查覆盖、条件一致性和误差切片；调用数比例不是质量或墙钟加速的保证。

噪声调度决定各时间层的信号

βt\beta_t 或等价的信噪比调度控制每层保留多少 x0x_0 信息。早期噪声过强会让细节迅速丢失，末端累计噪声不足会使 xTx_T 偏离标准高斯。常用线性或非线性调度只是候选，应检查 αˉt\bar\alpha_t、信噪比、各时间损失和采样稳定性。

随机抽时间若均匀，并不表示每个信噪比区间对目标贡献相同。可按理论权重或重要性采样改变训练关注点，但必须连同损失权重记录，否则梯度目标改变。网络的时间编码也需覆盖采样使用的全部时间值；推理若访问训练未定义的连续时间，要明确插值或求解器假设。

条件生成与引导只改变目标的一部分

条件模型把类别、文字或其他观测 cc 输入噪声网络，预测 ϵθ(xt,t,c)\epsilon_\theta(x_t,t,c)。训练数据必须说明条件缺失、错误标签和一对多关系。条件引导在采样时加强条件方向，但并不创建训练中完全不存在的概念。

一种无外部分类器的写法同时训练有条件和无条件分支。定义引导尺度 γ≥1\gamma\ge1：

ϵguide=ϵuncond+γ(ϵcond−ϵuncond).\epsilon_{\mathrm{guide}} =\epsilon_{\mathrm{uncond}} +\gamma\left( \epsilon_{\mathrm{cond}}-\epsilon_{\mathrm{uncond}} \right).

γ=1\gamma=1 给出条件预测，增大它会外推条件差异，通常可能加强条件一致性，却也可能降低多样性、放大伪影或偏差。两次网络预测可批处理，但仍有额外计算。分类器引导则使用噪声层分类器的梯度，依赖另一个经过相应噪声训练的模型；二者不能只因都叫引导而混用公式。

例 5：一维无分类器引导

某一步无条件噪声预测为 0.60.6，条件预测为 0.20.2。当 γ=1\gamma=1 时，引导结果为 0.6+1(0.2−0.6)=0.20.6+1(0.2-0.6)=0.2。当 γ=2\gamma=2 时，结果为 0.6+2(0.2−0.6)=−0.20.6+2(0.2-0.6)=-0.2，已经越过条件预测，而不是在两者之间平均。

把这个值代入反向均值会更强地沿条件方向更新。若条件错误或训练配对有偏差，外推也会放大错误。应扫描引导尺度，同时报告条件符合度、多样性、失败样本和推理成本。

似然、样本质量与覆盖要分开

扩散概率模型可从变分界分析数据负对数似然，也可使用简化噪声损失训练。报告似然时要说明数据离散化、界还是估计、单位和预处理；不同表示下的数值不能直接比较。较好的界不自动产生更符合人类偏好的样本，反之亦然。

样本评价至少分为视觉或领域质量、分布覆盖、条件一致性、记忆与隐私、鲁棒性和成本。特征空间距离依赖所选特征提取器及参考集，可能忽略领域关键差异；少量精美样本不能排除模式遗漏；随机样本也不能证明没有训练样本复现。应使用固定种子批量、最近训练样本检查、按类别或属性覆盖、领域约束和盲化人工协议共同评价。

生成样本外观逼真不等于它来自真实世界，也不等于内容事实正确。用于科学、医学或历史场景时，必须与真实观测、来源和领域验证分开标识。

练习

练习 1：累计噪声
所属知识
前向扩散
难度
3/5
计算两步调度下 q(x2∣x0)q(x_2\mid x_0) 的均值系数和方差。
查看提示
先计算各步alpha再相乘，均值系数取累计值平方根。
查看解答
若beta一为0.1、beta二为0.2，则alpha为0.9和0.8，累计alpha为0.72；条件均值系数为根号0.72，噪声方差为0.28。
练习 2：直接加噪
所属知识
闭式采样
难度
3/5
写出任意时间 tt 的闭式采样流程并说明其训练优势。
查看提示
把x零和标准噪声分别乘信号与噪声系数后相加。
查看解答
给定累计alpha、x零和epsilon，按根号累计alpha乘x零加根号一减累计alpha乘epsilon；无需逐步生成中间状态。
练习 3：反向均值
所属知识
噪声参数化
难度
4/5
从预测噪声分别用两条路径计算 μθ\mu_\theta 并核对相等。
查看提示
先用网络噪声估计x零，再代入后验均值，或使用整理后的等价公式。
查看解答
两条路径在系数和时间索引一致时相同；预测噪声误差通过beta除以噪声标准差进入均值，并会沿反向链累积。
练习 4：得分尺度
所属知识
得分匹配
难度
4/5
说明噪声预测与得分为何相差一个随时间变化的尺度。
查看提示
条件高斯得分是负的残差除以方差，也等于负噪声除以噪声标准差。
查看解答
得分为负的xt减信号均值再除以一减累计alpha；网络噪声需除以根号一减累计alpha并取负，不能直接把epsilon称为得分。
练习 5：减步评价
所属知识
采样调度
难度
5/5
设计一个比较一千步与少步采样器的协议。
查看提示
调用数减少只描述一项成本，还要核对求解规则、随机性和分布误差。
查看解答
固定模型、硬件、批量和条件，记录调用数、墙钟时间与显存；重新检查样本质量、覆盖、条件一致性和失败切片，不能从步数比例直接推出同倍加速或无损质量。
练习 6：引导与真实性
所属知识
评价边界
难度
5/5
为什么更强条件引导不能当作样本真实性证明？
查看提示
扫描引导尺度并把条件符合度、多样性、记忆和事实核验分开。
查看解答
增大引导可外推条件方向，也可能降低多样性并放大偏差；应分别报告条件、覆盖、伪影和最近训练样本，并明确生成外观不证明真实来源或事实。

关系与资源

论文 · 2020

Denoising Diffusion Probabilistic Models

Jonathan Ho, Ajay Jain, Pieter Abbeel

用于核对前向加噪、反向采样、变分界与噪声预测目标的关系。

打开官方来源
书籍 · 2016

Deep Learning

Ian Goodfellow, Yoshua Bengio, Aaron Courville

适合作为反向传播和优化章节的完整参考。

打开官方来源