变分自编码器：证据下界、重参数化与潜变量诊断

潜变量模型先定义生成过程

变分自编码器首先是潜变量生成模型。它选择潜变量先验 $p(z)$，再用参数化条件分布 $p_\theta(x\mid z)$ 生成观测。联合分布与观测边缘分布为

常用先验是标准多元高斯，但这不是定义所强制。解码网络根据 $z$ 输出似然参数，例如伯努利概率、高斯均值与方差或离散词元分布。模型训练真正希望提高的是观测数据的边缘对数似然 $\log p_\theta(x)$。困难在于高维非线性解码器下，这个积分通常不能解析求出，真实后验

也含有同一个未知边缘项。

因此引入编码器参数化的近似后验 $q_\phi(z\mid x)$。编码器不是生成模型的先验，也不是把输入压成一个确定点；它给定观测后输出一个可采样分布。训练时用它提出可能解释当前 $x$ 的潜变量，生成新样本时则应从 $p(z)$ 而非某个训练样本的 $q_\phi(z\mid x)$ 开始。

从边缘似然推导证据下界

假设 $q_\phi(z\mid x)$ 在需要积分的区域具有合适支撑，可在积分中乘除这个分布：

对数函数是凹函数。Jensen 不等式给出“期望的对数不大于对数的期望”：

把联合分布分解后，得到最常用形式

第一项是期望条件对数似然，常被简称为重构项；第二项让每个样本的近似后验不要任意偏离先验。训练常最小化负 ELBO，即“负重构对数似然加 KL”。二者的归约必须一致：按像素求和而 KL 按样本平均，会让输入维数隐式改变权衡。

ELBO 与真实对数似然不相等

把 Bayes 公式代入还可得到恒等式

KL 非负，所以 ELBO 是下界；当且仅当近似后验与模型真实后验几乎处处一致时，间隙为零。优化编码器是在所选变分分布族内缩小近似误差，优化解码器则同时改变生成模型和真实后验。有限容量、对角高斯假设和优化失败都会留下间隙。

因此 ELBO 不能称为已算出的真实对数似然。两个模型的 ELBO 高低也不必与真实似然高低完全同序，因为各自间隙不同。多样本重要性下界可以收紧估计，但仍需说明样本数、估计方差和下界性质。若比较模型，应固定数据预处理、似然族、常数项、采样数与归约，避免把不同数值尺度解释成概率改进。

对角高斯编码器与解析 KL

常见编码器输出均值 $\mu_\phi(x)$ 和对数方差 $\log\sigma_\phi^2(x)$，定义

在 $d$ 维下，KL 有解析式

该式非负，并在 $\mu=0,\sigma=1$ 时为零。实现中输出对数方差比直接输出方差更容易保持正值，但极端对数方差仍会造成指数溢出或近零尺度。应记录截断规则并在出现非有限数值时停止更新、保存样本标识，而不是静默把异常改成零。

重参数化把随机节点移到参数之外

直接写 $z\sim q_\phi(z\mid x)$ 时，样本对分布参数的依赖不便用普通反向传播表达。对位置—尺度高斯，可先采与参数无关的

再令

随机性现在来自 $\varepsilon$，而 $z$ 对 $\mu,sigma$ 是可微函数，重构项的梯度可沿解码器、$z$ 和编码器反向传播。这称为路径导数或重参数化估计。它不移除 Monte Carlo 方差，也不适用于任意离散分布；离散潜变量需要其他估计器、连续松弛或专门结构，并会产生不同偏差与方差。

训练时每个样本使用一个噪声样本常能形成可用随机梯度，但不是数学规定。增加样本数通常降低期望估计方差，也增加计算。复现要保存随机数生成器、每样本采样数、训练和评价时使用均值还是采样，以及分布式进程的种子派生。只固定网络初始化不足以复现潜变量路径。

重构项必须是声明过的似然

“重构损失”不是一个脱离概率模型的任意距离。若二值观测使用独立伯努利似然，重构项是逐维二元交叉熵；若连续观测使用固定方差高斯，负对数似然在忽略固定常数后与平方误差成比例；若方差可学习，还必须包含对数尺度。自然图像像素不一定真是独立伯努利或同方差高斯，这些是建模选择，其局限应写明。

像素很多时，逐维求和的重构项数值会随分辨率增长，而潜变量 KL 只随潜维增长。若误把一个求和、另一个平均，模型在不同输入尺寸上的行为会显著变化。预处理中的缩放、二值化、裁剪和噪声也改变似然对象。生成结果若取解码分布均值，会比真正从 $p_\theta(x\mid z)$ 采样更平滑；两种展示必须标明。

后验塌缩是潜变量被模型忽略

当 $q_\phi(z\mid x)\approx p(z)$ 且解码器几乎不依赖 $z$ 时，KL 接近零，潜变量不再携带关于当前输入的可用信息，这称为后验塌缩。强大的自回归解码器可能仅靠已生成前缀解释数据，于是使用 $z$ 带来的重构收益不足以抵消 KL。过快的 KL 优化、数据中可预测的局部结构、从输入到解码器的旁路也会促成类似现象。

零 KL 本身不是数值错误：若数据确实无需潜变量，模型目标允许这种解。但若设计目标是学习全局潜表示，它就是功能失败。诊断应报告每个维度和每个样本的 KL、编码均值与方差、在数据上聚合的 $q(z)$、移除或打乱 $z$ 后的解码变化、冻结下游探测以及主动维度数量。仅看总 KL 非零可能掩盖只有一个维度工作，漂亮重构也可能来自强解码器复制上下文。

KL 预热逐步增加其权重，free bits 在一定范围内弱化压缩压力，限制解码器或调整输入旁路也可能增加潜变量使用。但这些方法改变优化路径，部分方法还改变有效目标；不能保证得到语义可解释潜变量。应同时观察重构、KL、先验样本和表示评价，而不是以“KL 变大”作为唯一成功标准。

β 权衡改变压缩强度

常见加权目标写成

当 $\beta=1$ 时，这是前述生成模型的标准 ELBO。对同一 $p(z)p_\theta(x\mid z)$，$\beta\ne1$ 一般不能继续直接称为其标准证据下界；它是改变重构与先验匹配权衡的目标。较大 $\beta$ 通常增强压缩和先验约束，可能损伤重构或加剧塌缩；较小 $\beta$ 允许编码更多输入细节，却可能使聚合后验远离先验，导致从先验采样落入解码器很少训练的区域。

生成、重构和表示是三种评价

先验生成从 $z\sim p(z)$ 开始，再从 $p_\theta(x\mid z)$ 采样。它检验先验覆盖、解码器在先验区域的行为和样本多样性。重构先给真实 $x$，从 $q_\phi(z\mid x)$ 取样或取均值，再解码；它有输入信息，不能替代无条件生成评价。若只展示解码均值，还会隐藏观测噪声和多模态输出。

表示评价冻结编码器，预先指定使用 $\mu$、随机 $z$ 还是其他统计量，再训练线性或明确复杂度的读出器。全量微调会改变编码器，结论属于初始化可适应性。数据应按主体或来源去重划分，测试标签不能用于选择潜维、$\beta$、训练轮次或读取层。重构好不保证标签线性可读，线性可读也不保证先验样本覆盖真实分布。

密度评价只能把 ELBO 报为下界，或使用说明过的更紧估计器。不同似然族与数据预处理的数值不可直接比较。样本评价应同时考虑质量、覆盖、重复和条件一致性，并保存随机种子与选择规则；只挑选最漂亮插值会形成展示偏差。潜空间插值经过低密度区域时仍可能产生平滑解码，平滑图像不是该路径具有高概率或真实语义连续性的证明。

数值实现与复现清单

编码器输出通常是 log variance，计算标准差时用 $\exp(\tfrac12\log\sigma^2)$；把 log variance 误当标准差会改变采样和 KL。KL 应逐样本、逐维先计算，再按声明的批次规则归约。重构项应保存未归约维度，以便核对像素、词元与样本权重。混合精度下，指数、对数和极端概率需要稳定实现，非有限值要带输入标识和参数范围报告。

复现至少记录数据与预处理版本、观测似然、先验、潜维、近似后验族、编码器与解码器结构、重构和 KL 归约、$\beta$ 及其日程、每样本 Monte Carlo 数、随机种子、优化器、精度模式和停止规则。评价还要记录从先验或后验采样、使用解码均值还是随机观测、线性探测是否冻结以及测试集使用次数。

原始 VAE 论文资源支持连续潜变量模型中的变分下界与重参数化估计框架；通用教材资源补充潜变量和深度生成模型背景。本章没有把教学手算当作论文报告数字，也不以这两项资源为后续变体的性能背书。

三个常见误区

第一，“ELBO 就是真实对数似然”。它是下界，二者相差近似后验到模型真实后验的 KL；只有间隙为零时才相等。

第二，“重构图清楚就证明无条件生成好”。重构使用输入条件后验，先验生成没有输入；聚合后验若与先验不匹配，两者可以表现完全不同。

第三，“KL 越小或越大越好”。接近零可能是后验塌缩，过大可能说明编码偏离先验并伤害生成。合适范围取决于似然、归约与用途，需联合评价。

练习

关系与资源

• 自编码器 提供编码瓶颈与重构基础。
• 潜变量模型 定义先验、联合分布和边缘化。
• 贝叶斯推断 解释后验与近似推断目标。
• 生成模型综合复习 比较下界、样本、覆盖和推理代价。