公式连同条件一起检索。

变量

$c_{x}$

用下标 x 区分 c 的分量、样本或离散状态，单位：由上下文确定

$x_{1}$

用下标 1 区分 x 的分量、样本或离散状态，单位：由上下文确定

$x_{2}$

用下标 2 区分 x 的分量、样本或离散状态，单位：由上下文确定

$c_{y}$

用下标 y 区分 c 的分量、样本或离散状态，单位：由上下文确定

$y_{1}$

用下标 1 区分 y 的分量、样本或离散状态，单位：由上下文确定

$y_{2}$

用下标 2 区分 y 的分量、样本或离散状态，单位：由上下文确定

$w$

在“框参数化必须可逆”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$h$

在“框参数化必须可逆”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 图像分类为整幅图输出类别，目标检测则输出若干对象，每个对象含类别、置信度和空间边界框。
• 若图像先等比缩放再填充，解码后的框还要逆缩放并减去填充偏移，最后按原图范围裁剪。

相关概念

适用与边界

• 应用：把锚框匹配、分类回归联合损失整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：数据合同要定义坐标原点、轴方向、像素边界是否闭合、框是否允许越界、图像缩放与填充如何反变换。
• 推导：A06 · 目标检测与多尺度特征

变量

$p_{\theta}$

用下标 theta 区分 p 的分量、样本或离散状态，单位：由上下文确定

$v$

在“离散词元目标使用条件分类”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x$

在“离散词元目标使用条件分类”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$i$

在“离散词元目标使用条件分类”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$a_{iv}$

用下标 iv 区分 a 的分量、样本或离散状态，单位：由上下文确定

$w$

在“离散词元目标使用条件分类”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$V$

按注意力权重汇总输出，单位：由上下文确定

$a_{iw}$

用下标 iw 区分 a 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若报告求和损失，则数值约为 $2.0794$。
• 若多个序列长度不同，按目标词元平均会让被选位置多的序列权重更大；先逐序列平均再批次平均则让每条序列等权，两者不能混报。

相关概念

适用与边界

• 应用：把离散 token 重建与连续特征回归整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：数值实现应采用 log-sum-exp，不能直接对大 logit 求指数。
• 推导：A08 · 掩码预测与上下文建模

变量

$N$

在“例 4：为工业缺陷实例掩码比较三个方案”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 任务输入为 $2048\times2048$ 面板图，要求输出每个缺陷的独立掩码并计算面积；缺陷宽度约四至四十像素，边缘设备有显存和延迟限制。
• 它满足实例掩码合同，局部入口也更适合微小缺陷，是优先验证候选。

相关概念

适用与边界

• 应用：把类别长尾、背景捷径与域偏移整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：它成本较低，却只输出图像类别，无法区分实例或计算每个面积，因此首先因输出合同不符而淘汰。
• 推导：A06 · 几何、数据偏差与计算机视觉综合复习

变量

$x_{i}$

用下标 i 区分 x 的分量、样本或离散状态，单位：由上下文确定

$t$

在“配对关系才是监督信号”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$x$

在“配对关系才是监督信号”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x_{j}$

用下标 j 区分 x 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 两者分开很重要：目标可以在投影空间中删除增强细节，而下游任务仍可读取编码器表示中保留的信息。
• 同一照片的两次增强若都保留目标，这个承诺可能合理；若一次裁剪只剩背景，目标就会强迫背景与主体接近。

相关概念

适用与边界

• 应用：把负样本队列、批量大小与假负例整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若不归一化，点积同时受角度与长度影响，温度、权重衰减和特征范数会共同改变概率尺度，实验结论不能与归一化版本直接混用。
• 推导：A08 · 对比学习、负样本与信息瓶颈

变量

$x$

在“平滑是局部算子，不是证明标签相同”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\eta$

在“平滑是局部算子，不是证明标签相同”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$L$

在“平滑是局部算子，不是证明标签相同”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 这个数值是“权重乘信号平方”的单位；若边权有物理量纲，能量也随之带单位，不能在不同权重定义间直接比较。
• 若边权代表并联导热能力，总量可能具有真实物理意义，任意除以度会改变方程；若目标是平均邻域信息，归一化可以防止高度节点数值尺度过大。

相关概念

适用与边界

• 应用：把图信号平滑、局部邻域与拉普拉斯整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：这个数值是“权重乘信号平方”的单位；若边权有物理量纲，能量也随之带单位，不能在不同权重定义间直接比较。
• 推导：A11 · 图、图信号与节点表示

变量

$T_{kx}$

用下标 kx 区分 T 的分量、样本或离散状态，单位：由上下文确定

$T_{k}$

用下标 k 区分 T 的分量、样本或离散状态，单位：由上下文确定

$x$

在“平移等变来自共享局部规则”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 若输出固定取第一个元素，原值为一、置换后为二，不满足不变性。
• 若使用零填充，边界处缺少循环邻居，这个三点循环群等变性不再成立；内部位置近似共享不能推出整个有限图像严格平移等变。

相关概念

适用与边界

• 应用：把不变读出与等变层的组合整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：数值相等必须对全部允许置换成立，单个样本偶然相等不能建立结构结论。
• 推导：A11 · 不变性、等变性与群作用

变量

$F$

在“平移等变与不变不是一回事”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$T_{\delta}$

用下标 delta 区分 T 的分量、样本或离散状态，单位：由上下文确定

$x$

在“平移等变与不变不是一回事”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 若层间非线性或学习权重使远端路径贡献很小，经验上的有效感受野可能远小于理论覆盖；二者不能混称。
• 若把输入向右平移并在左侧补零，得 $x'=(0,1,0)$，输出为 $(1,1,1)$。

相关概念

适用与边界

• 应用：把步幅、膨胀和池化下的感受野整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若层间非线性或学习权重使远端路径贡献很小，经验上的有效感受野可能远小于理论覆盖；二者不能混称。
• 推导：A06 · 离散卷积、感受野与参数共享

变量

$h_{t}$

用下标 t 区分 h 的分量、样本或离散状态，单位：由上下文确定

$\phi$

在“普通RNN把历史压进固定宽度状态”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$W_{xx}$

用下标 xx 区分 W 的分量、样本或离散状态，单位：由上下文确定

$t$

在“普通RNN把历史压进固定宽度状态”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$W_{hh}$

用下标 hh 区分 W 的分量、样本或离散状态，单位：由上下文确定

$b$

在“普通RNN把历史压进固定宽度状态”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$y_{t}$

用下标 t 区分 y 的分量、样本或离散状态，单位：由上下文确定

$g$

在“普通RNN把历史压进固定宽度状态”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$W_{yh}$

用下标 yh 区分 W 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若训练读取未来而部署不能读取，验证分数再高也不代表系统可用。
• 若顺序交换，第一步得到约 $-0.462$，第二步得到 $\tanh(0.5-0.370)\approx0.129$。

相关概念

适用与边界

• 应用：把长上下文记忆、位置外推与检索干扰整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：代价是时间轴无法在单层内完全并行：$h_t$ 必须等待 $h_{t-1}$。
• 推导：A07 · 长序列、效率与 Transformer 综合复习

变量

$p_{\theta}$

用下标 theta 区分 p 的分量、样本或离散状态，单位：由上下文确定

$x$

在“潜变量让边缘似然出现对数求和”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$zp_{\theta}$

用下标 theta 区分 zp 的分量、样本或离散状态，单位：由上下文确定

$z$

在“潜变量让边缘似然出现对数求和”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 设观测为 $x$，未观测变量为 $z$，联合模型为 $p_\theta(x,z)$。
• 若 $z_i$ 已知，完整数据对数似然 $\log p_\theta(x_i,z_i)$ 常能按充分统计量分解；未知时，“对数外有求和”使直接最大化困难。

相关概念

适用与边界

• 应用：把E 步后验期望与 M 步参数更新整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：对潜变量命名为“疾病类型”或“用户意图”之前，需要外部测量和稳定性证据，不能只凭似然较高。
• 推导：A03 · EM 算法与变分推断

变量

$P$

在“三种偏移来自不同因子”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$X$

在“三种偏移来自不同因子”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$Y$

在“三种偏移来自不同因子”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 若第二批全部来自更换后的低照度摄像头，输入亮度分布明显改变，则出现了环境偏移证据。
• 仅凭两个准确率无法区分原因；需要数据生成时间、设备和选择机制。

相关概念

适用与边界

• 应用：把重采样置信区间与预测区间整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：仅凭两个准确率无法区分原因；需要数据生成时间、设备和选择机制。
• 推导：A00 · 分布偏移、置信区间与不确定性

变量

$h_{i}$

用下标 i 区分 h 的分量、样本或离散状态，单位：由上下文确定

$I$

在“双塔编码器在共同空间比较”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$f_{\theta}$

用下标 theta 区分 f 的分量、样本或离散状态，单位：由上下文确定

$x_{i}$

用下标 i 区分 x 的分量、样本或离散状态，单位：由上下文确定

$h_{j}$

用下标 j 区分 h 的分量、样本或离散状态，单位：由上下文确定

$g_{\phi}$

用下标 phi 区分 g 的分量、样本或离散状态，单位：由上下文确定

$c_{j}$

用下标 j 区分 c 的分量、样本或离散状态，单位：由上下文确定

$z_{i}$

用下标 i 区分 z 的分量、样本或离散状态，单位：由上下文确定

$W_{Ih}$

用下标 Ih 区分 W 的分量、样本或离散状态，单位：由上下文确定

$i$

在“双塔编码器在共同空间比较”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$z_{j}$

用下标 j 区分 z 的分量、样本或离散状态，单位：由上下文确定

$W_{Th}$

用下标 Th 区分 W 的分量、样本或离散状态，单位：由上下文确定

$j$

在“双塔编码器在共同空间比较”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 若每个批量只允许一条对角正对，可在每轮为图像甲采样一条说明，但另一条说明不能同时被当作负例。
• 若范数原本携带质量信息，可另设质量头，但不能一边归一化一边解释归一化前范数。

相关概念

适用与边界

• 应用：把跨模态注意力、匹配和生成目标整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：图像丙不能伪造空字符串为可靠描述；可排除出图文对比目标，或只用于合法的单模态目标。
• 推导：A08 · 跨模态对齐与预训练迁移

变量

$Q$

查询矩阵，单位：由上下文确定

$K$

键矩阵，单位：由上下文确定

$V$

值矩阵，单位：由上下文确定

$d_{k}$

缩放点积以控制 softmax 输入幅度，单位：由上下文确定

成立条件

• 查询与键具有相同特征维度，掩码在 softmax 前施加。

相关概念

适用与边界

• 应用：注意力机制
• 边界：当 $\tau=1$ 且 $M=0$ 时，它退化为标准缩放点积注意力。
• 推导：A07 · 缩放点积注意力与掩码

变量

$B$

在“梯度累积改变全局批量和更新频率”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$W$

在“梯度累积改变全局批量和更新频率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$b$

在“梯度累积改变全局批量和更新频率”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$A$

在“梯度累积改变全局批量和更新频率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 数据并行复制全部模型状态，适合模型能放进单设备、数据批量可分的场景。
• 每个微步损失若已取均值，可除以 $A$ 后反向，或累积梯度后统一除以 $A$；再对进程取平均。

相关概念

适用与边界

• 应用：把数据并行、梯度同步与通信瓶颈整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：精确恢复还要求在相同数据边界保存。
• 推导：A05 · 混合精度、分布式训练与检查点

变量

$F_{M}$

用下标 M 区分 F 的分量、样本或离散状态，单位：由上下文确定

$x$

在“提升法逐步扩充一个加法模型”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$F_{0}$

用下标 0 区分 F 的分量、样本或离散状态，单位：由上下文确定

$m$

在“提升法逐步扩充一个加法模型”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$M$

在“提升法逐步扩充一个加法模型”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\eta_{m}$

用下标 m 区分 eta 的分量、样本或离散状态，单位：由上下文确定

$h_{m}$

用下标 m 区分 h 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 设基学习器来自较简单的函数族 $mathcal H$。
• 单个弱学习器只捕捉一部分结构，后续学习器针对当前组合仍未解释的部分继续修正。

相关概念

适用与边界

• 应用：把函数梯度、伪残差与逐步加法模型整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：这个过程是串行的：第 $m$ 轮目标依赖前 $m-1$ 轮预测，不能像随机森林那样把全部树完全独立训练。
• 推导：A02 · AdaBoost、梯度提升与残差拟合

变量

$p$

在“图结构回答条件独立与概率查询”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x$

在“图结构回答条件独立与概率查询”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$i$

在“图结构回答条件独立与概率查询”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$x_{i}$

用下标 i 区分 x 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若两个最大特征值相等，单根方向可旋转，真正稳定对象是二维主子空间。
• 有向图用 d-separation 读取路径阻断，无向图用给定集合后的图分离。

相关概念

适用与边界

• 应用：把有向图、无向图和因子图的条件独立对照整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：交换成分编号后混合密度完全相同，不能把两次运行说成发现了相反结构。
• 推导：A03 · 无监督学习与概率图模型综合复习

变量

$v$

在“图像和文本先映射到同一比较空间”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$f_{\theta}$

用下标 theta 区分 f 的分量、样本或离散状态，单位：由上下文确定

$I$

在“图像和文本先映射到同一比较空间”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$t$

在“图像和文本先映射到同一比较空间”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$g_{\phi}$

用下标 phi 区分 g 的分量、样本或离散状态，单位：由上下文确定

$T$

在“图像和文本先映射到同一比较空间”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 归一化后内积等于余弦相似度，范围在负一到一；温度只缩放softmax锐度，不改变同一查询下的相似度排序。
• 若不归一化，特征范数也会影响logit，模型可能用增大范数降低训练损失。

相关概念

适用与边界

• 应用：把视觉 token、跨模态注意力与条件生成整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：正文未把极限情形单列为独立公式；适用边界以本小节声明的定义域、假设和边界条件为限。
• 推导：A12 · 视觉语言对齐与多模态生成

变量

$p$

在“推断查询先写成未归一权重”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$q$

在“推断查询先写成未归一权重”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$e$

在“推断查询先写成未归一权重”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$h$

在“推断查询先写成未归一权重”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$a$

在“推断查询先写成未归一权重”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$f_{a}$

用下标 a 区分 f 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 设联合分布已分解为因子乘积 $p(x)=\prod_a f_a(x_a)$，查询变量为 $Q$，证据为 $E=e$，其余隐藏变量为 $H$。
• 若 $p(e)=0$，条件分布在当前模型中没有定义，不能用除零后的任意数替代。

相关概念

适用与边界

• 应用：把和积消息、树结构与边缘概率整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若 $p(e)=0$，条件分布在当前模型中没有定义，不能用除零后的任意数替代。
• 推导：A03 · 变量消元、消息传递与精确推断

变量

$p$

在“无向图用势函数而非条件概率相乘”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x$

在“无向图用势函数而非条件概率相乘”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$Z$

在“无向图用势函数而非条件概率相乘”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$C$

在“无向图用势函数而非条件概率相乘”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$\psi_{C}$

用下标 C 区分 psi 的分量、样本或离散状态，单位：由上下文确定

$x_{C}$

用下标 C 区分 x 的分量、样本或离散状态，单位：由上下文确定

$Cpsi_{C}$

用下标 C 区分 Cpsi 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 观察到三个变量满足 $A$ 与 $C$ 边缘相关，但给定 $B$ 后独立。
• 若观察到 $A\perp C$ 而给定 $B$ 后相关，则更符合碰撞结构，但选择偏差与潜在变量仍需审查。

相关概念

适用与边界

• 应用：把势函数、Markov 性与无向图配分函数整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：不能仅凭这一独立模式声称 $B$ 是 $A$ 的原因或结果。
• 推导：A03 · 贝叶斯网络与 Markov 随机场

变量

$r$

在“稀疏检索和稠密检索利用不同匹配信号”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$R$

在“稀疏检索和稠密检索利用不同匹配信号”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$k$

在“稀疏检索和稠密检索利用不同匹配信号”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 若来源错误或过期，忠实复述仍可能不正确；若正确材料进入上下文，模型仍可能加入没有支持的内容；若答案碰巧正确，引用也可能并不支持相应声明。
• 若直接把一个范围为零到二十的稀疏分数与零到一的余弦相加，稠密信号几乎不起作用。

相关概念

适用与边界

• 应用：把分块、重排与上下文拼装整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：混合检索不能直接相加未经校准的原始分数，因为稀疏和稠密分值范围不同。
• 推导：A12 · 检索增强、引用与事实落地

变量

$H$

在“下采样建立层级，也会丢失信息”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$W$

在“下采样建立层级，也会丢失信息”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$C$

在“下采样建立层级，也会丢失信息”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 设特征为 $32\times32\times64$，保持通道与尺寸。
• 第一层感受野为 3，第二层增至 5；若层间有激活，组合可以表达两段分段非线性，而单个大核仍是一次线性空间混合后再激活。

相关概念

适用与边界

• 应用：把残差捷径、恒等映射与深层梯度整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：任何步幅大于一的路径都应检查高频内容、边界和一像素位移敏感性。
• 推导：A06 · 卷积网络架构与残差连接

变量

$Q$

提供待匹配的查询向量，单位：由上下文确定

$B$

在“先固定四条轴”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$H$

在“先固定四条轴”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$N_{q}$

用下标 q 区分 N 的分量、样本或离散状态，单位：由上下文确定

$d_{k}$

缩放点积以控制 softmax 输入幅度，单位：由上下文确定

$K$

与查询计算缩放相似度，单位：由上下文确定

$N_{k}$

用下标 k 区分 N 的分量、样本或离散状态，单位：由上下文确定

$V$

按注意力权重汇总输出，单位：由上下文确定

$d_{v}$

用下标 v 区分 d 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 设查询输入 $X_q\in\mathbb R^{B\times N_q\times d_{\mathrm{model}}}$，键值输入 $X_{kv}\in\mathbb R^{B\times N_k\times d_{\mathrm{model}}}$。
• 若先 reshape 却漏掉头与序列轴转置，矩阵乘法可能仍运行，却会把不同头或 token 错配。

相关概念

适用与边界

• 应用：把正弦、学习式与旋转位置编码整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：被遮蔽位置不能只减一个不够大的常数，否则低精度或大 logit 下仍有非零权重；使用布尔掩码交给稳定内核更可靠。
• 推导：A07 · 多头注意力与位置表示

变量

$p_{\theta}$

用下标 theta 区分 p 的分量、样本或离散状态，单位：由上下文确定

$x$

在“显式密度与隐式生成回答不同问题”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$t$

在“显式密度与隐式生成回答不同问题”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x_{t}$

用下标 t 区分 x 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 先用硬约束排除不满足接口的方案，再在同一数据、预算和评价协议下比较具体实现。
• 若任务合同改变，选择也应改变。

相关概念

适用与边界

• 应用：把潜变量、对抗、流和扩散目标对照整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：连续数据还需说明量化、去量化和测度；不同表示上的密度数值不能直接比较。
• 推导：A09 · 生成质量、覆盖与生成模型综合复习

变量

$z$

在“线性探针测量可解码性”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$W$

在“线性探针测量可解码性”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$h$

在“线性探针测量可解码性”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x$

在“线性探针测量可解码性”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$b$

在“线性探针测量可解码性”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 若探针在独立测试集表现良好，可说明标签信息以该探针可访问的线性形式存在。
• 它不说明原网络后续权重读取同一方向，也不说明信息在决策中必要。

相关概念

适用与边界

• 应用：把注意力头、神经回路与特征可视化整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：它在这里只用于划清边界：把输出差分配给输入特征，不等于识别网络内部算法。
• 推导：A13 · 表示探测与机制可解释性

变量

$vJ_{f}$

用下标 f 区分 vJ 的分量、样本或离散状态，单位：由上下文确定

$x$

在“向量—Jacobian 乘积”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$L$

在“向量—Jacobian 乘积”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$y$

在“向量—Jacobian 乘积”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 标量损失只需沿计算图反向累积这些乘积，因此一次反向的量级通常与一次前向相当。
• 当参数在多个时间步或多个分支共享时，每条使用路径都对同一梯度槽贡献，正确结果是求和而不是覆盖。

相关概念

适用与边界

• 应用：把反向模式的伴随量与梯度累积整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：差分不一致本身不能立刻定位是哪一方错误。
• 推导：A04 · 反向传播与反向模式自动微分

变量

$L$

在“像素交叉熵适合互斥类别”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$V$

按注意力权重汇总输出，单位：由上下文确定

$i$

在“像素交叉熵适合互斥类别”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$p_{iy}$

用下标 iy 区分 p 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 图像缩放可用双线性插值，类别索引掩码必须用最近邻，否则会产生不存在的中间类别。
• 随机裁剪若常把小前景裁掉，训练分布会比真实分布更背景化。

相关概念

适用与边界

• 应用：把实例掩码、匹配分配与重叠目标整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：互斥多类用 softmax；可重叠多标签应对每通道用二元概率损失，不能强迫通道和为一。
• 推导：A06 · 语义分割、实例分割与密集预测

变量

$m_{ij}$

用下标 ij 区分 m 的分量、样本或离散状态，单位：由上下文确定

$\ell$

在“消息传递连接局部关系与共享计算”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\phi_{m}$

用下标 m 区分 phi 的分量、样本或离散状态，单位：由上下文确定

$h_{i}$

用下标 i 区分 h 的分量、样本或离散状态，单位：由上下文确定

$h_{j}$

用下标 j 区分 h 的分量、样本或离散状态，单位：由上下文确定

$e_{ij}$

用下标 ij 区分 e 的分量、样本或离散状态，单位：由上下文确定

$m_{i}$

用下标 i 区分 m 的分量、样本或离散状态，单位：由上下文确定

$j$

在“消息传递连接局部关系与共享计算”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$N$

在“消息传递连接局部关系与共享计算”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$i$

在“消息传递连接局部关系与共享计算”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 若只检查能量不变，无法发现力方向错误；若只旋转坐标而未同步处理外场或周期晶胞，测试对象也已改变。
• 若只交换特征而不交换邻接，就不是重编号测试，而是把不同原子放到不同结构位置。

相关概念

适用与边界

• 应用：把过平滑、过压缩与远程依赖整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：将旋转和反射都硬编码为不变，会使模型无法完成依赖手性的任务。
• 推导：A11 · 表达能力、过平滑与几何学习综合复习

变量

$Z_{1}$

用下标 1 区分 Z 的分量、样本或离散状态，单位：由上下文确定

$XW_{1}$

用下标 1 区分 XW 的分量、样本或离散状态，单位：由上下文确定

$b_{1}$

用下标 1 区分 b 的分量、样本或离散状态，单位：由上下文确定

$A_{1}$

用下标 1 区分 A 的分量、样本或离散状态，单位：由上下文确定

$\phi$

在“形状账本在数值计算之前”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$S$

在“形状账本在数值计算之前”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$A_{1W}$

用下标 1W 区分 A 的分量、样本或离散状态，单位：由上下文确定

$b_{2}$

用下标 2 区分 b 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 先建立最简单基线：随机初始化时多分类交叉熵约在 $\log K$ 附近仅是对称预测的参考，实际类别偏置和输出初始化会改变；回归应与训练均值或中位数基线比较。
• 若第一步损失远超合理尺度，先检查单位、标签和输出链接，不要立即调优化器。

相关概念

适用与边界

• 应用：把计算图展开、反向传播与梯度检查整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若损失接口要求 logits，就不能先手动 sigmoid 或 softmax 再传入，否则重复链接会改变数值和梯度稳定性。
• 推导：A04 · 神经网络与反向传播综合复习

变量

$S_{t}$

用下标 t 区分 S 的分量、样本或离散状态，单位：由上下文确定

$A_{t}$

用下标 t 区分 A 的分量、样本或离散状态，单位：由上下文确定

$R_{t+1}$

用下标 t+1 区分 R 的分量、样本或离散状态，单位：由上下文确定

$S_{t+1}$

用下标 t+1 区分 S 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 给定模型后，可以用价值迭代、树搜索、轨迹优化或滚动时域控制比较尚未真实执行的动作。
• 这个值完全依赖十次样本代表未来环境的假设。

相关概念

适用与边界

• 应用：把离线数据支持集和分布外动作整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若失败转移在数据中偶然缺失，经验模型会更乐观；添加平滑不能替代真实覆盖和独立验证。
• 推导：A10 · 基于模型、离线与多智能体强化学习

变量

$\mu_{S}$

用下标 S 区分 mu 的分量、样本或离散状态，单位：由上下文确定

$S$

在“一个通用标准化模板”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$i$

在“一个通用标准化模板”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$x_{i}$

用下标 i 区分 x 的分量、样本或离散状态，单位：由上下文确定

$v_{S}$

用下标 S 区分 v 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若把验证值七也加入后重算均值和标准差，验证信息改变了训练变换，且线上每来一个样本都可能改变历史预测。
• 若方差接近零，epsilon 防止除零并限制放大。

相关概念

适用与边界

• 应用：把LayerNorm、GroupNorm 与归一化轴整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：两类操作都不能看见测试分布后重估参数。
• 推导：A05 · 归一化方法与尺度控制

变量

$p_{\theta}$

用下标 theta 区分 p 的分量、样本或离散状态，单位：由上下文确定

$w_{1T}$

用下标 1T 区分 w 的分量、样本或离散状态，单位：由上下文确定

$t$

在“因果语言建模是逐位置条件似然”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$w_{t}$

用下标 t 区分 w 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 训练时把输入右移一位，以真实前缀教师强制预测下一 token，并用因果掩码阻止当前位置读取未来。
• 若把当前目标留在同一可见位置，模型可以复制；若文档打包后不设边界，后一个文档可能条件于前一个文档。

相关概念

适用与边界

• 应用：把自回归语言似然与困惑度整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若把当前目标留在同一可见位置，模型可以复制；若文档打包后不设边界，后一个文档可能条件于前一个文档。
• 推导：A12 · 语言建模、tokenization 与规模规律

变量

$y_{i}$

用下标 i 区分 y 的分量、样本或离散状态，单位：由上下文确定

$w$

在“硬间隔为何需要软化”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$x_{i}$

用下标 i 区分 x 的分量、样本或离散状态，单位：由上下文确定

$b$

在“硬间隔为何需要软化”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$\xi_{i}$

用下标 i 区分 xi 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 四个等式点位于支撑超平面，是支持向量；另外两个严格满足约束，不决定当前边界。
• 在这个总和损失约定下，$C>0$ 控制违约代价。

相关概念

适用与边界

• 应用：把软间隔、松弛变量与惩罚参数整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：即使数据形式上可分，一个误录的远端点也可能迫使边界旋转并把间隔压得很窄。
• 推导：A02 · 最大间隔与支持向量机

变量

$p$

在“用链式法则把联合分布拆成一步步预测”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x_{1}$

用下标 1 区分 x 的分量、样本或离散状态，单位：由上下文确定

$x_{T}$

用下标 T 区分 x 的分量、样本或离散状态，单位：由上下文确定

$t$

在“用链式法则把联合分布拆成一步步预测”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$x_{t}$

用下标 t 区分 x 的分量、样本或离散状态，单位：由上下文确定

$x_{t-1}$

用下标 t-1 区分 x 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 设观测由有序变量 $x=(x_1,\ldots,x_T)$ 组成。
• 若每个真实条件分布都能精确表示，任何排列都描述同一联合分布；有限模型、有限数据和具体架构下，不同排列会提供不同可见上下文，因而形成不同归纳偏置。

相关概念

适用与边界

• 应用：把因果掩码、条件似然与 token 顺序整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：不能把 $0.6+0.7+0.2$ 当作序列概率，也不能只报告平均值而不说明是否包含起止符、填充位置和使用的对数底。
• 推导：A09 · 自回归生成与序列似然

变量

$p_{X}$

用下标 X 区分 p 的分量、样本或离散状态，单位：由上下文确定

$x$

在“用双射搬运概率质量”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$p_{Z}$

用下标 Z 区分 p 的分量、样本或离散状态，单位：由上下文确定

$f_{\theta}$

用下标 theta 区分 f 的分量、样本或离散状态，单位：由上下文确定

$J$

在“用双射搬运概率质量”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 设基随机变量 $Z\in\mathbb R^d$ 有可计算密度 $p_Z$，可逆可微映射 $f_\theta:\mathbb R^d\to\mathbb R^d$ 产生 $X=f_\theta(Z)$。
• 给定数据 $x$，必须能求 $z=f_\theta^{-1}(x)$，并计算相应Jacobian行列式。

相关概念

适用与边界

• 应用：把耦合层、Jacobian 行列式与精确似然整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：训练与采样必须使用同一基分布及同一标准化，不能训练时按标准正态算密度、部署时再从另一噪声分布取样。
• 推导：A09 · 正规化流与可逆变换

变量

$n$

在“有效正则化强度”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$i$

在“有效正则化强度”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\ell_{i}$

用下标 i 区分 ell 的分量、样本或离散状态，单位：由上下文确定

$\theta$

作为损失函数的自变量，单位：由上下文确定

成立条件

• 若需要无偏比较整个选择流程，可使用外层交叉验证。
• 若实现改用损失总和，则保持同一权衡需要把惩罚系数相应乘以 $n$；否则相同数值的 $\lambda$ 不代表相同正则化。

相关概念

适用与边界

• 应用：把L1、L2 正则化与解的几何整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：应根据优化器定义判断，不能只凭配置名称认定等价。
• 推导：A01 · 正则化、偏差与方差

变量

$x_{0}$

用下标 0 区分 x 的分量、样本或离散状态，单位：由上下文确定

$x_{t}$

用下标 t 区分 x 的分量、样本或离散状态，单位：由上下文确定

$\alpha_{t}$

用下标 t 区分 alpha 的分量、样本或离散状态，单位：由上下文确定

$\epsilon_{\theta}$

用下标 theta 区分 epsilon 的分量、样本或离散状态，单位：由上下文确定

$t$

在“噪声预测给出常用均值参数化”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 在分布上成立，其中 $\epsilon$ 是新的标准高斯。
• 若构造输入后又重新抽噪声作为标签，网络面对的是与输入无关的目标，损失仍会产生数值却无法学到正确去噪关系。

相关概念

适用与边界

• 应用：把去噪得分匹配与噪声预测参数化整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：公式必须与实现采用的方差、时间索引和边界步一致，不能把一种采样器的系数直接移入另一种。
• 推导：A09 · 得分匹配、扩散过程与反向采样

变量

$S$

在“中心化决定 PCA 分析什么”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$nX_{c}$

用下标 c 区分 nX 的分量、样本或离散状态，单位：由上下文确定

$X_{c}$

用下标 c 区分 X 的分量、样本或离散状态，单位：由上下文确定

成立条件

• PCA 寻找穿过均值的线性子空间；若不中心化，第一方向会被原点到数据均值的偏移主导，回答的是另一个问题。
• 若样本带权或存在相关重复观测，普通行等权协方差不再自动对应目标总体。

相关概念

适用与边界

• 应用：把奇异值分解、解释方差与重构误差整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：验证、测试与新样本必须减训练均值，不能各自重新中心化。
• 推导：A03 · 主成分分析与流形降维

变量

$L$

在“重构目标保留输入，未必保留任务”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$p_{\phi}$

用下标 phi 区分 p 的分量、样本或离散状态，单位：由上下文确定

$t$

在“重构目标保留输入，未必保留任务”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$f_{\theta}$

用下标 theta 区分 f 的分量、样本或离散状态，单位：由上下文确定

$c$

在“重构目标保留输入，未必保留任务”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 目标若太容易，模型可能利用局部纹理、位置模板或数据格式；目标若含不可预测噪声，训练会把容量浪费在不确定细节。
• 相似度常用归一化向量的点积，温度调节分数差异在 softmax 中的尺度。

相关概念

适用与边界

• 应用：把相似度函数、归一化嵌入与温度参数整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若伪标签由当前表示产生，分配和更新应避免同一步自我确认，例如使用延迟目标、平衡约束或独立视图；这些机制仍不能保证簇等于人类语义。
• 推导：A08 · 表示学习目标、相似度与不变性

变量

$p_{\theta}$

用下标 theta 区分 p 的分量、样本或离散状态，单位：由上下文确定

$y_{1T}$

用下标 1T 区分 y 的分量、样本或离散状态，单位：由上下文确定

$x$

在“自回归似然来自概率链式法则”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$t$

在“自回归似然来自概率链式法则”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$y_{t}$

用下标 t 区分 y 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 两者都必须阻止当前位置看到未来真实目标，否则训练损失会因标签泄漏而虚低。
• 若输入和目标不移位而把“春”同时放在第一输入与第一标签，模型可直接复制当前词；若忘记 EOS，推理时没有由训练目标学到的停止事件。

相关概念

适用与边界

• 应用：把教师强制、曝光偏差与计划采样整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：第三类是因果 mask：位置 $t$ 不能读取 $t$ 之后的目标。
• 推导：A07 · 序列损失、教师强制与解码

变量

$A$

在“actor–critic用价值估计构造优势”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\pi$

在“actor–critic用价值估计构造优势”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$s$

在“actor–critic用价值估计构造优势”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$a$

在“actor–critic用价值估计构造优势”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$q_{\pi}$

用下标 pi 区分 q 的分量、样本或离散状态，单位：由上下文确定

$v_{\pi}$

用下标 pi 区分 v 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 状态价值评论器 $V_\psi(s)$ 估计当前策略从状态出发的期望回报。
• 当前 $V(s)=1.4$，观测奖励 $0.5$，下一状态 $V(s')=2$，$\gamma=0.9$，转移未终止。

相关概念

适用与边界

• 应用：把actor–critic 的价值基线与时序更新整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：两个更新目标、学习率和停止梯度边界必须分开。
• 推导：A10 · 策略梯度、actor–critic 与优势估计

变量

$H$

在“GCN 是一种度归一化线性消息”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\sigma$

在“GCN 是一种度归一化线性消息”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$A$

在“GCN 是一种度归一化线性消息”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$W$

在“GCN 是一种度归一化线性消息”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 先用足够表达的消息映射再求和可区分更多多集合，但在有限维、有限精度和有限参数下仍非无损编码。
• 对称归一化抑制高连接度节点的绝对累加尺度，自环保留当前节点信息，$W$ 混合特征通道。

相关概念

适用与边界

• 应用：把GCN 归一化、GraphSAGE 采样与 GAT 权重整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：mean 无法区分多集合 $\{1\}$ 与 $\{1,1\}$，max 无法记录重复次数，普通 sum 可能让不同数值组合相撞。
• 推导：A11 · 消息传递与图卷积

变量

$k$

标记当前或下一次更新，单位：由上下文确定

$x$

在“Gram 矩阵与正半定条件”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$z$

在“Gram 矩阵与正半定条件”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$a$

在“Gram 矩阵与正半定条件”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$k_{1}$

用下标 1 区分 k 的分量、样本或离散状态，单位：由上下文确定

$b$

在“Gram 矩阵与正半定条件”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$k_{2}$

用下标 2 区分 k 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若有人把 $s(x,z)=-xz$ 当作核，只取单点 $x_1=1$ 就得到 Gram 矩阵 $[-1]$。
• 仍是核，它相当于拼接并缩放两组特征。

相关概念

适用与边界

• 应用：把Mercer 条件、Gram 矩阵与正定性整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：该函数虽然对称，也能给某些输入“相似度”数值，却不能作为普通内积核直接放入依赖凸性的核算法。
• 推导：A02 · 特征映射、正定核与再生核空间

变量

$z_{t}$

用下标 t 区分 z 的分量、样本或离散状态，单位：由上下文确定

$\sigma$

在“GRU 用两道门直接混合隐藏状态”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$W_{zx}$

用下标 zx 区分 W 的分量、样本或离散状态，单位：由上下文确定

$t$

在“GRU 用两道门直接混合隐藏状态”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$U_{zh}$

用下标 zh 区分 U 的分量、样本或离散状态，单位：由上下文确定

$b_{z}$

用下标 z 区分 b 的分量、样本或离散状态，单位：由上下文确定

$r_{t}$

用下标 t 区分 r 的分量、样本或离散状态，单位：由上下文确定

$W_{rx}$

用下标 rx 区分 W 的分量、样本或离散状态，单位：由上下文确定

$U_{rh}$

用下标 rh 区分 U 的分量、样本或离散状态，单位：由上下文确定

$b_{r}$

用下标 r 区分 b 的分量、样本或离散状态，单位：由上下文确定

$h_{t}$

用下标 t 区分 h 的分量、样本或离散状态，单位：由上下文确定

$W_{hx}$

用下标 hx 区分 W 的分量、样本或离散状态，单位：由上下文确定

$U_{h}$

用下标 h 区分 U 的分量、样本或离散状态，单位：由上下文确定

$h_{t-1}$

用下标 t-1 区分 h 的分量、样本或离散状态，单位：由上下文确定

$b_{h}$

用下标 h 区分 b 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若一段时间 $f_t$ 接近一，梯度可沿细胞加法路径传播；若门长期接近零或饱和，仍会遗忘或难以学习。
• 若连续三步的直接遗忘门都固定为 0.8，忽略门对旧状态的间接依赖，细胞直接梯度因子为 $0.8^3=0.512$，明显大于简单 Jacobian 为 0.5 时的 $0.125$。

相关概念

适用与边界

• 应用：把LSTM 门控、GRU 更新与长期依赖整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：保持门值不变看直接路径，有 $\partial c_t/\partial c_{t-1}=f_t$，不再每步必经递归权重和 tanh 导数。
• 推导：A07 · 循环网络、门控单元与状态传播

变量

$L$

在“Hessian 描述局部曲率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$\theta$

在“Hessian 描述局部曲率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$p$

在“Hessian 描述局部曲率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$g$

在“Hessian 描述局部曲率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$H$

在“Hessian 描述局部曲率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

成立条件

• 若把阈值改成非严格比较或在冷却期忽略最佳更新，轨迹会不同。
• Hessian 奇异时逆不存在，Hessian 不定时 Newton 方向甚至可能不是下降方向。

相关概念

适用与边界

• 应用：把Hessian 曲率、条件数与 Newton 方向整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：调度规则、验证频率和缺失指标处理都属于算法状态，不能只记录“使用了 plateau scheduler”。
• 推导：A05 · 学习率调度与二阶近似

变量

$J$

在“K 均值的目标与 Lloyd 交替优化”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$z$

在“K 均值的目标与 Lloyd 交替优化”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\mu$

在“K 均值的目标与 Lloyd 交替优化”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$i$

在“K 均值的目标与 Lloyd 交替优化”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$n$

在“K 均值的目标与 Lloyd 交替优化”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$x_{i}$

用下标 i 区分 x 的分量、样本或离散状态，单位：由上下文确定

$\mu_{z}$

用下标 z 区分 mu 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 按可观测维度临时缩放距离会让不同样本对使用不同几何，可能破坏三角不等式；插补则引入模型假设。
• 若把收入单位从元改成万元而身高仍用米，两段距离都约为 $0.20025$，两者变成平局；再按不同领域权重缩放，最近邻甚至可能改变。

相关概念

适用与边界

• 应用：把层次聚类的链接准则与树状图整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：有限分配状态与确定平局规则使算法最终停止在一个不再变化的局部解，但不保证全局最小。
• 推导：A03 · 聚类目标、K 均值与密度方法

变量

$L$

提供需要最小化的标量目标，单位：由上下文确定

$\beta_{0}$

用下标 0 区分 beta 的分量、样本或离散状态，单位：由上下文确定

$\beta$

在“Logistic 回归学习条件概率”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$n$

在“Logistic 回归学习条件概率”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$i$

在“Logistic 回归学习条件概率”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$y_{i}$

用下标 i 区分 y 的分量、样本或离散状态，单位：由上下文确定

$p_{i}$

用下标 i 区分 p 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 它只说明样本内目标已在该线性类中优化，不说明未来关系线性；还需在独立数据检查误差和残差结构。
• 反过来，Logistic 概率有合法范围也不保证校准，特征错设和分布偏移仍会使概率失真。

相关概念

适用与边界

• 应用：把正则路径、交叉验证与超参数选择整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：它可作快速基线或局部近似，但不能无条件替代概率模型。
• 推导：A01 · 线性模型与统计学习综合复习

变量

$G_{t}$

用下标 t 区分 G 的分量、样本或离散状态，单位：由上下文确定

$k$

标记当前或下一次更新，单位：由上下文确定

$t$

在“MDP 合同先固定时间与终止”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\gamma$

在“MDP 合同先固定时间与终止”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$kR_{t+k+1}$

用下标 t+k+1 区分 kR 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 机器人若通过更快碰撞换取更多配送，数值回报可能上升而系统不可接受。
• 真终止后不再自举，截断处若环境本可继续，则是否自举取决于持续任务定义。

相关概念

适用与边界

• 应用：把在线离线评估、反事实估计与置信区间整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：真终止后不再自举，截断处若环境本可继续，则是否自举取决于持续任务定义。
• 推导：A10 · 稳定性、评估与强化学习综合复习

变量

$\theta_{t+1}$

用下标 t+1 区分 theta 的分量、样本或离散状态，单位：由上下文确定

$\beta$

在“Momentum 累积方向”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$\eta$

在“Momentum 累积方向”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$a$

在“Momentum 累积方向”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\theta_{t}$

用下标 t 区分 theta 的分量、样本或离散状态，单位：由上下文确定

$betatheta_{t-1}$

用下标 t-1 区分 betatheta 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 对二次目标，稳定性由学习率、$\beta$ 与 Hessian 特征值共同决定；$\beta$ 越接近一，记忆越长，也越可能在突然改变的曲率或梯度尺度下过冲。
• 在 $0\le\beta<1$ 下，两个特征根都落在单位圆内的条件是 $0<\eta a<2(1+\beta)$。

相关概念

适用与边界

• 应用：把动量、Nesterov 加速与振荡抑制整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：检测到爆炸梯度时应先定位数据、模型和精度原因，梯度裁剪可限制更新但会改变估计方向和偏差，不能替代诊断。
• 推导：A05 · 随机梯度、动量与自适应方法

变量

$G_{t}$

用下标 t 区分 G 的分量、样本或离散状态，单位：由上下文确定

$k$

标记当前或下一次更新，单位：由上下文确定

$t$

在“Monte Carlo 用完整回报作目标”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$\gamma$

在“Monte Carlo 用完整回报作目标”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$kR_{t+k+1}$

用下标 t+k+1 区分 kR 的分量、样本或离散状态，单位：由上下文确定

成立条件

• 若模型未知，不能直接算这些期望；若状态巨大，即使模型已知也可能计算不可承受。
• 若对每个状态保存所有访问后的回报并取样本均值，在适当独立性或遍历、有限方差和访问充分条件下，均值可趋近 $V^\pi(s)$。

相关概念

适用与边界

• 应用：把Monte Carlo 回报与自举估计整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：若模型未知，不能直接算这些期望；若状态巨大，即使模型已知也可能计算不可承受。
• 推导：A10 · 动态规划、Monte Carlo 与时序差分

变量

$z$

在“ReLU 与分段线性网络”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

成立条件

• 若 $z=10$，sigmoid 导数约为 $4.54\times10^{-5}$，相同上游梯度传回的绝对值约为 $1.36\times10^{-5}$。
• 单个点的选择通常不改变连续分布下的整体训练，但在离散输入、精确零初始化或梯度检查中必须知道具体约定。

相关概念

适用与边界

• 应用：把ReLU 族的分段线性结构整理为可检查的关系、判据或算法步骤；涉及定量模型时写出公式，并说明符号、适用条件，以及需要时的单位或复杂度。
• 边界：梯度变小来自当前预激活进入饱和区；不能仅凭使用 sigmoid 就断言整个网络一定无法训练，还要检查偏置、输入尺度、深度和其他梯度路径。
• 推导：A04 · 激活函数与非线性表示

变量

$\phi_{i}$

用下标 i 区分 phi 的分量、样本或离散状态，单位：由上下文确定

$S$

在“Shapley 值按所有加入顺序平均边际贡献”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$F$

在“Shapley 值按所有加入顺序平均边际贡献”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定

$i$

在“Shapley 值按所有加入顺序平均边际贡献”中作为等号左侧的目标量参与关系计算，单位：由上下文确定

$v$

在“Shapley 值按所有加入顺序平均边际贡献”中作为等号右侧的输入量或系数参与关系计算，单位：由上下文确定