公式索引 · 281

公式连同条件一起检索。

每条记录保留变量含义、成立假设、相关主题与应用范围,避免只展示脱离语境的等式。

281 条公式
  1. 01

    计算机科学 · 科学计算 · 典范公式

    变换血缘让每个数字有来路

    教材位置:C02 · 数据处理与实验设计综合复习

    ri=ti,newti,base,zi=logri,r_i=\frac{t_{i,\mathrm{new}}}{t_{i,\mathrm{base}}}, \qquad z_i=\log r_i,

    变量

    rir_{i}
    用下标 i 区分 r 的分量、样本或离散状态,单位:不适用
    tit_{i}
    用下标 i 区分 t 的分量、样本或离散状态,单位:不适用
    ziz_{i}
    用下标 i 区分 z 的分量、样本或离散状态,单位:不适用

    成立条件

    • 若删除日志只写“清除异常值”,就无法判断选择是否依赖结果。
    • 先在区组内汇总,再跨区组分析,避免把十四次重复运行当作十四个独立实验单位。

    相关概念

    适用与边界

    • 应用:把随机化、指标和停止规则的实验协议整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:若删除日志只写“清除异常值”,就无法判断选择是否依赖结果。
    • 推导:C02 · 数据处理与实验设计综合复习
  2. 02

    计算机科学 · 科学计算 · 典范公式

    程序是可检查的状态转换

    教材位置:C00 · 程序、类型、控制流与函数

    y=f(x).y=f(x).

    变量

    yy
    在“程序是可检查的状态转换”中作为等号左侧的目标量参与关系计算,单位:不适用
    ff
    在“程序是可检查的状态转换”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    xx
    在“程序是可检查的状态转换”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 程序接收输入,在一系列规则下计算,并产生返回值、输出或新状态。
    • 若程序还修改文件、随机数状态或设备,就应把这些外部状态也视为输入和输出的一部分。

    相关概念

    适用与边界

    • 应用:把条件分支、循环控制流不变量与终止条件整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:一个可复算的小程序至少说明:接受什么输入、类型与单位;对非法或边界输入做什么;成功返回什么类型和值;是否修改外部状态;是否保证终止。
    • 推导:C00 · 程序、类型、控制流与函数
  3. 03

    计算机科学 · 科学计算 · 约束

    断言要匹配数据语义

    教材位置:C00 · 测试、版本控制与环境管理

    xyatol+rtoly.|x-y|\le a_{\mathrm{tol}}+r_{\mathrm{tol}}|y|.

    变量

    xx
    在“断言要匹配数据语义”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    yy
    在“断言要匹配数据语义”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    aa
    在“断言要匹配数据语义”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    rr
    在“断言要匹配数据语义”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 设读取函数契约要求列 ,时间严格递增,三列均为有限数,且不确定度非负;成功返回三个等长数组,失败抛出带行号的输入错误。
    • 整数计数、布尔条件、枚举和短字符串通常要求精确相等;集合可比较成员而不强加顺序;序列若顺序属于契约则逐项比较;映射需同时检查键集合与值。

    相关概念

    适用与边界

    • 应用:把提交历史、分支合并与冲突消解整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:两者应由算法误差、输入不确定度和业务判据预先确定,不能在失败后逐步放宽到通过。
    • 推导:C00 · 测试、版本控制与环境管理
  4. 04

    计算机科学 · 科学计算 · 定义式

    对照定义“如果没有该处理会怎样”

    教材位置:C02 · 对照、随机化与功效分析

    τ=E[Y(1)Y(0)].\tau=\mathbb{E}[Y(1)-Y(0)].

    变量

    τ\tau
    在“对照定义“如果没有该处理会怎样””中作为等号左侧的目标量参与关系计算,单位:不适用
    YY
    在“对照定义“如果没有该处理会怎样””中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 因果问题要求比较同一单位在处理与未处理状态下的结果,但现实中每个单位只能经历其中一个状态。
    • 对照条件必须具体到接触时间、设备、默认设置和共同干预,不能只写“常规”。

    相关概念

    适用与边界

    • 应用:把随机分配、分层阻断与盲法实施整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:Yi(1)Y_i(1)Yi(0)Y_i(0) 表示单位 ii 的两个潜在结果,个体处理效应为 Yi(1)Yi(0)Y_i(1)-Y_i(0),却无法同时观测。
    • 推导:C02 · 对照、随机化与功效分析
  5. 05

    计算机科学 · 算法 · 典范公式

    分治的四个部件

    教材位置:C01 · 分治、贪心与排序

    T(n)=aT(n/b)+f(n),T(1)=Θ(1).T(n)=aT(n/b)+f(n), \qquad T(1)=\Theta(1).

    变量

    TT
    在“分治的四个部件”中作为等号左侧的目标量参与关系计算,单位:不适用
    nn
    在“分治的四个部件”中作为等号左侧的目标量参与关系计算,单位:不适用
    aa
    在“分治的四个部件”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    bb
    在“分治的四个部件”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    ff
    在“分治的四个部件”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    Θ\Theta
    在“分治的四个部件”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 相同伪代码在链表、外存或昂贵比较函数下可能有不同主导成本。
    • 若某分支仍为规模 nn,递推可能不终止。

    相关概念

    适用与边界

    • 应用:把快速排序的划分过程与最坏输入整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:递推子问题尺寸不等、子问题数随 nn 改变或 ff 剧烈振荡时,标准 Master 形式未必适用,应直接展开递归树、代入证明或使用更一般定理。
    • 推导:C01 · 分治、贪心与排序
  6. 06

    计算机科学 · 算法 · 典范公式

    例 1:反复在表头插入的成本

    教材位置:C01 · 序列、栈、队列、树与堆

    k=1n(k1)=n(n1)2=Θ(n2).\sum_{k=1}^{n}(k-1) =\frac{n(n-1)}2 =\Theta(n^2).

    变量

    kk
    在“例 1:反复在表头插入的成本”中作为等号左侧的目标量参与关系计算,单位:不适用
    nn
    在“例 1:反复在表头插入的成本”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    Θ\Theta
    在“例 1:反复在表头插入的成本”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 给定头节点寻找第 ii 个元素需要沿链前进,成本 O(i)O(i);若已持有待插位置的前驱节点,插入可改常数个引用,成本 O(1)O(1)
    • 若用持有头引用的单向链表,每次创建节点并令其 next 指向旧头,共改常数个引用,总成本 Θ(n)\Theta(n)

    相关概念

    适用与边界

    • 应用:把栈、队列与遍历顺序整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:两者对空结构操作都要定义失败,不能随意返回一个可能与合法元素冲突的特殊值。
    • 推导:C01 · 序列、栈、队列、树与堆
  7. 07

    计算机科学 · 科学计算 · 典范公式

    筛选、连接、聚合与派生变量

    教材位置:C02 · 数据变换、血缘与版本

    P=EtP=\frac{E}{t}

    变量

    PP
    在“筛选、连接、聚合与派生变量”中作为等号左侧的目标量参与关系计算,单位:不适用
    EE
    在“筛选、连接、聚合与派生变量”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    tt
    在“筛选、连接、聚合与派生变量”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 平均值还要说明是行加权、设备等权还是时长加权,因为三个结果可能完全不同。
    • 时,若 EE 用千瓦时、tt 用小时,PP 才是千瓦;若持续时间为零或缺失,应产生显式无效状态而不是无穷大。

    相关概念

    适用与边界

    • 应用:把数据血缘图、转换依赖与影响追踪整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:派生变量要给公式、输入列、单位和边界。
    • 推导:C02 · 数据变换、血缘与版本
  8. 08

    计算机科学 · 科学计算 · 典范公式

    舍入、消去与稳定改写

    教材位置:C00 · 数组、向量化与数值精度

    x+1x\sqrt{x+1}-\sqrt x

    变量

    xx
    在“舍入、消去与稳定改写”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 只在最终结果上转换类型太晚,因为溢出已在中间乘积发生。
    • 在约十六位有效数字的 中,x+1x+1 可能与 x=1016x=10^{16} 舍入为同一浮点数,于是直接式给零。

    相关概念

    适用与边界

    • 应用:把向量化归约、索引切片与临时分配整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:容差还应覆盖算法条件数和累计步数,不能固定一个对所有量纲通用的阈值。
    • 推导:C00 · 数组、向量化与数值精度
  9. 09

    计算机科学 · 科学计算 · 典范公式

    数值收敛实验需要已知参照或一致基准

    教材位置:C00 · 数据可视化与计算实验

    logelogC+plogh,\log e\approx\log C+p\log h,

    变量

    ee
    在“数值收敛实验需要已知参照或一致基准”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    CC
    在“数值收敛实验需要已知参照或一致基准”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    pp
    在“数值收敛实验需要已知参照或一致基准”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    hh
    在“数值收敛实验需要已知参照或一致基准”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 设要比较估计器 A、B 的绝对误差。
    • dr<0d_r<0,表示 A 在该共享实例上误差更小。

    相关概念

    适用与边界

    • 应用:把坐标轴、归一化与不确定性编码整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:颜色不能作为唯一编码,还应配标签、线型、标记或直接数值,照顾色觉差异和灰度输出。
    • 推导:C00 · 数据可视化与计算实验
  10. 10

    计算机科学 · 算法 · 典范公式

    图表示取决于要执行的操作

    教材位置:C01 · 哈希表、图与并查集

    Θ(V+E),\Theta(|V|+|E|),

    变量

    Θ\Theta
    在“图表示取决于要执行的操作”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    VV
    在“图表示取决于要执行的操作”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    EE
    在“图表示取决于要执行的操作”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 随后查询 24:先检查槽 3 的 10,再经过槽 4 的墓碑,最后在槽 5 命中。
    • 若邻居容器是普通列表,判断特定边 (u,v)(u,v) 是否存在最坏需扫描 uu 的邻居;若每个邻居集合用哈希表,可获得有条件的期望常数查询,但会增加内存与散列前提。

    相关概念

    适用与边界

    • 应用:把邻接表、邻接矩阵与图遍历状态整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:不能仅凭一张示意图猜测它们。
    • 推导:C01 · 哈希表、图与并查集
  11. 11

    计算机科学 · 科学计算 · 典范公式

    五类基本规则与模式验证

    教材位置:C02 · 数据质量、清理与模式验证

    qr=Npass,rNeligible,r,q_r=\frac{N_{\mathrm{pass},r}}{N_{\mathrm{eligible},r}},

    变量

    qrq_{r}
    用下标 r 区分 q 的分量、样本或离散状态,单位:不适用
    NrN_{r}
    用下标 r 区分 N 的分量、样本或离散状态,单位:不适用

    成立条件

    • 若主键应由 study_id、participant_id 与 visit_id 组成,就要对这个组合检查重复。
    • 研究问题是“比较设备在启动后首小时的平均功率”。

    相关概念

    适用与边界

    • 应用:把类型约束、范围约束与跨字段一致性整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:完整性规则区分必填、条件必填和结构性不适用:只有怀孕者才填写孕周时,其他人的空值不是数据丢失。
    • 推导:C02 · 数据质量、清理与模式验证
  12. 12

    计算机科学 · 科学计算 · 典范公式

    项目问题:从高度—时间数据估计重力加速度

    教材位置:C00 · 编程与科学计算综合项目

    h(t)=h0+v0t12gt2,h(t)=h_0+v_0t-\frac12gt^2,

    变量

    hh
    在“项目问题:从高度—时间数据估计重力加速度”中作为等号左侧的目标量参与关系计算,单位:不适用
    tt
    在“项目问题:从高度—时间数据估计重力加速度”中作为等号左侧的目标量参与关系计算,单位:不适用
    h0h_{0}
    用下标 0 区分 h 的分量、样本或离散状态,单位:不适用
    v0tv_{0t}
    用下标 0t 区分 v 的分量、样本或离散状态,单位:不适用
    gg
    在“项目问题:从高度—时间数据估计重力加速度”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • 该模型假设测量区间内重力近似恒定、竖直坐标向上、阻力可忽略、计时与高度误差满足拟合假设。
    • 程序得到一个精确小数,不会自动证明这些物理假设。

    相关概念

    适用与边界

    • 应用:把从基准样例到边界输入的测试矩阵整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:项目完成标准预先固定:合法输入可从干净环境用一条命令生成结构化汇总、图件和 manifest;非法输入返回非零退出状态且不留下被误认作成功的最终产物;合成基准恢复已知 gg;真实数据结果带数值与模型边界。
    • 推导:C00 · 编程与科学计算综合项目
  13. 13

    计算机科学 · 科学计算 · 典范公式

    效应量保留问题的尺度

    教材位置:C02 · 指标、统计比较与多重检验

    p1/(1p1)p0/(1p0).\frac{p_1/(1-p_1)}{p_0/(1-p_0)}.

    变量

    p1p_{1}
    用下标 1 区分 p 的分量、样本或离散状态,单位:不适用
    p0p_{0}
    用下标 0 区分 p 的分量、样本或离散状态,单位:不适用

    成立条件

    • 若先查看各种窗口、分位数和过滤规则再选最有利组合,报告应标记为探索性而非确认性。
    • 若不同量表必须比较,可用标准化均值差,但分母标准差选择、组间方差差异和分布形状都会影响解释;标准化并不会把效应变成跨场景恒定的事实。

    相关概念

    适用与边界

    • 应用:把置信区间、假设检验与实际显著性整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:风险差给出每百个单位增加或减少多少事件,风险比表达相对变化;优势比在事件常见时可能比风险比离一更远,不能互换措辞。
    • 推导:C02 · 指标、统计比较与多重检验
  14. 14

    计算机科学 · 算法 · 典范公式

    映射归约的方向决定结论

    教材位置:C01 · 渐近复杂度、归约与可计算性

    xA    f(x)B.x\in A\iff f(x)\in B.

    变量

    xx
    在“映射归约的方向决定结论”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    AA
    在“映射归约的方向决定结论”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    ff
    在“映射归约的方向决定结论”中作为等号右侧的输入量或系数参与关系计算,单位:不适用
    BB
    在“映射归约的方向决定结论”中作为等号右侧的输入量或系数参与关系计算,单位:不适用

    成立条件

    • LL 与补语言 L\overline L 都可识别,可交错运行两个识别器,其中一个最终接受,从而判定 LL
    • 于是若能判定 BB,先算 f(x)f(x) 再调用 BB 判定器即可判定 AA

    相关概念

    适用与边界

    • 应用:把多项式归约、NP 完全性与验证器整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:因此为证明 BB 至少和已知困难问题 AA 一样难,应从 AA 归约到 BB;反向只说明 AA 能帮助解 BB,不能推出 BB 困难。
    • 推导:C01 · 渐近复杂度、归约与可计算性
  15. 15

    计算机科学 · 算法 · 典范公式

    状态、转移与归纳证明

    教材位置:C01 · 动态规划与图算法

    F(i,c)=max{F(i1,c), F(i1,cwi)+vi}.F(i,c)=\max\{F(i-1,c),\ F(i-1,c-w_i)+v_i\}.

    变量

    FF
    在“状态、转移与归纳证明”中作为等号左侧的目标量参与关系计算,单位:不适用
    ii
    在“状态、转移与归纳证明”中作为等号左侧的目标量参与关系计算,单位:不适用
    cc
    在“状态、转移与归纳证明”中作为等号左侧的目标量参与关系计算,单位:不适用
    wiw_{i}
    用下标 i 区分 w 的分量、样本或离散状态,单位:不适用
    viv_{i}
    用下标 i 区分 v 的分量、样本或离散状态,单位:不适用

    成立条件

    • 一个完整设计要回答五件事:状态代表什么,转移枚举哪一个最后决策,基例为何正确,以什么顺序保证依赖已求出,最终答案位于哪里。
    • 二者若状态和转移相同,渐近工作量通常相同,但常数、可达状态比例与实现边界可能不同。

    相关概念

    适用与边界

    • 应用:把最短路、负权边与松弛次序整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:二者若状态和转移相同,渐近工作量通常相同,但常数、可达状态比例与实现边界可能不同。
    • 推导:C01 · 动态规划与图算法
  16. 16

    交叉科学 · 科学机器学习 · 更新式

    反向伴随递推

    教材位置:A14 · 可微物理、自动微分与守恒约束

    λK=Φx(xK,θ),\lambda_K=\Phi_x(x_K,\theta),

    变量

    λK\lambda_{K}
    用下标 K 区分 lambda 的分量、样本或离散状态,单位:由上下文确定
    Φx\Phi_{x}
    用下标 x 区分 Phi 的分量、样本或离散状态,单位:由上下文确定
    xKx_{K}
    用下标 K 区分 x 的分量、样本或离散状态,单位:由上下文确定
    θ\theta
    在“反向伴随递推”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 当目标很少而参数很多时,反向模式更有效。
    • 令列向量伴随量表示从未来目标传回当前状态的梯度。

    相关概念

    适用与边界

    • 应用:把伴随法、自动微分与参数梯度整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:正文未把极限情形单列为独立公式;适用边界以本小节声明的定义域、假设和边界条件为限。
    • 推导:A14 · 可微物理、自动微分与守恒约束
  17. 17

    交叉科学 · 科学机器学习 · 典范公式

    反演把前向误差放进后验和决策

    教材位置:A14 · 基准、外推边界与科学机器学习综合复习

    y=H(u(κ,s))+ε+δ.y=H(u(\kappa,s))+\varepsilon+\delta.

    变量

    yy
    在“反演把前向误差放进后验和决策”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    HH
    在“反演把前向误差放进后验和决策”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    uu
    在“反演把前向误差放进后验和决策”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    κ\kappa
    在“反演把前向误差放进后验和决策”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    ss
    在“反演把前向误差放进后验和决策”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    ε\varepsilon
    在“反演把前向误差放进后验和决策”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    δ\delta
    在“反演把前向误差放进后验和决策”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 若数据生成可以并行或求解器分解可复用,盈亏点会改变;若函数分布更新导致重训,前置成本会重复。
    • 任何代理误差若未进入 deltadelta,后验可能非常窄却围绕错误参数。

    相关概念

    适用与边界

    • 应用:把守恒残差、网格收敛与跨参数外推整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:还需在相同误差和硬件下比较,不能只用时间数字决定。
    • 推导:A14 · 基准、外推边界与科学机器学习综合复习
  18. 18

    交叉科学 · 科学机器学习 · 约束

    核积分层统一局部与非局部交互

    教材位置:A14 · Fourier 神经算子与网格泛化

    v+1(x)=σ(Wv(x)+Dκ(x,y)v(y)dy+b(x)).v_{\ell+1}(x)=\sigma\left( W_\ell v_\ell(x) +\int_D\kappa_\ell(x,y)v_\ell(y)\,dy +b_\ell(x) \right).

    变量

    v+1v_{\ell+1}
    用下标 ell+1 区分 v 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“核积分层统一局部与非局部交互”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    σ\sigma
    在“核积分层统一局部与非局部交互”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    WW_{\ell}
    用下标 ell 区分 W 的分量、样本或离散状态,单位:由上下文确定
    vv_{\ell}
    用下标 ell 区分 v 的分量、样本或离散状态,单位:由上下文确定
    DkappaDkappa_{\ell}
    用下标 ell 区分 Dkappa 的分量、样本或离散状态,单位:由上下文确定
    yy
    在“核积分层统一局部与非局部交互”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    bb_{\ell}
    用下标 ell 区分 b 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 若网格不均匀却忽略 wjw_j,节点密集区域会被过度计权。
    • 核若完全稠密,计算和存储随 N2N^2 增长;局部核、低秩分解、图邻域或频域卷积用于降低成本。

    相关概念

    适用与边界

    • 应用:把提升层、积分核与网格无关表示整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:训练和测试应按输入场、方程参数或场景分组,不能把同一场的不同网格点随机拆开后声称跨函数泛化。
    • 推导:A14 · Fourier 神经算子与网格泛化
  19. 19

    交叉科学 · 科学机器学习 · 典范公式

    先写出未知量到观测的完整链路

    教材位置:A14 · 逆问题、数据同化与不确定性

    u=F(θ;q),u=F(\theta;q),

    变量

    uu
    在“先写出未知量到观测的完整链路”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    FF
    在“先写出未知量到观测的完整链路”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    θ\theta
    在“先写出未知量到观测的完整链路”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    qq
    在“先写出未知量到观测的完整链路”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 若把 HH 省略,就会把稀疏传感器值误当完整场;若把 δ\delta 全部塞进独立高斯噪声,区间可能过窄且参数被迫补偿模型错误。
    • 参数化改变可辨识性和先验,不能在结果中隐藏。

    相关概念

    适用与边界

    • 应用:把观测算子、滤波平滑与数据同化整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:其中 qq 收集已知边界、外力和控制量。
    • 推导:A14 · 逆问题、数据同化与不确定性
  20. 20

    交叉科学 · 科学机器学习 · 典范公式

    学习对象是函数到函数的映射

    教材位置:A14 · DeepONet 与算子逼近

    um=(u(x1),,u(xm)).\mathbf u_m=(u(x_1),\ldots,u(x_m)).

    变量

    umu_{m}
    用下标 m 区分 u 的分量、样本或离散状态,单位:由上下文确定
    uu
    在“学习对象是函数到函数的映射”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    x1x_{1}
    用下标 1 区分 x 的分量、样本或离散状态,单位:由上下文确定
    xmx_{m}
    用下标 m 区分 x 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 模型真正可见的是采样算子 Sm:uumS_m:u\mapsto\mathbf u_m;任何关于连续算子的结论都要包含传感器集合和输入函数类,不能把有限采样静默当作完整函数。
    • y2y_2,若 t(y2)=(0.1,0.5,0.2)t(y_2)=(0.1,0.5,0.2),预测为 2(0.1)1(0.5)+0.5(0.2)+0.1=0.12(0.1)-1(0.5)+0.5(0.2)+0.1=-0.1

    相关概念

    适用与边界

    • 应用:把算子逼近定理和传感点表示整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:模型真正可见的是采样算子 Sm:uumS_m:u\mapsto\mathbf u_m;任何关于连续算子的结论都要包含传感器集合和输入函数类,不能把有限采样静默当作完整函数。
    • 推导:A14 · DeepONet 与算子逼近
  21. 21

    交叉科学 · 科学机器学习 · 典范公式

    用网络表示未知解

    教材位置:A14 · 物理信息神经网络与残差训练

    utκuxx=f(x,t),(x,t)Ω×(0,T],u_t-\kappa u_{xx}=f(x,t),\qquad (x,t)\in\Omega\times(0,T],

    变量

    utu_{t}
    用下标 t 区分 u 的分量、样本或离散状态,单位:由上下文确定
    κ\kappa
    在“用网络表示未知解”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    uxxu_{xx}
    用下标 xx 区分 u 的分量、样本或离散状态,单位:由上下文确定
    ff
    在“用网络表示未知解”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    xx
    在“用网络表示未知解”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    tt
    在“用网络表示未知解”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    Ω\Omega
    在“用网络表示未知解”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    TT
    在“用网络表示未知解”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • “用网络表示未知解”采用该锚点正文给出的定义域、对象类型与记号约定。

    相关概念

    适用与边界

    • 应用:把配点采样、自适应加权与谱偏置整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:物理信息神经网络通常不从大量成对标签开始,而是用网络 uθ(x,t)u_\theta(x,t) 表示未知场,再把微分方程、初值、边界和少量观测写入目标函数。
    • 推导:A14 · 物理信息神经网络与残差训练
  22. 22

    机器学习 · 神经网络 · 约束

    把智能体写成受约束状态循环

    教材位置:A12 · 工具调用、记忆与任务规划

    st=(g,ot,mt,pt,ct,bt,et),s_t=(g,o_{\le t},m_t,p_t,c_t,b_t,e_t),

    变量

    sts_{t}
    用下标 t 区分 s 的分量、样本或离散状态,单位:由上下文确定
    gg
    在“把智能体写成受约束状态循环”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    oto_{t}
    用下标 t 区分 o 的分量、样本或离散状态,单位:由上下文确定
    mtm_{t}
    用下标 t 区分 m 的分量、样本或离散状态,单位:由上下文确定
    ptp_{t}
    用下标 t 区分 p 的分量、样本或离散状态,单位:由上下文确定
    ctc_{t}
    用下标 t 区分 c 的分量、样本或离散状态,单位:由上下文确定
    btb_{t}
    用下标 t 区分 b 的分量、样本或离散状态,单位:由上下文确定
    ete_{t}
    用下标 t 区分 e 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 其中 gg 是冻结或经授权变更的目标,oto_{\le t} 是已接收观测,mtm_t 是工作记忆,ptp_t 是当前计划,ctc_t 是权限与安全约束,btb_t 是剩余时间、费用和调用预算,ete_t 是尚未确认的外部副作用。
    • 用户要求为设备预约维护。

    相关概念

    适用与边界

    • 应用:把短期上下文、外部记忆与状态更新整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:系统可请求事故编号或把草案降为中优先级供用户选择,不能静默补造编号。
    • 推导:A12 · 工具调用、记忆与任务规划
  23. 23

    机器学习 · 神经网络 · 典范公式

    编码器块让每个有效位置读取双向上下文

    教材位置:A07 · 编码器、解码器与 Transformer 架构

    FFN(x)=W2ϕ(W1x+b1)+b2,\operatorname{FFN}(x)=W_2\phi(W_1x+b_1)+b_2,

    变量

    xx
    在“编码器块让每个有效位置读取双向上下文”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    W2phiW_{2phi}
    用下标 2phi 区分 W 的分量、样本或离散状态,单位:由上下文确定
    W1xW_{1x}
    用下标 1x 区分 W 的分量、样本或离散状态,单位:由上下文确定
    b1b_{1}
    用下标 1 区分 b 的分量、样本或离散状态,单位:由上下文确定
    b2b_{2}
    用下标 2 区分 b 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 编码器自注意力的 Q、K、V 都来自当前序列,通常只用 padding mask,不用因果 mask。
    • B=2,N=4,d=8,H=2,dk=dv=4,dff=16B=2,N=4,d=8,H=2,d_k=d_v=4,d_{\mathrm{ff}}=16

    相关概念

    适用与边界

    • 应用:把解码器因果注意力与交叉注意力整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:若任务要求在线流式处理,双向注意力会读取尚未到达的未来,必须改成块状、因果或有限右上下文,而不能只在部署时截断。
    • 推导:A07 · 编码器、解码器与 Transformer 架构
  24. 24

    机器学习 · 神经网络 · 典范公式

    标签平滑改变监督目标

    教材位置:A05 · 正则化、数据增强与早停

    yk=(1ε)yk+εK.y'_k=(1-\varepsilon)y_k+\frac{\varepsilon}{K}.

    变量

    yy
    在“标签平滑改变监督目标”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    kk
    在“标签平滑改变监督目标”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    ε\varepsilon
    在“标签平滑改变监督目标”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    yky_{k}
    用下标 k 区分 y 的分量、样本或离散状态,单位:由上下文确定
    KK
    与查询计算缩放相似度,单位:由上下文确定

    成立条件

    • 混合两样本的增强还会混合标签,隐含目标在输入间平滑的假设。
    • 它可缓解过度自信和标签噪声敏感,但也改变最优概率与校准,不能假设必然改善可靠性。

    相关概念

    适用与边界

    • 应用:把图像、文本增强中的标签保持假设整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:对每种变换记录概率、参数范围、插值、边界填充和随机种子,视觉查看图像与标签叠加是基本核验。
    • 推导:A05 · 正则化、数据增强与早停
  25. 25

    机器学习 · 学习基础 · 典范公式

    表格收敛结论附带一组条件

    教材位置:A10 · Q-learning、探索与函数逼近

    kαk(s,a)=,kαk(s,a)2<.\sum_k\alpha_k(s,a)=\infty, \qquad \sum_k\alpha_k(s,a)^2<\infty.

    变量

    kalphakkalpha_{k}
    用下标 k 区分 kalpha 的分量、样本或离散状态,单位:由上下文确定
    ss
    在“表格收敛结论附带一组条件”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    aa
    在“表格收敛结论附带一组条件”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 更新当前动作二时,下一状态的Q值若为 (4,2,3,1)(4,2,3,1)γ=0.9\gamma=0.9,则目标使用最大值四:Y=1+0.9×4=4.6Y=1+0.9\times4=4.6,而不是使用行为策略下一次可能抽到的动作值。
    • 固定正步长一般在随机目标附近持续波动,适合跟踪非平稳环境,却不满足精确收敛条件。

    相关概念

    适用与边界

    • 应用:把ε-greedy、乐观初始化与探索覆盖整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:有限训练预算下只能检查访问数、误差和独立回报,不能从渐近定理直接声称已经到达 qq_*
    • 推导:A10 · Q-learning、探索与函数逼近
  26. 26

    机器学习 · 神经网络 · 典范公式

    表示坍塌需要多种证据

    教材位置:A08 · 表示质量、坍塌与自监督学习综合复习

    Align=1niuiui+22.\operatorname{Align} =\frac1n\sum_i\lVert u_i-u_i^+\rVert_2^2.

    变量

    nn
    在“表示坍塌需要多种证据”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    ii
    在“表示坍塌需要多种证据”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    uiu_{i}
    用下标 i 区分 u 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 若任务标签只由第一维符号决定,冻结线性探测仍可成功;若另一任务依赖被删除的第二因素,则会失败。
    • 若把这些向量归一化,只剩 (1,0)(1,0)(1,0)(-1,0) 两个点,实例级差异进一步消失。

    相关概念

    适用与边界

    • 应用:把均匀性、对齐度与各向异性诊断整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:三者会影响最近邻、阈值和数值稳定性,但不能只靠二维投影图判断。
    • 推导:A08 · 表示质量、坍塌与自监督学习综合复习
  27. 27

    机器学习 · 生成模型 · 约束

    从边缘似然推导证据下界

    教材位置:A09 · 变分自编码器与证据下界

    logpθ(x)Eqϕ(zx)[logpθ(x,z)logqϕ(zx)]=LELBO(x).\log p_\theta(x) \ge \mathbb E_{q_\phi(z\mid x)} \left[\log p_\theta(x,z)-\log q_\phi(z\mid x)\right] =\mathcal L_{\mathrm{ELBO}}(x).

    变量

    pθp_{\theta}
    用下标 theta 区分 p 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“从边缘似然推导证据下界”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    qϕq_{\phi}
    用下标 phi 区分 q 的分量、样本或离散状态,单位:由上下文确定
    zz
    在“从边缘似然推导证据下界”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    LL
    在“从边缘似然推导证据下界”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 编码器不是生成模型的先验,也不是把输入压成一个确定点;它给定观测后输出一个可采样分布。
    • 训练时用它提出可能解释当前 xx 的潜变量,生成新样本时则应从 p(z)p(z) 而非某个训练样本的 qϕ(zx)q_\phi(z\mid x) 开始。

    相关概念

    适用与边界

    • 应用:把证据下界中的重构项与 KL 项整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:因此 ELBO 不能称为已算出的真实对数似然。
    • 推导:A09 · 变分自编码器与证据下界
  28. 28

    机器学习 · 神经网络 · 典范公式

    从二维网格到标记序列

    教材位置:A06 · 视觉 Transformer 与混合架构

    Hp=HPh,Wp=WPw,N=HpWp.H_p=\frac{H}{P_h},\qquad W_p=\frac{W}{P_w},\qquad N=H_pW_p.

    变量

    HpH_{p}
    用下标 p 区分 H 的分量、样本或离散状态,单位:由上下文确定
    HH
    在“从二维网格到标记序列”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    PhP_{h}
    用下标 h 区分 P 的分量、样本或离散状态,单位:由上下文确定
    WpW_{p}
    用下标 p 区分 W 的分量、样本或离散状态,单位:由上下文确定
    WW
    在“从二维网格到标记序列”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    PwP_{w}
    用下标 w 区分 P 的分量、样本或离散状态,单位:由上下文确定
    NN
    在“从二维网格到标记序列”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    HpWH_{pW}
    用下标 pW 区分 H 的分量、样本或离散状态,单位:由上下文确定
    pp
    在“从二维网格到标记序列”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 设一批图像张量为 XRB×H×W×CX\in\mathbb{R}^{B\times H\times W\times C},非重叠块高宽为 Ph,PwP_h,P_w
    • HHWW 不能整除块尺寸,必须固定裁剪、补边或可变块规则。

    相关概念

    适用与边界

    • 应用:把全局自注意力与局部窗口机制整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:HHWW 不能整除块尺寸,必须固定裁剪、补边或可变块规则。
    • 推导:A06 · 视觉 Transformer 与混合架构
  29. 29

    机器学习 · 学习基础 · 典范公式

    从连续预测开始

    教材位置:A01 · 线性回归、最小二乘与正规方程

    hw,b(x)=wTx+b,h_{w,b}(x)=w^\mathsf T x+b,

    变量

    hwbh_{wb}
    用下标 wb 区分 h 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“从连续预测开始”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    ww
    在“从连续预测开始”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    bb
    在“从连续预测开始”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 因而“线性”描述参数进入预测式的方式,不表示预测曲线在原始坐标中一定是一条直线。
    • 把截距列并入设计矩阵。

    相关概念

    适用与边界

    • 应用:把最小二乘正规方程与投影解释整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:此时正规方程仍可能有解,但直接逆矩阵公式失效。
    • 推导:A01 · 线性回归、最小二乘与正规方程
  30. 30

    机器学习 · 神经网络 · 定义式

    带间隔的线性可分

    教材位置:A04 · 感知机与多层感知器

    yi(wTxi+b)γy_i(w^{\mathsf T}x_i+b)\ge\gamma

    变量

    yiy_{i}
    用下标 i 区分 y 的分量、样本或离散状态,单位:由上下文确定
    ww
    在“带间隔的线性可分”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    xix_{i}
    用下标 i 区分 x 的分量、样本或离散状态,单位:由上下文确定
    bb
    在“带间隔的线性可分”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    γ\gamma
    在“带间隔的线性可分”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 若再约束 w2=1\lVert w\rVert_2=1γ\gamma 才具有可比较的几何距离意义。
    • 多层感知机加入非线性后可以表示非线性决策边界,但“存在一种参数表示”不同于“给定优化器能从有限数据找到并泛化”。

    相关概念

    适用与边界

    • 应用:把隐藏层、仿射变换与非线性组合整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:多层感知机加入非线性后可以表示非线性决策边界,但“存在一种参数表示”不同于“给定优化器能从有限数据找到并泛化”。
    • 推导:A04 · 感知机与多层感知器
  31. 31

    机器学习 · 神经网络 · 典范公式

    动态图把整个图作为状态

    教材位置:A11 · 图生成、图动力学与物理系统

    mijt=ϕe(hit,hjt,eijt,ut),mit=jN(i)mijt,m_{ij}^t=\phi_e(h_i^t,h_j^t,e_{ij}^t,u^t),\qquad m_i^t=\sum_{j\in\mathcal N(i)}m_{ij}^t,

    变量

    mijm_{ij}
    用下标 ij 区分 m 的分量、样本或离散状态,单位:由上下文确定
    tt
    在“动态图把整个图作为状态”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    ϕe\phi_{e}
    用下标 e 区分 phi 的分量、样本或离散状态,单位:由上下文确定
    hih_{i}
    用下标 i 区分 h 的分量、样本或离散状态,单位:由上下文确定
    hjh_{j}
    用下标 j 区分 h 的分量、样本或离散状态,单位:由上下文确定
    eije_{ij}
    用下标 ij 区分 e 的分量、样本或离散状态,单位:由上下文确定
    uu
    在“动态图把整个图作为状态”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    mim_{i}
    用下标 i 区分 m 的分量、样本或离散状态,单位:由上下文确定
    jj
    在“动态图把整个图作为状态”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    NN
    在“动态图把整个图作为状态”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    ii
    在“动态图把整个图作为状态”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 训练第二步时真实前缀含 abab,模型学习“把当前端点 bb 接到新节点 cc”。
    • 若控制动作存在,可把它作为节点或全局输入;若系统只部分可观测,当前图特征未必是 Markov 状态,需要历史或隐状态。

    相关概念

    适用与边界

    • 应用:把动力系统图上的时间消息传递整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:混入模型前缀训练会改变状态分布,但不能自动修复目标设计和不可逆错误。
    • 推导:A11 · 图生成、图动力学与物理系统
  32. 32

    机器学习 · 神经网络 · 典范公式

    端到端成功率设置关键门槛

    教材位置:A12 · 系统评估、故障模式与智能体综合复习

    Si=1[目标完成关键证据正确副作用正确无关键违规],SuccessRate=1Ni=1NSi.S_i= \mathbf 1[ \text{目标完成} \land\text{关键证据正确} \land\text{副作用正确} \land\text{无关键违规} ], \qquad \operatorname{SuccessRate} =\frac1N\sum_{i=1}^{N}S_i.

    变量

    SiS_{i}
    用下标 i 区分 S 的分量、样本或离散状态,单位:由上下文确定
    NN
    在“端到端成功率设置关键门槛”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    ii
    在“端到端成功率设置关键门槛”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 模型摘要若写入长期记忆,会把推测放大为后续“事实”。
    • 还应保留步骤级指标定位:设备识别、检索召回、声明支持、工具选择、参数正确、审批遵守、错误恢复和终止。

    相关概念

    适用与边界

    • 应用:把工具错误、检索污染与上下文漂移整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:计划可被观测更新,但权限边界不随计划改变。
    • 推导:A12 · 系统评估、故障模式与智能体综合复习
  33. 33

    机器学习 · 神经网络 · 定义式

    多项式滤波把谱定义变成局部稀疏计算

    教材位置:A11 · 谱图方法与流形学习

    g(L)xk=0KckLkx,g(L)x\approx\sum_{k=0}^Kc_kL^kx,

    变量

    gg
    在“多项式滤波把谱定义变成局部稀疏计算”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    LL
    在“多项式滤波把谱定义变成局部稀疏计算”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    xx
    在“多项式滤波把谱定义变成局部稀疏计算”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    kk
    在“多项式滤波把谱定义变成局部稀疏计算”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    KckLKc_{kL}
    用下标 kL 区分 Kc 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 因此直接把第 kk 列数值当作具有固定正方向的语义特征,需要符号对齐或对符号不敏感的处理;跨图使用时还要处理特征值穿越和维数变化。
    • 若加到三次幂,节点四才可能收到信号。

    相关概念

    适用与边界

    • 应用:把Chebyshev 近似与局部消息传递联系整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:更一般的共享线性邻居聚合常能写成邻接或Laplacian多项式;加入特征矩阵、可学习通道映射和逐点非线性后,空间消息传递仍保持局部计算,却不再等于一次固定线性谱滤波。
    • 推导:A11 · 谱图方法与流形学习
  34. 34

    机器学习 · 学习基础 · 定义式

    泛化间隙

    教材位置:A01 · 过拟合、泛化与模型选择

    R(f)R^train(f)R(f)-\widehat R_{\mathrm{train}}(f)

    变量

    RR
    在“泛化间隙”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    ff
    在“泛化间隙”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    RR
    在“泛化间隙”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 过拟合原因可以是高容量模型记住训练噪声,可通过不同样本量学习曲线和正则化比较核查;分布原因可以是验证数据来自更新设备,可按设备与时间分组检查特征和误差;实现原因可以是验证阶段标准化方式不同,应审计同一预处理流水线并用小批样本逐项比对。
    • 若同一验证集被反复用于特征选择、超参数搜索和停止训练,最终验证分数已经参与模型构造,不能再当作一次独立泛化估计。

    相关概念

    适用与边界

    • 应用:把模型容量、偏差方差与验证曲线整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:若同一验证集被反复用于特征选择、超参数搜索和停止训练,最终验证分数已经参与模型构造,不能再当作一次独立泛化估计。
    • 推导:A01 · 过拟合、泛化与模型选择
  35. 35

    机器学习 · 神经网络 · 约束

    范数球是数学代理而非语义等价保证

    教材位置:A13 · 鲁棒性、对抗攻击与防御评估

    Sp(x)={x+δ:δpε,x+δX}.\mathcal S_p(x)=\{x+\delta:\lVert\delta\rVert_p\le\varepsilon, x+\delta\in\mathcal X\}.

    变量

    SpS_{p}
    用下标 p 区分 S 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“范数球是数学代理而非语义等价保证”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    δ\delta
    在“范数球是数学代理而非语义等价保证”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    pp
    在“范数球是数学代理而非语义等价保证”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    ε\varepsilon
    在“范数球是数学代理而非语义等价保证”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    XX
    在“范数球是数学代理而非语义等价保证”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 若是目标攻击,常改为让模型偏向指定 ytary_{\mathrm{tar}}
    • 同一个防御在不同集合下可能一强一弱;“对抗鲁棒”不能省略集合、预算、攻击知识和成功标准。

    相关概念

    适用与边界

    • 应用:把FGSM、PGD 与自适应攻击评估整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:用高斯噪声准确率替代自适应最坏攻击,不能回答白盒威胁。
    • 推导:A13 · 鲁棒性、对抗攻击与防御评估
  36. 36

    机器学习 · 神经网络 · 典范公式

    仿射层前向方差来自扇入求和

    教材位置:A04 · 参数初始化与梯度传播

    zj=i=1ninWjiai+bj.z_j=\sum_{i=1}^{n_{\mathrm{in}}}W_{ji}a_i+b_j.

    变量

    zjz_{j}
    用下标 j 区分 z 的分量、样本或离散状态,单位:由上下文确定
    ii
    在“仿射层前向方差来自扇入求和”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    nn
    在“仿射层前向方差来自扇入求和”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    WjiW_{ji}
    用下标 ji 区分 W 的分量、样本或离散状态,单位:由上下文确定
    aia_{i}
    用下标 i 区分 a 的分量、样本或离散状态,单位:由上下文确定
    bjb_{j}
    用下标 j 区分 b 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • Xavier 或 He 公式是在特定近似下的起点,不是对任意网络保证“方差永远不变”的定理。
    • 若激活均值也为零,二阶矩等于方差;ReLU 输出均值不为零,继续传播时应使用二阶矩而不是机械替换成方差。

    相关概念

    适用与边界

    • 应用:把ReLU 激活下的 He 初始化整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:所有权重初始化为零还会让同层神经元保持完全对称,接收相同梯度,宽层退化为重复单元;因此需要随机破坏对称,同时控制尺度。
    • 推导:A04 · 参数初始化与梯度传播
  37. 37

    机器学习 · 生成模型 · 典范公式

    非饱和损失改变梯度而不改变目标平衡点

    教材位置:A09 · 生成对抗网络与散度最小化

    LGminimax=Ezlog(1D(G(z))).L_G^{\mathrm{minimax}}=\mathbb E_z\log(1-D(G(z))).

    变量

    LGL_{G}
    用下标 G 区分 L 的分量、样本或离散状态,单位:由上下文确定
    zz
    在“非饱和损失改变梯度而不改变目标平衡点”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    GG
    在“非饱和损失改变梯度而不改变目标平衡点”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 若两分布支持集几乎不相交,理想判别器可在真实处接近一、生成处接近零,Jensen–Shannon值在局部可能缺少有用变化。
    • 若判别器logit为 ssD=σ(s)D=\sigma(s),单样本损失对 ss 的导数为 D-D

    相关概念

    适用与边界

    • 应用:把非饱和损失、Wasserstein 距离与梯度惩罚整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:有限步交替训练时,DϕD_\phi 通常不是 DD^*,生成器沿当前神经判别器提供的梯度移动,不能说每一步都在精确下降Jensen–Shannon散度。
    • 推导:A09 · 生成对抗网络与散度最小化
  38. 38

    机器学习 · 学习基础 · 典范公式

    分类不纯度衡量标签混合

    教材位置:A02 · 决策树、划分准则与剪枝

    IGini(A)=1kpk2,IEnt(A)=kpklogpk.I_{\mathrm{Gini}}(A)=1-\sum_k p_k^2, \qquad I_{\mathrm{Ent}}(A)=-\sum_k p_k\log p_k.

    变量

    II
    在“分类不纯度衡量标签混合”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    AA
    在“分类不纯度衡量标签混合”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    kk
    标记当前或下一次更新,单位:由上下文确定
    pkp_{k}
    用下标 k 区分 p 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 若特征是复杂编码、代理变量或处理后信息,短路径也不等于可行动解释,更不等于因果机制。
    • 设节点 AA 中第 kk 类比例为 pkp_k

    相关概念

    适用与边界

    • 应用:把递归生长、叶节点预测与缺失特征整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:根部一次选择会改变后续所有候选,局部最优不能当作全局最优证明。
    • 推导:A02 · 决策树、划分准则与剪枝
  39. 39

    机器学习 · 神经网络 · 典范公式

    概率置信度要对应条件正确率

    教材位置:A13 · 校准、分布外检测与选择性预测

    Pr{Y=y^(X)C(X)=c}=c\Pr\{Y=\widehat y(X)\mid C(X)=c\}=c

    变量

    YY
    在“概率置信度要对应条件正确率”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    yy
    在“概率置信度要对应条件正确率”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    XX
    在“概率置信度要对应条件正确率”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    CC
    在“概率置信度要对应条件正确率”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    cc
    在“概率置信度要对应条件正确率”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 类别条件校准检查 pkp_k 与事件 Y=kY=k,群体校准还按区域、设备或人群分层。
    • 点在对角线下方表示该箱平均过度自信,在上方表示平均保守。

    相关概念

    适用与边界

    • 应用:把能量分数、密度比与分布外检测整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:改变箱边界会改变图形,必须连同边界、空箱规则和样本数一起报告。
    • 推导:A13 · 校准、分布外检测与选择性预测
  40. 40

    机器学习 · 学习基础 · 典范公式

    回报把未来奖励折算到当前

    教材位置:A10 · Markov 决策过程与 Bellman 方程

    Gt=Rt+1+γRt+2+γ2Rt+3+=k=0γkRt+k+1.G_t=R_{t+1}+\gamma R_{t+2}+\gamma^2R_{t+3}+\cdots =\sum_{k=0}^{\infty}\gamma^kR_{t+k+1}.

    变量

    GtG_{t}
    用下标 t 区分 G 的分量、样本或离散状态,单位:由上下文确定
    Rt+1R_{t+1}
    用下标 t+1 区分 R 的分量、样本或离散状态,单位:由上下文确定
    γ\gamma
    在“回报把未来奖励折算到当前”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    Rt+2R_{t+2}
    用下标 t+2 区分 R 的分量、样本或离散状态,单位:由上下文确定
    Rt+3R_{t+3}
    用下标 t+3 区分 R 的分量、样本或离散状态,单位:由上下文确定
    kk
    标记当前或下一次更新,单位:由上下文确定
    kRt+k+1kR_{t+k+1}
    用下标 t+k+1 区分 kR 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 把速度加入状态 (xt,vt)(x_t,v_t),或用相邻位置估计速度,才能使单步动力学更接近只依赖当前状态动作。
    • 折扣可表达对较晚奖励的较小权重,也能在奖励有界且 γ<1\gamma<1 的持续任务中保证无穷和有限。

    相关概念

    适用与边界

    • 应用:把策略价值、动作价值与占用分布整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:状态工程改变问题定义,不能只靠给模型增加容量修复被永久删除的信息。
    • 推导:A10 · Markov 决策过程与 Bellman 方程
  41. 41

    机器学习 · 学习基础 · 典范公式

    混淆矩阵固定一个操作阈值

    教材位置:A00 · 分类、回归指标与基线

    precision=TPTP+FP,recall=TPTP+FN,\operatorname{precision}=\frac{TP}{TP+FP}, \qquad \operatorname{recall}=\frac{TP}{TP+FN},

    变量

    TT
    在“混淆矩阵固定一个操作阈值”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    PP
    在“混淆矩阵固定一个操作阈值”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    FF
    在“混淆矩阵固定一个操作阈值”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    NN
    在“混淆矩阵固定一个操作阈值”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 评价始终与基线在同一测试集合、同一单位和同一计算规则下完成。
    • 四项之和应等于有效决策单位总数;若有弃权或无法评分样本,必须另列,不能从分母消失。

    相关概念

    适用与边界

    • 应用:把均方误差、绝对误差与尺度敏感性整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:四项之和应等于有效决策单位总数;若有弃权或无法评分样本,必须另列,不能从分母消失。
    • 推导:A00 · 分类、回归指标与基线
  42. 42

    机器学习 · 学习基础 · 定义式

    几率与对数几率

    教材位置:A01 · Logistic 回归与概率分类

    logit(p)=logp1p.\operatorname{logit}(p)=\log\frac{p}{1-p}.

    变量

    pp
    在“几率与对数几率”中作为等号左侧的目标量参与关系计算,单位:由上下文确定

    成立条件

    • 给定概率 p=P(Y=1x)p=P(Y=1\mid x),选择正类的期望代价为 C10(1p)C_{10}(1-p),选择负类的期望代价为 C01pC_{01}p
    • 阈值依赖代价;概率若未校准,这个理论阈值的实际效果还需独立验证。

    相关概念

    适用与边界

    • 应用:把交叉熵似然与梯度计算整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:单个样本的概率不能用自身重复次数直接检验。
    • 推导:A01 · Logistic 回归与概率分类
  43. 43

    机器学习 · 神经网络 · 典范公式

    监督示范学习条件分布

    教材位置:A13 · 对齐目标、反馈与奖励建模

    LSFT=tlogπθ(ytx,y<t).\mathcal L_{\mathrm{SFT}} =-\sum_t\log\pi_\theta(y_t\mid x,y_{<t}).

    变量

    LL
    在“监督示范学习条件分布”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    tt
    在“监督示范学习条件分布”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    πθ\pi_{\theta}
    用下标 theta 区分 pi 的分量、样本或离散状态,单位:由上下文确定
    yty_{t}
    用下标 t 区分 y 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“监督示范学习条件分布”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 设备维护助手的规格是:引用适用手册;信息不足时澄清;不得把照片猜测写成确定故障;创建工单前展示设备、时间和收件人并获审批。
    • 示范分布若只含简单问答,不能由训练损失推断长时工具规划。

    相关概念

    适用与边界

    • 应用:把RLHF、DPO 与代理目标优化整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:示范是一种可执行例子,却不能枚举所有情境;同一指令可能有多个同样合适的回答,单一参考交叉熵会把其他答案视为不同 token 序列。
    • 推导:A13 · 对齐目标、反馈与奖励建模
  44. 44

    机器学习 · 学习基础 · 定义式

    监督学习的总体风险

    教材位置:A00 · 监督学习任务、样本与标签

    RP(f)=E(X,Y)P[(f(X),Y)].R_P(f)=\mathbb E_{(X,Y)\sim P}\bigl[\ell(f(X),Y)\bigr].

    变量

    RPR_{P}
    用下标 P 区分 R 的分量、样本或离散状态,单位:由上下文确定
    ff
    在“监督学习的总体风险”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    XX
    在“监督学习的总体风险”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    YY
    在“监督学习的总体风险”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    PP
    在“监督学习的总体风险”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    \ell
    在“监督学习的总体风险”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 同一特征表若更换标签时间窗、删失规则或部署人群,就对应不同的风险。
    • 随机切分也并非总是有效:时间序列、同一患者多次记录、同一设备生成的样本需要按时间或组切分,防止共享信息跨越训练和评估。

    相关概念

    适用与边界

    • 应用:把训练分布、目标函数与经验风险整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:正文未把极限情形单列为独立公式;适用边界以本小节声明的定义域、假设和边界条件为限。
    • 推导:A00 · 监督学习任务、样本与标签
  45. 45

    机器学习 · 神经网络 · 典范公式

    监督指令微调学习示范条件分布

    教材位置:A12 · 指令微调、偏好优化与上下文学习

    LSFT=1Tt=1Tlogπθ(ytx,y<t).\mathcal L_{\mathrm{SFT}} =-\frac1T\sum_{t=1}^{T} \log\pi_\theta(y_t\mid x,y_{<t}).

    变量

    LL
    在“监督指令微调学习示范条件分布”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    TT
    在“监督指令微调学习示范条件分布”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    tt
    在“监督指令微调学习示范条件分布”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    πθ\pi_{\theta}
    用下标 theta 区分 pi 的分量、样本或离散状态,单位:由上下文确定
    yty_{t}
    用下标 t 区分 y 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“监督指令微调学习示范条件分布”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 若目标只奖励流畅格式,模型可能更会包装错误;若偏好数据多来自短问答,长规划和多轮纠错不能由同一指标自动推断。
    • 常见实现让提示 token 进入上下文却不计回答损失,避免训练目标主要消耗在复述用户输入;若也训练提示建模,必须另行说明。

    相关概念

    适用与边界

    • 应用:把偏好数据、奖励模型与直接偏好优化整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:若目标只奖励流畅格式,模型可能更会包装错误;若偏好数据多来自短问答,长规划和多轮纠错不能由同一指标自动推断。
    • 推导:A12 · 指令微调、偏好优化与上下文学习
  46. 46

    机器学习 · 学习基础 · 约束

    结构风险最小化同时支付拟合与容量

    教材位置:A01 · 经验风险、容量与一致收敛

    (k^,f^)=argmink{R^(f^k)+penalty(Hk,n,δk)}.(\widehat k,\widehat f)=\arg\min_k \left\{\widehat R(\widehat f_k)+\operatorname{penalty}(\mathcal H_k,n,\delta_k)\right\}.

    变量

    kk
    标记当前或下一次更新,单位:由上下文确定
    ff
    在“结构风险最小化同时支付拟合与容量”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    RR
    在“结构风险最小化同时支付拟合与容量”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    fkf_{k}
    用下标 k 区分 f 的分量、样本或离散状态,单位:由上下文确定
    HkH_{k}
    用下标 k 区分 H 的分量、样本或离散状态,单位:由上下文确定
    nn
    在“结构风险最小化同时支付拟合与容量”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    δk\delta_{k}
    用下标 k 区分 delta 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 设有嵌套假设类 H1H2\mathcal H_1\subset\mathcal H_2\subset\cdots
    • 惩罚若与真实定理无关,只是经验超参数,就不能自动称为泛化上界。

    相关概念

    适用与边界

    • 应用:把增长函数、VC 维与复杂度控制整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:惩罚若与真实定理无关,只是经验超参数,就不能自动称为泛化上界。
    • 推导:A01 · 经验风险、容量与一致收敛
  47. 47

    机器学习 · 学习基础 · 定义式

    经验风险

    教材位置:A00 · 损失函数、风险与评估

    R^D(θ)=1ni=1n ⁣(fθ(xi),yi).\widehat R_D(\theta)=\frac1n\sum_{i=1}^n\ell\!\left(f_\theta(x_i),y_i\right).

    变量

    RDR_{D}
    用下标 D 区分 R 的分量、样本或离散状态,单位:由上下文确定
    θ\theta
    作为损失函数的自变量,单位:由上下文确定
    nn
    在“经验风险”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    ii
    在“经验风险”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    fθf_{\theta}
    用下标 theta 区分 f 的分量、样本或离散状态,单位:由上下文确定
    xix_{i}
    用下标 i 区分 x 的分量、样本或离散状态,单位:由上下文确定
    yiy_{i}
    用下标 i 区分 y 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 求常数预测 cc 在平方经验风险 n1i(cyi)2n^{-1}\sum_i(c-y_i)^2 下的最小点。
    • 它是指定数据集上的平均损失估计;若加入 λΩ(θ)\lambda\Omega(\theta),得到的是正则化训练目标,而不再是未经修饰的经验风险。

    相关概念

    适用与边界

    • 应用:把回归损失、分类损失与概率解释整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:它是指定数据集上的平均损失估计;若加入 λΩ(θ)\lambda\Omega(\theta),得到的是正则化训练目标,而不再是未经修饰的经验风险。
    • 推导:A00 · 损失函数、风险与评估
  48. 48

    机器学习 · 神经网络 · 典范公式

    局部 Jacobian 是节点接口

    教材位置:A04 · 计算图、链式法则与局部导数

    Jf(x)=yxRm×n.J_f(x)=\frac{\partial y}{\partial x}\in\mathbb R^{m\times n}.

    变量

    JfJ_{f}
    用下标 f 区分 J 的分量、样本或离散状态,单位:由上下文确定
    xx
    在“局部 Jacobian 是节点接口”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    yy
    在“局部 Jacobian 是节点接口”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    mm
    在“局部 Jacobian 是节点接口”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    nn
    在“局部 Jacobian 是节点接口”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 图节点不仅要记录数值,还要记录数据类型、张量形状、设备、生成它的运算和输入引用。
    • 当输入参数很多、输出是一个标量损失时,反向模式一次 VJP 就得到全部参数梯度;若输入维度很小而输出很多,前向模式可能更合适。

    相关概念

    适用与边界

    • 应用:把Jacobian–向量积与向量–Jacobian 积整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:uu 未完成前不能求 yy,但常量 bb 与乘法 mm 的准备次序可交换。
    • 推导:A04 · 计算图、链式法则与局部导数
  49. 49

    机器学习 · 神经网络 · 典范公式

    距离、相似度与排序方向

    教材位置:A08 · 度量学习、孪生网络与三元组损失

    d2(u,v)=uv2,d22(u,v)=j(ujvj)2.d_2(u,v)=\lVert u-v\rVert_2,\qquad d_2^2(u,v)=\sum_j(u_j-v_j)^2.

    变量

    d2d_{2}
    用下标 2 区分 d 的分量、样本或离散状态,单位:由上下文确定
    uu
    在“距离、相似度与排序方向”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    vv
    在“距离、相似度与排序方向”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    jj
    在“距离、相似度与排序方向”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    uju_{j}
    用下标 j 区分 u 的分量、样本或离散状态,单位:由上下文确定
    vjv_{j}
    用下标 j 区分 v 的分量、样本或离散状态,单位:由上下文确定

    成立条件

    • 设编码器 fθf_\theta 把输入映为 z=fθ(x)Rdz=f_\theta(x)\in\mathbb{R}^d
    • 若目标是实例检索,同类别不同实例未必相关;若目标是类别检索,它们可能都算相关。

    相关概念

    适用与边界

    • 应用:把孪生网络共享参数与匹配评分整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:二者给出相同最近邻排序,但进入间隔损失时数值和梯度不同,不能在公式与实现间随意替换。
    • 推导:A08 · 度量学习、孪生网络与三元组损失
  50. 50

    机器学习 · 学习基础 · 约束

    聚合能降多少方差取决于相关性

    教材位置:A02 · 随机森林与袋装集成

    Var ⁣(1Bb=1BTb)=ρσ2+1ρBσ2.\operatorname{Var}\!\left(\frac1B\sum_{b=1}^B T_b\right) =\rho\sigma^2+\frac{1-\rho}{B}\sigma^2.

    变量

    BB
    在“聚合能降多少方差取决于相关性”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    bb
    在“聚合能降多少方差取决于相关性”中作为等号左侧的目标量参与关系计算,单位:由上下文确定
    TbT_{b}
    用下标 b 区分 T 的分量、样本或离散状态,单位:由上下文确定
    ρ\rho
    在“聚合能降多少方差取决于相关性”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定
    σ\sigma
    在“聚合能降多少方差取决于相关性”中作为等号右侧的输入量或系数参与关系计算,单位:由上下文确定

    成立条件

    • 保存随机种子可以复现具体森林,但性能区间仍应以数据独立单位为重采样层级,不能把不同种子当成新的独立测试样本。
    • BB 棵回归树在某输入处具有相同方差 σ2\sigma^2,任意两棵树预测相关系数近似为 ρ\rho

    相关概念

    适用与边界

    • 应用:把随机特征子集与树间相关性整理为可检查的关系、判据或算法步骤;涉及定量模型时写出公式,并说明符号、适用条件,以及需要时的单位或复杂度。
    • 边界:保存随机种子可以复现具体森林,但性能区间仍应以数据独立单位为重采样层级,不能把不同种子当成新的独立测试样本。
    • 推导:A02 · 随机森林与袋装集成