度量学习、孪生网络与间隔损失

度量学习先定义“相近”的业务含义

设编码器 $f_\theta$ 把输入映为 $z=f_\theta(x)\in\mathbb{R}^d$。度量学习使用成对、三元组或集合关系，使匹配样本在所选度量下更近，不匹配样本相隔一定边界。这里的“匹配”必须由任务定义：同一身份、同一商品、同一局部地点或图文配对都可能是正关系，但它们并不等价。

若目标是实例检索，同类别不同实例未必相关；若目标是类别检索，它们可能都算相关。数据表必须记录关系依据、时间范围、未知标签、一个查询可有多少相关项，以及同源近重复是否允许进入图库。没有这些约定，正负样本和 Recall@k 的分母都会含糊。

距离、相似度与排序方向

欧氏距离与平方欧氏距离分别为

二者给出相同最近邻排序，但进入间隔损失时数值和梯度不同，不能在公式与实现间随意替换。点积 $u^\mathsf{T}v$ 同时受夹角和范数影响；余弦相似度

只比较方向，但零向量处无定义，实际归一化需设置数值下界并监测范数。

对单位向量 $\hat u,\hat v$，有

因此归一化后的平方欧氏距离与余弦相似度排序等价。归一化消除了范数信息并把表示限制在单位球面，这可防止仅靠放大范数降低某些目标，却也会删除原本可能表示置信度或质量的幅值。

距离越小通常表示越相似，相似度越大表示越相似。检索实现若统一转换为分数，应明确是使用 $-d$ 还是 $s$，否则排序方向可能反转。批处理矩阵还要检查轴：查询和图库的得分形状应为查询数乘图库数。

孪生网络共享比较规则

孪生网络对两个输入使用同一个编码器：

再计算距离或送入对称匹配头。共享参数保证两个输入处在同一坐标系，并让每个样本的梯度累积到同一组参数。实现中调用两次模块不等于复制两份参数；优化器应只持有一组共享权重。

匹配头若拼接 $(z_i,z_j)$，交换输入可能改变输出。关系本身若对称，可使用距离、绝对差、逐元素乘积或对两个顺序取一致结果。图像与文本等不同模态常使用两个结构不同但对齐到共同空间的编码器，更准确地说是双塔模型；它不满足“完全共享参数”的经典孪生定义。

成对对比损失把匹配和间隔写在一起

令 $y=1$ 表示匹配，$y=0$ 表示不匹配，距离为 $d\ge0$，间隔为 $m>0$。一种成对损失是

正对总被拉近；负对只在距离小于 $m$ 时受罚。不同资料可能交换标签约定、使用非平方距离或给两项乘常数，必须以实际公式为准。间隔不是“类别间真实距离”，而是训练中停止推动容易负对的边界。

常量表示使所有正对距离为零，却让所有负对距离也为零，因此在含有效负对和正间隔时会受罚。但若批量没有可靠负对、标签全为正或实现把负项屏蔽，常量解仍可能出现。反方向的尺度退化是无限放大未归一表示，使负对轻易越过间隔；正对项、权重衰减、范数约束和归一化共同决定是否阻止。

三元组损失只比较相对顺序

三元组含锚点 $a$、正样本 $p$ 和负样本 $n$。使用平方欧氏距离的一种间隔损失为

它要求负样本至少比正样本远 $m$。只要满足边界，该三元组不再提供梯度；这使采样决定了训练看到哪些约束。

三元组整体平移不改变距离，统一旋转也不改变欧氏距离，因此嵌入坐标不可唯一辨识。若没有归一化或正则化，多个缩放也可能改变边界满足方式。解释某一维“代表身份”需要额外约束和干预证据。

正负样本决定学到的空间

正样本可按同一实例、同类、时间邻近或人工匹配构造。它决定哪些差异被压缩：把同类全部拉近适合类别检索，却可能删除实例差异；只拉近同一实例可保留实例信息，却未必形成紧凑类别簇。负样本决定边界：随机负例覆盖广但常过易，同批负例高效但受批量组成影响。

所有成对关系随批量平方增长，三元组更多，不能简单枚举全数据。常见策略包括批内最难负例、半困难负例、距离加权采样和跨批缓存。最难样本可能是错标、异常或近重复；缓存中的表示可能过期；跨设备或类别采样会改变训练分布。挖掘规则、候选池和更新频率都应记录。

半困难负例通常比正例远但仍未满足间隔，可提供有方向的梯度且不必选择最极端异常。不存在对所有数据最优的挖掘策略，应比较收敛稳定性、假负例比例、类与身份覆盖及验证检索结果。

类内紧凑与类间分离只是两种需求

类别监督常希望类内距离小、类间距离大，但“类”可能包含姿态、质量和子类型。把每类压成单点会妨碍细粒度检索、开放集识别和不确定性表达。可查看类内距离分布、最近异类距离、每类协方差、原型数量与不同子群覆盖，而不是只看二维投影图。

当每类样本很少时，类别中心估计不稳；当类别数很大时，固定间隔未必能在给定维数的单位球面上同时满足所有关系。提高维数、使用多个原型或学习代理点可能有帮助，但每种方法仍需对未见身份和分布偏移评估。

嵌入相近只说明模型在训练监督和选定度量下认为它们相近。背景、设备和时间戳都可能形成捷径。反事实更换背景、按来源分组划分、遮挡目标区域和检查最近邻组成，能检验模型依赖的线索；相似结果不能单独建立语义等价或因果关系。

检索 Recall@k 要按查询定义

给定查询集合 $Q$，查询 $q$ 的图库相关集合为 $R_q$，排序前 $k$ 项为 $T_k(q)$。一种常用定义是

其中 $Q^\star$ 只含至少有一个相关图库项的有效查询。它回答“前 $k$ 是否命中至少一个相关项”，不是所有相关项被找回的比例。另一种逐查询召回可用 $|T_k\cap R_q|/|R_q|$；两者名称可能相同，报告时必须给公式。

若查询本身也在图库，通常要排除自身，否则最近邻可能是同一文件。还要说明同一对象的近重复、多个相关项、无相关项查询、距离并列和宏微平均的处理。排名质量可补充平均精度或首个相关项名次，但不能用不同协议的数字直接比较。

假设三个有效查询的前二结果中，查询一命中、查询二未命中、查询三命中，则“至少一项命中”定义的 Recall@2 为 $2/3$。若查询一有四个相关项而只找回一个，逐查询相关项召回为 $1/4$，说明两个定义回答不同问题。

排序分数不是匹配概率

Recall@k 只依赖排序，不需要一个跨查询统一阈值。验证任务则需根据距离判断是否为同一对象，要在独立验证集选择阈值，并报告误接受、误拒绝或精确率召回率。不同设备、类别和质量可能产生不同分数分布，统一阈值要做分组检查。

余弦相似度位于有限区间，也不是概率。若业务需要概率，可在冻结嵌入与评分协议后，用未参与训练的校准集拟合单调或概率映射，并在独立测试集检查可靠性。换编码器、归一化、图库组成或温度后都可能需要重新校准。检索高 Recall@k 不保证验证阈值良好，反之亦然。

训练与评估的最小审计链

先冻结关系定义和独立实体划分，再确认共享参数与距离方向；记录嵌入范数、正负距离和有效间隔比例；检查挖掘样本及标签质量；用随机编码器、固定特征和监督分类基线比较；最后在图库更新、未知身份、来源偏移和低质量切片上报告检索与验证指标。

若训练损失下降而检索不升，依次检查关系是否与指标一致、批量是否含足够正例、负例是否过易、归一化和距离是否匹配、查询是否泄漏到图库、后处理是否排除了自身。这个信息路径比单纯增大模型更容易定位问题。

练习

关系与资源

• 表示学习目标 定义下游关系、不变性和表示评价边界。
• 损失函数与风险 支持间隔、归约和梯度语义。
• 正交、投影与内积几何 提供范数、夹角和余弦的线性代数基础。
• 对比学习 将度量关系扩展到增强视图和批内归一化目标。
• 表示学习综合复习 汇总迁移、坍塌与评价。