A06 · 第 3 章 · 第二编 视觉任务
目标检测与多尺度特征
把视觉识别扩展为类别、置信度和边界框联合预测,统一框参数化与 IoU,比较两阶段与一阶段候选机制,处理匹配、分类回归损失和 NMS,并限定 precision–recall、mAP、小目标与类别不平衡的评估语义。
报告页面错误本章目标
- 在像素或归一化坐标中转换角点框、中心宽高与相对候选框偏移。
- 计算 IoU,并区分训练匹配、NMS 和评估使用的三个阈值语义。
- 比较两阶段候选区域与一阶段密集或无锚预测的计算流程。
- 构造正负忽略匹配及分类回归损失,处理前景稀少和小目标。
- 按置信度排序匹配预测,计算 precision–recall 与特定协议下的 AP/mAP。
本页目录
检测输出是一个可变长度实例集合
图像分类为整幅图输出类别,目标检测则输出若干对象,每个对象含类别、置信度和空间边界框。真实对象数未知,模型通常先产生固定或密集候选,再通过分数过滤和去重得到可变长度结果。背景不是一个需要输出框的实体,而是大量候选的负类状态。
数据合同要定义坐标原点、轴方向、像素边界是否闭合、框是否允许越界、图像缩放与填充如何反变换。训练增强后必须同步更新框;裁剪导致对象只剩一小部分时,要规定保留、截断或忽略。一个像素的约定差异对大框影响小,却可能显著改变小框 IoU。
框参数化必须可逆
轴对齐框常用角点 或中心宽高 。角点转中心为
相对参考框或锚框 ,目标框 可编码为
解码时执行逆变换。中心偏移按锚宽高归一,宽高用对数保证解码为正并表达比例变化。实际实现可能加入均值标准化或限制指数范围,训练和推理必须使用相同参数。
锚框中心宽高为 ,目标框为 。编码得 ,,,。
解码时中心为 、,宽为 ,高为 ,恢复原框。若图像先等比缩放再填充,解码后的框还要逆缩放并减去填充偏移,最后按原图范围裁剪。
无锚检测也需要参数化,例如每个位置预测到四边的距离或中心偏移与宽高。名称“无锚”不表示没有候选位置和匹配规则,只是参考几何不同。
IoU 衡量两个区域的相对重叠
两个框 的交并比为
无重叠时为零,完全相同时为一。先对交集宽高取非负值;非法负宽高应在上游拒绝。IoU 不区分偏移方向,且无重叠时普通 IoU 对框回归缺少连续几何信号,因此训练可采用平滑 L1 或广义区域损失,评估仍按协议使用 IoU。
按连续坐标约定,框 、,面积都为十六。交集横向从二到四、纵向从一到四,面积 ;并集面积为 。
所以 IoU 为 。若代码把右下角当包含像素并额外加一,结果会不同;连续坐标、像素索引与掩码面积必须选定一种并在标注、增强、训练和评估中一致。
两阶段先提候选,再逐候选细化
两阶段检测器先由骨干特征产生类别无关或弱类别相关的候选区域,随后对每个候选提取固定形状区域特征,进行精细分类和框回归。候选阶段减少第二阶段需处理的区域数,区域对齐操作把不同大小候选映射到共同特征尺寸。
训练时第一阶段有自己的前景背景与框损失,第二阶段再次匹配候选与真实框。候选召回限制最终上限:真实对象若没进入候选集,第二阶段再强也无法恢复。两阶段并不自动更准确或更慢,结论取决于骨干、候选数、分辨率、硬件和实现。
一阶段在密集位置直接预测
一阶段检测器在一个或多个特征图位置直接输出类别、对象性与框。锚框方法为每位置放多个尺度和长宽比参考框;无锚方法常从位置预测中心性、四边距离或集合元素。它省去显式逐候选第二阶段,但面对数量巨大的背景位置,正负不平衡更突出。
多尺度特征把高分辨率浅层的定位细节与低分辨率深层的语义结合。不同层负责不同尺寸范围,匹配规则要与特征步幅一致。输入尺寸增大可给小目标更多像素,却平方级增加许多卷积计算与候选,不能只看召回。
匹配把候选分成正、负与忽略
锚框训练常根据与真实框的 IoU 设正阈值和负阈值,中间区域忽略,以减少边界标签噪声。还可保证每个真实框至少匹配一个最佳候选。若多个真实框都竞争同一候选,需要明确最大 IoU、中心约束或一对一分配规则。集合式检测可用全局二分匹配,使每个预测与真实对象最多一对一。
某候选与三个真实框的 IoU 为 。规则为 IoU 不小于零点五是正样本,小于零点三是负样本,中间忽略。该候选匹配第一个真实框并作为正样本;分类目标是其类别,框回归目标只相对第一个框计算。
另一个候选最大 IoU 为零点四,落在忽略区,不进入分类和回归损失;第三个候选最大 IoU 零点二,是背景负样本,只计算背景分类或对象性损失。阈值相等时属于哪侧必须固定,且这些训练阈值不等于 NMS 或评估阈值。
匹配依赖增强后的坐标和有效区域。落在填充区的候选、跨越忽略标注的候选和极小框应有明确掩码。错误把忽略样本当背景会惩罚模型检测未完整标注对象。
分类与回归损失只在相应样本上计算
分类分支可用交叉熵,对象性分支区分前景背景。背景远多于前景时,可下采样易负例、采用困难样本策略或使用降低易例权重的焦点式损失。任何重新加权都改变训练目标,应在相同评估协议下验证,而不是把训练损失大小直接横比。
框回归只对正匹配候选计算,可用平滑 L1 作用于编码偏移,或用 IoU 家族损失直接比较区域。不同坐标分量和尺度要归一,否则大框可能主导绝对像素误差。总损失常为若干分支加权和;权重影响梯度尺度和折中,需要记录每项未加权损失及梯度。
类别标签正确但框标注松紧不一致,会给回归加入不可约噪声。旋转物体用轴对齐框会包含大量背景,任务若需要方向应改表示和 IoU,而非期望模型从错误目标中恢复。
NMS 在推理时去除重复预测
经典非极大值抑制通常逐类别进行:按置信度降序,保留最高分框,删除与它 IoU 超过阈值的较低分框,重复到候选为空。置信度阈值先控制进入候选的框,NMS IoU 阈值控制重复抑制,二者语义不同。
同类框 分数分别为 。设 、、NMS 阈值为 。先保留 ,删除与它高度重叠的 ,保留 ,最终为 。
若两个真实对象高度遮挡, 也可能分别对应不同对象,硬抑制会漏检。可调整类别与尺度相关阈值、使用软衰减或采用一对一集合预测,但都需在拥挤场景分组评估。NMS 不能修复模型没产生候选的问题。
跨类别 NMS 可能误删重叠的不同类别对象,逐类别 NMS 又可能保留同一对象的多个冲突类别;选择取决于标签是否互斥。框裁剪、最小尺寸过滤和 NMS 顺序也会改变结果,评估前必须冻结。
precision–recall 从全数据置信排序构造
对某一类别和指定评估 IoU 阈值,汇总数据集预测并按置信度降序。依次处理每个预测:只与同一图像、同类且尚未匹配的真实框比较;若最佳 IoU 达标则记真阳性并占用该真实框,否则记假阳性。对同一真实对象的第二个重复框即使 IoU 很高也是假阳性。
在排序前 个预测处,精确率为累计真阳性除以 ,召回率为累计真阳性除以该类真实框总数。改变置信阈值就是沿曲线选择一个工作点。AP 是曲线面积或按规定召回点插值;不同数据集使用的 IoU 阈值集合、插值、忽略区域、最大检测数和尺寸分组不同,必须报告协议。
数据集有两个该类真实对象。三个预测按分数排序后的匹配结果为真、假、真。累计精确率为 ,召回率为 。第二个预测只降低精确率,不增加召回。
若采用所有点精确率包络并对召回增量积分,召回零到二分之一使用包络精确率一,二分之一到一使用三分之二,AP 为 。其他插值协议可给不同值。mAP 再对预定类别以及可能的多个 IoU 阈值取平均,不能脱离协议只写一个数字。
宏平均让每类权重相同,包含无标注类别的处理也需定义。微平均、按实例频数加权与 mAP 回答不同问题。部署还应报告实际分数阈值下的精确率、召回、每图框数、延迟和校准,而非只用曲线面积。
小目标同时受采样、匹配和评估影响
小目标在下采样后只占少数特征单元,位置量化误差会显著降低 IoU。可使用更高分辨率特征、较小步幅、多尺度融合和与尺寸匹配的候选;但高分辨率增加显存和背景候选。随机裁剪可能删掉小目标,缩放增强可能把它缩到不可标注,必须设几何下限。
正例稀少不仅是类别比例问题,也是空间候选比例问题。分层采样、焦点式加权和中心约束可减少易背景主导,但过强过滤会损失困难负例。按对象尺寸、拥挤度、遮挡和类别频数报告召回与定位误差,才能区分骨干分辨率、匹配和分类故障。
标注和部署边界
边界框标注具有松紧、遮挡截断和可见区域或完整区域的约定。漏标对象会把真实前景当背景训练和评估;类别层级不一致会制造冲突。抽样审阅框叠加、尺寸分布、每图实例数和重复标注一致性,是模型前的必要证据。
部署中的相机分辨率、长宽比、压缩和对象尺度若超出训练范围,多尺度结构也不提供无条件外推。评估应保持整图或视频单位隔离,避免相邻帧跨切分。视频逐帧 mAP 还不能代表轨迹稳定,需要额外时序指标。
练习
完成一个中心宽高框的编码与解码。
查看提示
查看解答
查看提示
查看解答
查看提示
查看解答
查看提示
查看解答
查看提示
查看解答
查看提示
查看解答
关系与资源
- 卷积网络架构与残差连接 提供骨干和多尺度特征。
- 损失函数与风险 支持分类、对象性与框回归目标。
- 分类、回归指标与基线 连接阈值、PR和不确定性。
- 离散卷积、感受野与参数共享 解释步幅与小目标采样。
- 语义分割、实例分割与密集预测 延伸框到像素级实例轮廓。
- 几何、数据偏差与计算机视觉综合复习 汇总视觉任务边界。
CS231n: Deep Learning for Computer Vision
Aditesh Kumar, Wenlong Huang, Cristobal Eyzaguirre
用于核对 A06 的离散卷积、网络结构、目标检测、密集预测、视觉 Transformer 及计算机视觉实验边界。
打开官方来源