论文 · 资源记录
A Simple Framework for Contrastive Learning of Visual Representations
提出 SimCLR，对数据增强、投影头、批内负样本和温度化对比目标进行系统实验。
作者：Ting Chen, Simon Kornblith, Mohammad Norouzi, Geoffrey Hinton年份：2020出版信息：Proceedings of the 37th International Conference on Machine Learning元数据：完整链接核验于 2026-07-14
为什么重要
用于核对对比学习目标、增强选择、负样本规模以及表示评估的实证边界。
阅读前提
教材中的引用位置
- A08 · 第 1 章 表示学习目标、相似度与不变性
支持的主张：SimCLR 论文用于核对增强视图间的实例对比目标，BERT 论文用于核对 token 掩码预测，CLIP 论文用于核对图文配对的双向对比目标。本章借三者说明“表示相近”由正样本构造和损失共同定义，不能把一个目标下的相似性直接解释成另一任务的语义等价。
- A08 · 第 2 章 度量学习、孪生网络与三元组损失
支持的主张：SimCLR 论文用于核对同一样本增强视图之间的温度化对比损失、投影头和批内负样本；CLIP 论文用于核对图像—文本双塔、对称对比目标和零样本分类接口。本章据此比较同模态实例判别与跨模态对齐，二者的正负样本语义和评价协议不能互换。
- A08 · 第 3 章 对比学习、负样本与信息瓶颈
支持的主张：SimCLR 原论文用于核对两次数据增强、投影头、温度化对比损失和批内负样本的消融结论；《Deep Learning》用于核对表示学习、交叉熵式目标、正则化与下游评价的基础框架。本章关于具体增强和投影头的主张限定于 SimCLR 实验，而不把其配置写成所有模态的通用最优方案。
- A08 · 第 5 章 跨模态对齐与预训练迁移
支持的主张：CLIP 论文用于核对图文配对、双塔编码和跨模态对比目标；SimCLR 论文用于核对单模态增强视图的实例对比基线；BERT 论文用于核对离散 token 的掩码预测目标。本章借三者区分对齐式、对比式和重建式预训练，数据规模与迁移结论仍限于各论文实际任务。
- A08 · 第 6 章 表示质量、坍塌与自监督学习综合复习
支持的主张：SimCLR 的消融实验用于核对增强、投影头与线性评价，BERT 用于核对掩码预训练—微调接口，CLIP 用于核对跨模态对齐与零样本分类。本章的比较据此分别评价同模态不变性、上下文重建和跨模态匹配，不用单一线性探针分数概括全部表示质量。