论文与标准

Learning Transferable Visual Models From Natural Language Supervision

用大规模图像—文本配对数据和双塔对比目标学习可迁移视觉表示。

Alec Radford, Jong Wook Kim, Chris Hallacy, Aditya Ramesh, Gabriel Goh, Sandhini Agarwal, Girish Sastry, Amanda Askell, Pamela Mishkin, Jack Clark, Gretchen Krueger, Ilya Sutskever · 2021 · Proceedings of the 38th International Conference on Machine Learning

阅读前提

教材中的引用位置

  1. A08 · 第 1 章 表示学习目标、相似度与不变性
  2. A08 · 第 2 章 度量学习、孪生网络与三元组损失
  3. A08 · 第 5 章 跨模态对齐与预训练迁移
  4. A08 · 第 6 章 表示质量、坍塌与自监督学习综合复习
  5. A12 · 第 3 章 视觉语言对齐与多模态生成
  6. A12 · 第 6 章 系统评估、故障模式与智能体综合复习

官方来源