跳到正文
原文
Lilian Weng — Lil’Log·· 2021-05-31AI 评估 · 22/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

对比表示学习(Contrastive Representation Learning)综述

Contrastive Representation Learning

AI 导读

对比表示学习的目标是学习一个嵌入空间,使相似样本对彼此靠近、不相似样本对相互远离,可同时用于监督和无监督场景,在自监督学习中尤为强大。训练目标已从早期单一正负样本对演进为在一个 batch 内纳入多对正负样本,包括 Contrastive Loss、Triplet Loss、Lifted Structured Loss、N-pair Loss 以及 NCE。

来源:Lilian Weng — Lil’Log · lilianweng.github.io