自监督表示学习入门：从图像失真到对比预测编码

自监督学习通过让模型从数据本身生成监督信号，避免昂贵的人工标注，学到的中间表示可迁移到下游任务。图像领域常用前置任务包括对图像块施加平移、旋转、缩放等随机变换构造代理类别，以及整图旋转预测，用 ImageNet 分类准确率衡量表示质量。文中还介绍了对比预测编码、MoCo、SimCLR、BYOL 等方法。