2022-11-06-对比学习综述

2022-11-06 对比学习综述

对比学习综述 对比学习论文综述【论文精读】_哔哩哔哩_bilibili

无监督学习--对比学习综述

合适的代理任务
明确正负样本

第一阶段 百花齐放

方法	代理任务	特点	结构图
InsDis	个体判别	使用了memery bank 存放负样本的特征
InvSpread （simCLR前身）	个体判别	端到端、负样本和正样本来自同一个mini batch,做增强
CPC	生成式任务	语音输入
CMC		第一个多视角的对比学习； 多视角、视角不变性；蒸馏；局限：不同视角（模态）需要不同的编码器

第二阶段 CV双雄

方法	代理任务	特点	结构
Moco （InsDis改进）		队列取代memery bank,动量编码器
SimCLR (继承InvSpread)		加了个projection head(MLP、ReLU) 更大的 batch size, 数据增强
Moco V2		把 SimCLR的技术拿过来用 ，MLP,数据增强cosine learning rate ,相比于simCLR训练更省钱省时间
SimCLR V2		更大的backbone,两层MLP，动量编码器，半监督学习
SwAV		换位预测，使用了聚类，和聚类中心做对比， multi-crop很有用

第三阶段 不用负样本

方法	代理任务	特点	结构
BYOL	预测	不用负样本、下面分支用动量更新， projection head, 隐式的对比学习
SimSiam		没用动量编码器

第四阶段 Transformer

方法	代理任务	特点	结构
MoCo V3		提高Vit训练稳定性，Trick, 把patch projection冻住
DiNo		蒸馏~， centering（算batch 均值）

总览图