对比学习在推荐中总结

对比学习研究方向:

  • Data Argument
    • 提升原始样本和增强样本一致性,加大原始样本和其他样本的差异
    • 容易拉大同类样本的特征差异
  • Sampling Strategy
    • 类似FB提出的hard negative样本
  • Loss Function
    • 研究较多,NCE、infoNCE、SupConLoss等

对比学习在推荐系统中常见做法

  • 作为单独一个辅助对比塔,增强对比样本的区分度

样本增强(Data Argument)

  • Data Level的增强
    • 用户序列(Mask,Corp,Substitute,Insert等)
    • 方法多,需要先验知识,可能破坏原始数据结构
  • Model Level的增强
    • 一般都是通过同一个模型获取不同的emb,然后设置对比学习任务

样本策略(Sampling Strategy)

  • 主要是debias False Negative

Loss Function

  • NCE Loss(交互item正例,噪声为负例),NCE Loss 在负样本足够多时候,等效极大似然估计;
  • infoNCE(NCE推广到多分类)

对比学习推荐应用

posted @ 2024-05-24 11:29  adam86546853  阅读(71)  评论(0)    收藏  举报