KDD'24 | 腾讯广告:深入理解推荐模型Ranking Loss 《Understanding the Ranking Loss for Recommendation with Sparse User Feedback》
在工业界CTR预估的相关优化中,BCE Loss加入辅助的Ranking Loss能够显著提升模型预估效果。但是关于其背后的原理,大多数研究仅从定性的角度分析,没有严格的理论证明。该篇论文从理论和实验两个方面论证了BCE Loss在加入Ranking Loss后为什么会有效果
这篇论文给出了解释:
- BCE Loss在正样本稀疏的场景下,会出现负样本梯度消失的现象,不利于模型参数更新
- 引入辅助的Ranking Loss有助于在负样本上产生更大的梯度,减轻了优化难度,进而获得更好的效果
参考资料
KDD 2024 | 稀疏用户反馈推荐系统中Ranking Loss的理解
KDD'24 | 腾讯广告:深入理解推荐模型Ranking Loss