会员
周边
捐助
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
douzi
博客园
首页
新随笔
联系
订阅
管理
2021年4月8日
多任务学习的多个loss应该如何权衡
摘要: 超级有用! 从上图的方程可以看出: 1、loss大则梯度更新量也大; 2、不同任务的loss差异大导致模型更新不平衡的本质原因在于梯度大小; 3、通过调整不同任务的loss权重wi可以改善这个问题; 4、直接对不同任务的梯度进行处理也可以改善这个问题; 所以,后续的方法大体分为两类: 1、在权重wi
阅读全文
posted @ 2021-04-08 17:35 douzujun
阅读(2539)
评论(0)
推荐(1)
编辑
公告