机器学习中的损失函数对比
- https://www.jiqizhixin.com/articles/2018-06-21-3
这个首先从分类问题和回归问题的损失们讲起,然后对比了L1损失和L2损失的区别:L1损失对异常点的鲁棒性更好,但是梯度不变,需要结合自学习学习率的优化器使用,而L2损失对异常点鲁棒性差,适用于数据噪声小的数据集训练。
HuberLoss是对L1L2的结合。
这个首先从分类问题和回归问题的损失们讲起,然后对比了L1损失和L2损失的区别:L1损失对异常点的鲁棒性更好,但是梯度不变,需要结合自学习学习率的优化器使用,而L2损失对异常点鲁棒性差,适用于数据噪声小的数据集训练。
HuberLoss是对L1L2的结合。