对于L1正则和L2正则的理解
目的:
L1和L2正则都可以解决过拟合
方法:
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
图像:
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。
时间会记录下一切。
L1和L2正则都可以解决过拟合
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。