对于L1正则和L2正则的理解

目的:

L1和L2正则都可以解决过拟合

方法:

L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。

L2正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。

图像:

L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。

参考:https://www.zhihu.com/question/26485586

posted @ 2020-10-22 17:03  致林  阅读(262)  评论(0编辑  收藏  举报