L1和L2正则化

一、L1和L2的区别

 二、参数正则化作用

• L1： 为模型加入先验， 简化模型， 使权值稀疏，由于权值的稀疏，从而过滤掉一些无用特征，防止过拟合
• L2： 根据L2的特性，它会使得权值减小，即使平滑权值，一定程度上也能和L1一样起到简化模型，加速训练的作用，同时可防止模型过拟合

三、为什么L1会使得权重稀疏，而L2会使得权值平滑

 

 

 

 

参考：  1、机器学习中正则化项L1和L2的直观理解

             2、【通俗易懂】机器学习中 L1 和 L2 正则化的直观解释

             3、详解L1和L2正则化