7.逻辑回归实践

1.逻辑回归是怎么防止过拟合的?为什么正则化可以防止过拟合?

答:逻辑回归通过以下几点防止过拟合

1、增加样本数量
2、正则化:当数据稀疏时,使用L1正则化比L2效果要好
3、特征筛选:剔除不必要的特征
4、检查业务逻辑,判断特征的有效性
在过拟合时,拟合函数的系数往往非常大,需要顾忌每一个点,最终形成的拟合函数波动很大。在某些很小的区间里,函数值差异大。这就意味着函数在某些小区间里的导数值非常大,由于自变量值可大可小,所以只有系数足够大,才能保证导数值很大。 而正则化是通过约束参数的范数使其不要太大,所以可以在一定程度上减少过拟合情况。

2.用logiftic回归来进行实践操作,数据不限。

 

 

posted on 2020-04-27 21:05  LipengC  阅读(128)  评论(0编辑  收藏  举报