week3.2_过拟合_regularition

 

过拟合是训练集匹配得好J=0，但是输入新的数据，分类差

欠拟合：高偏差bias    过拟合：高方差variance

 

 

过拟合避免方法：1.人工\算法减少特征数目

                       2. 正规化

 

如何正规化

 

思想：添加惩罚函数（langda），简化假设函数，避免过拟合

过程：∵ minJ     ∴惩罚函数大意味着theta→0

注意：不包括theta0

 

 

1.保证H匹配训练集

2.保证J→0

langda：balance1 &2

如果langda 过大，导致欠拟合

 

有两类方式可以求解mnJ  1.最速下降法  2 normal equation

 

 

2.

n是什么？？？？？？？？？？？？？？？？？？？？？？？