aaa2222339

摘要： 正则化：通过在代价函数里面再加上一些项，使得最后训练出来的参数值较小，就能防止过拟合。下图中，方括号里面的左边一项是为了更好地拟合数据，右边是为了降低参数值（防止过拟合，即不要拟合得太近），通过λ来调节这两个关系，这里的λ是自己人为设定的。若正则化参数λ过大的话（比如10^10），那么θ1，θ2。。 阅读全文

摘要： 优化算法有：梯度下降算法，共轭梯度法（conjugate gradients），BFGS，L-BFGS 后面三种算法都是可以在内部自动选择学习率，不需要人为一直搞，而且收敛速度快。 阅读全文