2016年10月29日
机器学习笔记-----牛顿法与拟牛顿法
摘要： 提要：今天讲的牛顿法与拟牛顿法是求解无约束问题最优化方法的常用方法。 一 牛顿法 假设我们求下面函数的最小值： 假设f(x)具有连续的二阶的连续偏导数，假设第K次迭代值为xk的值，那么可将f(X)在xk附近进行二阶泰勒展开得到： 我们对上述公式求导可得: 假设其中可逆，我们就可以得到牛顿法的迭代公式 阅读全文
posted @ 2016-10-29 16:09 刘岩-- 阅读(11851) 评论(1) 推荐(3)