随笔分类 -  优化算法

拟牛顿法
摘要:后面推导的拟牛顿法是在阻尼牛顿法的基础上推导而来,下面简单介绍阻尼牛顿法 阅读全文

posted @ 2018-03-18 12:02 雪饮者 阅读(458) 评论(0) 推荐(0)

优化算法-牛顿法
摘要:牛顿法(英语:Newton's method)又称为牛顿-拉弗森方法(英语:Newton-Raphson method),它是一种在实数域和复数域上近似求解方程的方法。方法使用函数f(x)的泰勒级数的前面几项来寻找方程f(x)=0的根。 一般情况对于f(x)是一元二次的情况直接应用求根公式就可以了, 阅读全文

posted @ 2018-03-11 15:23 雪饮者 阅读(2344) 评论(0) 推荐(0)

条件随机场(CRF)-IIS学习算法
摘要:改进的迭代尺度法(Improved Iterative Scaling),在很多模型求解中用到,比如最大熵、CRFs等,对模型是对数线性模型的似然都适用。这个算法的思想也很简单,通俗的理解就是通过两个不等式变形优化下界,从而迭代到收敛的算法。 用到两个不等式,对 α>0 : (1) 对 p(x)是一 阅读全文

posted @ 2017-07-09 16:16 雪饮者 阅读(2669) 评论(0) 推荐(0)