三木书生

摘要： 牛顿法和拟牛顿法 牛顿法（Newton method）和拟牛顿法（quasi Newton method）是求解无约束最优化问题的常用方法，收敛速度快。牛顿法是迭代算法，每一步需要求解海赛矩阵的逆矩阵，计算比较复杂。拟牛顿法通过正定矩阵近似海赛矩阵的逆矩阵或海赛矩阵，简化了这一计算过程。 牛顿法 我 阅读全文

摘要： 逻辑斯谛回归与最大熵模型 逻辑斯谛回归模型与最大熵模型都属于对数线性模型。 逻辑斯谛回归模型 逻辑斯谛分布 设X是连续随机变量，X服从逻辑斯谛分布是指X具有下列分布函数和密度函数： 式中，µ 为位置参数，γ>0为形状参数。该曲线以点 （µ，0.5）为中心对称。形状参数γ的值越小，曲线在中心附近增长得 阅读全文