摘要: 牛顿法解最大似然估计 对于之前我们解最大似然估计使用了梯度下降法,这边我们使用牛顿法,速度更快。 牛顿法也就是要求解,可导,θ用下面进行迭代。 具体看这个图 对于我们刚刚的求最大似然估计,也就是,则 下面在原理上说一说。 摘自:http://blog.csdn.net/luoleicn/article/details/6527049 对于一个目标函数f,求函数f的极大... 阅读全文
posted @ 2013-05-18 23:00 越影&逐日而行 阅读(1390) 评论(0) 推荐(1) 编辑
摘要: y是连续的则是一个回归问题,y是离散的则是一个分类问题,这边就开始考虑y是离散的情况。对于这样的问题很多,比如判断一个人是否生病,或者判断一个邮件是否是垃圾邮件。回归时连续型的,一般不用在上述的分类问题中,因为其受噪音的影响比较大,如果要把一个回归方法用到分类上的话,那就是logistic回归。之所以叫其回归,因为其本质上还是线性回归,只是在特征到结果中加了一层函数映射。对于这边也就是使用一个g(z)将连续的值映射到0跟1上面。下面就是将线性带入到g(z)中。则可以得到:对于我们考虑的问题是将连续的问题离散化,下面就带来两个问题,到底怎么做,还有就是为什么使用这个g(z)呢。至于为什么使用这个 阅读全文
posted @ 2013-05-18 22:32 越影&逐日而行 阅读(980) 评论(0) 推荐(0) 编辑