2015年7月22日

摘要: 从几何意义上的个人理解:逻辑回归本质上是回归,而且是线性的回归,即拟合一条直线(线性超平面)sigmoid函数在这里可以理解为某种点到超平面的归一化的距离函数逻辑回归最终是寻找一条曲线将两部分数据分隔开。定义的距离函数就是“sigmoid距离函数”而极大似然概率法可以看成最大化所有样本到超平面的距离... 阅读全文
posted @ 2015-07-22 23:23 二的二次方 阅读(758) 评论(0) 推荐(0)
摘要: 总结:由于逻辑回归假定y的条件分布(y|x)是伯努利分布,所以根据广义线性模型和指数分布簇的定义,它对应的假设函数是sigmoid函数。广义线性模型的三个假设——逻辑回归1、 假定服从指数分布簇的某个分布(见文章后面参考) 逻辑回归中,,所以假定【即已知参数θ的情况下,给定x,y的条件概率服从参数... 阅读全文
posted @ 2015-07-22 17:54 二的二次方 阅读(1075) 评论(0) 推荐(0)
摘要: 特点:高效,易实现;性能不一定高注意:对概率值取对数,变乘积为加法,避免连乘带来的小数问题;拉普拉斯平滑处理。参考:维基百科,平凡而又神奇的贝叶斯方法,《统计学习方法》1 简介: 朴素贝叶斯法是典型的生成学习方法。生成方法由训练数据学习联合概率分布P(X,Y),然后求得后验概率分布P(Y|X)。具... 阅读全文
posted @ 2015-07-22 09:26 二的二次方 阅读(392) 评论(0) 推荐(0)

导航