摘要：总的来说，对于输入X，类别为Y的数据，生成模型是估计他们的连个概率密度P（X,Y），判别式模型为估计条件概率P（Y|X）。 生成模型：有数据学习联合概率密度P（X,Y），然后求出条件概率P（Y|X）作为预测模型，如贝叶斯、HMM、主题LDA。 判别模型：由数据直接学习决策函数Y=F(X)，如KNN、 阅读全文

摘要：线性模型 线性模型试图学得一个通过属性的线性组合来进行预测的函数。形如： 1、线性回归 2、多分类学习 3、逻辑回归（LR） 4、类别不均衡问题 一、线性回归 讲解线性回归之前，先要了解回归和分类的区别，简单来说，回归要做的就是一个连续的预测值，分类是一个离散的预测值。线性回归试图学的一个线性模型以 阅读全文

摘要：支持向量机（Support Vector Machine） SVM是一类按监督学习方式对数据进行二元分类的广义线性分类器，决策边界是对学习样本求解的最大边距超平面。只需要知道，SVM是一个有监督的分类器就可以。 介绍SVM首先要从核函数的介绍开始，SVM是一个处理线性可分离数据的线性分类器。对于下方 阅读全文