生成学习算法

引自[https://www.cnblogs.com/czdbest/p/5771500.html]

对p(x|y)建模。根据大象的特征学习出一个大象模型，根据狗的特征学习出狗的模型，对于新的样本，将特征分别放到两个模型，哪个概率大，就确定是哪种动物。

p(x|y)建模后，用贝叶斯定理，可以算出p(y|x)的概率。

常见的生成模型

隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM

高斯判别分析GDA

Gaussian Discriminant Analysis.

训练集的特征值x是连续值，p满足正态分布，再求得对数似然函数。

朴素贝叶斯(Naive Bayes)

特征向量x是离散值。假设x之间是条件独立的。