（机器学习）朴素贝叶斯简单介绍

朴素贝叶斯介绍

引出

• 算法得出的结论，不是一定正确的，更多是基于现有数据分析出的一个可能的模型，是一种可能性，，在很多时候，我们希望能知道算法判断出该结果的可能性概率

• 无论如何，我们都希望使用真正的概率来衡量可能性，因此就有了真正的概率算法：朴素贝叶斯

• 朴素贝叶斯是一种直接衡量标签和特征之间的概率关系的有监督学习算法，是一种专注分类的算法。朴素贝叶斯根源就是基于概率论和梳理统计的贝叶斯理论，因此它是根正苗红的概率模型

联合概率

• 包含多个条件，且所有条件同时成立的概率

• 记作：P(A, B) = P(A) * P(B)

条件概率

• 就是事件A在另一个事件B已经发生条件下的发生概率

• 记作：P(A|B)

• 特性：P(A1, A2|B) = P(A1|B)P(A2|B)

• 注意：此条件概率的成立，是由于A1,A2相互独立的结果

注意

• 概率公式只适用于各个特征是独立条件下，指特征之间没有关联

• 朴素贝叶斯只适用于特征之间是条件独立情况下，否则分类效果不高，这里的朴素指的就是条件独立

• 朴素贝叶斯主要被广泛用于文档分类中