朴素贝叶斯分类器原理

朴素贝叶斯是基于条件概率公式的经典概率分类算法，名字里的 “朴素” 源自一个关键简化假设：全部特征彼此相互独立。
算法核心逻辑：先从训练数据统计出各类别的基础出现概率，以及每个特征在对应类别下的条件概率；预测新样本时，分别计算样本归属每一类的联合概率，概率最大的类别即为预测结果。
根据特征数据类型不同，分为适配连续数值的高斯朴素贝叶斯、适配计数频次的多项式朴素贝叶斯、适配 0-1 二元特征的伯努利朴素贝叶斯。它训练速度快、小样本表现稳定，是轻量化分类的基准模型。

一、算法案例

二、计算公式

由于假设各个特征之前相互独立，那么P(A1A2A3)就十分好算，为P(A1)P(A2)P(A3),使用频率代表概率即可.
P(Ci)就是该标签所占比例
P(A1A2A3|Ci)就是标签为Ci时，同时满足特征A1A2A3的比例

三、计算过程

1.P(A1A2A3)

假设A1是身高为高，A2是体重为重，A3是鞋码为大
P(A1A2A3) = P(A1)P(A2)P(A3)；
P(A1)为身高为高所占的比例，即2/8
P(A2)为体重为重所占的比例，即2/8
P(A3)为鞋码为大3/8

2.P(Ci)

假设Ci是性别为男
P(Ci)为男性所占比例，即4/8

3.P(A1A2A3|Ci)

假设A1A2A3|Ci是性别为男的条件下，身高高，体重重，鞋码大
P(A1A2A3|Ci)为该条件所占的比例，即2/4

四、得出结论

根据公式计算处所有的P(Ci|A1A2A3)，选择条件概率最大的一个作为预测值