贝叶斯定理简单解释

举例：

如下图1所示，已知小明到家时带着一只娃娃，请问他更有可能乘坐了公交还是地铁？

                                 

                                        图1                                                                             图2                                                                     图3                                                                                  图4

如图2所示，正方形面积为小明回家方式的所有可能（100%），黄色为公交（P(X)=20%），绿色为地铁（P(Y)=80%）。

如图3-4所示，深黄色面积为通过公交并且抓到娃娃的概率（P(W|X)=0.2*0.8）；深绿色面积为通过地铁抓到娃娃的概率(P(W|Y)=0.8*0.3)；  因此能够抓到娃娃的概率P(W)=P(W|X) + P(W|Y) = 0.2*0.8 + 0.8*0.3 = 0.4

因此，如图4所示，在已知小明到家后抓到娃娃的前提下，通过公交抓到娃娃的概率为深黄色面积/抓到娃娃的概率：0.2*0.8 / 0.4=0.4；通过地铁抓到娃娃的概率为深绿色面积/抓到娃娃的概率：0.8*0.3 / 0.4=0.6

 

定理介绍：

用A和B代表X和W：

       

    A和B是两个随机事件，P(A) 和P(B)是这两个事件发生的概率，P(B|A)表示A发生的情况下B发生的概率（"|"读作given），P(A|B)表示B发生的情况下A发生的概率

    刚才事件中，P(A)表示小明乘坐公交或者地铁的概率，这是之前的经验，所以称之为先验概率(prior)；

                        P(A|B)同样表示小明乘坐公交或者地铁的概率，但是是在B事件发生后对先验概率P(A)的修正，所以称为后验概率(posterior)。

                        上述修正的基础是因为看到了B事件的发生，所以P(B)称为证据(evidence);

                        P(B|A)表示在事件A发生的前提下，B事件发生的概率（"似乎有可能发生"）,称之为"似然"（likelyhood）。当P(B|A)的值更大时，B事件就有更强的证据支持A事件，所以当P(B|A)也可以理解为B事件对A事件的证据强度。

 

 

接下来，我们通过对比独立事件和非独立事件的例子，来深入理解贝叶斯定理如何工作：

---

案例一：独立事件 - 连续抛掷公平的硬币

• ​事件 A​：第一次抛硬币是正面。

• ​事件 B​：第二次抛硬币是正面。

我们知道这两次抛掷是独立的。让我们用贝叶斯定理来验证这一点。

​贝叶斯定理公式：P(B|A) = [P(A|B) × P(B)] / P(A)​​

1. ​先验概率 P(B)​​：在没有任何信息的情况下，第二次是正面的概率。P(B) = 0.5。

2. ​条件概率 P(A|B)​​：在“第二次是正面”这个假设下，第一次是正面的概率。由于独立性，P(A|B) = P(A) = 0.5。

3. ​证据概率 P(A)​​：第一次是正面的概率。P(A) = 0.5。

4. ​计算后验概率 P(B|A)​​：

   P(B|A) = [0.5 × 0.5] / 0.5 = 0.5

​贝叶斯分析​：

• ​先验信念​：我认为第二次是正面的概率 P(B) = 0.5。

• ​新证据​：我观察到第一次抛掷是正面 (事件A)。

• ​后验信念更新​：我运用贝叶斯定理，发现后验概率 P(B|A) = 0.5，与先验概率 P(B) 完全相同。

• ​结论​：新证据A对我的信念没有任何影响。这正好是“独立事件”的定义：一个事件的发生不能提供任何关于另一个事件的信息。

---

案例二：非独立事件（相关事件） - 早晨堵车

这是一个更体现贝叶斯定理威力的例子。事件之间是相关的。

• ​事件 A​：今天下雨了。 (这是我们的证据)

• ​事件 B​：主要道路堵车。 (这是我们要更新的假设)

根据历史数据和经验，我们知道：

• ​P(B) = 0.2​：在平常日子里（不考虑天气），堵车的先验概率是20%（即一个月大概有6天会堵）。

• ​P(A) = 0.1​：下雨的先验概率是10%（即一个月大概有3天下雨）。

• ​P(A|B) = 0.4​：这是一个关键数据。我们知道，在堵车的日子里，有40%的可能性是因为下雨。换句话说，下雨是导致堵车的一个常见原因。

​问题​：今天早上你起床看到窗外在下雨（证据A发生了），那么现在堵车（假设B）的概率是多少？即求 ​P(B|A)​。

​使用贝叶斯定理计算​：

P(B|A) = [P(A|B) × P(B)] / P(A)

= [0.4 × 0.2] / 0.1

= 0.08 / 0.1

= ​0.8​

​贝叶斯分析​：

• ​先验信念​：在不知道天气的情况下，你认为今天堵车的概率 P(B) = 0.2（20%）。

• ​新证据​：你观察到“下雨了”（事件A）。这是一个非常重要的信息，因为你知道下雨和堵车是强相关的。

• ​后验信念更新​：你运用贝叶斯定理，将“下雨”这个证据纳入计算。结果是，你对堵车可能性的信念从20%​大幅更新到了80%。

• ​结论​：因为“下雨”和“堵车”是非独立事件​（一个事件的发生显著影响了另一个事件发生的概率），所以新证据有力地改变了（更新了）我们的先验信念。

核心思想对比总结

特征	独立事件 (抛硬币)	非独立事件 (下雨与堵车)
​关系​	事件之间无因果或逻辑联系。	事件之间存在因果关系或强相关性。
​贝叶斯更新的效果​	​后验概率 = 先验概率​ 新证据无法更新信念。	​后验概率 ≠ 先验概率​ 新证据显著更新了信念。
​公式体现​	P(B|A) = P(B)	P(B|A) >> P(B) （或远小于，取决于相关性）
​现实意义​	知道过去不会帮你预测未来。	利用相关的证据可以做出更准确的预测。

通过这两个例子，你可以看到贝叶斯定理是一个强大的通用工具。它不仅是一个公式，更是一种“理性更新信念”的思维方式：​当我们获得新的证据时，如何从初始的估计（先验）出发，得到一个新的、更准确的估计（后验）。​​ 在独立事件中，更新幅度为零；在相关事件中，更新幅度可能很大。