概率论

事件

事件相关定义

随机实验

随机试验指可重复进行，但无法断言结果的实验。

多次进行同一随机试验可能产生不同的结果。

随机事件

随机事件是随机试验中会发生的事件，由基本事件组成。

（随机事件很像集合，一个事件由多个基本事件组成，其中一个基本事件发生，则这个事件发生。)

基本事件

在一随机试验 $E$ 可能会产生的事件中，总可以找出一组事件，满足每次进行试验 $E$ 发生且只发生其中一个事件。

那么，这组事件被称为实验 $E$ 的基本事件（样本点），一般用 $\omega$ 表示。

样本空间

一个随机试验产生的所有基本事件的集合被称为样本空间，一般用 $\Omega$ 表示。

特殊的事件

必然事件 $\Omega$，和不可能事件 $\varnothing$

事件的关系

$A \subset B$（$B \supset A$）：$B$ 事件包含 $A$ 事件，$A$ 发生 $\Rightarrow$ $B$ 发生。

$A = B$：$A$ 事件等价于 $B$ 事件，$A$ 发生 $\Leftrightarrow$ $B$ 发生。

事件的运算

$A\cap B$（$AB$）：$A$ 和 $B$ 同时发生。

$A\cup B$（$A+B$）：$A$ 和 $B$ 中发生至少一个。

$\overline{A}$：$A$ 不发生。

$A-B$（$A-AB，A\overline{B}$）：$A$ 发生，$B$ 不发生。

若 $A \cap B = \varnothing$，那么说明 $A$ 和 $B$ 不能同时发生，称为 $A$ 与 $B$ 互斥（互不相容）。

$\overline{A} = \Omega - A$

事件的运算定律

结合律交换律

同一运算之间满足结合律与交换律：

$A\cap B = B\cap A$
$(A\cap B)\cap C = A\cap (B\cap C)$
$A\cup B = B\cup A$
$(A\cup B)\cup C = A\cup (B\cup C)$

分配律

不同运算之间满足分配律：

$(A\cup B)\cap C = (A\cap C)\cup (B\cap C)$
$(A\cap B)\cup C = (A\cup C)\cap (B\cup C)$

德摩根律

\[\overline{\bigcap_{i=1}^{n}A_i}=\bigcup_{i=1}^{n}\overline{A_i} \]

概率

进行多次随机试验会得到多个结果，当次数接近无限大时，结果会呈现分布规律，我们将事件 $A$ 发生的概率称之为 $P(A)$。

概率定义

我们定义 $P(A)$ 为事件 $A$ 发生的概率，满足以下条件：

$0 \leq P(A) \leq 1$
对于任意两两互斥的 $A_1, ..., A_n$，有 $$P({\bigcup_{i=1}^{n} A_i})=\sum_{i=1}^{n} P(A_i)$$
$P(\Omega) = 1$

条件概率

$P(A/B)$ 表示在 $B$ 事件发生下 $A$ 事件发生的概率（前提 $P(B)>0$），有

\[P(A/B)=\dfrac{P(A\cap B)}{P(B)} \]

所以之前的 $P(A)$ 可以理解为 $P(A/\Omega)$。

概率的运算定律

$P(A\cup B)=P(A)+P(B)-P(A\cap B)$

特殊的，若 $A$ 与 $B$ 互斥，则 $P(A\cup B)=P(A)+P(B)$

$P(A-B)=P(A)-P(A\cap B)$

特殊的，若 $B \subset A$，则 $P(A-B)=P(A)-P(B)$

$P(\overline{A})=P(\Omega-A) = P(\Omega) -P(A) = 1-P(A)$

$P(A\cap B) = P(B)P(A/B) = P(A)P(B/A)$

更一般的有：

\[P(\bigcap_{i=1}^{n} A_i)=P(A_1)\prod_{i=2}^{n}P(A_i/\bigcap_{j=1}^{i-1} A_j) \]

事件间的独立性

两个事件的独立性

若事件 $A, B$ 满足 $P(A\cap B)=P(A)P(B)$，则称 $A$ 与 $B$ 相互独立。

若 $A$ 与 $B$ 相互独立，则有

\[P(A/B)=\dfrac{P(A\cap B)}{P(B)}=\dfrac{P(A)P(B)}{P(B)}=P(A) \]

$\Omega$ 与任何事件都相互独立，$\varnothing$ 与任何事件也相互独立。

多个事件的独立性

我们设集合 $S = \{A| A = A_i, i=1,2,...,n\}$ 是所有事件 $A_i$ 的集合。

若事件 $A_1, A_2, ..., A_n$ 满足：

\[(\forall S_0 \in S)(P(\bigcap_{A\in S_0}A)=\prod_{A\in S_0} P(A)) \]

则称 $A_1, A_2, ..., A_n$ 两两独立。

概率运算公式

全概公式

若事件 $B_1, B_2, ..., B_n$ 满足：

$B_1, B_2, ..., B_n$ 两两互斥
$A \subset \bigcup\limits_{i = 1}^{n} B_i$
$B_i > 0 (i = 1, 2, ..., n)$

则有：

\[P(A) = \sum_{i=1}^{n} P(B_i)P(A/B_i) \]

贝叶斯公式