概率期望学习笔记

概率期望学习笔记

概率

样本、事件基本概念

在一次随机试验 \(E\) 中可能发生的不能再细分的结果称为基本事件（或样本输出），记作 \(\omega\)。在随机试验 \(E\) 中可能发生的所有样本输出的集合称为基本事件空间（或样本空间），记作 \(\Omega\)。一次随机试验的结果一定是基本事件空间 \(\Omega\) 中的恰好一个元素。例如：随机试验 \(E\) 是掷一次骰子，得到的点数为基本事件，则基本事件空间 \(\Omega=\{1,2,3,4,5,6\}\)。

随机事件（事件）是基本事件空间 \(\Omega\) 的子集，用大写字母表示。例如：随机试验 \(E\) 是掷两次骰子，随机事件 \(A\) 为“第二次点数是第一次的两倍”，则 \(A=\{(1,2),(2,4),(3,6)\}\)。

基本事件空间 \(\Omega\) 也是 \(\Omega\) 的子集，每次试验它必然发生，称为必然事件。空集 \(\varnothing\) 也是 \(\Omega\) 的子集，每次试验它不可能发生，称为不可能事件。

事件的关系和运算

若 \(A\) 发生必然导致 \(B\) 发生，则称 \(B\) 包含 \(A\) 或 \(A\) 是 \(B\) 的子事件，记作 \(A\subset B\)。

若 \(A\subset B\land B\subset A\)，则称 \(A\) 与 \(B\) 相等，记作 \(A=B\)。

定义两个事件 \(A,B\) 的和事件 \(C\) 为 \(A\) 发生或 \(B\) 发生，记作 \(C=A\cup B\) 或 \(C=A+B\)。类似地可以定义多个事件的和事件。

定义两个事件 \(A,B\) 的积事件 \(C\) 为 \(A\) 发生且 \(B\) 发生，记作 \(C=A\cap B\) 或 \(C=AB\)。类似地可以定义多个事件的积事件。

定义两个事件 \(A,B\) 的差事件 \(C\) 为 \(A\) 发生且 \(B\) 不发生，记作 \(C=A\setminus B\) 或 \(C=A-B\)。易知 \(A-B=A-AB\)。

若两个事件 \(A,B\) 不可能同时发生，即 \(AB=\varnothing\)，则称 \(A\) 与 \(B\) 互斥（或 \(A\) 与 \(B\) 为互斥事件，或 \(A\) 与 \(B\) 互不相容）。

称“\(A\) 不发生”为 \(A\) 的对立事件，记作 \(\overline{A}\)，即 \(\overline{A}=\Omega-A\)，称 \(A\) 与 \(\overline{A}\) 对立（或 \(A\) 与 \(\overline{A}\) 互逆）。易知 \(A+\overline{A}=\Omega\)，\(A\overline{A}=\varnothing\)，\(\overline{\overline{A}}=A\)，\(A-B=A\overline{B}\)。

设 \(A_1,A_2,\cdots,A_n\) 是一组事件，若它们两两互斥，且它们的和是整个基本事件空间 \(\Omega\)，则称它们是 \(\Omega\) 的一个划分，并称它们是一个完备事件组。

事件运算有以下规则：

• 交换律：\(A+B=B+A\)，\(AB=BA\)。
• 结合律：\((A+B)+C=A+(B+C)\)，\((AB)C=A(BC)\)。
• 分配律：\(A(B+C)=(AB)+(AC)\)，\(A+(BC)=(A+B)(A+C)\)。
• 对偶律：\(\overline{A+B}=\overline{A}\ \overline{B}\)，\(\overline{AB}=\overline{A}+\overline{B}\)。
• 可以证明多个事件时上面四个运算律依然成立。

事件的频数和频率

在相同条件下，重复进行 \(n\) 次试验，事件 \(A\) 发生的次数 \(n_A\) 称为事件 \(A\) 发生的频数，\(\dfrac{n_A}{n}\) 称为事件 \(A\) 发生的频率，记作 \(f_n(A)\)。

频率满足下面三条性质：

• 非负性：\(f_n(A)\ge 0\)。
• 规范性：\(f_n(\Omega)=1\)。
• 有限可加性：若 \(A_1,A_2,\cdots,A_k\) 为两两互斥事件，则 \(f_n\left(\bigcup\limits_{i=1}^kA_i\right)=\sum\limits_{i=1}^kf_n(A_i)\)。

概率的统计定义和性质

在相同条件下，重复进行 \(n\) 次试验，随着试验次数 \(n\) 的增大，事件 \(A\) 发生的频率 \(f_n(A)\) 在 \([0,1]\) 上某个值 \(p\) 附近摆动，呈现出一定的稳定性，则称 \(p\) 为 \(A\) 在该条件下的概率，记作 \(P(A)=p\)。

概率满足下面三条公理：

• 非负性：\(P(A)\ge 0\)。
• 规范性：\(P(\Omega)=1\)。
• 可列可加性：若 \(A_1,A_2,\cdots\) 为两两互斥事件，则 \(P\left(\bigcup\limits_{i=1}^{+\infty}A_i\right)=\sum\limits_{i=1}^{+\infty}P(A_i)\)。

概率满足下面的性质：

• \(P(\varnothing)=0\)。
• 有限可加性：若 \(A_1,A_2,\cdots,A_k\) 为两两互斥事件，则 \(P\left(\bigcup\limits_{i=1}^kA_i\right)=\sum\limits_{i=1}^kP(A_i)\)。
• \(P(\overline{A})=1-P(A)\)。
• \(P(A-B)=P(A)-P(AB)\)。特别地，若 \(B\subset A\)，则有 \(P(A-B)=P(A)-P(B)\)。
• \(P(A)\le 1\)。
• 广义加法公式：\(P(A+B)=P(A)+P(B)-P(AB)\)。

古典概型

如果随机试验 \(E\) 满足：

• 有限性：试验可能的基本事件有有限个。
• 等可能性：试验中每个基本事件出现的可能性相等。

则称这种概率模型为古典概型。

对于古典概型中的事件 \(A\)，设 \(n\) 为基本事件空间大小，\(m\) 为 \(A\) 包含的基本事件个数，则 \(A\) 的概率定义为 \(P(A)=\dfrac{m}{n}\)。

例如：随机试验 \(E\) 是掷一次骰子，随机事件 \(A\) 为点数不超过 \(2\)，则 \(n=6,m=2\)，所以 \(P(A)=\dfrac{2}{6}=\dfrac{1}{3}\)。

几何概型

如果随机试验 \(E\) 满足：

• 无限性：试验可能的基本事件有无限个。
• 等可能性：试验中每个基本事件出现的可能性相等。

则称这种概率模型为几何概型。

对于几何概型中的事件 \(A\)，设 \(n\) 为基本事件空间的测度（常为长度、角度、面积、体积等），\(m\) 为 \(A\) 包含的基本事件的测度，则 \(A\) 的概率定义为 \(P(A)=\dfrac{m}{n}\)。

例如：随机试验 \(E\) 是在一个正方形内随机选一个点，随机事件 \(A\) 为这个点在正方形的内切圆内，设正方形边长为 \(2x\)，则正方形的面积为 \(4x^2\)，内切圆面积为 \(\pi x^2\)，所以 \(P(A)=\dfrac{\pi x^2}{4x^2}=\dfrac{\pi}{4}\)。

条件概率

设 \(A,B\) 是两个事件，且 \(P(B) > 0\)，则已知 \(B\) 发生的条件下 \(A\) 发生的概率为 \(P(A\mid B)=\dfrac{P(AB)}{P(B)}\)。

条件概率满足概率的三条公理，也是概率，因此满足概率的所有性质，另外有下列公式：

• 乘法公式：\(P(AB)=P(A)P(B\mid A)=P(B)P(A\mid B)\)。更一般地，\(P(A_1A_2\cdots A_n)=P(A_1)P(A_2\mid A_1)P(A_3\mid A_1A_2)\cdots P(A_n\mid A_1A_2\cdots A_{n-1})\)。
• 全概率公式：设 \(A_1,A_2,\cdots,A_n\) 是 \(\Omega\) 的一个划分且都有正概率，\(B\) 为一个事件，由它们两两互斥知它们在 \(B\) 条件下也两两互斥，再由概率的有限可加性和乘法公式可知 \(P(B)=\sum\limits_{i=1}^nP(A_iB)=\sum\limits_{i=1}^nP(A_i)P(B\mid A_i)\)。特别地，当 \(n=2\) 时，记 \(A_1=A,A_2=\overline{A}\)，则有 \(P(B)=P(A)P(B\mid A)+P(\overline{A})P(B\mid\overline{A})\)。
• 贝叶斯定理：设 \(A_1,A_2,\cdots,A_n\) 是 \(\Omega\) 的一个划分且都有正概率，\(B\) 为一个事件且有正概率，则有 \(P(A_i\mid B)=\dfrac{P(A_iB)}{P(B)}=\dfrac{P(A_i)P(B\mid A_i)}{\sum\limits_{j=1}^nP(A_j)P(B\mid A_j)}\)。

事件的独立性

若事件 \(A,B\) 满足 \(P(A)=P(A\mid B)\)，则称 \(A\) 与 \(B\) 独立。

若 \(A\) 与 \(B\) 独立，由乘法公式知 \(P(AB)=P(A\mid B)P(B)=P(A)P(B)\)。

反之，若 \(P(AB)=P(A)P(B)\)，由条件概率知 \(P(A\mid B)=\dfrac{P(AB)}{P(B)}=\dfrac{P(A)P(B)}{P(B)}=P(A)\)。

综上，\(P(AB)=P(A)P(B)\iff P(A)=P(A\mid B)\)。若 \(P(AB)=P(A)P(B)\)，则 \(A\) 与 \(B\) 独立。

若事件 \(A,B,C\) 满足 \(P(AB)=P(A)P(B)\land P(BC)=P(B)P(C)\land P(AC)=P(A)P(C)\)，则称 \(A,B,C\) 两两独立。

若 \(A,B,C\) 两两独立，且 \(P(ABC)=P(A)P(B)P(C)\)，则称 \(A,B,C\) 相互独立。

随机变量和期望

随机变量

随机变量是取值由随机事件决定的变量。

当随机变量 \(X\) 取值 \(\alpha\) 的时候，也对应着一个基本事件的集合，因此 \(X=\alpha\) 也是一个事件。

我们记 \(X\) 的取值范围为 \(I(X)\)。

若随机变量 \(X,Y\) 满足 \(P((X=\alpha)(Y=\beta))=P(X=\alpha)P(Y=\beta),\forall\alpha\in I(X),\beta\in I(Y)\)，则称 \(X\) 与 \(Y\) 独立。

类似于随机事件定义两两独立和相互独立。

期望的定义

如果一个随机变量的取值个数有限（如掷骰子），或可能的取值可以一一列举出来（如正整数），则称其为离散型随机变量。

一个离散型随机变量 \(X\) 的数学期望是其每个取值乘以该取值对应概率的总和，记作 \(E(X)\)。

\[E(X)=\sum\limits_{\alpha\in I(X)}\alpha P(X=\alpha)=\sum\limits_{\omega\in S}X(\omega)P(\omega) \]

其中 \(S\) 是 \(X\) 所在概率空间的样本集合。

如果一个随机变量的取值不可列（如实数），则称其为连续型随机变量。

假设一个连续型随机变量 \(X\) 取值为 \(\xi\) 的概率为 \(p(\xi)\)，则定义其期望为：

\[E(x)=\int_{-\infty}^{+\infty}xp(x)\textrm{d}x \]

条件期望

设 \(A\) 是事件，\(X\) 是随机变量，且 \(P(A) > 0\)，则已知 \(A\) 发生的条件下 \(X\) 的期望为 \(E(X\mid A)\)。

当 \(X,Y\) 均为离散型随机变量时，\(E(X\mid Y=\beta)=\sum\limits_{\alpha\in I(X)}\alpha P(X=\alpha\mid Y=\beta)=\sum\limits_{\alpha\in I(X)}\alpha\dfrac{P((X=\alpha)(Y=\beta))}{P(Y=\beta)}\)。

当 \(X\) 为连续型随机变量，\(Y\) 为离散型随机变量时，\(\displaystyle E(X\mid Y=\beta)=\int_{I(X)}\alpha f_X(\alpha\mid Y=\beta)\textrm{d}\alpha\)，其中 \(f_X(*\mid Y=\beta)\) 是给定 \(Y=\beta\) 下 \(X\) 的条件概率密度函数。

期望的性质

• 期望的线性性：对于任意两个随机变量 \(X,Y\)（不要求独立），\(E(X+Y)=E(X)+E(Y)\)。
• 积的期望：对于任意两个独立的随机变量 \(X,Y\)，\(E(XY)=E(X)E(Y)\)。
• 全期望公式：对于随机变量 \(X,Y\)，由全概率公式可以证明 \(E(Y)=\sum\limits_{\alpha\in I(X)}P(X=\alpha)E(Y\mid X=\alpha)\)。

一些题目

绿豆蛙的归宿

讲了那么多理论知识感觉脑壳疼，来看几道题吧。

这是一道经典期望 DP。

设 \({dp}_u\) 表示节点 \(u\) 走到节点 \(n\) 的路径总长度期望，初始时 \({dp}_n=0\)。考虑建反图拓扑排序来倒推。

由期望的线性性，我们可以对每条边分别计算贡献，写出转移方程：\({dp}_u=\dfrac{1}{d_u}\sum\limits_{(u,v,w)\in E}({dp}_v+w)\)。最后 \({dp}_1\) 即为答案。

[SHOI2002] 百事世界杯之旅

设 \({dp}_i\) 表示已有 \(i\) 个名字，要收集到 \(n\) 个名字的期望次数。

有 \(\dfrac{n-i}{n}\) 的概率收集到新名字，有 \(\dfrac{i}{n}\) 的概率收集不到，列出方程：\({dp}_i=\dfrac{n-i}{n}{dp}_{i+1}+\dfrac{i}{n}{dp}_i+1\)。

解方程得 \({dp}_i={dp}_{i+1}+\dfrac{n}{n-i}\)，代初始值 \({dp}_n=0\) 容易发现答案就是 \(n\cdot\left(\dfrac{n}{1}+\dfrac{n}{2}+\cdots+\dfrac{n}{n}\right)\)。

这个输出方式太阴间了（虽说不是很难写），出题人是不会有理数取模吗。。

[六省联考 2017] 分手是祝愿

首先开关的操作是诈骗，显然可以知道最少的操作步数，因为只有第 \(n\) 个开关能控制第 \(n\) 个灯，确认了第 \(n\) 个开关是否操作后可以同理向前递推。

接下来就是另一个问题：需要操作 \(m\) 步，等概率随机操作一次会产生影响，直到需要操作步数不超过 \(k\)。

我们设 \({dp}_i\) 表示从还需要操作 \(i\) 步变成还需要操作 \(i-1\) 步的期望操作次数，首先有 \(\dfrac{i}{n}\) 的概率直接进行正确操作，其次剩余的 \(1-\dfrac{i}{n}\) 的概率会错误操作，这时候需要的操作次数变为了 \(i+1\)，需要先操作成 \(i\) 再操作成 \(i-1\)，列出方程：\({dp}_i=\dfrac{i}{n}+\left(1-\dfrac{i}{n}\right)(1+{dp}_{i+1}+{dp}_i)\)。

看着没法推，实际上把这个方程解出来问题就解决了，解得 \({dp}_i=1+\dfrac{n+(n-i)\cdot{dp}_{i+1}}{i}\)。根据题意累加一部分 \(dp\) 值即可，记得乘以 \(n!\)。