【学习笔记】部分概率相关（仍在更新）
-
离散型随机变量：是一些有限或无限个 概率可列 的随机变量。
-
非离散型随机变量： 概率不一定可以列出。
对某一问题中所有可能事件，并对所有基本事件赋予一个概率的集合叫做概率空间。
一个无法再分的事件称为基本事件。
注意：基本事件不一定独立。后文证明。
下文中类似地 \(X\) 代表随机变量， \(x\) 代表函数自变量，\(X(\omega)\) 是其在 \(X\) 中的值。
一个事件概率的定义： \(\Pr(A)=\sum_{\omega\in A}\Pr(\omega)\)
其中 \(\omega\) 是 基本事件。
而前文所述 随机变量 是在概率空间上的基本事件上定义的函数。\(\Pr(A=a)\) 看作关于 \(a\) 的函数，其返回值是它的概率。
定义 联合分布 \(\Pr(X=x\text{&}Y=y)\)
那么独立事件 \(A,B\) 的定义是： \(\Pr(A=a\text{&}B=b)=\Pr(A=a)\cdot \Pr(B=b)\)
即 二者概率不受相互之间的影响。
定义期望：
在概率空间 \(G\) 上离散随机变量 \(X\) 的期望为：
注意到这里期望定义成了对基本事件求和的形式。
简单的理解是加权平均数。它确实是事件 \(X\) 的均值/期望。
也可以理解为 期望=价值*概率
而期望有几条性质很重要：
- \(E(aX)=aE(X),a\in \text{constant}\)
\(\text{Proof}:E(aX)=\sum_{\omega\in G}aX(\omega) \Pr(\omega)=a\sum_{\omega\in G}X(\omega)\Pr(\omega)=aE(X)\)
- \(E(X+Y)=E(X)+E(Y)\)
\(\text{Proof:}E(X+Y)=\sum_{\omega\in G}(X(\omega)+Y(\omega))\Pr(\omega)=\sum_{\omega\in G}X(\omega)\Pr(\omega)+Y(\omega)\Pr(\omega)=E(X+Y)\)
之所以对非独立事件也成立：
考虑 \(X+Y\) 实际上是两个事件发生的 期望 而非 概率。而 \(X\) 的概率即使依赖于 \(Y\) ,也只能对 \(X\) 的期望造成影响，其期望本质上是没有所谓独不独立的。
注意到这个式子本身而言是对期望而非概率的即可。\(X+Y\) 的期望可以从 \(X,Y\) 二者期望拼凑而来。
- \(E(XY)=E(X)E(Y)\) 对于两个独立事件成立。
\(\text{Proof:}E(XY)=\sum_{\omega\in G}(X(\omega)Y(\omega))\Pr(\omega)=\sum_{x\in X,y\in Y}xy\Pr(x)\Pr(y)\)
由独立事件的定义有：
\(E(XY)=\sum_{x\in X,y\in Y}xy\Pr(X=x\text{&}Y=y)=\sum_{x\in X}x\Pr(X=x)\cdot \sum_{y\in Y}y\Pr(Y=y)=E(X)E(Y)\)
