概率论笔记（3）

第三章随机向量

第一节二维随机向量及其分布

二维随机变量的定义及其分布函数

n维随机向量：
\(E\)是一个随机试验，其样本空间是\(\Omega =\left \{ e \right \}\)
设随机变量\(X_{1}(e),X_{2}(e),...,X_{n}(e)\)是定义在样本空间\(\Omega\)上的\(n\)个随机变量
则称向量\((X_{1}(e),X_{2}(e),...,X_{n}(e))\)为\(\Omega\)上的\(n\)维随机变量（随机向量），简记为\((X_{1},X_{2},...,X_{n})\)

n维随机变量的分布函数：
设\((X_{1},X_{2},...,X_{n})\)是n维随机变量，对任意实数\(x_{1},x_{2},...,x_{n}\)，称n元函数
\(F(x_{1},x_{2},...,x_{n})=P\left \{ X_{1}\leq x_{1},X_{2}\leq x_{2},...,X_{n}\leq x_{n} \right \}\)为n维随机变量\((X_{1},X_{2},...,X_{n})\)的联合分布函数
分布函数\(F(x,y)\)的性质：

1. \(F(x,y)\)是变量\(x\)和\(y\)的不减函数
2. \(0\leq F(x,y)\leq 1\)，且\(F(-\infty ,y)=0\)（\(y\)固定），且\(F(x,-\infty)=0\)（\(x\)固定）,\(F(-\infty,-\infty)=0,F(+\infty,+\infty)=1\)
3. \(F(x,y)\)关于\(x\)和\(y\)是右连续的，即\(F(x,y)=F(x+0,y),F(x,y)=F(x,y+0)\)
4. 对于任意\((x_{1},y_{1}),(x_{2},y_{2}),x_{1}<x_{2},y_{1}<y_{2}\)。有\(F(x_{2},y_{2})-F(x_{2},y_{1})-F(x_{1},y_{2})+F(x_{1},y_{1})\geq 0\)

二维离散型随机变量

二维离散型随机变量：若二维随机变量\((X,Y)\)的所有可能结果取值是有限对或可数无穷多时，则称\((X,Y)\)为二维离散型随机变量

二维离散型随机变量的分布律：\(P(X=x_{i},Y=y_{i})=p_{i,j}, i,j=1,2,...\)
性质：

1. 非负性：\(p_{i,j}\geq 0, i,j=1,2,...\)
2. 规范性：\(\sum_{i,j}p_{i,j}=1\)

二维离散型随机变量的分布函数：\(F(x,y)=P\left \{ X\leq x,Y\leq y \right \}=\sum_{x_{i}\leq x}\sum_{y_{j}\leq y}p_{ij}\)

二维连续型随机变量

二维连续型随机变量的密度函数：
设随机变量\((X,Y)\)的分布函数为\(F(x,y)\)，若存在一个非负可积函数\(f(x,y)\)，使得对任意实数\(x,y\)有
\(F(x,y)=P\left \{ X\leq x,Y\leq y \right \}=\int_{-\infty}^{x}\int_{-\infty}^{y}f(u,v)dudv\)
则称\((X,Y)\)为二维连续型随机变量，称\(f(x,y)\)为\((X,Y)\)的联合分布密度或概率密度
性质：

1. \(f(x,y)\geq 0, -\infty <x,y<+\infty\)
2. \(\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}f(u,v)dudv=1\)
3. 若\(f(x,y)\)在点\((x,y)\)处连续，则有\(\frac{\partial ^{2}F(x,y)}{\partial x\partial y}=f(x,y)\)
4. 设\(G\)为\(xOy\)平面上的任一区域，随机点\((X,Y)\)落在\(G\)内的概率为\(P\left \{ (X,Y)\in G \right \}=\iint_{G}f(x,y)dxdy.\)

3维随机变量的均匀分布：
\(G\)为空间上的有界区域，体积为\(A\)，若三维随机变量\((X,Y,Z)\)在\(G\)上具有概率密度
\(f(x,y)=\left\{\begin{matrix}\frac{1}{A}, & (x,y,z)\in G\\ 0, & 其它\end{matrix}\right.\)
则称\((X,Y,Z)\)在\(G\)上服从均匀分布
（类似可拓展至n维随机变量的均匀分布）

二维随机变量\((X,Y)\)的二维正太分布:

第二节边缘分布

定义：二维随机变量\((X,Y)\)中\(X,Y\)各自的分布函数\(F_{x},F_{y}\)
其中\(F_{x}=F(x,+\infty ), F_{y}=F(+\infty ,y)\)

二维离散型随机变量的边缘分布

二维离散型随机变量\((X,Y)\)的分布律为\(P\left \{ X=x_{i},Y=y_{i} \right \}=P_{ij}, i,j=1,2,...\)
则有边缘分布函数\(F_{X}(x)=F(x,+\infty )=\sum_{x_{i}\leq x}\sum_{j}p_{ij}\)
则X的分布律为\(P\left \{ X=x_{i} \right \}=\sum_{j}p_{ij},i=1,2,...\) 也可写作\(p_{i\cdot }\)
（称其为\((X,Y)\)关于X的边缘分布律，Y同理）

二维连续型随机变量的边缘分布

二维连续型随机变量\((X,Y)\)的概率密度为\(f(x,y)\)
则X的分布函数为\(F_{X}(x)=F(x,+\infty)\)
则X的概率密度为\(f_{X}(x)=\frac{dF_{X}(x)}{dx}=\int_{-\infty }^{+\infty }f(x,y)dy\)
（称其为\((X,Y)\)关于X的边缘密度函数，Y同理）
（Y同理）

求边缘概率密度技巧：运算、对象

• 运算：
  给定联合分布函数：求极限（忘了是啥，极限操作是求边缘分布函数用的，应该先用此求边缘分布函数，再求导得出边缘概率密度，这一条不能用对象那栏的原则）
  给定联合密度函数：求积分
  给定边缘分布函数：求导
• 对象：
  求关于X的：对Y作运算
  求关于Y的：对X作运算
  

第三节条件分布

二维离散型随机变量的条件分布律

定义：设\((X,Y)\)是二维离散型随机变量，对于固定的j，若\(P\left \{ Y=y_{j} \right \}>0\)，则称
\(P\left \{ X=x_{i}|Y=y_{j} \right \}=\frac{P\left \{ X=x_{i},Y=y_{j} \right \}}{P\left \{ Y=y_{j} \right \}}, i=1,2,...\)
为在\(Y=y_{i}\)条件下随机变量X的条件分布律
（Y同理）

二维连续型随机变量的条件分布

定义：设对于任何固定的正数\(\varepsilon\)，\(P\left \{ y-\varepsilon <Y\leq y+\varepsilon \right \}>0\)，若
\(\lim_{\varepsilon \rightarrow 0^{+}}P\left \{ X\leq x | y-\varepsilon <Y\leq y+\varepsilon \right \}=\lim_{\varepsilon \rightarrow 0^{+}}\frac{P\left \{ X\leq x , y-\varepsilon <Y\leq y+\varepsilon \right \}}{P\left \{ y-\varepsilon <Y\leq y+\varepsilon \right \}}\)
存在，则称此极限为在\(Y=y\)的条件下\(X\)的条件分布函数，记作
\(P\left \{ X\leq x | Y=y \right \}\)或\(F_{X|Y}(x | y)\)

若\(f(x,y)\)和\(F_{Y}(y)\)连续，且\(F_{Y}(y) > 0\)，则在\(Y=y\)的条件下
\(X\)的条件分布函数为
\(F_{X|Y}(x|y)=\int_{-\infty }^{x}\frac{f(u,y)}{f_{Y}(y)}du\)
\(X\)的条件分布密度为
\(f_{X|Y}(x | y)=\frac{f(x,y)}{f_{Y}(y)}\)
（反过来对Y也类似）

第四节随机变量的独立性

定义：设\(X\)和\(Y\)为两个随机变量，若对于任意的\(x\)和\(y\)，有
\(P\left \{ X\leq x,Y\leq y \right \}=P\left \{ X\leq x \right \}P\left \{ Y\leq y \right \}\)
则称\(X\)和\(Y\)是相互独立的
即\(F(x,y)=F_{X}(x)F_{Y}(y)\)

n维随机向量的独立性：
联合分布函数=各边缘分布函数的乘积

对于二维离散型随机变量等价形式为：
\(P\left \{ X=x_{i},Y=y_{i} \right \}=P\left \{ X=x_{i} \right \}P\left \{ Y=y_{i} \right \}\)
（\((x_{i},y_{j})\)取\((X,Y)\)的任何可能值）

对于二维连续型随机变量等价形式为：
\(f(x,y)=f_{X}(x)f_{Y}(y)\)
（\(x,y\)任意）

第五节 两个随机变量函数的分布

任务：已知二维随机变量\((X,Y)\)的分布律或密度函数，求\(Z=\varphi (X,Y)\)的分布律或密度函数
注意点：\(Z=g(X,Y)\)，\((X,Y)\)是二维的离散型随机变量，而\(Z\)是一维的离散型随机变量

二维离散型随机变量函数的分布

一般计算：把Z分解成X和Y=g(X,Z)的形式，再对X、Y各种可能的取值情况相乘再求和
（例：\(P\left \{ Z=k \right \}=P\left \{ X+Y=k \right \}=\sum_{i=0}^{k}P\left \{ X=i \right \}P\left \{ Y=k-i \right \}\)）

分布的可加性（某些离散型随机变量具有的特性）：
若\(X,Y\)独立，且\(X\sim P(\lambda _{1}), Y\sim P(\lambda _{2})\)
则\(X+Y\sim P(\lambda _{1}+\lambda _{2})\)
（泊松分布、二项分布均具有分布可加性）

二维连续型随机变量函数的分布

求\(f_{Z}(z)\)的一般方法：

1. 先求\(Z=\varphi (X,Y)\)的分布函数：
   \(F_{Z}(z)=P\left \{ Z\leq z \right \}=P\left \{ \varphi (X,Y)\leq z \right \}=P\left \{ (X,Y)\in G \right \}=\iint_{G}f(u,v)dudv\)
   其中\(G=\left \{ (x,y) | \varphi (x,y)\leq z \right \}\)
2. 求出密度函数\(f_{Z}(z)\):
   对分布函数进行求导

\(Z=X+Y\)中\(Z\)的概率密度：

\(f_{Z}(z)=\int_{-\infty}^{+\infty}f(z-y,y)dy=\int_{-\infty}^{+\infty}f(z-x,x)dx\)（\(f(x,y)是联合密度函数\)）
（证明思想：得出分布函数的最初积分公式后，先换元，再换积分顺序得到最终的分布函数，最后再对分布函数求导）

若\(X\)和\(Y\)独立：\(f_{Z}(z)=\int_{-\infty}^{+\infty}f_{X}(z-y)f_{Y}(y)dy=\int_{-\infty}^{+\infty}f_{X}(x)f_{Y}(z-x)dx\)
卷积公式：上述的公式，记为\(f_{X}*f_{Y}\)，即
\(f_{X}*f_{Y}=\int_{-\infty}^{+\infty}f_{X}(z-y)f_{Y}(y)dy=\int_{-\infty}^{+\infty}f_{X}(x)f_{Y}(z-x)dx\)
卷积：

• 具有交换律
• 两个独立随机变量的函数的分布为它们的卷积

\(Z=\frac{X}{Y}\)中\(Z\)的概率密度：

\(f_{Z}(z)=\int_{-\infty}^{+\infty}f(zu,u)\left | u \right |du\)（\(f(x,y)是联合密度函数\)）
（证明过程与\(Z=X+Y\)的类似）

若\(X\)和\(Y\)独立：\(f_{Z}(z)=\int_{-\infty}^{+\infty}f_{X}(zu)f_{Y}(u)\left | u \right |du\)

\(M=max\left \{ X,Y \right \}\)及\(N=min\left \{ X,Y \right \}\)的分布:

\(F_{M}(z)=F_{X_{1}}(z)F_{X_{2}}(z)...F_{X_{n}}(z)\)
\(F_{N}(z)=1-[1-F_{X_{1}}(z)][1-F_{X_{2}}(z)]...[1-F_{X_{n}}(z)]\)