概率论与数理统计

先咕咕一段时间，感觉目前整理的优先细致过头，反而体现不出自己的思考（更多的可能因为已经过了）

后面再一点点更新吧

目录

• 开篇
• 前置知识
• 随机事件与概率
  • 事件之间的关系与运算
    • 事件关系
    • 事件运算
  • 概率的定义和性质
    • 古典概型/等可能概型
    • 几何概型
    • 统计概型
    • 概率的性质
• 参数估计
  • 点估计
    • 矩法

开篇

• 教材：《概率论与数理统计》(科学出版社；叶慈南 刘锡平)
• 暂时用来对付期末考试，1904min ——2024.12.15

前置知识

因为高中都学过一些设计概率论的内容，有些结论感觉是显然、易得，因此不打算花费篇幅证明相关结论，在此列出：

• 加法原理：举例说明，前往某地有多种方案，可以在 \(3\) 条公交线路，\(2\) 条地铁线路和 \(1\) 种打车线路中，选择一种方案，则总共有 \(3 + 2 = 5\) 种方案可供选择。
• 乘法原理：举例说明，前往某地有 \(3\) 条公交线路，下公交后有 \(2\) 条地铁线路，则总共有 \(3 \times 2 = 6\) 种方案可供选择。
• 排列：\(P_n^m = \frac{n!}{(n-m)!}\)
• 组合：\(C_n^m = C_n^{n-m} = \frac{P_n^m}{m!} = \frac{n!}{m!·(n-m)!}\)
• 组合数递推式：\(C_n^m = C_{n-1}^{m-1} + C_{n-1}^m\)
• ...(暂时想到这些，随时可能补充)

随机事件与概率

事件之间的关系与运算

事件关系

• 包含：\(A \subset B\)；
• 相等：若 \(A \subset B\) 且 \(B \subset A\)，则 \(A = B\)；
• 互斥：若 \(AB = \varnothing\)，则称 \(A\) 与 \(B\) 互斥；
• 和事件：\(A \cup B\)，可以推广为 \(\bigcup_{k=1}^n A_k\)，表示 \(A_1, A_2, \cdots, A_n\) 中至少有一个发生；
• 积事件：\(A \cap B = AB\)，可以推广为 \(\bigcap_{k=1}^n A_k\)，表示 \(A_1, A_2, \cdots, A_n\) 中全部发生；
• 差事件：\(A - B = A \cap \overline{B}\)，表示 \(A\) 发生而 \(B\) 不发生；
• 逆事件：\(\overline{A} = \{\omega \mid \omega \notin A\}\)，表示 \(A\) 不发生，有 \(A \cup \overline{A} = \Omega\) 且 \(A \overline{A} = \varnothing\)；

事件运算

• 交换律：\(A \cup B = B \cup A\)，\(AB = BA\)；
• 结合律：\((A \cup B) \cup C = A \cup (B \cup C)\)，\((AB)C = A(BC)\)；
• 分配律：\(A(B \cup C) = (AB) \cup (AC)\)，\(A \cup (BC) = (A \cup B)(A \cup C)\)；
• 德·摩根律：\(\overline{A \cup B} = \overline{A}\ \overline{B}\)，\(\overline{AB} = \overline{A} \cup \overline{B}\)；

概率的定义和性质

古典概型/等可能概型

设样本空间 \(\Omega\) 中所含样本点总数为 \(n\)，若事件 \(A\) 中含有 \(k\) 个样本点，则

\[P(A) = \frac{k}{n} \]

几何概型

设样本空间 \(\Omega\) 是一个区域，若事件 \(A\) 是 \(\Omega\) 的一个子区域，且 \(\Omega\) 中的样本点均匀分布于区域内，则

\[P(A) = \frac{S_A}{S_\Omega} \]

统计概型

设 \(A\) 是样本空间 \(\Omega\) 的一个子集，若事件 \(A\) 发生的频率 \(f_n(A)\) 在 \(n\) 趋于无穷大时趋于某个常数 \(p\)，即

\[\lim_{n \to \infty} f_n(A) = p \]

则称 \(p\) 为事件 \(A\) 发生的概率，记为 \(P(A) = p\)。

概率的性质

• 非负性：\(P(A) \geq 0\)；

...

参数估计

点估计

已知总体 \(X\) 的分布函数 \(F(x;\theta)\)，其中 \(\theta\) 是未知参数，\(\theta\) 的取值范围记作 \(\Theta\)，即 \(\theta \in \Theta\)，称 \(\Theta\) 为参数空间。

若要对 \(\theta\) 进行估计，则称 \(\hat{\theta} = \hat{\theta}(\boldsymbol{x})\) 为 \(\theta\) 的估计，其中 \(\boldsymbol{x} = (x_1, x_2, \cdots, x_n)\) 是样本，\(\hat{\theta}\) 是样本 \(\boldsymbol{x}\) 的函数。

可以推广为总体分布的一组未知参数， \(\hat{\theta}_i = \hat{\theta}_i(\boldsymbol{x})\) 作为 \(\theta_i\) 的估计\((i = 1, 2, \cdots, k)\)，则称 \(k\) 维统计量 \(\hat{\boldsymbol{\theta}} = (\hat{\theta}_1, \hat{\theta}_2, \cdots, \hat{\theta}_k)\) 为 \(\boldsymbol{\theta}=(\theta_1, \theta_2, \cdots, \theta_k)\) 的估计。

矩法