SciTech-Mathematics-Analysis+Probability: 分析+概率: 概率论的公理化结构{非负+可列可加+正则} + Conditional Probability(条件概率) + Independent Events(相互独立) + Event(事件)串联好Probability(概率)与RandomVariable(随机变量) + Expectation(期望)

常用数学性质: 正定 + 正则 + 可列可加

• 非负 ⇔ ∀ X∈ R, X >= 0
• 正定 ⇔ ∀ X∈ R, X > 0
• 正则 ⇔ ∀ Ω(完备事件组Exclusive+Exhausted Events), P(Ω) = 1
• 列加 ⇔ ∀ Exclusive Events(互不相容事件组) A₁, A₂, ..., Aₓ , ..., 有 P(UAₙ) = ∑P(Aₙ).

Independence(独立性) 与 Conditional Probability(条件概率):

• Independence指 P(X|Y) = P(X), 即 Y不影响 X(本质是 X与Y 所在的 两个试验 Eₓ 与 Eᵧ 相互不影响),
• Conditional Probability指 P(X|Y) ≥ 0, 常是 Y 与 X 在同一个Experiment, Y(或Y补集)对X有影响.
  只要 X与Y 在同一个Experiment ⇔ X与Y是同一个Ω 的子集,
  那么 Y 必然受 X 或 "X的补集" 的影响, 也就是 P(Y|X) 或 P(Y|(Ω-X)) 必有一个非负(前提是X与Y都非负)。

1. Experiment 的 Design&Analysis,
   两个不同的Experiment(试验) 会有两组基本事件组(或Sample Space样本空间),
   这两组基本事件组(Sample Space)可能有交集, 也可能没有交集。
   如果这两组基本事件组(Sample Space)不相交, 那么这两个Experiments相互独立。
   严格意义上，两个Experiment相互独立,
   不仅要求 "其基本事件组不相交"，而且要求 "其Parameters(系统参数也相互独立)"。

2. Independence是两个事件Events, 分别在两个不同并相互独立的Experiments)
   本质是"两个Experiments的Independence(基本事件组独立性) 决定 两个Events 的独立性"。
   注意, Independence(独立性)的Context(上下文), 是对多个 Experiment(试验)讨论的,
   即两个事件 X 与 Y 分在两个试验 Eₓ 与 Eᵧ(,Eₓ 与 Eᵧ, 可能"相互独立", 也可能"不是").
   如果, 这两个事件 X 与 Y"Mutual Independent(相互独立)",
   那么, 也代表两个试验 Eₓ 与 Eᵧ "Mutual Independent(相互独立)". 即: P(X|Y) = P(X), P(Y|X) =P(Y),
   也就是, P(X) 不受 Y事件的影响, P(Y) 也不受 X事件的影响。

3. Conditional Probability(条件概率) 是两个Events, 但是在同一个 Experiment(试验)。
   Conditional Probability有隐含前提: 两事件所在Experiment 是同一个, 或不独立的两个 。
   注意, Conditional Probability(条件概率) 的Context(上下文), 是对一个或个 Experiment(试验)讨论的,
   如果Context(上下文)是多个 Experiment(试验)，那么 这多个Experiments 不是 Independent的。
   只有分在非Independent的多个试验的, 多个事件Events(事件), 才可以讨论 Conditional Probability.
   而分在Independent的多个试验的, 多个事件Events(事件),
   是Independent的, 即 "相互不影响, 没关系",不存在条件概率 的前提。

概率论的公理化结构 : 非负 + 正则 + 可列可加

Definition 1.3 事件概率

设Experiment(试验) E 的样本空间为 Ω,
对于Experiment(试验) E 的每一个 Event(事件) A,
即对于 样本空间Ω 的每一个 Subset(子集) A,
都赋予一个实数P(A), 如果P(A)满足下面三条公理, 称P(A)为事件A的概率.

• 公理1(非负性): ∀ Event A, ∃ P(A) ≥ 0
• 公理2(列加性): ∀ Events Exclusive Events(互不相容事件组) A₁, A₂, ..., Aₓ , ..., 有 P(U Aₙ) = ∑P(Aₙ)
• 公理3(正则性): ∀ Certain Event Ω, ∃ P(Ω) = 1

概率公理化定义的"非负性" 与 "列加性" ，是诸如 Length(长度)、Area(面积)、Volume(体积) 、Mass(质量)及MassDensity(质量密度)、Weight(重量)等 Measure(度量) 的共同特点，也是概率的重要特性。

概率的三条公理是我们研究概率的基础和出发点。

Expectation(期望) 的 最好范例

SciTech-Mathematics-Analysis+Probability: 分析+概率: 概率论的公理化结构{非负+可列可加+正则} + Conditional Probability(条件概率) + Independent Events(相互独立)

1. Event(事件)是串联好 Probability(概率) 与 RandomVariable(随机变量) 的主线；
2. Random Variable(随机变量) 将"Event(事件)的每一个Outcome(结果)"都映射到一个Representative(有代表意义) 的 Real Value(实数值)；
   注意: Representative(有代表意义) 的，在实践上更重要。
   即，映射的值不是一个随意取的Real Value(实数值)，而是精心选取。
   教材上强调Real Value(实数值)是"数学理论视角"，
   实践上，为每一个Outcome(事件结果)分配合适的Real Value(实数值)，是更进一步的重要。
3. Expectation(期望) 是 以Event 的 Outcomes(结果集)为主线，将每一 "目标 Outcome(事件结果)" 的 Probability(概率) 与其 RandomValue(随机变量值) 相乘并加和。
   

Binomial Distribution(n次独立重复Bernoulli试验的)

• Bernoulli Experiment(伯努利试验)，
  试验的Outcomes(结果)只有两种可能(样本空间有且只有两个元素)。
• Bernoulli distribution(伯努利分布)，
  又名两点分布或0-1分布, 注意: 只有一次Bernoulli Experiment(伯努利试验) 。
  Bernoulli distribution(伯努利分布)是 n = 1 的 特殊 Binomial Distribution。
• Binomial Distribution(二项分布)，随机变量 X ~ B(n, p)
  是"n次独立重复的Bernoulli试验的概率分布"；
  
• Geometric distribution(几何分布)， 记为X ~ Geo(p)
  "n次独立重复的Bernoulli试验，试验k次才得到第1次成功的机率"。 
  即: "直到第k次试验才首次成功(前k-1次皆失败，第k次成功)的概率"。
  • Geometric distribution是唯一的离散无记忆随机分布。 它是 指数分布的离散模拟。
  • Geometric distribution是 帕斯卡分布 当 r=1 时的特例。
• Pascal distribution(负二项分布, 帕斯卡分布)
  在独立、重复的Bernoulli Experiment，设每次试验成功的概率为p，失败概率为q=1-p，
  若将试验进行到出现够正好r(r为常数)次成功为止，以随机变量X表示所需试验次数，
  则 X是离散型随机变量，其概率分布为
  
  此时称P(X=k)服从帕斯卡分布。
  注释: p是每次试验出现成功的概率，q=1-p，当r=1时，即几何分布帕斯卡(Pas-cal , B.)。

Poisson distribution(泊松分布) 与 Binomial Distribution的关系

Poisson distribution记为: X ~ π(λ)，或记为X ~ Poisson(λ)。

在Binomial Distribution(二项分布) 的Bernoulli Experiment，
如果试验次数n很大，概率p很小，且乘积 λ=np 比较适度，则事件出现的次数的概率可用Poisson distribution逼近。
在这种条件下的Binomial Distribution，用Poisson distribution去近似，则计算快捷。