概率质量及相关知识和PX函数

概率质量和概率密度

严格来说说的是概率质量（probability mass）在连续情形下对应的“小区间概率”，而 (p_X) 是概率密度函数。把这几个概念分清楚，后面的变量换元、Jacobian、生成模型就会非常清楚。

1. 先从“概率”开始

假设：

\[X=\text{一个随机变量} \]

例如抛一次骰子：

\[X\in\{1,2,3,4,5,6\} \]

那么：

\[P(X=3)=\frac16 \]

这里的 (P(X=3)) 就是一个概率。

如果我们定义：

\[p_X(x) \]

它表示：

随机变量 (X) 取值为 (x) 的概率规律。

对于离散随机变量，它通常叫概率质量函数（PMF, Probability Mass Function）。

例如公平骰子：

\[p_X(x)= \begin{cases} \frac16,&x=1,2,\ldots,6\\ 0,&\text{其他} \end{cases} \]

因此：

\[\sum_xp_X(x)=1 \]

这就是“所有可能结果的概率加起来等于 1”。

---

2. 但是连续变量就不一样了

比如：

\[X=\text{一个人的身高} \]

身高可以是：

\[170.1,\quad170.12,\quad170.123,\quad\ldots \]

理论上有无限多个可能值。

这时一个非常反直觉的事情出现了：

\[\boxed{P(X=170)=0} \]

并不是说“170 米身高不可能”，而是因为连续变量的单个点没有面积。

所以我们不再问：

\[P(X=x) \]

而是问：

\[P(a\le X\le b) \]

例如：

\[P(170\le X\le171) \]

这时候就需要概率密度函数（PDF, Probability Density Function）。

---

3. (p_X(x)) 到底是什么？

对于连续随机变量：

\[\boxed{p_X(x)} \]

读作：

随机变量 (X) 的概率密度函数，在 (x) 处的密度。

注意：

\[p_X(x)\neq P(X=x) \]

这是非常重要的区别。

概率密度 (p_X(x)) 本身不是概率。

真正的概率是对密度进行积分：

\[\boxed{ P(a\le X\le b) = \int_a^b p_X(x)\,dx } \]

所以可以这样理解：

\[\boxed{ \text{概率} = \text{概率密度} \times \text{一小段区间} } \]

严格地说，在无限小情况下：

\[\boxed{ dP=p_X(x)\,dx } \]

这就是你刚才看到的公式背后的真正含义。

---

4. 为什么叫“密度”？

它和物理学里的“密度”非常像。

例如物质密度：

\[\rho(x) \]

表示某个位置的单位长度/体积里有多少物质。

一个小体积 (dV) 中的质量：

\[dm=\rho(x)dV \]

总质量：

\[M=\int\rho(x)dV \]

概率也是类似的：

\[dP=p_X(x)dx \]

总概率：

\[P=\int p_X(x)dx=1 \]

所以：

\[\boxed{ \text{概率密度} \sim \text{质量密度} } \]

这也是为什么“density”这个词非常准确。