矩生成函数（MGF）

原点矩是随机变量 \(X\) 的幂次的期望值，通常简称为矩，\(n\) 阶矩则是 \(E(X^n)\)。

矩生成函数是一个无穷多项式，其第 \(i\) 次项系数蕴涵了随机变量的 \(i\) 阶矩。

设 \(P(x)\) 为离散随机变量的概率，\(f(x)\) 为连续随机变量的概率密度函数，和指数生成函数类似，设 \(t\) 为多项式的主元，矩生成函数被定义为：

\[E[e^{tx}] = \begin{cases}\sum\limits_{x} e^{tx} \cdot P(x), & x \text{ is discrete}\\ \int\limits_{x}e^{tx} \cdot f(x)dx, & x \text{ is continuous}\end{cases} \]

根据麦克劳林公式：

\[e^{tx} = \sum_{i = 0}^{\infty}\dfrac{t^i}{i!}x^i \]

再由期望的线性性可以得知：

\[E[e^{tx}] = E\left[\sum_{i = 0}^{\infty}\dfrac{t^i}{i!}x^i\right] = \sum_{i = 0}^{\infty}\dfrac{t^i}{i!}E\left(x^i\right) \]

不难注意到，欲求 \(n\) 阶矩，则相当于对原生成函数求 \(n\) 阶导然后令 \(t = 0\)。

离散型随机变量

已知几何分布 \(P(X = k) = pq^{k - 1} (k \ge 1)\)，求 \(D(X^N)\)。

显然由方差定义，我们可以知道 \(D(X^N) = E\left(X^{2N}\right) - E^2\left(X^N\right)\)，因此问题转化为求原分布的 \(N\) 阶矩和 \(2N\) 阶矩。

写出其矩生成函数：

\[\begin{aligned} E[e^{tx}] &= \sum_{x = 1}^{\infty}e^{tx}pq^{x - 1} \\ &= \sum_{x = 1}^{\infty}e^{t(x-1)}e^{t}pq^{x - 1} \\ &= pe^{t}\sum_{x = 1}^{\infty}\left(qe^{t}\right)^{x - 1} \\ &= pe^{t}\sum_{x = 0}^{\infty}\left(qe^{t}\right)^{x} \\ &= \dfrac{pe^{t}}{1 - qe^t} \\ \end{aligned}\]

于是 \(D\left(X^N\right) = E^{(2n)}[e^{tx}]_{t = 0} - \left(E^{(n)}[e^{tx}]_{t = 0}\right)^2\)。

连续型随机变量

已知指数分布 \(f(x) = \lambda \cdot e^{-\lambda x}(x > 0)\)，求 \(E(X^n)\)

写出其矩生成函数：

\[\begin{aligned} E[e^{tx}] &= \int_{0}^{\infty}e^{tx} \cdot \lambda e^{-\lambda x}dx \\ &= \lambda\int_{0}^{\infty}e^{(t - \lambda)x}dx \\ &= \lambda \cdot \left(\dfrac{e^{(t - \lambda)x}}{t - \lambda}\right)\bigg\vert_{0}^{\infty} & t - \lambda < 0 \\ &= \dfrac{\lambda}{\lambda - t} \\ \end{aligned}\]

于是 \(E\left(X^n\right) = E^{(n)}[e^{tx}]_{t = 0}\)。

---

在模意义下，矩生成函数可以配合多项式卷积快速求出低阶原点矩。