随机过程 | 鞅论 1.3 Doob极大极小不等式 & 1.4 鞅的收敛问题 & 1.5 反向鞅

2026-08-10 22:47:25 星期一
我怎么下周就要回所了...我还完全没有做好准备啊😭

1.3 Doob极大极小不等式

Thm 1.3.1 (Doob极大极小不等式) 设 \(\{X_n\}_{n \in \mathbb{Z}^+}\) 为下鞅, 则对于 \(\lambda > 0\), 有

1. \[\lambda \mathbb{P}(\max_{1 \le i \le n} X_i \ge \lambda) \le \mathbb{E}(X_n I_{A(\lambda, n)}) \le \mathbb{E}X_n^+, \]

   其中 \(A(\lambda, n) = \{\max_{1 \le i \le n} X_i \ge \lambda\}\).

2. \[\lambda \mathbb{P}(\min_{1 \le i \le n} X_i \le -\lambda) \le \mathbb{E}(X_n - X_1) - \mathbb{E}\left(X_n I_{B(\lambda, n)}\right), \]

   记 \(B(\lambda, n) = \{\min_{1 \le i \le n} X_i \le -\lambda\}\).

Proof.

1. 定义 \(\sigma = \min\{i \geq 1: X_i \geq \lambda\} \wedge n\)，则 \(\sigma \leq n\).

   考察事件 \(\{\sigma = k\} \cap A(\lambda, n)\). 注意：\(\forall\, \omega \in \{\sigma = k\}\)，即 \(X_\sigma \geq \lambda\) 已发生（设 \(k \leq n\)，\(k > n\) 另外讨论），则 \(A(\lambda, n)\) 也发生，即 \(\omega \in A(\lambda, n)\). 所以 \(\{\sigma = k\} \cap A(\lambda, n) = \{\sigma = k\}\).

   \(k > n\) 时，\(\{\sigma = k\} = \varnothing\)，因为 \(\sigma\) 本身小于等于 \(n\)，\(\sigma = k > n\) 不会发生.

   下证 \(\{\sigma = k\} \in \mathcal{F}_k\):

   (i) \(\forall\, k \leq n-1\)，

   \[\{\sigma = k\} = \left\{\max_{1 \leq i \leq k} X_i < \lambda,\quad X_k \geq \lambda\right\} \in \mathcal{F}_k. \]

   (ii) \(k = n\)，

   \[\{\sigma = k\} = \{\sigma = n\} = \left\{\max_{1 \leq i \leq n} X_i < \lambda,\quad X_n \geq \lambda\right\} \in \mathcal{F}_n. \]

   (iii) \(k > n\)，\(\{\sigma = k\} = \varnothing \in \mathcal{F}_k\).

   对于事件 \(A(\lambda, n)\)，我们想知道是否有 \(A(\lambda, n) \in \mathcal{F}_\sigma\). 实际上验证：\(\forall\, k\)，\(\{\sigma = k\} \cap A(\lambda, n) \in \mathcal{F}_k\) 就行了. 由上面讨论，\(\{\sigma = k\} \cap A(\lambda, n) \in \mathcal{F}_k\). 于是 \(A(\lambda, n) \in \mathcal{F}_\sigma\).

   \[\lambda \mathbb{P}(A(\lambda, n)) = \int_{A(\lambda, n)} \lambda\, dP \leq \int_{A(\lambda, n)} X_\sigma\, dP \overset{\text{下鞅}}{\le} \int_{A(\lambda, n)} \mathbb{E}(X_n \mid \mathcal{F}_\sigma)\, dP = \int_{A(\lambda, n)} X_n\, dP. \]

   即第一个不等号已证，第二个不等号是容易证明的，实际上，

   \[X_n I_{A(\lambda, n)} \le X_n^+ I_{A(\lambda, n)} \le X_n^+ \]

   取期望就有\(\mathbb{E}\left[X_n I_{A(\lambda, n)}\right] \le \mathbb{E}[X_n^+]\)

2. 定义 \(\tau = \min\{i: X_i \leq -\lambda\} \wedge n\)。由于 \(\{X_n, F_n\}\) 为下鞅，由停时定理

   \[X_1 \leq \mathbb{E}(X_\tau | F_1) \]
   \[\mathbb{E}X_1 \leq \mathbb{E}X_\tau\]
   \[\mathbb{E}X_1 \leq \mathbb{E}X_\tau = \mathbb{E}(X_\tau I_B) + \mathbb{E}(X_\tau I_{B^c}) \leq -\lambda P(B) + \mathbb{E}(X_\tau I_{B^c}) = -\lambda P(B) + \mathbb{E}(X_n I_{B^c}) = -\lambda P(B) + \mathbb{E}X_n - \mathbb{E}(X_n I_B) \]

   整理一下，便有

   \[\lambda P(B) \leq \mathbb{E}(X_n - X_1) - \mathbb{E}(X_n I_B)\]

Corollary1.3.2

1. 设 \(p \ge 1\)，\(\{X_n, \mathcal{F}_n\}_{n \in \mathbb{Z}^+}\) 是鞅，且都是 \(L^p\) 可积的。那么

   \[\mathbb{P}\left( \max_{1 \le i \le n} |X_i| \ge \lambda \right) \le \frac{1}{\lambda^p} \mathbb{E}(|X_n|^p). \]

2. 设 \(p > 1\)，则

   \[\mathbb{E}\left( \max_{1 \le i \le n} |X_i|^p \right) \le \left( \frac{p}{p-1} \right)^p \mathbb{E}(|X_n|^p). \]

证明

1. \[\mathbb{P}\left( \max_{1 \le i \le n} |X_i| \ge \lambda \right) = \mathbb{P}\left( \max_{1 \le i \le n} |X_i|^p \ge \lambda^p \right) \le \frac{1}{\lambda^p} \mathbb{E}(|X_n|^p). \]

2. 记 \(X = \max_{1 \le i \le n} |X_i|\)，则有

   \[\begin{aligned} \mathbb{E}(X^p) &= \mathbb{E}\left( \int_0^X p y^{p-1} \, dy \right) \\ &= \mathbb{E}\left( \int_0^\infty p y^{p-1} I_{\{y \le X\}} \, dy \right) \\ &= \int_\Omega \int_0^\infty p y^{p-1} I_{\{y \le X\}} \, dy \, d\mathbb{P} \\ &= p \int_0^\infty y^{p-1} \mathbb{P}(X \ge y) \, dy \\ &\le p \int_0^\infty y^{p-1} \frac{1}{y} \mathbb{E}\left( |X_n| I_{\{X \ge y\}} \right) dy \\ &= p \int_0^\infty y^{p-2} \int_\Omega |X_n| I_{\{X \ge y\}} \, d\mathbb{P} \, dy \\ &= p \int_\Omega |X_n| \int_0^X y^{p-2} \, dy \, d\mathbb{P} \\ &= \frac{p}{p-1} \int_\Omega |X_n| X^{p-1} \, d\mathbb{P} \\ &\le \frac{p}{p-1} \left( \mathbb{E}(|X_n|^p) \right)^{\frac{1}{p}} \left( \mathbb{E}X^p \right)^{\frac{p-1}{p}}. \end{aligned} \]

   移项即可得到结论.

---

1.4 鞅的收敛问题

考虑一个下鞅 \(\{ X_n \}\)，一般地，定义

\[T_{2k+1}(w)=\min\left\{n>T_{2k-2}: X_n(w)\leq a\right\}, \]

\[T_{2k}(w)=\min\left\{n>T_{2k+1}: X_n(w)\geq b\right\}, \]

\(\left\{T_{2k+1},T_{2k}\right\}_{k=0}^{\infty}\) 是一列停时.

那么对于 \(\{X_1(w),\dots,X_n(w)\}\) 而言，若 \(T_{2k}(w)\leq n<T_{2k+1}(w)\)，则 \(\{X_1(w),\dots,X_n(w)\}\) 上穿（向右跨越）\((a,b)\) 共 \(k\) 次，定义 \(R_n(a,b)\) 为 \(\{X_1(w),\dots,X_n(w)\}\) 上穿 \((a,b)\) 的次数.

Lemma 1.4.1（上穿不等式） 设 \(a,b\in\mathbb{R},\ a<b\)，\(\{X_n,\mathcal{F}_n\}_n\) 是下鞅，则

\[\mathbb{E}R_n(a,b)\leq\frac{\mathbb{E}(X_n-a)^+-\mathbb{E}(X_1-a)^+}{b-a} \leq\frac{\mathbb{E}X_n^++|a|}{b-a}. \]

Thm 1.4.2（下鞅收敛定理） 设 \(\{X_n, \mathcal{F}_n\}\) 为下鞅，且 \(\sup_{n \geq 1} \mathbb{E}|X_n| < +\infty\)，则 \(\{X_n\}_{n \geq 1}\) 几乎必然收敛于一个极限 \(X_\infty \in L^1\).

Proof. 我们把不收敛的情况用数学语言进行刻画：

\[\begin{aligned} &\mathbb{P}(\omega: n \to \infty,\ X_n(\omega) \text{ 不存在极限}) \\ &= \mathbb{P}(\omega: \exists a,b \in \mathbb{R},\ X_n(\omega) \text{ 上穿 } (a,b) \text{ 无数次}) \\ &= \mathbb{P}\left( \bigcup_{a,b \in \mathbb{Q}, a<b} \{ R_n(a,b) = \infty \} \right). \end{aligned} \]

下面只需要证明概率是0就行了.

\[\begin{aligned} &\mathbb{P}(\{ R_n(a,b) = \infty \}) \\ &\le \lim_{M \to \infty} \mathbb{P}(\{ R_n(a,b) > M \}) \\ &\le \lim_{M \to \infty} \frac{1}{M} \mathbb{E}(R_n(a,b)) \quad \text{(Chebyshev )} \\ &\le \lim_{M \to \infty} \frac{1}{M} \frac{\mathbb{E}X_n^+ + |a|}{b-a} \quad \text{(上穿不等式)} \\ &\le \lim_{M \to \infty} \frac{1}{M} \frac{\mathbb{E}|X_n| + |a|}{b-a} \\ &\le \lim_{M \to \infty} \frac{1}{M} \frac{\sup_n \mathbb{E}|X_n| + |a|}{b-a} \\ &= 0. \end{aligned} \]

所以\(\mathbb{P}(\omega: n \to \infty,\ X_n(\omega) \text{ 不存在极限})=0\), \(\{X_n\}_{n \geq 1}\) 几乎必然收敛. 设极限是\(X_\infty\). 下面证明这个极限是属于\(L^1\)的.

\[\mathbb{E}|X_\infty| = \mathbb{E}|\lim_{n \to \infty} X_n| \le \liminf_{n \to \infty} \mathbb{E}|X_n| < \infty. \]

---

1.5 反向鞅

定义1.5.1 设有一族单调下降的 \(\sigma\)-代数：

\[\mathcal{F}_{-1} \supset \mathcal{F}_{-2} \supset \mathcal{F}_{-3} \supset \cdots \supset \mathcal{F}_{-n}. \]

设有一族随机变量 \(\{X_n\}_{n \le -1}\) 适应这一族 \(\sigma\)-代数，而且满足

\[\mathbb{E}(X_{n+1} \mid \mathcal{F}_n) = X_n, \quad \forall n \le -2, \]

则称 \(\{X_n\}_{n \le -1}\) 是反向鞅.

---

定理 1.5.2 设 \(\{X_n, \mathcal{F}_n\}_{n \le 0}\) 为反向鞅，则极限 \(X_{-\infty} = \lim_{n \to -\infty} X_n\) 几乎处处（a.s.）存在，且在 \(L^1\) 意义下收敛.

证明

1. \(X_{-\infty} = \lim_{n \to -\infty} X_n\) 几乎处处（a.s.）存在.

   固定 \(n\)，考虑从 \(-n\) 到 \(0\) 的序列 \(X_{-n}, X_{-n+1}, \ldots, X_0\)，\(\mathcal{F}_{-n} \subset \mathcal{F}_{-n+1} \subset \cdots \subset \mathcal{F}_0\)，可以视为一个鞅. 对于任意的 \(a<b\)，由上穿不等式：

   \[\mathbb{E} R_n(a, b) \le \frac{\mathbb{E}(X_0 - a)^+ - \mathbb{E}(X_{-n} - a)^+}{b - a} \le \frac{\mathbb{E}(X_0 - a)^+}{b - a}. \]

   令 \(n \to \infty\)，有

   \[\mathbb{E} R_\infty(a, b) = \lim_{n \to \infty} \mathbb{E} R_n(a, b) \le \frac{\mathbb{E}(X_0 - a)^+}{b - a}, \]

   即 \(\mathbb{P}(R_\infty(a, b) < \infty) = 1\).

   \[\mathbb{P}\left( \bigcup_{a < b, \, a,b \in \mathbb{Q}} \{ R_\infty(a, b) = \infty \} \right) \le \sum_{a < b, \, a,b \in \mathbb{Q}} \mathbb{P}(R_\infty(a, b) = \infty) = 0. \]

   故极限 \(X_{-\infty} := \lim_{n \to -\infty} X_n\) 几乎处处存在.

2. \(\{X_n, \mathcal{F}_n\}_{n \le 0}\) 一致可积.

   注意到

   \[X_n = \mathbb{E}(X_0 \mid \mathcal{F}_n) \quad \text{a.s.}, \]

   对任意的 \(K\)，

   \[\int_{\{|X_n| > K\}} |X_n| \, d\mathbb{P} \le \int_{\{|X_n| > K\}} \mathbb{E}(|X_0| \mid \mathcal{F}_n) \, d\mathbb{P} = \int_{\{|X_n| > K\}} |X_0| \, d\mathbb{P}. \]

   由于 \(X_0\) 是 \(L^1\) 可积的，由积分的绝对连续性，对任意的 \(\varepsilon > 0\)，存在 \(\delta > 0\)，只要 \(\mathbb{P}(|X_n| > K) < \delta\)，就有 RHS \(< \varepsilon\).

   又因为

   \[\mathbb{P}(|X_n| > K) \le \frac{\mathbb{E}|X_n|}{K} \le \frac{\mathbb{E}|X_0|}{K}, \]

   所以 \(K\) 充分大时即可使 \(\mathbb{P}(|X_n| > K) < \delta\).

   选取足够大的 \(K\)，便可使：

   \[\sup_{n \le 0} \int_{\{|X_n| > K\}} |X_n| \, d\mathbb{P} < \varepsilon. \]

3. \(L^1\) 收敛.

   由 a.s. 收敛 + 一致可积，可得 \(L^1\) 收敛.

---

下面就是利用反向鞅证明了强大数定律，非常重要.

例（SLLN） 设 \(\{X_n\}_{n \geqslant 1}\) 为独立同分布的，\(E|X_1| < +\infty\)，则

\[\frac{1}{n} \sum_{k=1}^n X_k \xrightarrow{\text{a.s.}} EX_1 \quad (n \to \infty). \]

证明

设 \(S_n = \sum_{k=1}^n X_k\)，\(\mathcal{G}_n = \sigma(S_m : m \geqslant n)\)，

\[\mathcal{G}_n = \sigma(S_n, S_{n+1}, S_{n+2}, \cdots) = \sigma(S_n, X_{n+1}, X_{n+2}, \cdots). \]

可看出：

\[\mathcal{G}_1 = \sigma(S_1, X_2, X_3, X_4, \cdots), \]

\[\mathcal{G}_2 = \sigma(S_2, X_3, X_4, \cdots) \text{ 失去了 } X_1 \text{ 的具体信息}, \]

\[\mathcal{G}_3 = \sigma(S_3, X_4, \cdots) \text{ 失去了 } X_1, X_2 \text{ 的具体信息}. \]

\(\Rightarrow \mathcal{G}_1 \supset \mathcal{G}_2 \supset \cdots \supset \mathcal{G}_n \supset \cdots\)，定义 \(\mathcal{G}_\infty = \bigcap_{n=1}^\infty \mathcal{G}_n\)，为尾 \(\sigma\)-代数.

固定 \(n \geqslant k \geqslant 1\). 令 \(Z_m = E(X_k \mid \mathcal{G}_m)\)，\(\forall m > n > k \geqslant 1\)，我们证明 \(\{Z_m\}_{m=1}^\infty\) 是反向鞅. 事实上任取 \(s > t\)（注：\(s > t > m > n > k \geqslant 1\)）：

\[E(Z_s \mid \mathcal{G}_t) = E[E(X_k \mid \mathcal{G}_s) \mid \mathcal{G}_t] = E(X_k \mid \mathcal{G}_t) = Z_t. \]

那么由反向鞅收敛定理：

\[Z_m \xrightarrow{\text{a.s.}} Z_\infty \in \bigcap_{m=1}^\infty \mathcal{G}_m = \mathcal{G}_\infty. \]

下证 \(E(X_k \mid \mathcal{G}_n) = E(X_k \mid S_n)\) a.s.：注意 \(\mathcal{G}_n = \sigma(S_n, X_{n+1}, X_{n+2}, \cdots)\). 取

\[H \triangleq f(S_n) h_1(X_{m_1}) \cdots h_l(X_{m_l}), \quad \{m_1, \cdots, m_l\} = \{n+1, n+2, \cdots\}. \]

证明 \(E(E(X_k \mid \mathcal{G}_n) H) = E[E(X_k \mid S_n) H]\) 就行了：

\[\begin{aligned} \text{LHS} &= E[E(X_k \mid \mathcal{G}_n) f(S_n) h_1(X_{m_1}) \cdots h_l(X_{m_l})] \\ &= E[E(X_k f(S_n) h_1(X_{m_1}) \cdots h_l(X_{m_l}) \mid \mathcal{G}_n)] \\ &= E\bigg( \underbrace{X_k f(S_n)}_{\text{关于 } S_n \text{ 可测}} \cdot \underbrace{h_1(X_{m_1}) \cdots h_l(X_{m_l})}_{\text{关于 } X_{m_1}, \dots, X_{m_l} \text{ 可测}} \bigg) \\ &\overset{\text{独立}}{=} E(X_k f(S_n)) E(h_1(X_{m_1}) \cdots h_l(X_{m_l})). \end{aligned} \]

\[\begin{aligned} \text{RHS} &= E\left(E(X_k \mid S_n) f(S_n) h_1(X_{m_1}) \cdots h_\ell(X_{m_\ell})\right) \\ &= E\left( \underbrace{E(X_k f(S_n) \mid S_n)}_{\text{关于 } S_n \text{ 可测}} \cdot \underbrace{h_1(X_{m_1}) \cdots h_\ell(X_{m_\ell})}_{\text{关于 } X_{m_1}, \dots, X_{m_\ell} \text{ 可测}} \right) \\ &= E\left[E(X_k f(S_n) \mid S_n)\right] E(h_1(X_{m_1}) \cdots h_\ell(X_{m_\ell})) \\ &= E(X_k f(S_n)) E(h_1(X_{m_1}) \cdots h_\ell(X_{m_\ell})). \end{aligned} \]

\(\therefore E(X_k \mid \mathcal{G}_n) = E(X_k \mid S_n)\) a.s.，\(1 \leq k \leq n\).

\[S_n = E(S_n \mid S_n) = \sum_{k=1}^n E(X_k \mid S_n) = n E(X_1 \mid S_n). \]

即

\[\frac{S_n}{n} = E(X_1 \mid S_n) = E(X_1 \mid \mathcal{G}_n) \xrightarrow[n \to \infty]{\text{a.s.}} E(X_1 \mid \mathcal{G}_\infty). \]

而 \(E(X_1 \mid \mathcal{G}_\infty)\) 是关于尾 \(\sigma\)-代数 \(\mathcal{G}_\infty\) 可测的，所以几乎必然为常数，记 \(E(X_1 \mid \mathcal{G}_\infty) = c\)，取期望有

\[E(E(X_1 \mid \mathcal{G}_\infty)) = c \Rightarrow c = EX_1. \]

所以

\[\frac{S_n}{n} \xrightarrow{\text{a.s.}} EX_1. \]