Loading

随机过程(三):连续时间的Markov链

基本性质

例:\(\{N(t)\}\) 是强度为\(\lambda\)的泊松过程, 状态空间 \(\{0,1,2, \ldots\}\) 。对 \(t>s>0\) ,有:

\[\begin{aligned} & P(N(t)=j \mid N(s)=i, N(u), 0 \leq u<s)=P(N(t)=j \mid N(s)=i) \\ = & \left\{\begin{array}{l} 0&, j=i \\ \frac{(\lambda(t-s))^{j-i} e^{-\lambda(t-s)}}{(j-i) !}&, j \geqslant i \end{array}\right. \end{aligned} \]

\(\{X(t)\}_{t \geqslant 0}\) 状态空间 \(\{0,1,2, \cdots\}\),如果对\(\forall t>s, P(X(t)=j \mid X(s)=i, X(u), 0 \leqslant u<s)=P(X(t)=j \mid X(s)=i)\),称 \(\{X(t)\}_{t \geqslant 0}\) 为连续时间马氏链。

若上述概率只与 \(t-s\) 有关,而与 \(s\) 无关,则称此马氏链是时齐的。

\(\{X(t)\}\) 连续时间马氏链,记 \(T_{i}\)\(\{X(t)\}\) 进入状态 \(i\) 后,在 \(i\) 中的滞留时间。对\(t>s>0\)\(P\left(T_{i}>t \mid T_{i}>s\right)=P\left(T_{i}>t-s\right)\)

证明:

\[\begin{aligned} & P\left(T_{i}>t \mid T_{i}>s\right)=P(X(v)=i, s<v \leqslant t \mid X(u)=i, 0 \leqslant u \leqslant s) \\ = & P(X(v)=i, s<v \leqslant t \mid X(s)=i) \\ = & P(X(v)=i, 0<v \leqslant t-s \mid X(0)=i)=P\left(T_{i}>t-s\right) \end{aligned} \]

基于这种性质,不难\(\Rightarrow T_{i} \sim \operatorname{Exponential}\left(\nu_{i}\right)\)。注意复合泊松过程不是连续时间马氏链,因为状态空间不可列

马氏链 \(\{x(t)\}\) 包含的参数有:

  • \(T_i\):进入状态 \(i\) 后,在 \(i\) 中的滞留时间。\(T_{i} \sim \exp \left(\nu_{i}\right)\)

  • 当离开状态 \(i\) 时,以概率 \(P_{i j}\) 进入状态 \(j\)\(i \neq j\)\(\sum_{j \neq i} D_{i j}=1\)

引理:\(X, Y\) 独立,\(X \sim \exp (\lambda), Y \sim \exp (\mu)\),则\(Z=\min (X, Y) \sim \exp (\lambda+\mu)\),且有:

\[P(Z=X)=P(X \leq Y)=\frac{\lambda}{\lambda+\mu} \text {. } \]

证明:对 \(t>0\)

\[\begin{aligned} P(Z \geqslant t) & =P(\min (X, Y)>t) \\ & =P(X>t, Y>t) \\ & =P(X>t) \cdot P(Y>t)=e^{\lambda t} \cdot e^{\mu t}=e^{(\lambda+\mu) t} \end{aligned} \]

推论: \(X_{1}, \cdots, X_{n}\) 独立, \(X_{i} \sim \exp \left(\lambda_{i}\right)\) ,且 \(Z=\min \left(X_{1}, \ldots X_{n}\right)\)

\(Z \sim \exp \left(\lambda_{1}+\cdots+\lambda_{n}\right)\)且$ P\left(Z=X_{i}\right)=\frac{\lambda_{i}}{\lambda_{1}+\cdots+\lambda_{n}}$。

生灭过程 (Birth-and-Death Process)

记状态 \(i\) 表述在系统中某一物种的数目。状态空间为 。

当系统处于状态\(n\)时:

  • 新的个体进入的时间间隔\(\sim \exp \left(\lambda_{n}\right)\)

  • 个体离开的时间间隔 \(\sim \exp \left(\mu_{n}\right)\)

  • 转移概率和滞留时间为:

\[\begin{aligned} &T_{i} \sim\left\{\begin{array}{l} \exp \left(\lambda_{0}\right), i=0 \\ \exp \left(\lambda_{i}+\mu_{i}\right), i \neq 0 \end{array}\right. \\ & \text {if }~ i=0, P_{01}=1 \\ & \text {if }~ i \geqslant 1, P_{i,i-1}=\frac{\mu_{i}}{\lambda_{i}+\mu_{i}}, P_{i,i+1}=\frac{\lambda_{i}}{\lambda_{i}+\mu_{i}} \end{aligned} \]

因此,生灭过程可以由 \(\left\{\lambda_{i}\right\}_{i=0}^{+\infty} ,\left\{\mu_{i}\right\}_{i=0}^{+\infty}\) 两组参数定义。

例1: \(\{N(t)\}\) 是强度为\(\lambda\)的泊松过程。

(1) \(\lambda_{n}=\lambda, n=0,1,2, \ldots\) (2) \(\mu_{n} \equiv 0, n=1,2, \ldots\)

例2:纯生过程,物种只会生、不会死,每个个体孕育生命的时间的分布为 \(\exp (\lambda)\) ,且相互独立。

\[\begin{array}{ll} \mu_{n} \equiv 0, & n=1,2, \cdots \\ \lambda_{n}= n \lambda, & n=1,2, \cdots \end{array} \]

例3:每个个体孕育生命时间 \(\sim \exp (\lambda)\) ,每个生命长度 \(\sim \exp (\mu)\),从外部进入的时间间隔 \(\sim \exp (\theta)\)

\[\left\{\begin{array}{l} \lambda_{0}=\theta \\ \lambda_{n}=n \lambda+\theta \quad, n=1,2, \ldots \\ \mu_{n}=n \mu \end{array}\right. \]

希望研究系统中在 \(t\) 时刻个体的数目:\(X(0)=i\)\(M(t):=E[X(t)]\)

构造微分方程来解决:

\[\lim _{h \rightarrow 0} \frac{M(t+h)-M(t)}{h}=M^{\prime}(t) \]

利用迭代期望公式:

\[\begin{aligned} M(t+h)&=E[X(t+h)] \\ & =E[E[X(t+h) \mid X(t)]] \\ & =E\left[X(t)+h(\theta+X(t) \lambda)-\mu X(t) \cdot h+o\left(h^{2}\right)\right] \\ & =M(t)+\lambda(M(t)+\theta) h-\mu h M(t)+o\left(h^{2}\right) \\ & =M(t)+(\theta+(\lambda-\mu) M(t)) h+o\left(h^{2}\right) \end{aligned} \]

进而得到微分方程:

\[\begin{aligned} &\left\{\begin{array}{l} M^{\prime}(t)=\theta+(\lambda-\mu) M(t) \\ M(0)=i \end{array}\right. \\ & \Rightarrow E[X(t)]=M(t)= \begin{cases}\frac{\theta}{\lambda-\mu}\left(e^{(\lambda-\mu) t}-1\right)+i e^{(\lambda-\mu) t} & , \lambda \neq \mu \\ i+\theta t & , \lambda=\mu\end{cases} \end{aligned} \]

对生灭过程 \(\left\{\lambda_{i}\right\}_{i=0}^{+\infty} ,\left\{\mu_{i}\right\}_{i=0}^{+\infty}\),用 \(S_i\) 表示从状态 \(i\) 出发,首次访问状态\(i+1\)的时间。

结论:对 \(i \geqslant 1: E\left[S_{i}\right]=\frac{1}{\lambda_{i}}+\frac{\mu_{i}}{\lambda_{i}} E\left[S_{i-1}\right], E\left[S_{0}\right]=\frac{1}{\lambda_{0}}\)

证明:记 \(I_{i}=\left\{\begin{array}{ll}1, & i \rightarrow i+1 \\ 0, & i \rightarrow i-1\end{array}\right.\),则:

\[\begin{aligned} E\left[S_{i}\right]= & E\left[E\left[S_{i} \mid I_{i}\right]\right]\\ = & P\left(I_{i}=1\right) E\left[S_{i} \mid I_{i}=1\right]+ P\left(I_{i}=0\right) E\left[S_{i} \mid I_{i}=0\right]\\ = &\frac{\lambda_{i}}{\lambda_{i}+\mu_{i}} \frac{1}{\lambda_{i}+\mu_{i}}+\frac{\mu_{i}}{\mu_{i}+\mu_{i}}\left[\frac{1}{\lambda_{i}+\mu_{i}}+E\left[S_{i-1}\right]+ E\left[S_i\right]\right] \\ = & \frac{1}{\lambda_{i}+\mu_{i}}+\frac{\mu_{i}}{\lambda_{i}+\mu_{i}}\left(E\left[S_{i-1}\right]+E\left[S_{i}\right]\right) \end{aligned} \]

Kolmogorov 向前向后方程

下面使用矩阵的知识分析连续时间马氏链 \(\{X(t)\}_{t \geqslant 0}\) (状态空间 \(\{0,1, \cdots\}\)\(T_{i} \sim \exp \left(\nu_{i}\right)\)

定义转移概率\(P_{i j}(t):=P(X(t)=j \mid X(0)=i)\),转移概率矩阵\(P(t):=\left(P_{i j}(t)\right)\)

定义“从哪到哪”的概率:\(\sum_{j \neq i} P_{i j}=1\)(本质是种条件概率)

为什么说是一种条件概率呢?因为连续时间下的转移概率\(P_{ij}(t)\)不同于离散时间下的情形,包含两部分:“转移”和“什么时候转移”

\[P_{ij}(t)=P(\text{从i转移到j}\mid \text{发生转移的情况下})\cdot P(\text{在t时刻发生了转移})=P_{ij}\cdot(1-e^{\gamma_i t}) \]

其中:

  • 前半部分的可以类比离散时间的转移概率矩阵,这显然和时间\(t\)是无关的;
  • 后半部分由连续时间马氏链的另一部分,即滞留参数决定,\(P(T\leqslant t)=1-e^{\gamma_it}\)

定义生成矩阵: \(Q=\left(q_{i j}\right)= \begin{cases}-\nu_{i} & i=j \\ \nu_{i} P_{i j} & i \neq j\end{cases}\)

\(Q\) 具有如下性质:

  • 本质非负: \(q_{i j} \geqslant 0,i \neq j\)

  • \(\sum_{j} q_{i j}=0, \forall i\) ,即\(Qe =0\)

Kolmogorov 向后方程

柯尔莫哥洛夫向后方程:\(P^{\prime}(t)=Q P(t)\)

推导如下:

\[\begin{aligned} & P_{i j}(t+h)=\sum_{k} P_{i k}(h) \cdot P_{k j}(t) =\sum_{k \neq i} P_{i k}(h) \cdot P_{k j}(t)+P_{i i}(h) P_{i j}(t) \\ & \frac{P_{i j}(t+h)-P_{i j}(t)}{h}=\frac{\sum_{k \neq i} P_{i k}(h) P_{k j}(t)}{h}+\frac{\left(P_{i i}(h)-1\right) P_{i j}(t)}{h} \\ \end{aligned} \]

\(h \rightarrow 0\)时,从左至右依次趋向于:

\[\begin{aligned} & P_{i j}^{\prime}(t) \\ & \lim _{h \rightarrow 0} \sum_{k \neq i} \frac{P_{i k}(h)}{h} \cdot P_{k j}(t) \stackrel{\text { 控制收敛定理 }}{= } \sum_{k \neq i}\left(\lim _{h \rightarrow 0}\frac{P_{i k}(h)}{h}\right) P_{k j}(t) =\sum_{k \neq i} \gamma_{i} P_{i k} P_{k j}(t)=\sum_{k \neq i} q_{i k} \cdot P_{k j}(t)\\ & -\gamma_{i} P_{i j}(t) \end{aligned} \]

进而得到:

\[\forall i ,~P_{i j}^{\prime}(t)=\sum_{k\neq i} q_{i k} P_{k j}(t)-\gamma_{i} P_{i j}(t)=\sum_{k} q_{i k} P_{k j}(t) \]

\(\Rightarrow P^{\prime}(t)=Q P(t)\)

若状态空间有限:\(P(t)=e^{tQ}\)

Kolmogorov 向前方程

柯尔莫哥洛夫向前方程: \(P^{\prime}(t)=P(t) Q\) (在一定条件下)

推导如下,类似向后方程:

\[\begin{aligned} & P_{i j}(t+h)=\sum_{k} P_{i k}(t) P_{k j}(h)=\sum_{k \neq j} P_{i k}(t) \cdot P_{k j}(h)+P_{i j}(t) \cdot P_{j j}(h)\\ & \frac{P_{i j}(t+h)-P_{i j}(t)}{h}=\sum_{k \neq j} P_{i k}(t) \cdot \frac{P_{k j}(h)}{h}+P_{i j}(t) \cdot \frac{P_{j j}(h)-1}{h} \end{aligned} \]

\(h \rightarrow 0\)时,从左至右依次趋向于:

\[\begin{aligned} & P_{i j}^{\prime}(t) \\ & \lim _{h \rightarrow 0} \sum_{k \neq i} \frac{P_{kj}(h)}{h} \cdot P_{ik}(t) \stackrel{\text { 对纯生过程 }}{= } \sum_{k \neq i}\left(\lim _{h \rightarrow 0}\frac{P_{kj}(h)}{h}\right) P_{ik}(t) =\sum_{k \neq i} \gamma_{i} P_{i k} P_{k j}(t)=\sum_{k \neq i} q_{i k} \cdot P_{k j}(t)\\ & -\gamma_{i} P_{i j}(t) \end{aligned} \]

机器工作的例子

例:一台机器,正常工作时长分布 \(\sim \exp (\lambda)\);故障后,修理时间分布 \(\sim \exp (\mu)\)

求从正常工作开始,在时刻 \(t\) 处于正常工作状态的概率。

解:记状态空间 \(\{0,1\}\), 则生成矩阵 \(Q=\left(\begin{array}{cc}-\lambda & \lambda \\ \mu & -\mu\end{array}\right)\)

状态空间有限时: \(P(t)=\left(e^{t Q}\right) , Q\) 有特征值 \(0\)\(-(\lambda+\mu)\)可对角化,对应特征向量:\(\overrightarrow{S_{1}}=\left[\begin{array}{ll}1 & 1\end{array}\right]^{\top}, \overrightarrow{S_{2}}=\left[\begin{array}{ll}1 & -\frac{\mu}{\lambda}\end{array}\right]^{\top}\)

\[\begin{aligned} \begin{array}{r} & Q=\left(\begin{array}{cc} 1 & 1 \\ 1 & -\frac{\mu}{\lambda} \end{array}\right)\left(\begin{array}{cc} 0 & \\ & -(\lambda+\mu) \end{array}\right)\left(\begin{array}{cc} 1 & 1 \\ 1 & -\frac{\mu}{\lambda} \end{array}\right)^{-1} \\ & P=e^{tQ}=\left(\begin{array}{cc} 1 & 1 \\ 1 & -\frac{\mu}{\lambda} \end{array}\right)\left(\begin{array}{rr} e^{0} & \\ & e^{-(\lambda+\mu) t} \end{array}\right)\left(\begin{array}{cc} 1 & 1 \\ 1 & -\frac{\mu}{\lambda} \end{array}\right)^{-1} \end{array} \end{aligned} \]

连续情形的遍历性

定义:对任意状态 $j $, \(\lim _{t \rightarrow \infty} P_{i j}(t)\) 存在且与 \(i\) 无关,称 \(\left\{X_{i}\right\}\) 是遍历的。

\(\left\{X_{t}\right\}\) 是遍历的充分条件为:

  1. 马氏链的任何状态相通: $\forall t $ , $ i \neq j , P_{i j}(t)>0$;

  2. 正常返;

定理:若 \(\{X_t\}\) 状态空间有限,且其生成矩阵Q不可约,则 \(\{X_t\}\) 遍历。

从生灭过程到排队论

考虑生灭过程 \(\left\{\lambda_{i}\right\}_{i=0}^{+\infty},\left\{\mu_{i}\right\}_{i=0}^{+\infty}\),生成矩阵可以写为:

\[Q=\left(\begin{array}{mmmmm} -\lambda_{0} & \lambda_0 & \\ \mu_1 & -(\lambda_{1}+\mu_1) & \lambda_1 \\ & \mu_2 & -(\lambda_2+\mu_2) & \lambda_2\\ & &\ddots & \ddots&\ddots\end{array}\right) \]

得:

\[\begin{aligned} -\lambda_{0} \pi_{0}+\mu_{1} \pi_{1}&=0\\ \lambda_{0} \pi_{0}-\left(\lambda_{1}+\mu_{1}\right) \pi_{1}+\mu_{2} \pi_{2}&=0 \\ \vdots \\ \lambda_{k-1} \pi_{k-1}-\left(\lambda_{k}+\mu_{k}\right)+\mu_{k+1} \pi_{k+1}&=0 \end{aligned} \]

自上而下,分别有:

\[\begin{aligned} & \pi_{1}=\frac{\lambda_{0}}{\mu_{0}} \pi_{0} \\ & \pi_{2}=\frac{\lambda_{1}}{\mu_{2}} \pi_{1}=\frac{\lambda_{0} \lambda_{1}}{\mu_{1} \mu_{2}} \pi_{0} \\ & \vdots\\ & \pi_{k}=\frac{\lambda_{k-1}}{\mu_{k}} \pi_{k-1}=\cdots=\frac{\lambda_{0} \cdots \lambda_{k-1}}{\mu_{1} \cdots \mu_{k}} \pi_{0} \\ & \sum_{i=0}^{+\infty} \pi_{i}=\left(\sum_{i=0}^{+\infty} \frac{\lambda_{0} \cdots \lambda_{i-1}}{\mu_{1} \cdots \mu_{i}}\right) \pi_{0} \end{aligned} \]

生灭过程遍历不可约 \(\Leftrightarrow \sum_{i=0}^{+\infty} \frac{\lambda_{0} \cdots \lambda_{i-1}}{\mu_{1}-\mu_{i}}<+\infty\)

特别地,若 \(\lambda_{i} \equiv \lambda , \mu_{i} \equiv \mu\) (从某一项开始),则不可约遍历 \(\Leftrightarrow \lambda<\mu\)

\(M / M / S\) 排队问题

顾客到达时间 ~ \(exp(\lambda)\) ,每个服务台服务时间服从 ~ \(\exp (u)\)\(x_{t}\) 为时刻 \(t\) 系统中顾客的个数。

\[\begin{aligned} & \lambda_{i} \equiv \lambda, \quad i \geqslant 0 \\ & u_{i}= \begin{cases}iu & ,1 \leqslant i<s \\ su & ,i \geqslant s\end{cases} \end{aligned} \]

排队系统遍历不可约 \(\Longleftrightarrow \frac{\lambda}{s u}<1\)

在稳态时,离开时间 ~ \(exp(\lambda)\)

一致化技巧、时间可逆

一致化

\(\left\{X_{t}\right\}_{t>0}\) 为连续时间马氏链,取 $\nu_{i} \equiv \nu $ ,引入 $ N(t)$ ,表示在 \([0, t]\) 期间状态发生转移的次数

\[\begin{aligned} P_{i j}(t) & =P\left(X_{t}=j \mid X_{0}=i\right) \\ & =\sum_{n} P\left(X_{t}=j \mid X_{0}=i, N(t)=n\right) P\left(N(t)=n \mid X_{0}=i\right) \end{aligned} \]

由于取了 \(\nu_{i} \equiv \nu\) ,这就退化成了一个泊松过程:

\[P\left(N(t)=n \mid X_{0}=i\right)=\frac{(\nu t)^{n} e^{-\nu t}}{n !} \]

代入到 \(P_{i j}(t)\)

\[P_{i j}(t)=\sum_{n} \frac{(\nu t)^{n} e^{-\nu t}}{n !}\left(P^{n}\right)_{i j} \]

构造新的连续时间马氏链 \(\left\{Y_{t}\right\}_{t>0}\) ,其中 \(\sup _{i} \nu_{i}=\nu<+\infty\)

\[\hat{T}_{i} \sim \exp (\nu), \quad \hat{P_{i j}}= \begin{cases}1-\frac{\nu_{i}}{\nu}, & i=j \\ \frac{\nu_{i}}{\nu} P_{i j}, & i \neq j\end{cases} \]

\(\left\{Y_{i}\right\}_{t>0}\) 在状态 \(i\) 的滞留时间下:

\[P\left(T_{i} \geqslant x\right)=e^{-\nu x}+\sum_{n=1}^{\infty} \frac{e^{-\nu x}(\nu x)^{n}}{n !}\left(1-\frac{\nu_{i}}{\nu}\right)^{n}=e^{-\nu_{i} x} \]

离开 \(i\) 跳到不是 \(i\) 的状态 \(j\) 仍为 \(P_{i j}\) 的概率:

\[P_{i j}(t)=\sum_{n=0}^{+\infty} \frac{(\nu t)^{n} e^{-\nu t}}{n !}\left(\hat{P}^{n}\right)_{i j} \]

一致化技巧同样适用于有限状态空间情形

\[\nu \hat{P}=\nu I+Q \]

\[\begin{aligned} P(t) & =\sum_{n=0}^{\infty} \frac{(\nu t)^{n} e^{-\nu t}}{n !} \hat{P}^{n} \\ & =e^{-\nu t} \sum_{n=0}^{\infty} \frac{(\nu t \hat{P})^{n}}{n !} \\ & =e^{-\nu t} \cdot e^{\nu t \hat{P}} \\ & =e^{-\nu t} \cdot e^{(\nu I+Q) t}=e^{Q t} \end{aligned} \]

连续时间可逆马氏链

\(\left\{X_{t}\right\}_{t \geq 0}\) 是不可约遍历,连续时间马氏链。

\(P=\left(P_{i j}\right)\) 对应的离散马氏链是关于时间可逆的,称 \(\left\{X_{t}\right\}_{t \geqslant 0}\)关于时间可逆

\(P=\left(P_{0}, P_{1}, \cdots\right)\)\(\left\{x_{t}\right\} t \geqslant 0\) 的极限分布向量,即

\[\lim _{t \rightarrow \infty} P_{i j}(t)=P_{j} \]

\(\pi=\left[\pi_{0}, \pi_{1}, \ldots\right]\)\(P\)的对应的离散马氏链的极限分布,有:

\[\left\{\begin{array}{l} P Q=0 \\ P e=1 \end{array}\right. \]

若关于时间可逆:

\[\pi_{i} P_{i j}=\pi_{j} P_{j i} \Leftrightarrow P_{i} q_{i j}=P_{j} q_{j i} \quad(\forall i \neq j) \]

这意味着在稳态时,正看和倒看的随机现象是一致的

定理:不可约遍历的生灭过程关于时间可逆。

证明:需验证 \(P_{i} q_{i j}=P_{j} q_{j i},\forall i \neq j\) ,其中 \(P=\left[P_{0}\quad P_{1} \quad \ldots\right]\)为极限分布,对生灭过程而言有\(P_{i+1}=\frac{\lambda_{i}}{\mu_{i+1}} P_{i} \Leftrightarrow \mu_{i+1} P_{i+1}=\lambda_{i} P_{i}\)。若当 \(|i-j| \leqslant 1\)\(q_{i j} \neq 0\),则 \(p_{i} q_{i j}=p_{j} q_{j i}\)

Appendix 矩阵及矩阵论有关知识

矩阵指数的计算

\(A \in \mathbb{R}^{n \times n}, e^{A}=1+\frac{A}{1 !}+\frac{A^{2}}{2 !}+\cdots \cdot \frac{A^{n}}{n !}+\cdots\)

  1. 对于对角阵

\[A=\left(\begin{array}{lll}\lambda_{1} & & \\ &\lambda_{2} & \\ & & \ddots & \\ & & &\lambda_{n}\end{array}\right) \]

\[e^{A}=\left(\begin{array}{lll}e^{\lambda_{1}} & & \\ & e^{\lambda_{2}} & \\ & & \ddots & \\ & & & e^{\lambda_{n}}\end{array}\right) \]

\(A\)可对角化,即存在非奇异阵 \(S\) ,使

\[A=S\left(\begin{array}{lll} \lambda_{1} & & \\ & \ddots & \\ & & \lambda_{n} \end{array}\right){S^{-1}} \]

\[e^{A}=S\left(\begin{array}{lll} e^{\lambda_{1}} & & \\ & \ddots & \\ & & e^{\lambda_{n}} \end{array}\right){S^{-1}} \]

  1. 对于约当阵

\[A=\left(\begin{array}{llll}\lambda_{1} & 1 & & \\ & \lambda_{1} & 1 & \\ & & \ddots & \\ & & & \lambda_1 & 1\\ & & & & \lambda_{1}\end{array}\right) \]

\[e^{A}=\left(\begin{array}{llll}e^{\lambda_1} & & \\ & e^{\lambda_1} & \\ & & \ddots & \\ & & & e^{\lambda_1}\end{array}\right) \]

\(A\) 可约当化,即存在非奇异阵 \(S\) ,使

\[A=S\left(\begin{array}{lll}J_{1} & & \\ & \ddots & \\ & & J_{n}\end{array}\right) S^{-1} \]

\[e^{A}=S\left(\begin{array}{lll} e^{J_{1}} & & \\ & \ddots & \\ & & e^{J_{n}} \end{array}\right)S^{-1} \]

  1. \(e^{\mu I+A}=e^{\mu} \cdot e^{A},\left(\right.\)\(\left.A B=B A \cdot e^{A+B}=e^{A} e^{B}\right)\)

例: \(A=\alpha I+a b^{\top}, a, b \in \mathbb{R}^{n}, e^{A}=\) ?其中\(a,b^{\top}\)分别为n维列向量,行向量。

我们根据矩阵乘法的结合律,可以得到下面这个式子。注意,\(b^{\top}a\)结果是一个常数。

\[(a b^{\top})^{n}=\left(b^{\top} a\right)^{n-1} a b^{\top} \]

带入到指数的原始定义式里面去:

\[e^{A}=1+\frac{A}{1 !}+\frac{A^{2}}{2 !}+\cdots \cdot \frac{A^{n}}{n !}+\cdots\Rightarrow e^{A}=e^{\alpha} \cdot e^{a b^{\top}} \]

M-阵

非奇异 \(M-\)

定义: \(A \in \mathbb{R}^{n \times n}\) ,如果:

  1. A 的非对角元全不大于0;
  2. \(A^{-1}\) 为非负矩阵;

\(A\) 为非奇异 \(M-\) 阵。

如果 \(A\) 不可约,则 \(A^{-1}\) 为正矩阵

如果:

  1. \(A=\nu I-N\)\(N\) 是非负拒阵
  2. \(\nu>\rho(N)\)
  3. \((\nu I-N)^{-1}=\nu^{-1}\left[I+\frac{1}{\nu} N+\left(\frac{1}{\nu} N\right)^{2}+\cdots\right]\)

性质:\(A=\gamma I-N\) 为非奇异 \(M-\)\((\gamma>\rho(N))\)

  • \(A\) 的特征值实部为正

  • \(A\) 的实部最小的特征值记为\(\tau(A)\) ,$ \tau(A)=\gamma-\rho(N)$

  • \(A\) 不可约,则 \(\tau(A)\) 为单特征值,且对应特征向量为正向量。若\(\lambda\)\(A\) 的异于 \(\tau(A)\) 的特征值, \(\operatorname{Re}(\lambda)>\tau(A)\)\(|\lambda|>\tau(A)\)

奇异 \(M-\)

\(A=\nu I-N\) 为奇异 \(M-\) 阵:

  1. \(A\) 的特征值实部非负, \(\tau(A)=0\)
  2. \(A\)不可约,则 \(\tau(A)=0\) 为单特征值,对应的特征问量为正向量,且\(A\)的异于 \(\tau(A)\) 的特征值实部全大于0。

定理:\(\{Xt\}\)是有限状态空间上的连续时间马氏链,若生成矩阵 \(Q\) 为不可约,则 \(\left\{X_{t}\right\}\) 是遍历的。

证明:\(-Q\)为不可约的 \(M-\) 阵,所以\(0\)\(-Q\)的单特征值,且其对应的特征向量为\(e\)

\(Q\) 的异于0的特征值,其的记为 \(\lambda_{2}, \lambda_{3}, \cdots, \lambda_{n}\),则 $\operatorname{Re}\left(\lambda_{i}\right)<0 $ , $ i<0$

\(S_{1} \in \mathbb{R}^{n \times(n-1)}\)\(S_{1}\) 的列张量的子空间,即为特佂值 \(\lambda_{2}\), \(\lambda_{3}, \ldots, \lambda_{n}\) 对应的特征子空间。

\[A S_{1}=S_{1} A_{1}, A_{1} \in \mathbb{R}^{(n-1) \times(n-1)} \]

\(A_{1}\) 的特征值为 \(\lambda_{2}, \lambda_{3}, \ldots, \lambda_{n}\)\(S=\left[e \quad S_{1}\right] \in \mathbb{R}^{n \times n}\) 非奇异

\(A=Q\) ,有\(A_{1}=Q_{1}\)

\[\begin{aligned} & S^{-1} Q S=\left[\begin{array}{c:c} 0 & \\ \hdashline & Q_{1} \end{array}\right]\\ & e^{tQ}=S\left[\begin{array}{c:c} 0 & \\ \hdashline & e^{t Q_{1}} \end{array}\right]S^{-1} \\ \end{aligned} \]

从而得到:

\[\lim _{t\rightarrow+\infty}\left(e^{t Q}\right)_{i j}=S\left[\begin{array}{c:c} 0 & \\ \hdashline & 1 \end{array}\right]S^{-1}=S e_1\cdot e_1^{\top} S^{-1}=e \pi \]

注意:\(S^{-1}\)的第一行为\(\pi\)\(S\)的第一列为\(e\)\(e_{1}=\left[\begin{array}{lll} 1 & 0 & \ldots \end{array}\right]^{\top}\)

\[\begin{aligned} & \lim _{t \rightarrow \infty} P\left(X_{t}=j \mid X_{0}=i\right)=\left(e^{tQ}\right)_{i j}=\pi_{j} \\ & Q=\left[\begin{array}{c:c} -\alpha & b^{\top} \\ \hdashline a & Q_{1} \end{array}\right], \text { 且 }\left\{\begin{array}{l} \pi Q=0 \\ \pi e=1 \end{array}\right. \end{aligned} \]

posted @ 2023-11-29 11:49  长歌不采薇  阅读(263)  评论(0)    收藏  举报