基本性质
例:\(\{N(t)\}\) 是强度为\(\lambda\)的泊松过程, 状态空间 \(\{0,1,2, \ldots\}\) 。对 \(t>s>0\) ,有:
\[\begin{aligned}
& P(N(t)=j \mid N(s)=i, N(u), 0 \leq u<s)=P(N(t)=j \mid N(s)=i) \\
= & \left\{\begin{array}{l}
0&, j=i \\
\frac{(\lambda(t-s))^{j-i} e^{-\lambda(t-s)}}{(j-i) !}&, j \geqslant i
\end{array}\right.
\end{aligned}
\]
\(\{X(t)\}_{t \geqslant 0}\) 状态空间 \(\{0,1,2, \cdots\}\),如果对\(\forall t>s, P(X(t)=j \mid X(s)=i, X(u), 0 \leqslant u<s)=P(X(t)=j \mid X(s)=i)\),称 \(\{X(t)\}_{t \geqslant 0}\) 为连续时间马氏链。
若上述概率只与 \(t-s\) 有关,而与 \(s\) 无关,则称此马氏链是时齐的。
\(\{X(t)\}\) 连续时间马氏链,记 \(T_{i}\) 是 \(\{X(t)\}\) 进入状态 \(i\) 后,在 \(i\) 中的滞留时间。对\(t>s>0\)有\(P\left(T_{i}>t \mid T_{i}>s\right)=P\left(T_{i}>t-s\right)\)。
证明:
\[\begin{aligned}
& P\left(T_{i}>t \mid T_{i}>s\right)=P(X(v)=i, s<v \leqslant t \mid X(u)=i, 0 \leqslant u \leqslant s) \\
= & P(X(v)=i, s<v \leqslant t \mid X(s)=i) \\
= & P(X(v)=i, 0<v \leqslant t-s \mid X(0)=i)=P\left(T_{i}>t-s\right)
\end{aligned}
\]
基于这种性质,不难\(\Rightarrow T_{i} \sim \operatorname{Exponential}\left(\nu_{i}\right)\)。注意复合泊松过程不是连续时间马氏链,因为状态空间不可列。
马氏链 \(\{x(t)\}\) 包含的参数有:
引理:\(X, Y\) 独立,\(X \sim \exp (\lambda), Y \sim \exp (\mu)\),则\(Z=\min (X, Y) \sim \exp (\lambda+\mu)\),且有:
\[P(Z=X)=P(X \leq Y)=\frac{\lambda}{\lambda+\mu} \text {. }
\]
证明:对 \(t>0\),
\[\begin{aligned}
P(Z \geqslant t) & =P(\min (X, Y)>t) \\
& =P(X>t, Y>t) \\
& =P(X>t) \cdot P(Y>t)=e^{\lambda t} \cdot e^{\mu t}=e^{(\lambda+\mu) t}
\end{aligned}
\]
推论: \(X_{1}, \cdots, X_{n}\) 独立, \(X_{i} \sim \exp \left(\lambda_{i}\right)\) ,且 \(Z=\min \left(X_{1}, \ldots X_{n}\right)\)
则\(Z \sim \exp \left(\lambda_{1}+\cdots+\lambda_{n}\right)\)且$ P\left(Z=X_{i}\right)=\frac{\lambda_{i}}{\lambda_{1}+\cdots+\lambda_{n}}$。
生灭过程 (Birth-and-Death Process)
记状态 \(i\) 表述在系统中某一物种的数目。状态空间为 。
当系统处于状态\(n\)时:
\[\begin{aligned}
&T_{i} \sim\left\{\begin{array}{l}
\exp \left(\lambda_{0}\right), i=0 \\
\exp \left(\lambda_{i}+\mu_{i}\right), i \neq 0
\end{array}\right. \\
& \text {if }~ i=0, P_{01}=1 \\
& \text {if }~ i \geqslant 1, P_{i,i-1}=\frac{\mu_{i}}{\lambda_{i}+\mu_{i}}, P_{i,i+1}=\frac{\lambda_{i}}{\lambda_{i}+\mu_{i}}
\end{aligned}
\]
因此,生灭过程可以由 \(\left\{\lambda_{i}\right\}_{i=0}^{+\infty} ,\left\{\mu_{i}\right\}_{i=0}^{+\infty}\) 两组参数定义。
例1: \(\{N(t)\}\) 是强度为\(\lambda\)的泊松过程。
(1) \(\lambda_{n}=\lambda, n=0,1,2, \ldots\) (2) \(\mu_{n} \equiv 0, n=1,2, \ldots\)
例2:纯生过程,物种只会生、不会死,每个个体孕育生命的时间的分布为 \(\exp (\lambda)\) ,且相互独立。
\[\begin{array}{ll}
\mu_{n} \equiv 0, & n=1,2, \cdots \\
\lambda_{n}= n \lambda, & n=1,2, \cdots
\end{array}
\]
例3:每个个体孕育生命时间 \(\sim \exp (\lambda)\) ,每个生命长度 \(\sim \exp (\mu)\),从外部进入的时间间隔 \(\sim \exp (\theta)\)。
\[\left\{\begin{array}{l}
\lambda_{0}=\theta \\
\lambda_{n}=n \lambda+\theta \quad, n=1,2, \ldots \\
\mu_{n}=n \mu
\end{array}\right.
\]
希望研究系统中在 \(t\) 时刻个体的数目:\(X(0)=i\),\(M(t):=E[X(t)]\)
构造微分方程来解决:
\[\lim _{h \rightarrow 0} \frac{M(t+h)-M(t)}{h}=M^{\prime}(t)
\]
利用迭代期望公式:
\[\begin{aligned}
M(t+h)&=E[X(t+h)] \\
& =E[E[X(t+h) \mid X(t)]] \\
& =E\left[X(t)+h(\theta+X(t) \lambda)-\mu X(t) \cdot h+o\left(h^{2}\right)\right] \\
& =M(t)+\lambda(M(t)+\theta) h-\mu h M(t)+o\left(h^{2}\right) \\
& =M(t)+(\theta+(\lambda-\mu) M(t)) h+o\left(h^{2}\right)
\end{aligned}
\]
进而得到微分方程:
\[\begin{aligned}
&\left\{\begin{array}{l}
M^{\prime}(t)=\theta+(\lambda-\mu) M(t) \\
M(0)=i
\end{array}\right. \\
& \Rightarrow E[X(t)]=M(t)= \begin{cases}\frac{\theta}{\lambda-\mu}\left(e^{(\lambda-\mu) t}-1\right)+i e^{(\lambda-\mu) t} & , \lambda \neq \mu \\
i+\theta t & , \lambda=\mu\end{cases}
\end{aligned}
\]
对生灭过程 \(\left\{\lambda_{i}\right\}_{i=0}^{+\infty} ,\left\{\mu_{i}\right\}_{i=0}^{+\infty}\),用 \(S_i\) 表示从状态 \(i\) 出发,首次访问状态\(i+1\)的时间。
结论:对 \(i \geqslant 1: E\left[S_{i}\right]=\frac{1}{\lambda_{i}}+\frac{\mu_{i}}{\lambda_{i}} E\left[S_{i-1}\right], E\left[S_{0}\right]=\frac{1}{\lambda_{0}}\)。
证明:记 \(I_{i}=\left\{\begin{array}{ll}1, & i \rightarrow i+1 \\ 0, & i \rightarrow i-1\end{array}\right.\),则:
\[\begin{aligned}
E\left[S_{i}\right]= & E\left[E\left[S_{i} \mid I_{i}\right]\right]\\
= & P\left(I_{i}=1\right) E\left[S_{i} \mid I_{i}=1\right]+ P\left(I_{i}=0\right) E\left[S_{i} \mid I_{i}=0\right]\\
= &\frac{\lambda_{i}}{\lambda_{i}+\mu_{i}} \frac{1}{\lambda_{i}+\mu_{i}}+\frac{\mu_{i}}{\mu_{i}+\mu_{i}}\left[\frac{1}{\lambda_{i}+\mu_{i}}+E\left[S_{i-1}\right]+ E\left[S_i\right]\right] \\
= & \frac{1}{\lambda_{i}+\mu_{i}}+\frac{\mu_{i}}{\lambda_{i}+\mu_{i}}\left(E\left[S_{i-1}\right]+E\left[S_{i}\right]\right)
\end{aligned}
\]
Kolmogorov 向前向后方程
下面使用矩阵的知识分析连续时间马氏链 \(\{X(t)\}_{t \geqslant 0}\) (状态空间 \(\{0,1, \cdots\}\))\(T_{i} \sim \exp \left(\nu_{i}\right)\)
定义转移概率\(P_{i j}(t):=P(X(t)=j \mid X(0)=i)\),转移概率矩阵\(P(t):=\left(P_{i j}(t)\right)\);
定义“从哪到哪”的概率:\(\sum_{j \neq i} P_{i j}=1\)(本质是种条件概率)
为什么说是一种条件概率呢?因为连续时间下的转移概率\(P_{ij}(t)\)不同于离散时间下的情形,包含两部分:“转移”和“什么时候转移”
\[P_{ij}(t)=P(\text{从i转移到j}\mid \text{发生转移的情况下})\cdot P(\text{在t时刻发生了转移})=P_{ij}\cdot(1-e^{\gamma_i t})
\]
其中:
- 前半部分的可以类比离散时间的转移概率矩阵,这显然和时间\(t\)是无关的;
- 后半部分由连续时间马氏链的另一部分,即滞留参数决定,\(P(T\leqslant t)=1-e^{\gamma_it}\)。
定义生成矩阵: \(Q=\left(q_{i j}\right)= \begin{cases}-\nu_{i} & i=j \\ \nu_{i} P_{i j} & i \neq j\end{cases}\)
\(Q\) 具有如下性质:
-
本质非负: \(q_{i j} \geqslant 0,i \neq j\)
-
\(\sum_{j} q_{i j}=0, \forall i\) ,即\(Qe =0\)
Kolmogorov 向后方程
柯尔莫哥洛夫向后方程:\(P^{\prime}(t)=Q P(t)\)
推导如下:
\[\begin{aligned}
& P_{i j}(t+h)=\sum_{k} P_{i k}(h) \cdot P_{k j}(t) =\sum_{k \neq i} P_{i k}(h) \cdot P_{k j}(t)+P_{i i}(h) P_{i j}(t) \\
& \frac{P_{i j}(t+h)-P_{i j}(t)}{h}=\frac{\sum_{k \neq i} P_{i k}(h) P_{k j}(t)}{h}+\frac{\left(P_{i i}(h)-1\right) P_{i j}(t)}{h} \\
\end{aligned}
\]
当\(h \rightarrow 0\)时,从左至右依次趋向于:
\[\begin{aligned}
& P_{i j}^{\prime}(t) \\
& \lim _{h \rightarrow 0} \sum_{k \neq i} \frac{P_{i k}(h)}{h} \cdot P_{k j}(t) \stackrel{\text { 控制收敛定理 }}{= } \sum_{k \neq i}\left(\lim _{h \rightarrow 0}\frac{P_{i k}(h)}{h}\right) P_{k j}(t)
=\sum_{k \neq i} \gamma_{i} P_{i k} P_{k j}(t)=\sum_{k \neq i} q_{i k} \cdot P_{k j}(t)\\
& -\gamma_{i} P_{i j}(t)
\end{aligned}
\]
进而得到:
\[\forall i ,~P_{i j}^{\prime}(t)=\sum_{k\neq i} q_{i k} P_{k j}(t)-\gamma_{i} P_{i j}(t)=\sum_{k} q_{i k} P_{k j}(t)
\]
即\(\Rightarrow P^{\prime}(t)=Q P(t)\)
若状态空间有限:\(P(t)=e^{tQ}\)
Kolmogorov 向前方程
柯尔莫哥洛夫向前方程: \(P^{\prime}(t)=P(t) Q\) (在一定条件下)
推导如下,类似向后方程:
\[\begin{aligned}
& P_{i j}(t+h)=\sum_{k} P_{i k}(t) P_{k j}(h)=\sum_{k \neq j} P_{i k}(t) \cdot P_{k j}(h)+P_{i j}(t) \cdot P_{j j}(h)\\
& \frac{P_{i j}(t+h)-P_{i j}(t)}{h}=\sum_{k \neq j} P_{i k}(t) \cdot \frac{P_{k j}(h)}{h}+P_{i j}(t) \cdot \frac{P_{j j}(h)-1}{h}
\end{aligned}
\]
当\(h \rightarrow 0\)时,从左至右依次趋向于:
\[\begin{aligned}
& P_{i j}^{\prime}(t) \\
& \lim _{h \rightarrow 0} \sum_{k \neq i} \frac{P_{kj}(h)}{h} \cdot P_{ik}(t) \stackrel{\text { 对纯生过程 }}{= } \sum_{k \neq i}\left(\lim _{h \rightarrow 0}\frac{P_{kj}(h)}{h}\right) P_{ik}(t)
=\sum_{k \neq i} \gamma_{i} P_{i k} P_{k j}(t)=\sum_{k \neq i} q_{i k} \cdot P_{k j}(t)\\
& -\gamma_{i} P_{i j}(t)
\end{aligned}
\]
机器工作的例子
例:一台机器,正常工作时长分布 \(\sim \exp (\lambda)\);故障后,修理时间分布 \(\sim \exp (\mu)\) 。
求从正常工作开始,在时刻 \(t\) 处于正常工作状态的概率。
解:记状态空间 \(\{0,1\}\), 则生成矩阵 \(Q=\left(\begin{array}{cc}-\lambda & \lambda \\ \mu & -\mu\end{array}\right)\)。
状态空间有限时: \(P(t)=\left(e^{t Q}\right) , Q\) 有特征值 \(0\),\(-(\lambda+\mu)\)可对角化,对应特征向量:\(\overrightarrow{S_{1}}=\left[\begin{array}{ll}1 & 1\end{array}\right]^{\top}, \overrightarrow{S_{2}}=\left[\begin{array}{ll}1 & -\frac{\mu}{\lambda}\end{array}\right]^{\top}\)
\[\begin{aligned}
\begin{array}{r}
& Q=\left(\begin{array}{cc}
1 & 1 \\
1 & -\frac{\mu}{\lambda}
\end{array}\right)\left(\begin{array}{cc}
0 & \\
& -(\lambda+\mu)
\end{array}\right)\left(\begin{array}{cc}
1 & 1 \\
1 & -\frac{\mu}{\lambda}
\end{array}\right)^{-1} \\
& P=e^{tQ}=\left(\begin{array}{cc}
1 & 1 \\
1 & -\frac{\mu}{\lambda}
\end{array}\right)\left(\begin{array}{rr}
e^{0} & \\
& e^{-(\lambda+\mu) t}
\end{array}\right)\left(\begin{array}{cc}
1 & 1 \\
1 & -\frac{\mu}{\lambda}
\end{array}\right)^{-1}
\end{array}
\end{aligned}
\]
连续情形的遍历性
定义:对任意状态 $j $, \(\lim _{t \rightarrow \infty} P_{i j}(t)\) 存在且与 \(i\) 无关,称 \(\left\{X_{i}\right\}\) 是遍历的。
\(\left\{X_{t}\right\}\) 是遍历的充分条件为:
-
马氏链的任何状态相通: $\forall t $ , $ i \neq j , P_{i j}(t)>0$;
-
正常返;
定理:若 \(\{X_t\}\) 状态空间有限,且其生成矩阵Q不可约,则 \(\{X_t\}\) 遍历。
从生灭过程到排队论
考虑生灭过程 \(\left\{\lambda_{i}\right\}_{i=0}^{+\infty},\left\{\mu_{i}\right\}_{i=0}^{+\infty}\),生成矩阵可以写为:
\[Q=\left(\begin{array}{mmmmm} -\lambda_{0} & \lambda_0 & \\ \mu_1 & -(\lambda_{1}+\mu_1) & \lambda_1 \\ & \mu_2 & -(\lambda_2+\mu_2) & \lambda_2\\ & &\ddots & \ddots&\ddots\end{array}\right)
\]
得:
\[\begin{aligned}
-\lambda_{0} \pi_{0}+\mu_{1} \pi_{1}&=0\\
\lambda_{0} \pi_{0}-\left(\lambda_{1}+\mu_{1}\right) \pi_{1}+\mu_{2} \pi_{2}&=0 \\
\vdots \\
\lambda_{k-1} \pi_{k-1}-\left(\lambda_{k}+\mu_{k}\right)+\mu_{k+1} \pi_{k+1}&=0
\end{aligned}
\]
自上而下,分别有:
\[\begin{aligned}
& \pi_{1}=\frac{\lambda_{0}}{\mu_{0}} \pi_{0} \\
& \pi_{2}=\frac{\lambda_{1}}{\mu_{2}} \pi_{1}=\frac{\lambda_{0} \lambda_{1}}{\mu_{1} \mu_{2}} \pi_{0} \\
& \vdots\\
& \pi_{k}=\frac{\lambda_{k-1}}{\mu_{k}} \pi_{k-1}=\cdots=\frac{\lambda_{0} \cdots \lambda_{k-1}}{\mu_{1} \cdots \mu_{k}} \pi_{0} \\
& \sum_{i=0}^{+\infty} \pi_{i}=\left(\sum_{i=0}^{+\infty} \frac{\lambda_{0} \cdots \lambda_{i-1}}{\mu_{1} \cdots \mu_{i}}\right) \pi_{0}
\end{aligned}
\]
生灭过程遍历不可约 \(\Leftrightarrow \sum_{i=0}^{+\infty} \frac{\lambda_{0} \cdots \lambda_{i-1}}{\mu_{1}-\mu_{i}}<+\infty\)
特别地,若 \(\lambda_{i} \equiv \lambda , \mu_{i} \equiv \mu\) (从某一项开始),则不可约遍历 \(\Leftrightarrow \lambda<\mu\)
\(M / M / S\) 排队问题
顾客到达时间 ~ \(exp(\lambda)\) ,每个服务台服务时间服从 ~ \(\exp (u)\) , \(x_{t}\) 为时刻 \(t\) 系统中顾客的个数。
\[\begin{aligned}
& \lambda_{i} \equiv \lambda, \quad i \geqslant 0 \\
& u_{i}= \begin{cases}iu & ,1 \leqslant i<s \\
su & ,i \geqslant s\end{cases}
\end{aligned}
\]
排队系统遍历不可约 \(\Longleftrightarrow \frac{\lambda}{s u}<1\)
在稳态时,离开时间 ~ \(exp(\lambda)\)
一致化技巧、时间可逆
一致化
\(\left\{X_{t}\right\}_{t>0}\) 为连续时间马氏链,取 $\nu_{i} \equiv \nu $ ,引入 $ N(t)$ ,表示在 \([0, t]\) 期间状态发生转移的次数。
\[\begin{aligned}
P_{i j}(t) & =P\left(X_{t}=j \mid X_{0}=i\right) \\
& =\sum_{n} P\left(X_{t}=j \mid X_{0}=i, N(t)=n\right) P\left(N(t)=n \mid X_{0}=i\right)
\end{aligned}
\]
由于取了 \(\nu_{i} \equiv \nu\) ,这就退化成了一个泊松过程:
\[P\left(N(t)=n \mid X_{0}=i\right)=\frac{(\nu t)^{n} e^{-\nu t}}{n !}
\]
代入到 \(P_{i j}(t)\) :
\[P_{i j}(t)=\sum_{n} \frac{(\nu t)^{n} e^{-\nu t}}{n !}\left(P^{n}\right)_{i j}
\]
构造新的连续时间马氏链 \(\left\{Y_{t}\right\}_{t>0}\) ,其中 \(\sup _{i} \nu_{i}=\nu<+\infty\)
\[\hat{T}_{i} \sim \exp (\nu), \quad \hat{P_{i j}}= \begin{cases}1-\frac{\nu_{i}}{\nu}, & i=j \\ \frac{\nu_{i}}{\nu} P_{i j}, & i \neq j\end{cases}
\]
对 \(\left\{Y_{i}\right\}_{t>0}\) 在状态 \(i\) 的滞留时间下:
\[P\left(T_{i} \geqslant x\right)=e^{-\nu x}+\sum_{n=1}^{\infty} \frac{e^{-\nu x}(\nu x)^{n}}{n !}\left(1-\frac{\nu_{i}}{\nu}\right)^{n}=e^{-\nu_{i} x}
\]
离开 \(i\) 跳到不是 \(i\) 的状态 \(j\) 仍为 \(P_{i j}\) 的概率:
\[P_{i j}(t)=\sum_{n=0}^{+\infty} \frac{(\nu t)^{n} e^{-\nu t}}{n !}\left(\hat{P}^{n}\right)_{i j}
\]
一致化技巧同样适用于有限状态空间情形
\[\nu \hat{P}=\nu I+Q
\]
\[\begin{aligned}
P(t) & =\sum_{n=0}^{\infty} \frac{(\nu t)^{n} e^{-\nu t}}{n !} \hat{P}^{n} \\
& =e^{-\nu t} \sum_{n=0}^{\infty} \frac{(\nu t \hat{P})^{n}}{n !} \\
& =e^{-\nu t} \cdot e^{\nu t \hat{P}} \\
& =e^{-\nu t} \cdot e^{(\nu I+Q) t}=e^{Q t}
\end{aligned}
\]
连续时间可逆马氏链
\(\left\{X_{t}\right\}_{t \geq 0}\) 是不可约遍历,连续时间马氏链。
若 \(P=\left(P_{i j}\right)\) 对应的离散马氏链是关于时间可逆的,称 \(\left\{X_{t}\right\}_{t \geqslant 0}\)关于时间可逆
记 \(P=\left(P_{0}, P_{1}, \cdots\right)\) 为 \(\left\{x_{t}\right\} t \geqslant 0\) 的极限分布向量,即
\[\lim _{t \rightarrow \infty} P_{i j}(t)=P_{j}
\]
\(\pi=\left[\pi_{0}, \pi_{1}, \ldots\right]\) 是\(P\)的对应的离散马氏链的极限分布,有:
\[\left\{\begin{array}{l}
P Q=0 \\
P e=1
\end{array}\right.
\]
若关于时间可逆:
\[\pi_{i} P_{i j}=\pi_{j} P_{j i} \Leftrightarrow P_{i} q_{i j}=P_{j} q_{j i} \quad(\forall i \neq j)
\]
这意味着在稳态时,正看和倒看的随机现象是一致的。
定理:不可约遍历的生灭过程关于时间可逆。
证明:需验证 \(P_{i} q_{i j}=P_{j} q_{j i},\forall i \neq j\) ,其中 \(P=\left[P_{0}\quad P_{1} \quad \ldots\right]\)为极限分布,对生灭过程而言有\(P_{i+1}=\frac{\lambda_{i}}{\mu_{i+1}} P_{i} \Leftrightarrow \mu_{i+1} P_{i+1}=\lambda_{i} P_{i}\)。若当 \(|i-j| \leqslant 1\)时\(q_{i j} \neq 0\),则 \(p_{i} q_{i j}=p_{j} q_{j i}\)。
Appendix 矩阵及矩阵论有关知识
矩阵指数的计算
\(A \in \mathbb{R}^{n \times n}, e^{A}=1+\frac{A}{1 !}+\frac{A^{2}}{2 !}+\cdots \cdot \frac{A^{n}}{n !}+\cdots\)
- 对于对角阵
\[A=\left(\begin{array}{lll}\lambda_{1} & & \\ &\lambda_{2} & \\ & & \ddots & \\ & & &\lambda_{n}\end{array}\right)
\]
有
\[e^{A}=\left(\begin{array}{lll}e^{\lambda_{1}} & & \\ & e^{\lambda_{2}} & \\ & & \ddots & \\ & & & e^{\lambda_{n}}\end{array}\right)
\]
若\(A\)可对角化,即存在非奇异阵 \(S\) ,使
\[A=S\left(\begin{array}{lll}
\lambda_{1} & & \\
& \ddots & \\
& & \lambda_{n}
\end{array}\right){S^{-1}}
\]
则
\[e^{A}=S\left(\begin{array}{lll}
e^{\lambda_{1}} & & \\
& \ddots & \\
& & e^{\lambda_{n}}
\end{array}\right){S^{-1}}
\]
- 对于约当阵
\[A=\left(\begin{array}{llll}\lambda_{1} & 1 & & \\ & \lambda_{1} & 1 & \\ & & \ddots & \\ & & & \lambda_1 & 1\\ & & & & \lambda_{1}\end{array}\right)
\]
有
\[e^{A}=\left(\begin{array}{llll}e^{\lambda_1} & & \\ & e^{\lambda_1} & \\ & & \ddots & \\ & & & e^{\lambda_1}\end{array}\right)
\]
若 \(A\) 可约当化,即存在非奇异阵 \(S\) ,使
\[A=S\left(\begin{array}{lll}J_{1} & & \\ & \ddots & \\ & & J_{n}\end{array}\right) S^{-1}
\]
则
\[e^{A}=S\left(\begin{array}{lll}
e^{J_{1}} & & \\
& \ddots & \\
& & e^{J_{n}}
\end{array}\right)S^{-1}
\]
- \(e^{\mu I+A}=e^{\mu} \cdot e^{A},\left(\right.\) 若 \(\left.A B=B A \cdot e^{A+B}=e^{A} e^{B}\right)\)
例: \(A=\alpha I+a b^{\top}, a, b \in \mathbb{R}^{n}, e^{A}=\) ?其中\(a,b^{\top}\)分别为n维列向量,行向量。
我们根据矩阵乘法的结合律,可以得到下面这个式子。注意,\(b^{\top}a\)结果是一个常数。
\[(a b^{\top})^{n}=\left(b^{\top} a\right)^{n-1} a b^{\top}
\]
带入到指数的原始定义式里面去:
\[e^{A}=1+\frac{A}{1 !}+\frac{A^{2}}{2 !}+\cdots \cdot \frac{A^{n}}{n !}+\cdots\Rightarrow e^{A}=e^{\alpha} \cdot e^{a b^{\top}}
\]
M-阵
非奇异 \(M-\) 阵
定义: \(A \in \mathbb{R}^{n \times n}\) ,如果:
- A 的非对角元全不大于0;
- \(A^{-1}\) 为非负矩阵;
称 \(A\) 为非奇异 \(M-\) 阵。
如果 \(A\) 不可约,则 \(A^{-1}\) 为正矩阵
如果:
- \(A=\nu I-N\),\(N\) 是非负拒阵
- \(\nu>\rho(N)\)
- \((\nu I-N)^{-1}=\nu^{-1}\left[I+\frac{1}{\nu} N+\left(\frac{1}{\nu} N\right)^{2}+\cdots\right]\)
性质:若 \(A=\gamma I-N\) 为非奇异 \(M-\)阵 \((\gamma>\rho(N))\)
-
\(A\) 的特征值实部为正
-
\(A\) 的实部最小的特征值记为\(\tau(A)\) ,$ \tau(A)=\gamma-\rho(N)$
-
若\(A\) 不可约,则 \(\tau(A)\) 为单特征值,且对应特征向量为正向量。若\(\lambda\)为 \(A\) 的异于 \(\tau(A)\) 的特征值, \(\operatorname{Re}(\lambda)>\tau(A)\) ,\(|\lambda|>\tau(A)\)
奇异 \(M-\) 阵
若 \(A=\nu I-N\) 为奇异 \(M-\) 阵:
- \(A\) 的特征值实部非负, \(\tau(A)=0\);
- 若\(A\)不可约,则 \(\tau(A)=0\) 为单特征值,对应的特征问量为正向量,且\(A\)的异于 \(\tau(A)\) 的特征值实部全大于0。
定理:\(\{Xt\}\)是有限状态空间上的连续时间马氏链,若生成矩阵 \(Q\) 为不可约,则 \(\left\{X_{t}\right\}\) 是遍历的。
证明:\(-Q\)为不可约的 \(M-\) 阵,所以\(0\)是\(-Q\)的单特征值,且其对应的特征向量为\(e\)。
对 \(Q\) 的异于0的特征值,其的记为 \(\lambda_{2}, \lambda_{3}, \cdots, \lambda_{n}\),则 $\operatorname{Re}\left(\lambda_{i}\right)<0 $ , $ i<0$
记 \(S_{1} \in \mathbb{R}^{n \times(n-1)}\) , \(S_{1}\) 的列张量的子空间,即为特佂值 \(\lambda_{2}\), \(\lambda_{3}, \ldots, \lambda_{n}\) 对应的特征子空间。
\[A S_{1}=S_{1} A_{1}, A_{1} \in \mathbb{R}^{(n-1) \times(n-1)}
\]
\(A_{1}\) 的特征值为 \(\lambda_{2}, \lambda_{3}, \ldots, \lambda_{n}\);\(S=\left[e \quad S_{1}\right] \in \mathbb{R}^{n \times n}\) 非奇异
取 \(A=Q\) ,有\(A_{1}=Q_{1}\):
\[\begin{aligned}
& S^{-1} Q S=\left[\begin{array}{c:c}
0 & \\
\hdashline & Q_{1}
\end{array}\right]\\
& e^{tQ}=S\left[\begin{array}{c:c}
0 & \\
\hdashline & e^{t Q_{1}}
\end{array}\right]S^{-1} \\
\end{aligned}
\]
从而得到:
\[\lim _{t\rightarrow+\infty}\left(e^{t Q}\right)_{i j}=S\left[\begin{array}{c:c}
0 & \\
\hdashline & 1
\end{array}\right]S^{-1}=S e_1\cdot e_1^{\top} S^{-1}=e \pi
\]
注意:\(S^{-1}\)的第一行为\(\pi\),\(S\)的第一列为\(e\)。\(e_{1}=\left[\begin{array}{lll}
1 & 0 & \ldots
\end{array}\right]^{\top}\)。
\[\begin{aligned}
& \lim _{t \rightarrow \infty} P\left(X_{t}=j \mid X_{0}=i\right)=\left(e^{tQ}\right)_{i j}=\pi_{j} \\
& Q=\left[\begin{array}{c:c}
-\alpha & b^{\top} \\
\hdashline a & Q_{1}
\end{array}\right], \text { 且 }\left\{\begin{array}{l}
\pi Q=0 \\
\pi e=1
\end{array}\right.
\end{aligned}
\]