泊松过程
对随机过程 \(\left\{X_{t}\right\}\)有三种看法：
-
随机向量集合
-
一种映射：\(X: \Omega \times[0,+\infty) \rightarrow \mathbb{R}\) （乘积空间 \((\omega, t) \rightarrow(X(t))(\omega)\)
-
样本轨道：固定 \(\omega \in \Omega\) ，得到 \(X(t, \omega)\) ，当成一个 \(t\) 的函数
同时，也存在一些特殊的随机过程：
-
\(X=\left\{X_{t}\right\}\) 为独立增量过程：对任何的 \(n\) 和 \(t_{1}<t_{2}<\cdots<t_{n}\) ， \(X_{t_{1}}, X_{t_{2}}-X_{t_{1}}, X_{t_{3}}-X_{t_{2}}, \ldots, X_{t_{n}}-X_{t_{n-1}}\) 是独立的。
-
\(X=\left\{X_{t}\right\}\) 为平稳(增量)过程：对任何的 \(s,t>0\) ， \(X(t+s)-X(s)\) 的分布只与\(t\)有关，而与 \(s\) 无关。
-
\(X=\left\{X_{t}\right\}\) 为计数过程：满足\(X_{0}=0\)；\(X_t\) 取值为非负整数；对 $0 \leq s<t $, \(X_{s} \leq X_{t}\) 三个条件。
泊松过程的两个定义
在后文中，默认\(\{N(t)\}\) 是一个强度为\(\lambda\)的泊松过程。泊松过程具有以下基本性质：
定义1
-
\(N(0)=0\)
-
平稳的独立增量过程
-
对\(0 \leq s<t\)有：
\[P(N(t)-N(s)=k)=\frac{e^{-\lambda(t-s)}(\lambda(t-s))^{k}}{k !}, k=0,1,2,\ldots
\]
定义2
满足以下条件的计数过程 \(N\) 被称为强度为\(\lambda\)的泊松过程：
-
\(N(0)=0\)
-
平稳的独立增量过程
-
对足够小的 \(h ， P(N(h)=1)=\lambda h+o(h)\)且 \(P(N(\lambda) \geqslant 2)=o(h)\)
从定义2推出定义1
只需证明：
\[g_{k}(t)=P(N(t)=k)=\frac{e^{-\lambda t}(\lambda t)^{k}}{k !}, k=0,1,2, \ldots
\]
首先分析\(k=0\)的情况。对 \(g_{0}(t+h)=P(N(t+h)=0)\)：
\[\begin{aligned}
g_{0}(t+h)&=P(N(t+h)=0)\\
&=P(N(t)=0) \cdot P(N(t+h)-N(t)=0 \mid N(t)=0)\\
&=P(N(t)=0) \cdot P(N(t+h)-N(t)=0)\\
&=g_{0}(t) P(N(h)=0)\\
&=g_{0}(t)(1-\lambda h+o(h))
\end{aligned}
\]
这里最重要的是运用了独立增量的性质。
那么对于 \(g_{0}(t)\)，就会有：
\[g_0^{\prime}(t)=\lim _{h \rightarrow 0} \frac{g_{0}(t+h)-g_{0}(t)}{h}=\lim _{h \rightarrow 0} \frac{g_{0}(t)(-\lambda h+o(h))}{h}=-\lambda g_{0}(t) .
\]
从而得到一个简单的微分方程：
\[\left\{\begin{array}{l}
g_{0}^{\prime}(t)=-\lambda g_{0}(t) \\
g_{0}(0)=1
\end{array} \Rightarrow g_{0}(t)=e^{-\lambda t}\right.
\]
基于上面这部分开始递推，下证 \(g_{k}(t)=\frac{e^{-\lambda t}(\lambda t)^{k}}{k !}\)：
\[\begin{aligned}
g_{k+1}(t+h) & =P(N(t+h)=k+1) \\
&=P(N(t+h)=k+1, N(t)=k+1) ~~[Part1]\\
&~~~~ +P(N(t+h)=k+1, N(t)=k) ~~[Part2]\\
&~~~~+P(N(t+h)=k+1, N(t) \leqslant k-1)~~[Part3]
\end{aligned}
\]
其中:
\[\begin{aligned}
&[Part1]=P(N(t)=k+1) P(N(t+h)-N(t)=0)=g_{k+1}(t)(1-\lambda h+o(h)) \\
&[Part2]=P(N(t)=k) P(N(t+h)-N(t)=1)=g_{k}(t)(\lambda h+o(h)) \\
&[Part3]=P(N(t+h)-N(t) \geqslant 2)=o(h)
\end{aligned}
\]
这里用到的一个思路是时间足够短的情况下，增长2以上的概率都是高阶项，分开考虑0和1即可。
对$ k \geqslant 0$:
\[\left\{\begin{array}{l}
g_{k+1}^{\prime}(t)=\lambda g_{k}(t)-\lambda g_{k+1}(t) \\
g_{k+1}(0)=0
\end{array}\right. \\
\]
又可以得到积分方程：
\[\begin{aligned}
&e^{\lambda t}\left(g_{k+1}^{\prime}(t)+\lambda g_{k+1}(t)\right)=(e^{\lambda t}g_{k+1}(t))^{\prime}=\lambda e^{\lambda t} \cdot g_{k}(t) \\
& \Rightarrow e^{\lambda t} g_{k+1}(t)=\lambda \int_{0}^{t} e^{\lambda s} g_{k}(s) d s\Rightarrow g_{k+1}(t)=\lambda \int_{0}^{t} e^{-\lambda\left(t-s\right)} g_{k}(s) d s
\end{aligned}
\]
多次递推后就能得到定义1。
关于事件发生时间的性质
对强度为\(\lambda\)的泊松过程\(N=\{N(t)\}\) 。
-
\(T_1\)是第一次事伴发生的时间；
-
对 \(n \geqslant 2 ， T_{n}\) 是第 \(n-1\) 次和第 \(n\) 次事件发生的时间间隔
-
若 \(S_{n}\) 是第 \(n\) 次事件发生的时间，\(S_{n}=T_{1}+T_{2}+\cdots+T_{n}\) ，且\(P(N(t) \geqslant n)=P\left(S_{n} \leqslant t\right)\)
-
\(T_{1}, T_{2}, T_{3}, \cdots\) 独立同分布于 \(\exp (\lambda)\)
-
\(S_n=T_1+\cdots+T_n\sim Gamma(n,\frac{1}{\lambda})\)
需要习惯这种下标表示第几次事件的写法
性质4的不完全证明
现在考虑 \(T_{1}, T_{2}\stackrel{i.i.d}{\sim}\exp (\lambda), T_{1}=S_{1}, T_{2}=S_{2}-S_{1}\)，可以证明两者是独立同分布的。
\(\left(S_{1}, S_{2}\right)\) 对 \(0 \leq s \leq t\) 有：
\[\begin{aligned}
F_{S_1 S_{2}}(s, t)= & P\left(s_{1} \leqslant s, s_{2} \leqslant t\right) \\
= & P(N(s) \geqslant 1 . N(t) \geqslant 2) \\
= & P(N(s)=1, N(t) \geqslant 2)+P(N(s) \geqslant 2, N(t) \geqslant 2) \\
= & P(N(s)=1, N(t) \geqslant 2) +P(N(s) \geqslant 2) \\
= & P(N(s)=1) P(N(t)-N(s) \geqslant 1) +\left(1-e^{-\lambda s}-\lambda s e^{-\lambda s}\right) \\
= & \lambda s e^{\lambda s}\left(1-e^{-\lambda(t-s)}\right)+\left(1-e^{-\lambda s}-\lambda s e^{-\lambda s}\right)
\end{aligned}
\]
求导得到概率密度函数：
\[f_{S_1S_2}(s,t)=\frac{\partial^2F_{S_1S_2}(s,t)}{\partial s \partial t}=\lambda^2e^{-\lambda t} \Rightarrow f_{T_{1} T_{2}}(s, t)=\lambda e^{-\lambda s} \cdot \lambda e^{-\lambda t} \Rightarrow T_{1}, T_{2} \stackrel{ i.i.d }{\sim}\exp (\lambda) \text {. } \\
\]
基于性质4的性质5证明
\[\begin{aligned}
& S_{n}=T_{1}+\cdots+T_{n} \sim \operatorname{Gamma}\left(n, \frac{1}{\lambda}\right) \\
& F_{S_{n}}(t)=P\left(S_{n} \leqslant t\right)=P(N(t) \geqslant n) \\
& =\sum_{k=n}^{\infty} \frac{e^{-\lambda t}(\lambda t)^{k}}{k !} \\
& \Rightarrow f_{S_{n}}(t)=F_{S_{n}}^{\prime}(t)=\lambda e^{-\lambda t} \frac{(\lambda t)^{n-1}}{(n-1) !}, t \geqslant 0 \\
\end{aligned}
\]
另一种解法使用\(f_{S_n}(t)\)：
\[P\left(t<S_{n}<t+h\right)=f_{S_{n}}(t) \cdot h+o(h)
\]
左边也等于
\[\begin{aligned}
&P(N(t)=n-1,(t, t+h) \text { 内至少发生一次 })+\sum_{k=2}^{n} P(N(t)=n-k,(t, t+h) \text { 内至少发生k次 })\\
=&\frac{e^{-\lambda t}(\lambda t)^{n-1}}{(n-1) !}(\lambda h+o(h))+o(h)
\end{aligned}
\]
最终可以得到：
\[ f_{S_{n}}(t)=\lim _{h \rightarrow \infty} \frac{P\left(t<s_{n}<t+h\right)}{h}=\lambda e^{-\lambda t} \frac{(\lambda t)^{n-1}}{(n-1) !}
\]
泊松过程的可加性
\(N_{1}=\left\{N_{1}(t)\right\} ，\) 强度为\(\lambda_1\); \(N_{2}=\left\{N_{2}(t)\right\} ，\) 强度为 \(\lambda_{2}\)
\(\left\{N_{1}(t)\right\} 与\left\{N_{2}(t)\right\}\) 相互独立，则:
- \(\left\{N_{1}(t)+N_{2}(t)\right\}\) 为强度 \(\lambda_{1}+\lambda_{2}\) 的泊松过程。
定理: 若\(\{N(t)\}\) 是强度为\(\lambda\)的泊松过程，且当事件发生时 \(\begin{cases}P & \text { 第一类事件概率 } \\ 1-P & \text { 第二类事件概率 }\end{cases}\)
那么会有：
- \(N_{1}(t): [0, t]\) 内第一类事件发生次数
- $N_{2}(t): [0, t] $ 内第二类事件发生次数
\(\left\{N_{1}(t)\right\}\) 和 \(\left\{N_{2}(t)\right\}\) 独立，且分别为强度为\(\lambda p\)和\(\lambda (1-p)\)的泊松过程。
\(\left\{N_{1}(t)\right\}\)和\(\left\{N_{2}(t)\right\}\)独立性的证明
下面证明 \(\left\{N_{1}(t)\right\}\) 和 \(\left\{N_{2}(t)\right\}\) 独立，即对\(t_{1}<t_{2}<\cdots<t_{n} ， t_{1}^{\prime}<t_{2}^{\prime}<\cdots<t\)，有：
\[\begin{aligned}
&P\left(N_{1}\left(t_{1}\right)=k_{1}, \cdots, N_{1}\left(t_{n}\right)=k_{n}, N_{2}\left(t_{1}^{\prime}\right)=k_{1}^{\prime}, \cdots, N_{2}\left(t_{n}^{\prime}\right)=k_{m}^{\prime}\right)\\=&P\left(N_{1}\left(t_{1}\right)=k_{1}, \cdots, N_{1}\left(t_{n}\right)=k_{n}\right) P\left(N_{2}\left(t_{1}^{\prime}\right)=k_{1}^{\prime},\cdots, N_{2}\left(t_{m}^{\prime}\right)=k\right)
\end{aligned}
\]
只需证对 \(\forall t ， t^{\prime} ， k ， k^{\prime}\) ，有：
\[P\left(N_{1}(t)=k, N_{2}\left(t^{\prime}\right)=k^{\prime}\right)=P\left(N_{1}(t)=k\right) P\left(N_{2}\left(t^{\prime}\right)=k^{\prime}\right.)
\]
不妨设$ t \leqslant t^{\prime}$。
当 $t=t^{\prime} $时：
\[\begin{aligned}
& P\left(N_{1}(t)=k, N_{2}(t)=k^{\prime}\right) \\
=&P\left(N_{1}(t)+N_{2}(t)=k+k^{\prime}\right) P\left(N_{1}(t)=k, N_{2}\left(t^{\prime}\right)=k^{\prime} \mid N_{1}(t)+N_{2}(t)=k+k^{\prime}\right) \\
=&\frac{e^{-\lambda t}(\lambda t)^{k+k^{\prime}}}{k !}\cdot C_{k+k^{\prime}}^kp^k(1-p)^{k^{\prime}} \\
=&\frac{e^{-\lambda p t}(\lambda p t)^{k}}{k !} \frac{e^{-\lambda (1-p) t}(\lambda(1-p) t)^{k}}{k !}
\end{aligned}
\]
当\(t<t'\)时：
\[\begin{aligned}
& P\left(N_{1}(t)=k, N_{2}\left(t^{\prime}\right)=k^{\prime}\right)=\sum_{j=0}^{k^{\prime}} P\left(N_{1}(t)=k, N_{2}(t)=j , N_{2}\left(t^{\prime}\right)=k^{\prime}\right) \\
=&\sum_{j=0}^{k^{\prime}} P\left(N_{1}(t)=k, N_{2}\left(t^{\prime}\right)=j, N_{2}\left(t^{\prime}\right)-N_{2}(t)=k^{\prime}-j\right) \\
=&\sum_{j=0}^{k^{\prime}} P\left(N_{1}(t)=k\right) \cdot P\left(N_{2}(t)=j\right) \cdot P\left(N_{2}\left(t^{\prime}\right)-N_{2}(t)=k^{\prime}-j\right) \\
=&P\left(N_{1}(t)=k\right) \sum_{j=0}^{k^{\prime}} P\left(N_{2}(t)=j\right) P\left(N_{2}\left(t^{\prime}\right)-N_{2}(t)=k^{\prime}-j\right) \\
=&P\left(N_{1}(t)=k\right) \cdot P\left(N_{2}\left(t^{\prime}\right)=k^{\prime}\right)
\end{aligned}
\]
用得最多的就是分段、加条件，巧妙利用泊松分布的平稳增量过程性质。
求 \(\left(S_{1}, \ldots, S_{n}\right)\) 的条件密度函数
\(\{N(t)\}\) 为强度为入的泊松过程，给定 \(N(t)=n\) ，求 \(\left(S_{1}, \ldots, S_{n}\right)\) 的密度函数:
- 若 \(N(t)=1\) ，求 \(S_{1}\) 的密度函数（\(s<t\)）：
\[\begin{aligned}
& P\left(S_{1} \leqslant s \mid N(t)=1\right)=P(N(s)=1 \mid N(t)=1) \\
& =\frac{P(N(s)=1 \cdot N(t)=1)}{P(N(t)=1)}=\frac{P(N(s)=1) P(N(t)-N(s)=0)}{P(N(t)=1)} =\frac{s}{t} \\
& \Rightarrow f_{S_{1} \mid N(t)=1}(s)=\frac{1}{t}, \quad 0<s<t
\end{aligned}
\]
- 若 \(N(t)>1\) ，利用简单的矩阵代换解决。
\[\begin{aligned}
\left(\begin{array}{c}
T_{1} \\
T_{2} \\
\vdots \\
T_{n}
\end{array}\right)=\left(\begin{array}{ccccc}
1 & & & \\
-1 & 1 & & & \\
& & \ddots & \\
& & & -1 & 1
\end{array}\right)\left(\begin{array}{c}
S_{1} \\
S_{2} \\
\vdots \\
S_{n}
\end{array}\right)
\Rightarrow\left(\begin{array}{c}
S_{1} \\
S_{2} \\
\vdots \\
S_{n}
\end{array}\right)=\left(\begin{array}{ccccc}
1 & & & \\
1 & 1 & & \\
\vdots & \vdots & \vdots & \ddots & \\
1 & 1 & 1 & \cdots & 1
\end{array}\right)\left(\begin{array}{c}
T_{1} \\
T_{2} \\
\vdots \\
T_{n}
\end{array}\right) \\
\end{aligned}
\]
令\(\vec{T}=\left(T_{1}, \ldots, T_{n}\right)\)，那么联合概率密度写为$ f_{\vec{T} \mid N(t)=n}\left(t_{1}, \ldots, t_{n}\right) $
\[\begin{aligned}
& P\left(t_{1} \leqslant T_{1} \leqslant t_{1}+h, \cdots, t_{n} \leqslant T_{n} \leqslant t_{n}+h \mid N(t)=n\right) \\
=&f_{\vec{T} \mid N(t)=n}\left(t_{1}, \ldots, t_{n}\right)h^{n}+o\left(h^{n}\right) \\
=&\frac{P\left(t_{1} \leqslant T_{1} \leqslant t_{1}+h, \cdots, t_{n} \leqslant T_{n} \leqslant T_{n}+h, N(t)=n\right)}{P(N(t)=n)} \\
\\
\Rightarrow &f_{\vec{T} \mid N(t)=n}=\frac{n !}{t^{n}}
\end{aligned}
\]
考虑到$|J|=1 $：
\[f_{\vec{S} \mid N(t)=n}=\frac{n !}{t^{n}} , 0<t_{1}<t_{2}<\cdots<t_{n} \leqslant t
\]
这样看来，概率是均匀的。
复合泊松过程
定义：\(Y_1,Y_2,Y_3,\cdots\)独立同分布， \(E[Y_i]=\mu\)，且独立于泊松过程，称 \(\left\{X(t)=\sum_{i=1}^{N(t)} Y_{i}\right\}\) 为复合泊松过程。
\[E[X(t)]=E[E[X(t) \mid N(t)]]=E[\mu \cdot N(t)]=\mu \lambda t\\
\]
\[\begin{aligned}
Var(X(t))&=E[Var(X(t)\mid N(t))]+Var(E[X(t)\mid N(t)])\\
&=E[N(t)\cdot(E[Y_i^2]-\mu^2)]+\mu^2\lambda t\\
&=\lambda tE[Y_i^2]
\end{aligned}
\]
例：商家销售一批货物
- 订单到达时间（到达过程）是强度为\(\lambda\)的泊松过程；
- 订单报价独立同分布于概率密度函数为 \(f(x)\)的分布；
- 仓储费用：每单位时间为\(c\)；
- 接单策略：报价大于\(y\)时接单。
问: 如何选取\(y\)使得期望收益最大?
解：接受订单的概率为\(P_{Accept}=\int_{y}^{+\infty} f(x) d x=\bar{F}(y)\)，所以报价大于 \(y\) 的订单到达过程为强度\(\lambda \bar{F}(y)\) 的泊松过程，平均到达时间间隔为 \(\frac{1}{\lambda \bar{F}(y)}\) ，平均仓储费用 \(\frac{c}{\lambda \bar{F}(y)}\)，期望价格为 \(\int_{y}^{+\infty} x \frac{f(x)}{\bar F(y)} d x\)。
对期望收益 \(\pi(y)=\int_{y}^{+\infty} x \frac{f(x)}{\bar F(y)} d x-\frac{c}{\lambda \bar F(y)}\) 最大化：
\[\begin{aligned}
& \pi^{\prime}(y)=-\frac{y}{F(y)}+\int_{y}^{+\infty} x f(x) d x\cdot\frac{1}{(\bar{F}(y))^{2}}-\frac{c}{\lambda(\bar F(y))^{2}}=0\\
& \Rightarrow y F(y)=\int_{y}^{+\infty} x f(x) d x-\frac{c}{\lambda} \Rightarrow\quad \int_{y}^{+\infty}(x-y) f(x) d x=\frac{c}{\lambda}
\end{aligned}
\]
最后一个式子的左边随\(y\)单调递减，因此：
浙公网安备 33010602011771号