理解Markov假设

引言

Markov假设是基于模板表示的时序模型的基础。也是理解HMM的前提。
简单说来，Markov假设使得概率计算得到简化。下面讲解如何直观的理解Markov假设，以及它详细推导过程。

时序模型

当对动态环境进行建模时，我们感兴趣的是，当问题的状态随时间变化时，对其关于状态进行推理。

这种环境可以根据系统状态进行建模。用X(t)$X^{(t)}$表示系统变量（也叫模板变量）。可以用下面的贝叶斯网来表示时序模型。

在这个模型中，概率P(X(0:T))$P(X^{(0:T)})$的表达如下：

P(X(0:T))=P(X(0),X(1),X(2),...,X(T))$$P(X^{(0:T)})=P(X^{(0)},X^{(1)},X^{(2)},...,X^{(T)})$$

概率P(X(0:T))$P(X^{(0:T)})$的计算如下：

P(X(0:T))=P(X(0),X(1),X(2),...,X(T))$$P(X^{(0:T)})=P(X^{(0)},X^{(1)},X^{(2)},...,X^{(T)})$$

=P(X(0))P(X(1)|X(0))P(X(2)|X(0:1))...P(X(T)|X(0:T−1))$$=P(X^{(0)})P(X^{(1)}|X^{(0)})P(X^{(2)}|X^{(0:1)})...P(X^{(T)}|X^{(0:T-1)})$$

所以，一般表达式为：

P(X(0:T))=P(X(0))∏0T−1P(X(t+1)|X(0:t))$$P(X^{(0:T)})=P(X^{(0)})\prod _0^{T-1}P(X^{(t+1)}|X^{(0:t)})$$

这个概率的计算还是比较复杂的。有没有办法简化呢？

Markov假设

只要时序模型满足Markov假设，概率P(X(0:T))$P(X^{(0:T)})$的计算就能得到简化。

所谓Markov假设，就是

X(t+1)⊥X(0:t−1)|X(t)$$X^{(t+1)}\perp X^{(0:t-1)}|X^{(t)}$$

即X(t+1)$X^{(t+1)}$与X(0:t−1)$X^{(0:t-1)}$关于X(t)$X^{(t)}$条件独立。

满足Markov假设的贝叶斯网如下

这样的贝叶斯网比上图简化了不少，所以计算P(X(0:T))$P(X^{(0:T)})$也得到了简化：

P(X(0:T))=P(X(0))∏0T−1P(X(t+1)|X(t))$$P(X^{(0:T)})=P(X^{(0)})\prod _0^{T-1}P(X^{(t+1)}|X^{(t)})$$

总结

满足Markov假设后，概率P(X(0:T))$P(X^{(0:T)})$的计算可以得到简化。满足Markov假设的贝叶斯网，各模板变量之间的关系也简单一些。

参考

• (1) Daphne Koller。概率图模型。第六章-基于模板的表示