如何理解概率图模型(马尔科夫随机场)？

概率图模型：由图表示的概率分布

\(v\)是结点，集合为\(V\)；\(e\)是边，集合为\(E\)

无向图\(G=(V,E)\)表示联合概率分布\(P(Y)\)

一个结点\(v \in V\)是一个随机变量，表示为\(Y_v\),随机变量集合为\(Y=(Y_v)_{v\in V}\)

边\(e\in E\)表示随机变量之间的概率依赖关系

定义无向图表示的随机变量之间存在的三个马尔可夫性：

• 成对马尔科夫性：给定\(Y_O\)条件下随机变量\(Y_u,Y_v\)是条件独立的

  \(u,v\)：无向图\(G\)任意两个没有边连接的点

  \(u,v\)对应随机变量\(Y_u,Y_v\)

  所有其他节点为\(O\)，对应的随机变量组为\(Y_O\)

  \(P(Y_u,Y_v|Y_O)=P(Y_u|Y_O)P(Y_v|Y_O)\)

• 局部马尔科夫性：给定\(Y_w\)的条件下随机变量\(Y_v,Y_O\)是独立的

  \(v\in V\)是无向图\(G\)中任意一个结点

  \(W\)是与\(v\)有边连接的所有节点

  \(O\)是除\(v,W\)外的所有节点

  \(v\)表示的随机变量为\(Y_v\)，\(W\)表示的随机变量组为\(Y_W\)，\(O\)表示的随机变量组为\(Y_O\)

  \(P(Y_v,Y_O|Y_W)=P(Y_v|Y_W)P(Y_O|Y_W)\)

• 全局马尔可夫性：给定\(Y_C\)条件下\(Y_A,Y_B\)是条件独立的

  集合\(A,B\)是无向图\(G\)中被结点集合\(C\)分开的任意结点集合

  \(Y_A,Y_B,Y_C\)

  \(P(Y_A,Y_B|Y_C)=P(Y_A|Y_C)P(Y_B|Y_C)\)

满足成对、局部和全局马尔可夫性(某一个位置的赋值仅仅与和它相邻的位置的赋值有关，和与其不相邻的位置的赋值无关)的联合概率分布\(P(Y)\)(由无向图\(G=(V,E)\)表示)，称为概率无向图模型或马尔科夫随机场

例如：十个词的句子词性标注。假设所有词的词性只和它相邻词的词性有关，则是一个马尔科夫随机场。比如第三个词的词性只与自己所在位置、第二个词和第四个词的词性有关。