那抹阳光1994

摘要： 介绍一个EM算法的应用例子：高斯混合模型参数估计。 高斯混合模型 高斯混合模型（Gaussian Mixture Model， GMM）是由多个高斯分布组成的模型，其密度函数为多个高斯密度函数的加权组合。 这里考虑一维的情况。假设样本 x是从 K 个高斯分布中生成的。每个高斯分布为 其中 µk 和 阅读全文

摘要： 概率图模型学习问题 图模型的学习可以分为两部分： 一是网络结构学习，即寻找最优的网络结构。网络结构学习一般比较困难，一般是由领域专家来构建。 二是网络参数估计，即已知网络结构，估计每个条件概率分布的参数。 不含隐变量的参数估计 如果图模型中不包含隐变量，即所有变量都是可观测的，那么网络参数一般可以直 阅读全文

摘要： 采样法（Sampling Method）是通过模拟的方式来采集符合某个分布 p(x)的一些样本，并通过这些样本来估计和这个分布有关的运算，比如期望等。 采样法（Sampling Method），也叫蒙特卡罗方法（Monte Carlo Method）或统计模拟方法 。 蒙特卡罗方法 拒绝采样 重要性 阅读全文

摘要： 概率图模型 概率图模型（Probabilistic Graphical Model，PGM），简称图模型（Graphical Model， GM），是指一种用图结构来描述多元随机变量之间条件独立关系的概率模型， 从而给研究高维空间中的概率模型带来了很大的便捷性。 高维随机变量的联合概率为高维空间中的 阅读全文