2017/07/22——机器学习之EM算法

EM算法中文全称是期望最大化算法，目的是解决带有隐变量模型的参数估计，因为当含有隐变量时，使用MLE无法得到解析解。步骤是E-Step：假设隐变量的条件概率分布，M-Step：利用假设的条件概率分布推断参数，不断重复，直到待估计参数收敛为止。具体数学推导见参考。

1. EM算法JerryLead

2.EM算法

当然了，上面两个博客基本是参考Ng教授的课件http://cs229.stanford.edu/materials.html，这个里面的Lecture note7b和Lecture notes8才是重头戏。