摘要：EM算法指的是最大期望算法(Expectation Maximization Algorithm),是一种迭代算法，用于含有隐变量的概率参数模型的最大似然或极大后验概率估计。 EM算法的引入 例(三硬币模型) 假设有三枚硬币A，B，C，每个硬币正面出现的概率分别为$\pi,p,q$。进行如下的掷硬币 阅读全文

摘要：线性判别分析(Linear Discriminant Analysis)，简称LDA,是一种经典的线性学习方法。在二分类问题上最早由Fisher提出，也称"Fisher判别分析"。 在主成分分析原理总结中，我们对降维算法PCA进行了总结。这里的LDA是另一种经典的的降维算法。使用PCA进行降维，我们 阅读全文

摘要：主成分分析 PCA SVD 第一种降维的方法称为主成分分析(Principal Component Analysis, PCA)。 在PCA中，数据从原来的坐标系换到了新的坐标系，新的坐标系的选择是由数据本身决定的。第一个新坐标轴选择的是原始数据中方差最大的方向，第二个新坐标轴的选择与第一个坐标轴正 阅读全文