随笔分类 -  PRML

摘要：EM算法即期望最大化（Expection Maximization）算法，是一种最优化算法，在机器学习领域用来求解含有隐变量的模型的最大似然问题。最大似然是一种求解模型参数的方法，顾名思义，在给定一组数据时，将似然表示为参数的函数，然后对此似然函数最大化即可求出参数，此参数对应原问题的最大似然解。对 阅读全文

摘要：线性拟合即给定一组输入样本，求一个M阶多项式 的参数向量，使得拟合误差最小。这个M阶多项式虽然是关于x的非线性（当时）函数，但是是关于待求参数向量的线性函数，所以叫“线性”拟合。而拟合误差根据具体应用可以选用不同的标准，最常见、也是教科书上提供的一种误差标准叫做最小化方差，由这个标准导出的就是最小二 阅读全文