摘要： 隐变量模型 学习（例如，通过最大似然）可以采用 EM 算法 \(p(x | \theta, z)\)，允许自定义从参数生成数据的过程，两步走： 第一步：给出隐变量 \(z\) 的先验 \(p(z)\)（自己选），对 \(z\) 边缘化（积掉 \(z\) )，求出似然函数 \(p(x|\theta)\ 阅读全文

摘要： 正则化 经验风险最小化，可能出现过拟合，即：训练集风险估计值小，但测试集风险估计值大 引入一个惩罚项，来偏置经验风险最小化的搜索结果 通过添加额外项将参数偏向原点 附加一个正则项 \(||\theta||^2\)，和参数 \(\lambda\) 以最小二乘为例，在损失函数 \(L(\theta)\) 阅读全文