摘要：PRML读书会 Pattern Recognition And Machine Learning读书会 阅读全文
摘要：最后一章Combining Models，由‘网神’主讲，精彩内容有：committees；Boosting、AdaBoost，并从最优化指数损失函数的角度对其步骤作了解释；最后是决策树和条件混合模型。 阅读全文
摘要：第十三章Sequential Data，由中科院软件所张巍博士主讲，精彩内容有：Hidden Markov Models的数据生成过程及其参数的EM求解方法、HMM的预测和解码。 阅读全文
摘要：第十二章连续隐变量，由中科院自动化所戴玮博士分三次讲完。精彩内容有：从最大方差和最小重构误差两个角度解释了PCA；包含连续隐变量的概率生成模型PPCA，其最大似然闭式解的推导以及EM求解方法；核PCA的变换；最后介绍了Autoencoder、非线性流形思想 阅读全文
摘要：第十一章的主要内容是MCMC（Markov Chain Monte Carlo），包括：马尔科夫链平稳分布的定义及其充分条件：细致平稳条件的证明；Metropolis-Hastings及其接受率满足细致平稳条件的推导，接受率恒为1的Gibbs Sampling；最后是Slice Sampling、Hamiltonian MCMC。 阅读全文
摘要：第十章的主要内容是变分推断（Variational Inference），由中科院自动化所戴玮博士前后分三次讲完。精彩内容有：为什么需要近似推断、变分推断用到的KL散度、根据平均场（Mean Field）思想的分解以及迭代求最优解的推导，最后用了三个例子来加深理解。 阅读全文
摘要：第九章Mixture Models and EM，主要内容有：Kmeans算法；混合高斯模型以及EM（Expectation Maximization）算法在GMM中的应用；一般EM算法性质的推导和证明。 阅读全文
摘要：第八章Graphical Models由‘网神’主讲，精彩内容有：贝叶斯网络和马尔科夫随机场的概念、联合概率分解、条件独立表示；图的概率推断inference。 阅读全文
摘要：第七章Sparse Kernel Machines由工业界高手‘网神’主讲。主要内容：推导了支持向量机（support vector machine）的Dual Representations；由KKT条件说明了解的稀疏性；为提高泛化能力增加松弛变量后的SVM；最后是加了先验有更稀疏解的RVM。 阅读全文
摘要：第六章Kernel Methods，介绍了核函数的定义、构建方法，通过线性回归的Dual Representations推导说明由基于特征到基于样本学习的转换；最后是动感十足的高斯过程Gaussian Processes，包括GP的协方差矩阵形式、超参、预测等内容。 阅读全文
摘要：第五章Neural Networks由网神主讲，精彩内容有：神经网络做回归和分类的训练目标函数、BP误差后向传播的链式求导法则、正则化、卷积网络等。 阅读全文