摘要: PRML读书会 Pattern Recognition And Machine Learning读书会阅读全文
posted @ 2015-01-28 14:50 Nietzsche on line 阅读(801) 评论(0) 编辑
摘要: 最后一章Combining Models,由‘网神’主讲,精彩内容有:committees;Boosting、AdaBoost,并从最优化指数损失函数的角度对其步骤作了解释;最后是决策树和条件混合模型。阅读全文
posted @ 2015-01-28 18:52 Nietzsche on line 阅读(401) 评论(0) 编辑
摘要: 第十三章Sequential Data,由中科院软件所张巍博士主讲,精彩内容有:Hidden Markov Models的数据生成过程及其参数的EM求解方法、HMM的预测和解码。阅读全文
posted @ 2015-01-28 15:23 Nietzsche on line 阅读(318) 评论(0) 编辑
摘要: 第十二章连续隐变量,由中科院自动化所戴玮博士分三次讲完。精彩内容有:从最大方差和最小重构误差两个角度解释了PCA;包含连续隐变量的概率生成模型PPCA,其最大似然闭式解的推导以及EM求解方法;核PCA的变换;最后介绍了Autoencoder、非线性流形思想阅读全文
posted @ 2015-01-28 15:21 Nietzsche on line 阅读(467) 评论(0) 编辑
摘要: 第十一章的主要内容是MCMC(Markov Chain Monte Carlo),包括:马尔科夫链平稳分布的定义及其充分条件:细致平稳条件的证明;Metropolis-Hastings及其接受率满足细致平稳条件的推导,接受率恒为1的Gibbs Sampling;最后是Slice Sampling、Hamiltonian MCMC。阅读全文
posted @ 2015-01-28 15:18 Nietzsche on line 阅读(2595) 评论(0) 编辑
摘要: 第十章的主要内容是变分推断(Variational Inference),由中科院自动化所戴玮博士前后分三次讲完。精彩内容有:为什么需要近似推断、变分推断用到的KL散度、根据平均场(Mean Field)思想的分解以及迭代求最优解的推导,最后用了三个例子来加深理解。阅读全文
posted @ 2015-01-28 15:13 Nietzsche on line 阅读(3759) 评论(0) 编辑
摘要: 第九章Mixture Models and EM,主要内容有:Kmeans算法;混合高斯模型以及EM(Expectation Maximization)算法在GMM中的应用;一般EM算法性质的推导和证明。阅读全文
posted @ 2015-01-28 15:12 Nietzsche on line 阅读(606) 评论(0) 编辑
摘要: 第八章Graphical Models由‘网神’主讲,精彩内容有:贝叶斯网络和马尔科夫随机场的概念、联合概率分解、条件独立表示;图的概率推断inference。阅读全文
posted @ 2015-01-28 15:09 Nietzsche on line 阅读(395) 评论(0) 编辑
摘要: 第七章Sparse Kernel Machines由工业界高手‘网神’主讲。主要内容:推导了支持向量机(support vector machine)的Dual Representations;由KKT条件说明了解的稀疏性;为提高泛化能力增加松弛变量后的SVM;最后是加了先验有更稀疏解的RVM。阅读全文
posted @ 2015-01-28 15:03 Nietzsche on line 阅读(371) 评论(0) 编辑
摘要: 第六章Kernel Methods,介绍了核函数的定义、构建方法,通过线性回归的Dual Representations推导说明由基于特征到基于样本学习的转换;最后是动感十足的高斯过程Gaussian Processes,包括GP的协方差矩阵形式、超参、预测等内容。阅读全文
posted @ 2015-01-28 15:00 Nietzsche on line 阅读(995) 评论(0) 编辑
摘要: 第五章Neural Networks由网神主讲,精彩内容有:神经网络做回归和分类的训练目标函数、BP误差后向传播的链式求导法则、正则化、卷积网络等。阅读全文
posted @ 2015-01-28 14:59 Nietzsche on line 阅读(511) 评论(0) 编辑