摘要: PRML读书会 Pattern Recognition And Machine Learning读书会阅读全文
posted @ 2015-01-28 14:50 Nietzsche on line 阅读(883) 评论(0) 编辑
摘要: 最后一章Combining Models，由‘网神’主讲，精彩内容有：committees；Boosting、AdaBoost，并从最优化指数损失函数的角度对其步骤作了解释；最后是决策树和条件混合模型。阅读全文
posted @ 2015-01-28 18:52 Nietzsche on line 阅读(480) 评论(0) 编辑
摘要: 第十三章Sequential Data，由中科院软件所张巍博士主讲，精彩内容有：Hidden Markov Models的数据生成过程及其参数的EM求解方法、HMM的预测和解码。阅读全文
posted @ 2015-01-28 15:23 Nietzsche on line 阅读(450) 评论(0) 编辑
摘要: 第十二章连续隐变量，由中科院自动化所戴玮博士分三次讲完。精彩内容有：从最大方差和最小重构误差两个角度解释了PCA；包含连续隐变量的概率生成模型PPCA，其最大似然闭式解的推导以及EM求解方法；核PCA的变换；最后介绍了Autoencoder、非线性流形思想阅读全文
posted @ 2015-01-28 15:21 Nietzsche on line 阅读(920) 评论(0) 编辑
摘要: 第十一章的主要内容是MCMC（Markov Chain Monte Carlo），包括：马尔科夫链平稳分布的定义及其充分条件：细致平稳条件的证明；Metropolis-Hastings及其接受率满足细致平稳条件的推导，接受率恒为1的Gibbs Sampling；最后是Slice Sampling、Hamiltonian MCMC。阅读全文
posted @ 2015-01-28 15:18 Nietzsche on line 阅读(3307) 评论(0) 编辑
摘要: 第十章的主要内容是变分推断（Variational Inference），由中科院自动化所戴玮博士前后分三次讲完。精彩内容有：为什么需要近似推断、变分推断用到的KL散度、根据平均场（Mean Field）思想的分解以及迭代求最优解的推导，最后用了三个例子来加深理解。阅读全文
posted @ 2015-01-28 15:13 Nietzsche on line 阅读(5911) 评论(0) 编辑
摘要: 第九章Mixture Models and EM，主要内容有：Kmeans算法；混合高斯模型以及EM（Expectation Maximization）算法在GMM中的应用；一般EM算法性质的推导和证明。阅读全文
posted @ 2015-01-28 15:12 Nietzsche on line 阅读(773) 评论(0) 编辑
摘要: 第八章Graphical Models由‘网神’主讲，精彩内容有：贝叶斯网络和马尔科夫随机场的概念、联合概率分解、条件独立表示；图的概率推断inference。阅读全文
posted @ 2015-01-28 15:09 Nietzsche on line 阅读(657) 评论(0) 编辑
摘要: 第七章Sparse Kernel Machines由工业界高手‘网神’主讲。主要内容：推导了支持向量机（support vector machine）的Dual Representations；由KKT条件说明了解的稀疏性；为提高泛化能力增加松弛变量后的SVM；最后是加了先验有更稀疏解的RVM。阅读全文
posted @ 2015-01-28 15:03 Nietzsche on line 阅读(427) 评论(0) 编辑
摘要: 第六章Kernel Methods，介绍了核函数的定义、构建方法，通过线性回归的Dual Representations推导说明由基于特征到基于样本学习的转换；最后是动感十足的高斯过程Gaussian Processes，包括GP的协方差矩阵形式、超参、预测等内容。阅读全文
posted @ 2015-01-28 15:00 Nietzsche on line 阅读(1483) 评论(0) 编辑
摘要: 第五章Neural Networks由网神主讲，精彩内容有：神经网络做回归和分类的训练目标函数、BP误差后向传播的链式求导法则、正则化、卷积网络等。阅读全文
posted @ 2015-01-28 14:59 Nietzsche on line 阅读(688) 评论(0) 编辑