04 2014 档案

需要学习的科目
摘要：最近需要看的数学书：1 凸优化2 矩阵分析3 随机过程4 实变函数最近需要学习的专业课书籍1 bayes网络2 prml3 统计学习基础4 pgm 阅读全文
posted @ 2014-04-29 10:52 prml 阅读(187) 评论(0) 推荐(0)
PGM学习之六 从有向无环图（DAG）到贝叶斯网络（Bayesian Networks）
摘要：本文的目的是记录一些在学习贝叶斯网络（Bayesian Networks）过程中遇到的基本问题。主要包括有向无环图（DAG），I-Maps，分解（Factorization），有向分割（d-Separation），最小I-Maps（Minimal I-Maps）等。主要参考Nir Friedman的... 阅读全文
posted @ 2014-04-29 10:04 prml 阅读(1556) 评论(0) 推荐(0)
PGM学习之五 贝叶斯网络
摘要：本文的主题是“贝叶斯网络”（Bayesian Network） 贝叶斯网络是一个典型的图模型，它对感兴趣变量（variables of interest）及变量之间的关系（relationships）进行建模。当将贝叶斯模型与统计技术一起使用时，这种图模型分析数据具有如下几个优势：(1) 贝... 阅读全文
posted @ 2014-04-29 10:03 prml 阅读(2152) 评论(0) 推荐(0)
PGM学习之四 Factor,Reasoning
摘要：通过上一篇文章的介绍，我们已经基本了解了：Factor是组成PGM模型的基本要素；Factor之间的运算和推理是构建高维复杂PGM模型的基础。那么接下来，我们将重点理解，Factor之间的推理（Reasoning Patterns）。Factor之间的推理分为以下几类：1. Causal Reaso... 阅读全文
posted @ 2014-04-29 10:02 prml 阅读(847) 评论(0) 推荐(0)
PGM学习之三 朴素贝叶斯分类器（Naive Bayes Classifier）
摘要：介绍朴素贝叶斯分类器的文章已经很多了。本文的目的是通过基本概念和微小实例的复述，巩固对于朴素贝叶斯分类器的理解。一 朴素贝叶斯分类器基础回顾 朴素贝叶斯分类器基于贝叶斯定义，特别适用于输入数据维数较高的情况。虽然朴素贝叶斯分类器很简单，但是它确经常比一些复杂的方法表现还好。 ... 阅读全文
posted @ 2014-04-29 10:00 prml 阅读(564) 评论(0) 推荐(0)
PGM学习之二 PGM模型的分类与简介
摘要：废话：和上一次的文章确实隔了太久，希望趁暑期打酱油的时间，将之前学习的东西深入理解一下，同时尝试用Python写相关的机器学习代码。一 PGM模型的分类 通过上一篇文章的介绍，相信大家对PGM的定义和大致应用场景有了粗略的了解。那么接下来我们来深入了解下PGM。首先要介绍的是Probabilist... 阅读全文
posted @ 2014-04-29 09:59 prml 阅读(865) 评论(0) 推荐(0)
PGM学习之一
摘要：一 课程基本信息 本课程是由Prof.Daphne Koller主讲，同时得到了Prof. Kevin Murphy的支持，在coursera上公开传播。在本课程中，你将学习到PGM（Probabilistic Graphical Models）表示的基本理论，以及如何利用人类自身的知识和机器学习技... 阅读全文
posted @ 2014-04-29 09:57 prml 阅读(1612) 评论(0) 推荐(0)
PGM学习之七 MRF，马尔科夫随机场
摘要：之前自己做实验也用过MRF（Markov Random Filed，马尔科夫随机场），基本原理理解，但是很多细节的地方都不求甚解。恰好趁学习PGM的时间，整理一下在机器视觉与图像分析领域的MRF的相关知识。 打字不易，转载请注明。http://blog.csdn.net/polly_yang/... 阅读全文
posted @ 2014-04-29 09:23 prml 阅读(1037) 评论(0) 推荐(0)
再谈 最速下降法/梯度法/Steepest Descent
摘要：转载请注明出处：http://www.codelast.com/最速下降法（又称梯度法，或Steepest Descent），是无约束最优化领域中最简单的算法，单独就这种算法来看，属于早就“过时”了的一种算法。但是，它的理念是其他某些算法的组成部分，或者说是在其他某些算法中，也有最速下降法的“影子”... 阅读全文
posted @ 2014-04-20 23:16 prml 阅读(944) 评论(0) 推荐(0)
line search中的重要定理 - 梯度与方向的点积为零
摘要：转载请注明出处：http://www.codelast.com/对精确的line search（线搜索），有一个重要的定理：∇f(xk+αkdk)Tdk=0这个定理表明，当前点在dk方向上移动到的那一点（xk+αkdk）处的梯度，与当前点的搜索方向dk的点积为零。其中，αk是称之为“步长”的一个实数... 阅读全文
posted @ 2014-04-20 23:10 prml 阅读(464) 评论(0) 推荐(0)
深度学习读书笔记之RBM（限制波尔兹曼机）
摘要：深度学习读书笔记之RBM声明：1）看到其他博客如@zouxy09都有个声明，老衲也抄袭一下这个东西2）该博文是整理自网上很大牛和机器学习专家所无私奉献的资料的。具体引用的资料请看参考文献。具体的版本声明也参考原文献。3）本文仅供学术交流，非商用。所以每一部分具体的参考资料并没有详细对应，更有些部分本... 阅读全文
posted @ 2014-04-20 22:58 prml 阅读(1423) 评论(0) 推荐(0)
概率图模型（PGM）综述-by MIT 林达华博士
摘要：声明：本文转载自http://www.sigvc.org/bbs/thread-728-1-1.html，个人感觉是很好的PGM理论综述，高屋建瓴的总结了PGM的主要分支和发展趋势，特收藏于此。“概率模型与计算机视觉”林达华美国麻省理工学院（MIT）博士上世纪60年代,Marvin Minsky在M... 阅读全文
posted @ 2014-04-20 22:54 prml