摘要：Foundations of Machine Learning: The Margin Explanation for Boosting's Effectiveness 在这一节，我们要回答的一个问题是：什么样的分类器用于预测未知数据会更让人信服？而要回答这个问题，我们首先得量化“信服”这个概念。那... 阅读全文

摘要：Foundations of Machine Learning: Boosting Boosting是属于自适应基函数(Adaptive basis-function Model(ABM))中的一种模型。自适应基函数可以表示成：$$f(x)=w_0+\sum_{m=1}^Mw_m\phi_m(x).... 阅读全文

摘要：Foundations of Machine Learning: Rademacher complexity and VC-Dimension(2)（一） 增长函数（Growth function） 在引入增长函数之前，我们先介绍一个例子，这个例子会有助于理解增长函数这个东西。在input spac... 阅读全文

摘要：Foundations of Machine Learning: Rademacher complexity and VC-Dimension(1) 前面两篇文章中，我们在给出PAC-learnable定理时，都有一个前提假设，那就是 Hypothesis set 是有限的。但很明显，在实际中的假设... 阅读全文

摘要：Foundations of Machine Learning: The PAC Learning Framework(2)（一）假设集有限在一致性下的学习界。 在上一篇文章中我们介绍了PAC-learnable的定义，以及证明了一个例子是PAC-learnable。 这一节我们介绍当hypothe... 阅读全文

摘要：写在最前：本系列主要是在阅读 Mehryar Mohri 等的最新书籍《Foundations of Machine Learning》以及 Schapire 和 Freund 的 《Boosting: Foundations and Algorithms》过程中所做的笔记。主要讨论三个部分的内容。... 阅读全文