xbf

摘要： 首先回顾上节课末尾引出来的VC Bound概念，对于机器学习来说，VC dimension理论到底有啥用。三点：1. 如果有Break Point证明是一个好的假设集合2. 如果N足够大，那么Ein跟Eout的表现会比较接近3. 如果算法A选的g足够好（Ein很小），则可能从数据中学到了东西====... 阅读全文

摘要： 紧接上一讲的Break Point of H。有一个非常intuition的结论，如果break point在k取到了，那么k+1, k+2,... 都是break point。那么除此之外，我们还能获得那些讯息？这里举了一些例子，核心就是说下面的事情简言之，如果H有Break Point k，那么... 阅读全文

摘要： 接着上一讲留下的关子，机器学习是否可行与假设集合H的数量M的关系。机器学习是否可行的两个关键点：1. Ein(g)是否足够小（在训练集上的表现是否出色）2. Eout(g)是否与Ein(g)足够接近（在训练集上的表现能否迁移到测试集上）（1）如果假设集合数量小（M小），可知union bound后，... 阅读全文