随笔分类 - 4_机器学习书籍及杂（西瓜书、机器学习实战、统计学习方法、百面机器学习等）
摘要：统计学习方法笔记 1201、统计学习方法总结 一、总结 一句话总结： 本书共介绍了10种主要的统计学习方法：【感知机】、【k近邻法】、【朴素贝叶斯法】、【决策树】、【逻辑斯谛回归与最大熵模型】、【支持向量机】、【提升方法】、【EM算法】、【隐马尔可夫模型】和【条件随机场】. 1、10种统计学习方法特
阅读全文
摘要：统计学习方法笔记 0、读大纲 一、总结 一句话总结： 第1章、统计学习方法【概论】；第2章、【感知机】；第3章、【k近邻法】； 第4章、【朴素贝叶斯法】；第5章、【决策树】；第6章、【逻辑斯谛回归】与【最大熵模型】； 第7章、【支持向量机】；第8章、【提升方法（比如AdaBoost）】；第9章、【E
阅读全文
摘要：半监督学习总结 一、总结 一句话总结： 在【有标签数据+无标签数据】混合成的训练数据中使用的机器学习算法吧。一般假设，【无标签数据比有标签数据多】，甚至多得多。 其实，半监督学习的方法大都【建立在对数据的某种假设上】，只有满足这些假设，半监督算法才能有性能的保证，这也是限制了半监督学习应用的一大障碍
阅读全文
摘要：机器学习实战笔记 0、读大纲 一、总结 一句话总结： 第一部分：【分类】：第1章机器学习基础、第2章【k近邻算法】、第3章【决策树】、第4章基于概率论的分类方法：【朴素贝叶斯】、第5章【Logistic回归】、第6章【支持向量机】、第7章利用【Adaboost】元算法提高分类性能 第二部分：【利用回
阅读全文
摘要：数据挖掘十大经典算法（各自优缺点 / 适用数据场景） 一、总结 一句话总结： 【C4.5】（一种分类决策树算法）、【K-Means算法】（聚类算法） 【Support vector machines】（应用于统计分类以及回归分析）、【The Apriori algorithm】（挖掘布尔关联规则频繁
阅读全文
摘要：机器学习西瓜书白话解读笔记 0311-0317、梯度下降法 一、总结 一句话总结： 【接触理论】：很多事情【不需要想太多】，【多接触】，比如【学习】，学着学着，你就爱上它了，还比如【游戏】，比如其它的很多很多 1、梯度下降法？ 《深度学习入门》这本书上讲的很详细 2、【随机】梯度下降：Stochas
阅读全文
摘要：机器学习西瓜书笔记 3.6、类别不平衡问题 一、总结 一句话总结： 【类别不平衡（class-imbalance）】就是指【分类任务中不同类别的训练样例数目差别很大】的情况. 我们经常会遇到类别不平衡，【例如在通过拆分法解决多分类】问题时，即使原始问题中不同类别的训练样例数目相当，在使用OⅴR、Mv
阅读全文
摘要：机器学习西瓜书笔记 3.5、线性判别分析多分类学习 一、总结 一句话总结： 就是利用【二分类学习器来解决多分类问题】 最经典的拆分策略有三种：【“一对一”】（One vs. One，简称OvO）、【“一对其余”】（One vs. Rest，简称OvR）和【“多对多”】（Many vs. Many，简
阅读全文
摘要：机器学习西瓜书白话解读笔记 0309-0310、逻辑回归 一、总结 一句话总结： 【不是得到y和x的关系】，而是得到【ln(y/(1-y))与x的关系】，而ln(y/(1-y))就是对数几率， $$y = \frac { 1 } { 1 + e ^ { - ( w ^ { T } x + b ) }
阅读全文
摘要：机器学习西瓜书笔记 3.4、线性判别分析 一、总结 一句话总结： 【线性判别分析（Linear Discriminant Analysis，简称LDA）】是一种经典的【线性学习方法】，在【二分类问题】上因为最早由 Fisher，1936]提出，亦称“Fisher判别分析” 1、线性判别分析LDA的思
阅读全文
摘要：线性回归和逻辑回归的关系 一、总结 一句话总结： 【需求是让f(x)来拟合[0,1]】，这个时候应该怎么做呢。拟合[0,1]就是【二分类】的问题。 【阶跃函数不连续，不可导】，所以就【用sigmoid】，所以就是逻辑回归了 逻辑回归：$$y = \frac { 1 } { 1 + e ^ { - (
阅读全文
摘要：机器学习西瓜书笔记 3.3、对数几率回归 一、总结 一句话总结： 【系统】：系统的学习非常非常重要，所以看书是非常非常必要且高效的 你之前【很多不懂的问题】，系统看书，【书上介绍的不能再详细】 1、为什么从阶跃函数变成对数几率函数（sigmoid）？ 【阶跃函数不连续，不可求导】：单位阶跃函数不连续
阅读全文
摘要：机器学习西瓜书笔记 3.2、线性回归 一、总结 一句话总结： 【系统】：系统的学习非常非常重要，所以【看书】是非常非常必要且高效的 1、一元线性回归？ 我们先考虑一种最简单的情形：输入【属性的数目只有一个】.为便于讨论，此时我们忽略关于属性的下标，即$$D = \{ ( x _ { i } , y
阅读全文
摘要：机器学习西瓜书白话解读笔记 0301-0308、线性回归 一、总结 一句话总结： 【亡羊补牢】：人的确是都会犯错，【亡羊补牢】最最重要，比如网络游戏 1、一元线性回归？ 只有【一个属性】，即d=1；【w,b为单个的数】 一元线性回归目标函数：【最小二乘法】：$$( w ^ { * } , b ^ {
阅读全文
摘要：机器学习西瓜书笔记 3.1、线性模型基本形式 一、总结 一句话总结： 一般形式：$$f ( x ) = w _ { 1 } x _ { 1 } + w _ { 2 } x _ { 2 } + \ldots + w _ { d } x _ { d } + b$$ 向量形式：$$f ( x ) = w
阅读全文
摘要：机器学习西瓜书课后习题答案 2、模型评估 一、总结 一句话总结： 理解必然是个【逐步加深】的过程，所以前期可以【最短时间做最高效率】（重点、核心点、视频）的事情 1、【Min-max】 规范化和【z-score】 规范化的优缺点？ 【Min-max】规范化：$$x ^ { \prime } = x
阅读全文
摘要：机器学习西瓜书课后习题答案 1、绪论 一、总结 一句话总结： 一些【特别花时间又不太重要】的东西（比如一些概念），可以【多参照别人的视频解释】，这样节约时间 1、试述机器学习在互联网搜索的哪些环节起什么作用？ 1.【消息推送】：比如当我搜索“机器学习”之后，再打开某些网页的时候，会推送有关机器学习培
阅读全文
摘要：机器学习西瓜书笔记 2.4-2.6、模型评估与选择【2.4比较检验，2.5偏差与方差】 一、总结 一句话总结： 【学以致用】，讲到底其实【用以致学】更好 1、机器学习中性能比较涉及的几个重要因素？ 【泛化性能与测试集上的性能的矛盾】：首先，我们希望比较的是【泛化性能】，然而通过实验评估方法我们获得的
阅读全文
摘要：机器学习西瓜书笔记 2.3、模型评估与选择【2.3性能度量】 一、总结 一句话总结： 【重点】别【圈】太多，圈太多重点就不是重点了，效果【反而不好】 1、2.3性能度量的意义是什么？ 对学习器的泛化性能进行评估，不仅需要有效可行的【实验估计方法】，还需要有【衡量模型泛化能力的评价标准】，这就是【性能
阅读全文
摘要：机器学习西瓜书白话解读笔记 0216-0223、还是模型评估 一、总结 一句话总结： 娱乐可以用音乐和【好玩的】运动【代替】游戏 1、多分类方法？ 可以【直接多分类】，或者转化为【二分类】， 转化为二分类的话，【第一种就是(1,2)、(1,3)、(1,4)、...、(2,3)、(2,4)】，【另一种
阅读全文
浙公网安备 33010602011771号