随笔分类 - 04_机器学习
摘要:[TOC] 参考资料 http://www.cnblogs.com/pinard/p/6069267.html http://www.cnblogs.com/pinard/p/6074222.html 贝叶斯定理 学习贝叶斯分类之前,我们必须了解贝叶斯定理等相关的概率公式与含义。 条件概率公式 设A
阅读全文
摘要:[TOC] 参考资料 "随机森林" 随机森林 在随机森林中,我们将生成很多的决策树CART。当在基于某些属性对一个新的对象进行分类判别时,随机森林中的每一棵树都会给出自己的分类选择,并由此进行“投票”,森林整体的输出结果将会是票数最多的分类选项;而在回归问题中,随机森林的输出将会是所有决策树输出的平
阅读全文
摘要:[TOC] 抄袭/参考资料 台湾大学《机器学习技法》视频 "使用sklearn进行集成学习——理论" "机器学习 组合算法总结" "深入浅出ML之Boosting家族" 集成学习 | 集成框架 | 特点 | 优点 | 实现 | | | | | | | Bagging | Bootstraping、均
阅读全文
摘要:[TOC] 参考资料 台湾大学《机器学习技法》视频 周志华《机器学习》 李航《统计学习方法》 "决策树算法原理(上)" "决策树算法原理(下)" "深入浅出ML之Tree Based家族" "决策树 信息增益,信息增益比,Geni指数的理解" "决策树—剪枝" 决策树 决策树是一种运用概率与图论中的
阅读全文
摘要:参考资料 台湾大学《机器学习技法》视频 李航《统计学习方法》 深入浅出ML之Regression家族 Logistic Regression Theory [TOC] 什么是Logistic回归 回顾一下,一般化的广义线性回归形式是: $$ g(Y)=Xw^T 或者 Y=g^{−1}(Xw^T) $
阅读全文
摘要:[TOC] 参考资料 台湾大学 《机器学习基石》视频 Ng 《机器学习》视频 周志华《机器学习》 "线性回归原理小结" "Lasso回归算法: 坐标轴下降法与最小角回归法小结" 提纲 1. 基础线性回归模型&损失函数 2. 优化方法(极小化损失函数) 1. 最小二乘法 OLS 代数法解法 矩阵法解法
阅读全文
摘要:[TOC] 参考资料 台湾大学 《机器学习基石》视频 "VC维的来龙去脉" Hoefiding不等式 $N$:样本量 $v$:样本均值 $u$:总体均值 $$ P\left [ v u\geqslant \varepsilon \right ]\leqslant e^{ 2\varepsilon ^
阅读全文
摘要:title: sklearn 特征工程之特征选择 date: 2016 11 25 22:49:24 categories: skearn tags: sklearn 抄袭/参考资料 "使用sklearn做单机特征工程" "sckearn中文" 周志华《机器学习》 当数据预处理完成后,我们需要选择有
阅读全文
摘要:监督学习 分类 项目说明: 为 CharityML 寻找捐献者 在这个项目中,你将使用1994年美国人口普查收集的数据,选用几个监督学习算法以准确地建模被调查者的收入。然后,你将根据初步结果从中选择出最佳的候选算法,并进一步优化该算法以最好地建模这些数据。你的目标是建立一个能够准确地预测被调查者年收
阅读全文
摘要:本文转载自 火光摇曳 原文链接:VC维的来龙去脉 目录: 说说历史 Hoeffding不等式 Connection to Learning 学习可行的两个核心条件 Effective Number of Hypotheses Growth Function Break Point与Shatter V
阅读全文

浙公网安备 33010602011771号