2BiTT

2016年10月17日

摘要：上两篇说了决策树到集成学习的大概，这节我们通过adaboost来具体了解一下集成学习的简单做法。集成学习有bagging和boosting两种不同的思路，bagging的代表是随机森林，boosting比较基础的adaboost，高级一点有GBDT，在这里我也说下我理解的这两个做法的核心区别：随阅读全文

posted @ 2016-10-17 23:08 2BiTT 阅读(3056) 评论(2) 推荐(1)

训练模型和衡量模型的好坏

摘要：如果你看了前面几篇博客，我们说了决策树，说了adaboost，这次我们说下模型训练和衡量模型的好坏其实我们已经训练了模型了，例如决策树的生成时模型训练，adaboost的实现也是模型训练的过程，所以我们已经训练了好几个模型，只是那个具体的模型，并且我们没有把模型保存下来可能觉得自己不是在训练模型阅读全文

posted @ 2016-10-17 21:02 2BiTT 阅读(3015) 评论(0) 推荐(0)

决策树分类原理

摘要：上一篇博客我们看了一个决策树分类的例子，但是我们没有深入决策树分类的内部原理。这节我们讨论的决策树分类的所有特征的特征值都是离散的，明白了离散特征值如何分类的原理，连续值的也不难理解。决策树分类的核心在于确定那一个特征的那一个特征值分类最有效，可能不同的场景，每个人采用的衡量方法也不一样，这里我阅读全文

posted @ 2016-10-17 15:53 2BiTT 阅读(3174) 评论(0) 推荐(1)

2016年10月10日

决策树到集成学习

摘要：还是用上一篇文章的例子来阐述从单纯的决策树到集成学习的过程数据集还是100个数据点，分布如下（x，y坐标只保留一位小数）决策树简单的决策树的结果可能是这样的，这是一棵很可能极度过拟合的决策树。决策树生成的逻辑大概是这样的：遍历每个特征的每个特征值，计算最优的特征以及特征值来分割训练集，显然阅读全文

posted @ 2016-10-10 12:58 2BiTT 阅读(1698) 评论(0) 推荐(0)

2016年10月9日

机器学习基本概念和模型训练基本问题

摘要：什么是分类问题，什么是回归问题？以及两者的区别什么是二叉树？二叉树很容易理解，在这里我们一般用满二叉树：就是非叶子节点都有2个分支的树形数据结构什么是决策树？决策树最初是用来做决策用的，就好像下面的见不见相亲对象的决策过程一样；如果把最后的决策结果看成是分类，那么决策树就可以用来分类了，例阅读全文

posted @ 2016-10-09 11:38 2BiTT 阅读(7007) 评论(0) 推荐(1)

2016年10月7日

自动训练（决策树）模型

摘要：项目上要求给出一个可配置的类自动化的流程，下面根据自己的思考给出自动训练模型的部分。决策树模型关键参数有两个：树深度和树棵数（模型训练中称为迭代次数，下称迭代次数）树深度树的深度如何决定，个人觉得：每棵树最好都能用到所有的特征，所以树深度跟特征数相关，对特征个数对2求对数，然后上取整即可 # 阅读全文

posted @ 2016-10-07 14:32 2BiTT 阅读(3439) 评论(1) 推荐(4)

2016年7月26日

python中烦人的锟斤拷（\xef\xbf\xbd）

摘要：首先要知道\xef\xbf\xbd是啥东西由此我们可以知道\xef\xbf\xbd是utf8编码的'\uFFFD'，那么这个'\uFFFD'是啥东西呢？原来是因为Unicode和老编码体系的转化过程中，肯定有一些字，用Unicode是没法表示的，Unicode官方用了一个占位符来表示这些文字，这阅读全文

posted @ 2016-07-26 13:00 2BiTT 阅读(8936) 评论(0) 推荐(0)

2016年7月4日

Leveldb 实现原理

摘要：原文地址：http://www.cnblogs.com/haippy/archive/2011/12/04/2276064.html LevelDb日知录之一：LevelDb 101 说起LevelDb也许您不清楚，但是如果作为IT工程师，不知道下面两位大神级别的工程师，那您的领导估计会Hold不住阅读全文

posted @ 2016-07-04 13:58 2BiTT 阅读(500) 评论(0) 推荐(0)

2016年6月28日

算法杂货铺——分类算法之朴素贝叶斯分类(Naive Bayesian classification)

摘要：算法杂货铺——分类算法之朴素贝叶斯分类(Naive Bayesian classification) 0、写在前面的话我个人一直很喜欢算法一类的东西，在我看来算法是人类智慧的精华，其中蕴含着无与伦比的美感。而每次将学过的算法应用到实际中，并解决了实际问题后，那种快感更是我在其它地方体会不到的。一阅读全文

posted @ 2016-06-28 14:19 2BiTT 阅读(379) 评论(0) 推荐(0)

2016年6月23日

XGBoost参数

摘要： XGBoost参数转自http://blog.csdn.net/zc02051126/article/details/46711047 在运行XGboost之前，必须设置三种类型成熟：general parameters，booster parameters和task parameters： Ge 阅读全文

posted @ 2016-06-23 15:59 2BiTT 阅读(1462) 评论(0) 推荐(0)

公告