雨后观山色

摘要： 1.决策树的缺点 上图，红色圈的部分就是剪枝的部分，进行后剪枝。 2.剪枝 3.随机森林 注意：随机森林所做的修改就是从所有属性中选择k个属性，再从k个属性中选择最佳的分割属性。 4.代码示例 (1)决策树案例 #!/usr/bin/python # -*- coding:utf-8 -*- imp 阅读全文

摘要： 1.主要内容 案例引出： 2.条件熵 定义： 条件熵的定义式推导： 上图以出去打网球的案例为例，根节点的熵是大于0的，最底层的子节点的熵是等于0的，以信息熵为度量，构造一颗熵值下降最快的树。 3.决策树 (1)决策树的样式 (2)决策树的定义 (3)决策树算法的特点 (4)生成决策树的算法 (5)互 阅读全文