决策树算法1-什么是决策树

• 决策树思想的来源非常朴素，程序设计中的条件分支结构就是if-else结构，最早的决策树就是利用这类结构分割数据的一种分类学习方法
• 决策树：
  • 一种树形结构
  • 每个内部节点表示一个属性上的判断
  • 每个分支代表一个判断结果的输出
  • 最后每个叶节点代表一种分类结果
  • 本质是一颗由多个判断节点组成的树。
• 此时需要用到信息论中的知识：信息熵，信息增益