2016年2月20日
决策树与熵
摘要： 一.熵 自然界中的熵: 自封闭系统的运动总是倒向均匀分布: 1.自信息: 信息: i(x) = -log(p(x)) a.如果说概率p是对确定性的度量 b.那么信息就是对不确定性的度量 c.当一个小概率事件发生了，这个事件的信息量很大；反之如果一个大概率事件发生了，这个事件的信息量就很少。 2.熵： 阅读全文
posted @ 2016-02-20 15:22 xmeo 阅读(5285) 评论(0) 推荐(0)