2019年12月6日
熵的直观理解
摘要： 熵定义：随机变量的概率分布对应的 **信息量的平均值 ** 就叫做随机变量的熵。 我们暂时把信息看做在学习x的值时候的”惊讶程度” 比如，苹果一定落地，信息量就很小。苹果落到某个盒子，熵也就大了，信息量比较大，不确定性也比较大了。 熵越大随机变量的不确定性就越大。 id3算法的核心就是从根节点开始， 阅读全文
posted @ 2019-12-06 09:53 单例 阅读(209) 评论(0) 推荐(0)