2015年9月27日
对熵和自信息的理解
摘要： 先说自信息，自信息是描述一个事件不确定度的大小（描述随机变量带来的信息大小）书上说是描述随机变量的不确定性的数量（不确定性的数量神马意思嘛），一个事件的不确定度越大，它带来的自信息也就越大，公式：-logp(x) 或者 log1/p(x) （在计算机领域里log都是以2为低的）比如说某一随机变量的... 阅读全文
posted @ 2015-09-27 20:05 奋斗中的菲比 阅读(1478) 评论(0) 推荐(0) 编辑