abaelhe

摘要： 信息量 在讨论什么是信息熵之前，我们先了解一下什么是信息量。 信息量可以用来用来衡量一个事件发生的惊奇程度。 事件发生的概率越低，该事件发生对应的惊奇程度越高。 比如，事件“天上出彩虹”就比事件“天上下雨”更令人惊奇， 因为前者的发生概率远远小于后者。 一个系统，包括的等可能事件的数量越多，事件的发 阅读全文