MyAJY

摘要： 熵的概念 信息量：衡量一个事件的不确定程度。假设一个事件发生的概率为$p$，则信息量$I=\log \frac{1}{p}=-\log p$ 信息熵：信息量的加权平均，对整个概率分布中的不确定性总量进行量化，即$H(p)=-\sum_{i}p_i\log p_i$ 信息熵又称为香农熵，给出了对依据概 阅读全文