摘要： 1、熵和信息量有一组离散符号集{v1,v2,...,vm},每个符号具有相应概率Pi,为衡量这组符号组成的特定序列的随机性(不确定性或不可预测性)，定义离散分布的熵：，对数以2为底，熵的单位的“比特”，当连续情况时，底数为e，单位为“奈特”。对于回答是否问题时，每个可能答案出现概率为0.5，那么此时... 阅读全文