摘要：【信息论】信息熵、损失熵、噪声熵和互信息量 原文链接：https://www.cnblogs.com/Baiyug/p/16908846.html 1 信息熵 信息熵（entropy）表征了某个信息的平均不确定度，是信息自信息量的数学期望。例如，某个信源发出L个信息序列（即L个信息符号），每个信息符 阅读全文