lanlancky

摘要： 信息熵概念 信息熵是指信号源（信源）的信息量。设有一个离散信源，{$X_i$},i=1,2..,N，它产生消息的概率是已知的，记为，P({$X_i$})），$\sum_{i=1}^{N} P(X_i)=1 $，则信息量定义为：$I(X_i)=\log_{2}{\frac{1}{P(X_i)} } = 阅读全文