Gip

摘要： 1.设X 是一个随机变量，取值范围是一个包含M个字母的符号集。证明0 ≤H(X) ≤log2M 。 2.证明如果观察到一个序列的元素为iid 分布，则该序列的熵等于一阶熵。 证明： 如果序列{X1，X2，.....,Xn}中每个元素为独立同分布（iid），则 Gn = -n∑i=m i=1 p(X1 阅读全文