max_xbw

摘要： 熵给定一个离散变量，我们观察它的每一个取值所包含的信息量的大小，因此，我们用来表示信息量的大小，概率分布为。当p(x)=1时，说明这个事件一定会发生，因此，它带给我的信息为0.（因为一定会发生，毫无悬念）如果x和y独立无关，那么：他们之间的关系为：（p(x)=1时，h(x)=0，负号为了确保h(x)... 阅读全文