dnbc66

摘要： 一、首先考虑一个离散的随机变量x；当我们观测到这个随机变量的某一个具体值的时候，我们需要考虑这个值给予了我们多少信息，这个信息的量可以看成是在学习x的值的时候的“惊讶程度”(degree of surprise)。如果我们知道事件A一定会发生，那么我们就不会收到关于该事件的信息；如果一件相当不可能的 阅读全文