飒白

摘要： 熵在物理中是用于衡量一个热力学系统的无序程度，表达式为△S=Q/T，其中Q是吸收或者释放的热量，T是温度。 计算机领域将其定义为离散随机事件出现的概率。一个系统越是有序信息熵就会越低；反之，系统越是混乱，信息熵就越高。 「联合熵」 两个随机变量X，Y的联合分布可求得联合熵。 「条件熵」 在随机变量X 阅读全文