摘要：信息熵： （看之前可以了解一下信息熵的创始人：克劳德·艾尔伍德·香农（Claude Elwood Shannon ，1916年4月30日—2001年2月24日）） 先给出信息熵的公式： 其中：𝑝(𝑥𝑖)代表随机事件𝑥𝑖的概率。 下面逐步介绍信息熵公式来源！ 首先了解一下信息量：信息量是对信 阅读全文