2025年11月3日
信息论（一）：从概率开始压缩消息
摘要： 假设一个随机事件，比如说 X，可以取几个可能的值：X ∈ {x₁, x₂, …, xₙ}，每个值都有一个概率 P(xᵢ)。 然后香农问道：当我们得知 X = xᵢ 时，我们能获得多少信息？他将其定义为： I(xᵢ) = -log₂ P(xᵢ) 为什么是负对数？因为，发生概率越低（P 值越小），意外性 阅读全文
posted @ 2025-11-03 22:24 CathyBryant 阅读(14) 评论(0) 推荐(0)