2025年11月21日
信息论（八）：吉布斯不等式的证明
摘要： 吉布斯不等式的证明，我们要证明： $ D_{\text{KL}}(P | Q) = \sum_x P(x) \log \frac{P(x)}{Q(x)} \geq 0 $ 等号成立当且仅当对于所有 $ x，P(x) = Q(x)$。 步骤 1：对数的一个关键性质,我们使用以下不等式： $ \ln t 阅读全文
posted @ 2025-11-21 21:05 CathyBryant 阅读(42) 评论(0) 推荐(0)