2017年4月3日
如何通俗的解释交叉熵与相对熵
摘要： [From] https://www.zhihu.com/question/41252833/answer/108777563 熵的本质是香农信息量()的期望。现有关于样本集的2个概率分布p和q，其中p为真实分布，q非真实分布。按照真实分布p来衡量识别一个样本的所需要的编码长度的期望(即平均编码长度 阅读全文
posted @ 2017-04-03 17:34 Pekkle 阅读(2180) 评论(1) 推荐(0)