2019年11月26日
熵、交叉熵、KL散度、JS散度
摘要： 熵、交叉熵、KL散度、JS散度 一、信息量 事件发生的可能性大，信息量少；事件发生的可能性小，其信息量大。 即一条信息的信息量大小和它的不确定性有直接的关系，比如说现在在下雨，然后有个憨憨跟你说今天有雨，这对你了解获取天气的信息没有任何用处。但是有人跟你说明天可能也下雨，这条信息就比前一条的信息量大 阅读全文
posted @ 2019-11-26 20:18 Mrfanl 阅读(1902) 评论(0) 推荐(1) 编辑