2019年9月1日
机器学习——信息熵
摘要： 信息熵在信息论中代表的是随机变量的不确定度的度量 1、熵越大，数据的不确定性越高，无规则运动越剧烈 2、熵越小，数据的不确定性越低 信息熵公式： 式子表示这个样本中有k类，pi表示第i类数据在总体中的占比。 负号是因为pi属于0到1之间，那么log（pi）就小于零，所以加一个负号。 举个栗子： 可以 阅读全文
posted @ 2019-09-01 09:40 喵喵喵喵？ 阅读(626) 评论(0) 推荐(0) 编辑