2018年7月17日
自然语言处理之信息论基础
摘要： 熵 如果X是一个离散型随机变量, 取值空间为R, 那么X的熵H(X)定义为式 联合熵和条件熵 如果X,Y是一对离散型随机变量X,Y~p(x, y), X, Y的联合熵H(X,Y)定义为 联合熵就是描述一对随机变量平均所需要的信息量 给定随机变量X, 随机变量Y的条件熵 将联合熵中的log函数展开 将 阅读全文
posted @ 2018-07-17 10:22 微笑sun 阅读(1114) 评论(0) 推荐(0)