摘要: 方差和熵最近在看主成分分析(PCA)时,在对数据进行压缩时,要求方差最大化,目的是保留数据的更多信息。根据信息论,“ "信息熵" ”用于量化信息,那么这样看来方差和信息熵都可以用于量化信息,那它们有是什么不同呢?为什么它们可以量化信息呢? 一条信息的信息量与其不确定性有着直接的诶关系。比如说,我们... 阅读全文
posted @ 2015-10-18 12:09 zeag 阅读(6415) 评论(0) 推荐(0)