摘要：JIDT基本介绍 JIDT是 Java Information Dynamics Toolkit的简称，用于研究复杂系统中信息论相关度量的计算，它是一个基于java的开源工具库，也可以在Matlab、Octave、Python、R、Julia和Clojure中使用； JIDT提供了如下计算工具： 信 阅读全文

摘要：基本概念 总结一些基本概念，包括自信息、信息熵、联合熵、条件熵、互信息、条件互信息以及交叉熵等等。 自信息 自信息是对某一事件发生时所带来的信息量做了一个量化。 信息是一个比较抽象的概念，一条信息所包含的信息量和它的不确定性有直接的关系， 而自信息就是把信息的度量等价于对不确定性减少程度的度量。 设 阅读全文