1.3 信息的度量及性能指标

信息：消息中包含的有效内容

度量信息量的原则：

---

 

 

1. 能度量任何消息，并且与消息的种类无关。
2. 度量方法应该与消息的重要程度无关。
3. 消息中所含信息量与消息内容的不确定性有关。

 

 消息所表达的事件越不可能发生，信息量越大。

度量信息量的方法：

事件的不确定程度可以用其出现的概率来描述。

消息出现的概率越小，则消息中包含的信息量就越大。

 

 信息量的定义：

 

 

 在工程应用中，习惯将一个二进制码元称作1比特。

 

 

 

 

 用熵的概念：

 

 

 连续消息的信息量：

 

 通信系统主要性能指标：

---

 

 模拟通信系统

 

 数字通信系统