LeonYi

【数据结构】哈夫曼树与哈夫曼编码(Huffman Encoding)

一、背景

编码是信息处理的基础（重新表示信息）。
普通的编码是等长编码，例如7位的ASCIL编码，对出现频率不同的字符都使用相同的编码长度。但其在传输和存储等情况下编码效率不高。
可使用不等长编码，来压缩编码：高频字符编码长度更短，低频字符编码长度更长。
 
[例] 将百分制的考试成绩转换成五分制的成绩
0
按顺序分别编码。
0
按频率分别编码（高频短编码，类似于香农熵衡量随机变量的编码长度下界）。
这种贪心思想，可以找到一种平均最短编码长度-霍夫曼编码。可将构造平均最短编码转化为，构造平均查找长度最小的编码树（构造更有效的搜索树）

二、哈夫曼树

哈夫曼树的定义
0
带权路径长度就是所有叶子节点的编码长度乘以权重的和。 希望权重越高的叶子节点，编码长度越小。
[例] 有五个叶子结点，它们的权值为{1,2,3,4,5}，用此权值序列可以构造出形状不同的多个二叉树。
0
哈夫曼树的构造
初始全是只有一个节点的树构成的森林 （优先队列存放树的根节点，每次合并后将新的树插入队列）
0
每次把权值最小的两棵二叉树合并 （自底向上）
 
使用最小堆，Huffman树为二叉树
typedef struct TreeNode *HuffmanTree;
struct TreeNode{
    int Weight;
    HuffmanTree Left, Right;
};

/* WPL WeightPathLength Cost越小编码越有效， O(NlogN) */ 
HuffmanTree Huffman( MinHeap H )
{ 
  /* 假设H->Size个权值已经存在H->Elements[]->Weight里 */
    int i; 
    HuffmanTree T;
    BuildMinHeap(H); /* 将H->Elements[]按权值调整为最小堆 */
    /* 做 H->Size - 1 次合并 */
    for (i = 1; i < H->Size; i++) 
{ 
         T = malloc( sizeof( struct TreeNode) ); /* 建立新结点 */        
         T->Left = DeleteMin(H);  /* 从最小堆中删除一个结点，作为新T的左子结点 */
         
         T->Right = DeleteMin(H);
 /* 从最小堆中删除一个结点，作为新T的右子结点 */        
         T->Weight = T->Left->Weight + T->Right->Weight; /*计算新权值*/

         Insert( H, T ); /*将新T插入最小堆*/
     }
     T = DeleteMin(H);
     
    return T;


int WPL( HuffmanTree H )
{
    return H->Weight;
}

　　

哈夫曼树的特点
  • 没有度为1的结点；
  • 哈夫曼树的任意非叶节点的左右子树交换后仍是哈夫曼树；
  • n个叶子结点的哈夫曼树共有2n-1个结点；
对同一组权值{w1 ,w2, …… , wn}，是否存在不同构的两棵哈夫曼树呢？存在，当存在相同权值的根节点时。
对一组权值{ 1, 2 , 3, 3 }}，不同构的两棵哈夫曼树：
0
哈夫曼编码
给定一段字符串，如何对字符进行编码，使得该字符串的编码存储空间最少？
[例] 假设有一段文本，包含58个字符，并由以下7个字符构：a，e，i， s，t，空格（sp），换行（nl）；这7个字符出现的次数不同。如何对这7个字符进行编码，使得总编码空间最少？
[分析]
（1）用等长ASCII编码：58 ×8 = 464位；
（2）用等长3位编码：58 ×3 = 174位；
（3）不等长编码：出现频率高的字符用的编码短些，出现频率低的字符则可以编码长些？
 
怎么进行不等长编码？如何避免二义性？
  • 前缀码prefix code：任何字符的编码，都不是另一字符编码的前缀
可以无二义地解码（判定字符是否都在叶结点上，没有字符在路径上，不然解码时会有歧义）
 
用二叉树进行编码：1）左右分支：0、1; 2）字符只在叶结点上
[例] 四个字符的频率: a:4, u:1, x:2, z:1
0
〖例〗哈夫曼编码
0
 
题外话，这种使用优先队列的方法，在层次聚类里也有。
posted @ 2023-04-15 22:41  LeonYi  阅读(305)  评论(0)  编辑  收藏  举报