标签：
参考书《数据压缩导论（第4版）》 Page 66
2、利用程序huff_enc和huff_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。
（a）对Sena、Sensin和Omaha图像进行编码。
| 图像 | 压缩前 | 压缩后 | 压缩比 |
| SENA | 64kb | 57kb | 89.06% |
| OMAHA | 64kb | 58kb | 90.63% |
| SINAN | 64kb | 61kb | 95.31% |
4、一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母，概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50。
（a）计算这个信源的熵。
（b）求这个信源的霍夫曼编码。
（c）求（b）中代码的平均长度及其冗余度。
(a) H（a）=-∑P(x)logP(x)
= -0.15*log20.15-0.04*log20.04-0.26*log20.26-0.05*log20.05-0.50*log20.50
=0.15* 2.737+0.04*4.644+0.26*1.943+0.05*4.322+0.5*1
=0.411+0.186+0.505+0.216+0.5
=1.82（bits)
（b）a1:001
a2:0000
a3:01
a4:0001
a5:1
（c）平均长度：L = 0.15*3+0.04*4+0.26*2+0.05*4+0.5*1
= 0.45+0.16+0.52+0.2+0.5
= 1.83（bits）
冗余度：L-H(a) = 1.83-1.82 = 0.01（bits）
5、一个符号集A={a1,a2,a3,a4},其概率为P(a1)=0.1,P(a2)=0.3,P(a3)=0.25,P(a4)=0.35,使用以下过程找出一种霍夫曼码：
(a)本章概述的第一种过程；
(b)最小方差过程。
解释这两种霍夫曼码的区别。
（a）第一种霍夫曼码
| P | 霍夫曼码 |
| a1（ 0.1） | 110 |
| a2（ 0.3） | 10 |
| a3（ 0.25） | 111 |
| a4（ 0.35） | 0 |
第二种霍夫曼码
| P | 霍夫曼码 |
| a1（ 0.1） | 00 |
| a2（ 0.3） | 10 |
| a3（ 0.25） | 01 |
| a4（ 0.35） | 11 |
（b）
第一种霍夫曼码平均码长: L = 3*0.1+2*0.3+3*0.25+1*0.35
= 0.35+0.6+0.75+0.3
= 2 (bits)
第二种霍夫曼码平均码长：L = 2*0.1+2*0.3+2*0.25+2*0.35
= 0.2+0.5+0.6+0.7
= 2 (bits)
第一种霍夫曼码方差：S12 = 0.1(3-2)2+0.3(2-2)2+0.25(3-2)2+0.35(1-2)2
= 0.70
第二种霍夫曼码方差：S22 = 0.1(2-2)2+0.3(2-2)2+0.25(2-2)2+0.35(2-2)2
= 0
由于S2<S1,所以第二种霍夫曼编码比第一种编码更好。
参考书《数据压缩导论（第4版）》Page 30
2-6、在本书配套的数据集中有几个图像和语音文件。
(a)编写一段程序，计算其中一些图像和语音文件的一阶熵。
(b)选择一个图像文件，并计算其二阶熵。试解释一阶熵和二阶熵之间的差别。
(c)对于（b）中所用的图像文件，计算其相邻像素之差的熵。试解释你的发现。
| 图像 | 一阶熵 | 二阶熵 | 差熵 |
| EARTH.IMG | 4.770801 | 2.568358 | 3.962697 |
| OMAHA.IMG | 6.942426 | 4.488626 | 6.286834 |
| SENA.IMG | 6.834299 | 3.625204 | 3.856989 |
| SENSIN.IMG | 7.317944 | 4.301673 | 4.541547 |
| BERK.RAW | 7.151537 | 6.705169 | 8.976150 |
| GABE.RAW | 7.116338 | 6.654578 | 8.978236 |
以.IMG为结尾的图像文件的差熵都比一阶熵小，比二阶熵大；
以.RAW为结尾的语音文件的差熵比一阶熵与二阶熵都要大；
所有文件的一阶熵与二阶熵的和都比差熵要大。
标签：
原文地址：http://www.cnblogs.com/yetaihei/p/4812776.html
