第二次作业

标签：

2、利用程序huff_enc和huff_dec进行以下操作（在每种情况下，利用由被压缩图像生成的码本）。

（a）对Sena、Sensin和Omaha图像进行编码。

4.一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母，概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50。

（a）计算这个信源的熵。

答：

 H=-ЕP(a_i)logP(A_i)

=-( P(a₁)log₂P(a₁)+P(a₂)log₂P(a₂)+P(a₃)log₂P(a₃)+P(a₄)log₂P(a₄)+P(a5)log₂P(a5) )

= -0.15log₂ (0.15)-0.04log₂ (0.04)-0.26log₂ (0.26)-0.05log₂ (0.05)-0.50log₂ (0.50)

=0.41+0.19+0.51+0.22++0.50

=1.817(bits)

（b）求这个信源的霍夫曼编码。

解：

         所以：

         a₁的霍夫曼编码为001

         a₂的霍夫曼编码为0000

          a₃的霍夫曼编码为01

          a₄的霍夫曼编码为0001

          a₅的霍夫曼编码为1

（c）求（b）中代码的平均长度及其冗余度。

            平均码长：L=1*0.5+2*0.26+3*0.15+4*0.05+4*0.04=1.83(bits/symbol)

            冗余度：L-H=0.013(bits/symbol)

5.一个符号集A={a1,a2,a3,a4},其概率为P(a1)=0.1,P(a2)=0.3,P(a3)=0.25,P(a4)=0.35,使用以下过程找出一种霍夫曼码：

(a)本章概述的第一种过程；

答：（a）

        1.将每个符号出现的概率大小按照从小到大的顺序从上到下排列。

        2.将最小的两个符号的概率相加，并继续这一步骤，始终将较高的概率分支放在下部，得到新的概率。

        3.再将得到的这个新的概率放到剩下的符号的概率中进行比较重复步骤1、2，直到最后相加的概率为1。

       4.再进行步骤1、2的时候，在每对组合中的指定为0，下部指定为1。

        5.画出每个信源符号概率到1处的路径，记下沿路径的1和0。

        6.则从右到左就得到霍夫曼编码。

 平均码长：L=1*0.35+2*0.3+3*0.25+3*0.1=2

S²=0.1(3-2)²+0.3(2-2)²+0.25(3-2)²+0.35(1-2)²

         =0.70

（b）最小方差过程

      平均码长l=0.1*2+0.3*2+0.25*2+0.35*2=2

S²=0.1(2-2)²+0.3(2-2)²+0.25(2-2)²+0.35(2-2)²

         =0

（a）（b）比较因此、最小方差树是第二种！

                           得到：a1：00，a2：10，a3:01，a4：11。

                           平均码长：L=2*0.35+2*0.3+2*0.25+2*0.1=2

                           方差：S²=0.1(2-2)²+0.3(2-2)²+0.25(2-2)²+0.35(2-2)²=0

6. 在本书配套的数据集中有几个图像和语音文件。

       (a)编写一段程序，计算其中一些图像和语音文件的一阶熵。

       (b)选择一个图像文件，并计算其二阶熵。试解释一阶熵和二阶熵之间的差别。

       (c)对于（b）中所用的图像文件，计算其相邻像素之差的熵。试解释你的发现。

        答：

第二次作业

标签：

原文地址：http://www.cnblogs.com/zhaoyue1/p/4813589.html