信息论与编码-曹雪虹-第五章-课后习题答案 下载本文

内容发布更新时间 : 2024/11/16 19:06:47星期一 下面是文章的全部内容请认真阅读。

第五章 --习题答案

5-1 将下表所列的某六进制信源进行二进制编码,试问: 消息 概率 C2 C3 C1 u1 1/2 000 0 0 u2 1/4 001 01 10 u3 1/16 010 011 110 u4 1/16 011 0111 1110 u5 1/16 100 01111 11110 u6 1/16 101 011111 111110 (1) 这些码中哪些是唯一可译码? (2) 哪些码是非延长码?

(3) 对所有唯一可译码求出其平均码长和编译效率。 解:首先,根据克劳夫特不等式,找出非唯一可译码

C4 0 10 1101 1100 1001 1111 C5 1 000 001 010 110 110 C6 01 001 100 101 110 111 C1:6?2?3?1C2:2?1?2?2?2?3?2?4?2?5?2?6?63?164C4:2?1?2?2?4?2?4?1C3:C5:2?1?5?2?3?1C6:2?2?5?2?3?1?C5不是唯一可译码,而C4:

又根据码树构造码字的方法

63?164

C1,C3,C6的码字均处于终端节点 ?他们是即时码

5-2

(1) 因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms, 所以每个字母用10ms 当信源等概率分布时,信源熵为H(X)=log(4)=2 平均信息传递速率为 (2) 信源熵为 H(X)= 5-5

(1) H(U)=

12Log(2)?14Log(4)?18Log(8)?116Log(16)?132Log(32)?164Log(64)?1128Log(128)?1128Log(128)?1.984

11111111248163264128128bit/ms=200bit/s

=0.198bit/ms=198bit/s

(2) 每个信源使用3个二进制符号,出现0的次数为

出现1的次数为

P(0)= P(1)= (3)

(4) 相应的香农编码 信源符号xi x1 x2 x3 x4 x5 x6 x7 x8 符号概率pi 1/2 1/4 1/8 1/16 1/32 1/64 1/128 1/128 累加概率Pi 0 0.5 0.75 0.875 0.938 0.969 0.984 0.992 -Logp(xi) 1 2 3 4 5 6 7 7 码长Ki 1 2 3 4 5 6 7 7 码字 0 10 110 1110 11110 111110 1111110 11111110

相应的费诺码

信源符号概符号xi 率pi x1 x2 x3 x4 x5 x6 x7 x8 1/2 1/4 1/8 1/16 1/32 1/64 1/128 1/128 1 1 1 第一次分组 0 第二次分组 0 第三次分组 0 第四次分组 0 第五次分组 0 1 1 第六次分组 0 1 第七次分组 0 1 二元码 0 10 110 1110 11110 111110 1111110 11111110

(5)香农码和费诺码相同 平均码长为

编码效率为: 5-11

(1)信源熵

(2)香农编码:

信源符号xi x1 x2 x3 x4 x5 x6 平均码长:

编码效率为

(3) 费诺编码为 信源符号xi x1 符号概率pi 0.32 1 0 2 0 3 4 编码 00 码长 2 符号概率pi 0.32 0.22 0.18 0.16 0.08 0.04 累加概率Pi 0 0.32 0.54 0.72 0.88 0.96 -Logp(xi) 1.644 2.184 2.474 2.644 3.644 4.644 码长Ki 2 3 3 3 4 5 码字 00 010 100 101 1110 11110