内容发布更新时间 : 2024/5/4 21:27:15星期一 下面是文章的全部内容请认真阅读。

信息论与编码考试试卷

2012——2013学年 第一学期

课程名称：信息论与编码

试卷形式：开卷□闭卷□

试题 得分 一 二 三 四 五 六 七 八 总分 常用对数：log23?1.585

一、 选择题（共10分，每小题2分）

x2x3x4??X??x1、有一离散无记忆信源X，其概率空间为????1，??P??0.50.250.1250.125?则其无记忆二次扩展信源的熵H(X2)=( )

A、1.75比特/符号； B、3.5比特/符号； C、9比特/符号； D、18比特/符号。

0000??P(y1/x1)P(y2/x1)?，00P(y/x)P(y/x)002、信道转移矩阵为?3242???000P(y5/x3)P(y6/x3)??0?其中P(yj/xi)两两不相等，则该信道为

A、一一对应的无噪信道 B、具有并归性能的无噪信道 C、对称信道

D、具有扩展性能的无噪信道

3、设信道容量为C，下列说法正确的是：（ ） A、互信息量一定不大于C

B、交互熵一定不小于C C、有效信息量一定不大于C D、条件熵一定不大于C

4、在串联系统中，有效信息量的值（ ） A、趋于变大 B、趋于变小 C、不变 D、不确定

5、若BSC信道的差错率为P，则其信道容量为：（ ） A、

H?p?

p??1?plog2??1?p?p??? ??B、

C、

1?H?p?

D、?Plog(P)

二、 填空题（20分，每空2分）

1、 (7,4)线性分组码中，接受端收到分组R的位数为____ ，伴随式S可能的值有____ 种,差错图案e的长度为 ，系统生成矩阵Gs为____ 行的矩阵，系统校验矩阵Hs为____ 行的矩阵，Gs和Hs满足的关系式是 。

2、 一张1024×512像素的16位彩色BMP图像能包含的最大信息

量为 。

3、 香农编码中,概率为P(xi)的信源符号xi对应的码字Ci的长度Ki应

满

足

不

等

式 。

?0.250.50.25??，则它是 信0.250.250.53、设有一个信道，其信道矩阵为 ?????0.50.250.25??道（填对称，准对称），其信道容量是 比特/信道符号。

?X??x1x2?三、（20分）????，通过一个干扰信道，接受符号集为??P(X)??0.50.5?Y??y1?1?4y2?，信道转移矩阵为??3??43?4?? 1?4??试求（1）H(X),H(Y),H(XY);（7分） (2) H(Y|X),H(X|Y);（5分） (3) I(Y;X)。（3分） (4)该信道的容量C（3分）

（5）当平均互信息量达到信道容量时，接收端Y的熵H（Y）。（2分） 计算结果保留小数点后2位,单位为比特/符号。

四、（9分）简述平均互信息量的物理意义，并写出对应公式。

五、（10分）假设英文字母表(n=26),密钥k=abc，当明文m=familycome时，使用Vigenere密码算法后得到的密文c=？请写出具体的步骤。

六、（10分）设有离散无记忆信源，其概率分布如下：

?x?X??1????1?P(X)???2x214x3x411816x5132x6164x7??1? 64??对其进行费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。

七、信道编码（21分）

?1?0现有生成矩阵Gs???0??0010000100001110111101?0?? 1??1?

1. 求对应的系统校验矩阵Hs。（2分）