内容发布更新时间 : 2024/12/27 18:37:29星期一 下面是文章的全部内容请认真阅读。
信息论与编码考试试卷
2012——2013学年 第一学期
课程名称：信息论与编码
试卷形式：开卷□闭卷□
试题 得分 一 二 三 四 五 六 七 八 总分 常用对数：log23?1.585
一、 选择题（共10分，每小题2分）
x2x3x4??X??x1、有一离散无记忆信源X，其概率空间为????1，??P??0.50.250.1250.125?则其无记忆二次扩展信源的熵H(X2)=( )
A、1.75比特/符号； B、3.5比特/符号； C、9比特/符号； D、18比特/符号。
0000??P(y1/x1)P(y2/x1)?，00P(y/x)P(y/x)002、信道转移矩阵为?3242???000P(y5/x3)P(y6/x3)??0?其中P(yj/xi)两两不相等，则该信道为
A、一一对应的无噪信道 B、具有并归性能的无噪信道 C、对称信道
D、具有扩展性能的无噪信道
3、设信道容量为C，下列说法正确的是：（ ） A、互信息量一定不大于C
B、交互熵一定不小于C C、有效信息量一定不大于C D、条件熵一定不大于C
4、在串联系统中，有效信息量的值（ ） A、趋于变大 B、趋于变小 C、不变 D、不确定
5、若BSC信道的差错率为P，则其信道容量为：（ ） A、
H?p?
p??1?plog2??1?p?p??? ??B、
C、
1?H?p?
D、?Plog(P)
二、 填空题（20分，每空2分）
1、 (7,4)线性分组码中，接受端收到分组R的位数为____ ，伴随式S可能的值有____ 种,差错图案e的长度为 ，系统生成矩阵Gs为____ 行的矩阵，系统校验矩阵Hs为____ 行的矩阵，Gs和Hs满足的关系式是 。
2、 一张1024×512像素的16位彩色BMP图像能包含的最大信息
量为 。
3、 香农编码中,概率为P(xi)的信源符号xi对应的码字Ci的长度Ki应
满
足
不
等
式 。
?0.250.50.25??，则它是 信0.250.250.53、设有一个信道，其信道矩阵为 ?????0.50.250.25??道（填对称，准对称），其信道容量是 比特/信道符号。
?X??x1x2?三、（20分）????，通过一个干扰信道，接受符号集为??P(X)??0.50.5?Y??y1?1?4y2?，信道转移矩阵为??3??43?4?? 1?4??试求（1）H(X),H(Y),H(XY);（7分） (2) H(Y|X),H(X|Y);（5分） (3) I(Y;X)。（3分） (4)该信道的容量C（3分）
（5）当平均互信息量达到信道容量时，接收端Y的熵H（Y）。（2分） 计算结果保留小数点后2位,单位为比特/符号。
四、（9分）简述平均互信息量的物理意义，并写出对应公式。
五、（10分）假设英文字母表(n=26),密钥k=abc，当明文m=familycome时，使用Vigenere密码算法后得到的密文c=？请写出具体的步骤。
六、（10分）设有离散无记忆信源，其概率分布如下：
?x?X??1????1?P(X)???2x214x3x411816x5132x6164x7??1? 64??对其进行费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。
七、信道编码（21分）
?1?0现有生成矩阵Gs???0??0010000100001110111101?0?? 1??1?
1. 求对应的系统校验矩阵Hs。（2分）