内容发布更新时间 : 2024/11/16 6:39:47星期一 下面是文章的全部内容请认真阅读。
信息论与编码
题号 一 二 三 四 总分 统分人 题分 35 10 23 32 100 得分 一、填空题(每空1分,共35分) 得分| |阅卷人| 1、1948年,美国数学家 发表了题为“通信的数学理论”的长篇论文,从而创立了信息论。信息论的基础理论是 ,它属于狭义信息论。 2、信号是 的载体,消息是 的载体。
3、某信源有五种符号?a,b,c,d,e?,先验概率分别为Pa?0.5,Pb?0.25,Pc?0.125,Pd?Pe?0.0625,则符号“a”的自信息量为 bit,此信源的熵为 bit/符号。
4、某离散无记忆信源X,其概率空间和重量空间分别为?Xx???x12x3?P?????0.50.250.125 x4?0.125?和??Xx?????x?1x23?w??0.512 x4?2?,则其信源熵和加权熵分别为 和 。 ?5、信源的剩余度主要来自两个方面,一是 ,二是 。 6、平均互信息量与信息熵、联合熵的关系是 。 7、信道的输出仅与信道当前输入有关,而与过去输入无关的信道称为 信道。 8、马尔可夫信源需要满足两个条件:一、 ; 二、 。
?0010?9、若某信道矩阵为??1000???0001?,则该信道的信道容量C=__________。 ??0100??10、根据是否允许失真,信源编码可分为 和 。
11、信源编码的概率匹配原则是:概率大的信源符号用 ,概率小的信源符号用 。(填
短码或长码)
12、在现代通信系统中,信源编码主要用于解决信息传输中的 性,信道编码主要用于解决信息传输中的 性,保密密编码主要用于解决信息传输中的安全性。 13、差错控制的基本方式大致可以分为 、 和混合纠错。
14、某线性分组码的最小汉明距dmin=4,则该码最多能检测出 个随机错,最多能纠正 个随机错。 15、码字101111101、011111101、100111001之间的最小汉明距离为 。
16、对于密码系统安全性的评价,通常分为 和 两种标准。
17、单密钥体制是指 。 18、现代数据加密体制主要分为 和 两种体制。 19、评价密码体制安全性有不同的途径,包括无条件安全性、 和 。 20、时间戳根据产生方式的不同分为两类:即 和 。
二、选择题(每小题1分,共10分) 得分| |阅卷人| 1、下列不属于消息的是( )。
A. 文字 B. 信号 C. 图像 D. 语言
2、设有一个无记忆信源发出符号A和B,已知p(A)?134,p(B)?4,发出二重符号序列消息的信源,
无记忆信源熵H(X2) 为( )。
A. 0.81bit/二重符号 B. 1.62bit/二重符号 C. 0.93 bit/二重符号 D . 1.86 bit/二重符号 3、 同时扔两个正常的骰子,即各面呈现的概率都是1/6,若点数之和为12,则得到的自信息为( )。 A. -log36bit B. log36bit C. -log (11/36)bit D. log (11/36)bit
4、 二进制通信系统使用符号0和1,由于存在失真,传输时会产生误码,用符号表示下列事件,x0: 发出一个0 、 x1: 发出一个1、 y0 : 收到一个0、 y1: 收到一个1 ,则已知收到的符号,被告知发出的符号能得到的信息量是( )。
A. H(X/Y) B. H(Y/X) C. H( X, Y) D. H(XY)
5、一个随即变量x的概率密度函数P(x)= x /2,0?x?2V,则信源的相对熵为( )。
A . 0.5bit B. 0.72bit C. 1bit 信息论与编码 D. 1.44bit
6、 下面哪一项不属于熵的性质:
( )
A.非负性 B.完备性 C.对称性 D.确定性
7、根据树图法构成规则, ( ) A.在树根上安排码字 B.在树枝上安排码字 C.在中间节点上安排码字 D.在终端节点上安排码字 8、下列组合中不属于即时码的是( )。
A. { 0,01,011} B. {0,10,110} C. {00,10,11} D. {1,01,00}
?111010?9、 已知某(6,3)线性分组码的生成矩阵G???110001???,则不用计算就可判断出下列码中不是该
?011101??码集里的码是( )。
A. 000000 B. 110001 C. 011101 D. 111111
10、下列保密编码中属于现代密码体制的是( )
A. 凯撒密码 B. Vigenere密码 C. 韦维纳姆密码 D. DES加密算法
三、简答题(四小题,共23分) 得分| |阅卷人| 1、请简述现代密码系统应当满足的条件。(4分)
2、请简述连续信源最大熵定理的主要内容。(6分)
3、请解释最小错误概率译码准则,最大似然译码准则和最小距离译码准则的含义,并说明三者的关系。(5分) 答:
4、已知密钥为yes,请利用多表代换密码中的Vigenere(维吉尼亚)密码原理分别对下列明文和密文进行编码和译码。明文:A Mathematical Theory of Communication; 密文:G ee y hgaxgp (需给出码表或编译码过程,8分)
信息论与编码
四、计算题(四小题,共32分) 得分| |阅卷人| 1、居住在某地区的女孩中有25%是大学生,在女大学生中有75%是身高1.6米以上的,而女孩中身
高1.6米以上的占总数的一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息,问获得
多少信息量?(5分)
2、设离散符号信源为
?X???xx2?P???11/43/4
???,试求:??(1)信源的熵、熵的相对效率以及剩余度; (2)求二次扩展信源的概率空间及其信源熵。(10分)
3、已知6符号离散信源的出现概率为??a1a2aa?111314?24816码字并求其平均码长。(7分)
aa1516??,试写出Huffman编码的3232??
?11001?4、已知一个(5, 3)线性分组码C的生成矩阵为:G???01101???0011?, 1??(1)求系统生成矩阵及校验矩阵;
(2)列出C的信息位与系统码字的映射关系; (3)求收到r=11101时的译码步骤与译码结果。(10分)
2015-2016年第2学期《信息论与编码》期末考试A卷参考答案
一、填空题(每空1分,共35分)
1、 香农、香农信息论; 2、 消息、信息; 3、1、15/8; 4、7/4、9/4; 5、信源符号间的相关