信息论基础答案6
《信息论基础》试卷答案
一、填空题(共15分,每空1分)
1,当(R=C或信道剩余度为0)时,信源与信道达到匹配。
2,若高斯白噪声的平均功率为6W,则噪声熵为(1/2log12e=3。337bit/自由度) 如果一个平均功率为9W的连续信源的熵等于该噪声熵,则该连续信源的熵功率为(6W)
3,信源符号的相关程度越大,信源的符号熵越(小),信源的剩余度越(大)
4,离散无记忆信源在进行无失真变长信源编码时,码字长度是变化的。根据信源符号的统计特性,对概率(大)的符号用短码,对概率(小)的符号用长码,从而减少平均码长,提高编码效率。
8,香农第一编码定理指出平均码长的理论极限值为(信源熵H(S)/logr或HR(S)), 此时编码效率为(1)
9,在下面空格中选择填入数学符号“=,,,” 9.1 H2(X)=H(X1X29.2 H (XY) = H(Y)+H(X/Y) H(Y)+H(X)
Xx1x2x3x4
,10,有一信源X,其概率分布为若对该信源进行100次扩展,
P1/21/41/81/8
其每扩展符号的平均信息量是(175bit/扩展符号)
11当(概率为独立等概)时,信源熵为最大值,8进制信源的最大熵为(3bit/符号) 二、判断题(本大题共5小题,每小题1分,共5分)
1)噪声功率相同的加性噪声信道中以高斯噪声信道的容量为最大()
2)即时码可以在一个码字后面添上一些码元构成另一个码字() 3)连续信源的熵可正可负可零() 4)平均互信息始终是非负的()
5)信道容量C只与信道的统计特性有关,而与输入信源概率分布无关() 三、(10分)计算机终端发出A.B.C.D.E五种符号,出现概率分别为1/16,1/16,1/8,1/4,1/2.通过一条带宽为18KHz的信道传输数据,假设信道输出信噪比为2047,试计算:
1)香农信道容量;
2)无误码传输的最高符号速率。
(1) CtBlog21
S
18log22048198kbit/sN
(2)RBmax
《信息论基础》试卷第1页
CtHx
,
Hx
1111151
H,,,,
81616842
RBmax
198k158
1.05610Baud
5
四、(10分)有一信源发出恒定宽度,但不同幅度的脉冲,幅度值x处在a1,a2之间。此信源连至信道,信道接收端接收脉冲的幅度y处在b1,b2之间。已知随机变量x和y
的联合概率密度函数p(x,y)1/(a2a1)(b2b1) 试计算h(x),h(y)h(xy)和I(x;y)
1
a1xa2
p(x)a2a1
0,其他
由p(x,y)得
1
,b2xb2
bbpy210,其他
可见,p(xy)p(x)p(y),x和y相互独立,且均服从均匀分布, h(x)log(a2a1)bit/自由度 h(y)log(b2b1)bit/自由度
h(xy)h(x)h(y)log(a2a1)(b2b1)
I(x,y)0
五、(10分)设某信道的传递矩阵为
0.8
p
0.1
0.10.1
0.1
0.8
计算该信道的信道容量,并说明达到信道容量的最佳输入概率分布,该信道为准对称信道,
(1)两个对称信道矩阵为
0.80.1
0.10.80.80.1
0.10.1
和 0.80.1
N1=0.8+0.1=0.9,N2=0.1; M1=0.9,M2=0.2
∴Clog2H(0.8,0.1,0.1)0.9log0.90.1log0.20.447bit/符号
最佳输入概率分布为输入等概率,即 p(x1)p(x2)=1/2 六、(10分)设随机变量x和y的联合概率分布如下所示:
《信息论基础》试卷第2页
已知1) 2)
H(x)=H(1/3,1/3)=0.9183bit/符号
H(z)=H(2/3,1/3)=0.9183bit/符号3)H(xy)=H(1/3,1/3,0,1/3)=1.58496 bit/每对符号 4)
xz P(xz) 00 2/3 01 0 10 0 11 1/3
H(xz)=H(2/3,1/3)bit/每对符号 H(x|z)=H(xz)-H(z)=0 5)
I(x,y)=H(x)+H(y)-H(xy) =0.25164bit/符号 七 (20) 一个离散无记忆信源
x1x
p(x)1/16
x21/16
x31/16
x41/16
x51/4
x6 1/2
z=xy,计算H(X),H(Z),H(XY),H(X/Z),I(x;y)
1) 2) 3) 1)
求H(x)和冗余度;(4分) 编成Fano码,计算编码效率;(8分)
编成Huffman码,计算编码效率。(8分)
H(x)=H(1/16,1/16,1/16,1/16,1/4,1/2)=2bit
v1
H(x)log6
22.6
﹪
2)
《信息论基础》试卷第3页
x6
2
14
116
x5x4x3x2
10
11001
1101
1
1
116116116
1
1
11101111
3)
x6x5x4x3x2
x1
x1
1/21/4
1/161/161/161/16
10
1/21/41/8
1/161/16
1
1/21/41/81/8
10
1/21/41/4
10
1/21/2
[***********]1
1
L1
12
2
14
44
12
2
H(x)L
100%
八 (10分) 设一个离散无记忆信源的概率空间为
0.9
0.1
xx1
p(x)0.2x2
,它们通过0.8
干扰信道,信道矩阵为P。信道输出符号集Yy1
0.30.7
(1)信源X的信息熵;(2分)
(2)收到信息y2后,获得关于x1的信息量;(2分) (3) 共熵H(XY);(2分)
(4)信道疑义度H(X|Y);(2分)
y2,试计算:
(5) 收到消息Y后获得的关于信源X的平均信息量。(2分)
P(xy) y1 x1
y2
0.9×0.2 0.1×0.2
《信息论基础》试卷第4页
x2 0.3×0.8 0.7×0.8
(1) H(x)=H(0.2,0.8)=0.722bit/符号
(2) I(x1;y2)=I(x1)-I(x1|y2)=log1/0.2-log0,58/0.02=-2.536bit/符号 (3) H(xy)=H(0.18,0.02,0.24,0.56)=1.52076bit/每对符号 (4) H(x|y)=H(xy)-H(y)=1.52076-H(y) H(y)=H(0.42,0.58)=0.98145 H(x|y)=0.53936bit/符号 (5)I(X:Y)=H(x)+H(y)-H(xy)
=H(x)-H(x|y)
=0.722-0.5393=0.1827bit/符号
九 (10分) 有一个二元马尔科夫信源,其状态转移概率如图所示,括号中的数表示转移时发出的符号。试计算
(1) 达到稳定后状态的极限概率 (2) 该马尔科夫信源的极限熵H。
s0
s10.50.50.5
s20.500.5
(1) p
s0s1s2
00.50
P(s0)=0.5P(s1)
0.5(p(s0)+p(s1)+p(s2))=p(s1) 0.5(p(s0)+p(s2))=p(s2) P(s0)+p(s1)+p(s2)=1 得 p(s0)=0.25; P(s1)=0.5; P(s2)=0.25;
(2)H=1/4H(0.5,0.5)+1/2H(0.5,0.5)+1/4H(0.5,0.5)=1/4+1/2+1/4=1bit/符号
《信息论基础》试卷第5页
相关文章
- 20**年信息技术考试(含答案)
- 华师16秋[信息管理学基础]在线作业
- 第二章财务分析信息基础习题答案
- 护理学基础在线作业答案在线作业二
- 工程造价管理(专科)
- BB平台电子商务基础测试题答案 第二章 电子商务模式
- 20**年11月人力资源三级考试题及答案及答案.
- 20**年管理信息系统概论作业及答案
- 中国电信知识普及100题
- 电子商务技术基础课后习题及答案
2016年信息技术考试 一.判断题 (本大题共25小题,每小题2分,共50分) 1.网站发布后经营者最希望的就是有更多的人很快就知道自己的网站.( ) 正确 错误 (参考答案) :正确 2.稀缺性是一切经济资源共有的特征.( ) 正确 错误 ...
一.单选题(共 15 道试题,共 30 分.) V 1. 经济学家将知识产权视为一种( ) . 永久产权 . 固定产权 . 不定产权 . 易逝产权 标准答案: 2. 信息由信息生产者直接流向信息利用者,称为信息传递的( ) . 正规渠道 . ...
第二章财务分析信息基础作业答案 单选题 1. 在各项财务分析标准中,可比性较高的是( ) A .经验标准 B .历史标准 C .行业标准 D .预算标准 [答案]B 2. 为了评价判断企业所处的地位与水平,在分析时通常采用的标准是( ) A ...
护理学基础在线作业答案 在线作业二 (一) 单选题 1. 足底用冷可引起( ). (A) 腹泻 (B) 反射性心率减慢 (C) 心房纤颤 (D) 一过性冠状动脉收缩 (E) 室性早搏 参考答案: (D) 没有详解信息! 2. 心包积液患者常 ...
(一) 单选题 1. 预算定额中人工工日消耗量可以采用( )确定. (A) 估计法 (B) 以概算定额中的人工定额为基础 (C) 工作研究法 (D) 以施工定额的劳动定额为基础 参考答案: (D) 没有详解信息! 2. 工程建设其他费用定额 ...
B2B 的细分模式中,内联网模式又称为( ) 所选答案: 正确答案: C. 卖方集中模式 C. 卖方集中模式 表示企业与企业间的电子商务的英文缩写是 ( ) 所选答案: 正确答案: C. B2B C. B2B 一个买家与多个卖家之间的交易模 ...
2015年11月人力资源管理师三级考试题 卷册一:理论题 第二部分 理论知识 (第26-125题,共100道题,满分为100分) 一.单项选择题(第26-85题,每题1分,共60分.每小题只有一个最恰当的答案,请在答题卡上将所选答案的相应字 ...
窗体顶端 您的本次作业分数为:97分 单选题 1. [第1章]管理信息系统科学的三要素是_________. A 计算机技术.管理理论和管理方法 B 管理方法.运筹学和计算机工具 C 系统的观点.数学方法和计算机应用 D 计算机技术.通信技 ...
中国电信知识普及100题 1.中国电信的企业使命是什么? [答案]让客户尽情享受信息新生活 2.中国电信的战略目标是什么? [答案]做世界级综合信息服务提供商 3.中国电信的核心价值观是什么? [答案]全面创新.求真务实.以人为本.共创价值 ...
电子商务技术基础课后习题及参考答案 第一章:参考答案 1.传统的商务与现代电子商务有什么区别? 参考答案:电子商务将传统商业活动中物流.资金流.信息流的传递方式利用网络科技整合,企业将重要的信息通过全球信息网(WWW).企业内部网(intr ...