信息编码习题答案或提醒(2)

YX 接收至信息后拿到的平均互信息量。 0.737I(x)1.322 21 325 log0.47399 1211255 35 (比特/符号),6I(a;b) log 1.2631612225 4I(a;b)log 1.2631621235 3(比特/符号) 4I(a;b) log 0.90698222 25(3) 0.971( 比特/ 符号) ，0.971( 比特/ 符号) 比特/符号) H(XY)1.6856， H(YX) H(XY) 0.7146H(XY)(5) 0.2564 比特/符号 21 34,P(1)14, 求H(X),HXY,HYX 0.8113比特 /符号，0.7498 比特/符号，0.9183 比特/符号答案提示，0.0615 比特/符号， 0.0818比特/符号，p(0)=p(1)=1/2 3.3设有一批电阻，按电压分 70%是，30%是； 64%是1/8W，5k 2k 其余是 1/4W。 现已知电压的阻值中 80%是 1/8W。问通过测 量阻值能 2k 以得到的关于瓦数的平均信息量 是多少？ 解：设随机变量 表示电压的电阻，则其概率分布为Xx(1/8)x(1/4)Yy(2k )y(5K 已知，由概率的归一性：p(xy) 0.8p(xy) 0.21121 1,2ijijip(xy)0.5611p(xy) 0.08 12p(xy) 0.1421p(xy) 0.2222p(xy) ij411p(xy) p(xy) ,p(xy) ij121515p(y)22j 代入条件熵计算 公式得: (比特/符号) H(XY) 0.75634 3.4 参见 教材第二章相关内容。

3.5 参见教材第二章 相关内容。 0.980.02 3.6有一个二元对称信 道，其信道矩阵为。设该信源以 1500 速度存储输入符号。现有一消息序列共有 14000 个二元符号，并设 信息存储的视角来考量，10秒钟内能够将那 消息序列 p0p1 信道容量C=0.8586 比特/信道符号，则每秒 钟能传送的信息量为 15000.859=1288.5 比特， 10 秒钟最大可传送的信息量为 12885 比特， 而待传送的信息量为 14000 比特，因此，10 秒钟内不能无失真的传送完毕。 3.7 材例题3.2.1和3.2.2。 3.8已知一个高斯信道，输入信噪比(比率)为 3。频带为 3kHz，求最大可能传送的信息率。 若信噪比提升至 15，理论下传送同样的信息 率所需的频带为多少？ 提示：由型(3.5.13)可 比特/秒33XC wlog(1 10log(1 10t22PN(2) 1.5kH 3.11已知 P(X)0.10.3 0.2 0.4 “输入，输出”的概率；ba23 “输出”的概率； b4 ba32解：由信道矩阵的概念跟概率论可得 p(ab)p(a)p(ba) 0.04323234 2320.1364p(b) 0.22,p(ab) 323p(b)3 3.12 证明：当信道每输入一个值，相应有几个值输出，且不同的值所 XYX 对应的值不互相重叠 HYHX HYX证明：因为， 并且由已知可得I(X;Y) 10，所以有 3.14试求下列各信道矩阵代表的 信道的容量： bbb123a 0a010 1a010 0a001 a001 比特/信道符号，1.585 比特/ 信道符号，1.585 比特/信道符号 3.15 此题很简单，略。

3.16 参见教材相关疑问的证明过程。 3.17 见教材 证明。 3.18 设加性高斯白噪声信道中，信道带宽3kHz，又设{(信号功率 +噪声功率)/ 噪声功率}=10dB。试计算该信道的最大信息存储速度。 Ctx 提示：的 dB 1010log(1 10C2tPPNN3.19 11第四章习题 0123X 4.1一个四元对称信源，接 及信源的RDD maxmin D)ln(1D)奈特/符号 minmax431113。 4324X0 11 为求信源的最大失真度和最小平均失真度，并求选择何种信道能1D 对应的试验信道不是唯一的，但满足 2i2010aX 4.3某二元信源 其失真矩 minmzx4.4 已知信源而且失，信宿。设 信源输入符号为等概率分布，X 0,1-Y 0,1,2- 12 4.7参见教材p110. 4.8 1/6为“雨天”，把“雨天”预报为“晴天”造成的损失均为元。又设该地区的天气 0.9；把“晴天”预报为“雨天”，把“雨天”预报为“晴天”的概率均为0.1。 试计算这些预报系统的信息价值率(元/比特)。 提示：天气信源：，预报信道矩阵：，失真矩阵： 510.90.10 4.10设离散无记忆信源其失真度为汉明失真度。

y …………………………………………………………………… 3007 .5 无失真离散信源编码定理简介 …………………………………………………… 3027 .6 无失真离散信源编码 ……………………………………………………………… 3047 .7 信息率失真 r d 函数 …………………………………………………………… 3 107 .8 限失真信源编码定理与限失真信源编码 ………………………………………… 3 147 .9 连续信源的限失真编码 …………………………………………………………… 3 157 .10 相关信源的限失真信源编码……………………………………………………… 336习 题 ……………………………………………………………………………………… 353 第八章 信 道8 .1 引 言 ……………………………………………………………………………… 357 Ⅳ8 .2 信道的定义和分类 ………………………………………………………………… 3578 .3 通信信道实例 ……………………………………………………………………… 3588 .4 信道的数学建模 …………………………………………………………………… 3608 .5 恒参信道特性以及对信号存储的妨碍 …………………………………………… 3628 .6 随参信道特性以及对信号存储的妨碍 …………………………………………… 366 8 .7 分集接收 …………………………………………………………………………… 371 8 .8 信道容量 …………………………………………………………………………… 372 8 .9 信道复用 …………………………………………………………………………… 376 习 题 ……………………………………………………………………………………… 378 第九章 信道编码9 .1 信道编码的基本概念 ……………………………………………………………… 3819 .2 线性分组码 ………………………………………………………………………… 387 9 .3 循环码 ……………………………………………………………………………… 3989 .4 bch 码 ……………………………………………………………………………… 4149 .5 卷积码 ……………………………………………………………………………… 419 Ⅴ9 .6 纠正突发错误码 …………………………………………………………………… 4 349 .7 交 织 ……………………………………………………………………………… 4 369 .8 级联码 ……………………………………………………………………………… 4 389 .9 tu rbo 码 …………………………………………………………………………… 4409 .10 高效率信道编码 tcm …………………………………………………………… 44 1习 题 ……………………………………………………………………………………… 447 第十章 正交码与伪随机码10 .1 引 言 ……………………………………………………………………………… 45210 .2 正交码……………………………………………………………………………… 45210 .3 正交码的应用……………………………………………………………………… 4 5810 .4 伪随机码…………………………………………………………………………… 4 60 10 .5 伪码的同步………………………………………………………………………… 46810 .6 伪随机序列的应用………………………………………………………………… 476习 题 ……………………………………………………………………………………… 491 Ⅵ 第十一章 通信网的基本知识11 .1 引 言 ……………………………………………………………………………… 49211 .2 通信网的构成要素跟性能规定…………………………………………………… 49211 .3 交换技术的基本原理……………………………………………………………… 49411 .4 信令和协议………………………………………………………………………… 49911 .5 结束语……………………………………………………………………………… 502附录 a 傅利叶变换的运算特性………………………………………………………… 504附录 b 常用信号的傅利叶变换表 ……………………………………………………… 505附录 c 随机变量函数的几率密度 ……………………………………………………… 5 10附录 d 随机变量函数的数字特性 ……………………………………………………… 5 12附录 e 希尔伯特变换对 ………………………………………………………………… 5 13附录 f q 函数、误差函数、互补误差函数及常用变量 ………………………………… 5 14附录 g 常用三角公式…………………………………………………………………… 5 15部分习题答案……………………………………………………………………………… 5 16参考文献…………………………………………………………………………………… 527 Ⅶ 第 一 章 绪 论1 . 1 引 言 通信科技和通讯行业是 20 世纪 80 年代 以来发展更快的领域之一 第4章信道编码 输入 外编码器 内编码器 信道 内译码器 外译码器 输出 n , k n , k n , k n , k k k 2 2 k k 1 1 n n 1 1 k k 2 2 k k 1 1 1 1 1 1 1 1 1 1 … … … … … k 个 n 个 n 个 n 个 k 个 2 2 2 2 2 编码器 译码器 图4-1 级联码编、解码方框图 第4章信道编码 在编码时，首先将k ×k 个二进制信息元（码元）划分为k 1 2 2个码字，每个码字有k 个码元，把码字看成是多进制码中的一 1个符号 二、 香农第三定理（保真度准则上的信源编码定理） 信息论与编码基础 香农三大定理 简介 信 源 信 宿 限 失 真 信 源 编 码 器 限 失 真 信 源 译 码 器 无 失 真 信 源 编 码 器 无 失 真 信 源 译 码 器 信 道 编 码 信 道 译 码 a b c d 信道 e f g h 一般通信系统框图 信息论与编码基础 香农三大定理 简介 信息论与编码基础 香农三大定理 简介 总结： 香农第二定理（有噪信道编码定理） r &le

2） 无失真信源编码的实质 ： 对离 散信源进行适度 的变换， 使变换 后新的符号序列 信源尽可能为等概率分布， 从而让新信源的每位码 符号平均所含的信息量达到更大同其他码词间距可变的编码一样，如果码串中没有错误，可区分的不同码词的生成是基于不同符号出现的不同概率.20, p(d)=0.13 信息论与编码基础 香农三大定理 简介 2、 香农第一定理（可变长无失真信源编码定理） rshlognlnrshlogn)(1)(定理4.1 设 信源， 若对 n},...,,{21nqns为q元离散无记忆信源s的n次扩展 xxxx},...,,{21s 进行编码， 码符号集 r， 则总可以找 到一种编码方式构成惟一可译码， 使信源s中每个符号所需的平均 编码长度满足： 且当 n时有： )(log)(limnshrshnlrn信息论与编码基础 香农三大定理 简介 表述二： 若r>h(s)， 就存在唯一能译变长编码

适用于要求低香农采样定理怎样保证重构原信号任何信号都可以看做是不同频率的正弦（ 余弦） 信号的叠加， 因此即使明白所有构成这一信号的正（ 余弦）信号的幅值、 频率跟相角， 就可以构建原信号 一个频率刚好是采样速率一半的弦波信号，通常会混叠成另一同样速率的波弦信号，但它的相位和幅度改变了 抗混叠滤波器可限制信号的时延，使之满足采样定理的条件 2sm时的抽样效果 2sm时的抽样效果 2sm时的抽样效果 4可知当采样速率小于等于信号频率的2倍时采样后的信号受到了忠实地维持 没有产生采样精度 而采样速率大于信号频率的2倍时 发生了混叠误差 这样就不能实现对原信号的复原

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/shumachanpin/article-132341-2.html