Chap5 思考题与习题 参考答案 5 1 将下表所列的信源进行六种不同的二进制编码 试问 消息 概率 C1C2C3C4C5C6 a1 a2 a3 a4 a5 a6 1 2 1 4 1 16 1 16 1 16 1 16 000 001 010 011 100 101 0 01 011 0111 01111 011111 0 10 110 1110 11110 111110 0 10 1101 1100 1001 1111 1 000 001 010 110 110 01 001 100 101 110 111 1 这些码中哪些是唯一可译码 2 哪些码是非延长码 即时码 3 对所有唯一可译码求出其平均码长和编码效率 解 解 1 C1 C2 C3 C6是唯一可译码 2 C1 C3 C6是非延长码 即时码 3 唯一可译码平均码长为 1 q ii i Lp s l 所以 1 3cL 码符号 信源符号 2 2 125cL 码符号 信源符号 3 2 125cL 码符号 信源符号 5 2cL 码符号 信源符号 1 0 667 c H S L 2 0 94 c 3 0 94 c 6 0 8 c 5 2 下面的码是否是即时码 是否是惟一可译码 1 2 1111 1110 1101 1100 10 0 C 1101 1011 1110 110 10 0 C 解 解 1 是即时码 唯一可译码 2 不是即时码 也不是唯一可译码 5 3 判断是否存在满足下列要求的即时码 如果有 试构造出一个这样的码 1 r 2 长度 1 3 3 3 4 4 2 r 3 长度 1 l 2 2 3 3 3 3 r 5 长度 1 1 1 1 l 8 9 4 r 5 长度 1 l 1 1 2 2 2 3 3 4 解 解 1 满足 构造的码字 1 011 010 001 0000 0001 2 满足 构造的码字 0 1 20 21 220 221 222 3 不满足 4 满足 构造的码字 0 1 2 3 40 41 42 440 441 4440 5 4 已知信源的各个消息分别为字母 A B C D 现用二进制码元对消息字母作信源编码 A 00 xy B 01 xy C 10 x y D 11 x y每个二进制码元的传输时间为 5ms 计算 1 若各个字母以等概率出现 计算在无扰离散信道上的平均信息传输速率 2 若各个字母的出现概率分别为 P A 1 5 P B 1 4 P C 1 4 P D 3 10 再计算在无扰离散 信道上的平均信息传输速率 3 若字母消息改用四进制码元作信源编码 码元幅度分别为 0V 1V 2V 3V 码元的传输时 间为 10ms 重新计算 1 和 2 两种情况下的平均信息传输速率 解 1 P A P B P C P D 1 4 H X 4 1 4 log4 2 比特 信源符号 L 4 1 4 2 2 码符号 信源符号 Rt H X t L 2 2 5 10 2 20 比特 秒 2 H X 1 5 log 1 5 1 4 log 1 4 1 4 log 1 4 3 10 log 3 10 1 9855 比特 信源符 号 L 2 1 5 2 1 4 2 1 4 2 3 10 2 码符号 信源符号 Rt H X t L 1 9855 2 5 10 2 19 855 比特 秒 3 a P A P B P C P D 1 4 H X 4 1 4 log4 4 1 比特 信源符号 L 4 1 4 1 1 码符号 信源符号 Rt H X t L 1 1 10 10 2 10 比特 秒 5 5 若消息符号 对应概率分布和二进制编码如下 消 息 符 号 a0a1a2a3 i p 1 2 1 4 1 8 1 8 编码 0 10 110111 试求 1 消息符号熵 2 各个消息符号所需的平均二进制码个数 3 若各个消息符号之间相互独立 求编码后对应的二进制码序列中出现 0 和 1 的无条件概率 0 p 和 1 p 以及码序列中的一个二进制码的熵 并求相邻码间的条件概率 11 p 01 p 10 p 0 0 p 解 1 H X 1 2 log 1 2 1 4 log 1 4 1 8 log 1 8 1 8 log 1 8 1 75 比特 信源符号 2 L 1 1 2 2 1 4 3 1 8 3 1 8 2 码符号 信源符号 3 0 p p 0 a0 p a0 p 0 a1 p a1 p 0 a2 p a2 p 0 a3 p a3 1 1 2 1 2 1 4 1 3 1 8 0 1 8 2 3 0 p p 0 a0 p a0 p 0 a1 p a1 p 0 a2 p a2 p 0 a3 p a3 1 1 2 1 2 1 4 1 3 1 8 0 1 8 2 3 1 p p 1 a0 p a0 p 1 a1 p a1 p 1 a2 p a2 p 1 a3 p a3 0 1 2 1 2 1 4 2 3 1 8 1 1 8 1 3 H X 2 3 log 2 3 1 3 log 1 3 0 9183 比特 信源符号 p 1 1 p a2 2 p a3 p a3 p a2 p a3 p a3 1 8 2 1 8 1 8 1 8 1 8 1 8 13 32 p 0 1 p a1 p a2 p a3 p a0 p a1 p a1 p a2 p a2 1 2 1 8 1 8 1 2 1 2 1 2 1 8 1 8 61 64 p 1 0 p a0 p a1 p a0 p a2 p a0 p a3 p a1 p a2 p a3 p a1 p a2 p a3 21 64 p 1 0 p a0 p a0 p a0 p a1 p a0 p a2 1 2 1 2 1 4 1 2 1 8 1 2 7 16 5 6 某信源有 8 个符号 概率分别为 l 2 l 4 1 8 1 16 1 32 1 64 1 128 1 128 试编成这样的码 000 001 010 011 100 101 110 111 的码 求 1 信源的符号熵 H X 2 出现一个 1 或一个 0 的概率 3 这种码的编码效率 4 相应的香农码和费诺码 5 该码的 编码效率 1238 a a aa 解 解 1 bit 信源符号 8 log1 984 ii i H Xpp 2 每个信源使用 3 个二进制符号 出现 0 的次数为 出现 1 的次数为 所以 P 0 P 1 3 因为3K 所以 0 661 4 相应的香农编码 信 源 符 号 xi 符 号 概 率 pi 累 加 概 率 Pi Logp xi 码长 Ki 码字 x1 1 2 0 1 1 0 x2 1 4 0 5 2 2 10 x3 1 8 0 75 3 3 110 x4 1 16 0 875 4 4 1110 x5 1 32 0 938 5 5 11110 x6 1 64 0 969 6 6 111110 x7 1 128 0 984 7 7 1111110 x8 1 128 0 992 7 7 11111110 相应的费诺码 信源符 号 xi 符 号 概 率 pi 第一次 分组 第二次 分组 第三次 分组 第四次 分组 第五次 分组 第六次 分组 第 七 次 分组 二元码 x1 1 2 0 0 x2 1 4 0 10 x3 1 8 0 110 x4 1 16 0 1110 x5 1 32 0 11110 x6 1 64 0 111110 x7 1 128 0 1111110 x8 1 128 1 1 1 1 1 1 1 11111110 5 香农码和费诺码相同 平均码长为 码符号 信源符号 编码效率为 1 5 7 设无记忆二元信源 概率为 0 p 0 005 1 p 0 995 信源输出的二元序列在长为 L 100 的信源 序列中只对含有 3 个或小于 3 个 0 的各信源序列构成一一对应的一组定长码 1 求码字所需的最小长度 2 考虑没有给予编码的信源序列出现的概率 该定长码引起的错误概率 P 是多少 解 解 1 信源序列中含有 3 个或小于 3 个 0 的各信源序列个数有 0123 100100100100 MCCCC 1 100 4950 161700 166750 对 M 个信源序列进行无失真的二元等长编码 必须 17 35 21667502 l M 所以所需的码长的最小长度 18l 2 496459559999100100 1000110001100011001 PCP PCP PCP PCP 110019929823973 1000100011000110001 10 0017CPCP PCP PCP P 5 8 已知符号集合为无限离散消息集合 它们出现的概率分别为 123 x xx 1 1 2p x 2 1 4p x 3 1 8p x 1 2i i p x 1 用香农编码方法写出各个符号消息的码字 2 计算码字的平均信息传输速率 3 计算信源编码效率 解 1 pi 累加概率为 Pi 累加概率分别为 符号 x1 x1 x2 x3 x4 x5 x6 x7 概率 1 2 1 4 1 8 1 16 1 32 1 64 1 128 1 256 累加 概率 0 0 5 0 75 0 8750 9380 9690 984 0 992 码长 1 2 3 4 5 6 7 8 二 元码 0 10 110 1110 11110111110111111011111110 2 信源的信息量为 平均码长为 码字的平均信息传输率为 R bit 码 3 编码效率 R 100 5 9 某信源有 6 个符号 概率分别为 3 8 1 6 l 8 l 8 1 8 1 12 试求三进码元 0 1 2 的费诺 码 并求出其编码效率 解 解 信源符号 概率 编码 码字 码长 X13 8 0 0 1 X21 6 0 10 2 X31 8 1 1 11 2 X41 8 0 20 2 X51 8 1 21 2 X61 12 2 2 22 2 H X 3 8 log 3 8 1 6 log 1 6 1 8 log 1 8 1 8 log 1 8 1 8 log 1 8 1 12 log 1 12 2 3852 三进制单位 信源符号 H3 X H X 1 5850 2 3852 1 5850 1 5049 三进制单位 信源符号 L 3 8 1 1 6 2 1 8 2 1 8 2 1 8 2 1 12 2 1 625 码符号 信源符号 H3 X L 1 5049 1 625 92 61 5 10 对下面给定的概率分布和基数 找出一个霍夫曼编码 1 0 2 0 1 0 1 0 3 0 1 0 2 2 3 4 5 Pa rb rc r d r i 解 解 1 a 00 10 11 011 0100 0101 b 00 01 02 10 11 12 c 00 01 10 11 12 13 d 1 00 01 02 03 04 5 11 若某一信源有N个符号 并且每个符号均以等概出现 对此信源用最佳霍夫曼二元编码 问当 N 2i和N 2i l i为正整数 时 每个码字的长度等于多少 平均码长是多少 解 当N 2i时 根据已知条件 每个符号码长应相等 这样平均码长最短 而且信源符号个数正好 等于 2i 则满足 q 222 l q l 所以每个码字的码长 i li Li 当N 2i l时 每个符号等概率出现 同时每个符号码长应基本相等 但现在信源符号个数不是正好 等于 所以必须有两个信源延长一位码长 这样平均码长最短 2l 所以N 2i l时 N 2i l个码字的码长为 i li 其余两个码字的码长为i 1 平均码长 2 21 i Li 5 12 设有离散无记忆信源 P X 0 37 0 25 0 18 0 10 0 07 0 03 1 求该信源符号熵 H X 2 用霍夫曼编码编成二元变长码 计算其编码效率 3 要求译码错误小于l0 3 采用定长二元码要达到 2 中的霍夫曼编码效率 问需要多少个信源符号 连在一起编码 解 1 H X 2 信源符号 xi 符 号 概 率 pi 编码过程 编码 码 长 x1 0 37 0 37 0 37 0 38 0 621 00 2 x2 0 25 0 25 0 25 0 37 0 38 01 2 x3 0 18 0 18 0 20 0 25 11 2 x4 0 10 0 10 0 18 100 3 x5 0 07 0 10 1010 4 x6 0 03 1011 4 3 自信息的方差为 6 22 1 log iii i D I sppH X 0 37 log0 37 2 0 25 log0 25 2 0 18 log0 18 2 0 1 log0 1 2 0 07 log0 07 2 0 03 log0 03 2 5 7646 2 2 1 i D I s N HX 2 5 7646 0 5822 1 3382 1 0 582 2 l0 3 6242 5 13 令 C 为均匀概率分布 1 1 1 nnnP 的一个二元霍夫曼编码 并假设 C 中码字的长度分别 是 令 其中12 i l2kna a 1 试证明在 P 的所有即时编码中 C 具有最小的总码字长度 i Tl 2 试证明 C 中至少有两个码字具有最大长度上 i lLmax 3 试证明 Kraft 不等式和 1 1 il r 4 试证明对所有的 i 都有或Lli 1 Lli 5 令 u 是长度为 L 1 的码字的个数 v 是长度为 L 的码字的个数 试用 a 与 k 来表示出 u v L 证明 1 信源共有 1个符号 并且为等概率分布 设码C为此信源的二元霍夫曼码 各码字的码长为 根据定理已知 信源给定时二元霍夫曼码一定是最佳即时码 即所有可能的即 时码中它是平均码长最短的码 若设C 2kna 2a i l 是任意其他即时码 根据霍夫曼码的最佳性则有 L CL C 设码C的总码长T 因为pi 1 n 所以 11 L ClT i nn i 设任意其他即时码C 的总码长T 并设各码字的长度为 有 i l 11 i i L ClT nn 所以得 11 TT nn TT 得 i i T l 为最短 2 3 由 2 证明已知 当 a 1 时 时 所有码字 i 的码长 2kn i l1Lk 则克拉夫不等式为 22 11 22 2 kk ii llkk ii r 1 当 a 2 时 时 所有码字 i 的码长 1 2kn i l1Lk 则克拉夫不等式为 11 22 11 11 22 2 kk ii llkk ii r 1 1x 当 1 a 2 时 1 11 2 2 22 2122 ii nn llkkkkk ii rxxx 即证 1 1 i n l i r 4 5 L k 1 1 1 1 2 2 2 22 21 kkk kk k vav vav va 1 1 得 1 1 2 2 2 k k va unva 5 14 信源符号 X 有 7 种字母 概率为 0 32 0 22 0 18 0 16 0 08 0 04 1 求符号熵 H X 2 用香农编码法编成二进制变长码 计算其编码效率 3 用费诺编码法编成二进制变长码 计算其编码效率 4 用霍夫曼编码法编成二进制变长码 计算其编码效率 5 用霍夫曼编码法编成三进制变长码 计算其编码效率 6 若用逐个信源符号来编定长二进制码 要求不出差错译码 求所需要的每符号的平均信息 率和编码效率 解 解 1 信源熵 H X 0 32 log0 32 0 22 log0 22 0 18 log0 18 0 16 log0 16 0 08 log0 08 0 04 log0 04 2 352 比特 信源符号 2 香农编码 信源符号 xi 符号概率 pi 累加概率 Pi Logp xi 码长 Ki 码字 x1 0 32 0 1 644 2 00 x2 0 22 0 32 2 184 3 010 x3 0 18 0 54 2 474 3 100 x4 0 16 0 72 2 644 3 101 x5 0 08 0 88 3 644 4 1110 x6 0 04 0 96 4 644 5 11110 平均码长 码符号 信源符号 0 877 编码效率 3 费诺编码 信源符 号 xi 符号概 率 pi 1 2 3 4 编码 码长 x1 0 32 0 00 2 x2 0 22 0 1 01 2 x3 0 18 0 10 2 x4 0 16 0 110 3 x5 0 08 0 1110 4 x6 0 04 1 1 1 1 1111 4 平均码长 码符号 信源符号 编码效率 0 979 4 哈夫曼编码 信源符号 xi 符 号 概 率 pi 编码过程 编码 码 长 x1 0 32 0 32 0 38 0 40 0 601 01 2 x2 0 22 0 22 0 32 0 38 0 40 10 2 x3 0 18 0 18 0 22 0 32 11 2 x4 0 16 0 16 0 18 000 3 x5 0 08 0 12 0010 4 x6 0 04 0011 4 平均码长 码符号 信源符号 编码效率 0 979 5 三进制霍夫曼编码 x1 1 x2 01 x3 02 x4 000 x5 001 x6 002 H3 X H X 1 5850 2 352 1 5850 1 4839 三进制单位 信源符号 L 0 32 1 0 22 2 0 18 2 0 16 3 0 08 3 0 04 3 1 58 码符号 信源符号 H3 X L 94 3 6 定长二进制编码 即7 3qr 3L 所以平均信息率 0 783 H X R L 比特 编码效率 78 3 H X L 5 15 已知一信源包含 8 个消息符号 其出现的概率为 P X 0 1 0 18 0 4 0 05 0 06 0 1 0 07 0 04 则求 1 该信源在每秒钟内发出 1 个符号 求该信源的熵及信息传输速率 2 对这 8 个符号作霍夫曼编码 写出相应码字 并求出编码效率 3 采用香农编码 写出相应码字 求出编码效率 4 采用费诺编码 写出相应码字 求出编码效率 解 1 信源熵 H X 0 1 log0 1 0 18 log0 18 0 4 log0 4 0 05 log0 05 0 06 log0 06 0 1 log0 1 0 07 log0 07 0 04 log0 04 2 552 比特 信源符号 信息传输速率 2 552bit s 2 信 源 符 号 xi 符 号 概 率 pi 编码过程 编码 码长 x1 0 4 0 4 0 4 0 4 0 4 0 4 0 6 1 1 x2 0 18 0 18 0 18 0 19 0 230 270 4 001 3 x3 0 1 0 1 0 13 0 18 0 190 23 011 3 x4 0 1 0 1 0 1 0 13 0 18 0000 4 x5 0 07 0 09 0 1 0 1 0100 4 x6 0 06 0 07 0 09 0101 4 x7 0 05 0 06 00010 5 x8 0 04 00011 5 3 香农编码 信 源 符 号 xi 符 号 概 率 pi 累 加 概 率 Pi Logp xi 码长 Ki 码字 x1 0 4 0 1 322 2 00 x2 0 18 0 4 2 474 3 011 x3 0 1 0 58 3 322 4 1001 x4 0 1 0 68 3 322 4 1010 x5 0 07 0 78 3 837 4 1100 x6 0 06 0 85 4 059 5 11011 x7 0 05 0 91 4 322 5 11101 x8 0 04 0 96 4 644 5 11110 平均码长 4 费诺编码 信源符 号 xi 符号概 率 pi 码 码长 x1 0 4 0 00 2 x2 0 18 0 1 01 2 x3 0 1 0 100 3 x4 0 1 0 1 101 3 x5 0 07 0 1100 4 x6 0 06 0 1 1101 4 x7 0 05 0 1110 4 x8 0 04 1 1 1 1 1111 4 5 16 有一信源包含 9 个符号 概率分别为 1 4 l 4 l 8 1 8 1 16 1 16 1 16 1 32 1 32 用三 进制符号 a b c 编码 1 编出费诺码和霍夫曼码 并求出编码效率 2 若要求符号 c 后不能紧跟另一个 c 编出一种有效码 其编码效率是多少 解 H X 1 4 log 1 4 1 4 log 1 4 1 8 log 1 8 1 8 log 1 8 1 16 log 1 16 1 16 log 1 16 1 16 log 1 16 1 32 log 1 32 1 32 log 1 32 2 8125 比特 信源符号 1 霍夫曼码 x1 c x2 b x3 ac x4 ab x5 aac x6 aab x7 aaaa x8 aaab x9 aaac H3 X H X 1 5850 2 8125 1 5850 1 7744 比特 信源符号 L 1 4 1 1 4 1 1 8 2 1 8 2 1 16 3 1 16 3 1 16 4 1 32 4 1 32 4 1 8750 H3 X L 1 7744 1 8750 94 63 费诺码 x1 a x2 b x3 ca x4 cb x5 cca x6 ccb x7 ccca x8 cccb x9 cccc L 1 4 1 1 4 1 1 8 2 1 8 2 1 16 3 1 16 3 1 16 4 1 32 4 1 32 4 1 8750 H3 X L 1 7744 1 8750 94 63 5 17 一信源可能发出的数字有 l 2 3 4 5 6 7 对应的概率分别为 p 1 p 2 1 3 p 3 p 4 l 9 p 5 p 6 p 7 1 27 在二进制或三进制无噪信道中传输 若二进制信道中传输 个码字 需要 1 8 元人民币 三进制信道中传输一个码字需要 2 7 元人民币 1 编出二进制符号的霍夫曼码 求其编码效率 2 编出三进制符号的费诺码 求其编码效率 3 根据 1 和 2 的结果 确定在哪种信道中传输可得到较小的花费 解 解 1 信源符号 xi 符号概率 pi 编码过程 编码 码长 x1 1 3 1 3 1 3 1 3 1 3 2 3 00 2 x2 1 3 1 3 1 3 1 3 1 3 1 3 01 2 x3 1 9 1 9 1 9 2 9 1 3 100 3 x4 1 9 1 9 1 9 1 9 101 3 x5 1 27 2 271 9 111 3 x6 1 27 1 27 1100 4 x7 1 27 1101 4 比特 符号 2 41 码符号 信源符号 93 7 H X L 2 信源符号 xi 符号概率 pi 编码过程 编码 码长 x1 1 3 0 0 1 x2 1 3 1 1 1 x3 1 9 0 20 2 x4 1 9 1 21 2 x5 1 27 0 220 3 x6 1 27 1 221 3 x7 1 27 2 2 2 222 3 H3 X H X log3 2 289 1 5850 1 4442 三进制单位 信源符号 L 1 3 1 1 3 1 1 9 2 1 9 2 1 27 3 1 27 3 1 27 3 1 4444 码符号 信源符号 H X L 1 4442 1 4444 99 99 5 18 有二元独立序列 已知 0 p 0 9 1 p 0 1 求这序列的平均符号熵 当用霍夫曼编码时 以 3 个二元符号合成一个新符号 求这种符号的平均代码长度和编码效率 设输入二元符号的速率为 每秒 100 个 要求 3min 内溢出和取空的概率均小于 0 01 求所需的信道码率 单位为 bps 和存储器 容量 比特数 若信道码率已规定为 50bps 存储器容量将如何选择 解 解 1 H X 0 9 log0 9 0 1 log0 1 0 4690 霍夫曼码 x1 0 x2 100 x3 101 x4 110 x5 11100 x6 11101 x7 11110 x8 11111 3L 0 729 1 0 081 3 0 081 3 0 081 3 0 009 5 0 009 5 0 009 5 0 001 5 1 5980 3 30 533LL 码符号 信源符号 0 4690 0 533 88 05 2 输入二元符号的速率为每秒 100 个时 信道码率100 0 53353 3 t Rbit s bps 当要求 3min 内溢出和取空的概率均小于 0 01 时 存储器容量 3 600 02191 88192 t Rb it 3 若 信 道 码 率 已 规 定 为50bps 则 其 小 于 所 需 的 t R 在3min内 增 加 因此存储器容量应为192 3 60503 3 180594 t Rb it594786 bit 5 19 离散无记忆信源发出A B C三种符号 其概率分布为 5 9 1 3 1 9 应用算术编码方法对 序列 C A B A 进行编码 并对结果进行解码 解 解 进行二元算术编码 信源序列的概率 1515 0 011431184 9939 PCABA 算术编码时其码长应取 1 log6 4577 l p 累积分布函数的递推过程 0 9231F 取 2 0 9300 0 11101110 所以码字为 1111000 5 20 已知二元信源 0 1 其 0 p 1 8 1 p 7 8 试对序列 11111110111110 进行算术编码 并计 算此序列的平均码长 解 解 信源序列的概率 122122 10 71 11111110111110 0 00315 88 P spp 算术编码时其码长应取 1 log 9 l p s F s P 0 P 10 P 110 P 1110 P 11110 P 111110 P 1111110 P 111111100 P 1111111010 P 11111110110 P 111111101110 P 1111111011110 sT P T 左侧所有节点 sT P T 右侧所有节点 1 P 11111111 P 111111110111111 P 111111110111110 P 11111111 P 11111111011111 812 771 1 0 631213925 888 0 1010000110010111 所以此序列算术的码字为 101000100 这序列的平均码长 L 9 14 0 643 二元符号 信源符号 编码效率 H X L 0 5436 9 14 84 6 5 21 现有一幅已离散量化后的图像 图像的灰度量化分成 8 级 如下所示 表中数字为相应像素 上的灰度级 1111111111 1111111111 1111111111 1111111111 2222222222 3333333333 4444444444 5555555555 另有一无噪无损二元信道 单位时间 秒 内传输 100 个二元符号 1 现将图像通过给定的信道传愉 不考虑图像的任何统计持性 并采用二元等长码 问需多长时间 才能传送完这幅图像 2 若考虑图像的统计特性 不考虑图像的像素之间的依赖性 求这图像的信源熵 H S 并对每个灰 度级进行霍夫曼最佳二元编码 问平均每个像素需用多少二元码符号来表示 这时需多少时间才能传 送完这幅图像 3 从理论上简要说明这幅图像还可以压缩 且平均每个像素所得的二元码符号数可以小于 H S 比 特 解 解 1 因为 q 8 所以要满足 28 l q 故 二元码符号 灰度级 即每个灰度级需采用三位二元符号来传输 3l 这幅图像空间离散后共有 N 80 个像素 每个像素的灰度需用三个二元符号来编码 所以这幅图像 采用二元等长码后共需 240 个二元码号来描述 所传输的信道是无损信道 其每秒传输 100 个二元 符号 因此 需 2 4 秒才能传送完这幅图像 2 H S 1 2 log 1 2 1 8 log 1 8 1 8 log 1 8 1 8 log 1 8 1 8 log 1 8 2 比特 信源符号 霍夫曼最佳二元编码 x1 0 x2 100 x3 101 x4 110 x5 111 L 1 2 1 1 8 3 1 8 3 1 8 3 1 8 3 2 码符号 信源符号 每个像素平均需用 2 个二元符号 则此图像平均共需用 160 个二元符号来表示 因此 需 1 6 秒才 能传送完这幅图像 3 在 2 题中计算时没有考虑图像的像素之间的依赖关系 但实际此图像的像素之间是有依赖的 例如 若考虑像素前后之间灰度的依赖关系 就有灰度 1 后面只可能出现灰度 1 或 2 灰度 2 后只可能出现 2 或 3 等等 这时 此图像灰度 值信源 S 可以看成是一阶马尔可夫信源 还可以进一步看成为 m 阶马尔可夫信源 因此 在考虑了 这些依赖关系后 像素的灰度值信源 S 的实际信息熵 HH S 根据香农第一定律 总可以找到 一种编码 使每个灰度级的平均码长LH 所以 这幅图像还可以进一步压缩 平均每个像素 所需的二元码符号数 LH S 5 22 设有一页传真文件其中某一扫描行上的像素点如下所示 73 白 7 黑 11 白 18 黑 1619 白 1 该扫描行的MH码 2 编码后该行总比特数 3 本行编码压缩比 原码元总数 编码后码元总数 解 解 1 根据 MH 码表可得 该扫描行的 MH 码为 64 白 9 白 7 黑 11 白 18 黑 1600 白 19 白 EOL 11011 10100 00011 01000 0000001000 010011010 0001100 000000000001 2 编码后该行总比特数为 58 位 3 这一行编码压缩比为 1728 58 29 8

展开阅读全文