考虑一个3符号的离散信源 其概率分布为:Pr{X=a}=1/2 Pr{X=b}=1/4 Pr{X=c}=1/4。请给出其长度为n的精确典型列

大学 信源,概率,符号 已帮助 人

考虑一个3符号的离散信源,其概率分布为:Pr{X=a}=1/2,Pr{X=b}=1/4,Pr{X=c}=1/4。请给出其长度为n的精确典型列的数目,不允许使用递归表达式。(提示:最终结果依赖于”的奇偶性)

热搜:信源编码是以提高通信有效性为目的的编码

答案解析

难度★★☆ 搜索
  • 正确一个长度为n的精确典型列x=(x1,x2,…,xn)意味着:
    (5.17)
    等价的有
    (5.18)
    在本题中H=3/2,并且:
    (5.19)
    令n(a),n(b),n(c)分别表示长度为n的精确典型列x中符号a,b,c的个数,则根据式(5.18)和(5.19)有
    (5.20)
    解之可得
    (5.21)
    因此,当扎为奇数时,不存在长度为n的精确典型列。当n为偶数时,精确典型列的由n/2个符号a和一共n/2个符号b和c构成,其个数为在n个位置上安排n/2个符号a,并且在剩下的n/2个位置上安排符号b或c:
    (5.22)