【正文】
長1()qiiin p s n?? ? 碼 符 號 /信 源 符 號21( ) ( ) l o g ( )qiiiH S p s p s??? ? 比 特 /信 源 符 號信 息 傳 輸 率 ()HSR n? 比 特 /碼 符 號R? ?每 個 碼 符 號 攜 帶 的 平 均 信 息 量?效 率 n?平均碼長 ? 平均碼長與有效性 ? 平均碼長的界限定理 平均碼長的界限定理 1212: { , , , } ( ): { , , , }, , , qriS s s s H SX a a a q r n Kr a ftn定 理 : 離 散 無 記 憶 信 源 的 信 息 熵 為 , 碼 符 號 集 若 碼 長 滿 足不 等 式 , 總 可 找 到 一 種 單 義 可 譯 碼 , 其 平 均 碼 長 滿 足( ) ( ) 1l og l ogH S H Snrr? ? ?下 界 證 明 ()lo gHSnr?證 明 :( ) lo gH S n r?11( ) l o g ( ) ( ) l o gqqi i i iiip s p s p s n r??? ? ???11( ) l o g ( ) ( ) l o g iqqni i iiip s p s p s r ???? ? ???1( ) l o g ()inqii irpsps??? ?1l o g ( )()inqii irpsps??????????1l o g iqnir ??????????log1? 0?( ) =inip s r ?? 時 取 “ ”平均碼長的界限定理 下 界 說 明 ()lo gHSnr?1( ) l o g ( )l o gqiiip s p sr????1( ) l o g ( )qi r iip s p s??? ?()rHS? /碼 符 號 信 源 符 號上 界 證 明 () 1l ogHSnr??證 明 : l o g ( ) l o g ( ) 1r i i r ip s n p s? ? ? ? ?1 1 1()() iq q qn iii i ipsp s rr?? ? ???? ? ?11l o g l o g 1( ) ( )r i riinp s p s? ? ?lo g ()r irps?1( ) ( )iniirrp s p s??()() in iipsp s rr???1r?1?1 1 1( ) ( ) l o g ( ) ( )q q qi i i r i ii i ip s n p s p s p s? ? ?? ? ?? ? ?( ) 1rHS??( ) 1rn H S??即6 無失真信源編碼 ? 單義可譯碼 ? 平均碼長 ? 無失真信源編碼定理 ? Huffman編碼 無失真信源編碼定理 ? 信源擴展與數(shù)據(jù)壓縮 ? 無