信息率失真函數(shù)(2)-資料下載頁
2025-05-13 14:23本頁面
【正文】 21 12( 1 )1 12( 1 )ssd sd ssssd sd sseq e q e q q eeeq e q e q e qe??? ???? ??????????????? ???? ?22122211,2 ( 1 ) 2 ( 1 )s s s ssse e e eqqee? ? ? ?? ?? ?? ???第三步：由式 ()求 D(s)， 將上述結(jié)果代入式 ()有 1 1 2 11 2 2 21 1 1 1 1 2 1 2 1 21 2 1 2 1 2 2 2 2 2() s d s ds d s dD s p q d e p q d ep q d e p q d e????????22 1sssseeee?? ??第四步：由式 ()求 R(s) ： 12222( ) 2 0 .5 l o g 0 .5 l o g14 ( 1 )2 0 .5 l o g11ssssssss s s sseR s seeese esee e e e??? ? ? ????? ? ?? ? ? ?應(yīng)用式 ()，還可求得此時(shí)的試驗(yàn)信道轉(zhuǎn)移概率： 11211222211 33211 1 121 321 1 24 3 212 2 112 322 2 2222 31( 1 ) ( 1 )( 1 )( 1 ) ( 1 )1( 1 )sssssd s s sssdsd s s ssssdssseepeep q e e e epep q ep q e e e epeep q eeepe????? ????????? ? ????????????? ??????? ???????????? 連續(xù)無記憶信源的信息率失真函數(shù) 研究連續(xù)信源的信息率失真函數(shù)比離散信源更有實(shí)際意義 ， 因?yàn)檫B續(xù)隨機(jī)變量不可能用有限比特加以精確描述 ，即連續(xù)信源信息量為無限大 ， 傳送無限大信息量既無必要 ，也不可能 。 所以連續(xù)信源的討論都屬于限失真范疇 。 一、連續(xù)無記憶信源的信息率失真函數(shù)的定義 連續(xù)信源的平均失真度定義為： 通過試驗(yàn)信道獲得的平均互信息為： ( ) ( | ) ( , )D p x p y x d x y d x d y? ??( | )( 。 ) ( ) ( | ) l og()( ) ( | )p y xI X Y p x p y x dx dypyh Y h Y X?????????????? ? ???同樣，確定一允許失真度 D，凡滿足平均失真小于 D的所有試驗(yàn)信道的集合記為 PD，則連續(xù)信源的信息率失真函數(shù)定義為： ? ?( | )( ) in f ( 。 )Dp y x PR D I X Y?? 二、高斯信源的信息率失真函數(shù) 對(duì)高斯信源 ， 在一般失真函數(shù)下 ， 其率失真函數(shù)是很難求得的 ， 但 在平方誤差失真度量下 ， 其率失真函數(shù)有簡(jiǎn)單的封閉表達(dá)式 。 對(duì)平方誤差失真 ， 試驗(yàn)信道輸入符號(hào)和輸出符號(hào)之間失真為： 對(duì)應(yīng)的平均失真度為： 2( , ) ( )d x y x y??20 ( ) ( | ) ( )D p x p y x x y d x d y????在平方誤差失真下 ， 設(shè)允許失真為 D， 則高斯信源 的率失真函數(shù)為： 2~ ( 0 , )XN ?2221 l o g 0() 20DRDDD? ????????? ??下圖表示當(dāng) 時(shí)， 1? ? 11( ) log2RD D?的曲線。 保真度準(zhǔn)則下的信源編碼定理 定理 (保真度準(zhǔn)則下的信源編碼定理 ， 香農(nóng)第三定理 ) 設(shè) R(D)為一離散無記憶信源的信息率失真函數(shù) ， 并且有有限的失真測(cè)度 D。 對(duì)于任意 D ， 以及任意長(zhǎng)的碼長(zhǎng) k， 一定存在一種信源編碼 C， 其碼字個(gè)數(shù)為 使編碼后碼的平均失真度 。 0 , 0???[ ( ) ]2 ?? k R DM ??DD定理的含義是： 只要碼長(zhǎng) k足夠長(zhǎng)，總可以找到一種信源編碼，使編碼后的信息傳輸率略大于 (直至無限逼近 )率失真函數(shù)R(D)，而碼的平均失真度不大于給定的允許失真度， 即： DD ? 由于 R(D)為給定 D前提下信源編碼可能達(dá)到的傳信率的下限， 所以香農(nóng)第三定理 說明了 ： 達(dá)到此下限的最佳信源編碼是存在的 。 實(shí)際的信源編碼 (無失真編碼或先進(jìn)行限失真編碼后再進(jìn)行無失真編碼 )的最終目標(biāo)是盡量接近最佳編碼，使編碼信息傳輸率接近最大值，或者對(duì)給定的信源用盡量少的編碼符號(hào)進(jìn)行傳輸，而同時(shí)又能保證譯碼后能無失真地恢復(fù)信源。 編碼后信息傳輸率的提高使每個(gè)編碼符號(hào)能攜帶盡可能多的信息量， 使得傳輸同樣多的信源總信息量所需的碼符號(hào)數(shù)減少； 使所需的單位時(shí)間傳輸信道單位時(shí)間信道容量 Ct減少，或在 Ct不變的前提下使傳輸時(shí)間縮短，從而提高通信的效率。
試題試卷相關(guān)推薦
鄂ICP備17016276號(hào)-1