【正文】
總 的 信 源 的 失 真 是 信 源壓 縮 編 碼 所 造 成 的 允 許 失 真 D 。 12( ) 0 . 5 0 . 5S s sPs? ? ? ??? ? ? ?? ? ? ?第四章 信息率失真函數(shù) 2021/11/10 我相信,每一份努力,都會(huì)換來一份收獲! 28 習(xí)題 5 ,tC??ttt解 答 :(1) 信 源 的 信 息 熵 H(S)=1 bit/symbol信 源 輸 出 的 信 息 傳 輸 速 率 R =(symbol/s) H(s) =將 此 信 源 輸 出 符 號(hào) 送 入 二 元 無 噪 無 損 信 道 進(jìn) 行 傳 輸 , 此 信 道每 秒 只 傳 送 二 個(gè) 符 號(hào) , 其 最 大 信 息 傳 輸 速 率 C =2bit/s 可 見 , R 根 據(jù) 信 道 編 碼 定 理 , 不 論 進(jìn) 行 任 何 編 碼 此 信 源 都不 可 能 在 該 信 道 中 實(shí) 現(xiàn) 無 失 真 的 傳 輸 。 1 , 2 , ( 4 .2 .1 0 )1( / )( 1 ) ( 1 )( / ) ( )(/( / ) ( )( / ) ( )( / ) ( )ijSd x yj i j iSSSSSd x ySd x ySd x ySd x yp y x p y e i n j meep y xeep y x p y ep y xp y x p y ep y x p y ep y x p y e?????? ? ??????? ??????????3234 3 221 3222 3)( 1 )( / )( 1 ) ( 1 )1( / )( 1 )S S SSS S SSSSSSe e eee e ep y xeeeep y xe???? ??????????????????????第四章 信息率失真函數(shù) 2021/11/10 我相信,每一份努力,都會(huì)換來一份收獲! 25 第四步 :求 D(S), 將上述結(jié)果代入式 ()有 11211222( , )11( , )1 1 1 1 1( , )2 1 2 1 1( , )1 2 1 2 2( , )2 2 2 2 12( ) ( ) ( ) ( , ) ( 4 .2 .1 4 )( ) ( ) ( ) ( , )( ) ( ) ( , )( ) ( ) ( , )( ) ( ) ( , )21ijnmSd x yi j i j iijSd x ySd x ySd x ySd x ySSSSD S p x p y d x y eD S p x p y d x y ep x p y d x y ep x p y d x y ep x p y d x y eeeee??????????????????第四章 信息率失真函數(shù) 2021/11/10 我相信,每一份努力,都會(huì)換來一份收獲! 26 第五步 :求 R(S), 將上述結(jié)果代入式 ()有 112222( ) ( ) ( ) l n ( 4 .2 .1 5 )( ) 2 0 .5 l n 0 .5 l n14 ( 1 )2 0 .5 l n11niiiSSSSSSSS S S SR S S D S p xSeR S S eeeS e eSee e e e??????? ? ? ????? ? ?? ? ? ??第四章 信息率失真函數(shù) 2021/11/10 我相信,每一份努力,都會(huì)換來一份收獲! 27 習(xí)題 5 每秒鐘發(fā)出 。這是 信源編碼 問題。目的是充分利用已給信道,使傳輸?shù)男畔⒘孔畲蠖l(fā)生錯(cuò)誤的概率任意小,以 提高通信的可靠性 。 ? 信息率失真函數(shù)也是一個(gè)界限。j=1,2,…, m) 的下凸函數(shù) ,信息率失真函數(shù)就是在試驗(yàn)信道(滿足保真度準(zhǔn)則的信道)中尋找平均互信息極小值的問題,即 第四章 信息率失真函數(shù) 2021/11/10 我相信,每一份努力,都會(huì)換來一份收獲! 11 ? 特 性 ? 信道容量 C一旦求出后,就只與信道轉(zhuǎn)移概率 p(yj /xi) 有關(guān),反映 信道特性 ,與信源特性無關(guān); ? 信息率失真函數(shù) R(D)一旦求出后,就只與信源概率分布 p(xi) 有關(guān),反映 信源特性 ,與信道特性無關(guān)。 第四章 信息率失真函數(shù) 2021/11/10 我相信,每一份努力,都會(huì)換來一份收獲! 10 對(duì)偶問題:信道容量和信息率失真函數(shù)的問題,都是求平均