信息論與編碼ppt課件(2)-展示頁
2025-05-15 02:45本頁面
【正文】 ( , ) | | / | |i j i j id x y x y x??0,( , ) ( )1,iji j i jxyd x y x y???? ? ? ?? 其 他? 均方 失真 : ? 絕對(duì) 失真 : ? 相對(duì) 失真 : ? 誤碼 失真 : (漢明失真函數(shù) ) 適于連續(xù)信源 適于離散信源 失真函數(shù) 8 ? 漢明失真矩陣 ?????????????011101110?????d? 對(duì)于二元對(duì)稱信源 (m=n),X={0,1},Y={0,1},漢明失真矩陣 : ???????0110d9 平均失真 ? 將失真函數(shù)的數(shù)學(xué)期望稱為 平均失真 ： ( ) ( | ) ( , )i j i i jijD p a p b a d a b? ??? 失真函數(shù) d(xi,yj)： – 描述了 某個(gè)信源符號(hào) 通過傳輸后失真的大小 ? 平均失真 ： – 描述 某個(gè)信源 在某一試驗(yàn)信道傳輸下的失真大小 ,它對(duì) 信源和信道進(jìn)行了統(tǒng)計(jì)平均 ,是從總體上描述整個(gè)系統(tǒng)的失真 D10 對(duì)于連續(xù)隨機(jī)變量同樣可以定義平均失真 ( , ) ( , )xyD p x y d x y d x d y??? ? ? ?? ?? ix 信源編碼器 jy)( ij xyp11 L長序列編碼 ? 如果假定離散信源輸出符號(hào)序列 X＝ {X1X2… Xl… XL},其中 L長符號(hào)序列 xi =[xi1xi2… xiL],經(jīng)信源編碼后 ,輸出符號(hào)序列 Y={Y1Y2… Yl… YL},其中L長符號(hào)序列 yj=[yj1yj2… yjL ],則失真函數(shù)定義為 11 LLllDDL ?? ?? 平均失真 11( x , y ) ( , )LL i j il jlld d x yL ?? ?12 信息率失真函數(shù) R(D) ? ?naaax ?, 21?信源編碼器 ? ?nbbby ?, 21?X Y 假想信道 將信源編碼器看作信道 13 信息率失真函數(shù) R(D) ? 無論是無噪信道還是有噪信道 : R＜ C – 總能找到一種編碼使在信道上能以任意小的錯(cuò)誤概率 ,以任意接近 C的傳輸率來傳送信息 R＞ C – 就必須對(duì)信源壓縮 ,使其壓縮后信息傳輸率 R’小于信道容量 C,但同時(shí)要保證壓縮所引入的失真不超過預(yù)先規(guī)定的限度。 DD ?14 信息率失真函數(shù) R(D) ? 若平均失真度 不大于我們所允許的失真 ,即 DDD?? 則稱此為 保真度準(zhǔn)則 ? 當(dāng)信源 p(xi)給定 ,單個(gè)符號(hào)失真度 d(xi, yj) 給定時(shí) ,選擇不同的試驗(yàn)信道 p(yj | xi), 相當(dāng)于不同的編碼方法 ,其所得的平均失真度不同。 ? PD： – 所有 D失真允許的試驗(yàn)信道組成的一個(gè)集合。 ),(m in)( YXIDRDP?? 在信源給定后 ,我們希望在滿足一定失真的情況下 ,使信源必須傳輸給收信者的 信息傳輸率 R盡可能地小。即在滿足保真度準(zhǔn)則的條件下尋找平均互信息 I(X,Y)的最小值。 ? 離散無記憶信源 ? ???i j jijijiPp bpabpabpapDRDji )()|(l o g)|()(m i n)(18 ? 例已知編碼器輸入的概率分布為 p(x)={ ,} ? 信道矩陣 ??????? ? 求互信息 )|()()( ijiji xypxpyxp ??)(,)(,)(,)( 22122111 ??
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1