信息論與編碼ppt課件(2)(更新版)
【正文】 mn n md a b d a bd a b d a b?????????失真矩陣 ? 例：設信源符號序列為 X={0,1},接收端收到符號序列為 Y= {0,1,2},規(guī)定失真函數為 d(0,0)＝ d(1,1)= 0 d(0,1)＝ d(1,0)= 1 d(0,2)＝ d(1,2)= 0 1 1 0 d??? ????失真矩陣 7 2( , ) ( )i j i jd x y x y??? 失真函數形式可以根據需要任意選取 ,最常用的 有 : ( , ) | |i j i jd x y x y??( , ) | | / | |i j i j id x y x y x??0,( , ) ( )1,iji j i jxyd x y x y???? ? ? ?? 其 他? 均方 失真 : ? 絕對 失真 : ? 相對 失真 : ? 誤碼 失真 : (漢明失真函數 ) 適于連續(xù)信源 適于離散信源 失真函數 8 ? 漢明失真矩陣 ?????????????011101110?????d? 對于二元對稱信源 (m=n),X={0,1},Y={0,1},漢明失真矩陣 : ???????0110d9 平均失真 ? 將失真函數的數學期望稱為 平均失真 ： ( ) ( | ) ( , )i j i i jijD p a p b a d a b? ??? 失真函數 d(xi,yj)： – 描述了 某個信源符號 通過傳輸后失真的大小 ? 平均失真 ： – 描述 某個信源 在某一試驗信道傳輸下的失真大小 ,它對 信源和信道進行了統(tǒng)計平均 ,是從總體上描述整個系統(tǒng)的失真 D10 對于連續(xù)隨機變量同樣可以定義平均失真 ( , ) ( , )xyD p x y d x y d x d y??? ? ? ?? ?? ix 信源編碼器 jy)( ij xyp11 L長序列編碼 ? 如果假定離散信源輸出符號序列 X＝ {X1X2… Xl… XL},其中 L長符號序列 xi =[xi1xi2… xiL],經信源編碼后 ,輸出符號序列 Y={Y1Y2… Yl… YL},其中L長符號序列 yj=[yj1yj2… yjL ],則失真函數定義為 11 LLllDDL ?? ?? 平均失真 11( x , y ) ( , )LL i j il jlld d x yL ?? ?12 信息率失真函數 R(D) ? ?naaax ?, 21?信源編碼器 ? ?nbbby ?, 21?X Y 假想信道 將信源編碼器看作信道 13 信息率失真函數 R(D) ? 無論是無噪信道還是有噪信道 : R＜ C – 總能找到一種編碼使在信道上能以任意小的錯誤概率 ,以任意接近 C的傳輸率來傳送信息 R＞ C – 就必須對信源壓縮 ,使其壓縮后信息傳輸率 R’小于信道容量 C,但同時要保證壓縮所引入的失真不超過預先規(guī)定的限度。即在滿足保真度準則的條件下尋找平均互信息 I(X,Y)的最小值。 20 平均互信息 ? 平均互信息 I(X。 ? 由于平均失真度是非負實數 d(xi,yj)的數學期望 ,因此也是非負的實數 ,即 的 下界是 0。 ? Dmax是滿足 R(D)=0時所有的平均失真度中的 最小值 。 ? 但要得到它的顯式表達式 ,一般比較困難通常用參
教學課件相關推薦
鄂ICP備17016276號-1