[工學(xué)]第五章信息率失真函數(shù)(已修改)
2024-12-19 23:54 本頁(yè)面
【正文】 第五章 離散信源的限失真信源編碼 引言 信息率失真函數(shù)的性質(zhì) 信息率失真函數(shù)的計(jì)算 無(wú)失真信源編碼 －針對(duì)無(wú)失真情況； 限失真信源編碼 －允許有一定的失真情況； 實(shí)際信息處理過程允許有一定的失真： ? A/D變換 ? 電影電視－利用視覺殘留，沒有發(fā)覺影片是有一張張畫面 快速連結(jié)起來(lái) ? 語(yǔ)音信號(hào)傳送－耳朵帶寬和分辨率有限，將 20Hz~8KHz語(yǔ)音信號(hào)去掉低端和高端看成 300Hz~，即使有失真，耳朵還是可以分辨出原來(lái)的語(yǔ)音。 本章討論主要問題： 在允許一定失真存在的條件下，能夠?qū)⑿旁葱畔嚎s到什么程度，即最少需要多少比特信息才能夠描述信源，如何能夠快速的傳輸信息。 信息率失真理論的基本概念： 在允許傳輸消息出現(xiàn)一定的失真條件下，傳輸該消息所需的信息率 (最小值 )將會(huì)比不允許失真時(shí)小，并且允許的失真度越大，則信息率 (最小值 )允許減小的程度就越大。 實(shí)際問題中，信號(hào)有一定的失真可以容忍。當(dāng)失真大于某一限度后，信息質(zhì)量將被嚴(yán)重?fù)p傷，喪失其實(shí)用價(jià)值。因此要規(guī)定失真限度，有一個(gè)定量的失真測(cè)度－失真函數(shù) 。 失真函數(shù) 設(shè)信源發(fā)出符號(hào) xi ： xi∈ {a1,…,a n}, 信宿端接收到的的符號(hào)為 yj, yj∈ {b1,…,b m}. 如果 xi=yj，沒有失真； 如果 xi≠yj，產(chǎn)生失真。 失真大小用 失真函數(shù) d(xi,yj)表示 失真函數(shù)又稱為失真度。為簡(jiǎn)化起見， d(xi,yj)簡(jiǎn)寫成 dij， d(xi,yj)= 0 α xi=yj xi≠yj 一般 dij值的大小表示失真的程度， 表征了接收消息 yj與發(fā)送消息 xi之間的定量失真度。 失真函數(shù)類型 均方失真 d(xi,yj)=(xiyj)2 絕對(duì)失真 d(xi,yj)=|xiyj| 相對(duì)失真 d(xi,yj)=|xiyj|/|xi| 誤碼失真 d(xi,yj)= 0 1 xi=yj 其他 用于連續(xù)信源 失真函數(shù)性質(zhì)： ,( , ) 0 。m i n ( , ) 00 ( , )jjjjX y Yjy d ydydy?????? ? ?iiiixi（ 1 ） 當(dāng) x 時(shí) ， x（ 2 ） x（ 3 ） x 若 X和 Y集合都由 N個(gè)不同符號(hào)構(gòu)成的，那么可組成 N2個(gè)不同的 (i,j)對(duì)，相對(duì)應(yīng)的失真函數(shù)也有 N2個(gè) 若 X和 Y集合分別由 N個(gè)和 M個(gè)不同符號(hào)構(gòu)成的，那么可組成 N*M個(gè)不同的 (i,j)對(duì)，相對(duì)應(yīng)的失真函數(shù)也有 N*M個(gè) dij有兩種表示方法， 一是失真矩陣 D， 二是消息傳輸圖。 將所有失真函數(shù)排列起來(lái)，得到 失真矩陣 D D＝ d(a1,b1) d(a1,b2) … d(a1,bm) d(a2,b1) d(an,b1) … … … d(an,b2) d(a2,b2) d(a2,bm) d(an,bm) 失真矩陣 消息傳輸圖 X Y x1 x2 xi xN … … … … y1 y2 yj yM d11 d12 d1j d1M dN1 dNM dNj dN2 例：已知 X＝ Y＝ {a1， a2}，且有 d11＝ d22＝ 0， d12＝ d21＝ 1，用兩種方法表示失真函數(shù) 解：失真矩陣 D為： 消息傳輸圖為： 1 1 1 22 1 2 20110ddDdd?? ?????? ??????a 1a 2x yb 1 = a 1b 2 = a 20011例：已知 X={0,1,2,3,4,5}， Y={0,1,2}， X和 Y集合符號(hào)之間的失真函數(shù)值分別為 d00=d11=d22=0， d30=d31=d41=d42=d50=d52=1，d01= d02 = d10 =d12=d20=d21=2， d32=d40=d51=3。 這些失真函數(shù)值的由來(lái)可形象化地用正六角形表示，其中每條邊相當(dāng)于失真函數(shù)值為 1。 0 1 3 4 2 5 ??????????????????????????????????????????131113311022202220525150424140323130222120121110020220ddddddddddddddddddDX Y 0 2 0 1 2 3 4 5 0 0 0 1 3 2 2 2 2 2 2 1 1 1 1 1 1 3 3 為了估計(jì)全體信源發(fā)出的消息符號(hào)與接收符號(hào)之間的失真程度 ,需要計(jì)算各個(gè)失真函數(shù)的統(tǒng)計(jì)平均值 (數(shù)學(xué)期望 )。平均失真函數(shù)定義為： 若 X和 Y都是 n維矢量消息的集合，也可以定義兩個(gè)矢量消息之 間的失真函數(shù)為： 其平均失真函數(shù)為： 該式中 是 n維矢量的第 r個(gè)分量上的平均失真函數(shù) [ ( , ) ] ( ) ( ) ( | )i j i j i j i j i i jX Y X Yd E d x y P x y d P x P y x d? ? ???11( , ) ( , )nn r rrd x y d x yn?? ?1111[ ( , ) ] [ ( , ) ]nnn n r r rrrd E d x y E d x y dnn??? ? ???rd平均失真函數(shù) d保真度（失真度）準(zhǔn)則： 若平均失真函數(shù)不大于所允許的失真度 D，即 稱為保真度準(zhǔn)則。 )()()(維矢量信源單符號(hào)信源NNDNdDd?? 當(dāng)給定信源的各符號(hào)概率分布時(shí)，若要求平均失真函數(shù)不超過某個(gè)給定
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1