信息率失真函數(shù)(2)(已修改)
2025-05-19 22:22 本頁面
【正文】 第五章 離散信源的限失真信源編碼 引言 信息率失真函數(shù)的性質(zhì) 信息率失真函數(shù)的計(jì)算 ? 冗余度壓縮編碼 對(duì)信源輸出的信息進(jìn)行有效的表示。 ? 信道編碼 增加信息的冗余度，以對(duì)抗信道中的傳輸錯(cuò)誤。 ?? 以上兩個(gè)方向的努力都是為了保證信息的可靠、 無誤傳輸，是保熵的。 ?? 問題是： 是否所有的信源都要進(jìn)行保熵的編碼呢？ 音頻壓縮 森林的鳥鳴： 原始音頻： 352Kps=44KHz 8Bit 128kbps MP3格式壓縮 一段著名的話： 原始音頻： 352Kps=44KHz 8Bit 128kbps MP3格式壓縮 圖像壓縮 文件大?。? 232K 圖像壓縮 文件大小： 138K 圖像壓縮 文件大?。? 138K 圖像壓縮 文件大?。? 24K 問題的提出 ? 是否需要完全表示信源的信息？ 自然界中很多信源是不需要進(jìn)行保熵的壓縮和傳輸?shù)? 對(duì)于連續(xù)信源，需要使用無限大的碼率才能夠進(jìn)行可靠的傳輸 ? 因此， 不可能也不必要完全表示信源信息 在給定的信息速率條件下，如何可以獲得信息的最優(yōu)表示？ ? 什么是最好？ 失真最小就是最好嗎？ 定義失真的度量 本章討論主要問題： 在允許一定失真存在的條件下，能夠?qū)⑿旁葱畔嚎s到什么程度，即最少需要多少比特信息才能夠描述信源，如何能夠快速的傳輸信息。 信息率失真理論的基本概念： 在允許傳輸消息出現(xiàn)一定的失真條件下，傳輸該消息所需的信息率 (最小值 )將會(huì)比不允許失真時(shí)小，并且允許的失真度越大，則信息率 (最小值 )允許減小的程度就越大。 實(shí)際問題中，信號(hào)有一定的失真可以容忍。當(dāng)失真大于某一限度后，信息質(zhì)量將被嚴(yán)重?fù)p傷，喪失其實(shí)用價(jià)值。因此要規(guī)定失真限度，有一個(gè)定量的失真測(cè)度－失真函數(shù) 。 設(shè)信源輸出樣值： xi, xi∈ {a1,…,a n}, 經(jīng)過信源編碼器，輸出樣值 yj, yj∈ {b1,…,b m}. 如果 xi=yj，沒有失真； 如果 xi≠yj，產(chǎn)生失真。 失真函數(shù)（失真測(cè)度） 失真大小用 失真函數(shù) d(xi,yj)表示 失真函數(shù)又稱為失真度。為簡化起見， d(xi,yj)簡寫成 dij， d(xi,yj)= 0 α xi=yj xi≠yj i＝ j時(shí)， x和 y的消息符號(hào)都是 ai，收發(fā)之間沒有失真， dij ＝ 0 i≠j時(shí)，發(fā)出符號(hào) ai，收到 bj，傳輸時(shí)出現(xiàn)失真， dij 0 一般 dij值的大小表示失真的程度， 表征了接收消息 yj與發(fā)送消息 xi之間的定量失真度。 失真函數(shù)（失真測(cè)度） 失真函數(shù)類型 均方失真 d(xi,yj)=(xiyj)2 絕對(duì)失真 d(xi,yj)=|xiyj| 相對(duì)失真 d(xi,yj)=|xiyj|/|xi| 誤碼失真 d(xi,yj)=δ(xiyj)= 0 1 xi=yj 其他 用于連續(xù)信源 失真函數(shù)（失真測(cè)度） 失真函數(shù)性質(zhì)： ,( , ) 0 。m in ( , ) 00 ( , )jjjjX y Yjy d ydydy?????? ? ?iiiixi（ 1 ） 當(dāng) x 時(shí) ， x（ 2 ） x（ 3 ） x 若 X和 Y集合都由 N個(gè)不同符號(hào)構(gòu)成的，那么可組成 N2個(gè)不同的 (i,j)對(duì)，相對(duì)應(yīng)的失真函數(shù)也有 N2個(gè) 若 X和 Y集合分別由 N個(gè)和 M個(gè)不同符號(hào)構(gòu)成的，那么可組成 N*M個(gè)不同的 (i,j)對(duì)，相對(duì)應(yīng)的失真函數(shù)也有 N*M個(gè) dij表示方法有兩種， 一是失真矩陣 D， 二是消息傳輸圖 失真函數(shù)（失真測(cè)度） 將所有失真函數(shù)排列起來，得到 失真矩陣 D D＝ d(a1,b1) d(a1,b2) … d(a1,bm) d(a2,b1) d(an,b1) … … … d(an,b2) d(a2,b2) d(a2,bm) d(an,bm) 失真矩陣 消息傳輸圖 X Y x1 x2 xi xN … … … … y1 y2 yj yM d11 d12 d1j d1M dN1 dNM dNj dN2 例：已知 X＝ Y＝ {a1， a2}，且有 d11＝ d22＝ 0， d12＝ d21＝ 1，用兩種方法表示失真函數(shù) 解：失真矩陣 D為： 消息傳輸圖為： 11 1221 220110ddDdd?? ?????? ??????a 1a 2x yb 1 = a 1b 2 = a 20011例：已知 X={0,1,2,3,4,5}， Y={0,1,2}， X和 Y集合符號(hào)之間的失真函數(shù)值分別為 d00=d11=d22=0， d30=d31=d41=d42=d50=d52=1，d01= d02 = d10 =d12=d20=d21=2， d32=d40=d51=3。這些失真函數(shù)值的由來可形象化地用正六角形表示，其中每條條邊相當(dāng)于失真函數(shù)值為 1。 0 1 3 4 2 5 ??????????????????????????????????????????131113311022202220525150424140323130222120121110020220ddddddddddddddddddDX Y 0 2 0 1 2 3 4 5 0 0 0 1 3 2 2 2 2 2 2 1 1 1 1 1 1 3 3 漢明失真 平方誤差失真函數(shù) 為了估計(jì)全體信源發(fā)出的消息符號(hào)與接收符號(hào)之間的失真程度 ,需要計(jì)算各個(gè)失真函數(shù)的統(tǒng)計(jì)平均值 (數(shù)學(xué)期望 )。平均失真函數(shù)定義為： [ ( , ) ] ( ) ( ) ( | )i j i j i j i j i i jX Y X Yd E d x y P x y d P x P y x d? ? ???平均失真函數(shù) d 若 X和 Y都是 n維矢量消息 的
職業(yè)教育相關(guān)推薦
鄂ICP備17016276號(hào)-1