信息論與編碼ppt課件(2)-文庫(kù)吧資料
2025-05-12 02:45本頁(yè)面
【正文】 數(shù)與信道容量的比較 信道容量 C 率失真函數(shù) R(D) 數(shù)學(xué)上 固定 p(yj/xi),改變 p(xi),求得 I(X。 p(xi)一定 )。Y)： – 信源的概率分布 p(xi)的上凸函數(shù)。 ? 因此當(dāng)改變 p(yj|xi)時(shí) ,I (X,Y)有一極小值。 ? 因?yàn)?p(x)分布一定時(shí) ,信道受干擾不同所能傳遞的信息量是不同的。( b i txpyxpyxpYXIi j ijiji ?? ? ?19 ? 編碼器輸入的概率分布為 p(x)={ ,} ? 信道矩陣 ???????ijp? 求互信息 符號(hào)/)()|(l o g)()。 17 信息率失真函數(shù) ? PD是所有滿(mǎn)足保真度準(zhǔn)則的試驗(yàn)信道集合 ,因而可以在集合 PD中尋找某一個(gè)信道pij,使 I (X,Y)取極小值。 ? 若從接收端來(lái)看 ,就是在滿(mǎn)足保真度準(zhǔn)則下 ,尋找再現(xiàn)信源消息所必須獲得的 最低平均信息量 。 16 信息率失真函數(shù) R(D) ? R(D)： – 在限定失真為 D的條件下信源輸出的最小信息率。 ? 假想信道 ??? ?DDDD＞滿(mǎn)足保真度準(zhǔn)則15 ? 滿(mǎn)足 條件的所有轉(zhuǎn)移概率分布 pij ,構(gòu)成了一個(gè)信道集合 DD ?}|({ DDabpP ijD ?? ）：? D失真允許的試驗(yàn)信道： – 滿(mǎn)足保真度準(zhǔn)則的試驗(yàn)信道。 ? 信息壓縮問(wèn)題就是對(duì)于給定的信源 ,在滿(mǎn)足平均失真 的前提下 ,使信息率盡可能小。信息率失真函數(shù) 第 4章 2 平均失真和信息率失真函數(shù) 離散信源和連續(xù)信源的 R(D)計(jì)算 內(nèi)容 3 ? 失真 o 信道編碼定理 —— 欲無(wú)失真，必 R C 若 R C，必失真 o 失真 必要性 —— ? 連續(xù)信源 R趨向于無(wú)窮大，必有失真 ? 壓縮亦有失真 o 失真 可能性 —— 終端性能有限，如人眼 ,人耳 ? 研究： 信息率～允許失真 —— 信息率失真理論 4 平均失真和 信息率失真函數(shù) 5 失真函數(shù) ? 假如某一信源 X,輸出樣值 xi , xi∈ {a1,a2,… an},經(jīng)信道傳輸后變成 yj , yj ∈ {b1, b2,… bm},如果 : xi ＝ yj 沒(méi)有失真 xi ≠ yj 產(chǎn)生失真 ? 失真的大小 ,用一個(gè)量來(lái)表示 ,即 失真函數(shù) d(xi,yj),以 衡量用 yj代替 xi所引起的失真程度 。 ? 失真函數(shù)定義為： ?????????jijiji yx0aa,yx0,)y,d( x6 失真函數(shù) ? 將所有的 d(xi,yj)排列起來(lái) ,用矩陣表示為 : 1 1 11( , ) ( , )d( , ) ( , )mn n md a b d a bd a b d a b?????????失真矩陣 ? 例：設(shè)信源符號(hào)序列為 X={0,1},接收端收到符號(hào)序列為 Y= {0,1,2},規(guī)定失真函數(shù)為 d(0,0)＝ d(1,1)= 0 d(0,1)＝ d(1,0)= 1 d(0,2)＝ d(1,2)= 0 1 1 0 d??? ????失真矩陣 7 2( , ) ( )i j i jd x y x y??? 失真函數(shù)形式可以根據(jù)需要任意選取 ,最常用的 有 : ( , ) | |i j i jd x y x y??
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1