信息論與編碼ppt課件(2)(存儲版)
【正文】 ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ???? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?與 無 關(guān) =或 或 或R(Dmax)=R(3/4)=0 。 ? 它是在保真度準(zhǔn)則下求極小值的問題。 ? 通常 Dmin = 0， R(Dmin) = H(X) ? 當(dāng) D≥Dmax時 , R(D) = 0 ? 當(dāng) 0 ≤D≤Dmax時 , 0＜ R(D) ＜ H(X) 26 R(D)的定義域 ? Dmax：定義域的上限。Y)最小值 概念上 (反映 ) 固定信道，改變信源，使信息率最大 （ 信道傳輸能力 ） 固定信源，改變信道，使信息率最小 （ 信源可壓縮程度 ） 通信上 使傳輸信息量最大，Pe→0 —— 信道編碼 用盡可能少的碼符號傳送 —— 信源編碼 22 信息率失真函數(shù)的 性質(zhì) ? R(D)的定義域 ? 率失真的定義域問題就是在信源和失真函數(shù)已知的情況下 ,討論允許平均失真度 D的 最小 和 最大 取值問題。 ? 因此當(dāng)改變 p(yj|xi)時 ,I (X,Y)有一極小值。 ? 若從接收端來看 ,就是在滿足保真度準(zhǔn)則下 ,尋找再現(xiàn)信源消息所必須獲得的 最低平均信息量 。信息率失真函數(shù) 第 4章 2 平均失真和信息率失真函數(shù) 離散信源和連續(xù)信源的 R(D)計算 內(nèi)容 3 ? 失真 o 信道編碼定理 —— 欲無失真，必 R C 若 R C，必失真 o 失真 必要性 —— ? 連續(xù)信源 R趨向于無窮大，必有失真 ? 壓縮亦有失真 o 失真 可能性 —— 終端性能有限，如人眼 ,人耳 ? 研究： 信息率～允許失真 —— 信息率失真理論 4 平均失真和 信息率失真函數(shù) 5 失真函數(shù) ? 假如某一信源 X,輸出樣值 xi , xi∈ {a1,a2,… an},經(jīng)信道傳輸后變成 yj , yj ∈ {b1, b2,… bm},如果 : xi ＝ yj 沒有失真 xi ≠ yj 產(chǎn)生失真 ? 失真的大小 ,用一個量來表示 ,即 失真函數(shù) d(xi,yj),以 衡量用 yj代替 xi所引起的失真程度 。 ),(m in)( YXIDRDP?? 在信源給定后 ,我們希望在滿足一定失真的情況下 ,使信源必須傳輸給收信者的 信息傳輸率 R盡可能地小。 ? 可以證明，當(dāng) p(x)一定時 ,I (X,Y)是關(guān)于 p(yj|xi)的下凸函數(shù)。Y)最大值 固定 p(xi),改變 p(yj/xi),求得 I(X。 ? 對于連續(xù)信源： ????)(lim)(0m i nDRDRD25 R(D)的定義域 ? R(D)的定義域?yàn)?[Dmin， Dmax ]。 31 R(D) H(X) R(D) 0 D Dmax D R(D) 0 Dmax D 信息率失真曲線 由以上三點(diǎn)結(jié)論，對一般 R(D)曲線的形態(tài)可以畫出來： 32 離散信源和連續(xù)信源 R(D)計算 ? 給定信源概率 pi和失真函數(shù) dij,就可以求得該信源的 R(D)函數(shù)。 ? 在這種試驗(yàn)信道條件下，可計算得 R(Dmax) = R(p) = 0 39
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1