信息論與編碼ppt課件(2)(參考版)
2025-05-09 02:45本頁(yè)面
【正文】 41 1 ( / )0 1 0 0 00 1 0 0 0 0 1 00 0 0 1jiijp y xij???? ????????????????，m in 0D ?即無失真 R(Dmin)=R(0)=H(X)=log24=2bit/符號(hào) 42 4m a x1 , 2 , 3 , 41m in ( ) ( , )1 1 1 1 1 1 1 1 ( 0 1 1 1 , 1 0 1 1 ,4 4 4 4 4 4 4 41 1 1 1 1 1 1 1 1 1 0 1 , 1 1 1 0)4 4 4 4 4 4 4 43 ( j=1 2 3 4)4i i jjiD p x d x y???? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ? ? ? ? ? ???或 或 或( / ) ( ) ( / ) ( )1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 11 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1( / )1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 11 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1j i i j i jjip y x p x p y x p yp y x?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ???? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?與 無 關(guān) =或 或 或R(Dmax)=R(3/4)=0 。而 x=0出現(xiàn)的概率為 p,所以信道的平均失真度為 p 。 ? 并能找到滿足該最小失真的試驗(yàn)信道 ,且是一個(gè)無噪無損信道 ,其信道矩陣為 ???????1001P37 ? 計(jì)算得： R(0)=I(X。 ? 即使如此 ,除簡(jiǎn)單的情況外實(shí)際計(jì)算還是困難的 ,只能用迭代逐級(jí)逼近的方法。 ? 它是在保真度準(zhǔn)則下求極小值的問題。反之亦然。 其定義域?yàn)?0~Dmax , 其值為 0~H(X)。 DD DR 0)(m a x m in??? 由于 I(X,Y)是非負(fù)函數(shù) ,而 R(D)是在約束條件下的I(X,Y)的最小值 ,所以 R(D)也是一個(gè)非負(fù)函數(shù) ,它的下限值是零。 ? 通常 Dmin = 0， R(Dmin) = H(X) ? 當(dāng) D≥Dmax時(shí) , R(D) = 0 ? 當(dāng) 0 ≤D≤Dmax時(shí) , 0＜ R(D) ＜ H(X) 26 R(D)的定義域 ? Dmax：定義域的上限。 ? 當(dāng)允許有一定失真時(shí) ,R(D)將為有限值 ,傳送才是可能的。 ? 當(dāng) Dmin = 0,即信源不允許任何失真時(shí) ,信息率至少應(yīng)等于信源輸出的平均信息量 — 信息熵。 ? 允許平均失真度能否達(dá)到其下限值 0,與單個(gè)符號(hào)的失真函數(shù)有關(guān)。Y)最小值 概念上 (反映 ) 固定信道，改變信源，使信息率最大 （ 信道傳輸能力 ） 固定信源，改變信道，使信息率最小 （ 信源可壓縮程度 ） 通信上 使傳輸信息量最大，Pe→0 —— 信道編碼 用盡可能少的碼符號(hào)傳送 —— 信源編碼 22 信息率失真函數(shù)的 性質(zhì) ? R(D)的定義域 ? 率失真的定義域問題就是在信源和失真函數(shù)已知的情況下 ,討論允許平均失真度 D的 最小 和 最大 取值問題。(m in)( YXIDRDP?21 率失真函
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1