class_4_20xx-預(yù)覽頁
【正文】 誤差為最小的維納預(yù)測過程 即使采用最佳的不定長編碼，也不過是趨近于把預(yù)測信號作為混合平穩(wěn)信源看待時的熵 HM； 只有把預(yù)測誤差信號按照組合信源看待并做自適應(yīng)編碼，才可能達到更低的組合信源熵 HC； 26 率失真理論 限失真編碼（失真不超過某給定條件下的編碼） 率失真理論研究的問題： 最佳編碼：使限失真條件下比特數(shù)最少的編碼 Rate Distortion Theory 27 1959年， Shannon又進一步確立了率失真理論， 從而奠定了信源編碼的理論基礎(chǔ)； 1948年， Shannon在 “ 通信的數(shù)學(xué)原理 ” 中首次 提到信息率 —失真函數(shù)的概念； 。 bk )=I(aj) 30 信息保持編碼 aj ： 1 2 3 4 5 6 7 8 bj ： 000 001 010 011 100 101 110 111 aj ： 1,2 3,4 5,6 7,8 bj ： 00 01 10 11 當(dāng)允許存在一定誤差 ,假設(shè)一個實際信源 ,有 8不同消息 ,但卻發(fā)現(xiàn) 1,2。當(dāng)集合中事件結(jié)構(gòu)發(fā)生變化時，就會引起信源概率結(jié)構(gòu)的變化，從而影響信源概率的變化。 討論： 32 率失真函數(shù)的基本含義： 在一定的失真條件下，要找出平均互信息量，即： 的最小值 min I(X。 33 平均信息量的公式可寫為： 或者： () () 34 因此 , 可知平均互信息量由下面幾個方面決定： 信源符號概率 P(aj) 編碼輸出符號概率 Q(bk) 已知信源符號出現(xiàn)的條件概率 Q(bh|aj) 在確定信源條件下 , P(aj)已確定 , 所謂選擇編碼方法 ,就是通過改變條件概率 Q(bh|aj)的分布來控制平均信息量。 36 0 0 b2 b1 a2 a1 d2 d1 (a) (b) 圖 失真測量流圖與矩陣 對離散信源：常用失真測量流圖或矩陣作為失真的度量 ???????0021ddd37 以 d(aj,bk) 代表失真度量 ,則平均失真 (失真函數(shù) )： () 若要求平均失真 D(Q)≤D， 則必存在這樣一個條件概率 Q(bk|aj)， 使 D(Q)不超過 D， 記： QD=Q(D(Q)≤D ) () 為保證失真在允許范圍 D內(nèi)的條件概率的集合。 39 R(D)函數(shù)對于信源編碼具有指導(dǎo)意義，但計算一個具體信源的 R(D)函數(shù)很困難： 信源符號的概率分布很難確知； 式 ()的求解也相當(dāng)復(fù)雜。 ② 存在一個 Dmax， 使 D Dmax 時， R(D)=0。 ２、對 _______________信號，均勻量化的均方誤差可以達到
外語相關(guān)推薦
鄂ICP備17016276號-1