class_4_20xx-文庫吧
2025-07-17 14:38 本頁面
【正文】 夠大的條件概率以近似計算 H∞。 假定信源的記憶有限。 Xp只與其前面 M個符號 Xp1, Xp2,… , XpM有關(guān) M階 Markov鏈： 表示這 M+1個符號 (XpM, XpM+1, , Xp1,Xp)組成的序列。 ?12 M=1 → 一階 Markov鏈 P(Xp|Xp1, Xp2,Xp3, , XpM)=P(Xp|Xp1) P(X)=P(X1)P(X2|X1)P(X3|X2) P(Xn|Xn1) ?? M → M階 Markov鏈 P(Xp|Xp1, Xp2,Xp3, , XpM) P(X)=P(X1)P(X2|X1)P(X3|X2,X1) P(Xn|Xn1,X n2, , XnM) ???13 得到平均符號熵 HM+1 M=1 → 2階條件熵 H2 H(X|Y) 和 H(Y|X) M=0 → 1階熵 H1 (信源無記憶 ) H(X) 簡化 :信源等概率分布 ,有 m種取值 0階熵 H0 (信源的最大離散熵 ) H0 = log m = R 14 對于一般平穩(wěn)信源，有： 只能計算 HM， 只好用傳送 HM的手段，傳輸不經(jīng)濟。 實際符號熵是 H∞， 理論上只要傳送 H∞的手段即可 。 有時只能得到 H1， 甚至 H0， 傳輸更浪費。 未能完全掌握其概率分布 ??????? HHHHHm M?210l o g （ ） 15 對于 PCM編碼的數(shù)據(jù) ,其無失真壓縮的理論極限為 : ????HmHHCR lo g0m a x() 16 對于常見的編碼技術(shù) : 等長的 PCM編碼 : 傳送 H0 傳送 H1, 獲得信息變差 I01 = H0 H1 (統(tǒng)計了信源概率后獲得的信息 ) 測得各符號出現(xiàn)的概率 ,并按無記憶信源考慮的統(tǒng)計編碼 進一步考慮利用前一取樣值進行預(yù)測 (DPCM) 傳送 H2 ,獲得信息變差 I02 = H0 – H2 若利用前 M1個取樣值進行預(yù)測 傳送 HM ,獲得信息變差 I0M = H0 – HM （預(yù)測編碼） 17 表 8幅典型黑白電視圖象的實測熵值 序號 圖像內(nèi)容 H(X0) H(X0|X1) H(X0|X2) H(X0|X5,X1) H(X0|X1,X2) 1 戴胸花的女郎 2 雙人 3 教授 4 男孩與玩具 5 戴草帽的婦女 6 船 7 水池 8 分辨率測試卡 熵值計算時所選的 相鄰像素位置關(guān)系 X2 X1 X0 X3 X1 X5 X2 X4 X0 圖像 1~2 : 美國電影電視工程師協(xié)會 (SMPTE)測試圖像 圖像 3~8: 歐洲廣播聯(lián)盟 (EBU)測試圖像
外語相關(guān)推薦
鄂ICP備17016276號-1