信息論與編碼糾錯第1章(編輯修改稿)
2025-06-14 17:42 本頁面
【文章內(nèi)容簡介】 / ) ( / )( / ) ( / )p x a p x ap x a x a p x a x ap x x x p x x xp x x x x p x x x x? ? ? ? ? ? ? ? ? ?? ? ? ?? ? ? ? ? ?????信息論與編碼 【 例 】 某離散平穩(wěn)信源 ，設(shè)信源發(fā)出的符號只與前一個符號有關(guān)，其關(guān)聯(lián)程度用表所示聯(lián)合概率 p(xi xj )表示（ xi為前一個符號， xj為后一個符號），求條件概率： 0 1 2( ) 4 / 9 3 / 9 2 / 9XpX? ? ? ??? ? ? ?? ? ? ? xj xi 0 1 2 0 1/3 1/9 0 1 1/9 1/18 1/6 2 0 1/6 1/18 p(xixj) p(xj/xi) i i j( ) ( )Jp x p x x? ?ijjii()( / )()p x xp x xpx?由 可計算出 p(xj/xi)，如表。 xj xi 0 1 2 0 3/4 1/4 0 1 1/3 1/6 1/2 2 0 3/4 1/4 信息論與編碼 五．馬爾可夫信源 多數(shù)有記憶信源的記憶長度是有限的，即某一時刻信源發(fā)出的符號只與前面已發(fā)出的若干個符號有關(guān)。為了描述這種有限的記憶關(guān)系，常引入“ 狀態(tài) ”的概念，這樣，信源發(fā)出的符號消息與信源所處的狀態(tài)有關(guān)。 設(shè)信源 r 時刻發(fā)出的符號 xr與前 m個符號 xr1， xr2， ...， xrm有關(guān)（ 稱做 m階 ），這 m個時間上依次相鄰的符號組成一個 狀態(tài) s。 若 ，則可能的狀態(tài) s有 km種： 。 ? ?i 1 2 k, , ,x a a a? m12, ks s s1 2 ir r r r me x x x s? ? ???用 er表示 r時刻的狀態(tài) : 1 1 2 1 jr r r r r me x x x x s? ? ? ? ???當(dāng)符號 xr發(fā)出后狀態(tài)將改變，記為 信息論與編碼 當(dāng)狀態(tài)轉(zhuǎn)移概率和已知狀態(tài)下發(fā)符號的概率與時刻無關(guān)，即： 1( / ) ( / )( / ) ( / )r j r i j ir l r i l ip e s e s p s sp x a e s p a s? ? ? ????? ? ???稱為 時齊 。 馬爾可夫信源的兩個條件： （ 1）某一時刻信源的輸出只與當(dāng)時的信源狀態(tài)有關(guān)，而與以前的狀態(tài)無關(guān)，即 12( / , , , ) ( / )r l r i r t r n r l r ip x a e s e s e s p x a e s??? ? ? ? ? ? ?1( / ) 1k r l r ilp x a e s?? ? ??且滿足： 10( / , )1r j r l r ip e s x a e s??? ? ? ? ??（ 2）某一時刻信源所處的狀態(tài)只由前一時刻的輸出符號和前一時刻的狀態(tài)唯一確定 信息論與編碼 ( ) ( ) ( / ) 0( ) 1i t i ttiip s p s p s sps? ????????? 當(dāng)時齊馬爾可夫信源達(dá)到平穩(wěn)分布時，滿足： 【 例 】 某二階平穩(wěn)時齊馬爾可夫信源，設(shè)信源符號集為 {a1， a2}，狀態(tài)集為 {s1=a1a1， s2=a1a2或 a2a2， s3=a2a1}，各狀態(tài)之間的轉(zhuǎn)移情況如圖 (香農(nóng)線圖 )所示，求平穩(wěn)時各狀態(tài)的概率分布。 s1s2s3a1: 2 / 3a1: 1 / 2a2: 1 / 3a2: 3 / 4a1: 1 / 4a2: 1 / 2信息論與編碼 s1s2s3a1: 2 / 3a1: 1 / 2a2: 1 / 3a2: 3 / 4a1: 1 / 4a2: 1 / 2【 解 】 由圖可得在已知狀態(tài)下發(fā)符號的概率分別為： 1 1 2 11 2 2 21 3 2 3( / ) 2 / 3 ( / ) 1 / 3( / ) 1 / 4 ( / ) 3 / 4( / ) 1
醫(yī)療健康相關(guān)推薦
鄂ICP備17016276號-1