離散信源ppt課件(參考版)
2025-05-02 03:55本頁面
【正文】 信源概率空間為： 1)()( ?????????????? ? xpxPX ，白黑則其狀態(tài)轉(zhuǎn)移矩陣為 ： ???????????白黑白黑P由此可見： 此 馬爾可夫信源是遍歷的 ， 穩(wěn)態(tài)分布存在 ，則設(shè) W=(p(S1) p(S2)),根據(jù) WP=W可得： ? ? ? ?1)()()p ( S)p ( S)p ( S)p ( S212121?????????SpSp以及可以求出 : 3/2)(3/1)(21??SpSp則此信源的熵為： 符號比特 /] o o )[(] o o [)()|()(21212????????? ???SpSpSXHSpHHiii（ 3）黑白消息信源的剩余度 2l og112l og1)(1m a x2m a x1???????????HHHXH??即 21 ?? ?。 信源的信息熵 符號比特 /)(l o g)()(21??? ??iii apapXH（ 2） 分析得此信源為 一階馬爾可夫信源 ， 它的的狀態(tài)集為：A={S1=黑 ， S2=白 }。 （ 2） 假設(shè)消息前后有關(guān)系 ， 其依賴關(guān)系為 p(白 |白 )=， p(黑 |白 )=， p(白 |黑 )=， p(黑 |黑 )=， 求此一階馬爾可夫信源的熵 H2。 從提高信息傳輸?shù)挠行杂^點出發(fā) : 原因是什么 ? 例 310： 黑白氣象傳真圖的消息只有黑白兩種顏色 ， 即信源 X={黑 ，白 }， 且 p(黑 )=， p(白 )=。 )10|1()01|1()10|0()01|0()11|0()00|1()11|1()00|0(????????pppppppp?????????????????43214321SSSSSSSSP解 :由例 7可知狀態(tài)轉(zhuǎn)移矩陣為： ??????????????????????????????????????2P由可知： 此信源是遍歷性的馬爾可夫信源，穩(wěn)態(tài)分布存在 設(shè)穩(wěn)態(tài)分布為： ))()()()((4321 SpSpSpSpW ?則利用 WP=W和 可知： 1)(41???J JSp 7/1)()(,14/5)()( 3241 ???? SpSpSpSp對于遍歷性馬爾可夫信源有 ??jjj SXHSpH )|()(3得出：???ijijij SapSapSXH )|(l o g)|()|(符號比特 /)|(7/1)|(7/1)|(14/5)|(14/5 43213????? SXHSXHSXHSXHH由 則有： o o )|(l o g)|()|( 111 ????? ?i iiSapSapSXH o o )|(l o g)|()|( 222 ????? ?i iiSapSapSXH o o )|(l o g)|()|( 333 ????? ?i iiSapSapSXH o o )|(l o g)|()|( 444 ????? ?i iiSapSapSXH第五節(jié) 信源的相關(guān)性和剩余度 一 .信源的相關(guān)性 信源輸出符號之間的依賴關(guān)系 對于離散平穩(wěn)信源有 m a x1211 )(...)|()|( HXHXXHXXH NNNN ???? ???當(dāng)信源輸出符號之間的相關(guān)程度越長，實際熵越小 二 .信源熵的相對率 η 為極限熵（實際熵）??? HHH ,m a x?三 .信源的剩余度 γ m a x11 HH ????? ?? 討論 γ ： 從提高抗干擾能力角度出發(fā) : 希望減少或去掉剩余度 希望增加或保留信源的剩余度 因為 :剩余度大的消息具有很強的抗干擾能力。 符號的概率出確定，則在此狀態(tài)下輸由假如狀態(tài) 121 ... ?mm kkkkj aaaaS)...|(l o g)|(l o g 2111 mmm kkkkjk aaaapSap ?? ?). . .|()|( 2111 mmm kkkkjk aaaapSap ?? ?兩端同時取對數(shù)，則： 兩端對 Sj和 ak1… akm+1取統(tǒng)計平均 ,然后取負值 ,則 )|(l o g). . .(11111, . . . ,jkjkkkjkkk SapSaaap mmmmm ??????左端). . .|(l o g). . .(111111, . . . ,kkkjkkkjkkk aaapSaaap mmmmmm ??????右端)|()()|(l og)|()()|(l og)|()...()|(l og)...|()...()|(l og)...(1111111111111111111,...,...,...
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1