【正文】 符號是 10時，輸出符號 0的概率為 ，輸出符號1的概率為 。 當前面兩位符號是 11時，輸出符號 0的概率為 ，輸出符號1的概率為 . 馬爾科夫信源 E2 E3 E4 E5 41:3a 1:1a41:2a21:3aE1 41:1a21:1a41:3a21:2a41:2a21:3a43:2a信源符號集 },{A321 aaa?信源狀態(tài) },{54321 EEEEES ?(1)某一時刻信源符號的輸出只與此刻信源所處的狀態(tài)有關，而與以前的狀態(tài)及以前的輸出符號無關 （ 2）信源某時刻所處的狀態(tài)由當前的輸出符號和前一時刻信源的狀態(tài)唯一決定 )|(),|( 11 1 ilkljlklilkl EsaxPEsaxEsaxP ??????? ?? ????AaikkEa 1|AaEEEEsaxEsPkjiilkljl ??????????,10),|(1 ?時齊的馬爾科夫信源 狀態(tài)轉移概率和已知狀態(tài)下發(fā)出符號的概率均與時間無關的馬爾科夫信源 )|(),|( ikilkl EaPEsaxP ???)|( ijij EEPP ?m階馬爾科夫信源 m階有記憶離散信源的數(shù)學模型可由一組信源符號集和一組條件概率確定： ?????????)|(,:21121mmk kkkqaaaaPaaaX ?? qkkkkmm ,2,1, 121 ?? ??并滿足 1)|(11211?????qkkkkkmmmaaaaP ? qkkkk mm ,2,1, 121 ?? ??狀態(tài) )(21 mkkki aaaE ??則信源的狀態(tài)集 ),( 21 JEEEE ?? mqJ ?)|()|()|( 1211 ikikkkkk EaPEaPaaaaP mmm ?? ?? ?馬爾科夫信源的信息熵 )(1lim)( 21 NNXXXHNHH ??????? X時齊、遍歷的馬爾科夫信源的信息熵 )|(l o g)|()()|()(1 11ikikJiqkiiJii EaPEaPEQEXHEQH ? ??? ??? ???其中 為狀態(tài) 出現(xiàn)的概率 )()|()( ijiEEj EQEEPEQj???1)( ??? EEiiEQ)( iEQ iE例題 二元二階馬爾科夫信源的符號集為 [0,1]，條件概率為 )11|1()00|0( ?? PP)11|0()00|1( ?? PP)10|1()01|1()10|0()01|0( ???? PPPP求各狀態(tài)之間的轉移概率與馬爾科夫信源的信息熵。此信源輸出的符號序列遵守下面的規(guī)則： 當前面兩位符號是 00