信息論—-文庫吧資料
2024-08-14 14:51本頁面
【正文】 信息量 （比特） （ 2）已知 A落入， B再落入的平均自信息量 ( 比特） o g481)(l o g)()(4848????? ??NN XXiAiAA aPaPXH??????471481)|(l o g)|()()|(jijBijBiAiB abPabPaPXYH o g471481471481???? ???? ji（ 3） A， B同時落入的平均自信息量 （比特） ??????471481)(l o g)()(jjijiiAB baPbaPXYH??????471481)|()(l o g)|()(jijBiAijBiAiabPaPabPaP)|()( ??? XYHXH BA馬爾科夫信源 例子：有一個信源，輸出符號的符號集為 {0,1}。 （ 1）若僅有質(zhì)點 A, 求 A落入任一格的平均自信息量是多少？ () （ 2）若已知 A落入，求 B落入的平均自信息量。信息熵 信息熵定義為信源的平均自信息量 物理意義： 1. 信源輸出的每個消息的平均自信息量 2. 信源的平均不確定性 3. 輸出消息的隨機性 ????qiii aPaPXH1)(l o g)()(信息熵的基本性質(zhì) 對稱性、確定性、非負性、擴展性、 可加性、強可加性、遞增性、極值性、上凸性 離散無記憶的擴展信源 擴展信源：信源輸出的消息是按一定概率選取的由多個符號組成的序列 離散無記憶信源 其 N次擴展信源是 其中 ?????????????qqpppaaaxPX,)( 2121?????????????????)(,),(),(,)( 2121NNqqiNPPPPX??????? ??Niiii aaa ?21?? NN iiiiiii pppaPaPaPP ?? 2121 )()(
高考資料相關(guān)推薦
鄂ICP備17016276號-1