信息論—(編輯修改稿)
2024-08-28 14:51 本頁面
【文章內(nèi)容簡介】 源的條件熵與聯(lián)合熵。 ???????????????41943611210)( xPX 1)(31???iiaP0 1 2 0 1/4 1/18 0 1 1/18 1/3 1/18 2 0 1/18 7/36 iaja條件概率 為 0 1 2 0 9/11 1/8 0 1 1/11 3/4 2/9 2 0 1/8 7/9 iaja)|( ij aaP信源符號之間無依賴性時，信源 X的信息熵為 )(l o g)()(31??? ??iii aPaPXH（比特 /符號） 考慮符號之間有依賴性時，條件熵為 )|(l o g)()|(313112 ??? ? ?? ?iijjji aaPaaPXXH（比特 /符號） 聯(lián)合熵為 )(l o g)()(313121 ??? ? ?? ?ijjiji aaPaaPXXH（比特 /二個符號） 2 0 )(21)( 212 ?XXHH X（比特 /符號） 熵的近似值 如有 6行 8列的棋型方格，若有二個質(zhì)點 A和 B, 分別以等概率落入任一方格內(nèi)，且它們的坐標分別為（ XA, ， YA），（ XB ，YB） ,但 A, B不能落入同一方格內(nèi)。 （ 1）若僅有質(zhì)點 A, 求 A落入任一格的平均自信息量是多少？ () （ 2）若已知 A落入，求 B落入的平均自信息量。 () （ 3）若 A， B是可辨的，求 A， B同都落入的平均自信息量。 () 例題 （ 1） A落入任一格的平均自信息量 （比特） （ 2）已知 A落入， B再落入的平均自信息量 ( 比特） o g481)(l o g)()(4848????? ??NN XXiAiAA aPaPXH??????471481)|(l o g)|()()|(jijBijBiAiB abPabPaPXYH o g471481471481???? ???? ji（ 3） A， B同時落入的平均自信息量 （比特） ??????471481)(l o g)()(jjijiiAB baPbaPXYH??????47148
高考資料相關(guān)推薦
鄂ICP備17016276號-1