通信原理信息ppt課件(編輯修改稿)
2025-01-31 21:10 本頁面
【文章內容簡介】 )()2()1( ?????? MMIII M?(M進制單位 ) =log2M (bit) 22 【 例 】 試計算二進制符號不等概率時的信息量 (設P(1)=P)。 解 P(1)=P， 故 P(0)=1P，則 )bi t()(1l og)0(l og)0()bi t(l og)1(l og)1(2222PPIPPI?????????可見 , 不等概率時， 每個符號的信息量不同 23 例題 ?一個信息源由 0、 2共 3個符號組成， 3個符號出現(xiàn)的概率分別是 1/ 1/4和 1/2，且每個符號出現(xiàn)都是獨立的。如果消息序列長為 18，其中0出現(xiàn) 8次， 1和 2各出現(xiàn) 5次。試求消息序列所包含的信息量。 ?0符號所攜帶的信息量： log2(1/8)=3bit ?1符號所攜帶的信息量： log2(1/4)=2bit ?2符號所攜帶的信息量： log2(1/2)=1bit ?消息序列的總信息量：I=3*8+2*5+1*5=39bit 24 [例題 ]（順便引出“信息熵”的概念） ?某信源每天播報某地的天氣預報，此地晴天、多云、陰、雨的概率分別為 1/ 1/ 1/ 1/8 ?求： ? （ 1）晴、多云、陰、雨的各自所含信息量 ? （ 2）信息串“晴 多云 陰 晴 晴 晴 多云 雨”所含的總信息量 ? （ 3）此信源的每個消息的平均信息量（稱為“信息熵”） 25 [例題 ]（順便引出“信息熵”的概念） )(121l og)(l og )1(22 bi tPI ????? 晴晴)(241l og)(l og22 bi tPI ????? 多云多云)(381l og)(l og22 bi tPI ????? 陰陰)(381l og)(l og22 bi tPI ????? 雨雨某信源每天播報某地的天氣預報，此地晴天、多云、陰、雨的概率分別為 1/ 1/ 1/ 1/8 求： （ 1）晴、多云、陰、雨的各自所含信息量 26 [例題 ]（順便引出“信息熵”的概念） )()(2)(4)( )2( 雨陰天多云晴總 IIIII ??????b itb itb itb it 332241 ??????)(14 b it?某信源每天播報某地的天氣預報，此地晴天、多云、陰、雨的概率分別為 1/ 1/ 1/ 1/8 求： （ 2）信息串“晴 多云 陰 晴 晴 晴 多云 雨”所含的總信息量 27 [例題 ]（順便引出“信息熵”的概念） )/()3( 符號符號數(shù)平均信息量 總 bi tII ????稱為信息熵，因為其通用公式為 )(l og)()( 2 iii xpxpxH ???這
教學課件相關推薦
鄂ICP備17016276號-1