信息論與編碼第2章習(xí)題解答-全文預(yù)覽
【正文】 發(fā)符號的概率為P(ak|si)(i,k=1,2,3),如下圖所示.S1S2S3a1:189。所以不論從何狀態(tài)起信源輸出的序列一定是021021序列，完全確定的。（3） 求當(dāng)p=0和p=1時信源的熵，并說明其理由。當(dāng)時當(dāng)時由此可以看出上面的結(jié)論時正確的。由此，可得狀態(tài)EEE3的極限概率：Q(E1)=1/3Q(E1)+1/3Q(E2)+1/2Q(E3)Q(E2)=1/3Q(E1)+1/3Q(E2)+1/2Q(E3)Q(E3)=1/3Q(E1)+1/3Q(E2)Q(E1)+Q(E2)+Q(E3)=1可得： Q(E1)=Q(E2)=3/8， Q(E3)=1/4c:1/3c:1/3b:1/2b:1/3c:b:a:c:1/3b:1/2a:1/3E2E3E0E1a:1/3圖A所以H∞=H2=Q(E1)H(1/3,1/3,1/3)+Q(E2)H(1/3,1/3,1/3)+Q(E3)H(1/2,1/2) =(比特/符號) ，信源X的符號集為并定義。解：由題可得，狀態(tài)轉(zhuǎn)移圖為：a:b:c:b:1/2a:1/2c:1/3a:1/3c:1/3a:1/3b:1/3b:1/3abcabcabcaE0E1E2E3E4E5E6E7E8E9E10E11b可見，狀態(tài)E1和EEE10的功能是完全相同的， 狀態(tài)E2和EEE11的功能是完全相同的，狀態(tài)E3和EE12的功能是完全相同的。對于這樣的信源我們可以用另一新信源來代替，新信源中只包含這些高概率序列。105個像素組成,所以像素均是獨立變化,且每一像素又取128個不同的亮度電平,?現(xiàn)有一廣播員在約10000個漢字的字匯中選1000個字來口述此電視圖像,試問廣播員描述圖像所廣播的信息量是多少(假設(shè)漢字字匯是等概率分布,并彼此無依賴)?若要恰當(dāng)?shù)孛枋鰣D像,廣播員在口述中至少需要多少漢字?解: ∵亮度電平等概率出現(xiàn) ∴每個像素所含的信息量為 H(X)=log 128=7 bit/像素. 而每個像素均是獨立變化的 ∴每幀電視圖像所包含的信息量為 H(X)= 3105H(X)= 106bit ∵假設(shè)漢字字匯是等概率分布 ∴每個漢字出現(xiàn)的概率均為從而每個漢字?jǐn)y帶的信息量為log 10000= bit/字 ∵漢字間彼此無依賴, 廣播員口述的1000個漢字所廣播的信息量為1000= bit若要恰當(dāng)?shù)孛枋鰣D像,廣播員在口述中至少需要的漢字?jǐn)?shù)為≈15841個漢字。解：（1）因為每幀圖象可以看成是離散的數(shù)字圖象，每個像素的亮度是隨機而且等概率出現(xiàn)的，則每個像素亮度信源的概率空間為：= =1每個像素亮度含有的信息量為：H(X)=現(xiàn)在，所有的像素是獨立變化的，則每幀圖象可以看成是離散亮度信源的無記憶N次擴展信源。設(shè)另一離散無記憶信源S’， 其符號集為S信源符號集的兩倍，A’={ai}i=1,2,...,2q,并且各符號的概率分布滿足：Pi’=(1ε)Pi (i=1,2,...,q)Pi’=εPiq (i=q+1,q+2,...,2q)試寫出信源S’信息熵與信源S的信息熵的關(guān)系。（3）若A,B是可分辨的，求A,B同都落入的平均自信息量。假如我們得知“”的消息，問獲得多少信息量？解：設(shè)A為女大學(xué)生,則依題意有: , , 所以信息量為（含52張牌），試問(1) 任一特定排列所給出的信息量是多少？(2) 若從中出去抽取13張牌，所給出的點數(shù)都不相同時得到多少信息量？解：（1）任一排列發(fā)生的概率為1/52!I＝log52!＝ bit （2）13張牌點數(shù)都不相同發(fā)生的概率為1/413I＝log413＝26 bit2. 設(shè)離散無記憶信源=,其發(fā)出的消息為（202120130213001203210110321010021032 011223210），求：（1）此消息的自信息是多少？（2）在此消息中平均每個符號攜帶的信息量是多少？ 解：(1) 因為離散信源是無記憶的，所以起發(fā)出的消息序列中各符號是無依賴且統(tǒng)計獨立的。根據(jù)推論也只要稱一次即可。那么假幣在輕（3）里面，根據(jù)推論1，再稱一次就可以了。 重（1）交叉組合為： 從這三個有假幣的組里任意選兩個稱一下，又有兩種情況：平衡與不平衡，不過我們
教學(xué)教案相關(guān)推薦
鄂ICP備17016276號-1