20xx信息論與編碼第二版)習(xí)題答案陳運(yùn)主編(編輯修改稿)
2025-03-25 22:09 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 生，在女大學(xué)生中有 75%是身高 160 厘米以上的，而女 小孩中身高 160 厘米以上的占總數(shù)的一半。假設(shè)我們得知“身高 160 厘米以上的某女孩是大 學(xué)生”的音訊，征詢(xún)獲得多少信息量？解：設(shè)隨機(jī)變量 X 代表女小孩學(xué)歷XP(X) x1（是大學(xué)生） x2（不是大學(xué)生）設(shè)隨機(jī)變量 Y 代表女小孩身高Y y1（身高160cm）P(Y) y2（身高lt。160cm）已經(jīng)明白：在女大學(xué)生中有 75%是身高 160 厘米以上的即： p( y1 / x1 ) = bit求：身高 160 厘米以上的某女孩是大學(xué)生的信息量/ y ) = ? log p( x/ y ) = ? 即： I ( x1 1 1 1p( x1 ) p( y1 / x1 ) = ? = bit p( y1 ) 一副充分洗亂了的牌（含 52 張牌），試征詢(xún) (1) 任一特定陳列所給出的信息量是多少？ (2) 假設(shè)從中抽取 13 張牌，所給出的點(diǎn)數(shù)都不一樣能得到多少信息量？解：(1) 52 張牌共有 52！種陳列方式，假設(shè)每種陳列方式出現(xiàn)是等概率的那么所給出的信息量是：p( xi ) = 152!I ( xi ) = ? log p( xi ) = log 52!= bit(2) 52 張牌共有 4 種花色、13 種點(diǎn)數(shù)，抽取 13 張點(diǎn)數(shù)不同的牌的概率如下： 1 p( xi ) = 413 C 52 13413I ( xi ) = ? log p( xi ) = ? 13 = bit C 52x = 1 x = 2 x = 3? ? X ? ?x 1 = 02 3 4 設(shè)離散無(wú)經(jīng)歷信源 ?= ? ? ，其發(fā)出的信息為 ? 1/ 8 ? ?P( X )? ? 3 / 8 1/ 4 1/ 4(2) 此音訊中平均每符號(hào)攜帶的信息量是多少？解：(1) 此音訊總共有 14 個(gè) 0、13 個(gè) 12 個(gè) 6 個(gè) 3，因而此音訊發(fā)出的概率是：6 14 25 3 ? ? 1 ? ? 1 ? ?p = ??? ??? ? 8 ? ? 4 ? ? 8 ?此音訊的信息量是： I = ? log p = bit(2) 此音訊中平均每符號(hào)攜帶的信息量是： I / n = ，男性中紅綠色盲的發(fā)病率為 7%，女性發(fā)病率為 %，假設(shè)你征詢(xún)一 位男士：“你是否是色盲？”他的答復(fù)可能是“是”，可能是“否”，征詢(xún)這兩個(gè)答復(fù)中各含多少 信息量，平均每個(gè)答復(fù)中含有多少信息量？假設(shè)征詢(xún)一位女士，那么答案中含有的平均自信息量 是多少？解：男士：p( xY ) = 7%I ( xY ) = ? log p( xY ) = ? log = bitp( xN ) = 93%I ( xN ) = ? log p( xN ) = ? log = bitH ( X ) = ?女士： ∑ p( x) log p( x) = ?( log + ) = bit / symbol i i i 2H ( X ) = ?∑ p( x) log p( x) = ?( log + log ) = bit / symbol i i i 2X ? ? x x x x x x ??1 2 3 4 56 設(shè)信源 ? = ?? ，求這個(gè)信源的熵，并解釋為什么 ? ?P( X )? ? ?H(X) log6 不滿足信源熵的極值性。解： 2 H ( X ) = ?∑ p( x) log p( x) i ii 6= ?( log + log + log + log + log + log )= bit / symbol不滿足極值性的緣故是 ∑6 p( xi ) = 1 。i 證明：H(X3/X1X2) ≤ H(X3/X1)，并說(shuō)明當(dāng)X1, X2, X3是馬氏鏈時(shí)等式成立。證明：H ( X 3 / X1 X 2 ) ? H ( X 3 / X1 )= ?∑∑∑ p( xi1 xi 2 xi 3 ) log p( xi 3 / xi1 xi 2 ) + ∑∑ p( xi1 xi 3 ) log p( xi 3 / xi1
范文總結(jié)相關(guān)推薦
鄂ICP備17016276號(hào)-1