20xx信息論與編碼第二版)習題答案陳運主編(編輯修改稿)
2025-03-25 22:09 本頁面
【文章內容簡介】 生，在女大學生中有 75%是身高 160 厘米以上的，而女 小孩中身高 160 厘米以上的占總數的一半。假設我們得知“身高 160 厘米以上的某女孩是大 學生”的音訊，征詢獲得多少信息量？解：設隨機變量 X 代表女小孩學歷XP(X) x1（是大學生） x2（不是大學生）設隨機變量 Y 代表女小孩身高Y y1（身高160cm）P(Y) y2（身高lt。160cm）已經明白：在女大學生中有 75%是身高 160 厘米以上的即： p( y1 / x1 ) = bit求：身高 160 厘米以上的某女孩是大學生的信息量/ y ) = ? log p( x/ y ) = ? 即： I ( x1 1 1 1p( x1 ) p( y1 / x1 ) = ? = bit p( y1 ) 一副充分洗亂了的牌（含 52 張牌），試征詢 (1) 任一特定陳列所給出的信息量是多少？ (2) 假設從中抽取 13 張牌，所給出的點數都不一樣能得到多少信息量？解：(1) 52 張牌共有 52！種陳列方式，假設每種陳列方式出現是等概率的那么所給出的信息量是：p( xi ) = 152!I ( xi ) = ? log p( xi ) = log 52!= bit(2) 52 張牌共有 4 種花色、13 種點數，抽取 13 張點數不同的牌的概率如下： 1 p( xi ) = 413 C 52 13413I ( xi ) = ? log p( xi ) = ? 13 = bit C 52x = 1 x = 2 x = 3? ? X ? ?x 1 = 02 3 4 設離散無經歷信源 ?= ? ? ，其發(fā)出的信息為 ? 1/ 8 ? ?P( X )? ? 3 / 8 1/ 4 1/ 4(2) 此音訊中平均每符號攜帶的信息量是多少？解：(1) 此音訊總共有 14 個 0、13 個 12 個 6 個 3，因而此音訊發(fā)出的概率是：6 14 25 3 ? ? 1 ? ? 1 ? ?p = ??? ??? ? 8 ? ? 4 ? ? 8 ?此音訊的信息量是： I = ? log p = bit(2) 此音訊中平均每符號攜帶的信息量是： I / n = ，男性中紅綠色盲的發(fā)病率為 7%，女性發(fā)病率為 %，假設你征詢一 位男士：“你是否是色盲？”他的答復可能是“是”，可能是“否”，征詢這兩個答復中各含多少 信息量，平均每個答復中含有多少信息量？假設征詢一位女士，那么答案中含有的平均自信息量 是多少？解：男士：p( xY ) = 7%I ( xY ) = ? log p( xY ) = ? log = bitp( xN ) = 93%I ( xN ) = ? log p( xN ) = ? log = bitH ( X ) = ?女士： ∑ p( x) log p( x) = ?( log + ) = bit / symbol i i i 2H ( X ) = ?∑ p( x) log p( x) = ?( log + log ) = bit / symbol i i i 2X ? ? x x x x x x ??1 2 3 4 56 設信源 ? = ?? ，求這個信源的熵，并解釋為什么 ? ?P( X )? ? ?H(X) log6 不滿足信源熵的極值性。解： 2 H ( X ) = ?∑ p( x) log p( x) i ii 6= ?( log + log + log + log + log + log )= bit / symbol不滿足極值性的緣故是 ∑6 p( xi ) = 1 。i 證明：H(X3/X1X2) ≤ H(X3/X1)，并說明當X1, X2, X3是馬氏鏈時等式成立。證明：H ( X 3 / X1 X 2 ) ? H ( X 3 / X1 )= ?∑∑∑ p( xi1 xi 2 xi 3 ) log p( xi 3 / xi1 xi 2 ) + ∑∑ p( xi1 xi 3 ) log p( xi 3 / xi1
范文總結相關推薦
鄂ICP備17016276號-1