信息論與編碼理論習題答案姜楠王健編著清華大學-展示頁
2025-07-02 18:09本頁面
【正文】 全部獲勝的可能性是，因此在假定大衛(wèi)最后3場比賽全部獲勝的情況下麥克的最終比賽結果的條件熵是 （1）假定一個家庭里有個女孩，1個男孩，相應的概率是，因此女孩的平均數(shù)是，女孩的平均數(shù)和男孩的平均數(shù)相等。 （1）當最后3場比賽麥克勝的次數(shù)比大衛(wèi)多時，麥克最終才能勝，因此同理麥克最終比賽結果的熵為因為勝、負、平這3種結果接近等概，所以該隨機變量的熵接近最大熵。信息包含在消息中，是通信系統(tǒng)中被傳送的對象，消息被人的大腦所理解就形成了信息。第1章 緒論 信源、編碼器、信道、干擾、譯碼器、信宿 香農(nóng) 通信系統(tǒng)模型 信號是消息的表現(xiàn)形式，是物理的，比如電信號、光信號等。消息是信息的載荷者，是信號的具體內(nèi)容，不是物理的，但是又比較具體，例如語言、文字、符號、圖片等。 略第2章 信息的統(tǒng)計度量 少 y的出現(xiàn)有助于肯定x的出現(xiàn)、y的出現(xiàn)有助于否定x的出現(xiàn)、x和y相互獨立 FTTTF 依題意，題中的過程可分為兩步，一是取出一枚硬幣恰好是重量不同的那一枚，設其發(fā)生的概率為，由于每枚硬幣被取出的概率是相同的，所以所需要的信息量二是確定它比其他硬幣是重還是輕，設其發(fā)生的概率為，則總的概率所需要的信息量 設表示“大學生”這一事件，表示“”這一事件，則故 四進制波形所含的信息量為，八進制波形所含信息量為，故四進制波形所含信息量為二進制的2倍，八進制波形所含信息量為二進制的3倍。 （1）J、Z（2）E（3）X （1）兩粒骰子向上面的小圓點數(shù)之和為3時有(1, 2)和(2, 1)兩種可能性，總的組合數(shù)為，則圓點數(shù)之和為3出現(xiàn)的概率為故包含的信息量為（2）小圓點數(shù)之和為7的情況有(1, 6), (6, 1), (2, 5), (5, 2), (3, 4), (4, 3)，則圓點數(shù)之和為7出現(xiàn)的概率為故包含的信息量為 對于男性，是紅綠色盲的概率記作，不是紅綠色盲的概率記作，這兩種情況各含的信息量為平均每個回答中含有的信息量為對于女性，是紅綠色盲的概率記作，不是紅綠色盲的概率記作，則平均每個回答中含有的信息量為所以 天平有3種狀態(tài)，即平衡，左重，左輕，所以每稱一次消除的不確定性為，12個球中的不等重球（可較輕，也可較重）的不確定性為：，因為,所以3次測量可以找出該球。（2）假定大衛(wèi)最后3場比賽全部獲勝，那么麥克也必須全部獲勝最后3場比賽最終才能得平，否則就是負。（2） （1）根據(jù)題意，可以得到： ① ②由式②可以得到： ③將式③代入式②得到： ④由于的取值必須在0到1之間，由式③和式④。（3）當時，達到最大值，這時。，可見氣象臺預報的確實不好。 由互信息量的定義因為，則有同理，因為，則有 （1）根據(jù)熵的極值性，當隨機變量等概分布時，隨機變量的熵最大。（2）根據(jù)熵的遞增性。根據(jù)熵函數(shù)的性質(zhì)，如果，則熵小于2；如果，則只有一種可能：。第3章 離散信源 p(x2) 5 1 2 （1）（2） Hmax(X)=1 （1）消息符合的平均熵（2）自信息量為（3）（2）中的熵為 因為邊沿分布條件分布概率如下：01209/111/8012/113/42/9201/87/9所以信息熵：條件熵：聯(lián)合熵：或可知解釋：（1）信源的條件熵比信源熵少這是由符號之間的相互依存性造成的。平均每一個信源符號所攜帶的信息量近似為因此原因：略去了和之間的依賴性。即各種可能發(fā)生的情況下，概率之和大于“1”。 由題意可知，聯(lián)合概率分布為X Y10101/40101/421/41/4X Y20101/4011/40201/2Y的分布為Y101p(y1)1/21/2
環(huán)評公示相關推薦
鄂ICP備17016276號-1