信息論與編碼理論習(xí)題答案姜楠王健編著清華大學(xué)-wenkub
2023-07-08 18:09:57 本頁面
【正文】 將式③代入式②得到： ④由于的取值必須在0到1之間，由式③和式④。 （1）J、Z（2）E（3）X （1）兩粒骰子向上面的小圓點數(shù)之和為3時有(1, 2)和(2, 1)兩種可能性，總的組合數(shù)為，則圓點數(shù)之和為3出現(xiàn)的概率為故包含的信息量為（2）小圓點數(shù)之和為7的情況有(1, 6), (6, 1), (2, 5), (5, 2), (3, 4), (4, 3)，則圓點數(shù)之和為7出現(xiàn)的概率為故包含的信息量為 對于男性，是紅綠色盲的概率記作，不是紅綠色盲的概率記作，這兩種情況各含的信息量為平均每個回答中含有的信息量為對于女性，是紅綠色盲的概率記作，不是紅綠色盲的概率記作，則平均每個回答中含有的信息量為所以 天平有3種狀態(tài)，即平衡，左重，左輕，所以每稱一次消除的不確定性為，12個球中的不等重球（可較輕，也可較重）的不確定性為：，因為,所以3次測量可以找出該球。消息是信息的載荷者，是信號的具體內(nèi)容，不是物理的，但是又比較具體，例如語言、文字、符號、圖片等。信息包含在消息中，是通信系統(tǒng)中被傳送的對象，消息被人的大腦所理解就形成了信息。 （1）當(dāng)最后3場比賽麥克勝的次數(shù)比大衛(wèi)多時，麥克最終才能勝，因此同理麥克最終比賽結(jié)果的熵為因為勝、負(fù)、平這3種結(jié)果接近等概，所以該隨機(jī)變量的熵接近最大熵。(2)就業(yè)情況的熵為它在的取值范圍內(nèi)的曲線如圖所示。但是如果總是預(yù)報不下雨的話則會更糟，因為和是相互獨立的兩個隨機(jī)變量，即，所以因此氣象臺的預(yù)報準(zhǔn)確率雖然比總是預(yù)報不下雨低，但還是傳遞了一些信息，消除了一些不確定性。（3）（4）因為隨機(jī)變量是的函數(shù)，所以 假定為最大的概率。（2）聯(lián)合熵表示平均每兩個信源符號所攜帶的信息量。在實際情況下這是不可能發(fā)生的。一階馬爾可夫過程共有3種狀態(tài)，每個狀態(tài)轉(zhuǎn)移到其他狀態(tài)的概率均為，設(shè)狀態(tài)的平穩(wěn)分布為，根據(jù)可得，3種狀態(tài)等概率分布。（2）由離散無記憶信源的擴(kuò)展信源的性質(zhì)（3）可能發(fā)出的符號有0000，0001，0010，0011，0100，0101，0110，0111，1000，1001，1010，1011，1100，1101，1110，1111。所以經(jīng)比較，可得到。此題中和表明某一狀態(tài)轉(zhuǎn)化到另一狀態(tài)的情況一定發(fā)生或一定不發(fā)生，即是確定事件，平均不確定性為零，即信源的熵為零。信道轉(zhuǎn)移關(guān)系如圖所示。(2)三元對稱強(qiáng)噪聲信道模型如圖所示。由 知所以信道容量為，對信道而言內(nèi)共傳輸?shù)姆枖?shù)為15000個。設(shè)輸入為計算輸出得所以比較兩信道容量，得 依題意，阻值的概率空間為功率的概率空間由題意知再設(shè)則由,得又所以。令此時的輸出分布為所以因為所以信道2無噪聲。2．（1）此碼滿足KraftMcMillan不等式：（2）此碼不是即時碼，因為碼字00是碼字000的前綴；（3）此碼不是唯一可譯碼，因為碼符號序列000000可以譯碼為00，00，00，也可以譯碼為000，000。根據(jù)唯一可譯碼判決準(zhǔn)則，我們構(gòu)造以下的尾隨后綴序列： （1）（2）（3）對二重延長消息采用費諾方法編碼，結(jié)果為平均碼長：平均信息傳輸速率碼元0和1的概率分別為（4）對三重延長消息采用霍夫曼方法編碼，結(jié)果為平均碼長：平均信息傳輸速率碼元0和1的概率分別為 由香農(nóng)第一定理知顯然當(dāng)時此時的信息傳輸率為編碼后原信源變換成一個新的信源新信源的信道容量，且在輸入信源等概率時達(dá)到此容量。 霍夫曼編碼的結(jié)果為：平均碼長：信源熵為平均信息傳輸速率 （1）{0，10，11}是概率分布{1/2,1/4,1/4}的Huffman編碼。 4位 （1）不存在（2）存在{0，1，20，21，220，221，222}（3）不存在 對灰度{0，4，5，6，7}編碼為{10，0，2，11，12}， 碼{0，0
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1