【正文】 __。 有效性 ，信道編碼的目的是提高通信的 可靠性 ，加密編碼的目的是保證通信的 安全性 。(X。設(shè)失真函數(shù)為漢明失真。④ 繼續(xù)上述過程，直到最后兩個符號配以0和1為止。信息是可以量度的，信息量有多少的差別。答：信息的基本概念在于它的不確定性，任何已確定的事物都不含信息。得分評卷人 二、選擇題（共10 分，每題2分）1. 給定xi條件下隨機事件yj所包含的不確定度和條件自信息量p(yj /xi)，（D）A．?dāng)?shù)量上不等，單位不同 B．?dāng)?shù)量上不等，單位相同C．?dāng)?shù)量上相等，單位不同 D．?dāng)?shù)量上相等，單位相同2. 條件熵和無條件熵的關(guān)系是： （C）A．H(Y/X)＜H(Y) B．H(Y/X)＞H(Y)C．H(Y/X)≤H(Y) D．H(Y/X)≥H(Y)3. 根據(jù)樹圖法構(gòu)成規(guī)則， （D）A．在樹根上安排碼字 B．在樹枝上安排碼字C．在中間節(jié)點上安排碼字 D．在終端節(jié)點上安排碼字4. 下列說法正確的是： （C）A．奇異碼是唯一可譯碼 B．非奇異碼是唯一可譯碼C．非奇異碼不一定是唯一可譯碼 D．非奇異碼不是唯一可譯碼5. 下面哪一項不屬于熵的性質(zhì)： （B）A．非負(fù)性 B．完備性C．對稱性 D．確定性得分評卷人 三、名詞解釋（共15 分，每題5分）1. 奇異碼包含相同的碼字的碼稱為奇異碼。5． 　有擾離散信道編碼定理　　稱為香農(nóng)第二極限定理。解：最佳譯碼規(guī)則：，平均差錯率為11/41/61/8=11/24；極大似然規(guī)則：，平均差錯率為11/41/81/8=1/21． 信息的基本概念在于它的　不確定性　。4．離散對稱信道輸入等概率時，輸出為 等概 分布。解：由右圖可知，該信道的轉(zhuǎn)移概率矩陣為可以看到，當(dāng)該信道的輸入分布取時，此時而，此分布滿足。解：（1）X\Y0101/83/81/213/81/81/21/21/2（2）X\Z0101/201/213/81/81/27/81/8Y\Z0101/201/213/81/81/27/81/8(3) ２． 設(shè)二元對稱信道的輸入概率分布分別為，轉(zhuǎn)移矩陣為，（１） 求信道的輸入熵，輸出熵，平均互信息量；（２） 求信道容量和最佳輸入分布；（３） 求信道剩余度。４． 什么是香農(nóng)容量公式？為保證足夠大的信道容量，可采用哪兩種方法？答：香農(nóng)信道容量公式：，B為白噪聲的頻帶限制，為常數(shù)，輸入X（t）的平均功率受限于。解：（1）（2）二次擴展信源的概率空間為：X\X1/163/163/169/16２． 什么是損失熵、噪聲熵？什么是無損信道和確定信道？如輸入輸出為，則它們的分別信道容量為多少？答：將H（X|Y）稱為信道的疑義度或損失熵，損失熵為零的信道就是無損信道，信道容量為logr。4．離散對稱信道輸入等概率時，輸出為 等概 分布。6二元(7，4)漢明碼校驗矩陣H為：（10分）（1）寫出系統(tǒng)生成矩陣G，列出錯誤形式和伴隨矢量表，你能發(fā)現(xiàn)他們之間有什么聯(lián)系，若沒有這個表怎么譯碼， （2）若收到的矢量0000011，請列出編碼后發(fā)送矢量、差錯矢量、和編碼前信息矢量。3． 離散無記憶信源 P(x1)=8/16； P(x2)= 3/16； P(x3)= 4/16； P(x4)=1/16；（10分）(1) 計算對信源的逐個符號進行二元定長編碼碼長和編碼效率；(2) 對信源編二進制哈夫曼碼，并計算平均碼長和編碼效率。（10分）（1） 若問一位女士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，問這兩個回答中各含多少信息量？從計算的結(jié)果得出一個什么結(jié)論？（2） 如果問一位女士，問她回答（是或否）前平均不確定性和回答（是或否）后得到的信息量各為多少？2．黑白氣象傳真圖的消息只有黑色和白色兩種，即信源X={黑，白}。隨即，他的目光指向自己的左手腕。3 若分組碼H陣列列線性無關(guān)數(shù)為n,則糾錯碼的最小距離dmin為 10 。1在信道中傳輸）（2） 能否直接與信道連接？（3） 若通過適當(dāng)編碼能否在此信道中進行無失真?zhèn)鬏?？?） 試構(gòu)造一種哈夫曼編碼(兩個符號一起編碼)，（5） 使該信源可以在此信道中無失真?zhèn)鬏?。解?1) （2）→ H(X|S1) =H(1/4,1/4,1/2)= H(X|S2)=H(1/3,1/3,1/3)=H(X|S3)=H(2/3,1/3)= 比特/符號六、計算題若有一信源。 （）10. 在已知收碼R的條件下找出可能性最大的發(fā)碼作為譯碼估計值，這種譯碼方法叫做最佳譯碼。 ） 7. 循環(huán)碼的碼集中的任何一個碼字的循環(huán)移位仍是碼字。 （）4. 某一信源，不管它是否輸出符號，只要這些符號具有某些概率特性，就有信息量。 （214。輸入信號的概率分布為p＝(1/2，1/2)，失真函數(shù)為d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，則Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相應(yīng)的編碼器轉(zhuǎn)移概率矩陣[p(y/x)]＝；Dmax＝ ，R(Dmax)＝ 0 ，相應(yīng)的編碼器轉(zhuǎn)移概率矩陣[p(y/x)]＝。3. 帶限AWGN波形信道在平均功率受限條件下信道容量的基本公式，也就是有名的香農(nóng)公式是；當(dāng)歸一化信道容量C/W趨近于零時，也即信道完全喪失了通信能力，此時Eb/N0為 dB，我們將它稱作香農(nóng)限，是一切編碼方式所能達(dá)到的理論極限。2. 要使通信系統(tǒng)做到傳輸信息有效、可靠和保密，必須首先 信源 編碼，然后_____加密____編碼，再______信道_____編碼，最后送入信道。6. 設(shè)輸入符號表為X＝{0，1}，輸出符號表為Y＝{0，1}。二、判斷題1. 可以用克勞夫特不等式作為唯一可譯碼存在的判據(jù)。 ）3. 算術(shù)編碼是一種無失真的分組信源編碼，其基本思想是將一定精度數(shù)值作為序列的 編碼，是以另外一種形式實現(xiàn)的最佳統(tǒng)計匹配編碼。 （214。 （）9. 香農(nóng)信源編碼方法在進行編碼時不需要預(yù)先計算每個碼字的長度。解：1. 2. dmin=3 3.SE00000000000010000001010000001010000001001010001000111001000001101000001101000000 4. RHT=[001] 接收出錯E=0000001 R+E=C= 1110010 (發(fā)碼) 四、計算題已知的聯(lián)合概率為：求， 解: bit/symbol = bit/symbol bit/symbol 五、計算題一階齊次馬爾可夫信源消息集，狀態(tài)集，且令，條件轉(zhuǎn)移概率為，(1)畫出該馬氏鏈的狀態(tài)轉(zhuǎn)移圖；(2)計算信源的極限熵。0,x2174。2信息論是應(yīng)用近代數(shù)理統(tǒng)計方法研究信息的傳輸、存儲與處理的科學(xué)，故稱為 3 ；1948年香農(nóng)在貝爾雜志上發(fā)表了兩篇有關(guān)的“通信的數(shù)學(xué)理論”文章，該文用熵對信源的 4 的度量，同時也是衡量 5 大小的一個尺度；表現(xiàn)在通信領(lǐng)域里，發(fā)送端發(fā)送什么有一個不確定量，通過信道傳輸，接收端收到信息后，對發(fā)送端發(fā)送什么仍然存在一個不確定量，把這兩個不確定量差值用 6 來表示，它表現(xiàn)了通信信道流通的 7 ,若把它取最大值，就是通信線路的 8 ，若把它取最小值，就是 9 。虛弱得已近昏迷的劉德云被救援官兵抬出來時，看到了自己的女兒。三 計算編碼題（本題60分）1. 從大量統(tǒng)計資料知道，男性中紅綠色盲的發(fā)病率為7%，%。（3) 比較上面兩個H∞的大小，并說明其物理含義。（10分）5．設(shè)信源通過一干擾信道，