【正文】 編4bit碼，共3種3個(gè)符號(hào)有2個(gè)c，1個(gè)b 則 編4bit碼，共3種3個(gè)符號(hào)有1個(gè)a，1個(gè)b,1個(gè)c 則 編5bit碼，共6種平均碼長(zhǎng)為＝ bit/字 h1 = R1 /C = 6. 設(shè)有一個(gè)無(wú)記憶信源發(fā)出符號(hào)A和B，已知p(A) = 1/4, p(B) = 3/4。]缺點(diǎn)：需要對(duì)發(fā)送的碼字加入冗余，是一種降低效率來(lái)?yè)Q取可靠性的方法。（2）對(duì)p求導(dǎo)得，令，得，得6記，則由條件（1）得，由條件（2）得，故，代入上邊兩式整理有，進(jìn)行遞推有，7由于，當(dāng)信源為無(wú)記憶信源時(shí)，故得信道為無(wú)記憶時(shí)，故得當(dāng)信源信道都無(wú)記憶時(shí)有，故有當(dāng)信源信道中有一個(gè)有記憶或兩個(gè)都有記憶時(shí)，信號(hào)之間或信道對(duì)信號(hào)存在干擾，故信宿對(duì)信源的不確定性增加了，由于熵是對(duì)信源不確定性的平均減少量，是信宿獲得的關(guān)于信源的平均信息量，由于不確定性的增加使獲得的信息量減少，故有，當(dāng)為無(wú)記憶時(shí)，傳輸?shù)男畔⒘磕苓_(dá)到理想狀態(tài)。Y)= bit/信符7．四個(gè)等概分布的消息M1，M2，M3，M4被送入如圖所示的信道進(jìn)行傳輸，通過(guò)編碼使M1 = 00，M2 = 01，M3 =10，M4 =11。 p1 – p2，而其它概率值不變。 H(X2|X1)，并說(shuō)明等式成立的條件。2．每幀電視圖像可以認(rèn)為是由3180。解：（1）從240顆珠子中取3顆，含1顆假珠的概率為 （2）240顆中含1顆假珠，用天平等分法最多6次即可找到假珠，是必然事件，因此信息量為0。（1）證明 （2） H(p)110p該H(p)曲線說(shuō)明，當(dāng)0與1等概出現(xiàn)時(shí)，即p=，熵最大。 H(X2|X1)只有當(dāng)(對(duì)所有)時(shí)等式成立。求：（1）上級(jí)機(jī)關(guān)值班員聽(tīng)到電話振鈴而對(duì)此次通信的疑義度；（2）接續(xù)信道的噪聲熵。第三章 離散信源，即可以看做是先發(fā)出一個(gè)符號(hào)，再在此基礎(chǔ)上發(fā)出一個(gè)與前一符號(hào)相關(guān)的符號(hào)，而,第二個(gè)符號(hào)可以看做為具有一階馬爾可夫性，故有。答：在信源編碼的每個(gè)碼字施加和碼字等長(zhǎng)的附加位，編碼時(shí)將要寫(xiě)入的信息在新碼字上順序?qū)憙蛇叄g碼時(shí)先譯前半段，若碼長(zhǎng)無(wú)誤則譯后半段，若前后不一致則要求重發(fā)，在帶寬充足的條件下可以采用這種方法。根據(jù)字的概率大小，編碼結(jié)果為：概率在(0，)，采用6比特；在(，] ，采用5比特，但允許其中一個(gè)用4比特；在(，]，采用3比特。解：（1）這是一個(gè)有固定約束的不均勻編碼的信道，有約束條件（即不能出現(xiàn)），可以把a(bǔ)1, a2作為狀態(tài)1，a3, a4, a5作為狀態(tài)2，得香農(nóng)線圖時(shí)間長(zhǎng)度分別為b11=,b12 (a3)=3, b12 (a4)=4, b12 (a5)=5, b21(a1)=1, b21(a2)=2, b22(a3)=3, b22(a5)=5,寫(xiě)出行列式，可得特征方程為解方程可得所以 bit/碼元時(shí)間（2） 因?yàn)橐?guī)定a1 a2不能連用，故不能用和做碼字，根據(jù)最佳編碼的兩個(gè)原則，及單譯可譯定理，出現(xiàn)概率大的消息用短碼的原則，可用x1 x2 x3 x4 x5 x6 x71/2 1/4 1/8 1/16 1/32 1/64 1/64a3 a4 a1a3 a5 a1 a4 a2a3 a2 a43 4 4 5 5 5 6（3）編碼效率為 h = R /C =第五章 離散信道的信道編碼5．1 比特/符號(hào) 比特 命題得證。(0 1 ) (1 0 1/2 1/2)224。（4）S/N=36dB, C= 所以。 j時(shí)，dij = 1 (i, j = 0, 1, 2)，求信息率失真函數(shù)R(D)。設(shè)，由于所以輸出信號(hào)，于是時(shí)均值為零，方差為的隨即變量。若將一個(gè)合格產(chǎn)品作為廢品處理，將損失1元；若將一個(gè)廢品當(dāng)作合格產(chǎn)品出廠，將損失100元；若將合格品出廠，廢品報(bào)廢，不造成損失。1180。定義失真函數(shù)為：d (0, 0) = d (1,1) = 0d (0, 1) = d (1,0) = 1試求失真矩陣[D]。求碼C的補(bǔ)碼以及補(bǔ)碼中所有碼字之間的距離和最小距離，它們與（1）中的結(jié)果有什么關(guān)系？（3） 把（2）中的結(jié)果推廣到一般的二元碼。證明：（反證法）奇——奇數(shù)重量，偶——偶數(shù)重量；由題意假設(shè)線性碼有個(gè)碼字，其中個(gè)是偶數(shù)重量，個(gè)是奇數(shù)重量。因?yàn)樗浴?. 設(shè)有碼如下所示：信息　　　　　 碼字00 0000001 0110110 1011111 11010（1） 找出生成矩陣G與監(jiān)督矩陣H；（2） 在二元對(duì)稱(chēng)信道下給出最大似然譯碼的譯碼表；（3） 求正確譯碼的概率。所以，陣中的每一列由個(gè)零和個(gè)1組成的命題成立。解：由題知n=7,k=6,4 (1)當(dāng)k=6時(shí) g (x)= x1 (2)當(dāng)k=4時(shí) g (x)= x3 + x + 1或x3 + x2 +16. 請(qǐng)對(duì)任意一個(gè)21bit的數(shù)據(jù)，例如使用自己的學(xué)號(hào)化成2進(jìn)制數(shù)，高位補(bǔ)“0”或某些隨機(jī)數(shù)）（1） 給出BCH (31,21) 碼的碼多項(xiàng)式；（2）假設(shè)傳輸過(guò)程中錯(cuò)了一位（可以任意設(shè)定），請(qǐng)譯碼；（3）假設(shè)傳輸過(guò)程中錯(cuò)了兩位（可以任意設(shè)定），請(qǐng)譯碼；（4）假設(shè)傳輸過(guò)程中錯(cuò)了三位（可以任意設(shè)定），請(qǐng)譯碼。解：由題可得：x10=g (x) +x8+x5+x4+x2+x+1x11=x g (x) +x9+x6+x5+x3+ x2+xx12= x2 g (x) +x10+x7+x6+x4+x3+ x2 =(x2+1) g (x) + x8+x7+x6+x5+x3+x+1x13=(x3+x) g (x) +x9+x8+x7+x6+x4+x2+xx14=(x4+ x2) g (x) +x10+x9+x8+x7+x5+x3+ x2 =(x4+ x2+1) g (x) +x9+x7+x4+x3+ x +1所以可得： bo(x)= x8+x5+x4+x2+x+1b1(x)= x9+x6+x5+x3+ x2+xb2(x)= x8+x7+x6+x5+x3+x+1 b3(x)= x9+x8+x7+x6+x4+x2+xb4(x)= x9+x7+x4+x3+ x +1進(jìn)而有：G=H=9. 求GF(25)上以a, a3為根的二進(jìn)制循環(huán)碼：（1） 寫(xiě)出生成多項(xiàng)式g (x)，確定碼長(zhǎng)n和信息位個(gè)數(shù)k ；（2） 寫(xiě)出該碼系統(tǒng)碼形式的G和H矩陣；（3） 求出該碼的R和最小距離。采用維特比算法，找到從倫敦到維也納的最快路線，解釋如何應(yīng)用該算法，需做哪些計(jì)算，以及該算法要求在存儲(chǔ)器里保存什么信息。（1） 求出該碼的G(D)和H(D)矩陣，以及G165。解：M通過(guò)S盒時(shí)，代換表將選出一個(gè)相應(yīng)的輸出矢量。（1）每個(gè)密鑰字符可以是26個(gè)字母中的任意一個(gè)，字母可以重復(fù)。解：f (n) = 4180。31模60=1，49180。第十五章 信息理論的廣泛應(yīng)用（缺）。251模360=1，所以e為251用加密方程將DIGTAL分別代入可得結(jié)果為 9. 下面一段密文本來(lái)是連續(xù)的字符串，只是為了便于閱讀將它分成每5個(gè)字符一組。11=121=1（模24）；所以e=11 8. 考慮以下RSA算法：(a) 如果質(zhì)數(shù)是p = 7, q = 11，試舉出5個(gè)允許的解密密鑰d。如果密鑰序列由0 ~ 999整數(shù)中的10個(gè)隨機(jī)整數(shù)組成，重新計(jì)算惟一性距離。這樣每個(gè)M就有唯一的Y相對(duì)應(yīng)。矩陣；（2） 畫(huà)出該碼的編碼器；（3） 求出相應(yīng)于信息序列M = (11001)的碼序列；（4） 此碼是否是系統(tǒng)碼？解：（１）因g (1,1)（Ｄ）= １＋Ｄ＋Ｄ３　　g (1,2)（Ｄ）＝１＋Ｄ＋Ｄ２所以Ｇ（Ｄ）＝［１＋Ｄ＋Ｄ３，１＋Ｄ＋Ｄ２］Ｈ（Ｄ）＝（２）（３）ｖ（１）＝（１１００１）＊（１１０１）　　　　?。剑保埃保保埃保埃薄　　。觯ǎ玻剑ǎ保保埃埃保ǎ保保保埃　　　　。剑保埃埃保保保保敖豢椀茫海觯剑ǎ保?，００，１０，１１，０１，１１，０１，１０）可知該碼為非系統(tǒng)碼。需要記錄下各中間節(jié)點(diǎn)離倫敦的最短時(shí)間，其算法的實(shí)現(xiàn)就是Dijkstra算法?，F(xiàn)用該g (x)生成位n的循環(huán)碼，證明碼的最小距離至少為3。(3) 假設(shè)接收到的多項(xiàng)式為：r (x) =x27 + x26 +x23 + x22 + x20 +x19 + x17 + x16 + x14 +x12 + x8 + x6 +1則可得：σ（x）=（α25x +1）（α3x +1） 所以：β1=α25 β2=α3 即錯(cuò)誤位置為x3和x25，可以糾正。找出該碼的G和H，并證明該碼的最小距離為4。（1）（2）譯碼譯碼得到結(jié)果11. 設(shè)一個(gè)[7, 4]碼的生成矩陣為（1） 求出該碼的全部碼矢；（2） 求出該碼的一致校驗(yàn)矩陣；（3） 作出該碼的標(biāo)準(zhǔn)譯碼碼表。題中由生成矩陣知，該線性碼是碼，陪集首的個(gè)數(shù)為，能糾正3個(gè)錯(cuò)誤。情況1）成立，則第 個(gè)偶數(shù)重量的碼字與奇數(shù)重量的碼字相加時(shí)，結(jié)果應(yīng)是第個(gè)奇數(shù)重量的碼字。變補(bǔ)后，仍有d位不同，nd位相同，所以任意兩碼字的距離不變，最小距離當(dāng)然不變。解： （1）（因?yàn)椋?）（3） 由于令，則得到得到D=0時(shí)，D=d時(shí)，所以（4）（5）d=1時(shí)，第九章 差錯(cuò)控制的基本概念1. 對(duì)(2, 1), (3, 1), (4, 1), (5, 1)，討論其糾檢錯(cuò)能力，對(duì)用完備譯碼、不完備譯碼以及不完備譯碼＋ARQ等方法譯碼，求譯碼錯(cuò)誤概率。情況3　經(jīng)過(guò)檢驗(yàn)?zāi)苷_無(wú)誤地判斷合格品和廢品——完美的檢驗(yàn)這相當(dāng)于無(wú)噪信道的情況，信道矩陣為平均失真度為即這種情況不會(huì)另外造成損失。解　根據(jù)題意有信源空間： 好（合格） 廢（廢品） P(好)= P(廢)=選擇失真函數(shù)為d(好，好)=0 d(廢，廢)=0 d(好，廢)=10 d(廢，好)=100失真矩陣為可將產(chǎn)品檢驗(yàn)分成如下4種情況：全部產(chǎn)品都當(dāng)合格品，全部產(chǎn)品都當(dāng)廢品，完美的檢驗(yàn)和允許出錯(cuò)的檢驗(yàn)。