信息論、編碼與密碼學(xué)課后習(xí)題答案-wenkub
2023-07-08 18:18:20 本頁面
【正文】 依題意，由霍夫曼編碼的規(guī)則，得： 表格如下：符號(hào)概率自信息碼字101000001000112） 由平均碼長公式 ,代入數(shù)據(jù)，得：3）首先，該信源的熵為： 該碼的效率為： {，}的DMS。解：根據(jù)公式（121）可知，微分熵為：當(dāng)時(shí)，則當(dāng)或時(shí)， ，則根據(jù)得到的結(jié)果可以畫出相應(yīng)的平面圖，由圖可以看到隨著的增加，即的減小，微分熵相應(yīng)的增加。 證明 有一個(gè)信源X，它有無窮多個(gè)可能的輸出，它們出現(xiàn)的概率為P（Xi）=2i1,i=1,2,3,….,這個(gè)信源的平均自信息H（X）是什么？ 解：因?yàn)?P（Xi）=2i1,i=1,2,3,… 所以 H（X）= =log2(2+++…..+) =2（1n）2n+1 考慮另一個(gè)幾何分布的隨機(jī)變量X，滿足P（Xi）=P（1P）i1 i=1,2,3,…..,這個(gè)信源的 平均自信息H（X）是什么？ 解：因?yàn)?P（Xi）= P（1P）i1,i=1,2,3, 所以H（X）= =logp(1p)[p(1p)+2p(1p)2+3p(1p)3+…….+np(1p)n] =(1n)(1p)n+1 考慮一個(gè)只取整數(shù)值的隨機(jī)變量，滿足，其中。解： 若二元離散信源的統(tǒng)計(jì)特性為 P+Q=1 H(X)=[P*log(P)+(1P)*log(1P)] 對H(X)求導(dǎo)求極值，由dH(X)/d(P)=0可得可知當(dāng)概率P=Q=1/2時(shí)，有信源熵對于三元離散信源，當(dāng)概率時(shí)，信源熵， 此結(jié)論可以推廣到N元的離散信源?！缎畔⒄摗⒕幋a與密碼學(xué)》課后習(xí)題答案第1章 信源編碼 考慮一個(gè)信源概率為{，}的DMS。 證明不等式。求熵。010。(1)給出此信源的一種有效定長碼。(1)給出此信源的霍夫曼碼并確定編碼效率。解：根據(jù)LempelZiv算法列出下表：字典位置字典內(nèi)容定長碼字00010000000010100001001100000100100110010101011110100101100010011101110100011100000000110100100100110010101000100101110110101110110010100111011001000111100010000第2章 信道容量和編碼 考慮圖210所示的二元信道，設(shè)發(fā)送二元符號(hào)的先驗(yàn)概率為P0和P1，其中P0+ P1=1，求后驗(yàn)概率和。假定SNR為25dB， 計(jì)算支持電視信號(hào)傳輸所需要的帶寬（利用信息容量定理）解：根據(jù)題意，該電視信號(hào)所需的信息容量為： 根據(jù)信息容量定理：，其中為信噪比，據(jù)題意 據(jù)上式解得帶寬 考慮圖215所示的Z型信道。其中最大值是在所有可能的輸入概率上求得的即： (1)證明對有限方差，高斯隨機(jī)變量具有所有隨機(jī)變量可能獲得的最大微分熵。 將(2)式代入(1)可得： (3)由(3)式可以推出： (4)故(4) 式即為本題所證。最后證明條件（3）：不難看出最小距離，并且最小重量，即綜上，三個(gè)條件都滿足，那么就是一個(gè)線性碼，它的最小距離是2。6） 構(gòu)造該碼的標(biāo)準(zhǔn)陣列。10） 這個(gè)碼能糾多少個(gè)錯(cuò)誤。 這個(gè)碼的最小距離為：d*=2 ，所以重量為1的錯(cuò)誤模式可以檢測得到。解：設(shè)生成矩陣是G=，由題知，m=2,n=5, c=iG i=(0,0) (0,1),(1,0),(1,1)生成矩陣G= 對下列每一個(gè)集合S，列出擴(kuò)張碼S: （1）S={0101，1010，1100} （2）S={1000，0100，0010，0001} （3）S={11000，01111，11110，01010}解:(1) 0101+1010=1111 ， 0101+1100=1001 1010+1100=0110 ， 0101+1010+1100=0011再補(bǔ)上0000及原先3個(gè)公共組成第二，三問步驟省略S為{1111，1001，0110，0011，0000，0101，1010，1100}(2) S為{1100，1010，1001，0110，0101，0011，1110，1011，0111，1101，1111，0000，1000，0100，0010，0001}(3)S為{10111，00110，10010，10001，00101，10100，01001，11000，01111，11110，01010，00000，11011，01100，11101} 考慮（23，12，7）二元碼。，即擴(kuò)展碼的奇偶校驗(yàn)矩陣為。證明：由完備碼的定義可知，一個(gè)完備碼必須滿足下列條件： (1)由題意可知：，其中即有：當(dāng)n=7時(shí)，由（1）式可得，右式展開得：同理，可證得n=23時(shí)，同樣滿足（1）式。則由碼率的定義可知：則有：第4章 循環(huán)碼 下面的哪個(gè)碼是（a）循環(huán)碼，（b）與一個(gè)循環(huán)碼等價(jià)？（1）上的。（5）長度為的元重復(fù)碼。中的最小距離，最小重量，即，也滿足第三個(gè)條件，可知是一個(gè)線性碼。（4）首先證明是一個(gè)線性碼：設(shè)，則，滿足線性碼的第一個(gè)條件，顯然第二個(gè)條件也滿足。（5）長度為的元重復(fù)碼，假設(shè)，則，可知其不為線性碼，也定不為循環(huán)碼。(2)求奇偶校驗(yàn)矩陣H。即：故可知，該碼可以檢測個(gè)錯(cuò)誤。 第5章BCH碼 用一個(gè)合適的本原多項(xiàng)式由構(gòu)造。(2) RS(15,7)碼。則有：該RS(15,11)碼的最小距離為：(2)由RS(15,7)碼可知，n=15,k=7。第6章 卷積碼 設(shè)計(jì)一個(gè)（12，4）系統(tǒng)卷積編碼器使其約束長度且。編碼器的狀態(tài)圖：（只有四種狀態(tài)）000011
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號(hào)-1