信息論與編碼試題集-展示頁(yè)
2025-04-02 07:16本頁(yè)面
【正文】 熵、噪聲熵？什么是無(wú)損信道和確定信道？如輸入輸出為，則它們的分別信道容量為多少？答：將H（X|Y）稱為信道的疑義度或損失熵，損失熵為零的信道就是無(wú)損信道，信道容量為logr。5．根據(jù)碼字所含的碼元的個(gè)數(shù)，編碼可分為 定長(zhǎng) 編碼和 變長(zhǎng) 編碼。3．設(shè)信源為X={0，1}，P（0）=1/8，則信源的熵為 比特/符號(hào)，如信源發(fā)出由m個(gè)“0”和（100m）個(gè)“1”構(gòu)成的序列，序列的自信息量為比特/符號(hào)。解： （1） （2） 信息理論與編碼試卷Ａ答案中南大學(xué)考試試卷200 2010 學(xué)年 上學(xué)期期末考試試題 時(shí)間100分鐘信息論基礎(chǔ) 課程 32 學(xué)時(shí) 學(xué)分 考試形式： 閉 卷專業(yè)年級(jí)： 通信07級(jí) 總分100分，占總評(píng)成績(jī)70%注：此頁(yè)不作答題紙，請(qǐng)將答案寫在答題紙上一、填空題 (每空２分，共２0分)１．設(shè)Ｘ的取值受限于有限區(qū)間［a,b］，則X服從 均勻 分布時(shí)，其熵達(dá)到最大；如X的均值為，方差受限為，則X服從 高斯 分布時(shí)，其熵達(dá)到最大。1在信道中傳輸）（2） 能否直接與信道連接？（3） 若通過(guò)適當(dāng)編碼能否在此信道中進(jìn)行無(wú)失真?zhèn)鬏敚浚?） 試構(gòu)造一種哈夫曼編碼(兩個(gè)符號(hào)一起編碼)，（5） 使該信源可以在此信道中無(wú)失真?zhèn)鬏?。?） 試問(wèn)信源不通過(guò)編碼（即x1174。解：1. 2. dmin=3 3.SE00000000000010000001010000001010000001001010001000111001000001101000001101000000 4. RHT=[001] 接收出錯(cuò)E=0000001 R+E=C= 1110010 (發(fā)碼) 四、計(jì)算題已知的聯(lián)合概率為：求， 解: bit/symbol = bit/symbol bit/symbol 六、計(jì)算題若有一信源。 （214。 （）9. 香農(nóng)信源編碼方法在進(jìn)行編碼時(shí)不需要預(yù)先計(jì)算每個(gè)碼字的長(zhǎng)度。 （214。 （214。 （）5. 離散平穩(wěn)有記憶信源符號(hào)序列的平均符號(hào)熵隨著序列長(zhǎng)度L的增大而增大。 ）3. 算術(shù)編碼是一種無(wú)失真的分組信源編碼，其基本思想是將一定精度數(shù)值作為序列的 編碼，是以另外一種形式實(shí)現(xiàn)的最佳統(tǒng)計(jì)匹配編碼。 ）2. 線性碼一定包含全零碼。二、判斷題1. 可以用克勞夫特不等式作為唯一可譯碼存在的判據(jù)。5. 設(shè)輸入符號(hào)表為X＝{0，1}，輸出符號(hào)表為Y＝{0，1}。3. 帶限AWGN波形信道在平均功率受限條件下信道容量的基本公式，也就是有名的香農(nóng)公式是；當(dāng)歸一化信道容量C/W趨近于零時(shí)，也即信道完全喪失了通信能力，此時(shí)Eb/N0為 dB，我們將它稱作香農(nóng)限，是一切編碼方式所能達(dá)到的理論極限。1. 在無(wú)失真的信源中，信源輸出由 H(X) 來(lái)度量；在有失真的信源中，信源輸出由 R(D) 來(lái)度量。2. 要使通信系統(tǒng)做到傳輸信息有效、可靠和保密，必須首先 信源 編碼，然后_____加密____編碼，再______信道_____編碼，最后送入信道。4. 保密系統(tǒng)的密鑰量越小，密鑰熵H(K)就越 小 ，其密文中含有的關(guān)于明文的信息量I(M；C)就越 大 。輸入信號(hào)的概率分布為p＝(1/2，1/2)，失真函數(shù)為d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，則Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相應(yīng)的編碼器轉(zhuǎn)移概率矩陣[p(y/x)]＝；Dmax＝ ，R(Dmax)＝ 0 ，相應(yīng)的編碼器轉(zhuǎn)移概率矩陣[p(y/x)]＝。 （214。 （214。 （）4. 某一信源，不管它是否輸出符號(hào)，只要這些符號(hào)具有某些概率特性，就有信息量。 （） 6. 限平均功率最大熵定理指出對(duì)于相關(guān)矩陣一定的隨機(jī)矢量X，當(dāng)它是正態(tài)分布時(shí)具 有最大熵。 ） 7. 循環(huán)碼的碼集中的任何一個(gè)碼字的循環(huán)移位仍是碼字。 ）8. 信道容量是信道中能夠傳輸?shù)淖钚⌒畔⒘俊? （）10. 在已知收碼R的條件下找出可能性最大的發(fā)碼作為譯碼估計(jì)值，這種譯碼方法叫做最佳譯碼。 ）三、計(jì)算題某系統(tǒng)（7，4）碼其三位校驗(yàn)位與信息位的關(guān)系為：（1）求對(duì)應(yīng)的生成矩陣和校驗(yàn)矩陣；（2）計(jì)算該碼的最小距離；（3）列出可糾差錯(cuò)圖案和對(duì)應(yīng)的伴隨式；（4）若接收碼字R=1110011，求發(fā)碼。將此信源的輸出符號(hào)送入某一個(gè)二元信道中進(jìn)行傳輸（假設(shè)信道是無(wú)噪無(wú)損的，容量為1bit/二元符號(hào)），而信道每秒鐘只傳遞2個(gè)二元符號(hào)。0,x2174。解：，此時(shí)信源符號(hào)通過(guò)0，1在信道中傳輸，2二元符號(hào)/s 2. 從信息率進(jìn)行比較， *= 1*2 可以進(jìn)行無(wú)失真?zhèn)鬏? 3. 二元符號(hào)/2個(gè)信源符號(hào)此時(shí) *= 2二元符號(hào)/s七、計(jì)算題兩個(gè)BSC信道的級(jí)聯(lián)如右圖所示：（1）寫出信道轉(zhuǎn)移矩陣；（2）求這個(gè)信道的信道容量。2．信息論不等式：對(duì)于任意實(shí)數(shù)，
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1