20xx信息論與編碼試卷及答案2(編輯修改稿)
2025-03-30 02:11 本頁面
【文章內(nèi)容簡介】 (16分)設(shè)X、Y是兩個(gè)互相獨(dú)立的二元隨機(jī)變量，其取0或1的概率相等。定義另一個(gè)二元隨機(jī)變量Z=XY(一般乘積)。試計(jì)算 (1) H?X?,H?Z?。(2) H?XY?,H?XZ?。(3) H?X|Y?,H?Z|X?。(4) I?X。Y?,I?X。Z?。八、(10分)設(shè)離散無經(jīng)歷信源的概率空間為??X????x1x2?P??，通過干擾信道，信道輸出端的接收符號????集為Y??y1,y2?，信道傳輸概率如以以下圖所示。x1y1x2y2(1) 計(jì)算信源X中事件x1包含的自信息量； (2) 計(jì)算信源X的信息熵； (3) 計(jì)算信道疑義度H?X|Y?； (4) 計(jì)算噪聲熵H?Y|X?；(5) 計(jì)算收到音訊Y后獲得的平均互信息量?！缎畔⒄摳住?參考一、填空題（共15分，每空1分） 信源編碼的主要目的是提高有效性，信道編碼的主要目的是提高可靠性。 信源的剩余度主要來自兩個(gè)方面，一是信源符號間的相關(guān)性，二是信源符號的統(tǒng)計(jì)不均勻性。三進(jìn)制信源的最小熵為0，最大熵為log32 無失真信源編碼的平均碼長最小理論極限制為信源熵（或H(S)/logr= Hr(S)）。當(dāng)R=C或（信道剩余度為0）時(shí)，信源與信道到達(dá)匹配。 按照信道特性是否隨時(shí)間變化，信道能夠分為恒參信道和隨參信道。 按照是否同意失真，信源編碼可分為無失真信源編碼和限失真信源編碼。假設(shè)連續(xù)信源輸出信號的平均功率為?2，那么輸出信號幅度2的概率密度是高斯分布或正態(tài)分布或f?x??2??x時(shí)，信源具有最大熵，其值為值1log2?e?22。在下面空格中選擇填入數(shù)學(xué)符號“?,?,?,?”或“?” （1）當(dāng)X和Y互相獨(dú)立時(shí)，H（XY）=H(X)+H(X/Y)=H(Y)+H(X)。（2）HH?X1X2?H?X1X2X3?2?X??2?H3?X??3（3）假設(shè)信道輸入用X表示，信道輸出用Y表示。在無噪有損信道中，H(X/Y) 0, H(Y/X)=0,I(X。Y)lt。H(X)。 三、（16分）已經(jīng)明白信源??S??????s1s2s3s4s5s6?P????（1）用霍夫曼編碼法編成二進(jìn)制變長碼；（6分） （2）計(jì)算平均碼長L。（4分）（3）計(jì)算編碼信息率R?。（2分）（4）計(jì)算編碼后信息傳輸率R。（2分） （5）計(jì)算編碼效率?。（2分）（1）S0S61編碼結(jié)果為：S1?00S2?01S3?100S4?101 S5?110S6?1116i?1（4）R?H?S??（5）??H?S??S?logr?評分：其他正確的編碼方案：1，要求為即時(shí)碼 2，平均碼長最短 四、（10分）某信源輸出A、B、C、D、E五種符號，每一個(gè)符號獨(dú)立出現(xiàn)，出現(xiàn)概率分別為1/1/1/1/1/8。?s。計(jì)算： （1）信息傳輸速率Rt。（5分）（1）R1t?t??H?X??H?X???H?X???18log18?4?112log2?1log8?1log2 22?312log2?2log2?2log2?2bitR?2bitt?s五、(16分)一個(gè)一階馬爾可夫信源，轉(zhuǎn)移概率為P?S211|S1??3,P?S2|S1??3,P?S1|S2??1,P?S2|S2??0。(1) 畫出狀態(tài)轉(zhuǎn)移圖。(4分)(2) 計(jì)算穩(wěn)態(tài)概率。(4分)(3) 計(jì)算馬爾可夫信源的極限熵。(4分)(4) 計(jì)算穩(wěn)態(tài)下H1,H2及其對應(yīng)的剩余度。(4分) 解：(1)1(2)由公式P?Si???2P?Si|Sj?P?Sj?j?1有?2?P?S1??PS|SPS?2P?S1??P?S2???1i??i??i?13?2?P??S12???P?S2|Si?P?Si??P?S1? i?13??P?S1??P?S2??1??P?S??3得??1?4???P?S12??4(3)該馬爾可夫信
范文總結(jié)相關(guān)推薦
鄂ICP備17016276號-1