信息論總結(jié)與復(fù)習(xí)ppt課件(參考版)
2025-05-09 02:45本頁(yè)面
【正文】 解：根據(jù) p(x1x2x3)=p(x1)p(x2)p(x3) 不難求出 三次擴(kuò)展信源的概率空間為： 按 8個(gè)符號(hào)的概率排隊(duì) ， 進(jìn)行赫付曼編碼 第五部分、典型題目 bbb bba bab abb () () baa aba aab () () aaa () root 1 0 1 0 1 0 1 0 1 0 1 0 1 0 1011 1010 1001 1000 011 010 11 00 碼字 4 4 4 4 3 3 2 2 碼長(zhǎng) 第五部分、典型題目 碼字 00 11 010 011 1000 1001 1010 1011 碼長(zhǎng) 2 2 3 3 4 4 4 4 碼字平均長(zhǎng)度： LN=； 信源符號(hào)平均編碼長(zhǎng)度： 信源信息熵 : H(X)== 編碼效率： η=第五部分、典型題目 全面復(fù)習(xí) 重點(diǎn)掌握 重視概念 細(xì)心運(yùn)算 動(dòng)手動(dòng)腦 不存僥幸 祝大家取得滿意的考試成績(jī)！ 。因此不確定性為 0，所以信源熵為 0。 p=0時(shí) ， 理由：因?yàn)槊糠N狀態(tài)都只發(fā)兩個(gè)符號(hào)，當(dāng)一種符號(hào)概率為 1時(shí)，另一個(gè)必然為 0，實(shí)際上只發(fā)一種確定的符號(hào)，成為確定事件，其自信息為 0。分別求： (1)平穩(wěn)后的信源概率分布； (2)信源熵 H∞； (3)求 p=1時(shí)實(shí)際信源的熵，并說(shuō)明所得結(jié)果的理由。 但是要 滿足指定的保真度，限失真信源編碼的極限傳信率 R≤ R(D)， R (D)是信源的率失真函數(shù)。 定理指出零差錯(cuò)傳輸?shù)?極限傳信率 R ≤ C， 這里 C是信道容量。定理指出 無(wú)失真信源編碼的極限信息率 R ≤log m， 這里 m是編碼的符號(hào)個(gè)數(shù)。 V)}=H(U)H(D)D log(r1) 第四部分、限失真信源編碼 ：率失真函數(shù) [例 11] 已知 信源概率 為： p(X)=(, ,),，求漢明失真下保真度 D=。 率失真函數(shù)的定義： 在滿足保真度準(zhǔn)則下，傳信率 R的下限值是保真度 D值的函數(shù)， R(D)就叫做率失真函數(shù)。 糾錯(cuò)能力不等式： 2 r ≥Cn0 +Cn1 + Cn2 +……+ Cnt 完備碼：上式取等號(hào)的情況。 第三部分、信道編碼 線性分組碼 糾錯(cuò)： ? R錯(cuò)一位的情況： S與 HT的哪一行相同，就表明錯(cuò)在哪一位。HT = EHT = CHT S= RHT = 0； 滿足此方程的均為正確的許用碼字 ，否則，便是誤碼。 錯(cuò)誤概率： PE=3(3/9+1/9) /3=4/9= 線性分組碼 : 碼長(zhǎng)為 n，信息位為 k ， 記作（ n , k）； 監(jiān)督位 r ＝ nk 編碼 C = K?G 生成矩陣 G是 k n的矩陣。 F(b2)=a2 。 解 :（ 1） 最佳輸入為等概率分布。 第三部分、信道編碼 信道編碼理論 [例 7] 已知 對(duì)稱信道 (1)求信道容量和最佳信源。 第三部分、信道編碼 信道編碼理論 第三部分、信道編碼 信道編碼理論 : 檢錯(cuò)與糾錯(cuò)原理 ： （ 1）檢錯(cuò)原理：添加冗余避免碼字非此即彼；
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1