[理學(xué)]信息論復(fù)習(xí)提綱-資料下載頁
2025-10-07 21:10本頁面
【正文】 D)，并選定有限的失真函數(shù)。對(duì)于任意允許平均失真度 D≥0，和任意小的 ε0，當(dāng)信息率 RR(D) ，只要信源序列長度 L 足夠長，一定存在一種編碼方式 C，使譯碼后的平均失真度 ；反之，若 RR(D)，則無論用什么編碼方式，必有 ，即譯碼平均失真必大于允許失真。 ? 信息率失真函數(shù)也是一個(gè)界限。只要信息率大于這個(gè)界限，譯碼失真就可限制在給定的范圍內(nèi)。即通信的過程中雖然有失真，但仍能滿足要求，否則就不能滿足要求。 DCD ?)(??? DCD )(? 信源編碼定理（香農(nóng)第一定理 ） ? 等長信源編碼 ? 變長信源編碼的方法（步驟） 1. 霍夫曼編碼 2. 香農(nóng)編碼 3. 費(fèi)諾編碼 4. 游程編碼 5. 算術(shù)編碼 ? 平均碼長與編碼效率 第四部分 信源編碼 無失真變長信源編碼定理（香農(nóng)第一定理） 離散無記憶信源 S的 N次擴(kuò)展信源 ，其熵為 ，并且編碼器的碼元符號(hào)集為 A： ，對(duì)信源 進(jìn)行編碼，總可以找到一種編碼方法，構(gòu)成唯一可譯碼，使信源 S中每個(gè)符號(hào) si所需要的平均碼長滿足 NS ()NHS12{ , , ..., }q? ? ?NS( ) ( ) 1l o g l o gNH S L H Sr N r N? ? ?l im ( )rN L H S?? ?當(dāng) 則得： N ??? 最佳譯碼準(zhǔn)則 ? 最大似然譯碼準(zhǔn)則 ? 最小距離譯碼準(zhǔn)則 ? 有噪信道編碼定理（香農(nóng)第二定理） 第五部分 信道編碼 ? 信道編碼定理： 若有一離散無記憶平穩(wěn)信道，其容量為 C，輸入序列長度為 L，只要待傳送的信息率 RC，總可以找到一種編碼，當(dāng) L 足夠長時(shí)，譯碼差錯(cuò)概率Peε， ε為任意大于零的正數(shù)。反之，當(dāng) RC時(shí)，任何編碼的 Pe 必大于零，當(dāng) L→ ∞， Pe→ 1。 ? 信道編碼定理說明： 同無失真信源編碼定理類似，信道編碼定理也是一個(gè)理想編碼的存在性定理。它指出信道容量是一個(gè)臨界值，只要信息傳輸率不超過這個(gè)臨界值，信道就可幾乎無失真地把信息傳送過去，否則就會(huì)產(chǎn)生失真。 信道編碼方法 —— 糾錯(cuò)碼 ?糾錯(cuò)碼相關(guān)理論與概念 ?線性分組碼： /監(jiān)督矩陣 H G S ?閉卷 ?可帶計(jì)算器 ?計(jì)算題精確到小數(shù)點(diǎn)后 2位 考試要求
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1