信源編碼ppt課件(已修改)
2025-05-14 00:20 本頁(yè)面
【正文】 第 5 章 信源編碼 編碼的定義 無(wú)失真信源編碼 限失真信源編碼定理 常用信源編碼方法簡(jiǎn)介 編碼 通信的實(shí)質(zhì)是傳輸信息，通信系統(tǒng)的性能指標(biāo)主 要有有效性、可靠性、安全性等，這些指標(biāo)正是信息 論研究的對(duì)象。編碼的目的是為了優(yōu)化通信系統(tǒng)，就 是使這些指標(biāo)達(dá)到最佳。 按不同的編碼目的，編碼分為三類(lèi)： 信源編碼 信道編碼 安全編碼 /密碼 信源編碼 信源編碼是以提高通信的有效性為目的編碼。 通常通過(guò)壓縮信源的冗余度來(lái)實(shí)現(xiàn)。 采用的一般方法是壓縮每個(gè)信源符號(hào)的平均比特 數(shù)或信源的碼率。同樣多的信息用較少的碼率來(lái) 傳送，使單位時(shí)間內(nèi)傳送的平均信息量增加，從 而提高通信的有效性。 在不失真或允許失真的條件下，用 盡可能少的符號(hào)傳送信源信息。 ? 信道編碼： – 是以提高信息傳輸?shù)目煽啃詾槟康牡木幋a。 – 通常通過(guò)增加信源的冗余度來(lái)實(shí)現(xiàn)。采用的 一般方法是增大碼率 /帶寬。 在信道受干擾的情況下增加信號(hào)的抗干 擾能力，同時(shí)又使得信息傳輸率最大。 ? 密碼： –是以提高通信系統(tǒng)的安全性為目的的編碼。 –通常通過(guò)加密和解密來(lái)實(shí)現(xiàn)。 無(wú)失真編碼 無(wú)失真信源編碼定理 信源編碼 限失真編碼 限失真信源編碼定理 無(wú)失真 ( 冗余度壓縮編碼 ) ：僅對(duì)信源的冗余度進(jìn)行 壓縮，不改變信源的熵。無(wú)失真編碼是可逆的，即當(dāng) 信源符號(hào)變換成代碼后，可從代碼無(wú)失真地恢復(fù)出原 信源符號(hào)。只適用于離散信源。 限失真 ( 熵壓縮編碼 ) ：在失真受限的情況下進(jìn)行限 失真編碼。在連續(xù)信源的情況下，由于信源的信息量 趨于無(wú)限，顯然不能用離散符號(hào)序列來(lái)完成無(wú)失真編 碼，而只能進(jìn)行限失真編碼。 離散信源 無(wú)失真信源編碼定理稱為第一極限定理 離散和連續(xù)信道 信道編碼定理稱為第二極限定理 限失真信源編碼定理稱為第三極限定理 連續(xù)信源 信源編碼的主要任務(wù) 符號(hào)變換：使信源輸出符號(hào)與信道輸入符號(hào)匹配。 減少冗余，提高編碼效率。 針對(duì)信源輸出符號(hào)序列的統(tǒng)計(jì)特性，尋找一定的方 法把信源輸出符號(hào)序列變換為最短的碼字序列。 信源編碼的基本途徑 使序列中的各個(gè)符號(hào)盡可能地互相獨(dú)立，即解 除相關(guān)性，去冗余； 使編碼中各個(gè)符號(hào)出現(xiàn)的概率盡可能地相等， 即概率均勻化。 本章討論離散信源編碼。首先從無(wú)失真編碼定理 出發(fā)，重點(diǎn)討論以香農(nóng)碼、費(fèi)諾碼和霍夫曼碼為 代表的最佳無(wú)失真碼。 編碼的定義 信源編碼：信源輸出符號(hào)經(jīng)信源編碼器編碼后 轉(zhuǎn)換成另外的壓縮符號(hào) 無(wú)失真信源編碼：可精確無(wú)失真地復(fù)制信源輸 出的消息 編碼器的作用 將信源符號(hào)集 X 中的符號(hào) 變換成由碼 符號(hào)集 y 中的碼元 組成的長(zhǎng)度為 Ki 的一 一對(duì)應(yīng)的碼字 。 碼字集合叫做代碼組 Y；碼字 所含碼元的個(gè)數(shù)稱 為該碼字的碼長(zhǎng)，記為 Ki 。 分組碼 將信源消息分成若干組，即符號(hào)序列，每個(gè)符號(hào) 序列依照固定碼表映射成一個(gè)碼字，這樣的碼稱 為分組碼，有時(shí)也叫塊碼。只有分組碼才有對(duì)應(yīng) 的碼表，而非分組碼中則不存在碼表。 例： 若將信源 X 通過(guò)二元信道傳輸，就必須把信源符 號(hào) ai 變換成由 0 、 1符號(hào)組成的碼符號(hào)序列，這個(gè) 過(guò)程就是信源編碼。 定長(zhǎng)碼 固定長(zhǎng)度的碼，碼中所 有碼字的長(zhǎng)度都相同。 變長(zhǎng)碼 可變長(zhǎng)度碼，碼中的碼字長(zhǎng)短不一。 定長(zhǎng)碼 變長(zhǎng)碼 若 0 、 01 都是碼字，譯碼時(shí)如何分離？ 分組碼 / 塊碼 將信源符號(hào)集中的每個(gè)符號(hào)映射成一個(gè) 固 定的碼字。 分組碼必須具有某些屬性，才能保證在接 收端能夠迅速可靠地譯碼。 碼的不同屬性 碼表 信源符號(hào) 信源 出現(xiàn)概率 p(ai) 符號(hào) ai 碼 1 碼 2 碼 3 碼 4 a 1 1/2 0 0 1 1 a 2 1/4 11 10 10 01 a 3 1/8 00 00 100 001 a 4 1/8 11 01 1000 0001 奇異碼 奇異碼和非奇異碼 1 若信源符號(hào)和碼字是一一對(duì)應(yīng)的，則該碼為 非奇異 碼。反之為奇異碼 。 唯一可譯碼 2 任意有限長(zhǎng)的碼元序列，只能 被唯一地分割成一個(gè)個(gè)碼字。 例： {0,10,11} 是一種唯一可譯碼。 任意一串有限長(zhǎng)碼序列，如 100111000 ，只能被分割 成 0、 1 10 、 0、 0 。任何其他分割法都會(huì)產(chǎn)生 一些非定義的碼字。 奇異碼不是唯一可譯碼 非唯
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1