《信源編碼》ppt課件-全文預(yù)覽
【正文】 進制香農(nóng)碼。 僅哈夫曼編碼是真正意義下的最佳編碼 哈夫曼編碼效率最高，費諾編碼效率次之，香農(nóng) 編碼效率最低，甚至低于定長編碼的效率。 (2) 隨著信源序列長度的增加，編碼的效率越來越接 近于 1 。 單個符號變長編碼定理 若離散無記憶信源的符號熵為 H(X) ，每個信源符號 用 m 進制碼元進行變長編碼，一定存在一種無失真 編碼方法，其碼字平均長度 K 滿足下列不等式： H ( X ) H ( X ) ??????? + 1 log m log m 離散平穩(wěn)無記憶序列變長編碼定理 對于平均符號熵為 HL(X) 的離散平穩(wěn)無記憶信 源，必存在一種無失真編碼方法，使平均信息率 R ???滿足不等式： 其中 ε 為任意小正數(shù)。這顯然是很難實現(xiàn)的。 ? 差錯概率 設(shè)差錯概率用 ??Pe?表示，則有： ? ε 為一正數(shù) 為信源序列的自信息方差 當 均為定值時，只要 L 足夠大， Pe可以小 于任一正數(shù) ?。 定長編碼定理給出了信源進行定長編碼所需碼 長的 理論極限值 。 編碼的目的是尋找 最小 K 值 ? 若對信源進行定長編碼，必須滿足 : 對于定長唯一可譯碼，每個信源符號至少需用 （ log n / log m ）個碼符號來變換。 如碼字 {0， 10， 010， 111} 雖然滿足 Kraft 不等式， 但它不是唯一可譯碼。 應(yīng)用 Kraft 不等式，得： 不存在滿足這種 K i 的唯一可譯碼 要形成滿足上述長度 的碼字，必須在中間 節(jié)點放置碼字。 ? 任一即時碼都可用樹圖法來表示。 m 進制碼樹各節(jié) 點 ( 包括樹根 ) 向下長出的樹枝不會超過 m，若等于 m稱 為滿樹 (整樹 ) ，否則稱為非滿樹 (非整樹 ) 。 碼 3 即時碼 ( 非延長碼 ) ( 異前綴碼 ) 在譯碼時無需參考后續(xù)的碼符號就能立即作出判斷， 譯成對應(yīng)的信源符號。 例： {0,10,11} 是一種唯一可譯碼。 分組碼必須具有某些屬性，才能保證在接 收端能夠迅速可靠地譯碼。 例： 若將信源 X 通過二元信道傳輸，就必須把信源符 號 ai 變換成由 0 、 1符號組成的碼符號序列，這個 過程就是信源編碼。 編碼的定義 信源編碼：信源輸出符號經(jīng)信源編碼器編碼后 轉(zhuǎn)換成另外的壓縮符號 無失真信源編碼：可精確無失真地復制信源輸 出的消息 編碼器的作用 將信源符號集 X 中的符號 變換成由碼 符號集 y 中的碼元 組成的長度為 Ki 的一 一對應(yīng)的碼字 。 針對信源輸出符號序列的統(tǒng)計特性，尋找一定的方 法把信源輸出符號序列變換為最短的碼字序列。 限失真 ( 熵壓縮編碼 ) ：在失真受限的情況下進行限 失真編碼。 –通常通過加密和解密來實現(xiàn)。 – 通常通過增加信源的冗余度來實現(xiàn)。 采用的一般方法是壓縮每個信源符號的平均比特 數(shù)或信源的碼率。第 5 章 信源編碼 編碼的定義 無失真信源編碼 限失真信源編碼定理 常用信源編碼方法簡介 編碼 通信的實質(zhì)是傳輸信息，通信系統(tǒng)的性能指標主 要有有效性、可靠性、安全性等，這些指標正是信息 論研究的對象。 通常通過壓縮信源的冗余度來實現(xiàn)。 ? 信道編碼： – 是以提高信息傳輸?shù)目煽啃詾槟康牡木幋a。 ? 密碼： –是以提高通信系統(tǒng)的安全性為目的的編碼。只適用于離散信源。 減少冗余，提高編碼效率。首先從無失真編碼定理 出發(fā)，重點討論以香農(nóng)碼、費諾碼和霍夫曼碼為 代表的最佳無失真碼。只有分組碼才有對應(yīng) 的碼表，而非分組碼中則不存在碼表。 定長碼 變長碼 若 0 、 01 都是碼字，譯碼時如何分離？ 分組碼 / 塊碼 將信源符號集中的每個符號映射成一個 固 定的碼字。 唯一可譯碼 2 任意有限長的碼元序列，只能 被唯一地分割成一個個碼字。 奇異碼不是唯一可譯碼 非唯一可譯碼 —碼 2 ，可譯成 a1a1或 a3 非奇異碼 唯一可譯碼 —碼 3 ， 但譯碼有延時 非即時碼 唯一可譯碼 即時碼 非即時碼 接收端收到一個完整的碼字后，不能立即譯碼，還需 等下一個碼字開始接收后才能判斷是否可以譯碼。向下不長 出樹枝的節(jié)點稱為終端節(jié)點或端點。 滿樹 — 等長碼 節(jié)數(shù) — 碼長 非滿樹 — 變長碼
教學課件相關(guān)推薦
鄂ICP備17016276號-1