[工學(xué)]信息論與編碼_第5章有失真信源編碼-資料下載頁(yè)
2025-10-07 18:25本頁(yè)面
【正文】 ? ??? ?? ?? 信道容量與信息率失真函數(shù)的比較 26 信息率失真函數(shù)的性質(zhì) ?當(dāng) p(xi)固定，互信息量 I(X。Y)是信道轉(zhuǎn)移概率概率分布 p(yj|xi)的下凸函數(shù) ,存在極小值。 信息率失真函數(shù)就是假定信源給定的情況下 ,在試驗(yàn)信道（滿足保真度準(zhǔn)則的信道）中求平均互信息的極小值 ,即 ( / )( ) m i n ( , )j i Dp y x PR D I X Y??),(m a x)( YXICixp?? 信道容量與信息率失真函數(shù)的比較 ?當(dāng) p(yj|xi)固定，互信息量 I(X。Y)是輸入符號(hào)概率 p(xi)的上凸函數(shù) ,存在極大值 .信道容量就是假定信道固定的前提下 ,選擇一種試驗(yàn)信源，使平均互信息（信息率）最大 ,即 27 信息率失真函數(shù)的性質(zhì) ?信道容量 反映的是信道傳輸信息的能力，即信道可傳輸?shù)淖畲笮畔⒙省Ｑ芯啃诺廊萘磕康氖浅浞掷靡呀o信道，使傳輸?shù)男畔⒘孔畲蠖l(fā)生錯(cuò)誤的概率任意小，即信道編碼 問題。信道容量是為了解決通信的可靠性問題，是信息傳輸?shù)睦碚摶A(chǔ)，通過信道編碼 增加信息的冗余度 來(lái)實(shí)現(xiàn)。 ?信息率失真函數(shù) 反映的是信源可壓縮的程度，即在可以容忍的失真度內(nèi)再現(xiàn)信源消息所必須獲得的最小平均信息量。研究信息率失真函數(shù)目的是用盡可能少的碼符號(hào)盡快地傳送盡可能多的信源消息，以提高通信的有效性問題，即 信源編碼 問題，是信源壓縮的理論基礎(chǔ)，通過信源編碼 減少信息的冗余度 來(lái)實(shí)現(xiàn)。 ? 信道容量與信息率失真函數(shù)的比較 28 信息率失真函數(shù)的性質(zhì) ?信道容量 只與信道轉(zhuǎn)移概率分布有關(guān)， 反映信道特性 ，與信源無(wú)關(guān)。 ?信息率失真函數(shù) 只與信源概率分布有關(guān)， 反映信源特性 ，與信道特性無(wú)關(guān)。 ? 信道容量與信息率失真函數(shù)的比較 29 第 5章 有失真信源編碼 信息率失真函數(shù) 信息率失真函數(shù)的性質(zhì) 限失真信源編碼定理 30 限失真信源編碼定理 定理 . 設(shè)離散無(wú)記憶信源 X的信息率失真函數(shù)為 R(D),當(dāng)信息速率 R R(D)時(shí) , 只要信息序列長(zhǎng)度 L足夠大，一定存在一個(gè)編碼方法，其譯碼失真 ? D+?， ?為任意小的正數(shù)；反之，若 R R(D), 則無(wú)論采用什么編碼方法，其譯碼失真必定大于 D. 如果是二元信源，則對(duì)于任意小的正數(shù) ?，每一個(gè)信源符號(hào)需要的平均碼長(zhǎng)滿足以下公式： ( ) ( ) .R D K R D ?? ? ?? 在 失真度 D內(nèi)使信息率任意接近 R(D)的編碼方法是存在的 ? 可實(shí)現(xiàn)的接近 R(D)的編碼方法尚未找到！
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1