[工學]信息論與編碼_第5章有失真信源編碼-資料下載頁
2024-10-16 18:25本頁面
【正文】 ? ??? ?? ?? 信道容量與信息率失真函數(shù)的比較 26 信息率失真函數(shù)的性質(zhì) ?當 p(xi)固定，互信息量 I(X。Y)是信道轉移概率概率分布 p(yj|xi)的下凸函數(shù) ,存在極小值。 信息率失真函數(shù)就是假定信源給定的情況下 ,在試驗信道（滿足保真度準則的信道）中求平均互信息的極小值 ,即 ( / )( ) m i n ( , )j i Dp y x PR D I X Y??),(m a x)( YXICixp?? 信道容量與信息率失真函數(shù)的比較 ?當 p(yj|xi)固定，互信息量 I(X。Y)是輸入符號概率 p(xi)的上凸函數(shù) ,存在極大值 .信道容量就是假定信道固定的前提下 ,選擇一種試驗信源，使平均互信息（信息率）最大 ,即 27 信息率失真函數(shù)的性質(zhì) ?信道容量 反映的是信道傳輸信息的能力，即信道可傳輸?shù)淖畲笮畔⒙?。研究信道容量目的是充分利用已給信道，使傳輸?shù)男畔⒘孔畲蠖l(fā)生錯誤的概率任意小，即信道編碼 問題。信道容量是為了解決通信的可靠性問題，是信息傳輸?shù)睦碚摶A，通過信道編碼 增加信息的冗余度 來實現(xiàn)。 ?信息率失真函數(shù) 反映的是信源可壓縮的程度，即在可以容忍的失真度內(nèi)再現(xiàn)信源消息所必須獲得的最小平均信息量。研究信息率失真函數(shù)目的是用盡可能少的碼符號盡快地傳送盡可能多的信源消息，以提高通信的有效性問題，即 信源編碼 問題，是信源壓縮的理論基礎，通過信源編碼 減少信息的冗余度 來實現(xiàn)。 ? 信道容量與信息率失真函數(shù)的比較 28 信息率失真函數(shù)的性質(zhì) ?信道容量 只與信道轉移概率分布有關， 反映信道特性 ，與信源無關。 ?信息率失真函數(shù) 只與信源概率分布有關， 反映信源特性 ，與信道特性無關。 ? 信道容量與信息率失真函數(shù)的比較 29 第 5章 有失真信源編碼 信息率失真函數(shù) 信息率失真函數(shù)的性質(zhì) 限失真信源編碼定理 30 限失真信源編碼定理 定理 . 設離散無記憶信源 X的信息率失真函數(shù)為 R(D),當信息速率 R R(D)時 , 只要信息序列長度 L足夠大，一定存在一個編碼方法，其譯碼失真 ? D+?， ?為任意小的正數(shù)；反之，若 R R(D), 則無論采用什么編碼方法，其譯碼失真必定大于 D. 如果是二元信源，則對于任意小的正數(shù) ?，每一個信源符號需要的平均碼長滿足以下公式： ( ) ( ) .R D K R D ?? ? ?? 在 失真度 D內(nèi)使信息率任意接近 R(D)的編碼方法是存在的 ? 可實現(xiàn)的接近 R(D)的編碼方法尚未找到！
教學課件相關推薦
鄂ICP備17016276號-1