[工學(xué)]信息論基礎(chǔ) --率失真函數(shù) --練習(xí)與思考-文庫吧
2024-10-01 18:25 本頁面
【正文】 量。不同的信源，其 R(D)是不同的。 第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 10 對偶問題：信道容量和信息率失真函數(shù)的問題，都是求平均互信息 極值問題 。 分三個(gè)方面說明： ? 求極值問題 ? 平均互信息 I(X。Y)是信源概率分布 p(xi)(i=1,2,…, n) 的 上凸函數(shù) ，信道容量就是在固定信道情況下，求平均互信息極大值的問題，即 ? I(X。Y) 又是信道轉(zhuǎn)移概率分布 p(yj /xi)(i=1,2,…, n。j=1,2,…, m) 的下凸函數(shù) ，信息率失真函數(shù)就是在試驗(yàn)信道（滿足保真度準(zhǔn)則的信道）中尋找平均互信息極小值的問題，即 第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 11 ? 特 性 ? 信道容量 C一旦求出后，就只與信道轉(zhuǎn)移概率 p(yj /xi) 有關(guān)，反映 信道特性 ，與信源特性無關(guān)； ? 信息率失真函數(shù) R(D)一旦求出后，就只與信源概率分布 p(xi) 有關(guān)，反映 信源特性 ，與信道特性無關(guān)。 ? 解決的問題 ? 信道容量 是為了解決通信的可靠性問題，是信息傳輸?shù)睦碚摶A(chǔ)，通過信道編碼增加信息的冗余度來實(shí)現(xiàn)； ? 信息率失真函數(shù) 是為了解決通信的有效性問題，是信源壓縮的理論基礎(chǔ)，通過信源編碼減少信息的冗余度來實(shí)現(xiàn)。 第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 12 ? 限失真信源編碼定理： 設(shè)一離散平穩(wěn)無記憶信源的輸出隨機(jī)變量序列為 X=(X1,X2,…, XL)，若該信源的信息率失真函數(shù)是 R(D)，并選定有限的失真函數(shù)。對于任意允許平均失真度 D≥0，和任意小的 ε0，當(dāng)信息率 RR(D) ，只要信源序列長度 L 足夠長，一定存在一種編碼方式 C，使譯碼后的平均失真度 ；反之，若 RR(D)，則無論用什么編碼方式，必有 ，即譯碼平均失真必大于允許失真。 ? 信息率失真函數(shù)也是一個(gè)界限。只要信息率大于這個(gè)界限，譯碼失真就可限制在給定的范圍內(nèi)。即通信的過程中雖然有失真，但仍能滿足要求，否則就不能滿足要求。 DCD ?)(??? DCD )(第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 13 ? 研究信道編碼和率失真函數(shù)的意義 ? 研究信道容量的意義：在實(shí)際應(yīng)用中，研究信道容量是為了解決在已知信道中傳送最大信息率問題。目的是充分利用已給信道，使傳輸?shù)男畔⒘孔畲蠖l(fā)生錯(cuò)誤的概率任意小，以 提高通信的可靠性 。這就是 信道編碼 問題。 ? 研究信息率失真函數(shù)的意義：研究信息率失真函數(shù)是為了解決在已知信源和允許失真度 D 的條件下，使信源必須傳送給信宿的信息率最小。即用盡可能少的碼符號盡快地傳送盡可能多的信源消息，以 提高通信的有效性 。這是 信源編碼 問題。 第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 14 習(xí)題 1 接收符號為 V={0,1,2,3},其失真矩陣為 求 Dmax,Dmin及信源的 R(D)函數(shù)，并作出其曲線（取 4到5個(gè)點(diǎn)） 1 1 1 14 4 4 40 1 2 3()UPu???? ??????? ??0 1 1 11 0 1 11 1 0 11 1 1 0D?????????????第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 15 習(xí)題 1 11133334444()113m a x 1 2 4( ) ( / ) ( , )( ) m i n ( , ) 0m i n ( ) ( ) ( , ) { , , , }m i n( , , , )jnmi j i i jijni i jjimnj j j j i jpyjimD p u p v u d u vp u d u vp y D D p x d x yD D D Dr????????? ? ????????minmax解 答 ： 四 元 對 稱 信 源 在 漢 明 失 真 矩 陣 下 ， 它 的 平 均 失 真 度根 據(jù) 最 小 允 許 失 真 度 的 定 義 ：D根 據(jù) 最 大 允 許 失 真 度 的 定 義 ：D由 元 離322 434l og 4 l og 3 ( ) 0()0D H D DRDD? ? ? ??????散 對 稱 信 源 可 得 ：第四章 信息率失真函數(shù) 2021/11/10 我相信，每一份努力，都會換來一份收獲！ 16 習(xí)題 2 接收符號為 V={1/2,+1/2},其失真矩陣為 求 Dmax,Dmin及達(dá)到它們的信道？
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1