信息論與編碼ppt課件(2)-wenkub
2023-05-21 02:45:23 本頁面
【正文】 元素時 , Dmin=0 此時輸出符號概率 p(b1)＝ 0， p(b2)＝ 1， 2221 , baba ??29 ? 例 :設(shè)輸入輸出符號表為 X=Y={0,1},輸入概率分布 p(x)={1/3,2/3},失真矩陣 ???????1212/1d? 求： Dmin 和 Dmax 1)1,23(m i n)132131,2322131(m i nm i n212,1m a x?????????? ???jjijiijdpD651322131),(m i n)(1m i n?????? ??nijijiyxdxpD30 信息率失真函數(shù)的性質(zhì) ? R(D)是非負的實數(shù) , R(D)≥0。 ? 對于連續(xù)信源： ????)(lim)(0m i nDRDRD25 R(D)的定義域 ? R(D)的定義域為 [Dmin， Dmax ]。 DD ,0?23 R(D)的定義域 ? Dmin 和 R(Dmin) ? 信源的最小平均失真度： ???nijiji yxdxpD1m i n ),(min)(? 只有當失真矩陣的每一行至少有一個 0元素時 ,信源的平均失真度才能達到下限值 0。Y)最大值 固定 p(xi),改變 p(yj/xi),求得 I(X。 p(yj|xi)一定 – 信道傳遞概率 p(yj|xi)的下凸函數(shù)。 ? 可以證明，當 p(x)一定時 ,I (X,Y)是關(guān)于 p(yj|xi)的下凸函數(shù)。 ? 離散無記憶信源 ? ???i j jijijiPp bpabpabpapDRDji )()|(l o g)|()(m i n)(18 ? 例已知編碼器輸入的概率分布為 p(x)={ ,} ? 信道矩陣 ??????? ? 求互信息 )|()()( ijiji xypxpyxp ??)(,)(,)(,)( 22122111 ????? yxpyxpyxpyxp)(,)( 21 ?? ypyp32)|(,41)|(,31)|(,43)|(22122111 ???? yxpyxpyxpyxp符號/)()|(l o g)()。 ),(m in)( YXIDRDP?? 在信源給定后 ,我們希望在滿足一定失真的情況下 ,使信源必須傳輸給收信者的 信息傳輸率 R盡可能地小。 DD ?14 信息率失真函數(shù) R(D) ? 若平均失真度 不大于我們所允許的失真 ,即 DDD?? 則稱此為 保真度準則 ? 當信源 p(xi)給定 ,單個符號失真度 d(xi, yj) 給定時 ,選擇不同的試驗信道 p(yj | xi), 相當于不同的編碼方法 ,其所得的平均失真度不同。信息率失真函數(shù) 第 4章 2 平均失真和信息率失真函數(shù) 離散信源和連續(xù)信源的 R(D)計算 內(nèi)容 3 ? 失真 o 信道編碼定理 —— 欲無失真，必 R C 若 R C，必失真 o 失真 必要性 —— ? 連續(xù)信源 R趨向于無窮大，必有失真 ? 壓縮亦有失真 o 失真 可能性 —— 終端性能有限，如人眼 ,人耳 ? 研究： 信息率～允許失真 —— 信息率失真理論 4 平均失真和 信息率失真函數(shù) 5 失真函數(shù) ? 假如某一信源 X,輸出樣值 xi , xi∈ {a1,a2,… an},經(jīng)信道傳輸后變
教學課件相關(guān)推薦
鄂ICP備17016276號-1