信息率失真函數(shù)ppt課件(編輯修改稿)
2025-06-02 02:38 本頁面
【文章內(nèi)容簡介】 1 ?? ??? ?? riijiijrisjijiuvPuPuvPuvPuPVUI11 1 )/()()/(l o g)/()(),( 等概率、對稱失真信源的率失真 R(D)計(jì)算 對于等概、對稱失真的信源，存在一個(gè)與失真矩陣具有同樣對稱性的轉(zhuǎn)移概率分布達(dá)到率失真 R(D)。 [例 5] 有一個(gè)二元等概平穩(wěn)無記憶信源 ， 接收符號集為 且失真矩陣為 ： ? ?0 ,1X ?? ?0 , 1 , 2Y ?01[]01d???? ?????求率失真函數(shù) R(D) 。 解：由 m i n ( ) m i n ( , ) 0yxD p x d x y? ? ??m a x m i n ( ) ( , ) 1yxD p x d x y? ? ??由于信源等概分布，失真函數(shù)具有對稱，因此，存在著與失真矩陣具有同樣對稱性的轉(zhuǎn)移概率分布達(dá)到率失真 R(D) ，該轉(zhuǎn)移概率矩陣可寫為： ? ?( ) , 1p y x ? ? ? ? ? ?? ? ???? ??????? ? ? ?????由于 ，因此對于任何有限平均失真，必須 。于是轉(zhuǎn)移概率矩陣變?yōu)椋? ( 0 , 1 ) ( 1 , 0 )dd ? ? ?0? ?對應(yīng)此轉(zhuǎn)移概率矩陣的平均失真： 因此 可求出此時(shí)的互信息為： ? ? 01()01p y xa??????? ?????,( ) ( ) ( , ) 1xyD p x p y x d x y ?? ? ??1 D? ??( ) ( 。 ) [ ( ) ( / ) ]11( , , ( 1 , )22112 l o g l o g ( 1 ) l o g ( 1 ) l o g22? ? ????????????? ? ? ???????????? ? ? ? ? ? ? ?R D I X Y H Y H Y XDDH D H D DDDD D D D D D）－－( 1 ) ( 1 ) l o g ( 1 ) ( 1 ) l o g ( 1 )( 1 ) 1?????????? ? ? ? ? ? ? ? ??????????? ? ? ?????????????? ? ? ?D D D D DDD相應(yīng)的率失真函數(shù) R(D)如圖所示。 )( DR10?D 1?D例：有一個(gè) n元等概率平穩(wěn)無記憶信源 ，接收符號集為 ，且規(guī)定失真矩陣為 求率失真函數(shù) R(D)。 解：由于信源等概率分布，失真函數(shù)具有對稱性，則存在著與失真矩陣具有同樣對稱性的轉(zhuǎn)移概率分布達(dá)到率失真 R(D)。該轉(zhuǎn)移概率矩陣為 ? ?nX ,2,1 ??? ?nY ,2,1 ??? ??????????????011101110???????d? ?? ? 10 1111??????????????????????? AAnAAnAAxyp??????? 離散無記憶信源的信息率失真函數(shù)的參量表述 求信源的 R(D)函數(shù)，原則上與求信道容量一樣，是在有約束條件下求極小值的問題。 也就是適當(dāng)選取試驗(yàn)信道 P(v/u)使平均互信息最小化， ?? ??? ?? riijiijrisjijiuvPuPuvPuvPuPVUI11 1 )/()()/(l o g)/()(),( 應(yīng)用拉格朗日乘子法，原則上可以求出解來。 ? 但是，如果要求得到明顯的解析表達(dá)式，則比較困難，通常只能用參量形式來表達(dá)。即便如此，除簡單情況外，實(shí)際計(jì)算仍然是相當(dāng)困難的。尤其是約束條件式 ()，它是求解R(D)函數(shù)最主要的障礙。 ? 因?yàn)閼?yīng)用拉格朗日乘子法解得的一個(gè)或某幾個(gè) P(vj/ui)很可能是負(fù)的。在這情況下，必須假設(shè)某些 P(vj/ui) =0，然后重新計(jì)算，這就使得計(jì)算復(fù)雜化了。 ? 目前，可采用收斂的迭代算法在電子計(jì)算機(jī)上求解 R(D)函數(shù)。 ? 下面介紹用拉格朗日乘子法求解 R(D)函數(shù)，并用 S作為參量來表述率失真函數(shù) R(D)和失真函數(shù) D(S)。 ? 由式 (1)知，當(dāng)信源的概率分布 P(u)固定，平均互信息僅僅是試驗(yàn)信道 P(vj/ui)的函數(shù)。 ? 若先不考慮式 (2)的約束，約束條件式 (3)包含 r個(gè)等式，取拉格朗日乘子 ? i(i＝ 1． 2， … r)分別與之對應(yīng)；并取拉氏乘子 S與式 (4)對應(yīng)。由此構(gòu)成輔助函數(shù)： 1( 。 ) ( / ) ( 5 )si j ijI U V P v u S D??? ? ? ??0)/( ?ij uvP???sjij uvP11)/(DvuduvPuP jirisjiji ?? ?? ?),()/()(1 1(2) (3) (4) ?? ??? ?? riijiijrisjijiuvPuPuvPuvPuPVUI11 1 )/()()/(l o g)/()(),( (1) 求極值 ， 就是求輔助函數(shù)一階導(dǎo)數(shù)等于零的方程組的解 。 因?yàn)橐阎骄バ畔?I(U。V)是信道 P的 U型凸函數(shù) ， 所以若極值存在 ， 它一定是極小值 。 即求： ? ?? ??????????sjriuvP ij ,... ,1,... ,10)/(該式共有 r*s個(gè)方程，加上式 (3) r 個(gè)方程和式 (4) 1 個(gè)方程，共有 (r+1+ r*s)個(gè)方程。 而未知數(shù) ?i(i=1,2,…,r) 、 S和 P(vj/ui )(i=1,2,…,r ， j=1,2,…,s)也正好對應(yīng) (r+1+ r*s)個(gè)，所以原則上只需求解式 (6)、 (3)和 (4)的方程組，即可求出 I(U。V)在約束條件下的極小值。 0),()()(
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1