信息率失真函數(shù)(2)-文庫(kù)吧資料
2025-05-21 14:23本頁(yè)面
【正文】 ??? ???(1) (3) (4) ? ?( ) e x p [ ( , ) ] 1 1 , . . . , ( 4 . 3 . 1 4 )i i i jip a s d a b j m? ???( ) ( ) ( ) ( , ) e x p [ ( , ) ] ( 4 . 3 . 1 6 )i j i i j i jijD s p a p b d a b s d a b?? ??1( ) ( ) ( ) l o g ( 4 . 3 . 1 7 )niiiR s s D s p a ???? ?? ?( ) e xp[ ( , ) ] 1 1 , ..., ( . 15 )( ) e xp[ ( , ) ]i i ji j i jjp a sd a bjmp b sd a b??? ?( / ) ( ) e xp [ ( , ) ] ( 4. 3. 11 )j i j i i jp b a p b sd a b??1 ( ) e x p [ ( , ) ] ( 4 . 3 . 1 3 )i j i jjp b s d a b? ? ? ?經(jīng)整理得結(jié)論： 注： 這時(shí)所得的結(jié)果是以 s為參量的表達(dá)式 ， 而不是顯式表達(dá)式 ， 因而所得到的 R(D)的表達(dá)式也是以 s為參量的表達(dá)式 。Y)是信道 P的 U型凸函數(shù) ， 所以 ， 若極值存在 ， 它一定是極小值 。 ) ( / ) ( 5 )mi j ijI X Y p b a s D??? ? ? ??( / ) 0jip b a ?1( / ) 1 , ( 1 , .. ., )mjijp b a i n????11( ) ( / ) ( , )nmi j i i jijp a p b a d a b D?????(2) (3) (4) 111( / )( , ) ( ) ( / ) l og( ) ( / )nmjii j i riji j iip b aI X Y p a p b ap a p b a???? ???(1) 求極值 ， 即為求 (5) 式一階導(dǎo)數(shù)等于零的方程組的解 。 ? 若 先不考慮 (2)式的約束 ，約束條件 (3)式包含 n個(gè)等式，取拉格朗日乘子 ?i(i＝ 1,2,… n) 分別與之對(duì)應(yīng)；并取拉氏乘子 s與 (4)式對(duì)應(yīng)。 ? 下面介紹用拉格朗日乘子法求解 R(D)函數(shù)，并用 s作為參量來(lái)表述率失真函數(shù) R(s)和失真函數(shù) D(s)。 ? 要保證約束條件式 p(bj/ai) ?0，應(yīng)用拉格朗日乘子法解得的某些 p(bj/ai)很可能是負(fù)的。 也就是適當(dāng)選取試驗(yàn)信道 p(y/x)使平均互信息最小化， 111( / )( , ) ( ) ( / ) l og( ) ( / )nmjii j i riji j iip b aI X Y p a p b ap a p b a???? ??? 應(yīng)用拉格朗日乘子法，原則上可以求出解來(lái)。 m i n ( ) m in ( , ) 0yxD p x d x y? ? ??m a x m in ( ) ( , ) 1y xD p x d x y? ? ??由于信源等概分布，失真函數(shù)具有對(duì)稱性，因此，存在著與失真矩陣 具有同樣對(duì)稱性的轉(zhuǎn)移概率分布 達(dá)到率失真 R(D) ，該轉(zhuǎn)移概率矩陣可寫為： ? ?( ) , 1p y x ? ? ? ? ? ?? ? ???? ??????? ? ? ?????由于 ，因此對(duì)于任何有限平均失真，必須 ,于是轉(zhuǎn)移概率矩陣為： ( 0 ,1 ) ( 1 , 0)dd ? ? ?0? ?? ? 01() 01p y x a??? ???? ?? ???對(duì)應(yīng)此轉(zhuǎn)移概率矩陣的平均失真： 因此 : 可求得此時(shí)的互信息為： ,( ) ( ) ( , ) 1xyD p x p y x d x y ?? ? ??1 D? ??( ) ( 。 也即選取適當(dāng)?shù)脑囼?yàn)信道 p(x/y)使平均互信息最小化： 其約束條件為 : ( / ) 0jip b a ?1( / ) 1sjijp b a???11( ) ( / ) ( , )rsi j i i jijp a p b a d a b D????? 111( / )( , ) ( ) ( / ) l og( ) ( / )rsjii j i riji j iip b aI X Y p a p b ap a p b a???? ???一般取等號(hào) 一、 等概率、對(duì)稱失真信源的 R(D)計(jì)算 對(duì)于等概、對(duì)稱失真的信源，存在一個(gè)與失真矩陣具有同樣對(duì)稱性的轉(zhuǎn)移概率分布達(dá)到率失真 R(D)。 m i n m a x( , )DD信息率失真函數(shù)的一般形狀 )0()( RUH ?連續(xù) 離散0 D()RDＨ (Ｘ ) 0()RDm a xDm inDm a xRD 離散無(wú)記憶信源的信息率失真函數(shù) 已知信源的概率分布 p(x)和失真函數(shù) d(x,y)，就可求得信源的 R(D)函數(shù)。 R(D)的定義域 R(
試題試卷相關(guān)推薦
鄂ICP備17016276號(hào)-1