【文章內容簡介】 11 ( ) ( | ) ( , )nmi j i i jijD p x p y x d x y??? ?? 新試驗信道在所有滿足保真準則的信道集合中并不一定是達到率失真函數(shù)的信道 ， 因此： R ( D ) ? I ( X。 Y ) 滿足保真準則 固定信源 ， 平均互信息 是信道轉移概率的下凸函數(shù) ， 所以： m a x 1( 。 ) ( 。 ) ( 1 ) ( 。 )I X Y I X Y I X Y??? ? ?m i n 1 2 m axD D D D 綜上分析可知： 時 ， ， 可見 在區(qū)間 上不是常數(shù) ， 原假設不成立 。 1DD? 1( ) ( 。 ) ( )R D I X Y R D? ()RD12[ , ]DDma x 111( ) [ ( | ) ( 1 ) ( | ) ] ( , )nmi j i j i i jijD p x p y x p y x d x y????? ? ???m a x11111( ) ( | ) ( , )( 1 ) ( ) ( | ) ( , )nmi j i i jijnmi j i i jijp x p y x d x yp x p y x d x y?????????????m a x 1 m a x 1( 1 ) ( 1 )D D D D D? ? ? ?? ? ? ? ? ? ?11( 1 ) ( ) ( )R D R D?? ? 24 根據(jù)率失真函數(shù)所具有的下凸性 、 連續(xù)性 、 嚴格單調下降性可繪出率失真函數(shù)的典型曲線圖 率失真函數(shù)曲線的一般形式 maxD連續(xù)信源 離散信源 ()HXD()RD0m in( ) ( )R D H XmaxD連續(xù)信源 離散信源 D()RDm in()RD 有 限minD0對于連續(xù)信源 ， R ( 0 ) ? ?， 曲線不與 R ( D ) 相交 R ( Dmin ) ? H ( X ) 及 R (Dmax ) ? 0 決定了率失真函數(shù)曲線邊緣的 兩個交點 25 離散信源的信息率失真函數(shù) 由率失真函數(shù)的定義可知 ， 求解 R ( D ) 實質上是求解平均互信息的條件極值 ， 與求信道容量 C 類似 ， 可以采用拉格朗日乘子法求解 R ( D ) 是求解 I ( X。 Y ) 的 條件極小值 ， 具體而言 ， 給定信源概率分布 p( x ) 和失真函數(shù) d ( x, y )， 在滿足保真度準則 的試驗信道集合 PD 中選擇信道轉移概率 p( y | x )， 使 I ( X。 Y ) 最小 DD?111( | ) 1 1 , 2 , ,( ) ( | ) ( , )mj j inmi j i j i i jp y x i np x p y x d x y D???? ? ? ??? ? ? ???需要滿足以下 n ? 1 個限定條件： 很難求解出 I ( X。 Y ) 條件極小值的顯式表達式 ， 在一般情況下只能求得用參量 (R ( D ) 的斜率 S )來描述的參量表達式 ， 并借助計算機進行迭代運算 26 離散信源信息率失真函數(shù) 的參量表達式 11 1( | )( 。 ) ( ) ( | ) ln( | ) ( )nm jii j i nij i j i ip y xI X Y p x p y xp y x p x?? ?? ???11( | ) ( ) ( | ) ln ( | )( | ) ( | )nmi j i j iijj i j iH Y X p x p y x p y xp y x p y x ?????? ?? ??????[ ln ( ) ] ( )1( | ) ( ) ( | )jjj i j j ip y p yp y x p y p y x????()jpy1( ) [ ( | ) ( ) ]( | ) ( | )nj i j i ij i j ip y p y x p xp y x p y x?? ? ????11() ( ) ln ( )( | ) ( | )nmjjijj i j iHY p y p yp y x p y x ?????? ?? ???? ????( 。 ) ( ) [ 1 ln ( ) ] ( ) [ 1 ln ( | ) ]( | ) i j i j ijiI X Y p x p y p x p y xp y x? ? ? ? ? ??( ) ( | ) n a tH Y H Y X??()()ijpxpy? ()ipx?[ ( ) ln ( ) ]( | )jjjip y p yp y x????()[ ( ) ln ( ) ] ( )()ii j jjpxp x p y p ypy????? ? ? ?????( ) [ 1 l n ( ) ]ijp x p y? ? ?? ?1( ) [ ln ( | ) ] ( | ) ( | )i j i j i j ip x p y x p y x p y x?? ? ? ?( ) [ 1 l n | ) ]i j ip x p y x? ? ?27 ( , )1( ) ( ) ( ) e ijS d x ynj j i i ip y p y p x????1 1 1( 。 ) ( ) ( | ) ( , ) ( | ) 1n m mi j i i j i j ii j jF I X Y S p x p y x d x y D p y x?? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ?( 。 ) 1I X Y n ?根 據(jù) 和 前 述 的 個 限 定 條 件 ， 構 造 如 下 的 輔 助 函 數(shù) ：( ) [ 1 ln ( ) ] ( ) [ 1 ln ( | ) ] ( ) ( , ) 0( | ) i j i j i i i j ijiF p x p y p x p y x S p x d x yp y x ?? ? ? ? ? ? ? ? ??( 。 ) ( ) [ 1 ln ( ) ] ( ) [ 1 ln ( | ) ]( | ) i j i j ijiI X Y p x p y p x p y xp y x? ? ? ? ? ??( | )ln ( , ) 0( ) ( )ji iijjip y x S d x yp y p x??? ? ? ?????( , ) ln( | ) e()i j iSd x yjijp y xpy???( , )( | ) ( ) e ijS d x yj i i jp y x p y?? ( , )( ) ( ) ( ) e ijSd x yi j i i jp x y p x p y??( | )jin m p y x?共 有 個 關 于 的 方 程 ：lni?j兩 邊 對 求 和( , )11 ( ) e ijS d x ymi j jpy? ???( , )11 ( ) e ijn S d x yiiipx??? ?i兩 邊 對 求 和()ipx?兩 邊( , )e ijS d x yi??( , )11( ) e iji S d x ymjjpy? ?? ?28 inS ?個 以 為 參 量 的( , )( | ) ( ) e ijSd x yj i i jp y x p y??( , )( , )1 1()( ) e1 1 , 2 , ,( ) eijijjSd x yniSd x ymi jjm p ypxjmpy? ?????由 此 得 到 個 關 于 的 聯(lián) 立 方 程 ：( , )11 ( ) e ijSd x yni i ipx???? ( , )11( ) e iji Sd x ymjjpy? ?? ?()jm S p y個 以 為 參 量 的11( ) ( ) ( | ) ( , )nm i j i i jijD S p x p y x d x y??? ??11( | )( ) ( ) ( | ) ln()nm jii j iij jp y xR S p x p y xpy??? ??( ) 1 ( )jp y S D R R D??選 擇 滿 足 0 的 所 有 ， 求 出 和 的 值 ， 即 可 畫 出 的 函 數(shù) 曲 線11, , , , , , ,nnRSSDSDS????最 終 為 關 于 的 一 元 函 數(shù) ，但 可 以 看 成 關 于的 多 元 函 數(shù) ， 且是 關 于 的 一 元 函 數(shù)( , )11( ) ( ) ( , ) e ijnm Sd x yi j i j iijp x p y d x y ???? ??( , )( , )11( ) e( ) ( ) e ln()ijijS d x ynmS d x y iji i jij jpyp x p ypy????? ??( , ) ( , )1 1 1 1( ) ( ) e ( , ) ( ) ( ) e lni j i jn m n mS d x y S d x yi i j i j i i j ii j i jp x p y S d x y p x p y? ? ?? ? ? ?? ? ? ???? ? ? ?? ? ? ?? ? ? ?( , )11( ) ( ) ln ( ) e ijnm S d x yi i i jijS D S p x p y???????? ??????1( ) ( ) l nniiiS D S p x ??? ? ?29 1( ) ddddn iii ipxSSDDD???? ? ? ??1 ( ) lnni i iR S D p x ??? ? ?1dddd d dn ii iR R R S RD D S D D???? ? ?? ? ? ? ?? ? ??( , )11 ( ) e ijS d x yni i ipx????( , )11( ) e iji S d x ymjjpy? ?? ?( , ) ( , )1d ( ) e ( ) ( , ) e 0d i j i jn S d x y S d x yii i i i ji p x p x d x yS? ???? ???????( , )11( ) ( ) ( , ) e ijnm Sd x yi j i j iijD p x p y d x y ???? ??( , ) ( , )1 1 1 1d ( ) ( ) e ( ) ( ) ( , ) edi j i jn m n mS d x y S d x yii j i i j i ji j i jp x p y p x p y d x yS? ?? ? ? ?? ? ? ??? ? ? ?? ? ? ?? ? ? ?( , )11d ( ) ( ) edijnm S d x yiijijp x p y DS?????????????( , )11d ( ) ( ) edijnm S d x yiiijij ipx p y DS? ?????? ????? ? ? ??? ???????? 1d ( ) 0dniii ipx DS?????? ? ? ??????D兩 邊 對 求 導S兩 邊 對 求 導d ( ) ( )()dR D S R SSS R DD ?和 中 的 參量 是 的 斜 率() jp y j兩 邊 乘 以 然 后 對 求 和 ：1( ) d dddniii ipx SSDSD?????? ? ? ??????30 ( , )11( ) ( ) ( , ) e ijnm Sd x yi j i j iijD p x p y d x y ???? ??( , )11( ) e iji S d x ymjjpy? ?? ?ddmin ma xmin ma x