【正文】
i impxC I X Y m H q q q? ? ?當(dāng) 輸 入 等 概 分 布 時(shí) , 對 稱 離 散 信 道 達(dá) 到 信 道 容 量準(zhǔn)對稱離散信道的信道容量 單符號離散信道的信道容量 ? 準(zhǔn)對稱信道的信道容量 ? 矩陣的每一行是第一行的重排列 ? 信道矩陣 P不滿足對稱條件,但 P=( P1… Pr… Ps)且所有 Pr滿足對稱性條件 1 1 1 12 4 8 81 1 1 14 2 8 8P?????????12()?12C = m a x [ ( ) ] ( , , , )l o g ( , , , )impxmH Y H q q qm H q q q???準(zhǔn)對稱離散信道的信道容量 單符號離散信道的信道容量 將 H(Y)中的 m項(xiàng)分成 s個(gè)子集 M1, M2,… , Ms,各子集分別有 m 1, m 2,… , m s個(gè)元素( m 1+ m 2+… + m s= m ) ,則 11 1 ( )( ) ( )( ) ( ) l og ( ) ( ) l og ( )( ) l og ( ) ( ) l og ( )jkj j smsj j j jj k p y Mj j j jp y M p y MH Y p y p y p y p yp y p y p y p y? ? ???? ? ? ?? ? ? ?? ? ???()()( ) , 1 , 2 , ,jkjp y Mkkpyk p y k sm????令 第 個(gè) 集 合 的 概 率 平 均 值準(zhǔn)對稱離散信道的信道容量 單符號離散信道的信道容量 ( ) ( )()( ) ( )( ) l n ( ) 1 ( l n 1 ( 0 ) )( ) ( )( ) ( ) 0j k j kjkkkjjp y M p y Mjjk k jp y Mp y p yp y p y x x xp y p ym p y p y?????? ? ? ? ???????? ? ????1( ) ( ) l o g ( )s k k kkH Y m p y p y??? ?( ) ( )( ) l o g ( ) ( ) l o g ( )( ) l o g ( )j k j kj j j kp y M p y Mk k kp y p y p y p ym p y p y??? ? ?????121( ) l o g ( ) ( , , , )sk k k mkC m p y p y H q q q?? ? ??: 。Y)是 p(x)的上凸函數(shù),故極大值一定存在,約束條件: 1)( ??i ixp引進(jìn)一個(gè)新函數(shù) ( 。 ) ( ) 10( ) ( )( ) 1iXiiiXI X Y p xp x p xpx?? ?? ??? ? ???? ???? ???????? ???????? 可先求解出達(dá)到極值的概率分布和 的值,然后再求解出信道容量C ?離散信道容量的一般計(jì)算方法 單符號離散信道的信道容量 ? ??i j jijiji ypxypxypxpYXI)()/(l og)/()()。 )()( / ) ( / )( / ) l o g ( ) ( / ) l o g( ) ( )( / )( / ) l o g l o g()ij i j ij i k j kj k jjjjijij jI X Ypxp y x p y xp y x p x p y x ep y p yp y xp y x epy??????? ? ??方程組變?yōu)椋? ????????????iij jijijxpeypxypxyp1)(lo g)()/(lo g)/( ? 設(shè)解得使 I(X。 離散信道容量的一般計(jì)算方法 單符號離散信道的信道容量 211( / ) ( / ) l o g ( / )mmj i j j i j ijjp y x p y x p y x??????( 1)由 ,求 ; j?( 2)由 21log 2 jmjC ??? ?,求 C ; ( 3)由 ( ) 2 j Cjpy ? ??,求 ; ()jpy( 4)由 1( ) ( ) ( / )nj i j iip y p x p y x?? ? ()ipx,求 ; ()ipx( ) 0ipx ?離散信道容量的一般計(jì)算方法 求信道容量 C。 ) ( ) ( / )I H H??X Y Y Y X1 1 1 12 2 2 2( / )( / )( / )N N N NX P Y X YX P Y X YX P Y X Y????????XY離散無記憶信道和獨(dú)立并聯(lián)信道的信道容量 多符號離散信道 離散無記憶信道和獨(dú)立并聯(lián)信道的信道容量 多符號離散信道 1 2 1 1 1 11 1 1111 2 1 1 1 11 1 1111 1 1111111( / )( ) ( ) l og ( )( ) ( ) ( ) l og ( ) ... ( )( ) (N N N N NNNN N N N NNNn n m mi i i j j i i j j i ii i j jn n m mi i i j i j i j i j ii i j jnmi j iijHp x x x p y y x x p y y x xp x x x p y x p y x p y x p y xp x p y x? ? ?? ? ???????????????? ? ? ?? ? ? ???YX1 1 2 2 2 2 21122111 1 2 21) l og ( ) ( ) ( ) l og ( )( ) ( ) l og ( )( / ) ( / ) ... ( / ) ( / )N N N N NNNnmj i i j i j iijnmi j i j iijNK K K KKp y x p x p y x p y xp x p y x p y xH Y X H Y X H Y X H Y X????????? ? ? ? ??????離散無記憶信道和獨(dú)立并聯(lián)信道的信道容量 多符號離散信道 1211121111( 。 ) ( ) ( / )( 。 )NNK K N K KKKNNKKNNK K KKKNKKKI H H Y X H Y Y Y H Y XH Y Y Y H YI H Y H Y XI I X Y??????? ? ? ??? ? ?????????X Y YXYXY(a) 1 2 1 2 N . . . ( ) X X . . . ( 。 )KKY Y Y a XI NI X YC NC??, 相 互 獨(dú) 立 等 號 成 立 要 求 也 是 無 記 憶 的XY離散無記憶信道和獨(dú)立并聯(lián)信道的信道容量 多符號離散信道 1 2 1 2 1 1 2 2( / ) ( / ) ( / ) ( / )N N N Np Y Y Y X X X p Y X p Y X p Y X?1 1 1 12 2 2 2( / )( / )( / )N N N NX P Y X YX P Y X YX P Y X Y??????離散無記憶信道和獨(dú)立并聯(lián)信道的信道容量 多符號離散信道 121( ) ( )NN kkH Y Y Y H Y?? ?1 2 1 2 1 21( 。 ) ( 。 ) ( ) ( / )NNN N k k kkkI X X X Y Y Y H Y H Y X??? ? ???1NNkkCC??? ? 多用戶信道 ? 屬于網(wǎng)絡(luò)信息論,研究的主要問題: ? 網(wǎng)絡(luò)信道的信道容量,用多維空間中的一個(gè)區(qū)域來表示 ? 網(wǎng)絡(luò)信道編碼定理 ? 實(shí)現(xiàn)編碼定理的碼結(jié)構(gòu)問題,包括信源編碼和信道編碼 ? 多址接入信道 ? 多個(gè)輸入端 1個(gè)輸出端 ? 在理論上討論比較完善,但具有反饋的多元接入信道的容量問題尚沒有解決 ? 廣播信