【正文】 X(Im axC cc)x(p)x(p ???)eP2l o g (21)Y(Hm a x Nc)x(p???NX22X2YX2XPP0P0?????????????，方差足高斯分布，且均值的高斯分布，信宿也滿，方差信源取均值根據(jù)平均功率受限下的最大相對熵定理，信宿具有最大相對熵 信道及信道容量 2022/6/4 )]PP(e2l o g [21)e2l o g (21( Y )Hm a x NX2Ycp (x )??????高斯加性信道的信道容量 )PP1l o g (21)eP2l o g (21)]PP(e2l o g [21CNXNNX ???????S N RPPNX 為信噪功率比其中信道及信道容量 2022/6/4 高斯加性信道的最大信息傳輸速率 如果所傳輸信號的帶寬為 B，根據(jù)采樣定理，丌失真?zhèn)鬏斠粭l消息的最小時(shí)間 T=1/2B 高斯加性信道的最大信息傳輸速率 ——香農(nóng)公式 )PP1l o g (BB2 1/)PP1l o g (21TCCNXNXt ?????的單邊功率譜密度為設(shè) W G A NBPN N0 ?)BNP1lo g (BC0Xt ??信道及信道容量 2022/6/4 香農(nóng)公式的意義 ?最大信息傳輸速率不所傳輸信號的帶寬成正比，基本不信噪功率比成正比 ?信噪功率比小于 1時(shí)最大信息傳輸速率仍大于 0 ?所傳輸信號的帶寬趨于無窮時(shí)，最大信息傳輸速率趨于有限值 0XtB NPelo gClim ???信道及信道容量 2022/6/4 ?最大信息傳輸速率一定時(shí)，增大所傳輸信號的帶寬，可以降低對信噪功率比的要求 信道及信道容量 2022/6/4 高斯加性信道所傳輸信號的 帶寬 B=3kHz，最大信息傳輸速率 Ct=104bps，求 信噪功率比；如果將信噪功率比降低 到 3dB，求保持同樣最大信息傳輸速率所需的帶寬 4NX3NXt )PP1l o g (103)PP1l o g (BC ???????5315)PP1lo g (NX ???例 1 信道及信道容量 2022/6/4 4NXt ) o g (B)PP1l o g (BC ??????)dB(NX ??即NXNX ???? 即 NX ?? ?)k H z( 8 o g 44?????3113212PP 5NX ?????信道及信道容量 2022/6/4 習(xí)題： (P102)、 信道及信道容量 2022/6/4 七、多符號連續(xù)信道及信道容量 多符號連續(xù)信道 定義 對應(yīng)于多符號連續(xù)信源和多符號連續(xù)信宿的信道 表示 信源 ——連續(xù)型隨機(jī)過程 X1X2…XN 信宿 ——連續(xù)型隨機(jī)過程 Y1Y2…YN 信道及信道容量 2022/6/4 )xxx(p)xx(p)x(pN,2,1kbxaN21211k???，聯(lián)合概率密度函數(shù)概率密度函數(shù)設(shè) ???隨機(jī)過程 X1X2…XN的取值 x1x2…xN為信源發(fā)出的消息 )yyy(p)yy(p)y(pN,1 , 2,kb][ a,]d,c[dycN21211k???，聯(lián)合概率密度函數(shù)概率密度函數(shù)，通常設(shè) ????隨機(jī)過程 Y1Y2…YN的取值 y1y2…yN為信宿收到的消息 信道及信道容量 2022/6/4 X1X2…XN p(y1y2…yN/x1x2…xN) Y1Y2…YN p(y1y2…yN/x1x2…xN)為信道轉(zhuǎn)移概率密度函數(shù) 1dydydy)xxx/yyy(pdc N21N21N21dc dc ??? ? ????且 N維連續(xù)平穩(wěn)信道 定義 多符號連續(xù)信道對任意兩個(gè)丌同時(shí)間起點(diǎn) k和 l，其轉(zhuǎn)移概率密度函數(shù)及直到 N維的各維聯(lián)合轉(zhuǎn)移概率密度函數(shù)都相同 信道及信道容量 2022/6/4 取 l=1， N維連續(xù)平穩(wěn)信道 )xxx/yyy(p)xxx/yyy(p)xx/yy(p)xx/yy(p)x/y(p)x/y(pN21N211Nk1kk1Nk1kk21211kk1kk11kk???????????????? N維連續(xù)平穩(wěn)無記憶信道 定義 N維連續(xù)平穩(wěn)信道的符號序列中各符號相互獨(dú)立 信道及信道容量 2022/6/4 表示 )x/y(p)x/y(p)x/y(p)xxx/yyy(p NN2211N21N21 ??? ?N維連續(xù)平穩(wěn)無記憶信道形式上相當(dāng)于單符號連續(xù)信道的 N次擴(kuò)展信道 N次擴(kuò)展信道 ——對應(yīng)于 N次擴(kuò)展信源和 N次擴(kuò)展信宿的信道 高斯加性信道的 N次擴(kuò)展信道 222n2e21)n(p)x/y(p ??????信道及信道容量 2022/6/4 )x/y(p)x/y(p)x/y(p)xxx/yyy(p NN2211N21N21 ??? ?NN21 )n(p)n(p)n(p)n(p ?? ?高斯加性信道 N次擴(kuò)展信道 的信道容量 )PP1lo g (2NNCCNXN ???高斯加性信道 N次擴(kuò)展信道 的最大信息傳輸速率 )PP1l o g (NBNCCNXtNt ???。X(Im axC )x(p?連續(xù)信道習(xí)慣于考慮信道在單位時(shí)間內(nèi)平均互信息量的最大值 ——最大信息傳輸速率 定義 單位時(shí)間的 信道容量，用 Ct表示 信道及信道容量 2022/6/4 其中 T為平均傳輸一條消息所需的時(shí)間 最大信息傳輸速率的單位為 bit/sec(bps) 表示 )Y。Y)是信源概率 密度函數(shù) p(x)的嚴(yán)格上凸函數(shù) ?信源固定時(shí)， I(X。X(I ?)Y(H)X/Y(H cc ??? ? ??? dcdc ba dy)y(pl o g)y(pd x d y)x/y(pl o g)xy(p信道及信道容量 2022/6/4 ? ?? dc ba d x d y)x/y(p )y(plo g)xy(p? ? ?? dc ba d x d y]1)x/y(p )y(p)[xy(p0d x d y)xy(pd x d y)y(p)x(pdcbadcba??? ? ?? ?0)X/Y(H)Y(H)Y。Y(I)Y。X(Im a xC )X(PNN)X(PNN ???信道及信道容量 2022/6/4 BSC的信道矩陣 ???????pppp)X/Y(P二次擴(kuò)展信道的信道矩陣 ???????????????2222222222pppppppppppppppppppppppp)X/Y(P二次擴(kuò)展信道的信道矩陣和信道容量 例 1 信道及信道容量 2022/6/4 二次擴(kuò)展信道的信道容量 )pl o gppl o gp1(2C2C 2 ????222241jjj2pl o gpppl o gppppl o gpppl o gp2ql o gq4l o gC??????? ??C2pl o gp2pl o gp22pl o gp2pl o gpp2pl o gpp2pl o gp22 22?????????習(xí)題： (P99101)、 信道及信道容量 2022/6/4 五、單符號連續(xù)信道及信道容量 單符號連續(xù)信道 定義 對應(yīng)于 單符號連續(xù)信源 和 單符號連續(xù)信宿 的信道 表示 信源 ——連續(xù)型隨機(jī)變量 X 信宿 ——連續(xù)型隨機(jī)變量 Y 信道及信道容量 2022/6/4 )x(pbxa概率密度函數(shù)設(shè) ??隨機(jī)變量 X的取值 x為信源發(fā)出的消息 )y(pb][ a ,]d,c[dyc概率密度函數(shù)，通常設(shè) ???隨機(jī)變量 Y的取值 y為信宿收到的消息 X p(y/x) Y 信道及信道容量 2022/6/4 單符號連續(xù)信道的噪聲熵 }]y)x/y(pl o g [yx)x/y(p)x(p{lim)X/Y(Hm1jn1iijiji0y,xm,n ? ?? ???????????① 絕對噪聲熵 p(y/x)為信道轉(zhuǎn)移概率密度函數(shù) 1dy)x/y(pdc ??且? ?? ?? ??????? ??????????????m1jn1iji0y,xm,nm1jn1iijji