【正文】 cdc ba dy)y(pl o g)y(pd x d y)x/y(pl o g)xy(p信道及信道容量 2022/6/4 ? ?? dc ba d x d y)x/y(p )y(plo g)xy(p? ? ?? dc ba d x d y]1)x/y(p )y(p)[xy(p0d x d y)xy(pd x d y)y(p)x(pdcbadcba??? ? ?? ?0)X/Y(H)Y(H)Y。X(I cc ???信道及信道容量 2022/6/4 ③ 嚴格 凸函數(shù)性 ?信道固定時， I(X。Y)是信源概率 密度函數(shù) p(x)的嚴格上凸函數(shù) ?信源固定時， I(X。Y)是信道轉移概率 密度函數(shù) p(y/x)的嚴格下凸函數(shù) 信道及信道容量 2022/6/4 信道容量不最大信息傳輸速率 信道固定時，平均互信息量是信源概率 密度函數(shù)p(x)的嚴格上凸函數(shù)， 總能找到一種信源概率 密度函數(shù) p(x)， 使信道中傳輸?shù)钠骄バ畔⒘窟_到最大 定義 信道轉移概率 密度函數(shù) p(y/x)丌變時平均互信息量的最大值，用 C表示 信道及信道容量 2022/6/4 表示 )Y。X(Im axC )x(p?連續(xù)信道習慣于考慮信道在單位時間內(nèi)平均互信息量的最大值 ——最大信息傳輸速率 定義 單位時間的 信道容量，用 Ct表示 信道及信道容量 2022/6/4 其中 T為平均傳輸一條消息所需的時間 最大信息傳輸速率的單位為 bit/sec(bps) 表示 )Y。X(Im a xT1TCC)x(pt??信道及信道容量 2022/6/4 六、高斯加性信道及信道容量 高斯加性信道 加性噪聲 ——信道中噪聲不信號相互獨立且對信號的作用表現(xiàn)為線性疊加 定義 作用下的信道的白色高斯加性噪聲、方差均值 W G A NP0 N2 ????信道及信道容量 2022/6/4 表示 X Y=X+N N X的概率密度函數(shù)為 p(x)， Y的概率密度函數(shù)為 p(y)，N的概率密度函數(shù)為 p(n) 222n2e21)n(p ?????且信道及信道容量 2022/6/4 高斯加性信道的相對噪聲熵 相應的雅可比行列式 11011yfyfxfxfJ2121????????????)x/y(p)x(p)xy(p ?)n(p)x(p)xn(pJ)xn(p)xy(p ???xyfn,xfx 21 ?????設坐標變換信道及信道容量 2022/6/4 222n2e21)n(p)x/y(p ??????? ???? ????? d x d y)x/y(pl o g)x/y(p)x(p)X/Y(H c? ???? ????? d x d n)n(pl o g)n(p)x(p)N(Hdn)n(pl o g)n(p c??? ? ???)eP2l o g (21)e2l o g (21 N2 ?????信道及信道容量 2022/6/4 高斯加性信道的信道容量 )}X/Y(H)Y(H{m ax)Y。X(Im axC cc)x(p)x(p ???)eP2l o g (21)Y(Hm a x Nc)x(p???NX22X2YX2XPP0P0?????????????，方差足高斯分布，且均值的高斯分布，信宿也滿，方差信源取均值根據(jù)平均功率受限下的最大相對熵定理，信宿具有最大相對熵 信道及信道容量 2022/6/4 )]PP(e2l o g [21)e2l o g (21( Y )Hm a x NX2Ycp (x )??????高斯加性信道的信道容量 )PP1l o g (21)eP2l o g (21)]PP(e2l o g [21CNXNNX ???????S N RPPNX 為信噪功率比其中信道及信道容量 2022/6/4 高斯加性信道的最大信息傳輸速率 如果所傳輸信號的帶寬為 B，根據(jù)采樣定理，丌失真?zhèn)鬏斠粭l消息的最小時間 T=1/2B 高斯加性信道的最大信息傳輸速率 ——香農(nóng)公式 )PP1l o g (BB2 1/)PP1l o g (21TCCNXNXt ?????的單邊功率譜密度為設 W G A NBPN N0 ?)BNP1lo g (BC0Xt ??信道及信道容量 2022/6/4 香農(nóng)公式的意義 ?最大信息傳輸速率不所傳輸信號的帶寬成正比，基本不信噪功率比成正比 ?信噪功率比小于 1時最大信息傳輸速率仍大于 0 ?所傳輸信號的帶寬趨于無窮時，最大信息傳輸速率趨于有限值 0XtB NPelo gClim ???信道及信道容量 2022/6/4 ?最大信息傳輸速率一定時，增大所傳輸信號的帶寬，可以降低對信噪功率比的要求 信道及信道容量 2022/6/4 高斯加性信道所傳輸信號的 帶寬 B=3kHz，最大信息傳輸速率 Ct=104bps，求 信噪功率比；如果將信噪功率比降低 到 3dB，求保持同樣最大信息傳輸速率所需的帶寬 4NX3NXt )PP1l o g (103)PP1l o g (BC ???????5315)PP1lo g (NX ???例 1 信道及信道容量 2022/6/4 4NXt ) o g (B)PP1l o g (BC ??????)dB(NX ??即NXNX ???? 即 NX ?? ?)k H z( 8 o g 44?????3113212PP 5NX ?????信道及信道容量 2022/6/4 習題： (P102)、 信道及信道容量 2022/6/4 七、多符號連續(xù)信道及信道容量 多符號連續(xù)信道 定義 對應于多符號連續(xù)信源和多符號連續(xù)信宿的信道 表示 信源 ——連續(xù)型隨機過程 X1X2…XN 信宿 ——連續(xù)型隨機過程 Y1Y2…YN 信道及信道容量 2022/6/4 )xxx(p)xx(p)x(pN,2,1kbxaN21211k???，聯(lián)合概率密度函數(shù)概率密度函數(shù)設 ???隨機過程 X1X2…XN的取值 x1x2…xN為信源發(fā)出的消息 )yyy(p)yy(p)y(pN,1 , 2,kb][ a,]d,c[dycN21211k???，聯(lián)合概率密度函數(shù)概率密度函數(shù)，通常設 ????隨機過程 Y1Y2…YN的取值 y1y2…yN為信宿收到的消息 信道及信道容量 2022/6/4 X1X2…XN p(y1y2…yN/x1x2…xN) Y1Y2…YN p(y1y2…yN/x1x2…xN)為信道轉移概率密度函數(shù) 1dydydy)xxx/yyy(pdc N21N21N21dc dc ??? ? ????且 N維連續(xù)平穩(wěn)信道 定義 多符號連續(xù)信道對任意兩個丌同時間起點 k和 l，其轉移概率密度函數(shù)及直到 N維的各維聯(lián)合轉移概率密度函數(shù)都相同 信道及信道容量 2022/6/4 取 l=1， N維連續(xù)平穩(wěn)信道 )xxx/yyy(p)xxx/yyy(p)xx/yy(p)xx/yy(p)x/y(p)x/y(pN21N211Nk1kk1Nk1kk21211kk1kk11kk???????????????? N維連續(xù)平穩(wěn)無記憶信道 定義 N維連續(xù)平穩(wěn)信道的符號序列中各符號相互獨立 信道及信道容量 2022/6/4 表示 )x/y(p)x/y(p)x/y(p)xxx/yyy(p NN2211N21N21 ??? ?N維連續(xù)平穩(wěn)無記憶信道形式上相當于單符號連續(xù)信道的 N次擴展信道 N次擴展信道 ——對應于 N次擴展信源和 N次擴展信宿的信道 高斯加性信道的 N次擴展信道 222n2e21)n(p)x/y(p ??????信道及信道容量 2022/6/4 )x/y(p)x/y(p)x/y(p)xxx/yyy(p NN2211N21N21 ??? ?NN21 )n(p)n(p)n(p)n(p ?? ?高斯加性信道 N次擴展信道 的信道容量 )PP1lo g (2NNCCNXN ???高斯加性信道 N次擴展信道 的最大信息傳輸速率 )PP1l o g (NBNCCNXtNt ???