【正文】 38 )()()(,),()(S N R1l o g21S1l o g21el o g 221ePl o g 221CePl o g 221Ym a x HSPYSS0NxpX22C2X????????????????的功率為則：輸出符號為功率（即方差）的概率密度函數(shù)為設：輸入符號結論： 連續(xù)單符號信道的信道容量取決于輸入信噪比 加性噪聲不是高斯噪聲時的信道容量 。()???無干擾離散信道的容量： (1)無噪無損信道（一一對應） H(Y|X)=H(X|Y)=0； I(X。 準對稱 DMC信道的容量： 有兩種方法： 1）、引入拉格朗日算子求極值。???獨立并聯(lián)信道的信道容量（例如：時分復用） 將 L個相互獨立的信道并聯(lián)后，每個信道的輸 出 Yl只與本信道的輸入 Xl有關。不再出現(xiàn)負值。分配的功率分可以為所有的子信道分，大于所有的的平均輸出功率則信道）若輸入信號總功率（，分別為：，各子信道的噪聲方差有一并聯(lián)高斯加性信道例題lll，不分配功率。(( YXItYtXI limL??????信道容量： BtBt ) / tYXIttYtXIR l i mB?? 。信噪比為信息，所需要的最低地傳輸帶寬不受限時，無失真結論：秒，可求得設：1 . 6 d B 1 . 6 d B1 b i t 1 . 6 d Bl n 2NP1 b i tC0s ???? /（ 3）頻帶利用率： Ct/w=log(1+SNR) 單位頻帶的信息傳輸速率， bps/Hz， 信道的利用程度。 2022/6/3 55 測驗題： 有一個二元對稱信道，各符號正確傳輸?shù)母怕蕿? 。實際信道約為 。 )()( S N R1w l o gwN P1w l o gC0st ????2022/6/3 54 為香農(nóng)容量極限。 2022/6/3 50 三、高斯白噪聲加性波形信道及其容量 回顧： 平均互信息： )。和噪聲分量功率功率各個單元時刻信號分量llllllP0PPP 22????2022/6/3 47 。用拉格朗日乘子法求解的最大值求下即：在約束條件達到最大值？才能使信道容量（在各單元時刻如何分配率受限時：當輸入信號總平均功.,?)]][:關 心CPPCPPPE [ XXEL1L1L12L12?????????????lllllllll（常數(shù)），解得：拉格朗日乘子，令：：引入輔助函數(shù)???????????????????????? ? ?? ?21P0P121 L2100PPPPf PPl o g ( 121PPPf2221L1L1221lllllLl llllLl . . . .,). . . .,()). . . .,(解2022/6/3 46 個時刻）總輸出功率常數(shù)都相等，大小為出功率各個單元時刻信道的輸L( LPLP21PL12L1L122/)(?? ??? ?????????lll lllll??????2P ll ?? ??功率分配。 Y)≤C 對于所有的滿足 p(ai)=0的 i。Y)= H(X) H(X|Y)=H(X)H(Y) ∴ C=maxI(X。有關輸入信噪比信道容量與不同時刻的功率）個噪聲變量的方差（或第），個變量的方差（或功率輸入序列中第這里：,/ 22 P Pllllll?? ????(1)每個時刻的噪聲相同 (均值為零 ,方差為 δ2) 當輸入矢量的各個分量 Xl相互獨立，且各 分量均值為 0 方差都為 Pl = S時， )( 2S1l o g2LCl???2022/6/3 41 復習與測驗 第二節(jié) 離散單符號信道及其容量 信道容量的定義 最大的信息傳輸速率為信道容量 , )。所以，只相互獨立，與之和。轉移矩陣為：是對稱的信道的二次擴展信道仍驗證：/))()()((,)()()()()()()()()()()()(1 . 0 6 2 b i t. . . . . . . 0 . 1P PP1PP1PP1Hl b 4CP1P1PP1PPP1PP1PP1PP1PPP1P1PPP1PP1PP1PD M CB S C22222222222??????????????????????????????????獨立并聯(lián)信道的信道容量（例如：時分復用） 將 L個相互獨立的信道并聯(lián)后，每個信道的輸 出 Yl只與本信道的輸入 Xl有關。XI( ?????????????? ??三、無記憶離散序列信道的容量 定理 ?????L1L21L21YI ( X)Y|XI(YY(YYXX(XXlll )。Y)，若其中有一個符號 ai比其它輸入符號大，那么就可以更多地使用該符號，即增大該符號 ai出現(xiàn)的概率 P(ai)，使得加權平均后的 I(X。 I(ai。和分解成：0 3 6 b i t /0 2n l o g MNPPPHl o g nC402020M803050M20N803050N2r0 . 20 . 20 . 5300 . 30 . 50 . 2 0 . 2 50303050Pr1kkk3212121.. . . . . . . .),(...............解39。39。令的關于思路：???????????)()()|()|)()())]|()([)。 。Y) 信道 1,2,3… 串聯(lián)后等價為 容量為： C(1,2,…)=maxI(X。 2022/6/3 21 如果輸入、輸出都對稱，則稱該 DMC為 對稱的 DMC信道 。Y)=H(X)=H(Y) maxI(X。此最大值即是信達到確定）使得在著某種信源（由對于特定信道，一定存，有最大值。如果分析和設計調(diào)制 /解調(diào)器，則選擇波形信道模型。 條件熵 H(Y|X)又叫做 噪聲熵 的進一步理解： 確定噪聲所需要的平均信息量 就是 H(Y|X),叫作噪聲熵。X)＝ Hc(X) Hc(X|Y) ＝ Hc(X)＋ Hc(Y) Hc(XY) ＝ Hc(Y) Hc(Y|X) Hc(XY)＝ Hc(X)＋ Hc(Y|X)＝ Hc(Y) ＋ Hc(X|Y) 2022/6/3 11 二、波形信源的熵 理解討論方法即可 )()( XHlim( t )H cLc ????x三、 連續(xù)信源最大熵定理 峰值功率受限的最大熵定理 對于定義域為有限的隨機變量 X，當它是均勻分布時，其熵 最大。 2022/6/3 8 ????????????????nmn2n12m22211m1211ijPPPPPPPPP P [P :P???????]陣）轉移概率矩陣（傳遞矩? ?? ???m1jm1jijij 1PabP1 )|(。 2022/6/3 5 二、信道的參數(shù) 參數(shù)：表示輸入和輸出統(tǒng)計依賴關系的 轉移概率 。 根據(jù)輸入 /輸出信號的特點，分為離散信道、連續(xù)信道、半離散半連續(xù)信道和波形信道。不同的信道，其容量不同 . 研究信道容量的 意義 ? 2022/6/3 3 第一節(jié) 信道分類及表示參數(shù) 一、信道的分類 根據(jù)信道的用戶數(shù)量，可以分為兩端（單用戶）信道和多端信道（多用戶信道）。 在接收端獲取的關于發(fā)送端信源 X的信息量是： I(X。這就是信道容量 C=max I(X。 2022/6/3 4 隨機差錯信道：噪聲獨立地、隨機地影響每個傳輸?shù)拇a元。 半離散半連續(xù)信道：輸入 /輸出信號有一個在幅度上離散（時間上都連續(xù)）。知道了這種關系，信道的全部特性就確定了 .所以 ,它是信道的參數(shù)。 xi顏色，構成信源 X, yi數(shù)字，構成信源 Y. 每個數(shù)字對應一種顏色（反之未必），數(shù)字已知，則顏色確定， H(X|Y)=0。 二、冗余度產(chǎn)生的原因 理解 一是信源符號間的相關性，二是信源符號分布的不均勻性 三、冗余的定義 )()(XX110??HH ????? ??四、冗余的壓縮 第三章 信道及信道容量 第一節(jié) 信道分類及表示參數(shù) 參數(shù)：表示輸入和輸出統(tǒng)計依賴關系的 轉移概率 。 )()()()|()|()()()|()()|(:,nHdnl o gndyl o g