【正文】 38 )()()(,),()(S N R1l o g21S1l o g21el o g 221ePl o g 221CePl o g 221Ym a x HSPYSS0NxpX22C2X????????????????的功率為則：輸出符號(hào)為功率（即方差）的概率密度函數(shù)為設(shè)：輸入符號(hào)結(jié)論： 連續(xù)單符號(hào)信道的信道容量取決于輸入信噪比 加性噪聲不是高斯噪聲時(shí)的信道容量 。()???無干擾離散信道的容量： (1)無噪無損信道（一一對(duì)應(yīng)） H(Y|X)=H(X|Y)=0； I(X。 準(zhǔn)對(duì)稱 DMC信道的容量： 有兩種方法： 1）、引入拉格朗日算子求極值。???獨(dú)立并聯(lián)信道的信道容量（例如：時(shí)分復(fù)用） 將 L個(gè)相互獨(dú)立的信道并聯(lián)后，每個(gè)信道的輸 出 Yl只與本信道的輸入 Xl有關(guān)。不再出現(xiàn)負(fù)值。分配的功率分可以為所有的子信道分，大于所有的的平均輸出功率則信道）若輸入信號(hào)總功率（，分別為：，各子信道的噪聲方差有一并聯(lián)高斯加性信道例題lll，不分配功率。(( YXItYtXI limL??????信道容量： BtBt ) / tYXIttYtXIR l i mB?? 。信噪比為信息，所需要的最低地傳輸帶寬不受限時(shí)，無失真結(jié)論：秒，可求得設(shè)：1 . 6 d B 1 . 6 d B1 b i t 1 . 6 d Bl n 2NP1 b i tC0s ???? /（ 3）頻帶利用率： Ct/w=log(1+SNR) 單位頻帶的信息傳輸速率， bps/Hz， 信道的利用程度。 2022/6/3 55 測(cè)驗(yàn)題： 有一個(gè)二元對(duì)稱信道，各符號(hào)正確傳輸?shù)母怕蕿? 。實(shí)際信道約為 。 )()( S N R1w l o gwN P1w l o gC0st ????2022/6/3 54 為香農(nóng)容量極限。 2022/6/3 50 三、高斯白噪聲加性波形信道及其容量 回顧： 平均互信息： )。和噪聲分量功率功率各個(gè)單元時(shí)刻信號(hào)分量llllllP0PPP 22????2022/6/3 47 。用拉格朗日乘子法求解的最大值求下即：在約束條件達(dá)到最大值？才能使信道容量（在各單元時(shí)刻如何分配率受限時(shí)：當(dāng)輸入信號(hào)總平均功.,?)]][:關(guān) 心CPPCPPPE [ XXEL1L1L12L12?????????????lllllllll（常數(shù)），解得：拉格朗日乘子，令：：引入輔助函數(shù)???????????????????????? ? ?? ?21P0P121 L2100PPPPf PPl o g ( 121PPPf2221L1L1221lllllLl llllLl . . . .,). . . .,()). . . .,(解2022/6/3 46 個(gè)時(shí)刻）總輸出功率常數(shù)都相等，大小為出功率各個(gè)單元時(shí)刻信道的輸L( LPLP21PL12L1L122/)(?? ??? ?????????lll lllll??????2P ll ?? ??功率分配。 Y)≤C 對(duì)于所有的滿足 p(ai)=0的 i。Y)= H(X) H(X|Y)=H(X)H(Y) ∴ C=maxI(X。有關(guān)輸入信噪比信道容量與不同時(shí)刻的功率）個(gè)噪聲變量的方差（或第），個(gè)變量的方差（或功率輸入序列中第這里：,/ 22 P Pllllll?? ????(1)每個(gè)時(shí)刻的噪聲相同 (均值為零 ,方差為 δ2) 當(dāng)輸入矢量的各個(gè)分量 Xl相互獨(dú)立，且各 分量均值為 0 方差都為 Pl = S時(shí)， )( 2S1l o g2LCl???2022/6/3 41 復(fù)習(xí)與測(cè)驗(yàn) 第二節(jié) 離散單符號(hào)信道及其容量 信道容量的定義 最大的信息傳輸速率為信道容量 , )。所以，只相互獨(dú)立，與之和。轉(zhuǎn)移矩陣為：是對(duì)稱的信道的二次擴(kuò)展信道仍驗(yàn)證：/))()()((,)()()()()()()()()()()()(1 . 0 6 2 b i t. . . . . . . 0 . 1P PP1PP1PP1Hl b 4CP1P1PP1PPP1PP1PP1PP1PPP1P1PPP1PP1PP1PD M CB S C22222222222??????????????????????????????????獨(dú)立并聯(lián)信道的信道容量（例如：時(shí)分復(fù)用） 將 L個(gè)相互獨(dú)立的信道并聯(lián)后，每個(gè)信道的輸 出 Yl只與本信道的輸入 Xl有關(guān)。XI( ?????????????? ??三、無記憶離散序列信道的容量 定理 ?????L1L21L21YI ( X)Y|XI(YY(YYXX(XXlll )。Y)，若其中有一個(gè)符號(hào) ai比其它輸入符號(hào)大，那么就可以更多地使用該符號(hào)，即增大該符號(hào) ai出現(xiàn)的概率 P(ai)，使得加權(quán)平均后的 I(X。 I(ai。和分解成：0 3 6 b i t /0 2n l o g MNPPPHl o g nC402020M803050M20N803050N2r0 . 20 . 20 . 5300 . 30 . 50 . 2 0 . 2 50303050Pr1kkk3212121.. . . . . . . .),(...............解39。39。令的關(guān)于思路：???????????)()()|()|)()())]|()([)。 。Y) 信道 1,2,3… 串聯(lián)后等價(jià)為 容量為： C(1,2,…)=maxI(X。 2022/6/3 21 如果輸入、輸出都對(duì)稱，則稱該 DMC為 對(duì)稱的 DMC信道 。Y)=H(X)=H(Y) maxI(X。此最大值即是信達(dá)到確定）使得在著某種信源（由對(duì)于特定信道，一定存，有最大值。如果分析和設(shè)計(jì)調(diào)制 /解調(diào)器，則選擇波形信道模型。 條件熵 H(Y|X)又叫做 噪聲熵 的進(jìn)一步理解： 確定噪聲所需要的平均信息量 就是 H(Y|X),叫作噪聲熵。X)＝ Hc(X) Hc(X|Y) ＝ Hc(X)＋ Hc(Y) Hc(XY) ＝ Hc(Y) Hc(Y|X) Hc(XY)＝ Hc(X)＋ Hc(Y|X)＝ Hc(Y) ＋ Hc(X|Y) 2022/6/3 11 二、波形信源的熵 理解討論方法即可 )()( XHlim( t )H cLc ????x三、 連續(xù)信源最大熵定理 峰值功率受限的最大熵定理 對(duì)于定義域?yàn)橛邢薜碾S機(jī)變量 X，當(dāng)它是均勻分布時(shí)，其熵 最大。 2022/6/3 8 ????????????????nmn2n12m22211m1211ijPPPPPPPPP P [P :P???????]陣）轉(zhuǎn)移概率矩陣（傳遞矩? ?? ???m1jm1jijij 1PabP1 )|(。 2022/6/3 5 二、信道的參數(shù) 參數(shù)：表示輸入和輸出統(tǒng)計(jì)依賴關(guān)系的 轉(zhuǎn)移概率 。 根據(jù)輸入 /輸出信號(hào)的特點(diǎn)，分為離散信道、連續(xù)信道、半離散半連續(xù)信道和波形信道。不同的信道，其容量不同 . 研究信道容量的 意義 ? 2022/6/3 3 第一節(jié) 信道分類及表示參數(shù) 一、信道的分類 根據(jù)信道的用戶數(shù)量，可以分為兩端（單用戶）信道和多端信道（多用戶信道）。 在接收端獲取的關(guān)于發(fā)送端信源 X的信息量是： I(X。這就是信道容量 C=max I(X。 2022/6/3 4 隨機(jī)差錯(cuò)信道：噪聲獨(dú)立地、隨機(jī)地影響每個(gè)傳輸?shù)拇a元。 半離散半連續(xù)信道：輸入 /輸出信號(hào)有一個(gè)在幅度上離散（時(shí)間上都連續(xù)）。知道了這種關(guān)系，信道的全部特性就確定了 .所以 ,它是信道的參數(shù)。 xi顏色，構(gòu)成信源 X, yi數(shù)字，構(gòu)成信源 Y. 每個(gè)數(shù)字對(duì)應(yīng)一種顏色（反之未必），數(shù)字已知，則顏色確定， H(X|Y)=0。 二、冗余度產(chǎn)生的原因 理解 一是信源符號(hào)間的相關(guān)性，二是信源符號(hào)分布的不均勻性 三、冗余的定義 )()(XX110??HH ????? ??四、冗余的壓縮 第三章 信道及信道容量 第一節(jié) 信道分類及表示參數(shù) 參數(shù)：表示輸入和輸出統(tǒng)計(jì)依賴關(guān)系的 轉(zhuǎn)移概率 。 )()()()|()|()()()|()()|(:,nHdnl o gndyl o g