【正文】 和 抽樣點(diǎn)數(shù)為 L=2 fm tB，相應(yīng)地 ,波形信道被分解成 L維連續(xù)信道 , 其轉(zhuǎn)移特性為： ),..., N21 XX(XX ?? ), . . . ,N21 YY(YY ??1d(yL21L21R R RL21L21YL21L21Y??? ? ? ), . . . . ,|, . . . . ,(), . . . . ,|, . . . . ,(), . . . . ,|, . . . . ,)|(xxxyyyxxxyyypxxxyyypxp????完備性????L1iiiYL21L21Y (y時(shí) )|(), . . . . ,|, . . . . ,)|( 憶 無 記 xypxxxyyypxp ????：2022/6/3 16 )()(/)()|(所以)()(),()(且有)()()( ),()()(加性噪聲條件下：ny,yn NX ny,tntxtytNtXtY N,XY,XYN,XN,XY,X???????????????????????pxpxpxppxpxpxp???????：獨(dú)立和：樣本結(jié)論： 信道的轉(zhuǎn)移概率密度函數(shù)等于噪聲的概率密度函數(shù) 。正像區(qū)分 X中的每個(gè)符號(hào)所需要的平均信息量就是信源的熵 H(X).因而又叫噪聲熵。 )()()()|()|()()()|()()|(:,nHdnl o gndyl o gydl o gddyl o gy,XYHCRnNNyYR RYXXyYR RY,XC?????????????????????????????????????? ?? ?xppxpxpxpxpxpxpxx條件熵對(duì)于連續(xù)信道正是噪聲熵 2022/6/3 17 有干擾有記憶信道 有兩種簡化處理的方法： (1)將記憶很強(qiáng)的 L個(gè)符號(hào)用一個(gè)矢量符號(hào)表示 (看作一個(gè)符號(hào) )，各個(gè)矢量符號(hào)之間認(rèn)為是無記憶的 .L越大 ,引入誤差與小。 本課程主要討論編碼和解碼，一般使用 DMC信道模型 到底選用哪種信道模型，取決于分析問題的目的。如果分析性能的理論極限，則使用離散輸入連續(xù)輸出模型則較合適。 2022/6/3 18 第二節(jié) 離散單符號(hào)信道及其容量 一、幾個(gè)概念： 信息傳輸率 R 信道中平均每個(gè)符號(hào)所 傳輸?shù)男畔⒘?。Y)=H(X)H(X|Y) bit/符號(hào) 信息傳輸速率 Rt 信道在單位時(shí)間內(nèi)平均傳輸?shù)男畔⒘俊)/T bit/s 信道容量 C 定義最大的信息傳輸速率為信道容量 , )。最大。是關(guān)于一定時(shí)，當(dāng)回顧：)。P ?iiijxxxy ?2022/6/3 19 信道容量的另一種定義： 定義信道單位時(shí)間內(nèi)平均傳輸?shù)淖畲笮畔⒘繛樾诺廊萘?, 為傳送一個(gè)符號(hào)的用時(shí)T YXIm a xT1TCRCim ax p ( xtt )。在信息傳輸時(shí)，能否達(dá)到這個(gè)最大傳輸能力，取決于輸入端的信源。 二、無干擾離散信道的容量： 輸出與輸入之間有確定的對(duì)應(yīng)關(guān)系；有三種不同的關(guān)系： (1)無噪無損 信道（ 一一對(duì)應(yīng)的關(guān)系 ） H(Y|X)=H(X|Y)=0 I(X。Y)=logn ∴ C=logn 2022/6/3 20 (2)無噪有損 信道（ 多對(duì)一的對(duì)應(yīng)關(guān)系 ） 噪聲熵 H(Y|X)=0 損失熵 H(X|Y)0 故名之。Y) =H(Y)H(Y|X) =H(Y)H(X) ∴C=maxI(X。 I(X。Y)=maxH(X)=logn 三、對(duì)稱 DMC信道的容量： 對(duì)稱性：如果轉(zhuǎn)移概率矩陣 P的每一行都是第一行的置換（包含同樣元素），稱該矩陣是 輸入對(duì)稱 的； 如果轉(zhuǎn)移概率矩陣 P的每一列都是第一列的置換（包含同樣元素），稱該矩陣是 輸出對(duì)稱 的。 3161316161613131, 2161311 / 3211 / 661311 / 3 3131616161613131只是輸入對(duì)稱而對(duì)稱和??????????????????????????????????//////對(duì)稱 DMC的信道容量 C： 它是個(gè)常數(shù)無關(guān)。()))XYHYHm a x XYHY[Hm a xYXIm a xCiiip (ap (ap (a?????那么：???????????m1jijijm1jijijjl o g PPl o g mabl o g PabPl o g m XYHl o g mC l o g mYm a x Hb2)|()|()|(:)()( 則服從等概分布，如果怎樣使 bj服從等概分布？ 常數(shù)輸出對(duì)稱則：那么：服從等概分布，如果由于 abPn1bP1 / n ,)aPa ab)PaPb,aPbPiijjiiiijiijij???????)|()(()|(()()(2022/6/3 23 結(jié)論 ： 的行向量）信道的容量為：有最大值。已知傳遞矩陣 ????????//////// 例 題符號(hào)的行向量）的信道，直接代入公式：對(duì)稱/.)/,/,/,/((解0 8 2 b i t061613131Hl o g 4PHl o g m C ?????2022/6/3 24 1 1n 1n 1n 1 1n 1n1n1 P 23求信道容量。即為的特例信道：對(duì)稱B S C2n1n1,n1,n,H ( 1l o g nC D M C??? ). . . .,解 ????串聯(lián)信道的信道容量： (1)串聯(lián)信道 舉例：微波 中繼通信 2022/6/3 25 信道 1容量為： C(1)=maxI(X。W) 信道 1,2串聯(lián)后等價(jià)為 容量為： C(1,2)=maxI(X。串聯(lián)級(jí)數(shù)越大，信道容量會(huì)越小。Y)≥I(X。W) 所以： C(1,2)≥C(1,2,3)≥……≥C(1,2,3…) 。求串聯(lián)后的信道容量矩陣為信道串聯(lián)，它們的轉(zhuǎn)移兩個(gè)相同的??????????????11 PPB S C 33 21 例 題2022/6/3 26 (11212(12222?????????????????????))()() 1111PPP 21?????????????????????????串聯(lián)后的轉(zhuǎn)移矩陣為： 12H ( ( 11Z)I ( X 。22 ))(,),??????????? ；可求得 mm信道容量越小。舉例說明： bb{bYa{aXDM C205030203050 4332121 求信道容量。其它變量用型凸函數(shù)。(1ijijijiijjjaPaPabl o g PaP ( baPbl o g PP ( bm a x [ XYHYHm a xYXm a x IC?? ? ???????????????)(.)(.)(....),()()(解????????12022013020 30 50baP1aPaPji21 概率矩陣。(lll??????????? ???????符號(hào)代入上式。(/)。 ????????????????????????? 61613131316161311 / 31 / 6 1 / 61 / 6 1 / 3613131P/////////// 和、分解成舉例：??????????????????? 0 . 10 . 10 . 7200 . 20 . 70 . 7 0 . 2 10201070P 和分解成.....2022/6/3 29 是子矩陣的個(gè)數(shù)個(gè)子矩陣中列元素之和是第；個(gè)子矩陣中行元素之和是第元素；是轉(zhuǎn)移矩陣的任一行的數(shù)；為輸入符號(hào)集中的符號(hào)其中：互信息達(dá)到信道容量當(dāng)輸入分布為等概時(shí)，rkMkN. . . . PPPnl o g MN. . . . PPPHl o g nC kks21r1kkks2139。39。39。,),(證 明得知：?????容量。39。?