【正文】 展信道 ，其 信道容量 是： ()()1()11m a x ( 。 ) m a x ( 。 因此，連續(xù)信道具有與離散信道類似的信息傳輸率和信道容量的表達(dá)式。()。 ? 因此，得 平均功率受限高斯加性信道 的信道容量 (每個自由度 )為： 2020 l o g212l o g2l o g????PeePC ???)1l o g (21)1l o g (21 2nssPPP ?????二、多維無記憶高斯加性連續(xù)信道 ??????? NiiNiii npxypxypnp11)()/()/()(??? Niii YXIYXI1)。( ?? ???????? ?? Ni nisiPP11lo g21?? ???????? ?? Ni nisiPP11lo g21? ?)。 此時分兩種情況： (1) 若 各單元時刻 (i＝ 1,…,N) 上的噪聲都是均值為零、方差為 Pn的高斯噪聲，得： (2) 若各單元時刻 (i＝ 1,…,N) 上的噪聲是均值為零，方差為不同 Pni的高斯噪聲，但輸入信號的總平均功率受限，其約束為： 則： 單位： (比特／ N個自由度 ) ???????? ??nsPPNC 1lo g2? ???????????? ??? Ni niniPPC11lo g21 ? ??? ???? 0 0 0 )( xxxx? ??? nisi PP ?PPXE NisiNii ???????? ???? 112??? nisi PP (常數(shù) ), i=1,2…,N 這結(jié)論說明， N個獨(dú)立并聯(lián)的組合高斯加性信道，當(dāng)各分信道 (或各時刻 )的噪聲平均功率不相等時，為達(dá)到最大的信息傳輸率，要對輸入信號的總能量適當(dāng)?shù)剡M(jìn)行分配。 這與實(shí)際情況也相符：我們總是在噪聲大的信道少傳或不傳送信息，而在噪聲小的信道多傳送些信息。 輸入信號 X是 10個相互統(tǒng)計獨(dú)立、均值為零、方差為 Psi的高斯變量，且： 由常數(shù) ?的約束條件，得： )(11WPNisi ???? ?. . .1011011?????????????? ??NiniPP?解： 比較得： Ps7 = ， Ps8 = ， Ps9 = ，Ps10 = ， 可見，最后四個信道應(yīng)排除，即令： Ps7 =0， Ps8 =0 ， Ps9 =0 ， Ps10 =0 Pn1 =， Pn2 = ， Pn3 = ， Pn4 = ， Pn5 = ， Pn6 =， Pn7 = ， Pn8 = ， Pn9 = ， Pn10 = （單位為 W） 再計算常數(shù) ?（此時 N = 6） ，得： ? ? . . . 61???????????? ?? ??iniPP?比較得： Ps6 = ，可見，第六個信道也應(yīng)排除，令： Ps6 =0 再計算常數(shù) ?（此時 N = 5） ，得： ? ? . . . 51???????????? ?? ??iniPP?可見，第五個信道也應(yīng)排除，令： Ps5 =0 ? ? . . . 41???????????? ?? ??iniPP?所以，功率分配為 ： Ps1 =， Ps2 = ， Ps3 = ， Ps4 = Pn1 =， Pn2 = ， Pn3 = ， Pn4 = ， Pn5 = ， Pn6 =， Pn7 = ， Pn8 = ， Pn9 = ， Pn10 = （單位為 W） (比特／ 10個自由度 ) 本例結(jié)果表明， 噪聲分量平均功率小的信道分配得到的相應(yīng)信號分量的平均功率要大一些， 那些太壞的信道就不去用它，可使總的信道容量最大。 功率分配為 ： Ps1 =， Ps2 = ， Ps3 = ， Ps4 = l o g21l o g21l o g211l o g21443214141????????????????????????? ????nnnni nii nisiPPPPPPPC?????信道容量： (比特／ 10個自由度 ) 若提高信號的總平均功率，使： 功率分配為 ： Ps1 =， Ps2 = ， Ps3 = ， Ps4 =， Ps5 =， Ps6 = ， Ps7 = ， Ps8 = . . .l o g21l o g21l o g2188765432181??????????????? ?? nnnnnnnni ni PPPPPPPPPC?????????信道容量： ? ? . . . 110 11???????????? ?? ??NiniPP?)(31WPNisi ???比較得最后兩個信道應(yīng)排除，令： Ps9 =0 ， Ps10 =0 ? ? .. . ???????三、限頻限時限功率的加性高斯白噪聲信道的信道容量 一般信道的頻帶寬度總是有限的，設(shè)頻帶寬度為 W，在這樣的波形信道中，滿足限頻、限時、限功率的條件約束，所以可通過取樣將輸入和輸出信號轉(zhuǎn)化為 L維的隨機(jī)序列： 12( , , ..., )Lx x x x? 12( , , ..., )Ly y y y?y x n??2L WT?和 ，而在頻帶內(nèi)的高斯噪聲是彼此獨(dú)立的，從而有 按照采樣定理，在 [0， T]范圍內(nèi)要求 。當(dāng)信道輸入信號是平均功率受限的高斯白噪聲信號時，信息傳輸率才達(dá)到此信道容量。香農(nóng)公式是在噪聲信道中進(jìn)行可靠通信的信息傳輸率的上限值。一般電話信號的帶寬為 3300Hz。 而實(shí)際信道能達(dá)到的最大信道傳輸率約為 19200比特／秒。 說明： 實(shí)際信道通常是非高斯波形信道。 ???????? ????? WNPWTCC sTt 01lo glim比特／秒 信源與信道的匹配 ? 在一般情況下，當(dāng)信源與信道相連接時，其信息傳輸率并未達(dá)到最大。由此可見，當(dāng)信道確定后，信道的信息傳輸率與信源分布是密切相關(guān)的。 信道剩余度定義為： 信道剩余度 = )。(?表示信道的實(shí)際傳信率和信道容量之差。 在無損 信 道中， 信 道容量 C＝ logr (r是信道輸入符號數(shù) )。Y)＝ H(X)，因而 ： 無損 信 道 的相對 剩余度 = rXHlog)(1?? 上式說明提高無損信道信息傳輸率就等于減少信源的剩余度。 ? 因此引入問題 ：在一般通信系統(tǒng)中，如何將信源發(fā)出的消息 (符號 )轉(zhuǎn)換成適合信道傳輸?shù)姆?(信號 )從而達(dá)到信源與信道的匹配。 例如，某離散無記憶信源 通過一個無噪無損二元離散信道進(jìn)行傳輸。 ? ? 1 2 3 4 5 6120 0 0 0 0 1 0 1 0 0 1 1 1 0 0 1 0 10 0 0 0 0 0 0 1 0 0 1 0 0 0 1 1 0 1 0 0 0 1 0 1x x x x x xCC1C對于碼 1 () 0 . 6 4 63HXR ?? (比特／信道符號 ) 2() 0 .4 8 44HXR ??2C對于碼 (比特／信道符號 ) 信道編碼定理 定理 有噪信道編碼定理 (香農(nóng)第二定理 )： 若有一離散無記憶平穩(wěn)信道，其容量為 C，輸入序列長度為 L，只要待傳送的信息率 RC，總可以找到一種編碼，當(dāng) L足夠長時，譯碼錯誤概率 ， ?為任意大于零的正數(shù)。 eP??eP L??1eP ?與無失真信源編碼定理 (香農(nóng)第一定理 )類似，香農(nóng)第二定理只是一個存在性定理，它指出信道容量是一個臨界值，只要信息傳輸率不超過這個臨界值，信道就可幾乎無失真地把信息傳送過去，否則就會產(chǎn)生失真。 雖然定理設(shè)有具體說明如何構(gòu)造這種碼，但它對信道編碼技術(shù)與實(shí)踐仍然具有根本性的指導(dǎo)意義。二十世紀(jì)六十年代以來，這方面的研究非?；钴S，出現(xiàn)了代數(shù)編碼、循環(huán)碼、卷積碼、級聯(lián)碼、格型碼等等，為提高信息傳輸?shù)目煽啃宰鞒隽酥匾呢暙I(xiàn)。