【文章內(nèi)容簡介】 m //LLLm m mH H X X X XHXXX X X H X?? ???????　 2021/6/15 30 第 3章 信道與信道容量 ? 重點掌握 ? 有干擾無記憶信道的數(shù)學(xué)描述 ? 信道容量的定義 ? 對稱和準(zhǔn)對稱 DMC信道的信道容量計算 ? 香農(nóng)公式 ? 一般了解 ? 信道的各種分類 ? 無干擾離散信道的信道容量 ? 信源和信道的匹配 2021/6/15 31 信道的分類 ? 按信道的用戶數(shù)量來劃分 單用戶信道、多用戶信道 ? 按輸入 /輸出之間的關(guān)系來劃分 無反饋信道、反饋信道 ? 按信道參數(shù)與時間的關(guān)系來劃分 固定參數(shù)信道、時變參數(shù)信道 ? 按信道中的噪聲種類來劃分 隨機(jī)差錯信道、突發(fā)差錯信道 ? 按輸入 /輸出信號在幅度和時間上的取值劃分 離散信道、連續(xù)信道、半離散半連續(xù)信道、波形信道 2021/6/15 32 信道模型 ? 根據(jù)干擾和記憶性分類 ? 無干擾（無噪聲）信道 ? 有干擾無記憶信道 ? 有干擾有記憶信道 ? 信道模型 ? 信道的輸入 Xi={a1, a2,…, an} ? 信道的輸出 Yj={b1, b2,…, bm} ? 信道轉(zhuǎn)移概率矩陣 p(Y/X) 信 道 輸入 X 輸出 Y p(Y/X) 2021/6/15 33 信道模型 1. 二進(jìn)制離散信道 ： BSC信道 ? 輸入符號 X取值 {0,1} ? 輸出符號 Y取值 {0,1} 2. 離散無記憶信道 ： DMC信道 ? 輸入符號集 X={a1, a2,…, an} ? 輸出符號集 Y={b1, b2,…, bm} 11pppPp???? ?????11 12 121 22 212mmn n nmp p pp p pppPp?????????2021/6/15 34 信道模型 3. 離散輸入、連續(xù)輸出信道 ? 輸入符號集： X={a1, a2,…, an} ? 輸出未經(jīng)量化，即 Y={∞,∞} ? 輸出特性由離散輸入 X、連續(xù)輸出 Y以及一組條件概率密度函數(shù) p( y /X=ai) 來決定。 4. 波形信道 ? 輸入是模擬波形，輸出也是模擬波形 ? 連續(xù)無記憶信道和連續(xù)有記憶信道 ? y(t)＝ x(t)＋ n(t) n(t)代表加性噪聲 2021/6/15 35 信道容量的定義 ? 信道傳輸率 R ＝ I (X。Y) bit/符號 ? 信道中平均每個符號能傳送的信息量 ? 信息傳輸速率 Rt ＝ I (X。Y) / t bit /s ? 信道中單位時間傳送的信息量 ? 信道容量 ? 給定轉(zhuǎn)移概率矩陣 P后，平均互信息 I(X。Y)是概率矢量 Px的上凸函數(shù)。 ? I(Px)的極大值就是 信道容量 。 ? ? ? ? ? ?? ?( ) ( ) 11/m a x ( 。 ) m a x / l ogiinm jii j ip a p aij jp b aC I X Y p a p b apb???? ??2021/6/15 36 離散單符號信道 離散單個符號信道 無干擾離散信道 有擾離散信道 對稱 DMC信道 準(zhǔn)對稱 DMC信道 一般 DMC信道 無噪無損信道 無噪有損信道 有噪無損信道 2021/6/15 37 無干擾離散信道 ?無噪無損信道 ? C=max I(X。Y)=log n ?無噪有損信道 ? C=max I(X。Y)=max H(Y) ?有噪無損信道 ? C=max I(X。Y)=max H(X) 2021/6/15 38 DMC信道的容量 1. 對稱 DMC信道的性質(zhì) ① 對稱信道的條件熵 H(Y/X)與信道輸入符號的概率分布無關(guān)。 ② 如果信道輸入符號等概率分布，則信道輸出符號也等概率分布；反之，若信道輸出符號等概率分布時，信道輸入符號也是等概率分布。 ③ 當(dāng)信道輸入符號等概率分布時，對稱 DMC信道達(dá)到其信道容量。 ? ?m a x ( 。 ) l o g / iC I X Y m H Y a? ? ? ?xP2021/6/15 39 ? ?121l o g , , l o grs k kkC n H p p p N M?? ? ?? ? ? ?DMC信道的容量 2. 準(zhǔn)對稱 DMC信道的容量 ? 如果轉(zhuǎn)移概率矩陣 P的輸入對稱而輸出不對稱，則稱該信道是 準(zhǔn)對稱 DMC信道 。 ? 當(dāng)信道輸入符號等概率分布時，準(zhǔn)對稱 DMC信道達(dá)到其信道容量 C。 ? 矩陣分解法：將轉(zhuǎn)移概率矩陣劃分成若干個互不相交的對稱子矩陣。 ? ? ? ?m a x / iC H Y H Y a?? ????xP2021/6/15 40 DMC信道的容量 3. 一般 DMC信道的容量 ? 以輸入符號概率矢量 Px為自變量的函數(shù) I(Px)的極大值，即信道容量。 ? 為了使 I(X。Y)最大化，即求取信道容量的值，輸入概率集 {p(xi)}必須滿足的充分必要條件是： ? I(xi。Y)＝ C，對于所有滿足 p(xi)＞ 0條件的 i ? I(xi。Y)≤C，對于所有滿足 p(xi)＝ 0條件的 i 每一個概率不為 0的輸入符號對輸出提供相同的互信息 2021/6/15 41 離散序列信道及其容量 ? ? ? ? ? ?111/ / /LL L l llp p Y Y X X p Y XYX??? ?信 道 輸入 X 輸出 Y p(Y/X) X=(X1, X2,…, XL) Xl={a1, a2,…, an} Y=(Y1,Y2,…, YL) Yl={b1, b2,…, bm} 獨立、無記憶、平穩(wěn) 離散序列信道的信道容量為： 無記憶 離散序列信道的轉(zhuǎn)移概率為： ? ? ? ? ? ?1m a x 。XLL PlC I C l CY LlX?? ? ??2021/6/15 42 連續(xù)信道 ? 連續(xù)單符號加性信道 ? 信道的輸入和輸出都是取值連續(xù)的一維隨機(jī)變量，加入信道的噪聲是均值為零、方差為σ2的加性高斯噪聲。 ? 多維無記憶加性連續(xù)信道 ? 可等價成 L個獨立的并聯(lián)高斯加性信道 ? 注水法：噪聲小的子信道分配到的輸入功率大，傳輸?shù)谋忍財?shù)多。 ? 受加性高斯白噪聲干擾的帶限波形信道 ? 輸入 x(t)、輸出 y(t)和噪聲 n(t)：模擬波形 2021/6/15 43 香農(nóng)公式 ? 香農(nóng)公式 ? W：頻帶寬度，簡稱帶寬 ? SNR (信噪比 )：表示信號功率與噪聲功率的比值 ? 加性白噪聲的功率譜密度為 N0 /2 ? Pav：信號的平均功率 ? 香農(nóng)限 ? 每傳輸 1比特信息所需的能量。 ? 當(dāng)歸一化的信噪比小于香農(nóng)限（ ）時，歸一化信道容量為零，即信道完全喪失通信能力。 ? ?0l o g 1 l o g 1avPC W W S N RWN??? ? ? ?????2021/6/15 44 ? ?0l o g 1 l o g 1SPC W W S N RWN??? ? ? ?????香農(nóng)公式的討論 ? 帶寬 W一定時， 信道容量 C 隨 信噪比 SNR的增加而單調(diào)增加，因此增大信號功率、減小信道噪聲可以增加信道容量。 ? 信道容量 C一定時， 帶寬 W增大， 信噪比 SNR可降低，即二者可以互換。 ? 如果 輸入信號功率 PS固定， 信道容量 C 隨 帶寬 W的增加而增加。但到一定階段后，增加變得緩慢。 2021/6/15 45 信源與信道的匹配 ? 符號匹配 ? 信源輸出的符號必須是信道能夠傳送的符號，這是實現(xiàn)信息傳輸?shù)谋匾獥l件。 ? 信息匹配 ? 對于某一信道，只有當(dāng)輸入符號的概率分布滿足一定條件時，才能達(dá)到其信道容量。 ? 信道冗余度 ? 信道絕對冗余度＝ C－ I(X。Y) ? 信道相對冗余度 ? ? ? ?。1C I