【正文】 單符號(hào)離散信道的信道容量 離散無(wú)噪信道的信道容量 ? 具有一一對(duì)應(yīng)關(guān)系的無(wú)噪信道 —— 既無(wú)損又確定 ? 矩陣中每一行每一列僅有一個(gè)非零元素 ? H（ Y/X） =0； H （ X/Y） =0 ? I（ X； Y） = H （ Y） = H （ X） ? 信道容量： 1 0 0P= 0 1 00 0 1????????y1 x1 x2 y2 x3 y3 1 1 1 ( ) ( )C = m a x ( 。Y)是信道轉(zhuǎn)移概率分布 p(y/x)的下凸函數(shù) . ? 信道容量的定義： ? 單位時(shí)間的信道容量： ()m a x ( 。 ? 通信技術(shù)研究－－信號(hào)在信道中傳輸?shù)倪^(guò)程所遵循的物理規(guī)律，即傳輸特性 ? 信息論研究－－信息的傳輸問(wèn)題（假定傳輸特性已知） 概述 ? 本章達(dá)到的目的 ? 了解信息論研究信道的目的、內(nèi)容 ? 了解信道的基本分類并掌握信道的基本描述方法 ? 掌握信道容量的概念，以及與互信息、信道輸入概率分布、信道轉(zhuǎn)移函數(shù)的關(guān)系 ? 能夠計(jì)算簡(jiǎn)單信道的信道容量（對(duì)稱離散信道、無(wú)記憶加性高斯噪聲信道） ? 了解信道容量在研究通信系統(tǒng)中的作用 ? 理解無(wú)噪信道編碼的物理意義 ? 進(jìn)一步從信息論的角度理解香農(nóng)公式及其用途 信道的數(shù)學(xué)模型和分類 ? 信道分類 ? 從工程物理背景 —— 傳輸媒介類型； ? 從數(shù)學(xué)描述方式 —— 信號(hào)與干擾描述方式； ? 從信道本身的參數(shù)類型 —— 恒參與變參； ? 從用戶類型 —— 單用戶與多用戶； ? ?? ???????????????? ?? ???? ???? ?? ??? ????????????????????? ?????離 散無(wú) 記 憶連 續(xù)信 號(hào) 類 型半 離 散有 記 憶半 連 續(xù)無(wú) 干 擾 ： 干 擾 少 到 可 忽 略 ；無(wú) 源 熱 噪 聲信 號(hào) 與 干 擾 類 型線 性 疊 加 干 擾 有 源 散 彈 噪 聲脈 沖 噪 聲干 擾 類 型有 干 擾交 調(diào)乘 性 干 擾 衰 落碼 間 干 擾信道的數(shù)學(xué)模型和分類 ???恒 參 信 道 （ 時(shí) 不 變 信 道 ）信 道 參 量 類 型變 參 信 道 （ 時(shí) 變 信 道 ）信道的數(shù)學(xué)模型和分類 ???二 用 戶 信 道 （ 點(diǎn) 對(duì) 點(diǎn) 通 信 ）用 戶 類 型多 用 戶 信 道 （ 通 信 網(wǎng) ） 信道的數(shù)學(xué)模型和分類 其中： c1為連續(xù)信道，調(diào)制信道； c2為離散信道，編碼信道； c3為半離散、半連續(xù)信道； c4為半連續(xù)、半離散信道。 ? 信息是抽象的，信道則是具體的。比如：二人對(duì)話，二人間的空氣就是信道；打電話，電話線就是信道；聽(tīng)收音機(jī)，收、發(fā)間的空間就是信道。 信源 編碼 媒介 譯碼 信宿 干擾 C1 C2 C3 C4 A B 信 道 劃 分 是 人 為 的 ！ 信道的數(shù)學(xué)模型和分類 ? 信道描述 ? 信道可以引用三組變量來(lái)描述： 信道輸入概率空間： 信道輸出概率空間： 信道概率轉(zhuǎn)移矩陣： 即： { ， ， }， 它可簡(jiǎn)化為： 。 )ipxC I X Y?()1 m a x ( 。 ) m a x ( ) l o giip x p xI X Y H X n??單符號(hào)離散信道的信道容量 強(qiáng)對(duì)稱離散信道的信道容量 單符號(hào)離散信道的信道容量 111111nnpppnnpppP nnpppnn?????????? ??????????? 強(qiáng)對(duì)稱信道或均勻信道 ? 矩陣中每一行都是第一行的重排列，矩陣中每一列都是第一列的重排列（對(duì)稱性） ? 錯(cuò)誤分布是均勻的，為 p/(n1) ? 信道輸入與輸出符號(hào)數(shù)相等 強(qiáng)對(duì)稱離散信道的信道容量 單符號(hào)離散信道的信道容量 ( 。 ) ( ) ( / ) ( ) ( , , , )imI X Y H Y H Y X H Y H q q q? ? ? ?2()m a x ( 。 ) ( ) 1iXI X Y p x? ??? ? ? ??????其中 為拉格朗日乘子（待定常數(shù)） ?解方程組 ( 。Y)達(dá)到極值的輸入概率分布為｛ p1,p2,...,pr｝ .方程組第一個(gè)式子中的前 r個(gè)方程式兩邊同乘以 pi，并求和得 ? ? ??i j jijiji eypxypxypp l og)()/(l og)/( ?即： eC lo g?? ?離散信道容量的一般計(jì)算方法 單符號(hào)離散信道的信道容量 ( / )( / ) l o g l o g()jijij jp y xp y x e Cpy ?? ? ?? 令 可求解出 ，繼而求得信道容量： 21log 2 jmjC ??? ?離散信道容量的一般計(jì)算方法 單符號(hào)離散信道的信道容量 11( / ) l o g ( / ) ( / ) l o g ( )mmj i j i j i jjjp y x p y x p y x p y C?????? ????2l o g ( )jjp y C? ?? 有 211( / ) ( / ) l o g ( / )mmj i j j i j ijjp y x p y x p y x??????j? 注意：在第（ 2）步求出 C后，必須解出相應(yīng)的 ，并確認(rèn)所有的 ，所求的 C才存在。 ) ( ) ( / ) ( ) ( / )( .. ) ( )( 。 ) ( 。 )NN N k kkI X X X Y Y Y I X Y??? ?1 2 1 211( 。 baY ?R),( ????()m a x ( 。 連續(xù)信道 Nxy PPP ?? 2y??高斯加性信道的容量： 2()1m a x { ( ) } l o g ( 2 )2cpxC H y e????)1l o g (21l o g21NxNxNPPPPP ????0l o g ( 1 ) l o g ( 1 )xxtNPPC W WP W N? ? ? ?香農(nóng)公式 限時(shí) T、限頻 W的高斯白噪聲加性信道的容量： l og ( 1 )xNPC W TP?? 連續(xù)信道 0l o g ( 1 ) l o g ( 1 )xxtNPPC W WP W N? ? ? ?令 0xPxWN?1l o g ( 1 ) l o g ( 1 )W x W x xx? ? ? ?1001 l o g ( 1 ) l o g ( 1 )xx xPPW x xN W x N? ? ? ?10l n( 1 ) 1l im xxx???200/ l o g /l im xxtWPPC n a t s e b it sNN?? ??當(dāng) W?∞時(shí)， x?0 W( / )tC bit s0/xPN0/xPN? Shannon公式的物理意義 ? 它給出了決定信道容量 C的是三個(gè)信號(hào)物理參量： W、 T、 之間的辯證關(guān)系。 ? 雷達(dá)信號(hào)設(shè)計(jì)中的線性調(diào)頻脈沖，模擬通信中，調(diào)頻優(yōu)于調(diào)幅，且頻帶越寬，抗干擾性就越強(qiáng)。 t=T0 為分界線。 解：高斯白噪聲加性信道單位時(shí)間的信道容量： (比特 /秒） 要求的信息傳輸率為： Ct= 106 log16 30= 108（ bit/s) =Wlog(1+S/N) 而： 10lg(S/N)=30dB?S/N=103 W=( 108 )/log(1+103) ≈ 107 (Hz ) l o g ( 1 )sNPt PCW?? 信道編碼定理 ? 信道編碼概述 ? 錯(cuò)誤概率與譯碼規(guī)則、編碼方法 ? 信道編碼定理 信道編碼概述 ? 互信息能告訴我們什么？ ? 隨機(jī)變量 X,Y統(tǒng)計(jì)意義上的依存程度 ? 可以獲得的信息量 ? 不能：所得信息能否可靠地確定信道