【正文】 道矩陣 （轉(zhuǎn)移矩陣） 。 [BEC， Binary Eliminated Channel] 解： X:{0， 1} Y:{0， 1， 2} 此時， r ＝ 2， s ＝ 3， 傳遞矩陣為： ? 一般離散單符號信道的傳遞概率可用矩陣形式表示，即 ????sjijij pp110 矩陣 P完全描述了信道的特性，可用它作為離散單符號信道的另一種數(shù)學(xué)模型 的形式。 ?（ 1p）表示是 無錯誤傳輸 的概率。 r=s=2， a1=b1=0； a2=b2=1。當(dāng)然，也可用下圖來描述： a1 b1 a2 b2 X . . Y . . ar bs P(bj/ai) [例 1] 二元對稱信道， [BSC， Binary Symmetrical Channel] 解： 此時， X:{0,1} 。 ? 一般 簡單的單符號離散信道 可以用 [X, P(y/x) ,Y] 三者加以描述。 ?條件概率： P(y/x)＝ P(y=bj/x=ai)＝ P(bj/ai) 這一組條件概率稱為 信道的傳遞概率 或 轉(zhuǎn)移概率 ，可以用來 描述信道干擾 影響的大小。 三、單符號離散信道 ? 單符號離散信道： ?輸入符號為 X，取值于 {a1,a2, …,a r}。 例如在數(shù)字信道中，由于信道濾波使頻率特性不理想時造成了碼字之間的干擾。 ? 如果任一時刻輸出符號只統(tǒng)計依賴于對應(yīng)時刻的輸入符號，則這種信道稱為無記憶信道。 ? 根據(jù)信道的 統(tǒng)計特性即條件概率 P(y/x)的不同，離散信道又可分成三種情況： ? 無干擾信道 ? 有干擾無記憶信道 ? 有干擾有記憶信道 (1)無干擾 (噪聲 )信道 信道中沒有隨機性的干擾或者干擾很小，輸出信號y與輸入信號 x 之間有確定的、一 一對應(yīng)的關(guān)系。 信道的數(shù)學(xué)模型和分類 等效信道 干擾源 物理信道 解調(diào)器 編碼器 譯碼器 信宿 信源 調(diào)制器 實際信道 編碼信道 圖 數(shù)字通信系統(tǒng)的一般模型 信道的數(shù)學(xué)模型和分類 一、信道的分類 根據(jù)載荷消息的媒體不同 根據(jù)信息傳輸?shù)姆绞? 郵遞信道 電信道 光信道 聲信道 輸入和輸出信號的形式 信道的統(tǒng)計特性 信道的用戶多少 根據(jù)信息傳輸?shù)姆绞椒诸愔? 根據(jù)信道的用戶多少：兩端 (單用戶 )信道 多端 (多用戶 )信道 根據(jù)信道輸入端和輸出端的關(guān)聯(lián)： 無反饋信道 反饋信道 根據(jù)信道的參數(shù)與時間的關(guān)系： 固定參數(shù)信道 時變參數(shù)信道 根據(jù)輸入和輸出信號的特點： 離散信道 連續(xù)信道 半離散或半連續(xù)信道 波形信道 二、離散信道的數(shù)學(xué)模型 條件概率 P(y/x) 描述了輸入信號和輸出信號之間統(tǒng)計依賴關(guān)系。第三章 信道及其容量 ? 信道的任務(wù)是以信號方式傳輸信息和存儲信息。 ? 研究信道中能夠傳送或存儲的最大信息量，即信道容量。反映了 信道的統(tǒng)計特性 。即： y ＝ f (x) ??????)(0)(1)|(xfyxfyxyP(2)有干擾無記憶信道 ? 信道輸入和輸出之間的條件概率是一般的概率分布。 )|(). . .|. . .()|( iiNiNN xyPxxxyyyPxyP ????12121 (3) 有干擾 (噪聲 )有記憶信道 實際信道往往是既有干擾 (噪聲 )又有記憶的這種類型。 在這一類信道中某一瞬間的輸出符號 不但與對應(yīng)時刻的輸入符號有關(guān)，而且還與此以前其他時刻信道的輸入符號及輸出符號有關(guān)， 這樣的信道稱為有記憶信道。 ?輸出符號為 Y，取值于 {b1,b2, …,b s}。 ? 信道中有干擾 (噪聲 )存在，可以用傳遞概率 P(bj/ai) 來描述干擾影響的大小。 ? 其數(shù)學(xué)模型可以用概率空間 [X, P(y/x) ,Y]描述。 Y:{0,1} 。 傳遞概率 : pPabPpPabPppPabPppPabP????????????)0|1()|()1|0()|(1)1|1()|(1)0|0()|(12212211? p是單個符號 傳輸發(fā)生錯誤 的概率。 ? 轉(zhuǎn)移矩陣 : 1??????? pppp1 0 1 0 1 1－ p a1=0 0=b1 1－ p a2=1 1=b2 p p 符號“ 2”表示接收到了“ 0”、“ 1”以外的特殊符號 ????????qqpp1001 0 2 1 0 1 p 0 0 1－ p 1 1 q 1－ q 2 [例 2]二元刪除信道。 P中有些是信道干擾引起的錯誤概率，有些是信道正確傳輸?shù)母怕省? ?????????????rsrrsspppppppppP. . .::::. . .. . .212222111211 b1 b2 … bs a1 P(b1|a1) P(b2|a1) … P(bs|a1) a2 P(b1|a2) P(b2|a2) … P(bs|a2) … …. … … ar P(b1|ar) P(b2|ar) … P(bs|ar) 信道疑義度與平均互信息 本節(jié)進(jìn)一步研究離散單符號信道的數(shù)學(xué)模型下的信息傳輸問題。 )(l o g)()( 1l o g)()(1xPxPaPaPXHXirii ?? ????接受到 bj后，關(guān)于 X的不確定性為 后驗熵在輸出符號集 Y范圍內(nèi)是個隨機量，對后驗熵在符號集 Y中求數(shù)學(xué)期望，得條件熵 信道疑義度 ： 這是接收到輸出符號 bj后關(guān)于 X的 后驗熵 。 )|(1l o g)|()|(jXjj bxPbxPbXH ??)/()()]/([)|(1jsjjj bXHbPbXHEYXH ?????????ri jijisjj baPbaPbP11 )|(1l o g)|()()|(1lo g)(, yxPxyPYX??互信息量 I(xi 。(ijijiiji xpyxpyxpxpyxIxIyxI ?????即：互信息量表示先驗的不確定性減去尚存的不確定性，這就是 收信者獲得的信息量 對于無干擾信道， I(xi 。 yj) = 0； 二、平均互信息 )()|(l o g)()。(ijij ijijij iji xpyxpyxpyxIy