離散信道ppt課件-免費(fèi)閱讀
【正文】 平均互信息衡量了信道的實(shí)際輸出能力。 原始信源 信道 不匹配 原始信源 信道 信源編碼 基本匹配 本章小結(jié) ? 信道可以從不同的角度分類。 ?根據(jù)公式（ 422）計(jì)算 p(k+1)(xi)。Y)}=maxp(x){H(Y)}=logs 1 0 01 0 01 0 00 1 00 0 10 0 1P????????? ???????????? 對(duì)稱信道的信道容量 ? 定義 45 信道矩陣的每一行都是其他行的不同排列，則稱此類信道為輸入對(duì)稱信道 。Y)} )}=maxp(x){H(X)}=logr =maxp(x){H(Y)}=logs 有噪無(wú)損信道 ? 一個(gè)輸入對(duì)應(yīng)多個(gè)互不 相交的輸出，即信道矩 陣的每一列只有一個(gè)非 零元素。Y)是由信道特性 p(y|x)和信源特性 p(x)共同決定的， 但是容量 C已對(duì)所有 可能的 p(x)取最大值，因此 容量 C僅與信道特性 p(y|x)有關(guān)， 也就是說(shuō)，容量 C是信道的固有 特性，與信源無(wú)關(guān)。 )R I X Y?1 ( 。 信道 I p(y|x) 信道 II p(z|xy) X Y Z 例 47 兩個(gè)二元對(duì)稱信道串聯(lián) ? 一個(gè)馬爾可夫鏈，則串聯(lián)信道總的信道矩陣為 ? 則 I(X。 ) ( 。 )( ) ( )XY XYp x y p y xI X Y p x y p x y I Y Xp x p y?????兩個(gè)定理 ? 定理 41 對(duì)于固定的信道，平均互信息 I(X。 ? 信道疑義度的含義是觀察到信道的輸出之后仍然保留的關(guān)于信道輸入的平均不確定性。 ? 無(wú)用信道：輸入與輸出相互獨(dú)立，沒(méi)有任何關(guān)系。 ? 而輸入和輸出又有各自的統(tǒng)計(jì)特性，分別用 和 表示。 幾種特殊信道 ? 無(wú)噪無(wú)損信道： 輸入集和輸出集之間存在一一對(duì)應(yīng)的關(guān)系 。 ? 對(duì)無(wú)噪信道： H(X|Y)=0。 ? 含義：接收到信道的輸出符號(hào)集 Y之后，平均每個(gè)符號(hào)獲得的關(guān)于信道輸入符號(hào)集 X的信息量，即 通過(guò)信道傳送過(guò)去的信息量 。 Y )p ( x )I ( X 。Z)≤I(Y。 ? 若平均傳輸一個(gè)符號(hào)需要 t秒，而每一個(gè)符號(hào)傳送的信息量為 I(X。 ? 信道容量表示信道傳送信息的最大能力。 ? 因此信道疑義度 H(X|Y)=0，噪聲熵 H(Y|X)=0。 ? 由于知道輸出之后，必然能夠確定其對(duì)應(yīng)的輸入是什么，因此噪聲熵 H(Y|X)=0。 對(duì)稱信道容量的例子 ? 例 ? 這是一個(gè)對(duì)稱信道 ? 最佳輸入為： ? 信道容量為： C=logsH(p1 ? p2 ? … ps ?)=log3H(1/2,1/3,1/6) 1 / 2 1 / 3 1 / 61 / 6 1 / 2 1 / 31 / 3 1 / 6 1 / 2P?????????111333XP???????1 1 1 1 1 1l o g 3 l o g l o g l o g 0 . 1 2 62 2 3 3 6 6? ? ? ? ? 一般信道的容量 ? 對(duì)于一般的離散無(wú)記憶信道而言，信道容量的計(jì)算比較復(fù)雜，可以用迭代算法實(shí)現(xiàn)。 信源和信道的匹配 ? 信
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1