離散信道及其容量ppt課件(存儲(chǔ)版)
【正文】 ?獲得的信息量不應(yīng)該和不確定性混為一談 維拉圖 H(X|Y) H(X) H(Y) H(XY) H(Y|X) I(X。(定理：設(shè)離散信道的輸入序列 X＝ (X1X2… XN)通 過 信 道 傳 輸 ， 接 收 到 的 隨 機(jī) 序 列 為Y=( Y1Y2… YN)， 而信道的轉(zhuǎn)移概率為 p(y∣ x)。()。(? 信道的信息傳輸率就是平均互信息 我們研究信道的目的是要討論信道中平均每個(gè)符號(hào)所能傳送的信息量 ,即信道的 信息傳輸率 R 信道在單位時(shí)間內(nèi)平均傳輸?shù)男畔⒘?，稱為信息傳輸速率 Rt。 ??????)(1)(0)|(jijiij AaAaabpI(X。 定理 r個(gè)輸入符號(hào)， s個(gè)輸出符號(hào)，則當(dāng)輸入為等概分布是，達(dá)到信道容量 C，且 C=logsH(p1’p2’… ps’),式中p1’p2’… ps’為信道矩陣中的任一行。Y)達(dá)到極大值。()。 ? 獨(dú)立并聯(lián)信道的信道容量 X 1 X 2 X L Y 1 Y 2 Y L 一般情況下信源與信道連接時(shí)，其信息 傳輸率 R=I(X。Y)/C 無損信道中，信道容量 C=logr(r是信道輸入符號(hào)的個(gè)數(shù)） , 而 I(X。( LCI ?ΥΧ ? 設(shè)有 L個(gè)信道 ,它們的輸入、輸出分別是： X1,X2… XL； Y1,Y2… YL ???????LllLLCCCCIC121,2,1 )。()。Y) = C 對(duì)于所有 ai其 p(ai)＞ 0 I (ai。 定義 中，按照信道的輸出集 Y（即信道矩陣的行）可以將信道矩陣劃分成 n個(gè)子集（子矩陣），每個(gè)子矩陣中的每一行（列）都是其他行（列）的同一組元素的不同排列，則稱這類信道為離散準(zhǔn)對(duì)稱信道。Y)=H(X)H(Y),提示 H(Y / X)0 確定信道 確定 信道的輸出對(duì)應(yīng)多個(gè)互不相交的輸入。Y)： 接收到符號(hào) Y后平均每個(gè)符號(hào)獲得的關(guān)于 X的信息量。(ZXIZXYIZYIZXYI??)|()|()|()|(,xzpxyzpyzpxyzpzyx??有所有等號(hào)成立充要條件，對(duì)定理 X,Y,Z構(gòu)成一個(gè)馬爾可夫鏈，則有： )。(??? Niii YXIYXI1)。().5(XYHYHXHXYHYHYXHXHYXI????????熵只是平均不確定性的描述 。(XYIypxypyxpypxpyxpyxpxpyxpyxpYXIi j iijjii jijijiji j ijiji????? ?? ?? ?? 平均互信息 的另一種定義方法： 定理 （給定轉(zhuǎn)移概率矩陣 P后） ,平均互信息 I (X。 )|()|( ixjyPixjyP mmnn ?????無擾 (無噪 )信道 – 信道的輸出信號(hào) Y與輸入信號(hào) X之間有確定的關(guān)系 Y=f (X),已知 X后就確知 Y – 轉(zhuǎn)移概率 : ??????)f()f(pXYXYXY,0,1)|(有干擾無記憶信道 信道的輸出信號(hào) Y與輸入信號(hào) X之間沒有確定的關(guān)系 ,但轉(zhuǎn)移概率滿足 : )|()|()|()|( 2211 LL xypxypxypp ??XY有干擾有記憶信道 X={a1,a2,…… ar} P(Y/X)={p(bj/ai)} (i=1,2,…… r。第 4章 離散信道及其容量 信道的數(shù)學(xué)模型及其分類 1〉 什么是信道？ 信道是傳送信息的載體 —— 信號(hào)所通過的通道。 ??? Nn nn xypxyp 1 )|()|(定義 n和 m,i∈A,j∈B, 若離散無記憶信道還滿足 則稱此信道為平穩(wěn)的或恒參的。()()|(l og)()()()(l og)()()|(l og)()。()3()()()()2()|()()|()()()1(XHXXIXYIYXIYHXHXYHYXHYHXYHXHXYH?????????)()()()|()()|()()。()。()。 ? 平均互信息 I (X。 說明： I(X。 如果一個(gè)離散信道的信道轉(zhuǎn)移矩陣中的每一行都是由同一組元素的不同組合構(gòu)成的，并且每一列也是由這一組
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1