電工膠布使用方法ppt課件-wenkub
2023-01-30 05:05:57 本頁面
【正文】 Y? ? ?( ) ( | )H Y H Y X??噪聲熵 散布度：表示信道輸入信號由于干擾作用 在輸出端表現(xiàn)的散布范圍。()。(( ) ( )l o g ( ) l o g 1 0()XYP x P yP x yP x y? ? ??信源 加密 信道 解密 信宿 密鑰源 全損信道 信息論與編碼基礎(chǔ) 離散信道 極值性 )()。 Y2) = 0? 請說明。 Y1, Y2) = 0? 試舉例說明。 4）接收到第四個數(shù)字仍是 0時，再增加多少關(guān)于 M1的互信息。 ) ( ) l o g ( ) l o g( ) ( | )X X YI X Y P x P x yP x P x y????11( ) l o g ( ) l o g( ) ( | )X Y X YP x y P x yP x P x y????( | )( ) l o g()XYP x yP x yPx? ?互信息 ?思考題 設(shè) 8個等概分布的消息通過傳遞概率為 p的 BSC進(jìn)行傳送。 （ 1） 若 （ x， y） 的聯(lián)合概率分布如表 1－ 1所示 ， 求“ 已知抽取人為男性 ” ， 對 “ 該人抽煙 ” 提供的信息量 。ai) 2）事件統(tǒng)計(jì)獨(dú)立時 I(ai。 例 2 二進(jìn)制刪除信道 單符號離散信道 1001ppPqq?????????信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 ?互信息 )|(1l og)(1l ogjii baPaP? )。信息論與編碼基礎(chǔ) 離散信道 東莞電工培訓(xùn) 信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 信道的分類 離散信道的數(shù)學(xué)模型 單符號離散信道 信息論與編碼基礎(chǔ) 離散信道 信道的分類 離散信道的數(shù)學(xué)模型 單符號離散信道 離散信道 a、根據(jù)輸入、輸出信號的時間特性和取值特性 離散信道 連續(xù)信道 半離散或半連續(xù)信道 波形信道 信息論與編碼基礎(chǔ) 信道的分類 數(shù)字信道 b、根據(jù)輸入集合與輸出集合的個數(shù) 單用戶信道 多用戶信道 一對多、多對一 多對多 信息論與編碼基礎(chǔ) 離散信道 c、 根據(jù)信道轉(zhuǎn)移概率的性質(zhì) 無噪信道 有噪信道 信道的分類 實(shí)際的通信信道幾乎都是有擾信道 無記憶信道 有記憶信道 實(shí)際信道一般都是有記憶的，信道中的記憶現(xiàn)象來源于物理 信道中的慣性，如電纜信道中的電感或電容、無線信道中電 波傳播的衰落現(xiàn)象等。( ji baI??自信息 條件自信息 1lo g()iPa1l o g( | )ijP a b由于條件引入獲得的信息量 ( | )( 。bj) = 0 3）可正、可負(fù) 4） I(ai。 （ 2） 若 （ x， y） 的聯(lián)合概率分布如表 1－ 2所示 ， 求“ 已知抽取人為男性 ” ， 對 “ 該人抽煙 ” 提供的信息量 。 8個消息相應(yīng)編成下述碼字： ,0 0 1 1,0 1 1 0,0 1 0 1,0 0 0 0 4321 ???? MMMM1111,1100,1010,1001 8765 ???? MMMM1）接收到第一個數(shù)字 0與 M1之間的互信息。 信息論與編碼基礎(chǔ) 離散信道 ?思考題 令 X,Y1,Y2為二進(jìn)制隨機(jī)變量， 1）如果 I(X。 3）如果 I(X。 信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 )|()()。( XHYXI ?接收者通過信道獲得的信息量不可 能超過信源本身固有的信息量。( XYIYXI ?信息論與編碼基礎(chǔ) 離散信道 ()( 。 0)。( YXI的凸函數(shù)性 ??XY yPxyPxyPYXI)()|(l og)()。( YXI 是輸入信源概率分布 )(xP 的 ? 型凸函數(shù)。 )(xP例 1（續(xù)） ( 。 ) ( 1 / 2) ( 1 / 2) 0I X Y H H???0 1 p I(X。 2）試估計(jì)當(dāng) k = 1時 I(X1。 信息論與編碼基礎(chǔ) 離散信道 平均互信息 1 2 1 1 1( | ) ( | ) ( | ) .. . ( | .. . )N N N N NNNH Y X H Y X H Y Y X H Y Y Y X?? ? ? ?信息論與編碼基礎(chǔ) 離散信道 平均互信息 b)性質(zhì) ????NiiiNN YXHYXH1)|()|()僅當(dāng) ???Niii yxPyxP1)|()|( ??時成立 信息論與編碼基礎(chǔ) 離散信道 定理 對于離散無記憶信道，有 ???NiiiNN YXIYXI1)。 ) ( ) ( | )N N Ni i i i ii i iI X Y H Y H Y X? ? ???? ? ?信息論與編碼基礎(chǔ) 離散信道 例 1 DMC的輸入為 NN XXX ...1?，輸出為 NN YYY ...1?且有 XYXYXYXNN ?????? .. .2211。( ???Niii NHYXI1)。 ) ( ) ( | )N N N N NI X Y H X H X Y??1( ) ( | )NNNiiH X H X Y????1 1 1( 。()。 ) ( 。 如果將該編碼器看成一個信道，請討論該信道的轉(zhuǎn)移特性及平均互信息。()]|(),([ xyPxPf?定理 在信道轉(zhuǎn)移概率 )|( xyP 給定的條件下，平均互信息 )。 )。({m a x )()( s i gnbi trXHYXIC xPxP ???簡單離散信道的信道容量 信息論與編碼基礎(chǔ) 離散信道 c、有損無噪信道 ?????????????????????100100010010010
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1