電工膠布使用方法ppt課件-展示頁(yè)
2025-01-24 05:05本頁(yè)面
【正文】 息論與編碼基礎(chǔ) 離散信道 一定比例的 bit被刪 除，并且接收者知 道是那些 bit已經(jīng)被 刪除。信息論與編碼基礎(chǔ) 離散信道 東莞電工培訓(xùn) 信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 信道的分類 離散信道的數(shù)學(xué)模型 單符號(hào)離散信道 信息論與編碼基礎(chǔ) 離散信道 信道的分類 離散信道的數(shù)學(xué)模型 單符號(hào)離散信道 離散信道 a、根據(jù)輸入、輸出信號(hào)的時(shí)間特性和取值特性 離散信道 連續(xù)信道 半離散或半連續(xù)信道 波形信道 信息論與編碼基礎(chǔ) 信道的分類 數(shù)字信道 b、根據(jù)輸入集合與輸出集合的個(gè)數(shù) 單用戶信道 多用戶信道 一對(duì)多、多對(duì)一 多對(duì)多 信息論與編碼基礎(chǔ) 離散信道 c、 根據(jù)信道轉(zhuǎn)移概率的性質(zhì) 無噪信道 有噪信道 信道的分類 實(shí)際的通信信道幾乎都是有擾信道 無記憶信道 有記憶信道 實(shí)際信道一般都是有記憶的，信道中的記憶現(xiàn)象來源于物理 信道中的慣性，如電纜信道中的電感或電容、無線信道中電 波傳播的衰落現(xiàn)象等。 d、 按信道統(tǒng)計(jì)特性 恒參信道 變參信道 衛(wèi)星信道 短波信道 e、根據(jù)信道噪聲的性質(zhì) 高斯噪聲信道 非高斯噪聲信道 信息論與編碼基礎(chǔ) 離散信道 信道的分類 離散信道的數(shù)學(xué)模型 單符號(hào)離散信道 信息論與編碼基礎(chǔ) 離散信道 離散信道的數(shù)學(xué)模型 信道 X1212( , , . . . , ): ( , , . . . , )NirX X X XX a a a??Y1212( , , . . . , ): ( , , . . . , )NisY Y Y YY b b b??( | )P y x{ , ( | ), }X P y x Y無擾（無噪）信道 有擾信道 1 , ( )( | )0 , ( )y f xP y xy f x???? ??無記憶信道 有記憶信道 11 1( | ) ( .. . | .. . ) ( | )NN N i iiP y x P y y x x P y x??? ?信息論與編碼基礎(chǔ) 離散信道 信道的分類 離散信道的數(shù)學(xué)模型 單符號(hào)離散信道 信息論與編碼基礎(chǔ) 離散信道 信道 X12: ( , , .. ., )rX a a a?Y12: ( , , .. ., )sY b b b?( | )P y x單符號(hào)離散信道 例 1 BSC信道 BSC(p)信道 是實(shí)際中幾乎所有重要的二進(jìn)制脈沖傳輸系統(tǒng)的模型 p為交叉 (crossover)概率 等于解調(diào)器 /檢測(cè)器出現(xiàn)硬判決譯碼錯(cuò) 誤的概率 信息論與編碼基礎(chǔ) 離散信道 1）條件轉(zhuǎn)移概率 ijijij PabPaxbyPxyP ????? )|()|()|( ), . . . ,2,1。 例 2 二進(jìn)制刪除信道 單符號(hào)離散信道 1001ppPqq?????????信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 ?互信息 )|(1l og)(1l ogjii baPaP? )。 ) l o g()ijijiP a bI a bPa?1）對(duì)稱性 I(ai。ai) 2）事件統(tǒng)計(jì)獨(dú)立時(shí) I(ai。bj) ≤ I(ai) 信息論與編碼基礎(chǔ) 緒論 表 1 － 1 （ x ， y ）的聯(lián)合概率分布 x ＝ 0 x ＝ 1 y ＝ 0 6 4 y ＝ 1 4 6 練習(xí) ： 令隨機(jī)變量 x表示隨機(jī)抽取人群中的性別 ， x＝ 0為男性 ， x＝ 1為女性 。 （ 1） 若 （ x， y） 的聯(lián)合概率分布如表 1－ 1所示 ， 求“ 已知抽取人為男性 ” ， 對(duì) “ 該人抽煙 ” 提供的信息量 。 表 1 － 2 （ x ， y ）的聯(lián)合概率分布 x ＝ 0 x ＝ 1 y ＝ 0 4 y ＝ 1 0 6 信息論與編碼基礎(chǔ) 離散信道 信道疑義度 ? ??????Xri ii aPaPxPxPXH1 )(1l og)()(l og)()(先驗(yàn)熵 ????rijijij baPbaPbXH1)|(l og)|()|(后驗(yàn)熵 若信道中存在干擾時(shí) ????sjjjj bXHbPbXHEYXH1)|()()]|([)|(??????ri jijisjj baPbaPbP11 )|(1l og)|()(? ?? ???risj jiji baPbaP1 1 )|(1l og)(信道疑義度 0≤H(X|Y)≤H(X) 損失熵 信息論與編碼基礎(chǔ) 離散信道 平均互信息 定義 令 )|()()。 ) ( ) l o g ( ) l o g( ) ( | )X X YI X Y P x P x yP x P x y????11( ) l o g ( ) l o g( ) ( | )X Y X YP x y P x yP x P x y????( | )( ) l o g()XYP x yP x yPx? ?互信息 ?思考題 設(shè) 8個(gè)等概分布的消息通過傳遞概率為 p的 BSC進(jìn)行傳送。 2）接收到第二個(gè)數(shù)字也是 0時(shí)，得到多少關(guān)于 關(guān)于 M1的附加互信息。 4）接收到第四個(gè)數(shù)字仍是 0時(shí)，再增加多少關(guān)于 M1的互信息。 Y1) = 0 且 I(X。 Y1, Y2) = 0? 試舉例說明。 Y1) = 0 且 I(X。 Y2) = 0? 請(qǐng)說明。( YXHXHYXI ????XY xPyxPxyP)()|(l og)(()( ) l o g( ) ( )XYP x yP x yP x P y? ?( | )( ) l o g()XYP y xP x yPy? ??平均互信息 接收到每個(gè)輸出 符號(hào)后獲得的關(guān) 于 X的平均信息量 信息傳輸
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1