[工程科技]信息論第三章-在線瀏覽
2025-03-08 12:38本頁面
【正文】 輸一個(gè)符號(hào)需要 t 秒鐘，則信道在單位時(shí)間內(nèi)平均傳輸?shù)淖畲笮畔⒘繛?Ct： 復(fù)習(xí) 3: 特殊信道容量的計(jì)算 第 1種：具有擴(kuò)散性能的無損信道 第 2種：具有歸并性能的無噪信道 其信道矩陣是單位矩陣： ??????????1000100010( / ) ( / ) ( , 1 , 2 , 3 )1j i i jijP b a P a b i jij??? ? ?? ??第 3種：具有一一對(duì)應(yīng)的無損無噪信道 (例 32) □ 當(dāng)信道輸入等概率分布（輸出也是等概率分布時(shí)）。 [例２ ] 某對(duì)稱離散信道的信道矩陣如下，求其信道容量。 ?定義 ： 如果信道矩陣 M 的列可以劃分為若干個(gè)互不相交的子集 Bk，由 Bk的列組成的新的子矩陣 M k 是對(duì)稱矩陣，則 M 所對(duì)應(yīng)的信道稱為準(zhǔn)對(duì)稱信道。假設(shè)準(zhǔn)對(duì)稱矩陣可以劃分為 n和不相交的子集，則 NK是第 K個(gè)子矩陣的行因素之和， MK是第 K個(gè)子矩陣的列因素之和。, 39。) l o g ( / )ns k kkC r H p p p N M b it s y m b o l?? ? ? ?1239。, ..., 39。 ? ?()m a x ( 。 )I X Y()PX( ) 1iipx ??( ) 0 , 1 , 2 , ,ip x i r??解： 引入輔助函數(shù) ? ???? ????? ????? ??????????rii = 1iirii = 1F= I ( X 。 Y ) λ p ( x ) 1 （ λ 待 定 系 ）解： 引入輔助函數(shù) (拉格朗日乘子法 ) ■ 求信道容量，實(shí)際上是在約束條件下求多元函數(shù)極值問題。 定理 I(X。Y) ＝ C ② p(xi) = 0 時(shí) I(xi。 ( | ) l o g ()jii j ij jp y xI x Y p y xpy? ? 某些特殊矩陣可以利用這個(gè)方法可以推導(dǎo)得到 C。Y) 達(dá)到信道容量大的的充要條件： 離散序列信道及其容量 一般離散無記憶信道的 N次擴(kuò)展信道 ),(),(1iiNiYXII ???YX離散無記憶信道的 N 次擴(kuò)展 信道 離散無記憶信道 ( DMC， Discrete Memoryless Channel) 的 N次擴(kuò)展，其 傳遞概率滿足 ： 仍可用 [X， P( y | x )， Y] 概率空間來描述。 ) ( 。則分三種情況： ? ① 假若信道是無記憶的 ，即信道傳遞概率滿足： 則有： 式中 Xi ， Yi是對(duì)應(yīng)第 i 位的隨機(jī)變量。 ???Niii xyPP1)/()/( xy1( 。 )NiiiI I X Y?? ?XY 直觀分析 ：如果信源有記憶，前面?zhèn)魉偷姆?hào)帶有后面符號(hào)的信息，使得后面?zhèn)魉偷姆?hào)的互信息減少 ② 假若信源是無記憶的 ，則有： ),(),(1iiNiYXII ???YX),(),(),(1YXNIYXII iiNi?? ??YX其中 Xi和 Yi是隨機(jī)序列 X和 Y中的第 i 位隨機(jī)變量。 ? ③ 若信道和信源都是無記憶的 ，則： 一般情況下 ，消息序列在離散無記憶的 N次擴(kuò)展信道中傳輸?shù)男畔⒘浚?
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1