[工程科技]信息論第三章(已修改)
2025-01-31 12:38 本頁面
【正文】 第 3章 信道與信道容量 (3) 《 信息論與編碼 B》 西安郵電學(xué)院 通信與信息工程學(xué)院 2022年 10月 目 錄 信源與信道匹配 離散序列信道及其容量 獨(dú)立并聯(lián)信道及其容量 串聯(lián)信道容量及數(shù)據(jù)處理定理 連續(xù)信道及其容量 信道的基本概念 離散信道的容量及其計(jì)算 信 道12{ , , . . . , }rX x x x?X12{ , , .. ., }sY y y y?( | )jip y x?????????????rsrrsspppppppppP. . .::::. . .. . .212222111211復(fù)習(xí) 1： 離散信道的數(shù)學(xué)模型 101: = ( | )sij ijjij j ippp p y x??? ?其 中 ：轉(zhuǎn) 移 概 率信道矩陣 （轉(zhuǎn)移矩陣 ): 由轉(zhuǎn)移概率組成。 復(fù)習(xí) 2： 信道容量的定義 由于平均互信息 I(X。Y) 是輸入隨機(jī)變量 X的概率分布 p(x)的 ∩型凸函數(shù)，所以對一固定的信道，總存在一種信源（某種概率分布 p(x)），使傳輸每個(gè)符號平均獲得的信息量最大 , 即每個(gè)固定的信道，都有一個(gè)最大的信息傳輸率。 定義一：信道容量定義為信息傳輸率或平均互信息的最大值。 )}。({m ax )( YXIC XP? （比特 |符號） tCCt?(Bit|s) Ct仍稱為 信道容量 若平均傳輸一個(gè)符號需要 t 秒鐘，則信道在單位時(shí)間內(nèi)平均傳輸?shù)淖畲笮畔⒘繛?Ct： 復(fù)習(xí) 3: 特殊信道容量的計(jì)算 第 1種：具有擴(kuò)散性能的無損信道 第 2種：具有歸并性能的無噪信道 其信道矩陣是單位矩陣： ??????????1000100010( / ) ( / ) ( , 1 , 2 , 3 )1j i i jijP b a P a b i jij??? ? ?? ??第 3種：具有一一對應(yīng)的無損無噪信道 (例 32) □ 當(dāng)信道輸入等概率分布（輸出也是等概率分布時(shí)）。 1. 對稱離散無記憶信道容量（ DMC） ?對稱 DMC信道定義 ?輸入對稱 如果轉(zhuǎn)移概率矩陣 P的每一行都是第一行的置換 (包含同樣元素 )，稱該矩陣是輸入對稱 ?輸出對稱 如果轉(zhuǎn)移概率矩陣 P的每一列都是第一列的置換 (包含同樣元素 )，稱該矩陣是輸出對稱 ?對稱 的 DMC信 道 如果輸入、輸出都對稱，稱之為對稱信道。 [例２ ] 某對稱離散信道的信道矩陣如下，求其信道容量。 ???????????3131616161613131P?準(zhǔn)對稱信道是對稱信道更為一般的情況，在計(jì)算信道容量時(shí)，需要將對稱信道容量的計(jì)算方法作一個(gè)修正。 ?定義 ： 如果信道矩陣 M 的列可以劃分為若干個(gè)互不相交的子集 Bk，由 Bk的列組成的新的子矩陣 M k 是對稱矩陣，則 M 所對應(yīng)的信道稱為準(zhǔn)對稱信道。 2. 準(zhǔn)對稱離散無記憶信道容量 其中： r 是輸入符號的個(gè)數(shù)， 是準(zhǔn)對稱矩陣的行元素。假設(shè)準(zhǔn)對稱矩陣可以劃分為 n和不相交的子集，則 NK是第 K個(gè)子矩陣的行因素之和， MK是第 K個(gè)子矩陣
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1