freepeople性欧美熟妇, 色戒完整版无删减158分钟hd, 无码精品国产vα在线观看DVD, 丰满少妇伦精品无码专区在线观看,艾栗栗与纹身男宾馆3p50分钟,国产AV片在线观看,黑人与美女高潮,18岁女RAPPERDISSSUBS,国产手机在机看影片

正文內(nèi)容

信息論與編碼chappt課件-在線瀏覽

2025-06-23 02:45本頁面
  

【正文】 xpYXI ? ?? ? ??平均互信息 I(X。 yj)的 統(tǒng)計(jì)平均。 關(guān)于平均互信息 I(X。 y) 代表收到某消息 y后獲得關(guān)于某事件 x的信息量。 若互信息 I(x 。 I(X。 y)的統(tǒng)計(jì)平均 ,所以 I(X。 若 I(X。 I(X。Y) = H(Y) H(Y|X) I(X。)(1l o g)()(ypypYHxpxpXH YX ?? ==)|(1l o g)()|(。Y) H(Y|X) = H(Y) I(X。Y) H(X) H(Y) H(X/Y) H(Y/X) I(X。Y)。Y)后剩余的部分代表兩個(gè)疑義度。 ? H(X|Y) = H(Y|X) = 0 [損失熵和噪聲熵都為“ 0” ] ? 由于噪聲熵等于零,因此,輸出端接收的信息就等于平均互信息 : I(X。Y) = 0 [I(X。 ? 接收到 Y后不可能消除有關(guān)輸入端 X的任何不確定性,所以獲得的信息量等于零。 ? 平均互信息 I(X。 ??????YyXxyPxyp )()|(??????YyXxxPyxp )()|(二種極限信道各類熵與平均互信息之間的關(guān)系 H(X|Y) = H(X) H(Y|X) = H(Y) I(X。Y)=H(X)=H(Y) 無損信道:完全重迭 全損信道:完全獨(dú)立 無損信道: 全損信道: 三、平均互信息的性質(zhì) 平均互信息 I(X。Y) = 0 當(dāng) X、 Y統(tǒng)計(jì)獨(dú)立時(shí)等式成立。Y) = H(X) 當(dāng) H(X/Y)=0 時(shí),即信道中傳輸信息無損時(shí),等式成立。Y) = I(Y。Y) = I(Y。Y) = I(Y。Y)只是信源 X的概率分布 P(x)和信道的傳遞概率 P(y/x)的函數(shù), 即: I(X。 ) ( 。Y)是輸入信源的概率分布 P(x)的∩ 型凸函數(shù)。 ? ( 2) 對(duì)于每一個(gè)固定信道,一定存在有一種信源 (某一種概率分布 P(x)),使輸出端獲得的平均信息量為最大。Y)是信道傳遞的概率 P(y/x)的 ∪型凸函數(shù)。 ? 對(duì)每一種信源都存在一種最差的信道,此時(shí)干擾 (噪聲 ) 最大,而輸出端獲得的信息量最小。 設(shè)離散無記憶信道的 輸入符號(hào)集 A= {a1, … , ar}, 輸出符號(hào)集 B= {b1 , … , bs},信道矩陣為 : ????sjijij pp110)|()...|...()|(12121 ijNiNN xyPxxxyyyPxyP ?????????????????rsrrsspppppppppP. . .:. . .::. . .. . .212222111211則此無記憶信道的 N次擴(kuò)展信道 的數(shù)學(xué)模型如圖所示 : 而 信道矩陣 : 其中: 1 1 1 1 1 1 1 11 1 2 2 2 1 1 2( ... ) ( ... )( ... ) ( ... )( | ): ( ... ) ( ... )NNNNkkr r r s s srsa a a b b ba a a b b bpXYa a a b b b??? ? ? ???? ? ? ???????? ? ? ???????????????????NNNNNNsrrrss???????????????212222111211( | )k h h kp? ? ? ? 1 2 1 2( | )h h h N k k k Np b b b a a a?1( | ) { 1 , 2 , , } , { 1 , 2 , , }N NNh i k iip b a k i r h i s?? ? ?? [例 3] 求二元無記憶對(duì)稱 信 道 ( BSC) 的二次擴(kuò)展信道。 由于是 無記憶信道 ,可 求得 二次擴(kuò)展信道的傳遞概率 : 信道矩陣 : ???????????????22222222ppppppppppppppppppppppppΠ2112131241( / ) ( 0 0 / 0 0 ) ( 0 / 0 ) ( 0 / 0 )( / ) ( 0 1 / 0 0 ) ( 0 / 0 ) ( 1 / 0 )( / ) ( 1 0 / 0 0 ) ( 1 / 0 ) ( 0 / 0 )( / ) ( 1 1 / 0 0 ) ( 1 / 0 ) ( 1 / 0 )P P P P pP P P P p pP P P P p pP P P P p????????? ? ?? ? ?? ? ?? ? ? 根據(jù)平均互信息的定義,可得 無記憶信道的 N次擴(kuò)展信道的平均互信息 : )。( NN YXIYXI ?)/()( NNN YXHXH ??)/()( NNN XYHYH ??若信道的輸入隨機(jī)序列為 X= (X1X2…X N),通過信道傳輸,接收到的隨機(jī)序列為 Y= (Y1Y2…Y N)。 若信源是無記憶的,則等式成立。()。 假若信源是無記憶的 ,則有: ),(),(1iiNiYXII ???YX),(),(),(1YXNIYXII iiNi?? ??YX其中 Xi和 Yi是隨機(jī)序列 X和 Y中的第 i 位隨機(jī)變量。 若 信道和信源都是無記憶的 ,則: ? 研究信道的 目的 是要討論信道中平均每個(gè)符號(hào)所能傳送的信息量 信息傳輸率 R ? 平均互信息 I(X。 ? 所以: R = I(X。Y)/t = H(X)/t – H(X|Y)/t (比特 /秒) 一、 信道容量的定義 由于平均互信息 I(X。 即存在一個(gè)最大的信息傳輸率 定義為 信道容量 C )}。(m a x pHYXI ??因此,二元對(duì)稱信道的信道容量為: m a x ( 。Y) ( ) ( )H p p H p??? ? ?時(shí), I(X。 當(dāng) 12????(比特/符號(hào) ) 離散無噪信道 二、簡(jiǎn)單離散信道的信道容量 例如: 其信道矩陣是單位矩陣: 滿足: I(X。 損失熵 H(X/Y)=0, 但噪聲熵 H(Y/X)≠0 其信道矩陣: 所以 : I(X。Y)=H(Y)H(X) 信道的疑義度 (損失熵) H(X/Y) ≠0 而噪聲熵 H(Y/X)=0。 具有這種對(duì)稱信道矩陣的信道稱為 對(duì)稱離散信道 。 三、對(duì)稱離散信道的信道容量 例如: ????????????????????????????2161313121616131213131616161613131PP 和都是對(duì)稱離散信道 都不是對(duì)稱離散信道 ??????????????????3161316161613131PP 和若輸入 /輸出符號(hào)個(gè)數(shù)相同,都等于 r,且信道矩陣為: 則此信道稱為 強(qiáng)對(duì)稱信道或均勻信道 。 它是對(duì)稱離散信道的特例。由于信道的對(duì)稱性,所以 H(Y/X= x )與 x 無關(guān) ,為一常數(shù),即 因此 對(duì)稱離散信道 的信道容量 : 對(duì)稱離散信道的平均互信息為 : I(X。, . . . ,39。(l o g)]39。,39。, . .. ,39。()/( 21 spppHxXYH ?? 在這個(gè)信道中,每個(gè)符號(hào)平均能夠傳輸?shù)淖畲笮畔椤? [例 5] 某對(duì)稱離散信道的信道矩陣如下,求其信道容量。Y) ? NC 即: CN = NC 所以,對(duì)于 一般的離散無記憶信道的 N次擴(kuò)
點(diǎn)擊復(fù)制文檔內(nèi)容
教學(xué)課件相關(guān)推薦
文庫吧 www.dybbs8.com
備案圖鄂ICP備17016276號(hào)-1