多符號離散信道(1)(編輯修改稿)
2025-06-20 01:58 本頁面
【文章內(nèi)容簡介】 信 道 的 輸 入 隨 機 序 列中 的 分 量 取 值 于 同 一 信 源 符 號 集 X并 具 有 同 一 種 概 率 分 布 。信 道 輸 出 隨 機 序 列其 各 個 分 量 也 取 值 于 同 一 符 號 集 Y并 具 有 同 一 種 概 率 分 布 。1 1 2 2N1( 。 ) ( 。 ) ( 。 ) ( 。 ) ( ( 。 )。 ) 則 于 是 得 ， 式 中 是 隨 機 序 列 的 長 度 。?? ? ????NNiiiI X Y I X Y I X Y I X YI X Y X Y NNIHUST Furong WANG Information and Coding Theory 18 N次擴展信道 ? 這樣，對于離散無記憶信道的 N 次擴展信道，當信源也是無記憶時，則有 I(X。Y) = N I(X。Y) ? 此式表明，當信源是無記憶時，對于無記憶的 N次擴展信道，其平均互信息 I(X。Y)等于原來信道的平均互信息 I(X。Y)的 N 倍。 HUST Furong WANG Information and Coding Theory 19 離散無記憶 N次擴展信道 ? ? ? ?? ?? ?1( ) ( )11() 。 。 m a x ( 。 ) m a x ( 。 )m a x ( 。 )NiiiNNNi i ip x p xiii i ipxI I X YNC I I X Y CC I X Y i????? ? ?????XYXY對 于 一 般 離 散 無 記 憶 信 道 ， 由 定 理 ， 有所 以 其 次 擴 展 信 道 的 信 道 容 量 為其 中 ， 表 示 在 某 時 刻 通 過 離 散 無 記 憶 信 道 傳 輸 的 最 大 信 息 量 。12( , , , ), 1 , 2 ,NiNX X XC C i N iC NC????X由 于 輸 入 隨 機 序 列 是 在 同 一 信 道 中 傳 輸 ，所 以 有 。 亦 即 任 何 時 刻 通 過 離 散 無 記 憶信 道 傳 輸 的 最 大 信 息 量 都 相 同 ， 于 是 得 HUST Furong WANG Information and Coding Theory 20 N次擴展信道的信道容量 ? CN = NC 表明，對于離散無記憶 N 次擴展信道，其信道容量等于單變量信道的信道容量的 N 倍。 ? 只有當輸入信源是無記憶的，同時序列中每一分量 Xi , i = 1,2, ... ,N 的分布各自達到最佳分布時， N 次擴展信道的信道容量才能達到 NC 。 ? 一般情況下，消息序列在離散無記憶 N 次擴展信道中傳輸時，其平均互信息量為： I(X。Y)≤ NC ? 對于獨立并聯(lián)信道，有 當 Ｎ 個輸入隨機變量之間統(tǒng)計獨立，且每個輸入隨機變量的概率分布為達到各自信道容量的最佳分布時，等式成立。 121... NN N kkC C C C C?? ? ? ? ? ?HUST Furong WANG Information and Coding Theory 21 小結(jié) ? 首先介紹了離散無記憶信道中各種熵、信道疑義度及平均互信息量之間的相互關(guān)系。并通過例題說明和驗證了這些關(guān)系； ? 討論了離散無記憶擴展信道。分析了二元對稱信道的二次擴展信道的統(tǒng)計特性； ? 對于一般離散信道，關(guān)于傳輸 N長隨機序列所獲得的平均互信息，給出了兩個重要的定理。 HUST Furong WANG Information and Coding Theory 22 信道的組合 ? 實際中我們常常會遇到兩個或多個信道組合在一起使用的情況。例如： ? 積信道 ：待發(fā)送的消息比較多時，可能要用兩個或多個信道并行地傳送，香農(nóng)稱這種信道為積信道； ? 級聯(lián)信道： 有時消息會依次地通過幾個信道串行地傳送，稱此為級聯(lián)信道； ? 和信道： 有時將兩個以上信道聯(lián)合起來，這類信道香農(nóng)稱為和信道。 ? 在研究較復雜的信道時，往往也可以將它們分解成幾個簡單的、已經(jīng)解決的信道的組合。 HUST Furong WANG Information and Coding Theory 23 級聯(lián)信道（串聯(lián)信道）的模型 ? 信道 I和信道 II都是離散無記憶信道 ? ?? ?? ?? ?12121212I,, , ,nmmlX x xY y yY y yZ z z z?信 道輸 入 隨 機 變 量 為 ， 它 取 值 于 輸 入 符 號 集 … ,x ；輸 出 隨 機 變 量 為 ， 它 取 值 于 符 號 集 … ,y ；信 道 II輸 入 隨 機 變 量 為 ， 它 取 值 于 符 號 集 … ,y ；輸 出 隨 機 變 量 為 ， 它 取 值 于 輸 出 符 號 集 。X 信道 I 信道 II Y Z( / )p y x ( / )p z xy( / ) 1?? p y x ( / ) 1?? p z x yHUST Furong WANG Information and Coding Theory 24 級聯(lián)信道的傳遞概率 ? ? ? ?? ? ? ?I/ / 1 , 2 , , 1 , 2 , , ./ / 1 , 2 , , 1 , 2 , , 1 , 2 , , .jik i jp y x p y x i n j mp z x y p z x y i n j m k lxy? ? ? ? ??? ? ? ? ? ? ?信 道 的 傳 遞 概 率 為 :， ；信 道 的 傳 遞 概 率 為 :， ； ；顯 然 ， 信 道 II 的 傳 遞 概 率 一 般 與 前 面 的 符 號 和 均
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1