數(shù)據(jù)通信與計算機網(wǎng)絡(luò)參考(已改無錯字)
2023-01-20 16:10:31 本頁面
【正文】 ? 一般通信系統(tǒng)中，信源發(fā)出的消息（符號）必須轉(zhuǎn)換成適合信道傳輸?shù)姆枺ㄐ盘枺﹣韨鬏敗τ陔x散無損信道，如何進行轉(zhuǎn)換，才能使信道的信息傳輸率達到信道容量，達到信源與信道的匹配呢？－香農(nóng)無失真信源編碼定理。 信源與信道的匹配 多用戶信道 ( 。 ) ( 。 )1C I X Y I X YCC? ?? 無失真信源編碼就是將信源輸出的消息變換成適合信道傳輸?shù)男滦旁吹南ⅲǚ枺﹣韨鬏?，而使新信源的符號接近等概分布，新信源的熵接近最大?log2r,這樣，信道傳輸?shù)男畔⒘窟_到最大，信道剩余度接近于零，使信源與信道達到匹配，信道得到充分利用。 2023/1/20 35 連續(xù)信道的定義及數(shù)學(xué)模型 連續(xù)信道的信道容量 加性連續(xù)信道的信道容量 高斯加性連續(xù)信道的信道容量 平均功率受限的加性信道的信道容量 結(jié)論 連續(xù)信道 2023/1/20 36 ? 連續(xù)信道定義 ：輸入和輸出隨機變量都取值于連續(xù)集合的信道。 ? 信道傳遞特性 ：傳遞特性用條件轉(zhuǎn)移概率密度函數(shù) p(y/x)表示。 ? 連續(xù)信道數(shù)學(xué)模型 ： {X p(y/x) Y}，如下圖所示。 連續(xù)信道的定義及數(shù)學(xué)模型 連續(xù)信道 2023/1/20 37 ? 連續(xù)隨機變量之間的平均互信息滿足非負(fù)性 ，并可以證明，它是信源概率密度函數(shù) p(x)的上凸函數(shù)。 ? 連續(xù)信道的信道容量 C：信源 X等于某一概率密度函數(shù)p0(x)時，信道平均互信息的最大值，即 ? 一般連續(xù)信道的容量并不容易計算，當(dāng)信道為加性信道時，情況要簡單一些。 連續(xù)信道的信道容量 連續(xù)信道 ? ?)。(max )( YXIC xp?2023/1/20 38 ? 加性連續(xù)信道 ：噪聲為連續(xù)隨機變量 N，且與 X相互統(tǒng)計獨立的信道。 ? 這種信道的噪聲對輸入的干擾作用表現(xiàn)為噪聲和輸入線性疊加，即 Y=X+N。如下圖所示。 加性連續(xù)信道的信道容量 連續(xù)信道 2023/1/20 39 ? 對于加性連續(xù)信道，信道的條件概率密度函數(shù)等于噪聲的概率密度 p(y/x)=p(n) 這進一步說明信道的傳遞概率是由于噪聲熵所引起的。 加性連續(xù)信道的信道容量 連續(xù)信道 ? ?? ?)()/()()()/()()()()()(11011,)()()(npxypnpxpxypxpxypnpxpxnpJxynxxxnpJxnpxypynyxxnxxxyxnxyxn?????????????????????所以坐標(biāo)變換為論證明：根據(jù)坐標(biāo)變換理2023/1/20 40 ? 加性連續(xù)信道的條件熵等于其噪聲熵。說明 Hc(Y/X)是由噪聲引起的，故稱 Hc(N)為噪聲熵。 該結(jié)論說明了條件熵是由于信道中噪聲引起的，它完全等于噪聲信源的不確定性，即噪聲信源的熵，所以稱它為噪聲熵。 加性連續(xù)信道的信道容量 連續(xù)信道 1)()()(log)()()(log)()(log)()()/(log)/()()/(2222????????????????????????XcNXNXNXYcdxxpNHdnnpnpdxxpdnnpnpdxdnnpnpxpdxdyxypxypxpXYH其中2023/1/20 41 ? 加性連續(xù)信道的信道容量： ? 加性噪聲 N和信源 X相互統(tǒng)計獨立， X的概率密度函數(shù) p(x)的變動不會引起噪聲熵 Hc(N)的改變，所以加性信道的容量 C就是選擇 p(x) ，使輸出熵 Hc(Y)達到最大值，即 ? 上式說明： 加性連續(xù)信道容量取決于噪聲 N（即信道）的統(tǒng)計特性和輸入隨機變量 X所受的限制條件 。 （對于不同的限制條件，連續(xù)隨機變量具有不同都最大熵值。） 連續(xù)信道 ? ? ? ? ? ?)()(max)/()(max)。(max )()()( NHYHXYHYHYXIC ccxpccxpxp ????? ? ? )()(max)( NHYHC ccxp ?? 加性連續(xù)信道的信道容量 2023/1/20 42 ? 高斯加性連續(xù)信道： 高斯噪聲為 N，均值為 0，方差為 σ2 ，噪聲功率為 PN； ? 信道的傳遞概率密度函數(shù)： p(y/x)=p(n) ? 如果把 x看成是一個常數(shù)，則上式就變成了隨 y變化的高斯函數(shù)，即當(dāng)已知 X=x時， Y也是一個高斯變量，均值為x，方差為 σ2。 高斯加性連續(xù)信道的信道容量 連續(xù)信道 )()/( 2222222)(2 2121 npeexypnxy??? ?????? ??????? ? ???????2023/1/20 43 ? 因此高斯加性信道的容量為 連續(xù)信道 222221221222122lo g22222122122)(1)(2loglog2log)(2log)(log)(log)(log)()(log)()()/(222222222????????????????????????????????????????????NNNeNnNNNNccdnnpndnnpeednnpndnnpednnpdnnpdnenpdnnpnpNHXYHn其中? ?? ? 2221)()(2log)(max)()(max?? eYHNHYHCcxpccxp???? 高斯加性連續(xù)信道的信道容量 2023/1/20 44 ? 輸入概率密度函數(shù) p(x)是什么樣的函數(shù)時，才能使 Y呈高斯分布？ ? 設(shè)限定輸入平均功率 PX，噪聲平均功率 PN=σ2， ? 則輸出隨機變量 Y的平均功率 PY也是受限的。 ? 根據(jù)最大連續(xù)熵定理，要使 Hc(Y)達到最大， Y必須是一個 均值為 0、方差為 σ2Y= PY的高斯隨機變量。 ? 高斯加性信道中輸入 X和噪聲 N相互統(tǒng)計獨立，且 Y=X+N。由概率論可知：若輸入 X是均值為 0、方差為 σ2X= PX的高斯隨機變量，即 X的概率密度函數(shù)為 p(x) ，則可以證明，輸出 Y的概率密度函數(shù)就等于 平均功率受限的加性信道的信道容量 連續(xù)信道 2023/1/20 45 ? 即當(dāng)輸入隨機變量 X的概率密度是均值為 0、方差 σ2X的高斯隨機變量； ? 加性信道的噪聲 N是均值為 0、方差為 σ2的高斯隨機變量時； ? 輸出隨機變量 Y也是一個高斯隨機變量，其均值為 0、方差為 σ2Y = σ2X + σ2 = PY 。 平均功率受限的加性信道的信道容量 連續(xù)信道 YXY Peypexp YyYXxX???????????????????222212122222222)()(?????????其中2023/1/20 46 ? 這時輸出端的連續(xù)熵 Hc(Y)達到最大值，即 ? (PX/PN)稱為信道的 信噪功率比 。 平均功率受限的加性信道的信道容量 連續(xù)信道 ? ?)1(log21)1(log21)(log212log)(2log2log)(2log)(m ax2222222222212222122122221)(NXXXXYXcxpPPeeCePeYH??????????????????????????信道容量為因此，高斯加性信道的2023/1/20 47
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1