葉中行信息論課件第五章-wenkub.com
2025-05-10 21:59 本頁面
【正文】 透過芯片上的無線接收器，配有藍(lán)牙技術(shù)的電子產(chǎn)品能夠在十公尺的距離內(nèi)彼此相通，傳輸速度可以達(dá)到每秒鐘 1兆字節(jié)。 GPRS、 WAP、藍(lán)牙 (Bluetooth)等技術(shù)都是 . 65 GPRS由于具備立即聯(lián)機的特性，對于使用者而言，可說是隨時都在上線的狀態(tài)GPRS技術(shù)也讓服務(wù)業(yè)者能夠依據(jù)數(shù)據(jù)傳輸量來收費，而不是單純的以聯(lián)機 時間計費 。 ) ( ) ( / ) 25b it /I X Y H Y H Y X? ? ? 信道符號p(x1) p(x2) p(y1) p(y2) 平均損失和信息價值 60 [結(jié)論 2] 有差檢驗的信息價值比無差檢驗的高！ 可畫出信息 (R) ～損失 (D)曲線 反之， D(R) —— 信息率為 R時的平均損失 0 D(元 ) R(D)(bit) H(X) Dmax 平均損失和信息價值 61 所謂 3G，其實它的全稱為 3rd Generation，是指第三代數(shù)字通信 . 1995年問世的第一代模擬制式手機（ 1G）只能進(jìn)行語音通話； 1996到 1997年出現(xiàn)的第二代 GSM等數(shù)字制式手機（ 2G）便增加了接收數(shù)據(jù)的功能，如接受電子郵件或網(wǎng)頁； 第三代與前兩代的主要區(qū)別 是在傳輸聲音和數(shù)據(jù)的 速度上的提升 ，它能夠要能在全球范圍內(nèi)更好地實現(xiàn)無縫漫游，并處理圖像、音樂、視頻流等多種媒體形式，同時也要考慮與已有第二代系統(tǒng)的良好兼容性 。 ? 若先不考慮式 (2)的約束，約束條件式 (3)包含 n個等式，取拉格朗日乘子 α 分別與之對應(yīng)；并取拉氏乘子 λ 與式 (4)對應(yīng) . 由此構(gòu)成輔助函數(shù)： ?? ?( 。 ? ?1 2 3,a a aminD maxD? ?1 2 32133 2 1d???????????1 2 3( ) m in ( 1 , 2 , 3 ) ( ) m in ( 2 , 1 , 3 ) ( ) m in ( 3 , 2 , 1 )p a p a p a? ? ???m i n ( ) m in ( , )yxD p x d x y???令對應(yīng)最小失真度 的 ，其它為“ 0”，可得對應(yīng) 的試驗信道轉(zhuǎn)移概率矩陣為 ( , )ijd a b( | ) 1jip b a ?minD? ?1 0 0( | ) 0 1 00 0 1???????????p y x20 ? ??? ?? ??m a x 1 2 31 2 31 2 3m i n ( ) ( , ) m i n ( ) 1 ( ) 2 ( ) 3 ,( ) 2 ( ) 1 ( ) 2 ,( ) 3 ( ) 3 ( ) 1yxD p x d x y p a p a p ap a p a p ap a p a p a? ? ? ? ? ? ? ????????????????????? ? ? ? ? ?? ? ? ? ? ? ? ??上式中第二項最小，所以令 ， ，可得對應(yīng) 的試驗信道轉(zhuǎn)移概率矩陣為 2( ) 1pb ? 13( ) ( ) 0p b p b??maxD? ?0 1 0( | ) 0 1 00 1 0p y x???????????21 率失真函數(shù) R(D)性質(zhì) (續(xù) ) [計算 ] [例４ ]離散二元信源 ，求 Dmax [解 ] m a xm a x11m in?m in ( ) ( , )?( ) ( , )jjnn i i jjij i i jiDDD p x d x xD p x d x x ??? ????? ????? ? 0112( ) , , 1033px ?????? ?????? ??D1m a x 221 2 20113 3 31 2 1 3103 3 3jDDDD??? ? ? ? ? ??????? ? ? ? ???22 R(D)是關(guān)于平均失真度 D的（下）凸函數(shù) 設(shè) 為任意兩個平均失真， ，則有： 12,DD01a??1 2 1 2( ( 1 ) ) ( ) ( 1 ) ( )R aD a D aR D a R D? ? ? ? ?3 、 R(D) 是 區(qū)間上的連續(xù)和嚴(yán)格單調(diào)遞減函數(shù) 由信息率失真函數(shù)的下凸性可知， R(D)在 上連續(xù)；又由 R(D)函數(shù)的非增性且不為常數(shù)知， R(D)是區(qū)間 上的嚴(yán)格單調(diào)遞減函數(shù)。 )m inP x x D DR D I X X??R(D)信息率失真函數(shù)或簡稱 率失真函數(shù) 。X^)來表示，這就變成了 在滿足保真度準(zhǔn)則的條件下，尋找平均互信息I(X。它意味著幅度差值大的要比幅度差值小的所引起的失真更為嚴(yán)重，嚴(yán)重程度用平方來表示。1 第 5章 限失真信源編碼和率失真函數(shù) 2 無失真信源編碼和有噪信道編碼表明：只要信道的信息傳輸速率小于信道容量，總能找到一種編碼方法，使得在該信道上的信息傳輸?shù)牟铄e概率任意?。环粗?，若信道的信息傳輸速率大于信道容量，則不可能使信息傳輸差錯概率任意?。? 但是，無失真的編碼并非總是必要的： 例如在傳送語音信號時，由于人耳接受的帶寬和分辨率是有限的，從而可以把頻譜范圍從 20Hz~8kHz的語音信號去掉低端和高端的頻率，視為帶寬只有從 300Hz~3400Hz的信號；這樣，即使傳輸?shù)恼Z音信號有一些失真，人耳還是可以分辨或感覺出來，已滿足語音信號傳輸?shù)囊螅? 3 在允許一定程度失真的條件下，能夠把信源信息壓縮到什么程度，即 最少 需要多少比特數(shù)才能描述信源，是本章將要討論的問題． 4 限失真信源編碼模型和率失真函數(shù) 一、失真測度 從直觀感覺可知，若允許失真越大，信息傳輸率可 越小；若允許失真越小，信息傳輸率需越大． 所以信息傳輸率與信源編碼所引起的失真 (或誤差 )是有關(guān)的． 5 信源編碼器輸入 X∈ { x1, x2, … , xi , … , xn } 輸出（復(fù)制） X^∈ { x^1, x^2, … , x^j , … , x^n } 若 xi = x^j —— 則無失真 若 xi≠ x^j —— 則有失真 [定義 ] [含義 ] 衡量用 x^代替 x所引起的失真程度． ?0?( , )?0xxd x xxx???? ???通常較小的 d代表較小的失真， d＝ 0表示沒有失真
高考資料相關(guān)推薦
鄂ICP備17016276號-1