波形信源和波形信道-展示頁
2025-05-08 13:39本頁面
【正文】 間隔為 ()()22nxtnntxFF?由 于 隨 機 過 程 的 樣 本 函 數(shù) 有 無 限 多 個 ， 因 此 ，取 樣 后 的 樣 本 值 是 一 個 隨 機 變 量 。 1 1 12 1 2 1 21 2 1 2()()()n n np x tp x x t tp x x x t t t???????， ， ， ， ， ， ， ， ，1 2 1 21 2 1 2()( ) 1 2n n nn n np x x x t t tp x x x t t t n? ? ?? ? ? ? ?， ， ， ， ， ， ， ， ， ， ， ， ， ， ，平穩(wěn)隨機過程： 統(tǒng)計特性不隨時間平移而變化。每個樣本函數(shù)是隨機過程的一個實現(xiàn)。 于是定義 隨機波形信源的特點： （ 1）隨機波形信源中消息數(shù)是無限的。如遙控系統(tǒng)中有關(guān)電壓、溫度、壓力等測得的連續(xù)數(shù)據(jù)。每個樣本函數(shù)是隨機過程的一個實現(xiàn)。這樣的信源成為隨機波形信源，其輸出消息可以用隨機過程{x(t)}來表示。 第 4章 波形信源和波形信道 波形信源的統(tǒng)計特性和離散化 連續(xù)信源和波形信源的信息測度 連續(xù)信源熵的性質(zhì)及最大差熵定理 熵功率 連續(xù)信道和波形信道的信息傳輸率 高斯加性波形信道的信道容量 波形信源的統(tǒng)計特性和離散化 實際某些信源的輸出常常是時間和取值都是連續(xù)的消息。例如語音信號、電視信號。 { ( )}ixt 隨機過程 {x(t)}可以看成由一族時間函數(shù) 組成 稱為樣本函數(shù)。 圖 一個隨機過程 ? ?()xt連續(xù)信源： 信源輸出的消息是在時間上離散，而取值上連續(xù)的、隨機的。 隨機波形信源： 信源輸出的消息不僅在時間上是連續(xù)的而且在取值上也是連續(xù)的、隨機的。每一個可能的消息是隨機過程的一個樣本函數(shù)。 （ 2）隨機波形信源可用有限維概率密度函數(shù)族以及與各維概率密度函數(shù)有關(guān)的統(tǒng)計量來描述。 非平穩(wěn)隨機過程： 統(tǒng)計特性隨時間平移而變化。 這樣，通過取樣，隨即過程就成為可數(shù)的無限維 的隨機序列 。取樣之后還要對取 值的離散化。量化必然帶來量化噪 聲，引起信息損失?；? 連續(xù)信源的輸出是取值連續(xù)的單個隨機變量。 連續(xù) /波形信源的信息測度 變量的一維概率密度函數(shù)為 d ( )()dXFxpxx? d ( )() dY Fypy y?111( ) [ ] ( )dxXF x p X x p x x???? ?≤//( / ) ( / )Y X X Yp y x p x y2111111()()XYF x yp x yxy????，//( ) ( ) ( / ) ( ) ( / )X Y X Y X Y X Yp x y p x p y x p y p x y??( ) ( ) dXY Rp x p x y y? ? ( ) ( ) dYX Rp y p x y x? ? 聯(lián)合概率密度函數(shù)為 一維概率分布函數(shù)為 條件概率密度函數(shù)為 它們之間 的關(guān)系為 圖 概率密度分布 ?????????)( xpRX( ) d 1R p x x ?? 并滿足 基本連續(xù)信源的 數(shù)學模型為 ? ?( 1 ){ ( 1 ) } ( ) d ( )( 1 ) , ( 1 2 )aiii aiiP P a i x a i p x x p xx a i a i i n??? ? ??????? ? ? ? ? ?? ? ? ? ??≤ ≤， ， ，1212( ) ( ) ( )nnnX x x xp x p x p xP ? ? ??? ????? ??????( 1 )11( ) ( )d ( )d 1nn ai Δ bi ai Δ aiip x p x x p x x? ?????? ? ??? ??且( ) l o g ( ) l o g [ ( ) ]( ) l o g ( ) ( ) l o gn i i i iiii i iiiH X P P p x p xp x p x p x??? ? ?? ? ? ?? ? ?????000( ) l im ( ) l im ( ) l o g ( ) l im ( l o g ) ( )( ) l o g ( ) d l im l o gn i i inibaH X H X p x p x p xp x p x x?? ? ??? ? ? ? ? ??? ? ? ?? ? ????于是，連續(xù)信源的熵定義為 ( ) ( ) l o g ( ) dRh X p x p x x?? ?無限大常數(shù) ()hX 稱 為 相 對 熵 （ 或 差 熵 ）單位為：奈特 /自由度 同理，兩個連續(xù)隨機變量 X、 Y的聯(lián)合熵和條件熵可以定義為 ( ) ( ) l og ( ) d d( / ) ( ) ( / ) l og ( / ) d d( / ) ( ) ( / ) l og ( / ) d dRRRh X Y p x y p x y x yh Y X p x p y x p y x x yh X Y p y p x y p x y x y???????????? 連續(xù)平穩(wěn)信源和波形信源的差熵 連續(xù)平穩(wěn)信源輸出的消息是連續(xù)型的平穩(wěn)隨機序列。 ( ( ) ) l i m ( )Nh x t h X???所以得，波形信源的差熵 由于波形信源輸出的消息是平穩(wěn)的隨機過程，它通過取樣分解成取值連續(xù)的無窮維隨機序列 12, , , ,??? ???NX X X對于限頻 F/限時 T的平穩(wěn)隨機過程，它可以近似地 用有限維 N=2FT平穩(wěn)隨機序列來表示。 兩種特殊連續(xù)信源的差熵 ? ?? ? ? ?1 2 1 122( , ) , , , , , ,NNNNNX X
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1