《連續(xù)信源和信道》ppt課件-全文預覽
【正文】 證明： 設一般分布為去 q(x), 最大分布為 p(x) 01l o g))((1)(l o g))((1l o g)()()l o g ()(1l o g)()(1l o g)()(1l o g)()l o g ()(???????????????????babababababadxabxqxqdxabxqxqdxxqabdxxqxqdxxpxpdxxqxqabXh（ 2） 平均功率受限時 ，限制隨機變量 x 的平均功 率或方差，即 ? ??? ???? dxmxxp 22 ))((?定理：若連續(xù)隨機變量的方差一定 ， 則 x服從正態(tài) 分布時的微分熵最大 ， ?? eXh 2lo g)( ?證明 ： 設一般分布的概率密度為 q(x), 正態(tài)分布的概率密度為 p(x) ? ???????????????????????????????????????????????????????????01l o g)()()(l o g)()(l o g)()(1l o g)()(1l o g)())(,())(,(2l o g212)(l o g)(21l o g)(21l o g)()(1l o g)()(1l o g)()(1l o g)())(,())(,(2222)(22dxxqxpxqdxxqxpxqdxxpxqdxxqxqxpXhxqXhedxmxexqdxxqdxexqdxxpxqdxxpxpdxxqxqxpXhxqXhmx?????????熵功率 ：設任意分布的連續(xù)集 X的熵為 h(X)， 集 X的熵 功率定義為高斯分布下的功率： )(2221 XheP ??PP?PeXh ?2lo g21)( ? ：為達到給定的熵值 h(X)， 正態(tài)分布所需要的 功率為最小。對于限頻 F 限時 T的隨機過程， 可用 2FT 個自由度表示。） 例： 令 X是在區(qū)間（ a， b） 上均勻分布的隨機變量， 求 X的微分熵。 （ 例如 KX。 確定觀測條件：確定的隨 t 變化的樣本函數(shù)； 確定時間： 隨機變量。 不同的觀測 一次觀測 樣本函數(shù) 隨機變量 隨機過程在限頻帶 F、限時間 T的情況下 ，可以利用正交函數(shù)系（如 KL變換） 展開為獨立的 有限個時間離散的隨機變量。 5－ 1 連續(xù)信源和波形信源的微分熵 5－ 2 具有最大熵的連續(xù)信源 5－ 3 連續(xù)信道和波形信道 5－ 4 連續(xù)信道和波形信道的信道容量 第五講 連續(xù)信源和信道 5－ 1 連續(xù)信源和波形信源的微分熵 連續(xù)隨機變量是取值范圍連續(xù)，而時間是離散的，所以也叫做 時間離散的連續(xù)隨機變量 。隨機 過程表示的信源為 波形信源 。 平穩(wěn)遍歷隨機過程：統(tǒng)計特性不隨時間變化、樣本函數(shù) 遍歷各個樣本值。 微分熵與離散熵的 不同 ：可以為負
教學課件相關推薦
鄂ICP備17016276號-1