【正文】 信號(hào)處理基礎(chǔ) 碩士研究生 2022級(jí)理論教學(xué)教案 主講教師：林金朝 教授 電子郵件： 課程名稱： 《 現(xiàn)代數(shù)字信號(hào)處理基礎(chǔ) 》 Advanced Digital Signal Processing 課程基礎(chǔ)： 《 信號(hào)與系統(tǒng) 》 《 概率論與隨機(jī)過程 》 《 矩陣論 》 參考教材： 姚天任等， 《 現(xiàn)代數(shù)字信號(hào)處理 》 ，華中科技大學(xué)出版社 沈奮民等， 《 現(xiàn)代隨機(jī)信號(hào)與系統(tǒng)分析 》 ，科學(xué)出版社 張賢達(dá)等， 《 現(xiàn)代信號(hào)處理 》 ，清華大學(xué)出版社 教學(xué)課時(shí)： 課堂理論教學(xué) 48學(xué)時(shí) 主要授課內(nèi)容： 隨機(jī)信號(hào)分析 隨機(jī)變量及其特征、隨機(jī)過程及其統(tǒng)計(jì)特性、平穩(wěn)及各態(tài)歷經(jīng)信號(hào)、隨機(jī)信號(hào)的相關(guān)性與功率譜、時(shí)間序列及其模型等 隨機(jī)信號(hào)的基本處理方法 隨機(jī)矢量及其統(tǒng)計(jì)特性、隨機(jī)信號(hào)的估計(jì)評(píng)價(jià)及估計(jì)方法、隨機(jī)信號(hào)通過 LTI系統(tǒng)、相關(guān)抵消與正交分解、譜分解定理、信號(hào)模型參數(shù)與功率譜等 最佳線性濾波器 最佳線性濾波概念、 WienerHopf方程及其求解、 Wiener濾波器的性能與設(shè)計(jì)、卡爾曼濾波器的思想、算法與應(yīng)用等 主要授課內(nèi)容（續(xù)）： 自適應(yīng)濾波及其應(yīng)用 基本原理與典型應(yīng)用、自適應(yīng)算法及誤差性能、梯度下降算法、橫向 LMS自適應(yīng)濾波器、橫向 RLS自適應(yīng)濾波器等 現(xiàn)代功率譜估計(jì) 功率譜估計(jì)的經(jīng)典和現(xiàn)代方法、 AR模型法的功率譜估計(jì)、 AR模型法的主要性質(zhì)、 YuleWalker方程的 Levinson – Durbin求解算法、 格型濾波器、 AR模型參數(shù)提取算法、 噪聲對(duì) AR譜估計(jì)的影響、 ARMA和 MA模型法簡(jiǎn)介、 白噪聲中正弦波頻率的估計(jì)等 第一章 隨機(jī)信號(hào)分析 ?隨機(jī)變量及其特征 ?隨機(jī)過程及其統(tǒng)計(jì)特性 ?平穩(wěn)及各態(tài)歷經(jīng)信號(hào) ?隨機(jī)信號(hào)的相關(guān)性與功率譜 ?時(shí)間序列及其模型 隨機(jī)變量及其特征 一、隨機(jī)變量與概率分布 定義 ：設(shè) E為一隨機(jī)試驗(yàn)，其樣本空間為 S=(Ω)，若對(duì)于每一個(gè)樣本 Ω，都有一個(gè)實(shí)數(shù) X(Ω)與之對(duì)應(yīng)，而且對(duì)于任何實(shí)數(shù) x，X(Ω)x有確定的概率，則稱 X(Ω)為隨機(jī)變量。 注： ? 隨機(jī)變量不同于函數(shù)中的變量，其取值由隨機(jī)試驗(yàn)確定； ? 隨機(jī)變量依隨機(jī)試驗(yàn)取實(shí)數(shù)，以便于數(shù)學(xué)運(yùn)算、試驗(yàn)描述和理論分析。 分類 ：離散隨機(jī)變量、連續(xù)隨機(jī)變量 離散隨機(jī)變量及其分布 離散隨機(jī)變量 ：隨機(jī)試驗(yàn)的取值 X(Ω)為有限個(gè)或可數(shù)無窮個(gè)，且所有取值按一定規(guī)律排列。 設(shè)可能的取值為 ,則 X(Ω)。 設(shè)為隨機(jī)變量 X(Ω)的概率，即 則有： 0011021iiipp??? ???????概率分布圖： 橫軸上的點(diǎn)表示隨機(jī)變量的可能取值；縱軸上的階躍值對(duì)應(yīng)表示各隨機(jī)取值的概率 概率分布函數(shù)： 對(duì)隨機(jī)變量發(fā)生的概率 為的分布函數(shù)。其具有以下性質(zhì)： 0001 . ( ) 1 , ( ) 0 。2 . ( ) ( ) [ ( ) ] 。3 . ( )FFF b F a P a X bFx? ? ? ? ?? ? ? ? ?的 圖 形 呈 非 降 型 的 階 梯 狀 。000( )( ) 0 ( 0 , 1 , 2 , ) ( ) ( 0 , 1 , 1 )1 . ( ) 0 2 . ( )m m n mnnm m n mnmmB ino m ial D ist ribu ti o nXX m m nXmP X m C p q p q p qP X mP X m C p q???????? ? ? ? ? ??????( 1 ) 兩 種 最 常 見 的 離 散 隨 機(jī) 變 量 （ 分 布 ） ：二 項(xiàng) 分 布隨 機(jī) 變 量 的 取 值 為 或 有 限 正 整 數(shù) ， 即 ：的 概 率 為 ：顯 然 有 ，0( ) 1nnpq????? ? ????00002 ( )( ) 0 ( 0 , 1 , 2 , ) ( ) ( 0)!1 . ( ) 0 2 . ( ) 1!mmmmPo i ss on di st ri bu t i onXX m mXmP X m emP X mP X m e e em?? ? ????????????????? ? ?? ????? ? ? ?????( ) 泊 松 分 布隨 機(jī) 變 量 的 取 值 為 或 無 限 正 整 數(shù) ， 即 ：的 概 率 為 ：為 模 型 參 數(shù) ，顯 然 有 ，連續(xù)隨機(jī)變量及其分布 離散隨機(jī)變量的分布函數(shù)曲線在可列個(gè)取值處階躍，階躍強(qiáng)度等于該取值的概率。 若可列個(gè)隨機(jī)取值的數(shù)量增大，則階躍點(diǎn)增多，階躍強(qiáng)度變小。 若隨機(jī)變量 X在某區(qū)間取值連續(xù)，則階躍線變?yōu)檫B續(xù)曲線。 連續(xù)隨機(jī)變量的分布函數(shù)： 設(shè) x為任一實(shí)數(shù)，隨機(jī)變量的概率是 x的函數(shù) F(x)，定義函數(shù) F(x)為 X的分布函數(shù)： ( ) [ ] ( )()xF x p X x p x d xp x X??? ? ? ?式 中 ， 為 連 續(xù) 隨 機(jī) 變 量 的 概 率 密 度 函 數(shù) 。概率密度函數(shù)的性質(zhì) ： 210001201 . ( ) 0 。2 . ( ) ( ) 13 . [ ] ( )4 . ( ) ( ) ( ( ) ( ) )xxp x xp x d x FP x X x p x d xF x p x F x p x????? ???? ? ? ? ???? ? ???? ? ????是 的 一 個(gè) 原 函 數(shù)常見的連續(xù)隨機(jī)變量及其概率密度函數(shù) ： ( 1 ) ( )[ , ] ,1 ( )0 U n ifo rm D is tr ib u tio n Xaba x bpx bao th e rs????? ????均 勻 分 布 : 連 續(xù) 隨 機(jī) 變 量 的 取 值 范 圍 充 滿 且 在 區(qū) 間 內(nèi) 每 處 的 分 布 函 數(shù) 相 同 ：2222( 2) ( ) ( / )()1 ( )0 1 ( 0 , 1 )ex22—p[ ]xxxxxxxN ormal Gaussian Dist ri buti omNnxmpxm??????????高 斯 分 布 正 態(tài) 分 布一 種 最 常 見 、 最 重 要 的 連 續(xù) 分 布 。其 中 ， 和 為當(dāng) 和均 值 和 方 差 。時(shí) ， 記 為 標(biāo) 準(zhǔn) 正 態(tài) 分 布 。1( 3 ) ( )0 ( )0 1 0 2 qqxW e i bullq x e xpxxqqq?????? ??? ????????韋 布 爾 分 布其 中 ， 和 為 常 數(shù) （ 模 型 參 數(shù) ）指 數(shù) 分 布瑞 利 分 布22222( 4) ( ) ( ) ( 0)4 , v a r ( )22xxxxx x xRay le igh Dist ri buti onxp x e xmX?????????????瑞 利 分 布單 參 數(shù) （ ） 模 型 。22( 5 ) ( )[ l o g ( ) ]1( ) e x p2( ) 2 l nxxb xmLog a rithm ic No rm a l D istribu tionXcxcpxx c b ????? ???? ??? ??對(duì) 數(shù) 正 態(tài) 分 布隨 機(jī) 變 量 與 一 個(gè) 常 數(shù) 的 差 的 對(duì) 數(shù) 值 服 從 正 態(tài) 分 布 ：二維隨機(jī)變量及其分布 2222{ } ( ) ( )( , ) ( , ) ( , )( , ) (( , )( ( ,)),)E S X X Y YS X YF x yXYXYP X x Y yF x yp x yxxyy? ? ? ? ? ?? ? ?????設(shè) 隨 機(jī) 試 驗(yàn) 的 樣 本 空 間 為 ； 、 是的 聯(lián) 合 分 布 函 數(shù) ：的 聯(lián) 合二 維定 義 在 上 的 隨 機(jī) 變 量 ， 則 稱聯(lián) 合 概 率 密 度 函 數(shù) 是 任 意 實(shí)概 率 密 度 函為 二 維 隨 機(jī)數(shù)變 量 。數(shù)：的 二 元 函 數(shù) 。二維聯(lián)合概率密度的性質(zhì)： 020221 . ( , ) 0 。2 . ( , ) ( , )xyp x yF x y p x y d x d y? ? ? ??? ??022023 ( ) ( , ) ( ) ( , )4. ( ) ( , ) xyF x d x p x y d yF y d y p x y d xp x p x y d y??? ? ? ???? ? ? ?????????????邊 緣 分 布 變 為 一 維 分 布 函 數(shù) ， 滿 足 ：二 維 概 率 密 度 函 數(shù) 包 含 一 維 概 率 密 度 函 數(shù) 的 信 息 ：2 ( ) ( , )p y p x y d x??????二維和 n維聯(lián)合概率密度函數(shù)： 222 2 2 222 ( ) ( ) ( )()11( , ) e x p2 ( 1 )21x y yxx x y yxyr x m y m y mxmp x yrr ? ? ? ?? ? ????? ? ? ????? ? ? ??????? ????2121 2 1 1 2 21212120 ( , ) ( ) ( )( ) ( )( , , )( , , ) [ , , ]( , , )( , , )x y x ynn n n nnnnnnm m rrp x y p x p yp x p yn X X XF x x x P X x X x X xF x x xp x x xxxXY?????? ? ? ?????其 中 ， 、 、 、 和 為 常 數(shù) （ 模 型 參 數(shù) ） 。當(dāng) 時(shí) ， 有和 為 一 維 正 態(tài) 分 布 的 概 率 密 度 函 數(shù) 。， 維 隨 機(jī) 變 量 的 聯(lián) 合 分 布 函 數(shù)和 聯(lián) 合 概 率 密 度 函推和 統(tǒng) 計(jì) 獨(dú) 立數(shù) ：而 廣 之1 2 1 2( , , ) ( ) ( ) ( )nn n nxp x x x p x p x p x??? 統(tǒng) 計(jì) 獨(dú) 立二、隨機(jī)變量的數(shù)字特征 用概率分布描述隨機(jī)變量，盡管完整，但很困難。 需要通過其數(shù)字特征進(jìn)行描述： ?數(shù)學(xué)期望（統(tǒng)計(jì)平均值、均值）； ?方差； ?各階矩。 １、數(shù)學(xué)期望（一階矩） 1 [ ] ( ) [ ] ( )x k kkxE X m x pE X m x p x d x????