梯度校正參數(shù)辯識(shí)方法(編輯修改稿)
2025-05-26 12:13 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 xyy d pxyE}|{)( xyExh ??x26 ? 對(duì)于給定的 ? 設(shè)下列方程，具有唯一的解 ? 當(dāng) 函數(shù)的形式及條件概率密度函數(shù) 都不知道時(shí) ? 求下列方程的解釋是困難的 ? 可以利用 隨機(jī)逼近法求解 ???? }|{)( xyExh)(xh )|( xyP01..??PWLLS????27 ? 隨機(jī)逼近法 ? 利用變量 及其對(duì)應(yīng)的隨機(jī)變量 ? 通過(guò)迭代計(jì)算 ? 逐步逼近方程 式的解 ?, 21 xx?),(),( 21 xyxy28 ? 常用的 迭代算法 ? Robbins – Monro 算法 ? Kiefer – Wolfowitz 算法 29 極大似然法和預(yù)報(bào)誤差方法 30 引言 ? 極大似然法 ? 一種非常有用的傳統(tǒng)估計(jì)方法 ? 由 Fisher 發(fā)展起來(lái)的 ? 基本思想可追溯到高斯 （ 1809 年） ? 用于動(dòng)態(tài)過(guò)程辯識(shí)可以獲得良好的估計(jì)性質(zhì) 31 ? 最小二乘法和梯度校正法 ? 計(jì)算簡(jiǎn)單 ? 參數(shù)估計(jì)具有優(yōu)良的統(tǒng)計(jì)性質(zhì) ? 噪聲的先驗(yàn)知識(shí)要求也不高 ? 極大似然法 ? 基本思想與最小二乘法和梯度校正法完全不同 32 ? 極大似然法 ? 需要構(gòu)造一個(gè)以數(shù)據(jù)和未知參數(shù)為自變量的似然函數(shù) ? 通過(guò)極大化似然函數(shù)獲得模型的參數(shù)估計(jì)值 33 ? 意味著 ? 模型輸出的概率分布將最大可能地逼近實(shí)際過(guò)程輸出的概率分布 ? 通常要求具有能夠?qū)懗鲚敵隽康臈l件概率密度函數(shù)的先驗(yàn)知識(shí) ? 獨(dú)立觀測(cè)的條件下，必須知道輸出量的概率分布 ? 在序貫觀測(cè)的條件下，需要確定基于 時(shí)刻以前的數(shù)據(jù)在 時(shí)刻輸出量的條件概率分布 k)1( ?k34 ? 預(yù)報(bào)誤差方法 ? 需要事先確定一個(gè)預(yù)報(bào)誤差準(zhǔn)則函數(shù) ? 利用預(yù)報(bào)誤差的信息來(lái)確定模型的參數(shù) ? 某種意義上 ? 與極大似然法等價(jià)的 ? 或極大似然法的一種推廣 35 ? 極大似然法和預(yù)報(bào)誤差方法 ? 優(yōu)點(diǎn)：參數(shù)估計(jì)量具有良好的漸近性質(zhì) ? 缺點(diǎn)：計(jì)算量比較大 36 極大似然原理 ? 設(shè) 是一個(gè)隨機(jī)變量 ? 在參數(shù) 條件下 的概率密度函數(shù)為 ? 的 個(gè)觀測(cè)值構(gòu)成一個(gè)隨機(jī)序列 ? 個(gè)觀測(cè)值記作 ? 則 的聯(lián)合概率密度為 ? 的極大似然估計(jì)就是使 的參數(shù)估計(jì)值 z? )|( ?zpz Lz)}({ kzL ? ??)(,),2(),1( LzzzzL ??Lz)|( ?Lzp? m a x|)|( ??MLLzp ??37 ? 即有 ? 或 0)|( ??????????????MLLzp0)|(lo g ??????????????MLLzp38 ? 對(duì)一組確定的數(shù)據(jù) ? 只是參數(shù) 的函數(shù) 已不再是概率密度函數(shù) ? 這時(shí)的 稱作 的 似然函數(shù) ? 以示區(qū)別有時(shí)記作 ? 概率密度函數(shù)和似然函數(shù)有著不同的物理意義 ? 但數(shù)學(xué)表達(dá)式是一致的 Lz)|( ?Lzp ?)|( ?Lzp ?)|( ?LzL)|()|( ?? LL zpzL ?39 ? 極大似然原理的數(shù)學(xué)表現(xiàn) ? 或 ? 對(duì)數(shù) 似然函數(shù) ? 極大似然參數(shù)估計(jì)值 ? 使得 似然函數(shù)或 對(duì)數(shù) 似然函數(shù)達(dá)到最大值 0)|( ??????
法律信息相關(guān)推薦
鄂ICP備17016276號(hào)-1