【正文】 ])([])([??1111?)1(12)1(21nTnnnJJ?????????????? ??o6給定迭代精度正小數(shù) ，若 ????????111???1nnn則停止迭代；否則，賦 ，返回 。,(])([])([)()(1212 112????????????? ??nNjikekeJieTNnk jij? ?????o4 利用一維搜索法，求步長 ，使 1n?m i n 。 式中 為 的維數(shù)，即待辨識的參數(shù) nnNji 2。 72 ⒊ 梯度與 Hessian矩陣的計算 設(shè) 的協(xié)方差矩陣已知，即 已知，取權(quán)陣 )(ke ?e? ???? 1)1( enNW ，而 ?????NnkT DkekenN )?()()( ?11(n為系統(tǒng)階次 ) 因而： )?(1 ??? DW由矩陣運算公式： AXAXXXAXXAXXtr TTTT 2。 )?()( ?lNJ?e若預(yù)報誤差 的協(xié)方差陣 已知，則取 )(ke )?()1( ?NJ作為預(yù)報誤差準(zhǔn)則，且取權(quán)陣 ； ? ???? 1)1(enNW若 未知，則應(yīng)選 為預(yù)報誤差準(zhǔn)則?；蛘哒f，極大似然法是預(yù)報誤差法的特例。在這種意義下，極大似然法與預(yù)報誤差法也是等價的。極大似然法與預(yù)報誤差意義下種的預(yù)報誤差估計。因為是雅可比矩陣行列式的其中，)()(d e tkyke??]?),(),([)()( ?11 ???? kUkYfkyke必有 1??? )( )(d e t ky ke故 ]?),(),()([]?),()([ ?? 111 ???? ??kUkYkefNUNYfNnk61 可進(jìn)一步表示為：的似然函數(shù)，則上述預(yù)報誤差模型為零，協(xié)方差陣為獨立同分布，且其均值維新息序列如果進(jìn)一步設(shè)]?),1()([)}({ ???NUNYfkeme??? ???? ???? ??? ??????? ??????????????????)]()(e x p[]de t)([)]}()(e x p[]de t]{ [ []?),()([kekekekeNUNYfeNnkTnNemeTNnkem1211212122121???幅值相乘 相角相加 62 ⒉ 預(yù)報誤差協(xié)方差 已知時的似然函數(shù) ?e由似然函數(shù) ?????????????)]()(e x p[]d e t)[(]?),()([kekeNUNYfeNnkTnNem1212121 ??。顯然，確定計稱為預(yù)報誤差估計極小化，得到的參數(shù)估或通過使)(?)(?)?()?( )2()1(NNJJ NN????58 二、預(yù)報誤差法與極大似然法之間的關(guān)系 ⒈ 預(yù)報誤差模型的似然函數(shù) 統(tǒng)計獨立，則對數(shù)據(jù)與分布，且統(tǒng)計獨立，但不一定同若新息序列)()()}({kykuke ? ?TTTT nyNyNyNY )()1()()( ???應(yīng)用 Bayes公式，得條件概率密度函數(shù) ????????????????NnkkUkYkyfnUnYnyfNUNYNyfNUNYNyfNUNYf]?),(),()([]?),(),()([]?),(),()([]?),(),()([]?),()([?????1111221111?59 由預(yù)報誤差模型 )(]?),(),([)( kekUkYfky ???? ?11，對的條件概率分布。差陣的協(xié)方將收斂于預(yù)報誤差，上節(jié)已證：當(dāng)???ekeDN )()?( ?知識。為正定矩陣。由最優(yōu)控制理論知，“最好”輸出預(yù)報，應(yīng)是使某一個預(yù)報誤差準(zhǔn)則 (即性能指標(biāo) )為極小而獲得。陣為，協(xié)方差為預(yù)報誤差向量，均值其中)]()([)]([)( jekeEkeERkeTem????? 01 預(yù)報誤差模型表明： k時刻的輸出，可以用 k時刻以前的數(shù)據(jù)來“預(yù)報”。 預(yù)報誤差參數(shù)辨識法不要求數(shù)據(jù)概率分布先驗知識，是一種更加一般的參數(shù)辨識方法，也是極大似然估計的一種推廣。然而，實際問題中的數(shù)據(jù)不一定都是正態(tài)分布的。 ?52 167。從而證得，表為）收斂到其期望值（真值時，依概率在致性，即具有一條件下，預(yù)報誤差估計不難證明：在上述假設(shè)????????????? ??? ????NsaMLNsaNNN?)(?:1)(? 47 下面給出簡要證明。為預(yù)報誤差序列其中1)}?,({)?( ?? keD46 )?,(??)(?MLNnkMLLSTTMLkenNY???????????????22111。其中： )?e ( k , ?假設(shè)： 統(tǒng)計獨立，即和輸入序列序列，且與輸出序列的新息、方差為為獨立同分布、零均值噪聲序列)()({ v ( k ) } 2kUkYo11??45 01 ?? )](),()([ kUkYkvE噪聲的條件期望 序列。對于線性為待辨識參數(shù)，其中， )( kv0?)()()()( kvikubikyakyniinii ????? ???? 1010因此，預(yù)報誤差方程中的 )()()()()()()()(]),(),([nkubkubkubnkyakyakyaikubikyakUkYfnnniinii??????????????????? ????00201002011010021211???44 ? ? Tnn bbbaaa 00202202022 ????可見，預(yù)報誤差方程代表一大類含噪聲的線性動態(tài)系統(tǒng)。因為一大類含噪聲的線性系統(tǒng)的差分方程或狀態(tài)方程，可以轉(zhuǎn)化為預(yù)報誤差方程，而預(yù)報誤差方程與似然函數(shù)之間可以建立起直接的聯(lián)系，所得結(jié)果具有較寬的適用范圍。 42 167。為一步相關(guān)序列，與第表明 1)}({ kz⒈ 噪聲的統(tǒng)計特性 ⑴ 均值 NnnkkzE , )]([ ?10 ???39 ⑵ 方差陣 RcccccccNzNzET??????????????????22111211121100001001????)]()([⑶ 聯(lián)合概率密度函數(shù) )]()(e x p [)()]([ 0101 2121 ????????? ???YRYRNzf TnN的行列式。零均值正態(tài)獨立同分布噪聲序列 )}({ kv令組合噪聲其余為簡便研究，令 ,0,01 ?? icc????? ???????? niinii ikubikyakykvckvkz10101 1 )()()()()()(37 01?)()()( ,NNYNzNnnk????? 得組合噪聲動態(tài)方程：令 ?種噪聲情況，而表達(dá)式同第及、式中， 1)()( 0?NNY ????????????????????)()()()()()()(111111NvcNvnvvnvvNz?因 z(k)是 v(k)與 v(k1)的線性組合，故 z(k)也是零均值正態(tài)分布噪聲序列，但不再是無關(guān)序列。于推導(dǎo)遞推極大似然法的估計。 42 動態(tài)系統(tǒng)模型參數(shù)的極大似然估計 一、第 1種模型噪聲情況 設(shè)動態(tài)系統(tǒng)差分方程為 ? ?? ??????niniii kvikubikyaky1 100 )()()()(，得系統(tǒng)量測方程：，令 Nnnk ?1??)()()( 0 NVNNY ??? ?26 )()()( 0 NVNNY ??? ?式中 ?????????????????????????????????????????????)()1()()(,)()1()()(,)()1()()(NnnNN