用極大似然法進(jìn)行參數(shù)估計-文庫吧
2025-07-21 10:10 本頁面
【正文】 = （）因此預(yù)測誤差滿足關(guān)系式 （）式中假定預(yù)測誤差服從均值為0的高斯分布，并設(shè)序列具有相同的方差。因為與，和有關(guān)，所以是被估參數(shù)的函數(shù)。為了書寫方便，把式（）寫成 （） （）或?qū)懗? （）令k=n+1,n+2,…,n+N,可得的N個方程式，把這N個方程式寫成向量矩陣形式 （）式中 , , 因為已假定是均值為0的高斯噪聲序列，高斯噪聲序列的概率密度函數(shù)為 （）式中y為觀測值，和m為y的方差和均值，那么 （）對于符合高斯噪聲序列的極大似然函數(shù)為 （）或 （）對上式（）等號兩邊取對數(shù)得 （） 或?qū)憺? （）求對的偏導(dǎo)數(shù)，令其等于0，可得 （）則 （）式中 （）越小越好，因為當(dāng)方差最小時，最小，即殘差最小。因此希望的估值取最小 （）因為式（）可理解為預(yù)測模型，而e(k)可看做預(yù)測誤差。因此使式（）最小就是使誤差的平方之和最小，即使對概率密度不作任何假設(shè)，這樣的準(zhǔn)則也是有意義的。因此可按J最小來求的估計值。由于e(k)式參數(shù)的線性函數(shù)，因此J是這些參數(shù)的二次型函數(shù)。求使最大的，等價于在式（）的約束條件下求使J為最小。由于J對是非線性的，因而求J的極小值問題并不好解，只能用迭代方法求解。求J極小值的常用迭代算法有拉格朗日乘子法和牛頓拉卜森法。下面介紹牛頓拉卜森法。整個迭代計算步驟如下：(1)確定初始的值。對于中的可按模型 （）用最小二乘法來求，而對于中的可先假定一些值。(2)計算預(yù)測誤差 （）給出
試題試卷相關(guān)推薦
鄂ICP備17016276號-1