《小二乘法》ppt課件-文庫吧
2025-04-14 01:03 本頁面
【正文】 =最小其中， wi為各觀測值 yi的權(quán)。 wi＝ σ2／ σi2， i＝ 1，2， … ， n。這里 σ2為任選的正常數(shù)，它表示單位權(quán)方差。 不等精度情況下的最小二乘法正規(guī)方程同樣地，根據(jù)數(shù)學(xué)分析中求函數(shù)極值的條件：共得 k個方程，稱正規(guī)方程，求此聯(lián)立方程的解可得出諸參數(shù)估計值 (j＝ 1， 2， … ， k)。 最小二乘法 的 幾何意義 從幾何圖形上可看出 ,最小二乘法就是要在穿過各觀測點 (xi， yi)之間找出這樣一條估計曲線，使各觀測點到該曲線的距離的平方和為最小。 YX三、最小二乘法與最大似然法的關(guān)系 如果假定各觀測值是相互獨立且服從正態(tài)分布，期望值是 μ(xi； a1， a2， … ， ak)，方差是 σi2, 則觀測值的似然函數(shù)為 最大似然法要求上式取極大值，這就相當(dāng)于要求指數(shù)項中的=最小這就說明了在觀測值服從正態(tài)分布的條件下，最小二乘估計與最大似然估計是一致的。 觀測值不服從正態(tài)分布時的最小二乘估計 實質(zhì)上，按最小二乘條件給出最終結(jié)果能充分地利用誤差的抵償作用，可以有效地減小隨機誤差的影響，因而所得結(jié)果具有最可信賴性。 假若觀測值不服從正態(tài)分布，則最小二乘估計并不是最大似然估計。但應(yīng)該指出，在有些問題中觀測值雖然不服從正態(tài)分布，但當(dāng)樣本容量很大時，似然函數(shù)也趨近于正態(tài)分布，因此，這時使用最小二乘法和最大似然法實質(zhì)也是一致的。 不服從正態(tài)分布時最小二乘法的統(tǒng)計學(xué)性質(zhì) 若觀測值是服從正態(tài)分布的，這時最小二乘法和最大似然法實際上是一回事。但觀測值不服從正態(tài)分布或其分布未知時，這時用最小二乘法顯得缺乏理論的驗證。但應(yīng)該指出，作為一種公理來使用，最小二乘法仍然是可以接受的，而且可以證明，所得到的估計仍然具有一些很好的統(tǒng)計性質(zhì)，這些性質(zhì)是： (1)解是無偏的，即(2)解是觀測值的線性組合，且有最小方差。這稱為高斯 — 馬爾可夫定理 。(3) 加權(quán)的殘差平方和的期望值是當(dāng) σ2＝ 1，即取 wi＝ 1/σi2，這時稱為 χ2 量。期望值為 n－ k。第二節(jié) 線性參數(shù)的最小二乘法 一般情況下，最小二乘法可以用于線性參數(shù)的處理，也可用于非線性參數(shù)的處理。由于測量的實際問題中大量的是屬于線性的，而非線性參數(shù)借助于級數(shù)展開的方法可以在某一區(qū)域近似地化成線性的形式。 因此， 線性參數(shù)的最小二乘法處理是最小二乘法理論所研究的基本內(nèi)容 。 一、線性參數(shù)的測量方程一般形式 線性參數(shù)的測量方程一般形式為 （ 57） 相應(yīng)的估計量為（ 58） 誤差方程其誤差方程為（ 59） 二、線性參數(shù)的誤差方程式的矩陣形式設(shè)有列向量 和 nt階矩陣 (n＞ t) 則線性參數(shù)的誤差方程式 (5—9) 可表示為 即 （ 510） 等精度測量最小二乘原理的矩陣形式即或（ 511） （ 512） 殘余誤差平方和最小這一條件的矩陣形式為 不等精度測量最小二乘原理的矩陣形式最小二乘原理的矩陣形式為 或（ 514） （ 513） 式中的 P為 nn階權(quán)矩陣。 線性參數(shù)的不等精度測量還可以轉(zhuǎn)化為等精度的形式，從而可以利用等精度測量時測量數(shù)據(jù)的最小二乘法處理的全部結(jié)果。三、線性參數(shù)最小二乘法的正規(guī)方程 為了獲得更可取的結(jié)果，測量次數(shù) n總要多于未知參數(shù)的數(shù)目 t，即所得誤差方程式的數(shù)目總是要多于未知數(shù)的數(shù)目。因而直接用一般解代數(shù)方程的方法是無法求解這些未知參數(shù)的。 最小二乘法則可以將誤差方程轉(zhuǎn)化為有確定解的代數(shù)方程組 (其方程式數(shù)目正好等于未知數(shù)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1