《小二乘法》ppt課件-全文預(yù)覽
【正文】 σ—— 單位權(quán)標(biāo)準(zhǔn)差。 設(shè) d11， dl2， … ， dlt； d2l， d22， … ， d2t： … ； dtl， dt2， … ， dtt分別為下列各方程組的解： 則各估計(jì)量 xl， x2， … ， xt的方差為（ 552） 相應(yīng)的標(biāo)準(zhǔn)差為（ 553） 式中， σ為測(cè)量數(shù)據(jù)的標(biāo)準(zhǔn)差。對(duì)給定的線(xiàn)性方程組，若已知測(cè)量數(shù)據(jù) l1， l2， … ， ln的精度，就可求得最小二乘估計(jì)量的精度。因?yàn)橐话闱闆r下真誤差 δ1， δ2， … ，δn是未知的，只能由殘余誤差 νl， ν2， … ， νn給出 σ的估計(jì)量。測(cè)量數(shù)據(jù)的精度也以標(biāo)準(zhǔn)差 σ來(lái)表示。對(duì)于等精度測(cè)量有 則由最小二乘法所確定的估計(jì)量為此式與等精度測(cè)量時(shí)算術(shù)平均值原理給出的結(jié)果相同。 例 5—1 在不同溫度下，測(cè)定銅棒的長(zhǎng)度如下表，試估計(jì) 0℃ 時(shí)的銅棒長(zhǎng)度 y0和銅的線(xiàn)膨脹系數(shù) α。對(duì)于非線(xiàn)性參數(shù)，可先將其線(xiàn)性化，然后按上述線(xiàn)性參數(shù)的最小二乘法處理程序去處理。因而直接用一般解代數(shù)方程的方法是無(wú)法求解這些未知參數(shù)的。 因此， 線(xiàn)性參數(shù)的最小二乘法處理是最小二乘法理論所研究的基本內(nèi)容 。(3) 加權(quán)的殘差平方和的期望值是當(dāng) σ2＝ 1，即取 wi＝ 1/σi2，這時(shí)稱(chēng)為 χ2 量。 不服從正態(tài)分布時(shí)最小二乘法的統(tǒng)計(jì)學(xué)性質(zhì) 若觀測(cè)值是服從正態(tài)分布的，這時(shí)最小二乘法和最大似然法實(shí)際上是一回事。 YX三、最小二乘法與最大似然法的關(guān)系 如果假定各觀測(cè)值是相互獨(dú)立且服從正態(tài)分布，期望值是 μ(xi； a1， a2， … ， ak)，方差是 σi2, 則觀測(cè)值的似然函數(shù)為 最大似然法要求上式取極大值，這就相當(dāng)于要求指數(shù)項(xiàng)中的=最小這就說(shuō)明了在觀測(cè)值服從正態(tài)分布的條件下，最小二乘估計(jì)與最大似然估計(jì)是一致的。 wi＝ σ2／ σi2， i＝ 1，2， … ， n。這樣求出的參數(shù)叫參數(shù)的最小二乘估計(jì)。在一些情況下，即使函數(shù)值不是隨機(jī)變量，最小二乘法也可使用。 假設(shè)諸觀測(cè)值相互獨(dú)立且服從正態(tài)分布。 一、 問(wèn)題背景? 在多數(shù)估計(jì)和曲線(xiàn)擬合的問(wèn)題中，不論是參數(shù)估計(jì)還是曲線(xiàn)擬合，都要求確定某些 (或一個(gè))未知量，使得所確定的未知量能最好地適應(yīng)所測(cè)得的一組觀測(cè)值，即對(duì)觀測(cè)值提供一個(gè)好的擬合。使最小二乘法不斷地發(fā)展而久盛不衰。第 5章 線(xiàn)性參數(shù)的最小二乘法處理 最小二乘法是用于數(shù)據(jù)處理和誤差估計(jì)中的一個(gè)很得力的數(shù)學(xué)工具。特別是近代矩陣?yán)碚撆c電子計(jì)算機(jī)相結(jié)合。? 若變量間的函數(shù)形式根據(jù)理論分析或以往的經(jīng)驗(yàn)已經(jīng)確定好了，而其中有一些參數(shù)是未知的，則可通過(guò)觀測(cè)的數(shù)據(jù)來(lái)確定這些參數(shù)；? 若變量間的具體函數(shù)形式尚未確定，則需要通過(guò)觀測(cè)數(shù)據(jù)來(lái)確定函數(shù)形式及其中的參數(shù)。 設(shè) X和 Y兩個(gè)物理量之間的函數(shù)關(guān)系為假定此函數(shù)關(guān)系 f已知，但其中 a1， a2， … ， ak等參數(shù)還未求出，現(xiàn)對(duì)于 X和 Y有一批觀測(cè)數(shù)據(jù)： {xi， yi} ， i＝ 1， 2， …,n ，要利用這批數(shù)據(jù)在一定法則之下作出這些參數(shù) a1， a2， … ， ak的估計(jì)。 解決這類(lèi)問(wèn)題最常用的方法就是最小二乘法。 用式子表示時(shí)，記殘差 νi為最小二乘法就是要求 =最小在這個(gè)條件下，利用數(shù)學(xué)中求極值的方法可以求出參數(shù) ， ， … ， 。用式子表示就是要使 =最小其中， wi為各觀測(cè)值 yi的權(quán)。 最小二乘法 的 幾何意義 從幾何圖形上可看出 ,最小二乘法就是要在穿過(guò)各觀測(cè)點(diǎn) (xi， yi)之間找出這樣一條估計(jì)曲線(xiàn)，使各觀測(cè)點(diǎn)到該
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1