【文章內(nèi)容簡介】 5 2021 1408 1 50 159 23910 22500 25408 4000000 1982464 6 2300 1595 150 28 4140 22500 762 5290000 2544025 7 2600 1969 450 402 180720 202500 161283 6760000 3876961 8 2900 2078 750 511 382950 562500 260712 8410000 4318084 9 3200 2585 1050 1018 1068480 1102500 1035510 10240000 6682225 10 3500 2530 1350 963 1299510 1822500 926599 12250000 6400900 求和 21500 15674 5769300 7425000 4590020 53650000 29157448 平均 2150 1567 21 ??? ??iiixyx?1 7 0 32 1 5 07 7 5 6 7?? 00 ??????? XY ??因此，由該樣本估計的回歸方程為： ii XY ???167。 、最小二乘估計量的性質(zhì) 當(dāng)模型參數(shù)估計出后，需考慮參數(shù)估計值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計量的統(tǒng)計性質(zhì)。 一個用于考察總體的估計量，可從如下幾個方面考察其優(yōu)劣性： （ 1）線性性 ，即它是否是另一隨機變量的線性函數(shù)； （ 2）無偏性 ，即它的均值或期望值是否等于總體的真實值； （ 3）有效性 ，即它是否在所有線性無偏估計量中具有最小方差。 （ 4） 漸近無偏性 ， 即樣本容量趨于無窮大時 ， 是否它的均值序列趨于總體真值； （ 5） 一致性 ， 即樣本容量趨于無窮大時 ， 它是否依概率收斂于總體的真值； （ 6） 漸近有效性 ， 即樣本容量趨于無窮大時 ， 是否它在所有的一致估計量中具有最小的漸近方差 。 這三個準(zhǔn)則也稱作估計量的 小樣本性質(zhì)。 擁有這類性質(zhì)的估計量稱為 最佳線性無偏估計量 （ best liner unbiased estimator, BLUE）。 當(dāng)不滿足小樣本性質(zhì)時，需進(jìn)一步考察估計量的大樣本 或 漸近性質(zhì) ： 高斯 — 馬爾可夫定理 (GaussMarkov theorem) 在給定經(jīng)典線性回歸的假定下 ， 最小二乘估計量是具有最小方差的線性無偏估計量 。 2 、無偏性 ， 即估計量 0?? 、 1?? 的均值（期望）等于總體回歸參數(shù)真值 ? 0 與 ? 1 證： ? ? ? ? ????????iiiiiiiiii kXkkXkYk ??????? 10101 )(?易知 02 ??? ??iii xxk ? ? 1ii Xk故 ??? iik ??? 11??? ????? 1111 )()()?( ?????? iiii EkkEE同樣地，容易得出 ? ? ????? 0000 )()()()?( ?????? iiii EwEwEE3 、有效性（最小方差性） ， 即在所有線性無偏估計量中，最小二乘估計量 0?? 、 1?? 具有最小方差。 ( 1 ) 先 求 0?? 與 1?? 的 方 差 ? ?? ????? )v a r ()v a r ()v a r ()?v a r ( 21021 iiiiiii kXkYk ??????? ? ??????????22222iiixxx ??? ?? ?????? 221020 )/1()v a r ()v a r ()?v a r ( ????? iiiiii kXnXwYw22222222 21121 ?? ????????????????????????????? ????????? ? ???iiiii xxXkXnnkXkXnn22222222221??? ????? ??????????? ??iiiii xnXxnXnxxXn（ 2）證明最小方差性 假設(shè) *1?? 是其他估計方法得到的關(guān)于 ? 1 的線性無偏估計量： ?? iiYc*1??其中 ， ci=ki+di， di為不全為零的常數(shù) 則容易證明 )?v a r ()?v a r ( 1*1 ?? ?同理， 可 證 明 ? 0 的 最 小 二 乘 估 計 量 0?? 具 有 最 的 小 方 差 普通最小二乘估計量 （ ordinary least Squares Estimators）稱為 最佳線性無偏估計量 （ best linear unbiased estimator, BLUE） 由于最小二乘估計量擁有一個 “ 好 ” 的估計量所應(yīng)具備的小樣本特性，它自然也擁有大樣本特性 。 ???????????)/l i m ()/l i m ()l i m ()l i m ()l i m ()?l i m (212111nxPnxPxxPPkPPiiiiiiii???????1110),( ???? ?????XC o v 五、參數(shù)估計量的概率分布及隨機干擾項方差的估計 1 、參數(shù)估計量 0?? 和 1?? 的概率分布 ),(~? 2211 ?ixN ??? ),(~? 22200 ??? ??iixnXN?? 22? /1 ix?? ????222?0iixnX?? ? 隨機誤差項 ?的方差 ?2的估計 由于隨機項 ?i不可觀測，只能從 ?i的估計 ——殘差 ei出發(fā)，對總體方差進(jìn)行估計。 ?2又稱為 總體方差 。 可以證明 ， ?2的 最小二乘估計量 為 2?22???ne i?它是關(guān)于 ?2的無偏估計量。 在 最大或然估計法 中 ， 因此 ， ?2的最大或然估計量不具無偏性 ，但卻具有一致性 。 在隨機誤差項 ? 的方差 ? 2 估計出后，參數(shù) 0??和 1?? 的 方差 和 標(biāo)準(zhǔn)差 的估計量分別是： 1?? 的樣本方差： ??222??1ixS ?? 1?? 的樣本標(biāo)準(zhǔn)差： ??2??1ixS ?? 0?? 的樣本方差： ???2222??0iixnXS ?? 0?? 的樣本標(biāo)準(zhǔn)差： ???22??0iixnXS ?? 167。 一元線性回歸模型的 擬合優(yōu)度 檢驗 一、擬合優(yōu)度檢驗 ? 回歸分析 是要通過樣本所估計的參數(shù)來代替總體的真實參數(shù)，或者說是用樣本回歸線代替總體回歸線。 ? 盡管從 統(tǒng)計性質(zhì) 上已知，如果有足夠多的重復(fù) 抽樣，參數(shù)的估計值的期望（均值）就等于其總體的參數(shù)真值，但在一次抽樣中，估計值不一定就等于該真值。 ? 那么，在一次抽樣中，參數(shù)的估計值與真值的差異有多大，是否顯著，這就需要進(jìn)一步進(jìn)行 統(tǒng)計檢驗 。 ? 主要包括 擬合優(yōu)度檢驗 、變量的 顯著性檢驗及參數(shù)的 區(qū)間估計 。 一、擬合優(yōu)度檢驗 擬合優(yōu)度檢驗 ： 對樣本回歸直線與樣本觀測值之間擬合程度的檢驗。 度量擬合優(yōu)度的指標(biāo) ： 判定系數(shù) （ 可決系數(shù) ） R2 問題： 采用普通最小二乘估計方法，已經(jīng)保證了模型最好地擬合了樣本觀測值，為什么還要檢驗擬合程度？ 總離差平方和的分解 已知由一組樣本觀測值（ Xi,Yi）， i=1,2… ,n得到如下樣本回歸直線 ii XY 10 ??? ?? ??iiiiiii yeYYYYYYy ?)?()?( ???????? 如果 Yi=?i 即實際觀測值落在樣本回歸“線”上，則 擬合最好 。 可認(rèn)為， “離差” 全部來自回歸線，而與“殘差”無關(guān)。 對于所有樣本點，則需考慮這些點與樣本均值離差的平方和 ,可以證明 ： 記 ? ? ??? 22 )( YYyT S Sii總體平方和 （ Total Sum of Squares） ? ? ??? 22 )?(? YYyE S S ii 回歸平方和 （ Explained Sum of Squares） ? ? ??? 22 )?( iii YYeR S S 殘差平方和 （ Residual Sum of Squares ） TSS=ESS+RSS Y的觀測值圍繞其均值的 總離差 (total variation)可分解為兩部分： 一部分來