【文章內(nèi)容簡介】 表 2 . 2 . 1 參數(shù)估計的計算表 iX iY ix iy iiyx 2ix 2iy 2iX 2iY 1 800 594 1350 973 1314090 1822500 947508 640000 352836 2 1100 638 1050 929 975870 1102500 863784 1210000 407044 3 1400 1122 750 445 334050 562500 198381 1960000 1258884 4 1700 1155 450 412 185580 202500 170074 2890000 1334025 5 2021 1408 1 50 159 23910 22500 25408 4000000 1982464 6 2300 1595 150 28 4140 22500 762 5290000 2544025 7 2600 1969 450 402 180720 202500 161283 6760000 3876961 8 2900 2078 750 511 382950 562500 260712 8410000 4318084 9 3200 2585 1050 1018 1068480 1102500 1035510 10240000 6682225 10 3500 2530 1350 963 1299510 1822500 926599 12250000 6400900 求和 21500 15674 5769300 7425000 4590020 53650000 29157448 平均 2150 1567 7 7 4 2 5 0 0 05 7 6 9 3 0 0? 21 ??? ??iiixyx? 1 5 5 6 7?? 00 ??????? XY ??因此，由該樣本估計的回歸方程為： ii XY ??? 四、最小二乘估計量的性質(zhì) 當模型參數(shù)估計出后，需考慮參數(shù)估計值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計量的統(tǒng)計性質(zhì)。 一個用于考察總體的估計量，可從如下幾個方面考察其優(yōu)劣性： （ 1）線性性 ，即它是否是另一隨機變量的線性函數(shù)； （ 2）無偏性 ，即它的均值或期望值是否等于總體的真實值； （ 3）有效性 ，即它是否在所有線性無偏估計量中具有最小方差。 （ 4） 漸近無偏性 ， 即樣本容量趨于無窮大時 ， 是否它的均值序列趨于總體真值； （ 5） 一致性 ， 即樣本容量趨于無窮大時 ， 它是否依概率收斂于總體的真值； （ 6） 漸近有效性 ， 即樣本容量趨于無窮大時 ， 是否它在所有的一致估計量中具有最小的漸近方差 。 這三個準則也稱作估計量的 小樣本性質(zhì)。 擁有這類性質(zhì)的估計量稱為 最佳線性無偏估計量 （ best liner unbiased estimator, BLUE）。 當不滿足小樣本性質(zhì)時，需進一步考察估計量的大樣本 或 漸近性質(zhì) ： 高斯 — 馬爾可夫定理 (GaussMarkov theorem) 在給定經(jīng)典線性回歸的假定下 ， 最小二乘估計量是具有最小方差的線性無偏估計量 。 2 、無偏性 ， 即估計量 0?? 、 1?? 的均值（期望）等于總體回歸參數(shù)真值 ? 0 與 ? 1 證： ? ? ? ? ????????iiiiiiiiii kXkkXkYk ??????? 10101 )(?易知 02 ??? ??iii xxk ? ? 1ii Xk故 ??? iik ??? 11??? ????? 1111 )()()?( ?????? iiii EkkEE同樣地，容易得出 ? ? ????? 0000 )()()()?( ?????? iiii EwEwEE3 、有效性（最小方差性） ， 即在所有線性無偏估計量中，最小二乘估計量 0?? 、 1?? 具有最小方差。 ( 1 ) 先 求 0?? 與 1?? 的 方 差 ? ?? ????? )v a r ()v a r ()v a r ()?v a r ( 21021 iiiiiii kXkYk ??????? ? ??????????22222iiixxx ??? ?? ?????? 221020 )/1()v ar ()v ar ()?v ar ( ????? iiiiii kXnXwYw22222222 21121 ?? ????????????????????????????? ????????? ? ???iiiii xxXkXnnkXkXnn22222222221??? ????? ??????????? ??iiiii xnXxnXnxxXn（ 2）證明最小方差性 假設 *1?? 是其他估計方法得到的關于 ? 1 的線性無偏估計量： ?? iiYc*1??其中 ， ci=ki+di， di為不全為零的常數(shù) 則容易證明 )?v a r ()?v a r ( 1*1 ?? ?同理， 可 證 明 ? 0 的 最 小 二 乘 估 計 量 0?? 具 有 最 的 小 方 差 普通最小二乘估計量 （ ordinary least Squares Estimators）稱為 最佳線性無偏估計量 （ best linear unbiased estimator, BLUE） 由于最小二乘估計量擁有一個 “ 好 ” 的估計量所應具備的小樣本特性，它自然也擁有大樣本特性 。 ???????????)/l i m ()/l i m ()l i m ()l i m ()l i m ()?l i m (212111nxPnxPxxPPkPPiiiiiiii???????1110),( ???? ?????XC o v 五、參數(shù)估計量的概率分布及隨機干擾項方差的估計 1 、參數(shù)估計量 0?? 和 1?? 的概率分布 ),(~? 2211 ?ixN ??? ),(~? 22200 ??? ??iixnXN?? 22? /1 ix?? ????222?0iixnX?? ?隨機誤差項 ?的方差 ?2的估計 由于隨機項 ?i不可觀測，只能從 ?i的估計 ——殘差 ei出發(fā)，對總體方差進行估計。 ?2又稱為 總體方差 。 可以證明 ， ?2的 最小二乘估計量 為 2?22???ne i?它是關于 ?2的無偏估計量。 在 最大或然估計法 中 ， 因此 ， ?2的最大或然估計量不具無偏性 ，但卻具有一致性 。 在隨機誤差項 ? 的方差 ? 2 估計出后，參數(shù) 0??和 1?? 的 方差 和 標準差 的估計量分別是： 1?? 的樣本方差： ??222??1ixS ?? 1?? 的樣本標準差： ??2??1ixS ?? 0?? 的樣本方差： ???2222??0iixnXS ?? 0?? 的樣本標準差： ???22??0iixnXS ?? 167。 一元線性回歸模型的統(tǒng)計檢驗 一、擬合優(yōu)度檢驗 二、變量的顯著性檢驗 三、參數(shù)的置信區(qū)間 ? 回歸分析 是要通過樣本所估計的參數(shù)來代替總體的真實參數(shù)，或者說是用樣本回歸線代替總體回歸線。 ? 盡管從 統(tǒng)計性質(zhì) 上已知，如果有足夠多的重復 抽樣，參數(shù)的估計值的期望（均值）就等于其總體的參數(shù)真值，但在一次抽樣中，估計值不一定就等于該真值。 ? 那么，在一次抽樣中，參數(shù)的估計值與真值的差異有多大，是否顯著，這就需要進一步進行 統(tǒng)計檢驗 。 ? 主要包括 擬合優(yōu)度檢驗 、變量的 顯著性檢驗及參數(shù)的 區(qū)間估計 。 一、擬合優(yōu)度檢驗 擬合優(yōu)度檢驗 ： 對樣本回歸直線與樣本觀測值之間擬合程度的檢驗。 度量擬合優(yōu)度的指標 ： 判定系數(shù) （ 可決系數(shù) ） R2 問題： 采用普通最小二乘估計方法，已經(jīng)保證了模型最好地擬合了樣本觀測值，為什么還要檢驗擬合程度？ 總離差平方和的分解 已知由一組樣本觀測值（ Xi,Yi）， i=1,2… ,n得到如下樣本回歸直線 ii XY 10 ??? ?? ??iiiiiii yeYYYYYYy ?)?()?( ???????? 如果 Yi=?i 即實際觀測值落在樣本回歸“線”上，則 擬合最好 。 可認為， “離