【文章內(nèi)容簡介】 之對應(yīng)的點 SRF 返回 Y X 0 * * * * * * △ * * △ ?7Y?9Y* * * * Y7 Y9 Min ? ?? 2)( ii YY數(shù)學(xué)形式 最小二乘法的數(shù)學(xué)過程 ? 詳見課本 OLS估計結(jié)果的離差形式 ? 離差形式： ? OLS估計結(jié)果的離差形式： ? （樣本回歸函數(shù)的離差形式： ） 的離差形式。和分別稱為令ii YX, , ,iiiiiiyxYYyXXx ????????? ???2221 ,iiixyxXY ???ii xy 2?? ? ? 幾個有用的結(jié)果 ? 可以用到以后計算、證明過程中： iiiiiiiiiiiiiiiiiicXndxxuducyxxYXeeyx????????????????????????1 , c , ( 3 ) ,0 ,0 ( 2 ) 0 )1(21122其中：???? OLS 回歸線的性質(zhì) ? 1. 回歸線過樣本均值點 ? 2．殘差和為零 ? 3． Y的真實值 和擬合值 有共同均值 ? 4．殘差 與自變量 不相關(guān) ? 5．殘差 與擬合值 不相關(guān) ieie0?? ie),( YXiYiY?iXiY? 回歸線過樣本均值 ? 由 ，知： 即樣本均值點 滿足回歸線方程 ),( YXXY 21 ?? ?? ?? XY 21?? ?? ??XY 21 ?? ?? ?? SRF Y X ),( YX 殘差和為零 ? 由 OLS數(shù)學(xué)過程直接可得。且易推出殘差的平均數(shù)也等于零。 ? ?000)1(0221211221??????????????????????????????????????????????iiiiiiiiiiiienXYXYXYYYeeee???????0?? ie Y的真實值和擬合值有共同的均值 ????????????????????YY0 iiiiiiiiiYYeeYYeYY又由性質(zhì) 5 ? 殘差與自變量不相關(guān)（ Residuals are unrelated with independent variable） ? 估計殘差與擬合值不相關(guān)（ Residuals are unrelated with fitted value of ） iY樣本回歸直線性質(zhì)總結(jié) 殘差和 =0 iiiii eXeYY ????????21 ?? 均值相等 擬合值與殘差不相關(guān) 自變量與殘差不相關(guān) XY 21 ?? ?? ??過樣本均值 當模型參數(shù)估計出后，需考慮參數(shù)估計值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計量的統(tǒng)計性質(zhì)。 一個用于考察總體的估計量，可從如下幾個方面考察其優(yōu)劣性： （ 1）線性性 ，即它是否是另一隨機變量的線性函數(shù)； （ 2）無偏性 ，即它的均值或期望值是否等于總體的真實值； （ 3）有效性 ，即它是否在所有線性無偏估計量中具有最小方差。 （ 4） 漸近無偏性 ， 即樣本容量趨于無窮大時 ， 是否它的均值序列趨于總體真值； （ 5） 一致性 ， 即樣本容量趨于無窮大時 ， 它是否依概率收斂于總體的真值； （ 6） 漸近有效性 ， 即樣本容量趨于無窮大時 ， 是否它在所有的一致估計量中具有最小的漸近方差 。 這三個準則也稱作估計量的 小樣本性質(zhì)。 擁有這類性質(zhì)的估計量稱為 最佳線性無偏估計量 （ best liner unbiased estimator, BLUE）。 當不滿足小樣本性質(zhì)時，需進一步考察估計量的大樣本 或 漸近性質(zhì) ： 線性： 最小二乘估計量是關(guān)于 Yi的線性函數(shù) iiiiiiiiiiiiiiiiiiYdYXcnXYcYnXYYcYYxxyxxxyx??????????????????????????)1( )(1 )( 212222???注意 ii dc ,同 無偏性 ? 由 ，知： 11221122)E( ,)E( 0)E( , ?????????????????????易得：又iiiiiuuduc 有效性 ? 證明太繁雜，略。 ? 以下只給出其方差： ?????????222122222)(1)(iiiixnXV a rxcV a r????? 參數(shù)的分布、殘差方差的估計 ? 由上，知： ? 擾動項 的方差通過樣本估計為： 其中， n為樣本容量。 ) ,(~ ), ,(~ 222112222 ?????iii xnXNxN ??????iu222????ne i?? OLS參數(shù)估計量的有效性指的是：在一切線性、無偏估計量中， OLS參數(shù)估計量的方差最小。 所有參數(shù)估計量 線性參數(shù)估計量 無偏參數(shù)估計量 最小二乘 參數(shù)估計量 最大似然法 ? 最大似然法 (Maximum Likelihood,ML)，也稱 最大或然法 ，是不同于最小二乘法的另一種參數(shù)估計方法，是從最大或然原理出發(fā)發(fā)展起來的其它估計方法的基礎(chǔ)。 ? 基本原理： 當從模型總體隨機抽取 n組樣本觀測值后，最合理的參數(shù)估計量應(yīng)該使得從模型中抽取該 n組樣本觀測值的概率最大。 ? ML必須已知隨機項的分布。 、估計步驟 ),??(~ 210 ??? ii XNY ?2102 )??(2121)( ii XYi eYP?????????),(),?,?( 21210 nYYYPL ???????21022)??(21)2(1 iinXYne??????????Yi的分布 Yi的概率函數(shù) Y的所有樣本觀測值的聯(lián)合概率 —似然函數(shù) 2102*)??(21)2l n ()l n (ii XYnLL????? ??????????????????????0)??(?0)??(?21012100iiiiXYXY??????????????????????????????????2212220)(?)(?iiiiiiiiiiiiiXXnXYXYnXXnXYXYX??對數(shù)似然函數(shù) 對數(shù)似然函數(shù)極大化的一階條件 結(jié)構(gòu)參數(shù)的ML估計量 、討論 ? 在滿足一系列基本假設(shè)的情況下，模型結(jié)構(gòu)參數(shù)的 最大似然估計量 與 普通最小二乘估計量 是相同的。 ? 但是，分布參數(shù)的估計結(jié)果不同。 neML i??22?: ?2?:22?? ?neO L S i?第四節(jié) 回歸系數(shù)的區(qū)間估計和假設(shè)檢驗 ? 本節(jié)主要介紹： ? 簡單線性回歸系數(shù)的分布及其標準化。 ? 回歸系數(shù)的區(qū)間估計 ? 回歸系數(shù)的假設(shè)檢驗 ? 擾動項方差的區(qū)間估計。 回歸系數(shù)的標準化 ? ? ? ?標準化。標準正態(tài)分布，即將其為任何一個正態(tài)分布，化根據(jù)以上定理，可以將。，那么令如果 1,0~ ,~2NN ??????? ??? 回歸系數(shù)的區(qū)間估計 ? 區(qū)間估計 ? 區(qū)間估計的概念、步驟 ? 應(yīng)用： 已知擾動項方差，對 進行區(qū)間估計 擾動項方差未知，對 進行區(qū)間估計 ? 大樣本下 /小樣本下