【正文】 n1?)?(v a r ??? ? ?? ? ??????)r1(x?xxxxx?)?(va r21222i222i1i22i21i21i22???? ? ?? ? ??????)r1(x?xxxxx?)?(va r21221i222i1i22i21i22i21???第二節(jié) 多元線性回歸模型的參數(shù)估計 一、多元線性回歸參數(shù)的最小二乘估計 二、最小二乘估計量的數(shù)值性質(zhì) 三、最小二乘估計量的統(tǒng)計性質(zhì) 四、參數(shù)的估計誤差與置信區(qū)間 四、參數(shù)的估計誤差與置信區(qū)間 根據(jù)矩陣相等的意義，矩陣相等即對應(yīng)位置的元素相等，回歸參數(shù)估計量 的方差、標(biāo)準(zhǔn)差，協(xié)方差 其中 為矩陣 中第 i行和第 j列元素。 特別地，對二元回歸模型而言： ? ?? ? ? ? ? ?? ?? ? ? ? ??? 22122221222221122221121122? ? ?? ???? ?? ? ? ???????????? xxxx xXXXXXXXX XXiiiiiiiiiiV a r1,12)?( ??? jjj CV a r ?? 1,1)?( ??? jji CSE ?? 1,12)?,?( ??? jiji CC o v ???jiC 1X)X( ??? ?? ? ? ? ? ?? ?? ? ? ? ??? 22122221212221122221122221? ? ?? ???? ?? ? ? ???????????? xxxx xXXXXXXXX XXiiiiiiiiiiV a ri??1．參數(shù)的估計誤差 可證明 22 )1()( ????? kneEi2)1( ???? knEee39。由此得： 11?22????????knkne i ee?令 22 )?( ?? ?E即 11?2????????knkne i ee?因此， 1,121,122 )1(?)?(? ???? ?????jjijjj CkneCES ??1,121,1 1?)?(? ???? ?????jjijij CkneCES ??稱為方程的 估計標(biāo)準(zhǔn)誤差 。 2．參數(shù)的置信區(qū)間 ～ N（ ， Cj+1， j+1 ） 進(jìn)行標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化得： 由數(shù)理統(tǒng)計定理可知： 所以，對于給定的置信度 1 ，由分布表可查得臨界值 使得 j?? j? 2?? ?1,0~21,1NCZjjjj????????j??)1(~)?(?????? kntESjtjj????2?t??? ????? 1)(22tttp?????? ?????? 1))?(??(22tEStpjjj即： ?????? ?? ?????? 1))?(??)?(??( 2/2/ jjjjj EStEStpj? ?偏回歸參數(shù) 的 100（ 1 ） %的置信區(qū)間為： ? ?)?(??),?(?? 2/2/ jjjj EStESt ???? ?? ???i?即以 100(1 )％的概率保證回歸參數(shù)屬于該區(qū)間內(nèi)。 由于偏回歸系數(shù)都是與變量的原有單位有直接的聯(lián)系，計量單位不同，彼此不能直接比較計量單位不同的解釋變量對被解釋變量的影響大小。 為此，在比較被解釋變量對各個解釋變量的敏感性時，可以將偏回歸系數(shù)轉(zhuǎn)換為 Beta系數(shù) ，其 定義 如下： kjyxss jjYXjjj,2,1 ??? 22??????? ???3. 標(biāo)準(zhǔn)化系數(shù) (Beta系數(shù) ) 特別的 對二元回歸模型： 兩邊減去 得到： 變形： 進(jìn)行變量的標(biāo)準(zhǔn)化變換， 因為 所以 則 iXiXXiXYiY SXXSSXXSSYYS ??? ???????2211222?111?iiii eXXY ???? 22110 ??? ???iiiii eXXXXYY ?????? )(?)(? 222111 ??22110 ??? XXY ??? ???iXiYXXiYXYi S XXSSS XXSSS YY ??? ????????2211 222111 ??11111*1XiXii SxS XXX ???2212*22 XiXii SxS XXX ???YiYii SyS YYY ???*iiii eXXY ???? *2*2*1*1* ?? ??22111*1 ???1yxSS iYX???? ??? 22222*2 ???2yxSS iYX???? ???，我們就說把這個變量標(biāo)準(zhǔn)化了。標(biāo)準(zhǔn)化變量其均值總是 0，標(biāo)準(zhǔn)差總是 1。 ，截距項總是 0，是一個過原點(diǎn)的回歸。 Beta系數(shù)可解釋為，如果標(biāo)準(zhǔn)化回歸元增加一個單位的 標(biāo)準(zhǔn)差 ，則標(biāo)準(zhǔn)化回歸子平均增加 單位個 標(biāo)準(zhǔn)差 。度量變量影響以其標(biāo)準(zhǔn)差作為單位。 注意： *j?? beta系數(shù)作為各個回歸元相對解釋力的一種度量，通過將回歸元標(biāo)準(zhǔn)化，可以將其放在同等地位并直接進(jìn)行比較。 如果一個標(biāo)準(zhǔn)化回歸元的系數(shù)比模型中另一個標(biāo)準(zhǔn)化回歸元的系數(shù)大，那么前者就能比后者更多地解釋回歸子。 注意： 本章要點(diǎn) 多元線性回歸模型 多元線性回歸模型的概念 多元線性回歸模型的參數(shù)估計 多元線性回歸模型的統(tǒng)計檢驗 非線性回歸模型 第三節(jié) 多元線性回歸模型的統(tǒng)計檢驗 重點(diǎn)： t檢驗與模型整體顯著性 F檢驗的關(guān)系 3. F檢驗與擬合優(yōu)度之間的關(guān)系 第三節(jié) 多元線性回歸模型的統(tǒng)計檢驗 一、模型的擬合優(yōu)度檢驗 二、偏回歸系數(shù)的顯著性檢驗 三、模型總體線性顯著性檢驗 一、模型的擬合優(yōu)度檢驗 設(shè)估計的多元樣本線性回歸函數(shù)為 則帶殘差項的多元樣本線性回歸模型為 則 kikiii XXXY ???? ?????? ?22110 ???ikikiii eXXXY ?????? ???? ?22110 ???iii eYY ??? YeYYYiii ?????1．總離差平方和分解 總離差平方和 iiii eYYeYY )(2)(22 ??????? ?? ?021 ????????? iikiiiii eXeXeXe ?由最小二乘法知 iiiii eYeYeYY ???????? )(0????22110?????????????iikkiiiiiiieXeXeXeeY???? ?因此 222 )?()( iii eYYYY ???????222 )()()(iiiii eYYYeYYY ????????????回歸平方和與殘差平方和 222 ?iii yey ?????記成 TSS = RSS + ESS 22 )( YYyT S S ii ?????22 )?(? YYyE S S i ???? ?? ???? 22 ? ）（ iii YYeR S S總離差平方和 回歸平方和 殘差平方和 2．判定系數(shù) 用回歸平方和 （ ESS） 占總平方和 （ TSS） 的比重作為衡量模型對樣本擬合優(yōu)度的指標(biāo) ， 稱為 多元判定系數(shù) ，用符號 R2表示： 顯然 ， ， 并且當(dāng) 越接近于 1時 ， 越接近于0；因此 ， R2的值越接近 1， 則表明模型對樣本數(shù)據(jù)的擬合優(yōu)度越高 。 2222222222 1?)()(iiiiiiiiiyeyeyyyYYYYT S SE S SR?????????????????? ?10 2 ?? R 2R 2ie?回歸平方和分解 用式： 減式： 得： 由于 于是 因此 kikiii XXXY ???? ????? 22110 ????? ?kk XXXY ???? ???? 22110 ????? ?kikiikkikiiiixxxXXXXXXYYy?????????)(?)(?)(???2211222111??????????????kikiiiiiiiiiiiixxxyyyYYyYYYYYYe??? ????)(2211 ???????????????????ikikiiiiiikikiiiiikikiiiiiyxyxyxyyxxxyyexxxyee????????????????????????????????????)???()???(12112221122112????ikikiiiiiii yxyxyxeyy ??????????? ? ??? ???? 12211222 ? 在多元回歸中 R2是模型中解釋變量個數(shù)的非減函數(shù)，也就是說，隨著模型中解釋變量個數(shù)的增加， 的值通常都會變大。為了得到擬合優(yōu)度較高的模型，似乎加入更多解釋變量是合理選擇，但是在建立計量經(jīng)濟(jì)模型時，隨著解釋變量個數(shù)的增加，待估計的參數(shù)也會增多，由此造成樣本自由度減少，模型參數(shù)估計的準(zhǔn)確性下降。 注意： 因此，在多元回歸模型中，僅僅依據(jù) R2對模型作比較和選擇會產(chǎn)生問題，在增加新的解釋變量時，必須對由其帶來的模型自由度下降這一 “ 負(fù)面影響 ” 而做出 “ 懲罰 ” ，因此，需要對 R2作出相應(yīng)的修正。 注意： : 在一元回歸中判定系數(shù)為 由于 于是 21222122212221222?????iiiiiiiii yxyyxxxyyxyxyyR??????????????????? ????ikikiiiiiii yxyxyxeyy ??????????? ? ??? ???? 12211222 ?2112??iikikiiyyxyxR?????? ?? ?校正的辦法 將 中的第二項乘一個不小于 1的因子 ， 若方程中解釋變量個數(shù) k大 ， 所乘因子也大；在樣本容量一定的情況下 ， 由于 RSS的自由度 nk1隨著解釋變量個數(shù) k的增大而減少 。 如果用自由度去校正所計算的變差平方和 ， 就可以克服因為解釋變量個數(shù)不同而引起的判定系數(shù)對比的困難 。 因此定義 為校正判定系數(shù) 。 222 1iiyeR????111)1/()1/(122222???????????????knnyenykneRiiii 的聯(lián)系 22與RR11)1(1 22??????knnRR)1)(11(1111 2222 RknnyeknnRii ?????????????11