【正文】 第四節(jié) 非線性回歸模型 一、直接代換法 二、間接代換法 三、級數(shù)展開法 對于參數(shù)線性的模型，可以采用變量的直接代換，轉(zhuǎn)化為參數(shù)、變量均為線性的形式進(jìn)行估計。 嚴(yán)格意義上來講， OLS是針對參數(shù)、變量均線性的模型進(jìn)行估計，為什么基本假定只要求相對參數(shù)線性即可？ 第四節(jié) 非線性回歸模型 即使在參數(shù)線性回歸模型的約束下，回歸模型也可以有多種形式： 倒數(shù)模型 雙對數(shù)模型 半對數(shù)模型 多項(xiàng)式模型 所有這些模型的一個重要特征是，它們都是參數(shù)線性模型，或者通過簡單的代數(shù)處理轉(zhuǎn)化成參數(shù)線性模型，但變量卻不一定是線性的。 亦即 ， 檢驗(yàn)原假設(shè) ， 等價于檢驗(yàn) 這一虛擬假設(shè) 。 ?)1,( ?? knkF ?)1,( ??? knkFF ?)1,( ??? knkFF ?0H0HF檢驗(yàn)和判定系數(shù) R2關(guān)系 2211//1)1( RRkknT SSR SST SSE SSkknknR SSkE SSF???????????? 可以看出， F與 R2同向變化 ,當(dāng) 時 ， 當(dāng) R2 越大時 ， F值越大 ， 當(dāng) R2 趨向于 1時 ， F趨向于 。 即 根據(jù)數(shù)理統(tǒng)計中的定理可知 ， 因此 ， 利用 F統(tǒng)計量進(jìn)行總體線性顯著性檢驗(yàn) 22??iy? 22?ie?2?)(~? 222ky i ??? )1(~? 222 ??? kne i ??)1,( ～)1( ?2 2 ????? ?? knkFkne kyFiiF檢驗(yàn) ， 計算 F統(tǒng)計量的值； ， 查 F分布表得臨界值 ； ， 則拒絕 ， 即回歸模型是顯著成立 ， 這說明回歸模型中的解釋變量對被解釋變量是有共同影響 ， 也就是說 ， 回歸總體是顯著線性的 。 222 ? iii eyy ?????22?ieyR SSE SS???總體線性顯著性檢驗(yàn)的步驟 0: 210 ??? kH ??? ? kH ??? ,: 211 ? 至少有一個不為 0 K 個總體參數(shù)的假設(shè) 。 0:1 ?jH ?)1(2??? kntt j ? 0:0 ?jH ??若 j?第三節(jié) 多元線性回歸模型的統(tǒng)計檢驗(yàn) 一、模型的擬合優(yōu)度檢驗(yàn) 二、偏回歸系數(shù)的顯著性檢驗(yàn) 三、模型總體線性顯著性檢驗(yàn) 三、模型總體線性顯著性檢驗(yàn) 由于 Yi的總變差可以分解為兩部分 顯然 ， 模型的總顯著性越強(qiáng) ,說明模型中所有解釋變量對被解釋變量 Y的聯(lián)合影響程度越大 ， ESS在 TSS中所占比重就越大 ,故利用比值 對總體線性關(guān)系進(jìn)行推斷 。 H0： ?j=0 （ j=1,2…k ） H1： ?j?0 1,1??)?(???????jjjjjjj CESt ??????)1(2/ ?? knt?5．判斷： )1(2/ ??? kntt j ? 則拒絕 0:0 ?jH ? 接受 這是因?yàn)榻邮?H0的概率保證程度很大 ， 也就是說 ,接受 H1犯錯誤的概率很小；說明所對應(yīng)的解釋變量對被解釋變量 Y有顯著的線性影響 。 第三節(jié) 多元線性回歸模型的統(tǒng)計檢驗(yàn) 一、模型的擬合優(yōu)度檢驗(yàn) 二、偏回歸系數(shù)的顯著性檢驗(yàn) 三、模型總體線性顯著性檢驗(yàn) 二、偏回歸系數(shù)的顯著性檢驗(yàn) ： ：在 H0成立的條件下， tj 統(tǒng)計量的值。 222 1iiyeR????111)1/()1/(122222???????????????knnyenykneRiiii 的聯(lián)系 22與RR11)1(1 22??????knnRR)1)(11(1111 2222 RknnyeknnRii ?????????????111 2???????knkRknn111 2?????????knkRknkkn)1(1 22 Rkn kR ?????22 RR ?2R 2R由于是 k＞ 0 nk1＞ 0 1R2≥0 所以 即：校正的判定系數(shù) 不 大于一般判定系數(shù) 調(diào)整后的判定系數(shù)受哪些因素的影響 校正判定系數(shù)的特點(diǎn) ?因?yàn)?，? ，則由 02?R )1(1 222 Rkn kRR ?????)1(1 22 Rkn kR ????1)11(2?????? knkRknk111 2????????knkRknkknkRn ?? 2)1(12??nkR12??nkR 02?R?所以，當(dāng) 時 ， ， 這時就取 02 ?R。 如果用自由度去校正所計算的變差平方和 ， 就可以克服因?yàn)榻忉屪兞總€數(shù)不同而引起的判定系數(shù)對比的困難 。 注意： 因此，在多元回歸模型中，僅僅依據(jù) R2對模型作比較和選擇會產(chǎn)生問題，在增加新的解釋變量時，必須對由其帶來的模型自由度下降這一 “ 負(fù)面影響 ” 而做出 “ 懲罰 ” ，因此，需要對 R2作出相應(yīng)的修正。 2222222222 1?)()(iiiiiiiiiyeyeyyyYYYYT S SE S SR?????????????????? ?10 2 ?? R 2R 2ie?回歸平方和分解 用式： 減式： 得： 由于 于是 因此 kikiii XXXY ???? ????? 22110 ????? ?kk XXXY ???? ???? 22110 ????? ?kikiikkikiiiixxxXXXXXXYYy?????????)(?)(?)(???2211222111??????????????kikiiiiiiiiiiiixxxyyyYYyYYYYYYe??? ????)(2211 ???????????????????ikikiiiiiikikiiiiikikiiiiiyxyxyxyyxxxyyexxxyee????????????????????????????????????)???()???(12112221122112????ikikiiiiiii yxyxyxeyy ??????????? ? ??? ???? 12211222 ? 在多元回歸中 R2是模型中解釋變量個數(shù)的非減函數(shù)，也就是說，隨著模型中解釋變量個數(shù)的增加， 的值通常都會變大。 如果一個標(biāo)準(zhǔn)化回歸元的系數(shù)比模型中另一個標(biāo)準(zhǔn)化回歸元的系數(shù)大，那么前者就能比后者更多地解釋回歸子。度量變量影響以其標(biāo)準(zhǔn)差作為單位。 ，截距項(xiàng)總是 0，是一個過原點(diǎn)的回歸。 為此，在比較被解釋變量對各個解釋變量的敏感性時，可以將偏回歸系數(shù)轉(zhuǎn)換為 Beta系數(shù) ，其 定義 如下： kjyxss jjYXjjj,2,1 ??? 22??????? ???3. 標(biāo)準(zhǔn)化系數(shù) (Beta系數(shù) ) 特別的 對二元回歸模型： 兩邊減去 得到： 變形： 進(jìn)行變量的標(biāo)準(zhǔn)化變換， 因?yàn)? 所以 則 iXiXXiXYiY SXXSSXXSSYYS ??? ???????2211222?111?iiii eXXY ???? 22110 ??? ???iiiii eXXXXYY ?????? )(?)(? 222111 ??22110 ??? XXY ??? ???iXiYXXiYXYi S XXSSS XXSSS YY ??? ????????2211 222111 ??11111*1XiXii SxS XXX ???2212*22 XiXii SxS XXX ???YiYii SyS YYY ???*iiii eXXY ???? *2*2*1*1* ?? ??22111*1 ???1yxSS iYX???? ??? 22222*2 ???2yxSS iYX???? ???，我們就說把這個變量標(biāo)準(zhǔn)化了。 2．參數(shù)的置信區(qū)間 ～ N（ ， Cj+1， j+1 ） 進(jìn)行標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化得： 由數(shù)理統(tǒng)計定理可知： 所以，對于給定的置信度 1 ，由分布表可查得臨界值 使得 j?? j? 2?? ?1,0~21,1NCZjjjj????????j??)1(~)?(?????? kntESjtjj????2?t??? ????? 1)(22tttp?????? ?????? 1))?(??(22tEStpjjj即： ?????? ?? ?????? 1))?(??)?(??( 2/2/ jjjjj EStEStpj? ?偏回歸參數(shù) 的 100（ 1 ） %的置信區(qū)間為： ? ?)?(??),?(?? 2/2/ jjjj EStESt ???? ?? ???i?即以 100(1 )％的概率保證回歸參數(shù)屬于該區(qū)間內(nèi)。 特別地，對二元回歸模型而言： ? ?? ? ? ? ? ?? ?? ? ? ? ??? 22122221222221122221121122? ? ?? ???? ?? ? ? ???????????? xxxx xXXXXXXXX XXiiiiiiiiiiV a r1,12)?( ??? jjj CV a r ?? 1,1)?( ??? jji CSE ?? 1,12)?,?( ??? jiji CC o v ???jiC 1X)X( ??? ?? ? ? ? ? ?? ?? ? ? ? ??? 22122221212221122221122221? ? ?? ???? ?? ? ? ???????????? xxxx xXXXXXXXX XXiiiiiiiiiiV a ri??1．參數(shù)的估計誤差 可證明 22 )1()( ????? kneEi2)1( ???? knEee39。 三、多元線性回歸模型的基本假定 2?本章要點(diǎn) 多元線性回歸模型 多元線性回歸模型的概念 多元線性回歸模型的參數(shù)估計 多元線性回歸模型的統(tǒng)計檢驗(yàn) 非線性回歸模型 第二節(jié) 多元線性回歸模型的參數(shù)估計 重點(diǎn)： 第二節(jié) 多元線性回歸模型的參數(shù)估計 一、多元線性回歸參數(shù)的最小二乘估計 二、最小二乘估計量的數(shù)值性質(zhì) 三、最小二乘估計量的統(tǒng)計性質(zhì) 四、參數(shù)的估計誤差與置信區(qū)間 總體線性回歸模型 樣本線性回歸模型 OL