【正文】 這就是僅以 X1作為解釋變量時(shí)的參數(shù)估計(jì)量 由分部回歸法導(dǎo)出 ? 如果一個(gè)多元線性模型的解釋變量之間完全正交，可以將該多元模型分為多個(gè)一元模型、二元模型、 … 進(jìn)行估計(jì)，參數(shù)估計(jì)結(jié)果不變； ? 實(shí)際模型由于存在或輕或重的共線性，如果將它們分為多個(gè)一元模型、二元模型、 … 進(jìn)行估計(jì)，參數(shù)估計(jì)結(jié)果將發(fā)生變化； 。 也 就 是 當(dāng) 時(shí) ,如果某個(gè)自變量的顯著性 P值在 與 之間 ,那么這個(gè)自變量將被引入 、 剔除 、 再引入 、 再剔除 …… 循環(huán)往復(fù) ,以至無窮 。這樣就避免了前進(jìn)法和后退法各自的缺陷 ,保證了最后所得的回歸子集是最優(yōu)回歸子集 。 引入一個(gè)變量或從回歸方程中剔除一個(gè)變量 ,為逐步回歸的一步 ,每一步都要進(jìn)行 F檢驗(yàn) ,以確保每次引入新的變量之前回歸方程中只包含顯著的變量 。 mXXX ?, 21出進(jìn) ＝ ???（ 3） 逐步回歸法 ?逐步回歸的基本思想是有進(jìn)有出 。 如果有些自變量不太重要 ,一開始就不引入 ,就可減少一些計(jì)算量；再就是一旦某個(gè)自變量被剔除 ,“ 一棍子就把它打死了 ” ,它再也沒有機(jī)會(huì)重新進(jìn)入回歸方程 。 ?而且 ,我們?cè)谠S多例子中會(huì)發(fā)現(xiàn)可能最先引入的某個(gè)自變量 ,當(dāng)其他自變量相繼引入后 ,它會(huì)變得對(duì)因變量 y很不顯著 。 ? )1,1( ??? mnFF mj ?1?mjF)1)1(,1(1 ????? mnFF mj ?)1,1( ?? pnF ??前進(jìn)法可能存在這樣的問題 ,即不能反映引進(jìn)新的自變量后的變化情況 。設(shè)對(duì) m個(gè)回歸系數(shù)進(jìn)行 F檢驗(yàn) ,記求得的 F值為 ?選其最小者記為 },{ 21 mmmm FFF ?},m i n { 21 mmmmmj FFFF ???給定顯著性水平 ， ?則首先將 Xj從回歸方程中剔除 ,為方便 ,設(shè) Xj就是 Xm, ?接著對(duì)剩下的 m1個(gè)自變量重新建立回歸方程 ,進(jìn)行回歸系數(shù)的顯著性檢驗(yàn) ,像上面那樣計(jì)算出 ,如果又有 ,則剔除 Xj,重新建立y關(guān)于 m2個(gè)自變量的回歸方程 ,依此下去 ,直至回歸方程中所剩余的 p個(gè)自變量的 F檢驗(yàn)值均大于臨界值 ,沒有可剔除的自變量為止 。這時(shí) ,得到的回歸方程就是最終確定的方程。 具體做法是首先將全部 m個(gè)自變量 ,分別對(duì)因變量 y建立 m個(gè)一元線性回歸方程 ,并分別計(jì)算這 m個(gè)一元回歸方程的 m個(gè)回歸系數(shù)的 F檢驗(yàn)值 ,記為 , ?選其最大者記為 },{ 11211 mFFF ?},m a x { 112111 mj FFFF ?? ?給定顯著性水平 α ，若 ?則首先將 引入回歸方程 ,為了方便 ,設(shè) 就是 ?再對(duì)因變量 y分別與 ?建立 m1個(gè)二元線性回歸方程 ,對(duì)這 m 1個(gè)回歸方程中的回歸系數(shù)進(jìn)行 F檢驗(yàn) ,計(jì)算 F值 ,記為 ?選其最大的記為 )2,1(1 ?? nFF j ?jX1X),(,),(),( 13121 mXXXXXX ?jX},{ 22322 mFFF ?},m a x { 223222 mj FFFF ??mXXX , 32 ??若 則接著將 引入回歸方程 ?依上述方法接著做下去。選擇 作為 的估計(jì)值 。 如何選擇 是一個(gè)復(fù)雜的問題， ? Hoerl和 Kennard于 1975年提出一種估計(jì)方法。 ? )](?[ ?βE?)](?[ ?βV ar)](?[ ?βVar)?(βVar?也就是說，運(yùn)用嶺回歸估計(jì)參數(shù)是犧牲了無偏性 來尋求參數(shù)估計(jì)的最小方差性。當(dāng) 時(shí)，所有 的系數(shù)估計(jì)值都向零趨近。從而，有效地 避免了因 ≈0造成的方差變大。 2R2R引進(jìn)新解釋變量進(jìn)入回歸方程時(shí)，注意： 設(shè)一個(gè)多元線性回歸模型為 普通最小二乘估計(jì)的公式為 當(dāng)解釋變量間存在嚴(yán)重的多重共線性時(shí) ， 矩陣 接近于奇異 , 。（說明它可以用其它變量的線性組合代替） （ 3）如果新解釋變量能使擬合優(yōu)度有所改變， 提高 ，但 對(duì)其它參數(shù)的符號(hào)和數(shù)值有明顯的影響，統(tǒng)計(jì)檢驗(yàn)也不顯著 ，可以判定 新解釋變量引起了共線性 。 （ 1）如果新解釋變量在符合經(jīng)濟(jì)意義的前提下，能使 擬合優(yōu)度 有所 提高 ，并且 每個(gè)參數(shù)統(tǒng)計(jì)檢驗(yàn)顯著 ，則 采納該變量。 基本步驟： 將被解釋變量 Y對(duì)每一個(gè)解釋變量Xj(j=1,2, … k)分別進(jìn)行 回歸 ， 對(duì)每一個(gè)回歸方程根據(jù)經(jīng)濟(jì)理論和統(tǒng)計(jì)檢驗(yàn)進(jìn)行綜合判斷分析 ，從中 選出一個(gè)最優(yōu)的基本回歸方程 。 例如，某商品的需求函數(shù)為 iiii uXXY ???? 22110 lnlnln ???若 和 很高度正相關(guān)， iX1 iX2 先根據(jù)截面數(shù)據(jù)估計(jì)出 參數(shù) ， 然后再根據(jù)估計(jì)的對(duì)原模型作變換： 1?iii uXY ???? 220 ln??iii XYY 11 ln?ln ????再利用原來的時(shí)間序列數(shù)據(jù)估計(jì)出 ， 前提條件， 就是 在整個(gè)時(shí)期的波動(dòng)不大 。 間接剔除重要的解釋變量 iiii uXXY ???? 22110 ???1X 2X2? 1?12 ?? ?iiii uXXY ???? )( 2110 ??iii XXZ 21 ??iii uZY ??? 10 ??⑴ 利用附加信息 再如： 生產(chǎn)函數(shù) ， L與 K通常高度相關(guān)， 若已知附加信息： α +β =1 （規(guī)模報(bào)酬不變） ??? eKALY ?或 ??? )(1LKALKALY ?? ? ?)( LKALY ?記 y=Y/L , k=K/L 則 CD生產(chǎn)函數(shù)可以表示成 : y=Akβ ， 此時(shí)二元模型轉(zhuǎn) 化成一元模型 ， 可利用 OLS法估計(jì) ，進(jìn)而得到 ??,?A?? ?1? ??則 間接剔除重要的解釋變量 （ 2）變換模型的形式 ① 變換模型的 函數(shù) 形式： 如將線性模型轉(zhuǎn)換成雙對(duì)數(shù)模型、半對(duì)數(shù)模型、多項(xiàng)式模型等； ②變換模型的 變量 形式 例如，某種商品的需求函數(shù)為： 如果只要求知道兩種商品的相對(duì)價(jià)格（ ）變動(dòng)對(duì)需求量的影響，并不一定要求分析商品價(jià)格的絕對(duì)變動(dòng)對(duì)需求量的影響，則可把需求函數(shù)變換為： ③改變變量的統(tǒng)計(jì)指標(biāo) 例如：消費(fèi)函數(shù)： 可變換為 與 的相關(guān)程度遠(yuǎn)小于 與 的相關(guān)程度。 例如， 消費(fèi)函數(shù)模型為 容易理解，收入 和財(cái)產(chǎn) 之間是高度相關(guān)的， 所以模型存在多重共線性。關(guān)鍵是能否獲得另一個(gè)樣本 。 例如： 增加樣本容量 ， 可使參數(shù)估計(jì)量的方差減小 ， 因?yàn)椋? 此外 ， 獲取新的樣本 ， 或許有助于消除多重共線性 。如果建立模型的目的是進(jìn)行預(yù)測(cè)，就可以忽略多重共線性。 從而 兩種理解：如果特征值之和反映對(duì)被解釋變量解釋程度，倒數(shù)之和反映引起估計(jì)量方差的比重。因此，可以利用的特征值來檢驗(yàn)?zāi)Ｐ偷亩嘀毓簿€性 （ 2） 條件指數(shù) （ Condition Index） 將 矩陣的每一列