多元線性回歸模型分析一-全文預(yù)覽
【正文】 yzzzyMzzMz 11 )()()(c 這里 ?z 和?y是 z 和y基于 X 的最小二乘回歸的殘差向量。 y? 這個過程一般被稱為變量 X1作用的“擠出”或者“分離”過程。 獲得系數(shù)1β的分塊最小二乘估計(jì)1b的表達(dá)式 ( 2. 29 ) 以后， 將其代入到分塊估計(jì)矩陣中，可以得到： yXbXXbXXXXXXyXXXXX 222222111112111112 )()( ??????????? ?? 從中獲得2b的估計(jì)式為： )()(]))(([]))(([121212111112121111122yMXXMXyXXXXIXXXXXXIXb???????????????? 注意到我們曾經(jīng)討論過的矩陣1M的性質(zhì)，這是一種基于數(shù)據(jù)1X 回歸的“殘差生成算子”，它作用到某個向量上所獲得的便是這個 向量基于數(shù)據(jù)1X回歸的殘差向量。 ? 一種特殊情形是 ，這時， 正好是 y基于 X1的回歸系數(shù)。 ? 假設(shè)回歸方程中涉及到兩部分變量 X1和 X2，這時有： ? 由于 X=（ X1， X2）， k1 k2 εβXβXεβXy ????? 2211維維2121kk?????????????? 請問：根據(jù)模型 得到的 b1，是否與根據(jù)模型 得到的 b1相等？ εβXβXεβXy ????? 2211思考 ??? 11 βXy則有： ??????????????221221112121 )X,X()X,X(XXXXXXXXXX????????????yXyX2121 Y)X,X(YX? 從而，正規(guī)方程組 X ‘Y = X ’Xb變成： ? 從而得到 ?????????????????????????yXyXbbXXXXXXXX21212212211111211121222 )( ???? AAAAF??????????????????????????????yXyXXXXXXXXX21122122111121YXX)X(bbb ? 上述四塊矩陣可以通過下述分塊逆矩陣公式得到： 利用該公式可得到 ： ?????????????????????211121221211111121212111122211211 )(FAAFFAAAAFAIAAAAA11211121222 )( ???? AAAAF)()()()( 22111122111111111 bXyXXXbXXXXyXXXb ?????????? ???以上結(jié)果也可以直接計(jì)算得到： 由正規(guī)方程組 ?????????????????????????yXyXbbXXXXXXXX212122122111Y39。 證明：因?yàn)?P=IM，所以 PM=（ IM） M=MM2=0 （ 3）矩陣 P具有自投影不變性，即 PX=X。這時也可以得到： yPyXXXXyMIeyy ????????? ? 1)()(?? 這里矩陣 也是一個對稱冪等矩陣，我們稱其為 投影矩陣 (project matrix)，它是由矩陣 X構(gòu)成的，并且它如果乘積作用到向量 y上，則可以得到 y基于變量 X的最小二乘回歸的擬合值 。這里需要注意 M的定義和所作用的變量，是所作用變量關(guān)于 M定義中數(shù)據(jù)矩陣的回歸殘差。所以，只有在大樣本情況下，才能使用 GMM方法進(jìn)行參數(shù)估計(jì)。主要是考慮到不同的矩所起的作用可能不同。 ? 如果存在＞ k+1個變量與隨機(jī)項(xiàng)不相關(guān)，可以構(gòu)成一組方程數(shù)＞ k+1的矩條件。現(xiàn)在，我們隨 機(jī)抽取樣本，用樣本矩代替總體矩，得到： βXXn1YXn1 ????? 解此正規(guī)方程組即得參數(shù)的估計(jì)量，這種估計(jì)方法稱為矩估計(jì)。( )( ) ( ? ) ( ? )?? ? ? ? ?2122? ????Y X Y X? ?? ( )? ? ? ??X X X Y1附錄：矩估計(jì) (Moment Method,MM) ? 矩估計(jì)是基于實(shí)際參數(shù)滿足一些 矩條件 而形成的一種參數(shù)估計(jì)方法。即01???niie ( 2) 回歸超平面通過數(shù)據(jù)的均值點(diǎn)，即bx?y ( 3) 從回歸方程中獲得的擬合值的均值等于樣本觀測值的均值，即yy ?? 需要注意的是，上述命題成立的前提是線性模型中包含常數(shù)項(xiàng)，也就是第一個解釋變量是“啞變量”形式。接下來考察求極值充分條件。 uXY ?? ??? ? βXY其中： 殘差可用矩陣表示為： 殘差平方和 )()( ?? ???? YYYY)β()β( ?? ???? XYXY)β)(β( ?? ?????? XYXY???? ?????????? ββββ XXXYYXYY? ??????????????????? ?nnieeeeeeeeeQ. . .. . .21212注意到上式中所有項(xiàng)都是 標(biāo)量 ， 且 ?????? β)?( XYYX???????????? βββ2 XXYXYYQ0β)( ?????eeYXXX ??? ?βYXXX ??? ?? 1)(β與采用標(biāo)量式推導(dǎo)所得結(jié)果相同。( XX ?β39。 通常 ， 一定要假設(shè)在模型中有常數(shù)項(xiàng) ， 即盡量讓模型包含常數(shù)項(xiàng) ， 以中心化誤差 。 在下面的模型中： 這里 ， β 是可支配收入對消費(fèi)額的總影響 ， 顯然 β 和 β 2的含義是不同的 。 例： 其中 ， Ct=消費(fèi) ， Dt=居民可支配收入 Lt=居民擁有的流動資產(chǎn)水平 β 2的含義是 ， 在流動資產(chǎn)不變的情況下 ， 可支配收入變動一個單位對消費(fèi)額的影響 。 多元回歸分析 （ multiple regression analysis）是以多個解釋變量的固定值為條件的回歸分析 ， 并且所獲得的是諸變量 X值固定時 Y的平均值 。 （ 5） 球形擾動。 （ 3） 回歸性。 （ 1） 線性性 。 在研究中，我們根本無法了解式（ 1）所示的總體模型的特征，而只能通過樣本特征來近似考察。這樣的模型被稱為 多元線性回歸模型 。第三章 多元線性回歸模型 ** ? 多元線性回歸模型是我們課程的重點(diǎn) ，原因在于： 多元線性回歸模型應(yīng)用非常普遍； 原理和方法是理解更復(fù)雜計(jì)量經(jīng)濟(jì)學(xué)模型的基礎(chǔ)； 內(nèi)容較為豐富。 ? 所以，在線性回歸模型中的解釋變量有多個，至少開始是這樣。 線性回歸模型的意義在于把 Y分成兩部分：確定性部分和非確定性部分。 )1n(n21)1(21)n(nn1n22211111)1n(n21????????????????????????????????????????????????????????????????????????????kkkkjkjkjxxxxxxxxxyyy（ 3） 寫成一般形式為： Y = X ? + ? (4) 針對式（ 4），在這里主要講參數(shù)估計(jì)和統(tǒng)計(jì)推斷，但在此之前，我們要先回顧一下什么模型才是多元線性回歸模型，即了解線性回歸模型的 6大假設(shè)，這一點(diǎn)十分重要。 說明解釋變量之間是線性無關(guān)的，這一假設(shè)很重要，在后面會經(jīng)常受到。 x相對于 y是外生的，是非隨機(jī)的。 多元回歸方程及偏回歸系數(shù)的含義 稱為 多元回歸方程 （ 函數(shù) ） 。
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1