多元線性回歸模型 (2)-文庫吧
2025-04-27 23:31 本頁面
【正文】 i=1,2,┅ ,k。 j= 1,2,┅ ,n 2022/5/27 18 （ 5） ?I服從正態(tài)分布 ?i~N(0, ?2 ) i=1,2, ┅,n 則 Yi~N(?0+?1X1i+?2X2i+┅ +?kXki,?2) i=1,2, ┅ ,n 第二節(jié) 最小二乘法 2022/5/27 20 對于： kikiiiiiXXYYYeβ?....β???110 ????????殘差為： k??? ?, . . . . ,?,? 10問題是選擇 ，使得殘差平方和最小。 kikiii XXXY β?...β?β?β?? 22110 ?????ni ,...,2,1?ikikiii eXXXY ?????? β?...β?β?β? 221102022/5/27 21 要使殘差平方和 : ? ? 2110210 β?....β??)β?,...,β?,?( ? ? ?????? kikiiik XXYeQ ??0?...,0?,0?10?????????kQ???為 最小 ， 則應(yīng)有： 2022/5/27 22 ????????????????????????????????????????????0)()?. . .??(2?. . .0)()?. . .??(2?0)1()?. . .??(2?110111011100kikikiikikikiikikiiXXXYQXXXYQXXYQ????????????即： 2022/5/27 23 ?????????????????????????????????????????ikikikikikiiiikikiiikikiYXXXXXYXXXXXYXXn21101121110110β......ββ.....β......βββ......ββ 化簡整理后我們得到如下 k+1個方程 （ 即 正規(guī)方程組 ） ： 2022/5/27 24 )39。( XX ?? 39。X Y即 : = ??????????????????????2112111.....................kiikikiikiiikiiXXXXXXXXXXn?????????????????kβ...ββ10????????????????????????????????????????ikiiinknkknYXYXYYYYXXXXXX...... ..................1...111212111211按矩陣形式 ， 上述方程組可表示為： YXXX ??? ??正規(guī)方程組 YX39。2022/5/27 25 — β 的 OLS估計量 則參數(shù)的最小二乘估計值為： YXXX ??? ? 1)(??2022/5/27 26 補(bǔ)充： 樣本容量問題 ： 是指從最小二乘原理出發(fā)，欲得到參數(shù)估計量，不管其質(zhì)量如何，所要求的樣本容量的下限。 n ≥ k+1 即樣本容量必須不少于模型中解釋變量的數(shù)目 （ 包括常數(shù)項(xiàng) ） 。 這就是最小樣本容量 。 一般經(jīng)驗(yàn)認(rèn)為，當(dāng) n ≥ 30或者至少 n ≥ 3（ k+1）時，才能滿足模型估計的基本要求。 第三節(jié) 最小二乘估計量 的特性 2022/5/27 28 一 、 線性性 證明： ? 令 A=（ X’X） 1X’ ? 由古典假定（ 4）， X1， X2， ┅ ， Xk是非隨機(jī)變量，所以矩陣 A是一個非隨機(jī)的（ k+1） n階常數(shù)矩陣。 AYYXXX ???? ? 1)(??則： 2022/5/27 29 UXXXUXXXXXXXUXXXXYXXX??????????????????????11111)()()()()()()(β? ???因?yàn)槎?、 無偏性 ???????????????)()())(()β?(11UEXXXUXXXEE證明： 2022/5/27 30 這表明 ， OLS估計量 是無偏估計量 。 ????????????????????????????????????????????kkk EEEEβ...ββ)?(......)?()?(?...??101010ββββββ即： 2022/5/27 31 ? ?? ? ?????? ???? ????? ??)?( EV a rβ? 這是一個 （ K+1） (K+1)矩陣 ， 其主對角線上元素即構(gòu)成 Var( ), 非主對角線元素是相應(yīng)的協(xié)方差 , 如下所示 : ??為求 Var( ),我們考慮： 三 、 最小方差性 （ 有效性 ） 2022/5/27 32 ???????????????)β?(...)β?,β?()β?,β?(............)β?,β?(...)β?()β?,β?()β?,β?(...)β?,β?()β?(1011010100kkkkkV arC ovC ovC ovV arC ovC ovC ovV ar下面推導(dǎo)此矩陣的計算公式。 ? ???????????????????????????????????kkkkE ββ?...ββ?ββ?ββ?...ββ?ββ?110011002022/5/27 33 由上一段的結(jié)果 ， 我們有： UXXX ???? ?? 1)(ββ? ? ? ? ? ? 11 UU ?? ????? XXXEXXX? ? ? ?? ?11 ?? ????? XXXUUXXXE? ?? ? ? ?? ????????????? ??????? ??????? ? ???? UUββββ 11 XXXXXXEE? ? ? ? 121 ?? ???? XXXIXXX n?? ? ? ? 211 ??? ???? XXXXXX? ? 21 ???? XX因此： 2022/5/27 34 21)()β( ??? ??? XXC o vVa r 如前所述 ， 我們得到的實(shí)際上不僅是 的方差 ，而且是一個方差 協(xié)方差矩陣 ， 為了反映這一事實(shí) ， 我們用下面的符號表示之： ??211011010100)()β()β,β()β,β(............)β,β(...)β()β,β()β,β(...)β,β()β(????????????
電大資料相關(guān)推薦
鄂ICP備17016276號-1