多元線性回歸ppt課件-文庫吧在線文庫
【正文】 2211100)v a r (),c o v (),c o v ()v a r (??????????????????????????????????????????nnn假設(shè) 4: 向量 ? 有一多維正態(tài)分布，即 ),(~ 2 I0μ ?N暗含假設(shè) 假設(shè) 5：樣本容量趨于無窮時(shí) ， 各解釋變量的方差趨于有界常數(shù) ， 即n?∞ 時(shí) ， 假設(shè) 6：回歸模型是正確設(shè)定的 jjjiji QXXnxn ??? ?? 22 )(11 或 Qxx ??n1其中： Q為一非奇異固定矩陣，矩陣 x是由各解釋變量的 離差為元素組成的 n?k階矩陣 ???????????knnkxxxx?????1111x167。 多元線性回歸模型的參數(shù)估計(jì) 167。 可線性化的多元非線性回歸模型 167。),()2121?????????????????BBBAAaaaAABABnn?????????? ??矩陣有關(guān)定理 殘差平方和的矩陣表示為： 2 ? ?( ) ( )iQ e e e Y X Y X????? ? ? ? ??參數(shù)估計(jì)的實(shí)例 例 ： 在例 家庭收入 消費(fèi)支出 例中， ????????????????????????????????????????????5 3 6 5 0 0 0 02 1 5 0 02 1 5 0 010111111)(22121 iiinn XXXnXXXXXX ????XX 39。 0X βYX ??? )((E 稱為原總體回歸方程的一組 矩條件 ，表明了 原總體回歸方程所具有的內(nèi)在特征。 ? 樣本最小容量必須 不少于模型中解釋變量的數(shù)目 （包括常數(shù)項(xiàng)） ,即： n ? k+1 ? 因?yàn)?，無多重共線性要求： 秩 (X)=k+1 基本樣本容量 ? 從統(tǒng)計(jì)檢驗(yàn)的角度： n?30 時(shí)， Z檢驗(yàn)才能應(yīng)用； nk ? 8時(shí) , t分布較為穩(wěn)定 ? 一般經(jīng)驗(yàn)認(rèn)為 : 當(dāng) n?30或者至少 n?3(k+1)時(shí)，才能說滿足模型估計(jì)的基本要求。 )1/()1/(12?????nT S SknR S SR自由度：統(tǒng)計(jì)量可自由變化的樣本觀測(cè)值的個(gè)數(shù)，記為 df TSS： df＝ n－ 1 ESS： df＝ k RSS： df＝ n－ k－ 1 注意： df（ TSS)=df(ESS)+df(RSS) 定義： Adj(R2)的作用 消除擬合優(yōu)度評(píng)價(jià)中解釋變量的多少對(duì)擬合優(yōu)度的影響 對(duì)于 因變量 Y相同，而自變量 X個(gè)數(shù)不同 的模型， 不能用 R2直接比較擬合優(yōu)度，而應(yīng) 使用 Adj（ R2） 。 示例： 三、變量的顯著性檢驗(yàn)（ t檢驗(yàn)） ?目的： 檢驗(yàn) Y與某個(gè) Xj的線性關(guān)系在總體上是否成立或者 說 Xj對(duì) Y是否存在顯著影響 ?方法： t檢驗(yàn) 原假設(shè)和備擇假設(shè) ? 檢驗(yàn)?zāi)Ｐ?中 Xj對(duì)應(yīng)的系數(shù) ?j是否顯著 不為 0。 —— 冪函數(shù) 菲利普斯曲線（ Pillips cuves） ：通貨膨脹率（貨幣工資率）與失業(yè)率之間的關(guān)系。 為了進(jìn)行科學(xué)預(yù)測(cè)，還需求出預(yù)測(cè)值的 臵信區(qū)間 ，包括 E(Y0)和 Y0的臵信區(qū)間。 Adj(R2)與 R2的關(guān)系 *赤池信息準(zhǔn)則和施瓦茨準(zhǔn)則 * (AICamp。 ?增加解釋變量使得估計(jì)參數(shù)增加，從而自由度減小。 ? 如果存在＞ k+1個(gè)變量與隨機(jī)項(xiàng)不相關(guān)，可以構(gòu)成一組包含＞ k+1方程的矩條件。 似然函數(shù) ： )?()?(21))????((212122222211022)2(1)2(1),(),?(βXYβXYβ?????????????????????????eeYYYPLnXXXYnnnkikiiin??),(~ 2?βX iNY i 最大似然估計(jì) MLE： YXXXβ 1 ??? ?)(?參數(shù)的 MLE與參數(shù)的 OLSE相同 *矩估計(jì) * （ Moment Method， MM） OLS估計(jì)是通過得到一個(gè)關(guān)于參數(shù)估計(jì)值的 正規(guī)方程組 YXβX)X( ??? ?并對(duì)它進(jìn)行求解而完成的。 ?假設(shè) 2：隨機(jī)誤差項(xiàng) ?具有零均值 、 同方差和無序列相關(guān)性： E(?i)=0 Var (?i)=?2 i=1,2, … ,N Cov(?i, ?j)=0 i≠j i,j= 1,2, …,N ?假設(shè) 3：隨機(jī)誤差項(xiàng) ?與解釋變量 X之間不相關(guān)： Cov(Xji, ?i)=0 i=1,2, …,N ?假設(shè) 4： ?服從零均值、同方差、零協(xié)方差的正態(tài)分布 ?i~N(0, ?2 ) i=1,2, …,N 基本假設(shè)的矩陣表示 假設(shè) 1: n?(k+1)矩陣 X是非隨機(jī)的，且 X的秩 ?=k+1，即 X列滿秩 。 多元線性回歸模型
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1