freepeople性欧美熟妇, 色戒完整版无删减158分钟hd, 无码精品国产vα在线观看DVD, 丰满少妇伦精品无码专区在线观看,艾栗栗与纹身男宾馆3p50分钟,国产AV片在线观看,黑人与美女高潮,18岁女RAPPERDISSSUBS,国产手机在机看影片

正文內(nèi)容

多元線性回歸模型分析一(編輯修改稿)

2025-06-19 23:12 本頁(yè)面
 

【文章內(nèi)容簡(jiǎn)介】 0)E ( x0)(Ettt????? 其所對(duì)應(yīng)的樣本矩條件分別為: ? ?? ???T1tT1tt10tt 0)xbb(yT1?T1?? ?? ?????T1tT1tt10tttt 0)xbby(xT1?xT1?? 可見(jiàn),與 OLS估計(jì)量的正規(guī)方程組是相同的。 ? 多元線性回歸模型矩估計(jì)的矩條件通常是這樣構(gòu)造的: 對(duì)于多元線性回歸模型 Y=Xβ+ε 兩邊分別左乘 ,即得到 X?εXX βXYX ?????)X βXE(Y)XE( ???上式稱為總體回歸方程的一組矩條件?,F(xiàn)在,我們隨 機(jī)抽取樣本,用樣本矩代替總體矩,得到: βXXn1YXn1 ????? 解此正規(guī)方程組即得參數(shù)的估計(jì)量,這種估計(jì)方法稱為矩估計(jì)。其參數(shù)估計(jì)結(jié)果與 OLS一致。 ? 樣本形式:用每個(gè)解釋變量分別乘以模型的兩邊,并對(duì)所有樣本點(diǎn)求和,即得到: ??????????????????????????????kiikikiikiiiikikiiiiikikiiixxxxxyxxxxxy)xxx(y)()(22112221122211????????????????YX?)XX( ??? ?? 對(duì)每個(gè)方程的兩邊求期望,有: ??????????????????????????????))(()())(()()(()(22112221122211kiikikiikiiiikikiiiiikikiiixxxxExyExxxxExyE)xxxEyE????????????????? 得到一組矩條件 ? 求解這組矩條件,即得到參數(shù)估計(jì)量 ? 與 OLS、 ML估計(jì)量等價(jià) ???????????????????????????kikikiikiiikikiiiikikiiixxxxxyxxxxxy)xxx(y)???()???(???22112221122211?????????????? 矩方法是工具變量方法 (Instrumental Variables,IV)和廣義矩估計(jì)方法 (Generalized Moment Method, GMM)的基礎(chǔ) ? 在矩方法中關(guān)鍵是利用了 ? 如果某個(gè)解釋變量與隨機(jī)項(xiàng)相關(guān),只要能找到 1個(gè)工具變量,仍然可以構(gòu)成一組矩條件。這就是 IV。 ? 如果存在> k+1個(gè)變量與隨機(jī)項(xiàng)不相關(guān),可以構(gòu)成一組方程數(shù)> k+1的矩條件。這就是 GMM。 kjxE jii ,2,1,0)( ????? 廣義矩估計(jì)中,矩條件的個(gè)數(shù)大于參數(shù)個(gè)數(shù),會(huì)出現(xiàn)什么問(wèn)題呢? 過(guò)度識(shí)別 ? 則必須想辦法調(diào)和出現(xiàn)在過(guò)度識(shí)別系統(tǒng)中相互沖突的估計(jì)。那如何解決呢? 廣義矩估計(jì)的思想是使得樣本矩與總體矩的加權(quán)距離(即馬氏距離)最小。主要是考慮到不同的矩所起的作用可能不同。 設(shè) 樣本矩/)R()1( )X, . . . ,X(X ?, 總體矩/)R()1( )M, . . . ,M(M ?, 其中 kR ? 則馬氏距離為: )MX()MX()(Q 1/ ???? ?? 參數(shù)?的 G M M 估計(jì)就是使得)(Q ?達(dá)到最小的??。 ? 注意: GMM估計(jì)是一個(gè)大樣本估計(jì)。在大樣本的情況下, GMM估計(jì)量是漸進(jìn)有效的,在小樣本情況下是無(wú)效的。所以,只有在大樣本情況下,才能使用 GMM方法進(jìn)行參數(shù)估計(jì)。 二、投影和投影矩陣 —— OLS估計(jì)的幾何性質(zhì) 獲得最小二乘估計(jì)以后,可以獲得下述最小二乘殘差 : Xbye ??將最小二乘估計(jì)的表達(dá)式代入,得到: yMyXXXXIyXXXXye ????????? ?? ])([)( 11其中定義的矩陣 在回歸分析中是非?;A(chǔ)和重要的。顯然,這個(gè)矩陣是對(duì)稱冪等矩陣: XXXXIM ???? ? 1)(MM ?? 2MM ? 其次,還有一些重要的性質(zhì)需要注意,例如對(duì)稱冪等矩陣的特征根非 0即 1(對(duì)稱矩陣的特征根均為實(shí)數(shù) ),因此矩陣具有性質(zhì):矩陣的跡等于矩陣的秩。 ? 顯然,矩陣 M的作用是,它乘積作用在某個(gè)向量 y上,就可以得到這個(gè)向量 y基于數(shù)據(jù)變量的最小二乘回歸的殘差向量,因此經(jīng)常將這個(gè)矩陣稱為 “殘差生成矩陣” (residual maker)。這里需要注意 M的定義和所作用的變量,是所作用變量關(guān)于 M定義中數(shù)據(jù)矩陣的回歸殘差。即 yeY ?MzeZ ?MweW ?M? 顯然, X基于自己的線性回歸的最小二乘殘差一定為零,則必然有 (即使驗(yàn)證也十分顯然 ): 0?XM? 根據(jù)此性質(zhì),我們來(lái)考察最小二乘估計(jì)的性質(zhì)。已知: eyeXby ???? ?? 這說(shuō)明最小二乘回歸將變量 y分解成為兩個(gè)部分,一個(gè)部分是擬合值 ,另一個(gè)部分是殘差 e,由于 bXy ??0)(? ???????? bXMYbXMYbXeye? 這說(shuō)明最小二乘回歸與殘差是正交的。因此,這樣的分解是正交分解,也就是說(shuō)最小二乘的擬合值向量和殘差向量是正交的 (意味著這兩個(gè)向量之間的夾角為垂角 )。這時(shí)也可以得到: yPyXXXXyMIeyy ????????? ? 1)()(?? 這里矩陣 也是一個(gè)對(duì)稱冪等矩陣,我們稱其為 投影矩陣 (project matrix),它是由矩陣 X構(gòu)成的,并且它如果乘積作用到向量 y上,則可以得到 y基于變量 X的最小二乘回歸的擬合值 。這也是向量 y在矩陣 X的各列生成的線性空間上的投影。 XXXXP ???? ? 1)(? 注釋:假設(shè) y在矩陣 X的各列生成的線性空間上的投影是 yp ,則 yp的定義是: bXy ~?Pb~ m in|||| ?? yy P且選擇 使得 ? 由于上述向量之間的模與最小二乘距離是一致的,因此投影值便是最小二乘估計(jì)的擬合值,即 又被稱為帽子矩陣。所以,因?yàn)?P,y?XbyP p ???yy?Xb~ ??? bXy P 為了更好地理解上述定義和公式,我們將一些有用的結(jié)論歸納為下述命題: 命題 1 在線性模型的最小二乘估計(jì)中,可以得到: ( 1) P+M=I(顯然) ( 2) PM=MP=0,即矩陣 P與 M是正交的。 證明:因?yàn)?P=IM,所以 PM=( IM) M=MM2=0 ( 3)矩陣 P具有自投影不變性,即 PX=X。 ( 4)向量 y可以通過(guò)投影進(jìn)行正交分解,即分解為投影和殘差: y=Py+My。 證明: y=Iy=( P+M) y=Py+My,投影和殘差是正交的 ( 5)平方和分解公式成立: 證明:因?yàn)? 所以 ( 6)殘差平方和可以表示為: 證明:因?yàn)?e=My,且 M是對(duì)陣冪等矩陣,所以 eeyyyy ????? ??IMMPPMPMP ???????? 22IMMPPMPMP ???????? 22eeyyyMMyyPyPyMMyyPPyyMMPPyyy??????????????????????)()()()()()()(yeeyee ?????yeeyyMyyMMyee ??????????( 7)殘差平方和也可以表示為: 證明:根據(jù)( 5)式,可得 而且可推知, 又因?yàn)?e=yXb,則有 bXyyyyXbyybXXbyyee ???????????????bXyyXbbXXbyybXybXyee ??????????????? )()(bXXbyyee ??????bXyyXbbXXb ???????bXyyyyXbyybXXbyy??????????????三、分塊回歸與偏回歸 ( partitioned regression and partial regression ) ? 通常在進(jìn)行線性回歸時(shí)我們假定了完全的回歸變量,但事實(shí)上我們只對(duì)其中的部分變量感興趣。這時(shí)我們就需要考慮將一部分變量從回歸變量中刪除所導(dǎo)致的結(jié)果。 ? 假設(shè)回歸方程中涉及到兩部分變量 X1和 X2,這時(shí)有: ? 由于 X=( X1, X2), k1 k2 εβXβXεβXy ?????
點(diǎn)擊復(fù)制文檔內(nèi)容
教學(xué)課件相關(guān)推薦
文庫(kù)吧 www.dybbs8.com
備案圖片鄂ICP備17016276號(hào)-1