【文章內(nèi)容簡(jiǎn)介】 計(jì)值為Y的線性組合。２．估計(jì)值是回歸系數(shù)向量Ｂ的無偏估計(jì)量。回歸系數(shù)向量估計(jì)值的數(shù)學(xué)期望　　?。健　　。健　　。剑剑隆　　　　　　　　　　　　　　　　　　　　】梢娛牵碌臒o偏估計(jì)。３．回歸系數(shù)向量估計(jì)值具有最小方差性回歸系數(shù)向量估計(jì)值的協(xié)方差因?yàn)椋剑隆　　　　。焦剩? = = = 式中矩陣主對(duì)角線上的元素為回歸系數(shù)向量估計(jì)值的方差，其余元素為回歸系數(shù)向量估計(jì)值的協(xié)方差?？梢宰C明，回歸系數(shù)向量估計(jì)值具有最小方差性，此處從略 多元線性回歸模型的檢驗(yàn) ? 常用的檢驗(yàn)方法有? ? ? 3. t檢驗(yàn)法? 。 在建立多元線性回歸模型的過程中，為進(jìn)一步分析回歸模型所反映的變量之間的關(guān)系是否符合客觀實(shí)際，引入的影響因素是否有效，同樣需要對(duì)回歸模型進(jìn)行檢驗(yàn)。Ｒ檢驗(yàn)法是通過復(fù)相關(guān)系數(shù)檢驗(yàn)一組自變量與因變量y之間的線性相關(guān)程度的方法，又稱復(fù)相關(guān)系數(shù)檢驗(yàn)法。與一元線性回歸模型類似，可以通過對(duì)總變差的分解　　 得到多元線性回歸模型之R2的計(jì)算公式。上式右邊的第二項(xiàng)稱為回歸變差（或稱回歸平方和），回歸平方和反映了與之間的變差，這一變差由自變量的變動(dòng)而引起，是總變差中由自變量解釋的部分，它的大小反映了自變量的重要程度；等式右邊的第一項(xiàng)稱為剩余變差（或稱殘差平方和），它是由觀測(cè)或?qū)嶒?yàn)中產(chǎn)生的誤差以及其他未加控制的因素引起的，反映的是總變差中未因變量解釋的部分。即總變差=剩余變差+回歸變差與一元回歸分析一樣，也可以利用在總離差中所占的比重表示多元線性回歸模型的復(fù)可決系數(shù)。 　　　　　　它可以用來衡量因變量與自變量之線性相關(guān)關(guān)系的密切程度?！　　　　　　　　　　　　　　　　》Q為復(fù)相關(guān)系數(shù)。這里說明在y的總變差中，由一組自變量變動(dòng)所引起的變差所占的百分比；Ｒ則描述一組自變量與因變量y之間的線性相關(guān)程度。它們所體現(xiàn)是一組自變量對(duì)因變量的影響程度及其線性相關(guān)程度，所以，這里分別稱它們?yōu)閺?fù)可決系數(shù)和復(fù)相關(guān)系數(shù)。與相關(guān)系數(shù)檢驗(yàn)法一樣，復(fù)相關(guān)系數(shù)檢驗(yàn)法的步驟為：（１）計(jì)算復(fù)相關(guān)系數(shù)；（２）根據(jù)回歸模型的自由度n－m和給定的顯著性水平值，查相關(guān)系數(shù)臨界值表；（３）判別。在實(shí)際工作中，復(fù)相關(guān)系數(shù)的計(jì)算常用其簡(jiǎn)捷形式，如對(duì)于二元和三元的情形，其簡(jiǎn)捷形式分別如式所示： 　　　 由于是一個(gè)隨自變量個(gè)數(shù)增加而遞增的增函數(shù)，所以，當(dāng)我們對(duì)兩個(gè)具有不同自變量個(gè)數(shù)但性質(zhì)相同的回歸模型進(jìn)行比較時(shí)，就不能只用作為評(píng)價(jià)回歸模型優(yōu)劣的標(biāo)準(zhǔn)，還必須考慮回歸模型所包含的自變量個(gè)數(shù)的影響。因此，就需要定義一個(gè)經(jīng)過校正的，記為： 　　　　　　　這里，n－m是剩余變差的自由度，n－１是總變差的自由度。由此可見，中體現(xiàn)了自變量個(gè)數(shù)m的影響。根據(jù)上式可得與之間的關(guān)系式如下： ＝１－（１－）　　　　　　　從式可以看出：（１）當(dāng)m１時(shí)。說明中包含了自變量個(gè)數(shù)的影響，隨著自變量個(gè)數(shù)的增加，總是小于。（２）盡管總是非負(fù)的，但卻可能為負(fù)。若遇到為負(fù)數(shù)的情況，取值為零。２．Ｆ檢驗(yàn)Ｆ檢驗(yàn)是通過Ｆ統(tǒng)計(jì)量檢驗(yàn)假設(shè)：是否成立的方法。（１）Ｆ統(tǒng)計(jì)量。 　　　　　　　　　式中的m－１是回歸變差的自由度，n－m是剩余變差的自由度?？梢宰C明Ｆ統(tǒng)計(jì)量服從第一自由度為m－1，第二自由度為n－m的Ｆ分布。故對(duì)給定的顯著性水平，查Ｆ分布表可得臨界值。若Ｆ則否定假設(shè)，認(rèn)為一組自變量與因變量y之間的回歸效果顯著；反之，則不顯著。一般來講，回歸效果不顯著的原因有以下幾種：①　影響y的因素除了一組自變量之外，還有其他不可忽略的因素；②　y與一組自變量之間的關(guān)系不是線性的；③　y與一組自變量之間無關(guān)。這時(shí)，回歸模型就不能用來預(yù)測(cè)，應(yīng)分析其原因另選自變量或改變模型的形式。（２）Ｆ統(tǒng)計(jì)量與可決系數(shù)、相關(guān)系數(shù)的關(guān)系。從式中我們可以推導(dǎo)出三者的關(guān)系： 　　　　　　　　 　　　　　　　　同樣，Ｆ分布的臨界值與相關(guān)系數(shù)臨界值也具有上述等式關(guān)系。３．t檢驗(yàn)前述的R檢驗(yàn)和Ｆ檢驗(yàn)都是將所有的自變量作為一個(gè)整體來檢驗(yàn)它們與因變量y的相關(guān)程度以及回歸效果，而t檢驗(yàn)則是通過t統(tǒng)計(jì)量對(duì)所求回歸模型的每一個(gè)系數(shù)逐一檢驗(yàn)假設(shè)：是否成立的方法。（１）t統(tǒng)計(jì)量 　 　　　　　　式中為第j個(gè)自變量的回歸系數(shù)；是的樣本標(biāo)準(zhǔn)差。（２）t檢驗(yàn)的步驟①計(jì)算估計(jì)標(biāo)準(zhǔn)誤差對(duì)于二元和三元情形，估計(jì)標(biāo)準(zhǔn)誤差的簡(jiǎn)捷公式分別為　　　 　 ?、谟?jì)算樣本標(biāo)準(zhǔn)差，由式可知 　　　　　　　　　　式中為矩陣主對(duì)角線上的第j個(gè)元素。③　計(jì)算t統(tǒng)計(jì)量④　建立假設(shè)：若成立，則否定假設(shè)，說明對(duì)y有顯著影響；反之假設(shè)成立，被接受，說明對(duì)y無顯著影響，則應(yīng)刪除該因素。４．ＤＷ檢驗(yàn)（１）序列相關(guān)的概念及對(duì)回歸模型的影響序列相關(guān)是指數(shù)列的前后期相關(guān)。這里講的前后期相關(guān)，可以是只與前一期相關(guān)，也可以與前若干期都相關(guān)。最常見的是時(shí)差為一期的序列相關(guān)，又稱一階自相關(guān)?；貧w模型假設(shè)隨機(jī)誤差項(xiàng)之間不存在序列相關(guān)或自相關(guān)，即互不相關(guān)。若回歸模型不滿足這一假設(shè)，則稱回歸模型存在自相關(guān)，這時(shí)，若我們繼續(xù)使用最小二乘法估計(jì)參數(shù)，將可能產(chǎn)生下列嚴(yán)重后果：①估計(jì)標(biāo)準(zhǔn)誤差Ｓ可能嚴(yán)重低估的真實(shí)值；②樣本方差可能嚴(yán)重低估的真實(shí)值；③估計(jì)回歸系數(shù)可能歪曲的真實(shí)值；④通常的Ｆ檢驗(yàn)和t檢驗(yàn)將不再有效；⑤根據(jù)最小二乘估計(jì)量所作的預(yù)測(cè)將無效。（２）ＤＷ檢驗(yàn)法在序列相關(guān)中，最常見的是一階自相關(guān)，最常用的檢驗(yàn)方法是ＤＷ檢驗(yàn)法（DurbinWatson準(zhǔn)則）。定義ＤＷ統(tǒng)計(jì)量為： 　　　　　　　　　　　　其中：，是的估計(jì)量；因?yàn)榈淖畛跣蛱?hào)必須是１，所以分子求和公式必須從２開始。將式展開，得： 　　　　　　　　　在大樣本情況下，即n３０，可以認(rèn)為，所以上式可以寫成： 　　　　　　　是與的相關(guān)系數(shù)的估計(jì)量。當(dāng)與正相關(guān)時(shí)，；當(dāng)與負(fù)相關(guān)時(shí)，；若不存在自相關(guān)或相關(guān)程度很小時(shí)。從式（可以看出，ＤＷ值在０～４之間。根據(jù)ＤＷ統(tǒng)計(jì)量，檢驗(yàn)?zāi)Ｐ褪欠翊嬖谧韵嚓P(guān)，其步驟如下：①利用最小二乘法求回歸模型及殘差；②計(jì)算ＤＷ統(tǒng)計(jì)量；③確立假設(shè)，即假定回歸模型不存在自相關(guān)；④根據(jù)給定的檢驗(yàn)水平及自變量個(gè)數(shù)m從ＤＷ檢驗(yàn)表中查得相應(yīng)臨界值。，ＤＷ檢驗(yàn)的最大弊端是存在著無結(jié)論區(qū)域。無結(jié)論區(qū)域的大小與樣本容量n和自變量個(gè)數(shù)m有關(guān)，當(dāng)n一定時(shí)，m愈大，無結(jié)論區(qū)域也愈大；當(dāng)m一定時(shí)，n愈大，無結(jié)論區(qū)域就愈小。如果計(jì)算的ＤＷ統(tǒng)計(jì)量落到了無結(jié)論區(qū)域，那么，決策者就不能作出回歸模型是否存在自相關(guān)現(xiàn)象的結(jié)論。在這種情況下，解決的辦法是：（I）增加樣本容量，重新計(jì)算ＤＷ統(tǒng)計(jì)量，再進(jìn)行檢驗(yàn)；（II）調(diào)換樣本，利用新的樣本計(jì)算ＤＷ統(tǒng)計(jì)量，然后再進(jìn)行檢驗(yàn)；（III）利用其他方法進(jìn)行自相關(guān)性檢驗(yàn)。 ＤＷ檢驗(yàn)判別表　　　　　?。模字怠　　z驗(yàn)結(jié)果４dL﹤DW﹤40﹤DW﹤dLdu﹤DW﹤4 dudL﹤DW﹤du4－du﹤DW﹤4 dL否定假設(shè)，出現(xiàn)負(fù)自相關(guān)否定假設(shè)，出現(xiàn)正自相關(guān)接受假設(shè)，不存在自相關(guān)檢驗(yàn)無結(jié)論檢驗(yàn)無結(jié)論將上面ＤＷ檢驗(yàn)判別表繪成圖形如圖所示。　　 　f(d)　　　　　　　　　無自相關(guān)　　　　　　　　　　　　　　　　　　正　　　無　　　　　　　　　　　　　無　　　　負(fù)　　　　　　　　　自　　　結(jié)　　　　　　　　　　　　　結(jié)　　　　自　　　　　　　　　相　　　論　　　　　　　　　　　　　論　　　　相　　　　　　　　　關(guān)　　　域　　　　　　　　　　　　　域　　　　關(guān) d　　　　　　　?。啊?　dL dU 2 4－dU 4－dL 4 ?。模讬z驗(yàn)判別域（３）產(chǎn)生自相關(guān)的原因及補(bǔ)救辦法。當(dāng)檢驗(yàn)結(jié)果出現(xiàn)0﹤DW﹤dL和４dL﹤DW﹤4情況時(shí)，說明隨機(jī)誤差項(xiàng)相互獨(dú)立的假設(shè)不能成立，回歸模型存在自相關(guān)。在實(shí)際預(yù)測(cè)中，產(chǎn)生自相關(guān)的原因可能是：①忽略了某些重要的影響因素。由于許多經(jīng)濟(jì)變量往往存在自相關(guān)，把它們忽略之后，其影響將在誤差項(xiàng)中反映出來。②錯(cuò)誤地選用了回歸模型的數(shù)學(xué)形式。如果回歸模型的數(shù)學(xué)形式與所研究的變量之間的真實(shí)關(guān)系形式不一致，則值在時(shí)間上有可能相關(guān)。③隨機(jī)誤差項(xiàng)本身的確存在自相關(guān)。例如：戰(zhàn)爭(zhēng)、自然災(zāi)害或某些政策對(duì)一些經(jīng)濟(jì)變量的影響是有后效的，所以隨機(jī)因素本身可能存在自相關(guān)。針對(duì)上述三種情況，合適的補(bǔ)救辦法是：①把略去的重要影響因素引入回歸模型中來；②重新選擇回歸模型的形式；③增加樣本容量，改善數(shù)據(jù)的準(zhǔn)確性。 預(yù)測(cè)區(qū)間與一元回歸模型相似，多元回歸模型的預(yù)測(cè)值和預(yù)測(cè)區(qū)間計(jì)算步驟如下：（１）計(jì)算估計(jì)標(biāo)準(zhǔn)誤差（２）記預(yù)測(cè)點(diǎn)為，則預(yù)測(cè)值為：預(yù)測(cè)誤差的樣本方差為 （３）當(dāng)預(yù)測(cè)值的顯著性水平為時(shí)，多元線性回歸模型的預(yù)測(cè)區(qū)間為： ，n﹤３０　　　　　　 ，　　　　　　由于這里的是一個(gè)影響因素?cái)?shù)據(jù)向量，按公式（）計(jì)算較為復(fù)雜，故在實(shí)際預(yù)測(cè)中，一般運(yùn)用Ｓ代替近似地估計(jì)預(yù)測(cè)區(qū)間。 應(yīng)用實(shí)例 某快遞服務(wù)公司的經(jīng)理經(jīng)過分析，認(rèn)為雇員承擔(dān)的業(yè)務(wù)次數(shù)及投遞行程距離對(duì)工作時(shí)間有影響。對(duì)于如表所示給出的工作時(shí)間、投遞行程距離及業(yè)務(wù)次數(shù)的數(shù)據(jù)，試配合適當(dāng)?shù)幕貧w方程并進(jìn)行各種檢驗(yàn)；取顯著性水平＝，當(dāng)投遞行程距離為60公里, 業(yè)務(wù)次數(shù)為2次時(shí)，試估計(jì)雇員工作時(shí)間的預(yù)測(cè)區(qū)間。解：1．設(shè)工作時(shí)間為y，投遞行程距離為，業(yè)務(wù)次數(shù)為，并假設(shè)y與之間存在線性關(guān)系。表 多元線性回歸方程計(jì)算表編號(hào)工作時(shí)間為y投遞行程距離為業(yè)務(wù)次數(shù)為11004100001640093025032500915024031004100001640089041002100004200650135502250041002106802640041604967753562592255558665442251626039024369903810092706841090281004180549合計(jì)67800296745091234555942．建立二元線性回歸方程3．計(jì)算回歸系數(shù)列表計(jì)算有關(guān)數(shù)據(jù)，由計(jì)算結(jié)果得：＝＝　　　?。?＝　?。剑剑剑矗覚z驗(yàn)＝＝　當(dāng)＝，時(shí)，說明相關(guān)關(guān)系顯著。＝１－（１－）＝１－（１－）＝ 5．Ｆ檢驗(yàn)　當(dāng)時(shí)，說明回歸效果非常顯著。６．t檢驗(yàn)根據(jù)的計(jì)算有＝＝==＝＝＝＝＝＝=－==當(dāng)＝，因?yàn)榈慕^對(duì)值均大于，故拒絕假設(shè)，和。據(jù)此，可以斷言：投遞行程距離和投遞業(yè)務(wù)次數(shù)對(duì)該公司雇員工作時(shí)間有顯著影響。７．ＤＷ檢驗(yàn)?。模讬z驗(yàn)計(jì)算表編號(hào)1－23456786910合計(jì)67 =當(dāng)＝，時(shí)，查ＤＷ檢驗(yàn)表，因ＤＷ檢驗(yàn)表中，樣本容量最低是15，故取：，因ＤＷ統(tǒng)計(jì)量滿足DW=4－=表明回歸模型不存在自相關(guān)。綜合上述模型估計(jì)和各項(xiàng)檢驗(yàn)結(jié)果可以認(rèn)為：　　　?。ǎ?() () 是一個(gè)較為優(yōu)良的回歸模型，可以用來預(yù)測(cè)。８．預(yù)測(cè)區(qū)間設(shè)預(yù)測(cè)點(diǎn)為，則其預(yù)測(cè)值為：(小時(shí))預(yù)測(cè)區(qū)間為==即:當(dāng)業(yè)務(wù)次數(shù)為2次，投遞行程距離為60公里時(shí)，有95％～。 虛擬變量回歸預(yù)測(cè) １．虛擬變量品質(zhì)變量不像數(shù)量變量那樣表現(xiàn)為具體的數(shù)值。它只能以品質(zhì)、屬性、種類等形式來表現(xiàn)。要在回歸模型中引入此類品質(zhì)變量，必須首先將具有屬性性質(zhì)的品質(zhì)變量數(shù)量化。通常的做法是令某種屬性出現(xiàn)對(duì)應(yīng)于1，不出現(xiàn)對(duì)應(yīng)于0。這種以出現(xiàn)為１，未出現(xiàn)為０形式表現(xiàn)的品質(zhì)變量，就稱為虛擬變量。２．帶虛擬變量的回歸模型 常見的帶虛擬變量的回歸模型有以下三種形式： （1） 反映政府政策變化或某種因素發(fā)生重大變異的跳躍、間斷式模型。其模型的形式為 　　　　　　式中為因變量，為自變量，為虛擬變量，設(shè)為觀測(cè)值出現(xiàn)重大變異的年份，則的取值為：式定義的多元線性回歸模型可以寫成分段形式：其變化趨勢(shì)如圖所示。　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　 　　　　　　　　　　　　　　　　　　　　　 （２）具有轉(zhuǎn)折點(diǎn)的系統(tǒng)趨勢(shì)變化模型，其模型的形式為：　　　　　　　　　　式中：為虛