【正文】 d42029e444b4fd2a2e5519415cc2aed7 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財(cái)經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 18 of 44 將 Xt 從模型中剔除而重新建立模型，得到的估計(jì)方 程為： Yt=++ 第三十二課 注意到新的估計(jì)方程式并不是從原來(lái)的方程式中單純剔除 Xt 項(xiàng)而獲得，新的估計(jì)方程式也必須重新進(jìn)行完全的 F檢驗(yàn)與部分的 T 檢驗(yàn)，結(jié)果顯示余下的變量應(yīng)當(dāng)保留在模型中。由于具有 N個(gè)方程來(lái)概括回歸模型： NtXXXY tktkttt ,2,1,22110 ?? ??????? ????? () 模型的相應(yīng)矩陣方程表示為： 錯(cuò)誤 !未定義書簽。 The SAS System Model: MODEL1 Dependent Variable: SALES Analysis of Variance Sum of Mean Source DF Squares Square F Value ProbF Model 2 Error 10 C Total 12 331695000 Root MSE Rsquare Dep Mean Adj Rsq . Parameter Estimates Parameter Standard T for H0: Variable DF Estimate Error Parameter=0 Prob |T| INTERCEP 1 ADVLAG1 1 ADVLAG2 1 d42029e444b4fd2a2e5519415cc2aed7 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財(cái)經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 19 of 44 ????????????????????????????????????????????????????????????NkkNNkkN XXXXXXXYYYY???????? ?????????2110121211121,111, () 其中 ,Y為因變量觀察的 N列向量， X為自變量觀察的 N (k+1) 矩陣， ?為末知參數(shù)的 (k+1) )列向量， ? 為誤差觀察的 N 列向量。矩陣 X 的每一列表示相應(yīng)的給定變量的 N 次觀察的向量，與截矩有關(guān)的所有觀察值都等于 1。 根據(jù) X 的秩為 (k+1) 的假定，可以保證不會(huì)出現(xiàn)共線性。除了正態(tài)性外，我們還假定每一個(gè)誤差項(xiàng)的平均值為 0，方差為常數(shù)， 以及協(xié)方差為 0 。 矩陣能夠保證逆變換，這是因?yàn)槲覀兗僭O(shè) X的秩為 (k+1),該假設(shè)直接導(dǎo)致了 XX? 的非奇異性。 最小二乘法殘差有一個(gè)有益的特性，即： ? ? 0??? ????????? ??? XXYXXYXX () 這個(gè)結(jié)果說(shuō)明自變量和殘差的交叉乘積的總和為 O，這個(gè)公式在一些推導(dǎo)中是非常有用的。首先可以證明它們是無(wú)偏估計(jì)量。 ? ? ? ? ? ?? ? 1211 ])?)(?[( )?(??????????????XXXXXEXXXEV ar???????? () 我們看到，最小二乘法估計(jì)量為線性和無(wú)偏估計(jì)量。為了證明高斯－馬爾可夫定理，我們需要證明，任何其他線性估計(jì)量 b 的方差比 ?? 的方差大。為了不失去一般性，我們可寫成： ?? )()()( CAXCAYCAb ?????? () 假如 b 是無(wú)偏的，則： ? ? ? ?? ???????????? ? 1CXICXXXXXbE () 式 ()成立的一個(gè)必要和充分的條件是 0?CX ，這樣就可以研究矩陣 )(bVar 。該矩陣的二次型為 0，只有當(dāng) C ＝ 0（所有元素為 0）時(shí)才出現(xiàn)。 九、 2? 的估計(jì)和 t檢驗(yàn) 為了計(jì)算估計(jì)參數(shù)的方差－協(xié)方差矩陣，我們需要給出 2? 的估計(jì) 量，該估計(jì)量自然選為： 1??2 ???? kNs ?? () 證明 2s 為 2? 的一個(gè)無(wú)偏估計(jì)量，雖很單調(diào)冗長(zhǎng)，但不困難。當(dāng) 2? 為已知時(shí)，可用正態(tài)分布假設(shè)檢驗(yàn)。為此，我們利 用以下的統(tǒng)計(jì)結(jié)果： ? 若 2? 已知，則2?? ????服從 2? 分布，具有 N－ k－ 1 個(gè)自由度； ? 錯(cuò)誤 !未定義書簽。 ，當(dāng) i=0， 1， 2,?， k時(shí)，服從正態(tài)分布，平均值為 0，方差為 iv2? ，其中 vi 為 ? ?1??XX 的第 i 個(gè)對(duì)角線元素； ? 錯(cuò)誤 !未定義書簽。 由此得出： d42029e444b4fd2a2e5519415cc2aed7 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財(cái)經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 22 of 44 )1(~? ????? kNtvstiiikN ?? () 該式為 t分布，具有 (Nk1)個(gè)自由度。假如 t值的絕對(duì)值相當(dāng)大，就可以在適當(dāng)選定的置信水平上否定原假設(shè)，參數(shù)的 ??1 置信區(qū)間可由下式得出： ii vst 2/? ?? ? () 其中， 2/?t 為與 %? 顯著水平有關(guān)的 t分布臨界值。為了簡(jiǎn)化公式推導(dǎo)過(guò)程，首先我們假定 Y 變量具有 0 平均值，即 Y =0，則有： ????????????????????)??()??()()()( 21?????????????????????? ??XXXXXXYYYYYYYYTSS iiNii () 由于 0????X 和 0? ??X? ，因此： ES SRSS XXT SS ?? ????? ???? ???? () 式中 TS 為總平方和， RS 為回歸（已說(shuō)明）平方和， ES 為殘差（未說(shuō)明）平方和，歸納成回歸方差分析表，見(jiàn)表 。這樣， ????Ni iii YNYy 11 d42029e444b4fd2a2e5519415cc2aed7 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財(cái)經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 23 of 44 由此可以得出： ?? ?????????? Ni iNYNYYyy 1 2 () 和 yyNYNXXT SSR SSRNii???????????? ?? 122?? ?? () 注意到一個(gè)數(shù)學(xué)上的事實(shí)：隨著模型中增添新 的變量， 2R 必定會(huì)增加，從而只要給模型增添越來(lái)越多的新因素，就可能使得 2R 人為地增大。我們應(yīng)該知道一個(gè)好的多元回歸模型，應(yīng)是具有合理個(gè)數(shù)的有意義自變量的簡(jiǎn)單模型。我們定義 2R 為修正的 2R ，它校正擬合優(yōu)度對(duì)自由度的依賴關(guān)系，如下式所示： ? ?? ?? ?? ? )1(11111122RkN NNTS SkNE S SR??? ???????? () 現(xiàn)在就可以考慮對(duì)回歸系數(shù)集的統(tǒng)計(jì)檢 驗(yàn)。合適的 F 統(tǒng)計(jì)量為： kkNRRkNR kRF kNk 11)1/()1( / 22221, ?????????? () 具有 k和 N－ k－ 1自由度。 一一、 reg 回歸過(guò)程 在 SAS/STAT 中有多個(gè)進(jìn)行回歸的過(guò)程，如 reg、 glm 等，常用于進(jìn)行一般線性回歸模型分析的為 reg過(guò)程。 model 因變量 =自變 量名列 /選項(xiàng)列表 ； d42029e444b4fd2a2e5519415cc2aed7 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財(cái)經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 24 of 44 var 變量列表； output out=數(shù)據(jù)集名 /選項(xiàng)列表 。 其中， model語(yǔ)句是必需要有的，其他語(yǔ)句都是可選的。 ? outsscp=SAS 數(shù)據(jù)集 —— 要求把平方和及叉積矩陣輸出到 type=sscp 的數(shù)據(jù)集中。 ? usscp—— 對(duì)用在該過(guò)程中的所有變量輸出平方和及叉積矩陣。 3. model 語(yǔ)句中的 選項(xiàng)列表 （ 1） 確定變量篩選辦法的選擇項(xiàng) ? selection =none | forward | backward | stepwise | maxr | minr | rsquare | cp | adjrsq 依次表示全部變量進(jìn)入法 none、前進(jìn)法 forward、后退法 backward、逐步篩選法 stepwise（前進(jìn)法與后退法的結(jié)合）、最大 R2增量法 maxr、最小 R2增量法 minr、 R2選擇法 rsquare、Mallow39。 （ 2） 其他選擇項(xiàng) 表 所示的是可在 model語(yǔ)句中選用的其他選項(xiàng)。 ? spec—— 進(jìn)行關(guān)于方差異性的檢驗(yàn)。 ? slstay | sls=剔除水平 —— 規(guī)定從方程中剔除變量的顯著性水平。 ? start＝ s—— 以含有 model語(yǔ)句中前 3個(gè)自變量的模型開(kāi)始，進(jìn)行比較、選擇過(guò)程（僅用于 maxr或 minr方法）。 ? p—— 要求計(jì)算各觀測(cè)點(diǎn)上因變量的預(yù)測(cè)值。 ? cli—— 給出各自變量 x0所對(duì)應(yīng)的因變量 y0 的 95％置信上、下限。 ? noint—— 指明回歸方程不帶截距項(xiàng)（常數(shù)項(xiàng)）。 ? covb—— 要求輸出回歸系數(shù)估計(jì)的協(xié)方差（陣）估計(jì)。 ? mse—— 要求輸出隨機(jī)擾動(dòng)項(xiàng)方差 2? 的 估計(jì) 2?? 。 ? collin—— 在對(duì)截距未進(jìn)行校正的情形下，診斷多重共線性，條件數(shù)越大越可能存在共線性。 ? tol—— 表示共線性水平的容許值。 tol越小說(shuō)明其可用別的自變量解釋的部分越多，自然就越可能與別的自變量存在共線性關(guān)系， tol與 vif互為倒數(shù)。 ? influence—— 要求對(duì)異常點(diǎn)進(jìn)行診斷。用于診