【文章內(nèi)容簡介】 非線性回歸模型為 ： y=b0*(1exp(b1*x) proc nlin method=gauss NonLinear Least Squares Grid Search Dependent Variable Y B0 B1 Sum of Squares NonLinear Least Squares Iterative Phase Dependent Variable Y Method: GaussNewton Iter B0 B1 Sum of Squares 0 1 2 3 4 NOTE: Convergence criterion met. NonLinear Least Squares Summary Statistics Dependent Variable Y Source DF Sum of Squares Mean Square Regression 2 Residual 18 Uncorrected Total 20 (Corrected Total) 19 Parameter Estimate Asymptotic Asymptotic 95 % Std. Error Confidence Interval Lower Upper B0 B1 Asymptotic Correlation Matrix Corr B0 B1 B0 1 B1 1 c7147b9288abe2b7cd5d14ba9c008f20 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟信息管理系 IS/SHUFE Page 11 of 20 )1(9 9 6 1 8 8 5 6 5 0 4 1 9 5 3 8 8 6 xey ??? 第三十五課 同時 ， 還給出 B0 和 B1 參數(shù)估計的漸近有效標(biāo)準差（ Asymptotic Std. Error） 和漸近 95%置信區(qū)間（ Asymptotic 95 % Confidence Interval）。最后 ， 還給出了參數(shù)的漸近相關(guān)陣（ Asymptotic Correlation Matrix） 。 主成分分析 六、 主成分的導(dǎo)出 主成分分析（ principal ponent analysis）是 1901 年提出，再由 Hotelling（ 1933）加以發(fā)展的一種統(tǒng)計方法。其主要目的是在于將許多變量減少，并使其改變?yōu)樯贁?shù)幾個相互獨立的線性組合形成的變量（主成分），而在經(jīng)由線性組合而得的成分之方差會變?yōu)樽畲螅沟迷?p 維資料在這些成分上顯示最大的個別差異來。用一句話來說，主成分分析是將多個變量化為少數(shù)綜合變量的一種多元統(tǒng)計方法。設(shè)有 n 組樣品，每組樣品有 p 個變量，記 n 組樣品數(shù)據(jù)見表 。 表 p 個變量的 n 組樣品數(shù)據(jù) 樣品號 變量 1 2 ? n 1X 2X ? pX 11x 21x ? 1nx 12x 22x ? 2nx 錯誤 !未定義書簽。 錯誤 !未定義書簽。 錯誤 !未定義書簽。 px1 錯誤 ! 未定義書簽。 ? 錯誤 !未定義書簽。 如果 p 個變量是相互獨立的，則可以將問題化為單變量逐個處理，這是比較簡單的。c7147b9288abe2b7cd5d14ba9c008f20 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟信息管理系 IS/SHUFE Page 12 of 20 但是對大量的實際問題中提出來的數(shù)據(jù)，各變量之間往往存在著不同程度的相關(guān)關(guān)系，這時要搞清這些數(shù)據(jù)之間的關(guān)系，就必須在高維空間中加以研究，這顯然是比較麻煩的，為了克服這一困難，一個很自然的想法就是采取降維的方法，也就是利用全部 p 個變量來重新構(gòu)造 q 個新的綜合變量（ pq? ） ， 并使得這些較少的變量既能盡可能多地反映原來 p 個變量的統(tǒng)計特性 ， 并且它們之間又是相互獨立的。 假定 ?x 1(x ， 2x ， ? ， )?px是一組隨機變量，并且 ??Ex ，協(xié)方差陣 VxD ?)( 錯誤 !未定義書簽。 。考慮 1x ， 2x ， ? ，px的一個線性組合（或稱線性變換）： xaxaxaxaZ pp ?????? ?2211 () 這里 ),( 21 paaaa ??? 。 對于綜合變量 Z ，我們要選擇一組系數(shù) ),( 21 paaaa ???使得 Z 的方差最大；由于 VaaxaVar ??? )( ，對任意給定的常數(shù) c ， VaacxacV ar ??? 2)( ，如果對 a 不加以限制，上述問題就變得毫無意義。于是限制 1??aa ，求 )( xaVar ? 的最大值。根據(jù)限制性條件下的拉格朗日極值理論可以證明，在此情況下的 )( xaVar ? 的最大值等價于求： aaVaaa ???0max () 的值，就等于矩陣 V 的最大特征根 1? ， a 就是 1? 對應(yīng)的特征向量。若記矩陣 Σ *的 p 個特征值 1? ≥ 2? ≥?≥ m? 1?m? = ? = p? = 0，且 m 個非零特征值所對應(yīng)的特征向量分別為 1a ， 2a ，?， ma ，則： 1111m a x VaaVaaaa ?????? ? 222011m a x VaaVaaaa aa ?????? ?? ? ? mmmmiaa aa VaaVaai???????? ?? ?)1,2,1(01 m a x ? 那么，把矩陣 V 的非 0 特征根 1? ≥ 2? ≥?≥ m? 0 所對應(yīng)的單位特征向量 1a ， 2a ，?，ma 分別作為 ?x 1(x ， 2x ， ? ， )?px 的系數(shù)向量， xaxaxa m??? , 21 ? 分別稱為隨機向量 x 的第 1 主成分、第 2 主成分，?，第 m 主成分。當(dāng) ji? 時 c7147b9288abe2b7cd5d14ba9c008f20 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟信息管理系 IS/SHUFE Page 13 of 20 0),( ??????? jijjiji aaVaaxaxaC O V ? () 所以，主成分之間是不相關(guān)的。而且可以看到，主成分分析主要就是由觀察數(shù)據(jù)陣 X 得到協(xié)方差 V 的估計 V? ，從 V? 出發(fā)計算它的特征值和特征向量。 p 維隨機向量 X 的主成分其實就是 p 個變量 pxxx , 21 ? 的一些特殊的線性組合，在幾何上這些線性組合正好把 pxxx , 21 ? 構(gòu)成的原坐標(biāo)系統(tǒng)經(jīng)過旋轉(zhuǎn)后產(chǎn)生新坐標(biāo)系統(tǒng)，這個新坐標(biāo)系統(tǒng)的軸方向上具有最大的變異，同時提供了協(xié)方差陣的最簡潔的表示（非對角線上為 0）。例如，我們有一個 p =2 維隨機向量 X 的 n =100 個點構(gòu)成一個橢圓形狀，如圖 35－ 1所示。第一主成分則是這個橢圓的長軸方向，因為原坐標(biāo)系的 100 點按長軸方向旋轉(zhuǎn)后數(shù)據(jù)最離散，具有最大的方差，設(shè)定旋轉(zhuǎn)方向的表示為單元圓上的一個單位方向，與長軸平行的單位方向 ),( 2111aa 具有 1221211 ??aa ，因此，不難求出第一主成分的系數(shù)向量 ),( 2111aa 的具體值。而橢圓的短軸與長軸是垂直的，是第二個主成分的方向，因為短軸是與長軸不相關(guān)方向中具有最大的方差，同樣與短軸平行的單位方向 ),( 2212aa 具有 1222212 ??aa ，同求第一主成分的系數(shù)向量一樣，我們也能容易求出 )