【正文】 程產(chǎn)生的輸出圖形，從圖中可以直觀地看出，按學(xué)生的身體指標(biāo)尺寸，這 30名學(xué)生大約應(yīng)分成三組 (以第一主成分得分值為 1和 2為分界點(diǎn) ). 每一組包括哪幾名學(xué)生由每個散點(diǎn)旁邊的序號可以得知 .更詳細(xì)的信息可從 PRINT過程產(chǎn)生的輸出數(shù)據(jù)列表中得到 . 北大 數(shù)學(xué)學(xué)院 68 第七章 167。 例 以上 輸出列表中把 30個觀測按第一主成分從小到大重新排序后的輸出結(jié)果 .從這里可以得到分為三組時各組學(xué)生的更多的信息如下 : G1={11,15,29,10,28,6,24,14,2,27,18} G2={4,30,22,1,16,26,23,21,8,9,7,17} G3={20,13,19,12,5,3,25} 若考慮用 Z1 ,Z2進(jìn)行聚類 ,這就是主成分聚類方法 . 北大 數(shù)學(xué)學(xué)院 70 北大 數(shù)學(xué)學(xué)院 71 第七章 167。 北大 數(shù)學(xué)學(xué)院 72 第七章 167。 樣本主成分為 Zi=ai39。, . . . ,2,1()( nimjXaz ijij ????北大 數(shù)學(xué)學(xué)院 73 第七章 167。 利用樣本主成分的性質(zhì) (3),Xk由前 m個主成分 Z1 ,Z2 ,… ,Zm的最佳 (殘差平方和最小 )表示式為 ), .. . ,2,1(. ..2211 pkZaZaZaX mkmkkk ?+++?把 Z*(i )(i=1,2,…, n)代入上式 ,可得 ),.. .,2,1。 由此可得出由主成分得分值估計(jì)變量 Xk的得分向量 .記 ), . . . ,1()39。 X=ZA39。 = Z* (A*)39。 =X* + Z2 A239。t r [)39。t r ()39。()39。t r [ ()]()39。 ??????????????????????+pmpRAARAA????0039。1221?? 故因 ?? ?+?+? ??????????????????pmkkpmnipjijijnnRAAnxx112221 1*)1(00)1t r (]39。 當(dāng)選取合適的 m，可使得后面的 pm個 ?i的和很小，這時就有 其中 (z1,z2,…, zm) * * zt 北大 數(shù)學(xué)學(xué)院 79 第七章 167。X=(X1,…, Xp ) 39。Xj =(n1) rij (i,j=1,…,p ) 北大 數(shù)學(xué)學(xué)院 80 第七章 167。zi=(n1) λ i (i=1,2,…, p) zi39。 指標(biāo)（ 變量）分類 因第 k個主成分 Zk與原標(biāo)準(zhǔn)化變量 Xi的相關(guān)系數(shù)為 ikikkki aZX ??? ??),(?ik也稱為第 k個主成分 Zk對 Xi的因子負(fù)荷量 . 這時 2(1 rij)≈(?i1?j1)2+… + (?im?jm)2 , 若 rij≈1, 則有 (?i1?j1)2+… + (?im?jm)2 ≈ 0 . 北大 數(shù)學(xué)學(xué)院 82 第七章 167。 指標(biāo)（ 變量）分類 例子 例 服裝定型分類問題 為解決服裝定型分類問題，對 128個成年男子的身材進(jìn)行測量，每人各測得 16項(xiàng)指標(biāo)：身高 (X1)、坐高 (X2)、胸圍 (X3)、頭高 (X4)、褲長 (X5)、下檔 (X6)、手長 (X7)、領(lǐng)圍 (X8)、前胸 (X9)、后背 (X10)、肩厚 (X11)、肩寬 (X12)、袖長 (X13)、肋圍 (X14)、腰圍 (X15)和腿肚(X16).16項(xiàng)指標(biāo)的相關(guān)陣 R見表 (因相關(guān)陣為對稱陣 ,只給出相關(guān)陣的上三角部分 ).試從相關(guān)陣 R出發(fā)用 PRINCOMP過程進(jìn)行主成分分析 . 北大 數(shù)學(xué)學(xué)院 84 第七章 167。 主成分分析的應(yīng)用 指標(biāo)（ 變量）分類 例子 sas程序 data d731(type=corr)。 _type_ = 39。 cards。 自動變量 _name_規(guī)定變量名 X1X16 自動變量 _type_的值指定 數(shù)據(jù)類型為 ′CORR′. 相關(guān)陣對稱 ,數(shù)據(jù)行只須 列出相關(guān)陣的上三角部分 北大 數(shù)學(xué)學(xué)院 86 第七章 167。 var x1x16。 PROC PRINCOMP語句中，選項(xiàng) data=d731的括號里指出數(shù)據(jù)集 d731的類型是相關(guān)陣，在這里或在 DATA步中數(shù)據(jù)集選項(xiàng) type=corr必有一處是不可缺少的 .選項(xiàng)n=3規(guī)定只輸出 3個主成分的有關(guān)信息 .outstat=s731生成輸出統(tǒng)計(jì)量的數(shù)據(jù)集 S731是為下面繪制因子負(fù)荷 北大 數(shù)學(xué)學(xué)院 87 第七章 167。 Run。 set s731。SCORE39。 proc transpose data=t731 out=tt731 prefix=f。 run。 主成分分析的應(yīng)用 指標(biāo)（ 變量）分類 例子 sas程序 data dt731。 p1=sqrt()*f1。 Run。 proc plot data=dt731。*39。 run。 主成分分析的應(yīng)用 指標(biāo)（ 變量）分類 例子 北大 數(shù)學(xué)學(xué)院 90 第七章 167。 主成分分析的應(yīng)用 指標(biāo)（ 變量）分類 例子 1. 前三個主成分說明的方差比例已在 70%以上 。 3. 由次大特征值對應(yīng)的特征向量 (即列標(biāo)題為 PRIN2的列 )可得出第二主成分 : PRINT2= + +…+ X16 北大 數(shù)學(xué)學(xué)院 92 第七章 167。 正系數(shù) 對應(yīng)的變 量 (X3,X16等 )都是反映人體胖瘦的 變量 .這個主成分一般稱為高低或 胖瘦因子 。 主成分分析的應(yīng)用 樣品 分類 對 p個變量 (指標(biāo) )觀測 n次 ,得 n個樣品 ,記 X(i) =(xi1, xi2 ,…, xip)′ 為第 i個樣品 ,看成 p維空間的點(diǎn) ,可按距離相近的程度進(jìn)行分類 (參見第六章聚類分析 ),即若 ‖ X(i) X(j)‖≈0,就把第 i個樣品和第 j個樣品歸為一類 . 因原始數(shù)據(jù)陣 X≈X*，故 ‖ X(i) X(j)‖≈ ‖ X*(i) X*(j)‖ 由 ()及 ()式中 x*ik的定義知 北大 數(shù)學(xué)學(xué)院 97 第七章 167。 主成分分析的應(yīng)用 樣品 分類 . 這樣就把考察二個 p維空間點(diǎn)的靠近程度轉(zhuǎn)化為考察兩個 m(mp)維空間點(diǎn)的靠近程度 . 若取 m=2,n個樣品點(diǎn)可在平面上點(diǎn)出 ,利用點(diǎn)的分布規(guī)律對樣品進(jìn)行分類 . 北大 數(shù)學(xué)學(xué)院 99 第七章 167。 主成分分析的應(yīng)用 樣品 分類 第一類共有 25個點(diǎn) ,聚集中心是 Z(25) 。 第三類有 9個點(diǎn) ,聚集中心是 Z(89) 。 第五類有 12個點(diǎn) ,聚集中心是 Z(9) 。 第七類有 8個點(diǎn) ,聚集中心是 Z(118) . 北大 數(shù)學(xué)學(xué)院 101 第七章 167。 主成分分析的應(yīng)用 對 p維總體 X的樣本進(jìn)行主成分分析往往不是最終的目的，而常常是完成某個實(shí)際問題的一種手段 .如例 30名中學(xué)生的身體魁梧程度進(jìn)行排序 . 在實(shí)際工作中常會遇到多指標(biāo)系統(tǒng)的排序評估問題 ,比如對某類企業(yè)的經(jīng)濟(jì)效益進(jìn)行評估比較 ,影響企業(yè)經(jīng)濟(jì)效益的指標(biāo)有很多 ,如何更科學(xué)、更客觀地將一個多指標(biāo)問題綜合為單個指數(shù)的形式 .主成分分析方法為樣品排序或多指標(biāo)系統(tǒng)評估提供可行的 方法 . 北大 數(shù)學(xué)學(xué)院 103 第七章 167。 主成分分析的應(yīng)用 即 ρ2(Z1,X1)+…+ ρ2(Z1,Xp)= λ1達(dá)最大 , 其中 λ1為 X的相關(guān)陣 R的最大特征值 .如果只選一個綜合變量來代表原來所有的原始變量 ,最佳的選擇就是 Z1 . 另方面，由于第一主成分 Z1對應(yīng)于數(shù)據(jù)變異最大的方向，這說明 Z1是使數(shù)據(jù)信息損失最小，精度最高的一維綜合變量，因此它可用于構(gòu)造系統(tǒng)排序評估指數(shù) . 北大 數(shù)學(xué)學(xué)院 105 第七章 167。 主成分分析的應(yīng)用 主成分回歸 應(yīng)用例子 表 經(jīng)濟(jì)分析數(shù)據(jù) 北大 數(shù)學(xué)學(xué)院 107 第七章 167。 var x1x3 y。 proc prinp data=do733 prefix=z out=o733 。 run。 var z1 z2 y。 該過程把各變量的 觀測數(shù)據(jù)標(biāo)準(zhǔn)化 主成分名 字的前綴 規(guī)定為 z 用標(biāo)準(zhǔn)化后的數(shù) 據(jù)作主成分分析 輸出數(shù)據(jù) 集包含主 分量得分 北大 數(shù)學(xué)學(xué)院 108 第七章 167。 主成分分析的應(yīng)用 主成分回歸 例 由輸出結(jié)果可知相關(guān)陣的三個特征為λ 1=,λ 2=,λ 3=的累計(jì)貢獻(xiàn)率在 99%以上 . 取兩個主成分 (用 Xi*表示 Xi的標(biāo)準(zhǔn)化變量 )： Z1= X1*+ X2*+ X3* Z2= X1*+ X2* X3* 主成分分析的結(jié)果還給出 X1*、 X2*和 X3* 的一 Z3= X1* + X2* X3* ≈ C 北大 數(shù)學(xué)學(xué)院 110 第七章 167。 model y=z1 z2。 回歸過程得到的標(biāo)準(zhǔn)化回歸方程為 (Y*表示 Y的標(biāo)準(zhǔn)化變量 ) Y*= Z1+ Z2 = X1*+ X2*+ X3* Y=+++ X3 北大 數(shù)學(xué)學(xué)院 111 第七章 167。 model y=x1x3 / pit=1,2 。 proc print data=o733。 北大 數(shù)學(xué)學(xué)院 112 第七章 167。 主成分分析的應(yīng)用 用 reg過程做主成分回歸 這個主成分回歸方程中回歸系數(shù)的符號都是有意義的；主成分回歸方程的均方根誤差 ( _RMSE_=)雖比普通回歸方程的均方根誤差(_RMSE_=)有所增大，但增加并不多 .