主成分分析模型ppt課件(已修改)
2025-05-17 22:07 本頁(yè)面
【正文】 第二講 主成分分析模型與因子分析模型 主成分概念首先是由 Karl Parson 在 1901年引進(jìn)的 ,不過(guò)當(dāng)時(shí)只對(duì)非隨機(jī)變量來(lái)討論的 . 1933年 Hotelling將這個(gè)概念推廣到隨機(jī)向量 . 在實(shí)際問(wèn)題中 ,研究多指標(biāo) (變量 )問(wèn)題是經(jīng)常遇到的 ,然而在多數(shù)情況下 ,不同指標(biāo)之間是有一定相關(guān)性 .由于指標(biāo)較多再加上指標(biāo)之間有一定的相關(guān)性 ,勢(shì)必增加了分析問(wèn)題的復(fù)雜性 .主成分分析就是設(shè)法將原來(lái)指標(biāo)重新組合成一組新的互相無(wú)關(guān)的幾個(gè)綜合指標(biāo)來(lái)代替原來(lái)指標(biāo) ,同時(shí)根據(jù)實(shí)際需要從中可取幾個(gè)較少的綜合指標(biāo)盡可能多地反映原來(lái)指標(biāo)的信息 . 一、主成分分析模型 這種將多個(gè)指標(biāo)化為少數(shù)互相無(wú)關(guān)的綜合指標(biāo)的統(tǒng)計(jì)方法就叫主成分分析或稱為主分量分析 .也是數(shù)學(xué)上處理降維的一種方法 .例如 ,某人要做一件上衣要測(cè)量很多尺寸 ,如身長(zhǎng)、袖長(zhǎng)、胸圍、腰圍、肩寬、肩厚等等十幾個(gè)指標(biāo)，但某服裝廠要生產(chǎn)一批新型服裝絕不可能把尺寸的型號(hào)分得過(guò)多，而是從多種指標(biāo)中綜合成幾個(gè)少數(shù)的綜合指標(biāo)，做為分類的型號(hào)，利用主成分分析將十幾項(xiàng)指標(biāo)綜合成 3項(xiàng)指標(biāo)，一項(xiàng)是反映長(zhǎng)度的指標(biāo)，一項(xiàng)是反映胖瘦的指標(biāo)，一項(xiàng)是反映特體的指標(biāo)。在商業(yè)經(jīng)濟(jì)中用主成分分析可將復(fù)雜的一些數(shù)據(jù)綜合成幾個(gè)商業(yè)指數(shù)形式，如物價(jià)指數(shù)、生活費(fèi)用指數(shù)、商業(yè)活動(dòng)指數(shù)等等。 主成分分析綜合評(píng)價(jià)法具有以下優(yōu)點(diǎn)：第一，可消除評(píng)價(jià)指標(biāo)之間的相關(guān)影響。因?yàn)橹鞒煞址治鲈趯?duì)原指標(biāo)變量進(jìn)行變換后形成了彼此相互獨(dú)立的主成分，而且實(shí)踐證明指標(biāo)間相關(guān)程度越高，主成分分析效果越好。第二，可減少指標(biāo)選擇的工作量，對(duì)于其它評(píng)價(jià)方法，由于難以消除評(píng)價(jià)指標(biāo)間的相關(guān)影響，所以選擇指標(biāo)時(shí)要花費(fèi)不少精力，而主成分分析由于可以消除這種相關(guān)影響，所以在指標(biāo)選擇上相對(duì)容易些。第三、主成分分析中各主成分是按方差大小依次排列順序的，在分析問(wèn)題時(shí)，可以舍棄一部分主成分，只取前面方差較大的幾個(gè)主成分來(lái)代表原變量，從而減少了計(jì)算工作量。 基本思想 主成分分析就是設(shè)法將原來(lái)眾多具有一定相關(guān)性的指標(biāo)（比如 p個(gè)指標(biāo)），重新組合成一組相互無(wú)關(guān)的綜合指標(biāo)來(lái)代替原來(lái)指標(biāo)。通常數(shù)學(xué)上的處理就是將原來(lái) p個(gè)指標(biāo)作線性組合，作為新的綜合指標(biāo)，但是這種線性組合，如果不加限制，則可以有很多，我們應(yīng)該如何去選取呢？如果將選取的第一個(gè)線性組合即第一個(gè)綜合指標(biāo)記為 F1，自然希望F1盡可能多的反映原來(lái)指標(biāo)的信息，這里的“信息”用什么來(lái)表達(dá)？最經(jīng)典的方法就是用 F1的方差來(lái)表達(dá)，即 Var(F1)越大，表示 F1包含的信息越多。因此在所有的線性組合中所選取的 F1應(yīng)該是方差最大的，故稱 F1為第一主成分。如果第一主成分不足以代表原來(lái) p個(gè)指標(biāo)的信息，再考慮選取 F2即選第二個(gè)線性組合。 為了有效地反映原來(lái)信息， F1已有的信息就不需要再出現(xiàn)在 F2中，用數(shù)學(xué)語(yǔ)言表達(dá)就是要求Cov(F1,F2)=0，稱 F2為第二主成分，依此類推，可以制造出第三、四 …… 第 p個(gè)主成分。不難想像這些主成分之間不僅不相關(guān)，而且它們的方差依次遞減。因此，在實(shí)際工作中，就挑選前幾個(gè)最大的主成分 (一般取信息量包含 85%以上的前幾個(gè)指標(biāo)），雖然這樣做會(huì)損失一部分信息，但是由于它使我們抓住了主要矛盾，并從原始數(shù)據(jù)中進(jìn)一步提取了某些新的信息，因而在某些實(shí)際問(wèn)題的研究中得益比損失大，這種既減少了變量的數(shù)目又抓住了主要矛盾的做法有利于問(wèn)題的分析和處理。 數(shù)學(xué)模型 設(shè)有 n個(gè)樣品，每個(gè)樣品觀測(cè)項(xiàng)指標(biāo)（變量）：X1， X2， …… ， Xp，得到原始資料數(shù)據(jù)矩陣： ???????????????????XaXaXaFXaXaXaFXaXaXaFpppppppppp???22112222112212211111),( 21212222111211pnpnnppXXXXxxxxxxxxx?????????????????????????用數(shù)據(jù)矩陣 X的 p個(gè)向量（即 p個(gè)指標(biāo)向量）X1， …… ， Xp作線性組合（即綜合指標(biāo)向量）為： 上述方程要求： 122221 ???? aaa piii ?且系數(shù)由下列原則確定： （ 1） Fi與 Fj（ ） 不相關(guān)； （ 2） F1是 X1， X2， … ， Xp的一切線性組合中方差中最大的 ， F2是與 F1不相關(guān)的 X1， X2， … ， Xp的一切線性組合中方差中最大的 ， …… ， Fp是 F1，F(xiàn)2， … ， Fp1都不相關(guān)的 X1， X
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1