【正文】 3 五 、 動態(tài)聚類步驟為： 第一 ， 選擇若干個觀測值點為 “ 凝聚點 ” ； 第二 ， 可選擇地 ， 通過分配每個 “ 凝聚點 ” 最近的類里來形成臨時分類 。 定義 若分類不合理時， 會很大，隨著分類的過程，逐漸下降，并趨于穩(wěn)定。 (4) 人為地選擇一正數(shù) d，首先以所有樣品的均值作為第一凝聚點。這樣，按密度大小依次考查，直至全部樣品考查完畢為止．此方法中， d要給的合適，太大了使凝聚點個數(shù)太 少，太小了使凝聚點個數(shù)太多。 (2) 將數(shù)據(jù)人為地分為 A類，計算每一類的重心，就將這些重心作為凝聚點。 )1(1x )1(2xkx ),(),()1(2)1(1 xxdxxd kk 和),(),( )1(2)1(1 xxdxxd kk ?kx 分別計算兩個類的重心 ， 則得 和 ， 以其為新的聚核 ， 對空間中的點進(jìn)行重新分類 ， 得到新分類 。例如我們要把圖中的點分成兩類。 這時 ， 采用系統(tǒng)聚類法就很困難 ， 而動態(tài)聚類法就會顯得方便 ， 適用 。 69 國家 call movel fee p mips meiguo 403 26073 riben 176 10223 deguo 199 11571 ruidian 246 16660 ruishi 644 234 13621 xinjiapo 284 13578 taiwan 119 6911 hanguo 73 99 5795 baxi 19 876 zhili 31 1411 moxige 31 1751 eluosi 5 24 1101 bolan 169 40 1796 xiongyali 68 3067 malaixiya 53 2734 taiguo 22 1662 yindu 2 101 faguo 201 11702 yingguo 248 14461 70 71 Pseudo F Statistic 0 10 20 30 40 50 60 70 80 90 100 110 120 Number of Clusters 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 72 167。 通過計算 30個企業(yè) 8個指標(biāo)的相關(guān)系數(shù)距離 ， 數(shù)據(jù)是 1r2。 也就是說聚類分析并沒有達(dá)到降維的目的 。有很多刻畫相似性的測度 63 聚類 選定了聚類的變量，計算出樣品或指標(biāo)之間的相似程度后，構(gòu)成了一個相似程度的矩陣。 ?? ????? ? 121 kk llll（二）空間的濃縮和擴張 定義矩陣的大小 設(shè)同階矩陣 D（ A） 和 D（ B） ， 如果 D（ A） 的每一個元素 不小于 D（ B） 的每一個元素 ， 則記為 。 )()1()(GnPGPTFGG????58 Pseudo F Statistic 0 10 20 30 40 50 60 70 80 90 100 110 120 Number of Clusters 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 59 偽 統(tǒng)計量的定義為 其中 和 分別是的類內(nèi)離差平方和 ， 是將 K和 L合并為第 M類的離差平方和 = 為合并導(dǎo)致的類內(nèi)離差平方和的增量 。但是，分類越多，每個類的類內(nèi)的離差平方和就越小， 也就越大；所以我們只能取合適的 G，使得 足夠大，而 G本生很小，隨著 G的增加， 的增幅不大。 例如我們給定 T=， 當(dāng)聚類時 ， 類間的距離已經(jīng)超過了 ， 則聚類結(jié)束 。 但是這個問題又是不可回避的 。 1)(21 2222 〈， ??? pqkqkpkr DDDD ????49 重心法 用重心法對 5個樣品進(jìn)行分類 。 離差平方和法的思路是 ， 當(dāng) k固定時 ， 選擇使 S達(dá)到最小的分類 。 首先采用絕對距離計算距離矩陣： )0(D1G2G 3G4G5G1G2G3G4G5G 0 1 0 0 6 5 0 8 7 2 0 37 然后和被聚為新類 ， 得： 0 0 6 0 8 2 0 3G5G6G4G5G6G 3G 4G}{ qpijpq GGdM a xD ??? ji XX ，：定義距離：qplDDM a xD qlplrl ，遞推公式： ?? }{38 2G3G 4G 0 1 0 0 36 25 0 64 49 4 0 用中間距離法對 5個樣品進(jìn)行分類 。分別刪除 D（ 0） 表的第 p， q行和第 p， q列 ， 并新增一行和一列添上的結(jié)果 ， 產(chǎn)生 D（ 1） 表 。 3 系統(tǒng)聚類方法 根據(jù)樣品的特征 ， 規(guī)定樣品之間的距離 ，共有 個 。 如對大樣本的聚類問題 ， 不適宜選擇斜交空間距離 ， 因采用該距離處理時 ， 計算工作量太大 。 如在標(biāo)準(zhǔn)化變換之下 ， 夾角余弦實際上就是相關(guān)系數(shù)；又如若在進(jìn)行聚類分析之前已經(jīng)對變量的相關(guān)性作了處理 ， 則通常就可采用歐氏距離 ， 而不必選用斜交空間距離 。 因此我們在進(jìn)行聚類分析時 ， 應(yīng)注意親疏測度指標(biāo)的選擇 。 滿足的條件： 完全線性關(guān)系；當(dāng)且僅當(dāng)兩變量之間為,1??ijC成立；和對一切的 jiC ij ,1|| ?成立；和對一切的 jiCC jiij ,?26 相似系數(shù)的算法 （ 1）相似系數(shù) 設(shè) 和 是第 和 個樣品的觀測值，則二者之間的相似 測度為 : ? ??? ipii xxx , 21 ?ix ),( 21 ?? jpjj xxx ?jxi j? ??? ??????? pkpk jjkiikpk jjkiikijxxxxxxxx1 1221])(][)([))((?其中 27 （ 2）夾角余弦 夾角余弦時從向量集合的角度所定義的一種測度變量之間親疏程度的相似系數(shù)。 24 斜交空間距離 由于各變量之間往往存在著不同的相關(guān)關(guān)系，用正交空間的距離來計算樣本間的距離易變形，所以可以采用斜交空間距離。比較合理的辦法是用各個類的樣本來計算各自的協(xié)方差矩陣，同一類樣本的馬氏距離應(yīng)當(dāng)用這一類的協(xié)方差短陣來計算。 這表明 ， 馬氏距離對任何非奇異線性變換都具有不變性 。 21 馬氏距離又稱為廣義歐氏距離 。 19 (2)杰氏距離 這是杰斐瑞和馬突斯塔 (Jffreys 8L Matusita)所定義的一種距離 ， 其計算公式為： (3)蘭氏距離 這是蘭思和維廉姆斯 (Lance SL Williams)所給定的一種距離 ， 其計算公式為： 這是一個自身標(biāo)準(zhǔn)化的量 ， 由于它對大的奇異值不敏感， 這樣使得它特別適合于高度偏倚的數(shù)據(jù) 。0 成立當(dāng)且僅當(dāng) jid ij ??。 變量之間的聚類即只型聚類分析 ， 常用相似系數(shù)來測度變量之間的親疏程度 。,3,2,1( pjni ?? ??????? ni jijjxxnS12)(1114 經(jīng)過標(biāo)準(zhǔn)化變換處理后 ， 每個變量即數(shù)據(jù)矩陣中每列數(shù)據(jù)的平均值為 0， 方差為 1， 且也不再具有量綱 ， 同樣也便于不同變量之間的比較 。,3,2,1( pjni ?? ??niijijnij xxR,2,1,2,1)m i n ()(m a x?? ????10 * ?? ijx13 經(jīng)過規(guī)格化變換后 ， 數(shù)據(jù)矩陣中每列即每個變量的最大數(shù)值為 1， 最小數(shù)值為 0， 其余數(shù)據(jù)取值均在 0－ 1之間；并且變換后的數(shù)據(jù)都不再具有量綱 ， 便于不同的變量之間的比較 。 設(shè)原始觀測數(shù)據(jù)矩陣為： ?????????????npnnppxxxxxxxxx??????212222111211X11 jijij xxx ??* ),3,2,1。 在名義尺度中只取兩種特性狀態(tài)的變量是很重要的 ， 如電路的開和關(guān) ， 天氣的有雨和無雨 ， 人口性別的男和女 ， 醫(yī)療診斷中的 “ 十 ” 和 “ 一 ” ， 市場交易中的買和賣等都是此類變量 。 如評價酒的味道 ，分成好 、 中 、 次三等 ， 三等有次序關(guān)系 ， 但沒有數(shù)量表示 。 在間隔尺度中如果存在絕對零點 ， 又稱比例尺度 。 通常 ， 變量按照測量它們的尺度不同 ， 可以分為三類 。 例如對上市公司的經(jīng)營業(yè)績進(jìn)行分類；據(jù)經(jīng)濟(jì)信息和市場行情，客觀地對不同商品、不同用戶及時地進(jìn)行分類。其得分如下，選擇合適的統(tǒng)計方法對應(yīng)聘者進(jìn)行分類。 3項指標(biāo) X， Y和 Z分別表示數(shù)學(xué)推理能力，空間想象能力和語言理