【正文】 點為 “ 凝聚點 ” ； 第二 ， 可選擇地 ， 通過分配每個 “ 凝聚點 ” 最近的類里來形成臨時分類 。 (4) 人為地選擇一正數 d，首先以所有樣品的均值作為第一凝聚點。 (2) 將數據人為地分為 A類，計算每一類的重心，就將這些重心作為凝聚點。例如我們要把圖中的點分成兩類。 69 國家 call movel fee p mips meiguo 403 26073 riben 176 10223 deguo 199 11571 ruidian 246 16660 ruishi 644 234 13621 xinjiapo 284 13578 taiwan 119 6911 hanguo 73 99 5795 baxi 19 876 zhili 31 1411 moxige 31 1751 eluosi 5 24 1101 bolan 169 40 1796 xiongyali 68 3067 malaixiya 53 2734 taiguo 22 1662 yindu 2 101 faguo 201 11702 yingguo 248 14461 70 71 Pseudo F Statistic 0 10 20 30 40 50 60 70 80 90 100 110 120 Number of Clusters 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 72 167。 也就是說聚類分析并沒有達到降維的目的 。 ?? ????? ? 121 kk llll（二）空間的濃縮和擴張 定義矩陣的大小 設同階矩陣 D（ A） 和 D（ B） ， 如果 D（ A） 的每一個元素 不小于 D（ B） 的每一個元素 ， 則記為 。但是，分類越多，每個類的類內的離差平方和就越小， 也就越大；所以我們只能取合適的 G，使得 足夠大，而 G本生很小，隨著 G的增加， 的增幅不大。 但是這個問題又是不可回避的 。 離差平方和法的思路是 ， 當 k固定時 ， 選擇使 S達到最小的分類 。分別刪除 D（ 0） 表的第 p， q行和第 p， q列 ， 并新增一行和一列添上的結果 ， 產生 D（ 1） 表 。 如對大樣本的聚類問題 ， 不適宜選擇斜交空間距離 ， 因采用該距離處理時 ， 計算工作量太大 。 因此我們在進行聚類分析時 ， 應注意親疏測度指標的選擇 。 24 斜交空間距離 由于各變量之間往往存在著不同的相關關系，用正交空間的距離來計算樣本間的距離易變形，所以可以采用斜交空間距離。 這表明 ， 馬氏距離對任何非奇異線性變換都具有不變性 。 19 (2)杰氏距離 這是杰斐瑞和馬突斯塔 (Jffreys 8L Matusita)所定義的一種距離 ， 其計算公式為： (3)蘭氏距離 這是蘭思和維廉姆斯 (Lance SL Williams)所給定的一種距離 ， 其計算公式為： 這是一個自身標準化的量 ， 由于它對大的奇異值不敏感， 這樣使得它特別適合于高度偏倚的數據 。 變量之間的聚類即只型聚類分析 ， 常用相似系數來測度變量之間的親疏程度 。,3,2,1( pjni ?? ??niijijnij xxR,2,1,2,1)m i n ()(m a x?? ????10 * ?? ijx13 經過規(guī)格化變換后 ， 數據矩陣中每列即每個變量的最大數值為 1， 最小數值為 0， 其余數據取值均在 0－ 1之間；并且變換后的數據都不再具有量綱 ， 便于不同的變量之間的比較 。 在名義尺度中只取兩種特性狀態(tài)的變量是很重要的 ， 如電路的開和關 ， 天氣的有雨和無雨 ， 人口性別的男和女 ， 醫(yī)療診斷中的 “ 十 ” 和 “ 一 ” ， 市場交易中的買和賣等都是此類變量 。 在間隔尺度中如果存在絕對零點 ， 又稱比例尺度 。 例如對上市公司的經營業(yè)績進行分類；據經濟信息和市場行情，客觀地對不同商品、不同用戶及時地進行分類。 3項指標 X， Y和 Z分別表示數學推理能力，空間想象能力和語言理解能力。 但無論是樣品之間的關系 ， 還是變量之間的關系 ， 都是用變量來描述的 ， 變量的類型不同 ，描述方法也就不同 。 指標度量時沒有明確的數量表示 ， 只有次序關系 ， 或雖用數量表示 ， 但相鄰兩數值之間的差距并不相等 ， 它只表示一個有序狀態(tài)序列 。 中心化變換 中心化變換是一種坐標軸平移處理方法 ， 它是先求出每個變量的樣本平均值 ， 再從原始數據中減去該變量的均值 ， 就得到中心化變換后的數據 。 即有： jjijij Sxxx ??* ),3,2,1。0 成立和對一切的 jidij ?。 在實踐應用中 ， 若總體協(xié)方差矩陣 ?未知 ， 則可用樣本協(xié)方差矩陣作為估計代替計算 。和設 )1,1()1,1( ??BA)( ?Md A ?20)( ?Md B ?2)( ?Ud A ?2)( ?Ud B ?23 馬氏距離雖然考慮了觀測變量之間的相關性，并且也不受觀測變量量綱不同的影響，但是在聚類分析之前，如果用全部數據計算的均值向量和協(xié)方差矩陣來計算馬氏距離，效果并不是很好。 性質越接近的變量 ， 它們的相關系數的絕對值越接近 1， 而彼此無關的變量的相關系數則越接近 0。 29 (2)親疏測度指標的選擇要綜合考慮已對樣本觀測數據實施了的變換方法和將要采用的聚類分析方法 。 31 六、類的連接方法 單連接 （最短距離） 完全連接 （最長距離） 平均連接 （平均距離） x21? x12? x22? x11? ? ? ? x11? x21? ? ? ? ? ? ? ? ? ? 13d12d991 dd ?? ?32 167。 首先采用絕對距離計算距離矩陣： )0(D1G2G 3G4G5G1G2G3G4G5G 0 1 0 0 6 5 0 8 7 2 0 35 然后 和 被聚為新類 ，得 ： 1G 2G 6G )1(D6G3G5G3G 4G 0 0 5 0 7 2 0 6G4G5G? ?qpijpq GGdM i nD ??? ji xx ，：定義距離：? ? qplDDM i nD qlplrl ，遞推公式： ??36 最長距離法 用最長距離法對 5個樣品進行分類 ?？梢宰C明離差平方和的聚類公式為 2rS2222pqrkkqkkrqkpkkrpkrk DnnnDnnnnDnnnnD????????遞推公式：48 可變方法 如果讓中間距離法的遞推公式前兩項的系數也依賴于 ?，則遞推公式為： 用上式作為遞推公式的系統(tǒng)聚類法稱為可變法 。要求類與類之間的距離不要超過 T值 。 如果聚類的效果好 ， 類間的離差平方和相對于類內的離差平方和大 ， 所以應該取偽 F統(tǒng)計量較大而類數較小的聚類水平 。 ? ??10 ?? ? ?0?? ?62 六、主要的步驟 選擇變量 （ 1）和聚類分析的目的密切相關 （ 2）反映要分類變量的特征 （ 3）在不同研究對象上的值有明顯的差異 （ 4）變量之間不能高度相關 計算相似性 相似性是聚類分析中的基本概念，他反映了研究對象之間的親疏程度，聚類分析就是根據對象之間的相似性來分類的。 為了避免重復 ， 需要對這 8個指標進行篩選 ， 建立一個恰當的經濟效益指標體系 。 比如在市場抽樣調查中 ， 有 4萬人就其對衣著的偏好作了回答 ， 希望能迅速將他們分為幾類 。于是得圖（ b）的兩個類。然后選出次大密度的樣品點，若它與第一個凝 聚點的距離大于 D，則將其作為第二個凝聚點；否則舍去這點，再 選密度次于它的樣品。 (3) 選擇一批凝聚點后，每個凝聚點自成一類，將樣品依次歸入其距離最近的凝聚點所在的類，并重新計算該類的重心，以代替原來的凝聚點，再考慮下一個樣品的歸類，直至所有樣品都歸類為止． (4) 用某種聚類方法得到一個分類，這個分類就可作為初始分類．當樣本量大時，有時只用部分樣品按某種聚類方法進行分類．用每類重心作為凝聚點，再用 (2)或 (3)的方法對全部樣品歸類后得到初始分類． 81 三、衡量聚類結果的合理性指標 和算法終止的標準 定義 設 表示在第 n次聚類后得到的第 i類集合， ， 為第 n次聚類所得到的聚核。 該步驟可以一直進行直到“ 凝聚點 ” 的改變很小或為零時止； 第四 ， 最終的分類有分配每一個觀測到最近的 “ 凝聚點” 而形成 。 或者將多變量綜合成為一個變量來分析 。 88 例 ? ?421 , ??? ??? )(11 ?? ?? V)()( 322 ??? ??? VV)( 43 ?? ?? V這里 n=4， m=3。 這就是有序樣本聚類的工作思路 。 分析兒童的生長期。 102 二階段聚類 ：（資料來自 ) ：在樣本容量太大時替代