【正文】 102 二階段聚類 ：（資料來自 ) ：在樣本容量太大時替代系統(tǒng)聚類。 這就是有序樣本聚類的工作思路 。 或者將多變量綜合成為一個變量來分析 。 (3) 選擇一批凝聚點后，每個凝聚點自成一類，將樣品依次歸入其距離最近的凝聚點所在的類，并重新計算該類的重心，以代替原來的凝聚點，再考慮下一個樣品的歸類，直至所有樣品都歸類為止． (4) 用某種聚類方法得到一個分類，這個分類就可作為初始分類．當樣本量大時，有時只用部分樣品按某種聚類方法進行分類．用每類重心作為凝聚點，再用 (2)或 (3)的方法對全部樣品歸類后得到初始分類． 81 三、衡量聚類結果的合理性指標 和算法終止的標準 定義 設 表示在第 n次聚類后得到的第 i類集合， ， 為第 n次聚類所得到的聚核。于是得圖（ b）的兩個類。 為了避免重復 ， 需要對這 8個指標進行篩選 ， 建立一個恰當?shù)慕?jīng)濟效益指標體系 。 如果聚類的效果好 ， 類間的離差平方和相對于類內(nèi)的離差平方和大 ， 所以應該取偽 F統(tǒng)計量較大而類數(shù)較小的聚類水平 。可以證明離差平方和的聚類公式為 2rS2222pqrkkqkkrqkpkkrpkrk DnnnDnnnnDnnnnD????????遞推公式：48 可變方法 如果讓中間距離法的遞推公式前兩項的系數(shù)也依賴于 ?，則遞推公式為： 用上式作為遞推公式的系統(tǒng)聚類法稱為可變法 。 31 六、類的連接方法 單連接 （最短距離） 完全連接 （最長距離） 平均連接 （平均距離） x21? x12? x22? x11? ? ? ? x11? x21? ? ? ? ? ? ? ? ? ? 13d12d991 dd ?? ?32 167。 性質(zhì)越接近的變量 ， 它們的相關系數(shù)的絕對值越接近 1， 而彼此無關的變量的相關系數(shù)則越接近 0。 在實踐應用中 ， 若總體協(xié)方差矩陣 ?未知 ， 則可用樣本協(xié)方差矩陣作為估計代替計算 。 即有： jjijij Sxxx ??* ),3,2,1。 指標度量時沒有明確的數(shù)量表示 ， 只有次序關系 ， 或雖用數(shù)量表示 ， 但相鄰兩數(shù)值之間的差距并不相等 ， 它只表示一個有序狀態(tài)序列 。 3項指標 X， Y和 Z分別表示數(shù)學推理能力，空間想象能力和語言理解能力。 在間隔尺度中如果存在絕對零點 ， 又稱比例尺度 。,3,2,1( pjni ?? ??niijijnij xxR,2,1,2,1)m i n ()(m a x?? ????10 * ?? ijx13 經(jīng)過規(guī)格化變換后 ， 數(shù)據(jù)矩陣中每列即每個變量的最大數(shù)值為 1， 最小數(shù)值為 0， 其余數(shù)據(jù)取值均在 0－ 1之間；并且變換后的數(shù)據(jù)都不再具有量綱 ， 便于不同的變量之間的比較 。 19 (2)杰氏距離 這是杰斐瑞和馬突斯塔 (Jffreys 8L Matusita)所定義的一種距離 ， 其計算公式為： (3)蘭氏距離 這是蘭思和維廉姆斯 (Lance SL Williams)所給定的一種距離 ， 其計算公式為： 這是一個自身標準化的量 ， 由于它對大的奇異值不敏感， 這樣使得它特別適合于高度偏倚的數(shù)據(jù) 。 24 斜交空間距離 由于各變量之間往往存在著不同的相關關系，用正交空間的距離來計算樣本間的距離易變形，所以可以采用斜交空間距離。 如對大樣本的聚類問題 ， 不適宜選擇斜交空間距離 ， 因采用該距離處理時 ， 計算工作量太大 。 離差平方和法的思路是 ， 當 k固定時 ， 選擇使 S達到最小的分類 。但是，分類越多，每個類的類內(nèi)的離差平方和就越小， 也就越大；所以我們只能取合適的 G，使得 足夠大，而 G本生很小，隨著 G的增加， 的增幅不大。 也就是說聚類分析并沒有達到降維的目的 。例如我們要把圖中的點分成兩類。 (4) 人為地選擇一正數(shù) d，首先以所有樣品的均值作為第一凝聚點。 85 jj jy jk jz 類別 距離 beijngsh 1 anghai 1 tianjin 1 henna 2 zhejiang 2 jilin 1 helongji 1 fujian 2 guangxi 2 anhui 2 ningxia 2 hunan 3 jiangxi 3 Qinghai 3 Guizhou 3 86 四、有序樣本聚類法 （ 一 ） 功能范疇與數(shù)據(jù)類型 有序樣本聚類法又稱為最優(yōu)分段法 。 規(guī)定三個經(jīng)濟發(fā)達地區(qū) ， 四個中等發(fā)達的地區(qū) ，三個一般地區(qū) ， 兩個發(fā)展較差地區(qū) 。 這里所謂的模糊性 ， 主要是指客觀事物的差異在中間過渡中的不分明性 ， 如某一生態(tài)條件對某種害蟲 、 某種作物的存活或適應性可以評價為 “ 有利 、 比較有利 、 不那么有利 、不利 ” ；災害性霜凍氣候?qū)r(nóng)業(yè)產(chǎn)量的影響程度為“ 較重 、 嚴重 、 很嚴重 ” ， 等等 。 104 ： 1）將樣本觀測歸入數(shù)量較多的子類。 因此要尋找一種分法 b(n,k)， 使分類損失函數(shù) L[b(n,k)]達到最小 。不妨假設 。＋第 1,2,11jjxnAjil Pxliji ??? ??82 定義 第 i類中所有元素與其重心的距離的平方和 : ??? nil Pxnilnini AxdPAD ),(),(2? ?? ?? ki Px niln nilAxdu 1 )(2 ),(??? ki nini PAD1 ),(?????11 ||nnnuuu? 是事前給定的一個充分小量 。凝聚點的 選擇直接決定初始分類，對分類結果也有很大的影響，由于凝聚點 的不同選擇，其最終分類結果也將出現(xiàn)不同。 x2 x3 x4 x5 x6 x7 x8 67 68 根據(jù)美國等 20個國家和地區(qū)的信息基礎設施 的發(fā)展狀況進行分類 。 2t)2()(2???? LKLKKLNNWWBtKWLWKLB KWMWLW2t60 五、 系統(tǒng)聚類法的基本性質(zhì) （ 一 ） 單調(diào)性 在聚類分析過程中 ， 并類距離分別為 l k（ k=1， 2，3， … ? ） 若滿足 ， 則稱該聚類方法具有單調(diào)性 。 設 Gp和 Gq 為兩個 類 分別為 Gp和 Gq的重心 ， 類與類之間的距離定義為 兩個類重心 （ 類內(nèi)樣品平均值 ） 間的平方距離 。 選擇 D（ 0）表中最小的非零數(shù)，不妨假設 ， 于是將 和 合并為一類，記為 。 ? ??? niiii xxx , 21 ?x ? ??? njjjj xxx , 21 ?x? ??? ????nknk kjkink kjkiijijxxxxc1 1221c os ?28 22 1 ijij Cd ?? 五 、 距離和相似系數(shù)選擇的原則 一般說來 ， 同一批數(shù)據(jù)采用不同的親疏測度指標 ， 會得到不同的分類結果 。 如果假定各變量之間相互獨立 ， 即觀測變量的協(xié)方差矩陣是對角矩陣 ， 則馬氏距離就退化為用各個觀測指標的標準差的倒數(shù)作為權數(shù)進行加權的歐氏距離 。 4． 對數(shù)變換 對數(shù)變換是將各個原始數(shù)據(jù)取對數(shù) ， 將原始數(shù)據(jù)的對數(shù)值作為變換后的新值 。 (3)名義尺度 。 1 什么是聚類分析 4 5 6 我們直觀地來看，這個分類是否合理？ 計算 4號和 6號得分的離差平方和： (2120)2+(2323)2+(2222)2=1 計算 1號和 2號得分的離差平方和： (2818)2+(2923)2+(2818)2=236 計算 1號和 3號得分的離差平方和為 482，由此可見一般，分類可能是合理的，歐氏距離很大的應聘者沒有被聚在一起。 (1)間隔尺度 。,3,2,1( pjni ?? ??中心化變換的結果是使每列數(shù)據(jù)之和均為 0， 即每個變量的均值為 0， 而且每列數(shù)據(jù)的平方和是該列變量樣本方差的 (n—1)倍 ， 任何不同兩列數(shù)據(jù)之交叉乘積是這兩列變量樣本協(xié)方差的 (n—1)倍 ， 所以這是一種很方便地計算方差與協(xié)方差的變換 。0 成立和對一切的 jidd jiij ?.成立和對于一切的 jiddd kjikij ??17 常用距離的算法 設 和 是第 i和 j 個樣品的觀測值，則二者之間的距離 為： gpkgjkikij xxd11 )||(?? ???? ?? pk jkikij xxd 1 2)(? ??? ipii xxx , 21 ?ix ),( 21 ?? jpjj xxx ?jx明氏距離 特別，歐氏距離 (1) 明氏距離測度 18 該距離的缺點明考夫斯基距離主要有以下兩個缺點： ① 明氏距離的值與各指標的量綱有關 ， 而各指標計量單位的選擇有一定的人為性和隨意性 ，各變量計量單位的不同不僅使此距離的實際意義難以說清 ， 而且 ， 任何一個變量計量單位的改變都會使此距離的數(shù)值改變從而使該距離的數(shù)值依賴于各變量計量單位的選擇 。然而，類的形成要依賴于樣品之間的距離，反過來樣品間合理的馬氏距離又依賴于類，這就形成了一個惡性循環(huán)。 此外 ， 所選擇的親疏測度指標 ， 還須和所選用的聚類分析方法一致 。 首先采用絕對距離計算距離平方矩陣： )0(D1G 2G3G5G1G4G