【正文】 是一張對稱表 。 此外 ， 所選擇的親疏測度指標 ， 還須和所選用的聚類分析方法一致 。設在 n維空間的向量 觀測向量在原點出的夾角的余弦，若變量之間的相關程度密切，則夾角接近 0，其余弦接近 1；反之接近 0。然而，類的形成要依賴于樣品之間的距離，反過來樣品間合理的馬氏距離又依賴于類，這就形成了一個惡性循環(huán)。 顯然 ， 馬氏距離與上述各種距離的主要不同就是馬氏距離考慮了觀測變量之間的相關性 。0 成立和對一切的 jidd jiij ?.成立和對于一切的 jiddd kjikij ??17 常用距離的算法 設 和 是第 i和 j 個樣品的觀測值，則二者之間的距離 為： gpkgjkikij xxd11 )||(?? ???? ?? pk jkikij xxd 1 2)(? ??? ipii xxx , 21 ?ix ),( 21 ?? jpjj xxx ?jx明氏距離 特別，歐氏距離 (1) 明氏距離測度 18 該距離的缺點明考夫斯基距離主要有以下兩個缺點： ① 明氏距離的值與各指標的量綱有關 ， 而各指標計量單位的選擇有一定的人為性和隨意性 ，各變量計量單位的不同不僅使此距離的實際意義難以說清 ， 而且 ， 任何一個變量計量單位的改變都會使此距離的數(shù)值改變從而使該距離的數(shù)值依賴于各變量計量單位的選擇 。 變換后 ， 數(shù)據(jù)短陣中任何兩列數(shù)據(jù)乘積之和是兩個變量相關系數(shù)的 （ n－ 1） 倍 ， 所以這是一種很方便地計算相關矩陣的變換 。,3,2,1( pjni ?? ??中心化變換的結果是使每列數(shù)據(jù)之和均為 0， 即每個變量的均值為 0， 而且每列數(shù)據(jù)的平方和是該列變量樣本方差的 (n—1)倍 ， 任何不同兩列數(shù)據(jù)之交叉乘積是這兩列變量樣本協(xié)方差的 (n—1)倍 ， 所以這是一種很方便地計算方差與協(xié)方差的變換 。又如評價產品的質量 ， 雖可用一 、 二 、 三等來表示 ， 但一等與二等之間 、 二等與三等之間的差距并不一定相等 。 (1)間隔尺度 。 應聘者 1 2 3 4 5 6 7 8 9 10 X 28 18 11 21 26 20 16 14 24 22 Y 29 23 22 23 29 23 22 23 29 27 Z 28 18 16 22 26 22 22 24 24 24 167。 1 什么是聚類分析 4 5 6 我們直觀地來看，這個分類是否合理？ 計算 4號和 6號得分的離差平方和： (2120)2+(2323)2+(2222)2=1 計算 1號和 2號得分的離差平方和： (2818)2+(2923)2+(2818)2=236 計算 1號和 3號得分的離差平方和為 482，由此可見一般，分類可能是合理的，歐氏距離很大的應聘者沒有被聚在一起。 指標度量時用數(shù)量來表示 ， 其數(shù)值由測量或計數(shù) 、 統(tǒng)計得到 ， 如長度 、 重量 、 收入 、支出等 。 (3)名義尺度 。 12 極差規(guī)格化變換 規(guī)格化變換是從數(shù)據(jù)矩陣的每一個變量中找出其最大值和最小值 ， 這兩者之差稱為極差 ， 然后從每個變量的每個原始數(shù)據(jù)中減去該變量中的最小值 ， 再除以極差 ， 就得到規(guī)格化數(shù)據(jù) 。 4． 對數(shù)變換 對數(shù)變換是將各個原始數(shù)據(jù)取對數(shù) ， 將原始數(shù)據(jù)的對數(shù)值作為變換后的新值 。 ② 明氏距離的定義沒有考慮各個變量之間的相關性和重要性 。 如果假定各變量之間相互獨立 ， 即觀測變量的協(xié)方差矩陣是對角矩陣 ， 則馬氏距離就退化為用各個觀測指標的標準差的倒數(shù)作為權數(shù)進行加權的歐氏距離 。因此，在實際聚類分析處理中，馬氏距離也不是理想的距離。 ? ??? niiii xxx , 21 ?x ? ??? njjjj xxx , 21 ?x? ??? ????nknk kjkink kjkiijijxxxxc1 1221c os ?28 22 1 ijij Cd ?? 五 、 距離和相似系數(shù)選擇的原則 一般說來 ， 同一批數(shù)據(jù)采用不同的親疏測度指標 ， 會得到不同的分類結果 。如聚類方法若選用離差平方和法 ， 則距離只能選 用歐氏距離 。 選擇 D（ 0）表中最小的非零數(shù)，不妨假設 ， 于是將 和 合并為一類，記為 。 2G3G 4G 0 1 0 0 36 25 0 64 49 4 0 1G 2G3G5G1G4G5G? ?? ??pi qjGx Gxijqppq dnnD22 142 然后和被聚為新類 ， 得 ： 6G)1(D3G 4G5G3G4G 0 0 0 4 0 6G 5Gqpkqqkpprk nnDnDnD??? 222遞推公式：43 可變類平均法 類平均法的遞推公式中 ， 沒有反映 Gp類和 Gq類的距離有多大 ， 進一步將其改進 ， 加入 D2Pq， 并給定系數(shù) ?1， 則類平均法的遞推公式改為： 用此遞推公式進行聚類就是可變類平均法 。 設 Gp和 Gq 為兩個 類 分別為 Gp和 Gq的重心 ， 類與類之間的距離定義為 兩個類重心 （ 類內樣品平均值 ） 間的平方距離 。 56 統(tǒng)計量 其中 T是數(shù)據(jù)的總離差平方和， 是組內離差平方和。 2t)2()(2???? LKLKKLNNWWBtKWLWKLB KWMWLW2t60 五、 系統(tǒng)聚類法的基本性質 （ 一 ） 單調性 在聚類分析過程中 ， 并類距離分別為 l k（ k=1， 2，3， … ? ） 若滿足 ， 則稱該聚類方法具有單調性 。這一步可以借助各種描述性統(tǒng)計量進行分析，通常的做法是計算各類在各聚類變量上的均值，對均值進行比較，還可以解釋各類產別的原因。 x2 x3 x4 x5 x6 x7 x8 67 68 根據(jù)美國等 20個國家和地區(qū)的信息基礎設施 的發(fā)展狀況進行分類 。 動態(tài)聚類使用于大型數(shù)據(jù) 。凝聚點的 選擇直接決定初始分類，對分類結果也有很大的影響，由于凝聚點 的不同選擇，其最終分類結果也將出現(xiàn)不同?；蛘呔陀们?A個樣品作為凝聚點 (假設分 A類 )。＋第 1,2,11jjxnAjil Pxliji ??? ??82 定義 第 i類中所有元素與其重心的距離的平方和 : ??? nil Pxnilnini AxdPAD ),(),(2? ?? ?? ki Px niln nilAxdu 1 )(2 ),(??? ki nini PAD1 ),(?????11 ||nnnuuu? 是事前給定的一個充分小量 。 數(shù)據(jù)是 1990年全國 30個省在經(jīng)濟 （ jj） 、 教育 （ jy） 、健康 （ jk） 和居住環(huán)境 （ jz） 四個方面對小康標準已經(jīng)實現(xiàn)的程度 ， 1表示已經(jīng)達到或超過小康水平 ，0表示低于或多或少剛達到溫飽水平 。不妨假設 。 例如 ， 十二個地區(qū)的經(jīng)濟發(fā)展指數(shù) ，排列出來以后 ， 需要劃分他們的等級 。 因此要尋找一種分法 b(n,k)， 使分類損失函數(shù) L[b(n,k)]達到最小 。 01變量聚類 以 01變量為原始變量進行聚類分析。 104 ： 1）將樣本觀測歸入數(shù)量較多的子類。注意：一般來說，子類越多，二階段聚類越準確，但同時對計算機硬件的要求越高，故應合理確定初始類的數(shù)量。 這里所謂的模糊性 ， 主要是指客觀事物的差異在中間過渡中的不分明性 ， 如某一生態(tài)條件對某種害蟲 、 某種作物的存活或適應性可以評價為 “ 有利 、 比較有利 、 不那么有利 、不利 ” ；災害性霜凍氣候對農業(yè)產量的影響程度為“ 較重 、 嚴重 、 很嚴重 ” ， 等等 。 以上的兩個公式的含義是 ， 如果要找到 n個樣品分為 k個類的最優(yōu)分割 ， 應建立在將 j1（ j＝ 2,3,… ,n)個樣品分為k1類的最優(yōu)分割的基礎上 。 規(guī)定三個經(jīng)濟發(fā)達地區(qū) ， 四個中等發(fā)達的地區(qū) ，三個一般地區(qū) ， 兩個發(fā)展較差地區(qū) 。 ? ?n??? , 21 ??? i?)(?V i? )()( ji VV ?? ?mv ?? ??? ?21 mv ?? , 21 ? K),( 21 kPPPP ??? ?j??? , 21 ?87 系統(tǒng)聚類開始 n個樣品各自自成一類，然后逐步并類，直至所有的樣品被聚為一類為止。 85 jj jy jk jz 類別 距離 beijngsh 1 anghai 1 tianjin 1 henna 2 zhejiang 2 jilin 1 helongji 1 fujian 2 guangxi 2 anhui 2 ningxia 2 hunan 3 jiangxi 3 Qinghai 3 Guizhou 3 86 四、有序樣本聚類法 （ 一 ） 功能范疇與數(shù)據(jù)類型 有序樣本聚類法又稱為最優(yōu)分段法 。 算法終止的標準是 83 五 、 動態(tài)聚類步驟為： 第一 ， 選擇若干個觀測值