【正文】 kGrG與其它類 ),()(2)1( 2222 qpkDDDDpqqkpkrk ???????在 SAS/STAT軟件的 CLUSTER過程中使用 0??的遞推公式 2222 qkpkrkDDD??并把此方法稱為 McQuitty相似分析法。經(jīng)整理可得 ? ?)()()( 1 qqpprr XmXmmX ??其中 工商管理學(xué)院信息管理教研室 )()( )()()()(2 qpTqprqppq XXXXmmmD ???當(dāng)樣品間距采用歐氏距離時(shí) ， 上式可表示為 22pqrqppq dmmmD ?的類間距離與重心法只差一個(gè)常數(shù)倍。 p? q? ? ?其中 ， ， 和 是參數(shù) ， 不同的系統(tǒng)聚 八種系統(tǒng)聚類方法的距離參數(shù)值 方法名稱 參 數(shù) 矩陣要求 空間 性質(zhì) 最短距離法 1/2 1/2 0 1/2 各種 D 壓縮 最長(zhǎng)距離法 1/2 1/2 0 1/2 各種 D 擴(kuò)張 中間距離法 1/2 1/2 0 歐式距離 保持 重心法 0 歐式距離 保持 類平均法 0 0 各種 D 保持 可變平均法 0 各種 D 不定 可變法 0 各種 D 擴(kuò)張 離差平方和法 0 歐式距離 壓縮 p? q? ? ?1??1??krkmm m??p?? q?041 ????rpmmrqmmrpmmrqmm2)1( ??2)1( ??rpm m)1( ??rqmm)1( ??krkpmmmm??krkqmmmm??工商管理學(xué)院信息管理教研室 系統(tǒng)聚類方法的簡(jiǎn)單性質(zhì) (1)單調(diào)性 工商管理學(xué)院信息管理教研室 的，則稱它具有單調(diào)性。 比較最短距離法和最長(zhǎng)距離法的并類過程及相應(yīng)的距離矩陣可以看出 ， 每一步都有 工商管理學(xué)院信息管理教研室 ),()()( jidd ijij 對(duì)一切長(zhǎng)短 ? 這種性質(zhì)稱為最長(zhǎng)距離法比最短距離法擴(kuò)張；或稱最短距離法比最長(zhǎng)距離法濃縮。 工商管理學(xué)院信息管理教研室 三、系統(tǒng)聚類方法的統(tǒng)一和比較 系統(tǒng)聚類方法的統(tǒng)一 上述介紹的各種系統(tǒng)聚類分析方法中 ，除直接聚類法外 ， 其余八種方法的聚類的步驟完全一樣 ， 所不同的是類與類之間的距離用不同的定義方法 ， 因而得到不同的遞推公式 ， Lance和 Williams于 1967年首先給出了統(tǒng)一公式 ， 這樣為編制統(tǒng)一的計(jì)算程序提供了很大的方便 。 Ward法把兩類合并后增加的離差平方和看成類間的平方距離 ， 即令 )(2 qprpq WWWD ???pG qG和 的平方距離 ,其中 表示 ? ?qpr GGG ,?， 工商管理學(xué)院信息管理教研室 的定義，可得 qpr WWW , qpr GGG ,rW分別為 類中樣品的離差 平方和 。 0??03/1 ???? qp mm ?qp mm ?廣得到的 (當(dāng) 時(shí)就是類平均法；當(dāng) 且 時(shí)就是中間距離法 。 如果將兩類間的距離定義為兩類重心間的距離 ， 這種聚類方法稱為重心法 。 工商管理學(xué)院信息管理教研室 ???????????????????????????????0)d(D99ij 第五步 ， 在第四步之后余下的元素中 ， 除對(duì)角線元素以外 ， d21=d12= ， 故將第 1區(qū)與第 2區(qū)并為一類 ， 劃去第 2行與第 2列 ， 此時(shí) ， 第 8區(qū)已歸并為一類； 工商管理學(xué)院信息管理教研室 ???????????????????????????????0)d(D99ij 第六步 ， 在第五步之后余下的元素中 ， 除對(duì)角線元素以外 ， d65=d56= ， 故將第 5區(qū)與第 6區(qū)并為一類 ， 劃去第 6行和第 6列 ， 此時(shí) ， 第 7區(qū)已歸并為一類； 工商管理學(xué)院信息管理教研室 ???????????????????????????????0)d(D99ij 第七步 ， 在第六步之后余下的元素中 ， 除對(duì)角線元素以外 ， d31=d13= ， 故將第 1區(qū)與第 3區(qū)并為一類 ， 劃去第 3行和第 3列 ， 此時(shí) ， 第 1， 2， 3， 4， 8， 9區(qū)已歸并為一類 。此時(shí)，各個(gè)分類對(duì)象均被歸并為一類。 工商管理學(xué)院信息管理教研室 G10 譜系聚類圖 0 1 2 G6 G5 G7 G2 G8 G3 G4 G9 G1 G11 G12 G13 G14 G15 G16 G17 最長(zhǎng) (遠(yuǎn) )距離法 (COMplete method) 最長(zhǎng)距離法是將類與類之間的距離定義 工商管理學(xué)院信息管理教研室 ),X(m a x)(i,以下同表示這里 ppijGjGipqGGidDqp?????為兩類中最遠(yuǎn)樣品間的距離 ， 即類 之間的距離 pGqGpqD和 定義為： 工商管理學(xué)院信息管理教研室 ? ?? ? ),(,m a xm a x,m a xm a x),(m a x,qpkDDddGGGdDqkpkijGjGiijGjGiqprijGjGirkkqkpkr?????????????????pG qGrGrGkG當(dāng)某步類 和 合并為 后 ， 按最 長(zhǎng)距離法計(jì)算新類 與其它類 的類間距 離 ， 遞推公式為 最長(zhǎng) (遠(yuǎn) )距離聚類法使兩類合并后與其他類的距離是原來兩類的類間距離的最大者 ， 它加大了合并后的類與其它類的距離 ， 具有空間距離擴(kuò)張性質(zhì) 。 再分別按照最短距離法遞 工商管理學(xué)院信息管理教研室 推公式計(jì)算 1G 2G 3G 6G11G8G 10G， ， ， ， ， 與 之間的距離 ， 可得到一個(gè)新的 7 7階距 離矩陣 D(3) ： 工商管理學(xué)院信息管理教研室 G1 G2 G3 G6 G8 G10 G11 G1 0 G2 0 G3 0 G6 0 G8 0 G10 0 G11 0 第三步 ， 在第二步所得到的新的 7 7階距離矩陣中 ， 非對(duì)角線元素中最小者為 d28=，故將 G2與 G8歸并為一類 ， 記為 G12， 即 G12=｛ G2， G8｝ 。 畫譜系聚類圖 工商管理學(xué)院信息管理教研室 11 譜系聚類圖 0 1 2 3 )1(X)2(X)3(X)4(X)5(XCL4 CL3 CL2 CL1 確定類的個(gè)數(shù)及各類的成員 工商管理學(xué)院信息管理教研室 12 若分為兩類，則 ? ?)4()3()5()2(2 , XXXG ? ； ? ?)2()1()2(1 , XXG ? ， 若分為三類，則 ? ?)4()3()3(3 , XXG ? ； ? ?)2()1()3(1 , XXG ?, ? ?)5()3(2 XG ? , 確定類的個(gè)數(shù)及各類的成員 工商管理學(xué)院信息管理教研室 12 若分為四類，則 若分為五類，則 ， ? ?)2()1()4(1 , XXG ?； ? ?)4()4(4 XG ?? ?)5()4(2 XG ?, ? ?)3()4(3 XG ? , ? ? )5,4,3,2,1()()5( ?? iXG ii譜系聚類圖的使用目的 有了譜系聚類圖 ， 用戶希望分為幾類 ，都可以從譜系聚類圖中得到分類結(jié)果 。 工商管理學(xué)院信息管理教研室 可知，首先合并 )1(D)1(X )2(X? ?)2()1( ,4 XXCL ?類的總個(gè)數(shù) k減少 1類，變?yōu)?k=4，故把此步得到 和 為 一新類，記為 ；此時(shí) 的新類記為 CL4。 選擇度量樣品間距離的定義 （ 如歐氏距離 ） 及度量類間距離的定義 （ 如最短距離法 ，參見下面 “ 系統(tǒng)聚類分析的方法 ” ） 。它是將類由多變到少的一種方法。 當(dāng) ji ?=0 ， ijr品完全相似； 當(dāng) =0， 說明兩個(gè)樣 品 不相似 。 馬氏距離 雖然可以排除變量之間相關(guān)性的干擾 ， 并且不受量綱的影響 ， 但是在聚類分析處理之前 ， 如果用全部數(shù)據(jù)計(jì)算均值和協(xié)差陣來求馬氏距離 ， 效果不是很好 。,2,1( njmix ij ?? ?? 列成表 3— 1的形式 。,2,1(}{m i n}{m a x*njmixxxxxijiijijijij??????? 極差標(biāo)準(zhǔn)化變換變換后的數(shù)據(jù) ， 每個(gè)變量 的樣本均值為 0， 極差為 1， 且 1* ?ijx， 在 以后的分析計(jì)算中可以減少誤差的產(chǎn)生；同時(shí)變化后的數(shù)據(jù)也是無量綱的量。,2,1(* njmisxxxjjijij ?? ???? 這種標(biāo)準(zhǔn)化方法所得的新數(shù)據(jù) *ijx各要素 的平均值為 0， 標(biāo)準(zhǔn)差為 1， 即有 1)(11,0112**1* ?????? ????mijijjmiijj xxmsxmx而且標(biāo)準(zhǔn)化后的數(shù)據(jù) { *ijx}與變量的量綱無關(guān) 。 不同要素的數(shù)據(jù)往往具有不同的單位和量綱 ， 因而其數(shù)值的差異可能是很大的 ， 這就會(huì)對(duì)分類結(jié)果產(chǎn)生影響 。 例如考慮溫度 ， 40度比 10度熱 30度 ， 而 40度和 10度是相對(duì)于人們?nèi)《ǖ?0度而言的 。 工商管理學(xué)院信息管理教研室 第二節(jié) 聚類要素的數(shù)據(jù)處理 為了對(duì)樣品 (或變量 )進(jìn)行分類，就必須研究它們之間的關(guān)系。 工商管理學(xué)院信息管理教研室 R型聚類分析 聚類分析根據(jù)分類對(duì)象的不同分為 R型和 Q型在大類 。 這一過程一直繼續(xù)直到所有對(duì)象歸為一類為止 。管理決策模型與方法 (聚類分析部分 ) (適用于信息管理與信息系統(tǒng)、工商管理專業(yè) 30H) 主講教師：屈春艷 工商管理學(xué)院信息管理教研室 第三章 聚類分析 聚類分析 ， 亦稱群分析或點(diǎn)群分析 ， 它是研究對(duì)樣品或指標(biāo)進(jìn)行分類的一種多元統(tǒng)計(jì)分析方法 (它是研究多要素事物分類問題的數(shù)量方法 )。 工商管理學(xué)院信息管理教研室 聚類分析的方法 聚類分析的內(nèi)容十分豐富 ， 按其聚類的方法可分為以下幾種： 系統(tǒng)聚類法：開始每個(gè)對(duì)象自成一類 ，然后每次將最相似的兩類合并 ， 合并后重新計(jì)算新類與其它類的距離或相近性測(cè)度 。 但對(duì)一些異常數(shù)據(jù) ， 如氣象中的災(zāi)害性天氣的預(yù)報(bào) ，回歸或判斷分析處理的效果都不好 ， 而聚類預(yù)報(bào)彌補(bǔ)了這一不足 ， 這是一個(gè)值得重視的方法 。 實(shí)際應(yīng)用中 ， 常采用不同的分類方法 ， 對(duì)數(shù)據(jù)進(jìn)行分析計(jì)算 ，以便對(duì)分類提供意見 ， 并由實(shí)際工作者決定所需要的分類數(shù)及分類情況 。 工商管理學(xué)院信息管理教研室 一、變量的類型 區(qū)間變量 (或間隔變量 )： 區(qū)間變量是有順序大小的數(shù)值變量 ， 且數(shù)值間的差值是有意義的 。 在分類研究中 ， 被聚類的對(duì)象常常是多個(gè)要素構(gòu)成的 。,2,1(1*njmixxxmiijijij?? ????? 這種標(biāo)準(zhǔn)化方法所得