【正文】 G8 G9 極差標(biāo)準(zhǔn)化變換 即 工商管理學(xué)院信息管理教研室 ),2,1。 對數(shù)變換 即 工商管理學(xué)院信息管理教研室 對數(shù)變換可將具有指數(shù)特征的數(shù)據(jù)結(jié)構(gòu)化為線性數(shù)據(jù)結(jié)構(gòu) 。,2,1(0l og*njmixxx ijijij?????? 要求 此外 ， 還有平方根變換 ， 立方根變換等 。 第三節(jié) (樣品間的 )距離和相似系數(shù)的計算 距離 是事物 (樣品 )之間差異性的測度，而 相似系數(shù) 則是其相似性的測度，所以距離和相似系數(shù)是聚類分析的依據(jù)和基礎(chǔ)。 工商管理學(xué)院信息管理教研室 一、距離的計算 設(shè)觀測數(shù)據(jù) 工商管理學(xué)院信息管理教研室 ),2,1。 如果我們把每一個分類對象 (樣品 ， 共 m個 )的 n個聚類要素看成 n維空間的 n個坐標(biāo)軸 ， 則每一個分類對象的 n個要素所構(gòu)成的 n維數(shù)據(jù)向量就是 n維空間中的一個點 (即 m個樣品看成 n維空間中的 m個點 )。 關(guān)于距離的說明： 用 工商管理學(xué)院信息管理教研室 表示樣品 和 ijd )(iX )( jX之間的距離 ， 一 般要求： (1) ijd≥ 0,對于一切 i,j。 但蘭氏距離也沒有考慮變量間的相關(guān)性 。 工商管理學(xué)院信息管理教研室 馬氏距離 工商管理學(xué)院信息管理教研室 樣品 和 )(iX )( jX的馬氏距離為 mji ,2,1, ??)()()( )()(1)()( jiTjiij XXSXXMd ??? ?其中 S1為樣本協(xié)差陣的逆矩陣 。 比較合理的辦法是用各個類的樣本來計算各自的協(xié)差陣 ， 同一類樣品間的馬氏距離應(yīng)當(dāng)用這一類的協(xié)差陣來計算 ， 但類的形成需要依賴于樣品間的距離 ， 而樣品間合理的馬氏距離又依賴于類 ， 這就形成了一個惡性循環(huán) ， 因此在實際聚類分析中 ， 馬氏距離也不是理想的距離 。 工商管理學(xué)院信息管理教研室 斜交空間距離 工商管理學(xué)院信息管理教研室 由于變量之間存在著不同程度的相關(guān)關(guān)系 ， 在這種情況下 ， 用正交空間距離來計算樣品間的距離 ， 易產(chǎn)生形變 ， 從而使得用聚類分析進(jìn)行分類時的譜系結(jié)構(gòu)發(fā)生變形 。 lXklr舉例 據(jù)表 3— 3中的數(shù)據(jù) ， 計算九個農(nóng)業(yè)區(qū)之間的絕對值距離矩陣如下： 工商管理學(xué)院信息管理教研室 ???????????????????????????????0)d(D99ij二、相似系數(shù)的計算 樣品間的親疏程度除了用距離描述外 ， 也可用相似系數(shù)來表示 。 工商管理學(xué)院信息管理教研室 夾角余弦 工商管理學(xué)院信息管理教研室 樣品 的 n個觀測值 )(iX)( jX看成 n維空間的向量 ， 則 ),( 21 inii xxx ?)(iX和 的夾角 ij?的余弦稱為兩向量的相似系數(shù) ， 即 ?????????nkjknkiknkjkikijijxxxxr12121)(c o smji ,2,1, ??工商管理學(xué)院信息管理教研室 時 ， 夾角 在上式中 ， 顯然有： 1≤ )( jX=1， 說明兩個樣 )(iX和 正交時 ， ij?ij?cos≤ 1。 ij?=90 ， ijr相關(guān)系數(shù) 工商管理學(xué)院信息管理教研室 )( jX)(iX和 表示 ， 相關(guān)系數(shù)就是對數(shù)據(jù)作標(biāo)準(zhǔn)化處理后的夾角 ijr余弦。 在上式中， ix和 jx分別為聚類對象（樣 品） 各要素標(biāo)準(zhǔn)化數(shù)據(jù)的平均值 。 在對變量進(jìn)行分類時 ， 通常采用相似系數(shù)來表示變量之間的親疏程度 。 工商管理學(xué)院信息管理教研室 第四節(jié) 系統(tǒng)聚類法 系統(tǒng)聚類法是目前在實際應(yīng)用中使用最多的一類方法。 本節(jié) m個樣品的聚類問題。 系統(tǒng)聚類方法的 基本思想是： 首先定義樣品間的距離 （ 或相似系數(shù) ） 和類與類之間的距離 ，一開始將 m個樣品各自自成一類 ， 這里類間的距離與樣品間的距離是等價的；然后將距離最近的兩類合并 ， 并計算新類與其它類的類間距離 ， 再按最小距離準(zhǔn)則并類 。 這個并類過程可以用 譜系聚類圖 形象地表達(dá)出來 。 數(shù)據(jù)變換的目的是為了便于比較 、 計算上的方便或改變數(shù)據(jù)的結(jié)構(gòu) 。 ② 計算 m個樣品兩兩間的距離 ， 得樣品間 工商管理學(xué)院信息管理教研室 )0(D的距離矩陣 ； 系統(tǒng)聚類法它的基本步驟 (續(xù) ) ③ 一開始 （ 第一步： ） m個樣品各自構(gòu)成一類 ， 類的個數(shù) k=m個類： 工商管理學(xué)院信息管理教研室 ? ? ),2,1()( miXG ii ??? 此時類間的距離就是樣品間的距離 ,即 )0()1( DD ?然后對步驟 mi ,3,2 ?? 執(zhí)行并類過程的步 驟④和⑤； 系統(tǒng)聚類法它的基本步驟 (續(xù) ) ④ 每次合并類間距離最小的兩類為一新類 。若合并后類的總個數(shù) k仍大于 1，重復(fù)④和⑤步；直到類的總個數(shù)為 1時止。 例 設(shè)有 5個產(chǎn)品 ， 每個產(chǎn)品測得一項指標(biāo) X，其值如下： 1,2， ， 6,8。 解：設(shè)樣品間的距離取為歐氏距離 ， 類間的距離取為類間的最短距離 ， 根據(jù)上面介紹的步驟 ， 計算如下： 工商管理學(xué)院信息管理教研室 ① 計算 5個樣品 : )5()4()3()2()1( , XXXXX兩兩間的距離，得初始的類間距離矩陣為： )1(D ② 一開始 m個樣品各自構(gòu)成一類 ， 得 5個類： 工商管理學(xué)院信息管理教研室 ? ??????????????????020)1(D? ? )5,2,1()( ??? iXG ii即類的個數(shù) k=5。 ③ 由 ④ 按最短距離法計算新類 CL4與其他類的距 )2(D離，得新的距離矩陣： 工商管理學(xué)院信息管理教研室 )3(X)4(X)5(X4CL)3(X)4(X )5(X4CL 0 [] 0 2 4 0 6 0 )2(D： 因此時類的總個數(shù) k=4大于 1類，重復(fù)并類過程。 )2(D)3(X )4(X? ?)4()3( ,3 XXCL ?⑤ 由 可知類間距離為 ， 故合并 和 為一新類，記為： ⑥ 按最短距離法計算新類 CL3與其他類的 )3(D距離，得新的距離矩陣： 工商管理學(xué)院信息管理教研室 因此時類的總個數(shù) k=3大于 1，重復(fù)并類過程。 )3(D)5(X 3CL? ?)4()3()5( ,2 XXXCL ?⑦ 由 可知，應(yīng)合并 和 為一新類，記為 ； ⑧ 按最短距離法計算新類 CL2與其他類的 )4(D距離，得到的新的距離矩陣： 4CL2CL4CL2CL 0 [] 0 因此時類的總個數(shù) k=2大于 1類 ， 重復(fù)并類過程 。 1CL1CL 0 )5(D⑩ 此時所有樣品全并成一類 ,得新的距離矩 陣 ： 并類過程至此結(jié)束 。 到底分為幾類最合適 ？ 這里并沒有絕對正確的原則 ， 一般可根據(jù)實際問題的不同 ，從譜系聚類圖直觀看出 ， 通過分界值 (閾值 )給出分類 ， 也可以用近似的統(tǒng)計檢驗來驗證分類個數(shù)如何選取更合適 (后面將有較詳細(xì)敘述 )。 下面介紹常用的幾種系統(tǒng)聚類分析方法 。 ijd )(iX )( jXijr22 11ijijijij rdrd ???? 或ijD iGjG以下用 表示樣品 和 之間的 距離 ， 當(dāng)樣品間的親疏關(guān)系采用相似系數(shù) 時 ， 令 ； 用 表示類 和 最短距離法 (SINgle linkage) 最短距離法是將類與類之間的距離定義為 工商管理學(xué)院信息管理教研室 兩類中最近樣品之間的距離 ， 即類 之間的距離定義為 pG qGpqD和 ),X其中(m i n)(i,以下同表示ppijGjGipqGGidDqp?????工商管理學(xué)院信息管理教研室 ? ?? ? ),(,m i nm i n,m i nm i n),(m i n,qpkDDddGGGdDqkpkijGjGiijGjGiqprijGjGirkkqkpkr?????????????????pG qGrGrGkG當(dāng)某步類 和 合并為 后 ， 按最 短距離法計算新類 與其它類 的類間距 離 ， 遞推公式為 工商管理學(xué)院信息管理教研室 以下 ， 我們以某地區(qū)九個農(nóng)業(yè)區(qū)的七項經(jīng)濟(jì)指標(biāo)所形成的距離矩陣 ， 用最短距離聚類法對某地區(qū)的九個農(nóng)業(yè)區(qū)進(jìn)行聚類分析 。 前例 九個農(nóng)業(yè)區(qū)之間的絕對值距離矩陣如下： 工商管理學(xué)院信息管理教研室 ???????????????????????????????0)d(D99ij 第一步 ， 在 9 9階距離矩陣 D中 ， 非對角 工商管理學(xué)院信息管理教研室 ? ?9410 , GGG ?元素中最小者是 ，故首先將第 ?d10G4區(qū)與第 9區(qū)并為一類 ， 記為 ， 即 1G 2G3G 5G 6G 7G 8G 10G分別按照最短距離法遞推公式計算 ， ， ， ， ， ， 與 之間的距離 得： D1,10=min{d14,d19}=min{,}= D2,10=min{d24,d29}=min{,｝ = D3,10=min{d34,d39}=min{,}= D5,10=min{d54,d59}=min{,}= D6,10=min{d64,d69}=min{,}= D7,10=min{d74,d79}=min{,}= D8,10=min{d84,d89}=min{,}= 工商管理學(xué)院信息管理教研室 工商管理學(xué)院信息管理教研室 1G 2G 3G 5G 6G 7G8G 10G這樣就得到 ， ， ， ， ， ， 上的一個新的 8 8階距離矩陣 D(2) ： ， G1 G2 G3 G5 G6 G7 G8 G10 G1 0 G2 0 G3 0 G5 0 G6 0 G7 0 G8 0 G10 0 第二步 ， 在上一步驟中所得到的新的8 8階距離矩陣中 ， 非對角元素中最小者為d57=， 故將 G5與 G7歸并為一類 ， 記為 G11，即 G11={G5， G7}。 再分別按最短距離法遞推公式 工商管理學(xué)院信息管理教研室 計算 1G12G3G 6G 11G10G， ， ， ， 與 離 ， 可得到一個新的 6 6階距離矩陣 D(4) ： 之間的距 工商管理學(xué)院信息管理教研室 G1 G3 G6 G10 G11 G12 G1 0 G3 0 G6 0 G10 0 G11 0 G12 0