聚類(lèi)分析ppt課件(編輯修改稿)
2025-02-13 19:20 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 離的第一個(gè)缺點(diǎn)，但它也沒(méi)有考慮指標(biāo)之間的相關(guān)性。 常用距離的算法 28 (3)馬氏距離 這是印度著名統(tǒng)計(jì)學(xué)家馬哈拉諾比斯(P． C． Mahalanobis)所定義的一種距離 ， 其計(jì)算公式為： )()(2 ji1ji xxxx ????? ?ijd 分別表示第 i個(gè)樣品和第 j樣品的 p指標(biāo)觀測(cè)值所組成的列向量 ， 即樣本數(shù)據(jù)矩陣中第 i個(gè)和第 j個(gè)行向量的轉(zhuǎn)置 ， ?表示觀測(cè)變量之間的協(xié)方差短陣 。 在實(shí)踐應(yīng)用中 ， 若總體協(xié)方差矩陣 ?未知 ， 則可用樣本協(xié)方差矩陣作為估計(jì)代替計(jì)算 。 常用距離的算法 29 馬氏距離又稱(chēng)為廣義歐氏距離 。 顯然 ， 馬氏距離與上述各種距離的主要不同就是馬氏距離考慮了觀測(cè)變量之間的相關(guān)性 。 如果假定各變量之間相互獨(dú)立 ， 即觀測(cè)變量的協(xié)方差矩陣是對(duì)角矩陣 ， 則馬氏距離就退化為用各個(gè)觀測(cè)指標(biāo)的標(biāo)準(zhǔn)差的倒數(shù)作為權(quán)數(shù)進(jìn)行加權(quán)的歐氏距離 。 因此 ， 馬氏距離不僅考慮了觀測(cè)變量之間的相關(guān)性 ， 而且也考慮到了各個(gè)觀測(cè)指標(biāo)取值的差異程度 ， 為了對(duì)馬氏距離和歐氏距離進(jìn)行一下比較 ， 以便更清楚地看清二者的區(qū)別和聯(lián)系 ， 現(xiàn)考慮一個(gè)例子 。 常用距離的算法 30 ?????? ????????????,002N ?????????? ?11兩點(diǎn)。和設(shè) )1,1()1,1( ??BA)( ?Md A ?20)( ?Md B ?2)( ?Ud A ?2)( ?Ud B ?例如，假設(shè)有一個(gè)二維正態(tài)總體，它的分布為： 常用距離的算法 31 相似系數(shù)的算法 （ 1）相似系數(shù) 設(shè) 和 是第 和 個(gè)樣品的觀測(cè)值，則二者之間的相似 測(cè)度為 : ? ??? ipii xxx , 21 ?ix ),( 21 ?? jpjj xxx ?jxi j? ??? ??????? pkpk jjkiikpk jjkiikijxxxxxxxx1 1221])(][)([))((?其中 常用距離的算法 32 （ 2）夾角余弦 夾角余弦時(shí)從向量集合的角度所定義的一種測(cè)度變量之間親疏程度的相似系數(shù)。設(shè)在 n維空間的向量 ? ??? niiii xxx , 21 ?x ? ??? njjjj xxx , 21 ?x? ??? ????nknk kjkink kjkiijijxxxxc1 1221c o s ?22 1 ijij Cd ??常用距離的算法 33 五 、 距離和相似系數(shù)選擇的原則 一般說(shuō)來(lái) ， 同一批數(shù)據(jù)采用不同的親疏測(cè)度指標(biāo) ，會(huì)得到不同的分類(lèi)結(jié)果 。 產(chǎn)生不同結(jié)果的原因 ， 主要是由于不同的親疏測(cè)度指標(biāo)所衡量的親疏程度的實(shí)際意義不同 ， 也就是說(shuō) ， 不同的親疏測(cè)度指標(biāo)代表了不同意義上的親疏程度 。 因此我們?cè)谶M(jìn)行聚類(lèi)分析時(shí) ，應(yīng)注意親疏測(cè)度指標(biāo)的選擇 。 通常 ， 選擇親疏測(cè)度指標(biāo)時(shí) ， 應(yīng)注意遵循的基本原則主要有： 常用距離的算法 34 (1)所選擇的親疏測(cè)度指標(biāo)在實(shí)際應(yīng)用中應(yīng)有明確的意義 。 如在經(jīng)濟(jì)變量分析中 ，常用相關(guān)系數(shù)表示經(jīng)濟(jì)變量之間的親疏程度 。 常用距離的算法 原則 35 (2)親疏測(cè)度指標(biāo)的選擇要綜合考慮已對(duì)樣本觀測(cè)數(shù)據(jù)實(shí)施了的 變換方法 和將要采用的 聚類(lèi)分析方法 。 如在標(biāo)準(zhǔn)化變換之下 ， 夾角余弦實(shí)際上就是相關(guān)系數(shù)；又如若在進(jìn)行聚類(lèi)分析之前已經(jīng)對(duì)變量的相關(guān)性作了處理 ， 則通常就可采用歐氏距離 . 此外 ， 所選擇的親疏測(cè)度指標(biāo) ， 還須和所選用的聚類(lèi)分析方法一致 。 如聚類(lèi)方法若選用離差平方和法 ， 則距離只能選 用歐氏距離 。 常用距離的算法 36 (3)適當(dāng)?shù)乜紤]計(jì)算工作量的大小 。 如對(duì)大樣本的聚類(lèi)問(wèn)題 ， 不適宜選擇斜交空間距離 ， 因采用該距離處理時(shí) ， 計(jì)算工作量太大 。 樣品間或變量間親疏測(cè)度指標(biāo)的選擇是一個(gè)比較復(fù)雜且?guī)е饕?guī)性的問(wèn)題 ， 我們應(yīng)根據(jù)研究對(duì)象的特點(diǎn)作具體分折 ， 以選擇出合適的親疏測(cè)度指標(biāo) 。 實(shí)踐中 ， 在開(kāi)始進(jìn)行聚類(lèi)分析時(shí) ，不妨試探性地多選擇幾個(gè)親疏測(cè)度指標(biāo) ， 分別進(jìn)行聚類(lèi) ， 然后對(duì)聚類(lèi)分析的結(jié)果進(jìn)行對(duì)比分析 ， 以確定出合適的親疏測(cè)度指標(biāo) 。 常用距離的算法 37 … 0 … 0 ┇ ┇ ┇ ┇ … 0 pGqG1G 2G nG1G2GnG12dnd121d1nd 2ndnd2 至此，我們已經(jīng)可以根據(jù)所選擇的距離構(gòu)成 樣本點(diǎn)間的距離表 ,樣本點(diǎn)之間被連接起來(lái)。 38 類(lèi)別間的就距離定義 1 、最短距離（ Nearest Neighbor) x21? x12? x22? x11? 13d39 最長(zhǎng)距離（ Furthest Neighbor ） ? ? ? x11? x21? ? ? ? 12d類(lèi)別間的就距離定義 40 ? ? ? ? ? ? 991 dd ?? ?組間平均連接（ Betweengroup Linkage) 類(lèi)別間的就距離定義 41 組內(nèi)平均連接法（ Withingroup Linkage) 1 2 3 4 5 66d d d d d d? ? ? ? ?x21? x12? x22? x11? 類(lèi)別間的就距離定義 42 重心法（ Centroid clustering):均值點(diǎn)的距離 ? ? ? ?11,xy ? ?22,xy類(lèi)別間的就距離定義 43 離差平方和法連接 2， 4 1， 5 6， 5 22( 2 3 ) ( 4 3 ) 2? ? ? ?22( 6 5 . 5 ) ( 5 5 . 5 ) 0 . 5? ? ? ?22( 1 3 ) ( 5 3 ) 8? ? ? ?44 紅綠（ 2， 4， 6， 5）
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1