【正文】 9。average39。plete39。single39。 Method 是一個(gè)可選項(xiàng)，如最長(zhǎng)距離，最短距離等。 % 將 x的各列化為單位向量 J=x1‘*x1 %計(jì)算夾角余弦 J = 23/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 前面，我們介紹了兩個(gè)向量之間的距離，下面我們 介紹兩個(gè)類別之間的距離： ijd ji xx ,qp GG , qp nn ,m inpqp q iji G j GDd???設(shè) 表示兩個(gè)樣品 之間的距離， 分別表示兩個(gè)類別，各自含有 （ 1）最短距離 即用兩類中樣品之間的距離最短者作為兩類間距離 . 個(gè)樣品 . () 24/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 （ 2）最長(zhǎng)距離 ,m a xpqp q iji G j GDd???即用兩類中樣品之間的距離最長(zhǎng)者作為兩類間距離 . () （ 3）類平均距離 1pqp q iji G j GpqDdnn??? ??即用兩類中所有兩兩樣品之間距離的平均作為 兩類間距離 . () 25/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 )()(),( qpTqpqppq xxxxxxdD ????qp xx , qp GG ,（ 4）重心距離 其中 分別是 兩類重心之間的歐氏距離作為類間距離 . () 的重心，這是用 26/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 （ 5）離差平方和距離（ ward） 2 ( ) ( )pq Tp q p q p qpqnnD x x x xnn? ? ??顯然，離差平方和距離與重心距離的平方成正比 . () qp GG , rGqpr nnn ??rG( , )kG k p q?設(shè)有兩類 合并成新的一類 , 包含了 個(gè)樣品，如何計(jì)算 與其他類別 之間的距離，這就需要建立類間距離 的遞推公式 . 27/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 （ 1）最短距離 m in( , )rk pk qkD D D?() （ 2）最長(zhǎng)距離 m a x( , )rk pk qkD D D?（ 3）類平均距離 pqr k p k q krrnnD D Dnn??() () 28/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 （ 4）重心距離 2 2 2 2p q p qr k p k q k p qr r r rn n n nD D D Dn n n n? ? ?() 29/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 22()11rki p q i kr k i ix G G x Gp q kD x xn n n? ? ?? ? ? ?? ??xx證明： 21 1 1i p i q i ki i ix G x G x Gp q p q kx x xn n n n n? ? ?? ? ???? ? ?21i p i q i kpqi i ix G x G x Gr p r q knnx x xn n n n n? ? ?? ? ?? ? ?2pqp q krrnnx x xnn? ? ?2p q p qp q k kr r r rn n n nx x x xn n n n? ? ? ?2p p q qp k q kr r r rn n n nx x x xn n n n? ? ? ?2 2 22 .p q p qp k q k p qr r rn n n nD D Dn n n? ? ?30/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 （ 5） 離差平方和距離 () 2 2 2 2p k q k kr k p k q k p qr k r k r kn n n n nD D D Dn n n n n n??? ? ?? ? ?31/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 K均值聚類 譜系聚類法是目前應(yīng)用較為廣泛的一種聚類法 . 譜系聚類是根據(jù)生物分類學(xué)的思想對(duì)研究對(duì)象進(jìn)行 分類的方法 . 在生物分類學(xué)中，分類的單位是： 門(mén)、綱、目、科、屬、種，其中種是分類的基本 單位，分類單位越小，它所包含的生物就越少，生物 之間的共同特征就越多 . 利用這種思想，譜系聚類 首先將各樣品自成一類，然后把最相似 (距離最近或 譜系聚類 32/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 相似 系數(shù)最大 )的樣品聚為小類，再將已聚合的小類按 各類之間的相似性 (用類間距離度量 )進(jìn)行再聚合，隨著相似性的減弱，最后將一切子類都聚為一大類， 從而得到一個(gè)按相似性大小聚結(jié)起來(lái)的一個(gè)譜系圖 . 1 譜系聚類的步驟 譜系聚類的步驟如下： (1) n 個(gè)樣品開(kāi)始作為 n 個(gè)類 , 距離或相似系數(shù)，得到實(shí)對(duì)稱矩陣 計(jì)算兩兩之間的 33/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 11 12 121 22 2012nnn n nnd d dd d dDd d d?????????(2) 從 0D的非主對(duì)角線上找最小 (距離 )或最大元素 (相似系數(shù) )，設(shè)該元素是 pqD則將 ,pqGG合并成一個(gè)新類 ( , )r p qG G G? 在 0D 中去掉 qp G,G所在的兩行、兩列，并加上新類 rG之間的距離或相似系數(shù)，得到 與其余各類 34/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 1n? 階矩陣 1D1D2D 2D(3) 從 出發(fā)重復(fù)步驟 (2)的做法得到 ，再由 出發(fā)重復(fù)上述步驟，直到兩個(gè)樣品聚為一個(gè)大類為止 . (4) 在合并過(guò)程中要記下合并樣品的編號(hào)及兩類合并 時(shí)的水平，并繪制聚類譜系圖 . 35/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 4100D例 從例 ， 用下列方法進(jìn)行譜系聚類 . (1)最短距離， (2)最長(zhǎng)距離 . 解：我們用 1， 2， 3， 4， 5分別表示 北京 ,上海 ,安徽 , 陜西和 新疆 ，將歐氏距離矩陣除以 ，記為 0{1}{2}{3}{4}{5}D ?{ 1} { 2 } { 3 } { 4 } { 5 }0 2 0 3 3 0 5 2 8 0 4 0 9 0 0????????36/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 { } , 1 , 2 , 3 , 4 , 5iG i i??0D54 ? 45G ,G6G { 4 , 5 }? 6G 1 2 3,G G G(1)最短距離法：將各個(gè)樣品看成一類，即 ，從 可以看出各類中距離最短的是 ， 因此將 在 水平上合成一個(gè) ,計(jì)算 與 之間的最短距離，得 新類 61 41 5162 42 5263 43 53m in { , } 44 ,m in { , } 80 ,m in { , } 28 ,D d dD d dD d d????37/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 0D1D將計(jì)算結(jié)果作為第一列，從 ，剩余元素作為其余各列得到 , 中去掉第 5行 與 5列 1D ?{4,5}{1}{2}{3}{ 4 , 5 } { 1 } { 2 } { 3 }0 944 0 080 462 0 428 293 763 0????????38/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 1D 6G 3G 6G 3G 7G從 可以看到 與 的距離最小，因此在 的水平上將 與 合成一類 ,即 7 { 3 , 4 , 5 }G ? 7G12,GG，計(jì)算 與 之間的最短距離，得 7 1 6 1 5 17 2 6 2 5 2m in { , } 1 . 0 9 4 4 ,m in { , } 1 . 3 0 8 0 .D D DD D D??1D{3,4}{5}將計(jì)算結(jié)果作為第一列，從 中劃掉 與 所在的行與列，剩余元素作為其他列得 39/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 2{3 , 4 , 5}{1}{ 2}D ?{ 3 , 4 , 5 } { 1 } { 2 }01 .0 9 4 4 01 .3 0 8 0 0 .3 4 6 2 02D 12,GG 8G 87 GG ,87 GG,從 可以看出 最接近，在 的水平上合并成一類 ，至此只剩下兩類 他們之間的距離為 : 故在此水平上將 合成一類，包含了全部的五個(gè)樣品 . 40/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 2譜系聚類的 MATLAB實(shí)現(xiàn) 為了方便快捷地實(shí)現(xiàn)大樣本的聚類分析，我們將利用 MATLAB軟件實(shí)現(xiàn)譜系聚類的方法 . （ 1）譜系聚類命令 linkage。 % 與例 R=corrcoef(x)。 20/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 聚類分析方法不僅可以對(duì)樣品進(jìn)行分類，而且可以對(duì)變量進(jìn)行分類，在對(duì)變量進(jìn)行分類時(shí)，常常采用相似系數(shù)來(lái)度量變量之間的相似性。 輸出 Z為 X的標(biāo)準(zhǔn)化矩陣，即 Z = (X–ones(N,1)*mean(X)) ./(ones(N,1)* std(X))， 其中 mean(X)為行向量，表示各個(gè)指標(biāo)的均值估計(jì)， std（ X）表示指標(biāo)的標(biāo)準(zhǔn)差估計(jì)。mahalanobis39。seuclidean39。chebychev39。 %計(jì)算絕對(duì)距離 D2=squareform(d2) D2 = +004 * 0 0 0 0 0 18/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 d3=pdist(x,‘minkowski’,3)。cityblock39。% 此時(shí)計(jì)算出各行之間的歐氏距離，為了得到距離矩陣， 鍵入命令： D= squareform(d1)。 13/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 省（市） 工薪收入 (元 /人 ) 經(jīng)營(yíng)凈收入 (元 /人 ) 財(cái)產(chǎn)性收入 (元 /人 ) 轉(zhuǎn)移性收入 (元 /人 ) 北 京 上 海 安 徽 陜 西 新 疆 表 5省 (區(qū)、市 )城鎮(zhèn)居民人均家庭收入 例 2022年我國(guó) 5省、區(qū)、市城鎮(zhèn)居民人均年家庭 收入如下表 為了研究上述 5個(gè)省、區(qū)、市的城鎮(zhèn)居民收入差異， 需要利用統(tǒng)計(jì)資料對(duì)其進(jìn)行分類，指標(biāo)變量有 4個(gè)， 計(jì)算各省、區(qū)、市之間的前 6種距離 14/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 解： x=[ ]。mahalanobis39。seuclidean39。chebychev39。minkowski39。cityblock39。euclidean39。若缺省 distance，則輸出的 Y是一個(gè)行向量，向量的長(zhǎng)度為 (N1)*N/2,其中 N是樣本的容量， Y的元素分別為個(gè)體 (1,2),(1,3),..., (1,N), (2,3),...(2,N),.....(N1,N)之間的歐氏距離。 ijxx?