【文章內(nèi)容簡介】 ： (2)z1= linkage(d), 輸出結(jié)果為： z1 = +004 * % 在 1280的水平， G4,G5合成一類為 G6 % 在 1428的水平， G6,G3合成一類為 G7 % 在 3462的水平， G1,G2合成一類為 G8 % 在 10293的水平， G7,G8合成一類 45/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 譜系聚類圖： H= dendrogram(z1) 4 5 3 1 210002022300040005000600070008000900010000圖 最短距離聚類圖 46/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 (2) 當(dāng)類間距離為最長距離時(shí)， Matlab中的命令： z2= linkage(d,39。plete39。)， 輸出結(jié)果為： z2 = +004 * % 在 1280的水平， G4,G5合成一類為 G6 % 在 1639的水平， G6,G3合成一類為 G7 % 在 3462的水平， G1,G2合成一類為 G8 % 在 13932的水平， G7,G8合成一類 47/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 4 5 3 1 22022400060008000100001202214000圖 最長距離聚類圖 48/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 (3) 當(dāng)類間距離為類平均距離時(shí)， Matlab中的命令： z3= linkage(d,39。average39。), 輸出結(jié)果為 z3= +004* % 在 1280的水平， G4,G5合成一類為 G6 % 在 1533的水平， G6,G3合成一類為 G7 % 在 3462的水平， G1,G2合成一類為 G8 % 在 12098的水平， G7,G8合成一類 49/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 4 5 3 1 220224000600080001000012022圖 類平均距離聚類圖 50/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 51/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 若我們不知道實(shí)際的觀測數(shù)據(jù)，但已經(jīng)知道樣品之間的距離，那么如何在 MATLAB中實(shí)現(xiàn)相應(yīng)的聚類？ 例 歐州各國語言有許多相似之處，有的十分相近，以E,N,Da,Du,G,Fr,S,I,P,H,Fi分別表示英語、挪威語、丹麥語、荷蘭語、德語、法語、西班牙語、意大利語、波蘭語、匈牙利語和荷蘭語等 11種語言 .人們以任兩種語言對 110這十個(gè)數(shù)字拼寫中第一個(gè)字母不相同的個(gè)數(shù)定義兩種語言間的‘距離’ . 這種距離是廣義距離 .例如，英語和挪威語只有數(shù)字 1和 8的第一個(gè)字母不同，故這兩種語言間的距離定義為 11種語言間的距離矩陣如下： 52/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 E N Da Du G F r S I P H F iE0N 2 0Da 2 1 0Du 7 5 6 0G 6 4 5 5 0F r 6 6 6 9 7 0S 6 6 5 9 7 2 0I 6 6 5 9 7 1 1 0P 7 7 6 1 0 8 5 3 4 0H 9 8 8 8 9 1 0 1 0 1 0 1 0 0F i 9 9 9 9 9 9 9 9 9 8 053/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 54/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 解： d=[2 2 7 6 6 6 6 7 9 9 1 5 4 6 6 6 7 8 9 6 5 6 5 5 6 8 9 5 9 9 9 10 8 9 7 7 7 8 9 9 2 1 5 10 9 1 3 10 9 4 10 9 10 9 8]。 %按列輸入距離矩陣 (只輸入下三角陣中的非零元素 ) z4=linkage(d, 39。centroid39。)。 %重心距離 H2= dendrogram(z4) %譜系圖 z5=linkage(d,‘ward’)。 %離差平方和距離 figure(2) H3= dendrogram(z5) %譜系圖 7 8 6 9 1 2 3 5 4 10 1112345678 7 8 6 9 1 2 3 4 5 10 112468101214圖 重心距離的譜系聚類圖圖 離差平方和距離的譜系聚類圖 55/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 subplot(2,3,1) plot(meas(1:50,1),meas(1:50,2),39。*39。,meas(51:100,1), meas(51:100,2),39。g*39。,meas(101:150,1),meas(101:150,2), 39。ro39。), title(39。x1x239。) subplot(2,3,2) plot(meas(1:50,1),meas(1:50,3),39。*39。,meas(51:100,1), meas(51:100,3),39。g*39。,meas(101:150,1),meas(101:150,3), 39。ro39。), title(39。x1x339。) subplot(2,3,3) plot(meas(1:50,1),meas(1:50,4),39。*39。,meas(51:100,1), meas(51:100,4),39。g*39。,meas(101:150,1),meas(101:150,4), 39。ro39。),title(39。x1x439。) subplot(2,3,4) 56/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 plot(meas(1:50,2),meas(1:50,3),39。*39。,meas(51:100,2), meas(51:100,3),39。g*39。,meas(101:150,2),meas(101:150,3),39。ro39。) title(39。x2x339。) subplot(2,3,5) plot(meas(1:50,2),meas(1:50,4),39。*39。,meas(51:100,2), meas(51:100,4),39。g*39。,meas(101:150,2),meas(101:150,4),39。ro39。) title(39。x2x439。) subplot(2,3,6) plot(meas(1:50,3),meas(1:50,4),39。*39。,meas(51:100,3), meas(51:100,4),39。g*39。,meas(101:150,3),meas(101:150,4),39。ro39。) title(39。x3x439。) 57/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 結(jié)果顯示第一類里只有兩個(gè)樣品，說明聚類效果不理想， 為了提高聚類效果的優(yōu)良性，我們將運(yùn)用 K均值聚類和模糊 C均值聚類對其進(jìn)行再討論 . 圖 Iris 數(shù)據(jù)的散點(diǎn)圖 (兩個(gè)指標(biāo) ) 同理可作兩兩指標(biāo)經(jīng)聚類分類后的數(shù)據(jù)散點(diǎn)圖。 從圖形 聚類效果不理想。 58/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 例 RA Fisher在 1936年發(fā)表的 Iris數(shù)據(jù)中，研究某植物 的萼片長、寬及花瓣長、寬 . x1: 萼片長， x2：萼片寬， x3：花瓣長， x4: 花瓣寬 . Iris數(shù)據(jù)保存在 MATLAB軟件 系統(tǒng)的文件 ，用 meas命名了取自三個(gè)總類 G1,G2和 G3，每一類取 50個(gè)樣本。試?yán)米V系聚類對 Iris數(shù)據(jù) 進(jìn)行聚類． 解：從 MATLAB系統(tǒng)中導(dǎo)入樣本數(shù)據(jù)的命令 load fisheriris。 程序如下。 load fisheriris %導(dǎo)入萼片的相關(guān)數(shù)據(jù)， d=pdist(meas) %計(jì)算歐氏距離 z1=linkage(d) %類間為最短距離 T=cluster(z1,3) %分為 3類 g1=find(T==1) %第一類里的樣品編號 g2=find(T==2) %第二類里的樣品編號 g3=find(T==3) %第三類里的樣品編號 59/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 K均值聚類 譜系聚類法是先將每個(gè)樣品看成一類，通過比較距離的大小逐步擴(kuò)充類，因此，對于給定的數(shù)據(jù)，譜系聚類一定能夠?qū)悠泛喜橐活?，分類的結(jié)果唯一，但 是譜系聚類有一個(gè)缺點(diǎn)，樣品一旦被分到某一類中就不能改變，且當(dāng)樣本容量較大時(shí)，計(jì)算量也相應(yīng)地變大 . 克服此缺點(diǎn)的一個(gè)方法就是 K均值聚類法，又稱快 速聚類法或動(dòng)態(tài)聚類法 . 在運(yùn)用 K均值聚類法之前，要根據(jù)實(shí)際問題先確定分類數(shù) k, 在每一類中選擇有代表性的樣品，這樣的樣品稱為聚點(diǎn) . 選擇聚點(diǎn)的方法通常有最小最大原則 . 60/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 n12,iixx12,iixx若將 個(gè)樣品分成 k類，則先選擇所有樣品中距離 為前兩個(gè)聚點(diǎn)，即選擇 ，使得 最遠(yuǎn)的兩個(gè)樣品 1 2 1 2( , ) m a x{ }i i i i ijd x x d d??3ix3ix12,iixx然后選擇第 3個(gè)聚點(diǎn) ，使得 與前兩個(gè)聚點(diǎn) 的較小距離中 的距離最小者等于所有其余的與 最大的，即 61/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 3m in{ ( , ) , 1 , 2 } m a x {m in{ ( , ) , 1 , 2 }, 1 , 2 }i ir j ird x x r d x x r j i i? ? ? ?ikx12, , ,i i ikx x x然后按相同的原則選取 ，重復(fù)前面的步驟，直至確定 . k個(gè)聚點(diǎn) 62/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 K均值聚類的步驟 樣品之間的距離采用歐氏距離 . (1) 設(shè)第 k個(gè)初始聚點(diǎn)的集合是： ( 0 ) ( 0 ) ( 0 ) ( 0 )12{ , , , }.kL x x x?記 ( 0 ) ( 0 ) ( 0 ){ : ( , ) ( , ) , 1 , 2 , , , } 1 , 2 , ,i i jG x d x x d x x j k j i i k? ? ? ? ?， 　63/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 ( 0 ) ( 0 ) ( 0 ) ( 0 )12{ , , , }kG G G G?(0)G (1)L于是，將樣品分成不相交的 k類，得到一個(gè)初始分類 (2) 從 出發(fā)，計(jì)算新的聚點(diǎn)集合 ，計(jì)算 ( 0 )( 1 ) 1 , 1 , 2 , .liilxGix x i kn???? 　 　in(0)G( 1 ) ( 1 ) ( 1 ) ( 1 )12{ , , , }.kL x x x?其中 是類 中的樣品數(shù)，得到一個(gè)新的集合 64/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 從 (1)L 開始再進(jìn)行分類 ,將樣品作新的分類，記 ( 1 ) ( 1 ) ( 1 ){ : ( , ) ( , ) , 1 , 2 , , , } 1 , 2 , ,i i jG x d x x d x x j k j i i k? ? ? ? ?， 　得到一個(gè)新的分類 ( 1 ) ( 1 ) ( 1 ) ( 1 )12{ , , , }kG G G G?依次重復(fù)計(jì)算下去 . 65/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 m( ) ( ) ( ) ( )12{ , , , }m m m mkG G G G?(3) 重復(fù)上述步驟 次得 ()mix (