【正文】 類的樣品 85/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 index1= 52 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 53 77 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 54 102 107 114 120 122 124 127 128 134 139 143 147 150 index2 = 51 53 78 101 103 104 105 106 108 109 110 111 112 113 115 116 117 118 119 52 121 123 125 126 129 130 131 132 133 135 136 137 138 140 141 142 144 53 145 146 148 149 index3 = 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 2 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 86/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 1 06 76 / 15 0 ?2m?3m? 1 5 / 1 5 0 0 .1?從聚類的結(jié)果來看，只有第三類與預(yù)先給定的完全一致， 其余兩類均與實(shí)際的分類情況相差較大，因此誤判率較高， 誤判率為 上述兩個(gè)例子使用的距離均為歐氏距離，加權(quán)指數(shù) 對(duì)于例 , 若選擇 ，則誤判率為 只需要將原程序中的命令 [center u]=fcm(x,3) 修改為 [center u]=fcm(x,3,3)即可． 87/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 模糊 C均值聚類的前提條件是需要知道分類數(shù) ， c如果對(duì)于分類數(shù)沒有什么先驗(yàn)信息，那么我們就可以運(yùn)用 模糊減法聚類以確定相應(yīng)的分類數(shù)和聚類中心， 相應(yīng)地該聚類數(shù)及聚類中心可以應(yīng)用到模糊Ｃ均值聚類， 因此，模糊減法聚類可以看作是模糊 Ｃ 均值聚類的前期工作． 88/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 12, , , snX x x x R??＝ ｛ ｝22( , ) || ||i j i jd v x v x??iv2|| ||1() ijn vxijM v e ????? ?設(shè) n為樣品集， 為樣本容量．模糊減法 iv jx表示聚類中心 與樣品 之間歐氏距離 處的爬山函數(shù) (mountain function)定義為 聚類認(rèn)為每個(gè)樣品均為潛在的聚類中心，令 平方，在 ?iviv其中 是一個(gè)正常數(shù) . 爬山函數(shù)的取值越大，說明聚類中心 與樣品的距離越小，因此，我們選擇那些能夠使得爬山 作為聚類中心 . 函數(shù)取得較大值的 89/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 *1M *1 m a x( ( ) )iM M v?*1M *1v *1v*1v*21|| ||1*11? ? ?( ) ( ) ( ) ,ijn vvjji i j ijM v M v M v e ? ???? ???? ?令 是爬山函數(shù)的最大值，即 ，同時(shí)令 對(duì)應(yīng)的中心為 ，于是， 為第一個(gè)聚類中心，為了 對(duì)聚類的影響， 尋找其他的聚類中心，有必要消除 因此，考慮如下的函數(shù) ? ()j iMv 1? ()j iMv?* 1? ()jiMv? 1? ()j iMv?*1jv? ?其中， 為新的爬山函數(shù)， 為上一步的爬山函數(shù)， 是 的最大值， 是新的聚類中心， 是一個(gè)正 常數(shù) . 90/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 2|| ||1() ijn xxijM x e ????? ??由于爬山法的計(jì)算量較大， Chiu對(duì)上述的爬山函數(shù)進(jìn)行改進(jìn)， 定義一個(gè)新的爬山函數(shù)， 其中 是一個(gè)正常數(shù) . 91/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 *1M *1 m a x( ( ) )iM M x?*1M *1x *1x*1x*2 1|| ||1*11? ? ?( ) ( ) ( ) ,ijn xxjji i j ijM x M x M x e ? ???? ???? ?令 是爬山函數(shù)的最大值，即 同時(shí)令 對(duì)應(yīng)的點(diǎn)為 ，于是， 為第一個(gè)聚類中心， 對(duì)聚類的 為了尋找其他的聚類中心，有必要消除 影響，因此，考慮如下的函數(shù) 92/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 ? ()j iMx 1? ()j iMx?* 1? ()jiMx? 1? ()j iMx? *1jx??其中， 為新的爬山函數(shù)， 為上一步的爬山函數(shù)， 是 的最大值， 是新的聚類中心， 是一個(gè)正常數(shù) . MATLAB中模糊減法聚類的命令是 SUBCLUST. 調(diào)用格式： C=SUBCLUST(X,RADII) 輸入： X為原始觀測數(shù)據(jù)，行為個(gè)體，列為指標(biāo)。 RADII為介于 0,1之間的數(shù)，通常為 ， 值越小，聚類中心的容量就越大 . 輸出：運(yùn)用模糊減法聚類方法的聚類中心的估計(jì) 93/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 例 用模糊 減法聚類法確定 Iris數(shù)據(jù)的聚類中心 . 解：我們?nèi)?RADII=.6, load fisheriris %導(dǎo)入 iris數(shù)據(jù) c=subclust(meas,.6) c= 94/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 聚類的有效性 在研究最佳聚類數(shù)之前，我們先討論樣品之間和兩個(gè)總體 (類 ) 之間究竟采用何種距離為好．先假定樣品之間的距離已定 ,例如 選取歐氏距離 . 對(duì)于類間的五種不同距離 , 哪一種距離使得聚類 的效果最好呢？為此我們計(jì)算 cophe相關(guān)系數(shù) . 聚類樹的 cophe距離與生成該聚類樹的原始距離之間的線性相關(guān)系 數(shù)定義為聚類樹的 cophe相關(guān)， 因此，它度量了個(gè)體間的 不相似性， 若該系數(shù)越接近于 1，則聚類效果越好 . 在 MATLAB 中計(jì)算 cophe相關(guān)系數(shù)的命令如下： R=cophe(z,d), 其中， z 是用某種類間距離 linkage后的結(jié)果， d是樣品之間 的某種距離 . 95/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 例 (續(xù)例 ) 2022年我國 5省、區(qū)、市城鎮(zhèn)居民人均年 家庭收入如表 , 在進(jìn)行譜系聚類時(shí)，選擇哪種類間距離最好 ? 解：以樣品間的距離為歐氏距離為例，考慮類間的五種不同距離： 最短距離 ： z1= linkage(d) 最長距離 ： z2= linkage(d,39。plete39。) 類平均距離 ： z3= linkage(d,39。average39。) 重心距離 ： z4= linkage(d,39。centroid39。) 離差平方和 ： z5= linkage(d,39。ward39。) 其中 d=pdist(x), x為原始矩陣 . 96/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 R=[cophe(z1,d),cophe(z2,d),cophe(z3,d), cophe(z4,d),cophe(z5,d)] %計(jì)算 cophe相關(guān)系數(shù) 輸出結(jié)果如下： R = 由于最大值為 , 所以類間距離為類平均距離和重心距離 效果最好 . 如果我們要找到最理想的分類方法，可以對(duì)每一種 樣品之間的距離，都計(jì)算上述的復(fù)合相關(guān)系數(shù)，這樣就可以找 到最理想的樣品距離與對(duì)應(yīng)的類間距離 . 我們作出不相似性和 cophe距離的散點(diǎn)圖 , 同時(shí)計(jì)算他們之間 的 Spearman秩相關(guān)系數(shù) . 97/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 2R2 1kkk BPR TT? ? ?以上我們考慮了樣品之間距離與類間距離如何搭配， 可以使得聚類效果最好，但究竟分為幾類最合適，到目前為止， 還沒有從理論上完全解決這一問題，通常的準(zhǔn)則有： 1. 統(tǒng)計(jì)量： . 98/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 n k 12, , , kG G Gtn tG 12( ... )kn n n n? ? ? ?tx tG11 ( .. . )tt t tntx x xn? ? ?tG tn1( ) ( )tn t t T t tt i iiW x x x x?? ? ??假定已將 個(gè)樣品分為 類，記為 表示 類的樣品個(gè)數(shù) 表示 的重心，即 則 類中 個(gè)樣品的離差平方和為 , . 所有樣品的總離差平方和為： 所有樣品的總離差平方和為： 99/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 1112( ) ( ),1( ).tnkt T tiitinx x x xx x x xn??? ? ?? ? ? ???ＴT 可以分解為： 111 1 1( ) ( )( ) ( ).ttnkt t t T t t tiitinkkt T tttt t ikkx x x x x x x xW n x x x xPB??? ? ?? ? ? ? ? ? ?? ? ? ?????? ? ?Ｔ100/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 2 1kkk BPR TT? ? ? 2kR/kBTk kBT k2kR k 2kR令 ，則 值越大，也就是 越大，表示 個(gè)類的類間偏差平方和的總和 在總離差平方和 中所占的比例越大，說明 個(gè)類能夠區(qū)分開 . 因此統(tǒng)計(jì)量 可用于評(píng)價(jià)合并為 個(gè)類時(shí)的聚類效果， 越大，聚類效果越好 . 101/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 2 1R ?2 0R ?2R n 2R當(dāng)樣品各自為一類時(shí) , 而當(dāng)所有的樣品為同一類時(shí)， , 因此如何恰當(dāng)?shù)厥褂迷摐?zhǔn)則，要具體問題具體分析 . 隨著 的減少而減少，可以從 確定分為幾類比較合適 . 由于 取值的變化來 102/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 例 試?yán)? 2R 統(tǒng)計(jì)量確定 Iris data的分類數(shù) . 解 : load fisheriris x=meas。 [n,p]=size(x)。 n1=n1。 format long c=zeros(n11,1)。 for j=2:n1 d=pdist(x)。 z1=linkage(d,39。plete39。)。 c=cluster(z1,j)。 k=1。 if k=j b=find(c==k)。 l=length(b)1。 if b0 a=x(b,:)。 c(j)=sum(l*var(a))+c(j)。 end end end R=1c/sum(n1*var(x))。 103/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 optimaln=find(R==max(R)) 輸出結(jié)果為 : optimaln=8 104/24 MATLAB數(shù)據(jù)分析方法（機(jī)械工業(yè)出版社） 第 6章 聚類分析 F( ) ( 1 )( ) 1kkkkT P k B nkFP n k P k??