多元統(tǒng)計分析聚類分析講義(存儲版)
【正文】 之間的距離；其次找到類與新類之間距離的遞推公式； （ 2）以上類與類之間的距離，不但適用于對樣品的聚類問題，而且也適合于對變量的聚類問題，這只要將 ijd 用變量間的相似系數 ijC 代替，相應的距離可稱之為類與類之間的相似系數。記 (0)DD。 第 頁 11 167。 【作業(yè)】 T r e e D ia g r a m f o r 3 0 C a s e sW a r d ` s m e t h o dE u c lid e a n d is t a n c e s新 疆重 慶云 南廣 西寧 夏青 海海 南甘 肅陜 西貴 州江 西吉 林內蒙古山 西河 南四 川湖 南安 徽黑龍江湖 北遼 寧河 北廣 東浙 江山 東江 蘇福 建天 津上 海北 京0500010000150002020025000300003500040000Linkage Distance圖 25 2020年系統(tǒng)聚類的結果 。 第 頁 10 STEP03：由(1)D出發(fā)，重復步驟 2得到對稱矩陣(2)D，從(2)D出發(fā)得到(2)D，依此類推，直到 n 個樣品（變量）聚為一個大類為止。 有了樣品之間的距離（或變量之間的相似系數）以及類與類之間的距離定義后，便可以進行譜系聚類，其基本步驟歸納如下： STEP01： n 個樣品（變量）一開始就作為 n 個類，計算兩兩之間的距離（或相似系數）構成一個對稱矩陣 ? ?ij nnDd??，其對角線上的元素全為零（對相似系數矩陣，其對角線上元素全為 1）。其含義為：把兩類合并增加的離差平方和，當成是兩類之間距離的平方。 7．可變距離法 （ 1） 由 可變類平均距離法可以得到一個特例，即令 12pqrrnn??，得到： ? ?2 2 2 21 2kr kp kq pqD D D D? ??? ? ? 其中 ? 是可變的，且 1?? 。 5．類平均距離法 （ 1）重心距離法雖然具有一定的代表性，但并未充分利用各樣品點所包括的距離信息，為此給出類平均距離法。則 ? ?1r p p q qrx n x n xn??。 （ 3）例子： P74續(xù) 例 1。 213 1 3 21 2 300( 0 ) 00n n ndD d dd d d????????? STEP02：選擇 (0)D 中非對角線最小元素 ① ，不防設為 pq pqDd? ，于是將 pG 與 qG 類合并，記為 1n p qG G G? ? STEP03：計算新類 1nG? 與其它類 ? ?,kG k l m? 的距離 ? ? ? ? ? ?? ?1 , 1m i n | , m i n m i n | , , m i n | ,n k i j i n j k i j i p j k i j i q j kD d x G x G d x G x G d x G x G??? ? ? ? ? ? ? ? ? ?m in ( , ) , ( , )p k q kD G G D G G? 將 (0)D 中的第 ,pq行及 ,pq列用上面公式并成一個新行新列，得到的矩陣記為 (1)D 。 在譜系聚類法的合并過程中要涉及到兩個類之間的距離（或相似系數）問題。 3．同號率 ( 3 ) , 1 , 2 , ,ij nnC i j p?????? 其中， n? 為指標 iX 和jX之間相應各分量取同號的個數； n? 為指標 iX 和jX之間相應各分量取異號的 個數 。 定義： 一般地，稱 ijC 為變量 iX 和 jX 之間的相關系數，如果對一切的 1,i j p??滿足： ① 1ijC?； ② 1iiC? ； ③ ij jiCC? 。 ③ 可以利用不等式的縮放技術進行證明。下面分別介紹幾種常用的距離和相似系數 ① 。 本章將重點介紹一些常見的分類統(tǒng)計量和目前使用較為廣泛的譜系聚類方法。 一開始將要歸類的 n 個變量（或個體）各自看成一類，然后按事先規(guī)定好的方法計算各類之間的歸類指標（如某種距離或相似系數），根據指 標值大小衡量兩兩之間關系的密切程度，將關系最密切的兩類并第 頁 2 成一類，其余不變，即得 1n? 類；又按事先規(guī)定的方法重新計算各類之間的歸類指標（仍為某種距離或相似系數），又將關系密切的兩類并成一類，其余不變，即得 2n? 類；如此進行下去，每次歸類都減少一類，直到最后， n 個變量（或個體）都歸成一類為止。比如利用學生成績數據就可以對學生按照理科或文科成績（或者綜合考慮各科成績）分類。例如，在考古學中，要將某些古生物化石進行科學的分類；在生物學中，要根據各生物體的綜合特征進行分類；在經濟學中 ，為了研究不同地區(qū)城鎮(zhèn)居民的收入及消費情況，往往需要劃分為不同的類型去研究；在產品質量管理中，也要根據各產品的某些重要指標而將其分為一等品，二等品等等。 1 概述 一、 什么是 聚類 分析 1．研究背景 在實際問題中，經常要遇到分類的問題。 對于一個數據，人們既可以按照觀測值對變量（或指標）進行分類 (相當于對數據中的列分類 )，也可以按照變量對觀測值（事件，樣品）來分類（相當于對數據中的行分類）。 2．基本思想 哲學理念：物以類聚、人以群分 聚類分析的基本思想是，從一批樣品的多個指標變量中，定義能度量樣品間或變量間 相似程度（或親疏關系）的統(tǒng)計量，在此基礎上求出各樣品（或變量）之間的相似程度度量值，按相似程度的大小，把樣品（或變量）逐一分類，關系密切的類聚集到一個小的分類單位，關系疏遠的類聚集到一個大的分類單位，直到所有的樣品或變量都聚集完畢，把不同的類型一一劃分出來，形成一個親疏關系譜系圖，用以更直觀地顯示分類對象（樣品或變量）的差異和聯(lián)系。目前，聚類統(tǒng)計量種類繁多，聚類方法也五花八門，但由于聚類分析方法能廣泛地應用于解決實際問題，它和回歸分析，判別分析一起被稱為多元分析的三大實用方法。 對樣品進行分類的方法稱為 Q型聚類法，所用的統(tǒng)計量用“距離”這一術語描述；對變量進行分類的方法，稱為 R型聚類法，所用的統(tǒng)計量用“相似系數”描述。 ② 在聚類分析中，有時所用的距離并不滿足第三條，我們在廣義的角度上仍稱它為距離。 二、 變量間的“關聯(lián)性”度量 —— 相似系數 當對 p 個指標（或變量）進行聚類時，用相似系數衡量變量間的關聯(lián)程度。 A B C D 第 頁 5 NOTE：① ( , 1, 2, , )ijr i j p?其實就是 ? ?12, , , pX X X X ??的樣本相關矩陣中的各元素
研究報告相關推薦
鄂ICP備17016276號-1