【正文】 來， Ward法與前七種方法有較大的差異，但 如果將pG與qG的距離定義為 2pq r p qD S S S? ? ? 其中r p qG G G?， rS 為 rG 的離差平方和。 （ 3）例子： P83續(xù)例 1。 （ 3）例子： P81續(xù)例 1。 6．可變類平均距離法 由于類平均法公式中沒有反映 pG 與 qG 之間距離 pqD 的影響，所以給出可變類平均法。 （ 3）例子： P79續(xù)例 1。 ② 式中采用平方距離是為了上機的方便，也可以完全不采用平方距離。 設(shè) pG 與 qG 合并成新類 rG ，它們分別含有 pn 、 qn 和 ()r r p qn n n n?? 個樣本點，它們的重心分別為： px 、qx 和 rx 。 （ 2）基本步驟 基本步驟完全等同于最短距離法。只是距離是按照最遠樣本點計算，但聚類仍然按照距離最小的并為一類。如此下去，直到所有的元素并成一類為止 ① 。初始時，每個樣本點自成一類，易見 pq pqDd? 。 一、 類與類之間的距離 我們先就樣品聚類的情形予以討論，并為簡單起見，以 i,j等分別表示樣品 ,ijxx，以 ijd 簡記樣品 i與 j之間的距離 ? ?,ijd x x， 用 pG 和 qG 表示兩個類，它們所包含的樣品個數(shù)分別記為 pn 和 qn ，類 pG 與 qG 之間的距離用 ? ?,pqDG G表示。利用這種分類思想，譜系聚類法首先視各樣品（或變量）自成一類，然后把最相似的樣品（或變量）聚為 小類，再將已聚合的小類按其相似性再聚合，隨著相似性的減弱，最后將一切子類都聚合到一個大類，從而得到一個按相似性大小聚結(jié)起來的一個譜系關(guān)系。有關(guān)該方法的研究內(nèi)容相當豐富，而且許多統(tǒng)計軟件（如 SPSS、 STATISTICA、 SAS）中都有專門的程序。 A B C D 第 頁 5 NOTE：① ( , 1, 2, , )ijr i j p?其實就是 ? ?12, , , pX X X X ??的樣本相關(guān)矩陣中的各元素； ②ijr就是零均值化后向量的夾角余弦； ③如果將原始數(shù)據(jù)標準化，則 0ix? 且 0jx?，這時有 cosij ijr ??。 2．相關(guān)系數(shù)（相似系數(shù)） 從統(tǒng)計角度看，兩個隨機變量的相關(guān)系數(shù)是描述這兩個變量關(guān)聯(lián)性（線性關(guān)系）強弱的一個很有用的特征數(shù)字。 二、 變量間的“關(guān)聯(lián)性”度量 —— 相似系數(shù) 當對 p 個指標（或變量）進行聚類時，用相似系數(shù)衡量變量間的關(guān)聯(lián)程度。實際應(yīng)用中，若 2k? 與 ? 未知，可用觀測數(shù)據(jù)對其估計，一般用 2?k? 和樣本協(xié)方差陣 S 作為其估計。 ② 在聚類分析中，有時所用的距離并不滿足第三條，我們在廣義的角度上仍稱它為距離。 設(shè) ( , )ijdx x 為樣品 ix 與 jx 之間的距離，則一般要求它滿足下列三個條件 ② ： 下 面介紹幾種聚類分析中的常用距離。 對樣品進行分類的方法稱為 Q型聚類法，所用的統(tǒng)計量用“距離”這一術(shù)語描述；對變量進行分類的方法，稱為 R型聚類法，所用的統(tǒng)計量用“相似系數(shù)”描述。 2 聚類統(tǒng)計 量 聚類分析所研究的內(nèi)容包括兩個方面 ， 一是對樣品進行分類，設(shè) n個樣品，每個樣品均用 p個指標的觀測向量 ( 1,2, , )ix i n? 來表 征，要根據(jù) ix 間某種相似性度量，將這 n個樣品進行分類。目前，聚類統(tǒng)計量種類繁多，聚類方法也五花八門，但由于聚類分析方法能廣泛地應(yīng)用于解決實際問題，它和回歸分析，判別分析一起被稱為多元分析的三大實用方法。 二、 聚類分析方法 值得一提的是聚類分析和第 三 章的判別分析都是研究分類問題，但二者有本質(zhì)的區(qū)別。 2．基本思想 哲學理念：物以類聚、人以群分 聚類分析的基本思想是，從一批樣品的多個指標變量中，定義能度量樣品間或變量間 相似程度（或親疏關(guān)系）的統(tǒng)計量，在此基礎(chǔ)上求出各樣品（或變量）之間的相似程度度量值，按相似程度的大小，把樣品（或變量）逐一分類，關(guān)系密切的類聚集到一個小的分類單位，關(guān)系疏遠的類聚集到一個大的分類單位，直到所有的樣品或變量都聚集完畢，把不同的類型一一劃分出來，形成一個親疏關(guān)系譜系圖，用以更直觀地顯示分類對象（樣品或變量）的差異和聯(lián)系。有人稱按照觀測值對變量的分類為 R型聚類，而稱按照變量對觀測值的分類稱為 Q型聚類。 對于一個數(shù)據(jù)，人們既可以按照觀測值對變量（或指標）進行分類 (相當于對數(shù)據(jù)中的列分類 )，也可以按照變量對觀測值（事件，樣品）來分類（相當于對數(shù)據(jù)中的行分類）。但什么是分類的根據(jù)呢？比如，要想把中國的縣分成若干類，就有很多種分類法；可以按照自然條件來分，比如考慮降水、土地、日照、濕度等各方面；也可以考慮收入、教育水準、醫(yī)療條件、基礎(chǔ)設(shè)施等指標；既可以用某一項來分類，也可以同時考慮多項指標來分類。 1 概述 一、 什么是 聚類 分析 1．研究背景 在實際問題中，經(jīng)常要遇到分類的問題。Equation Chapter 1 Section 1 《 多 元 統(tǒng) 計 分 析 》 Multivariate Statistical Analysis 主講：統(tǒng)計學 院 統(tǒng)計 學院 應(yīng)用統(tǒng)計學教研室 School of Statistics 注意電子文檔使用范圍 第 頁 1 第 二 章 聚類分析 【教學目的】 1． 讓學生了解 聚類 分析 的背景、基本思想 ； 2． 掌握聚類分析的基本原理與方法 ； 3． 掌握聚類分析的操作步驟和基本過程 ； 4． 學會應(yīng)用聚類分析解決實際問題 。例如，在考古學中，要將某些古生物化石進行科學的分類；在生物學中，要根據(jù)各生物體的綜合特征進行分類；在經(jīng)濟學中 ，為了研究不同地區(qū)城鎮(zhèn)居民的收入及消費情況，往往需要劃分為不同的類型去研究；在產(chǎn)品質(zhì)量管理中，也要根據(jù)各產(chǎn)品的某些重要指標而將其分為一等品，二等品等等。 隨著人類社會的 發(fā)展與科學技術(shù)的進步，對分類學的要求也越來越高。比如利用學生成績數(shù)據(jù)就可以對學生按照理科或文科成績（或者綜合考慮各科成績）分類。這兩種聚類在數(shù)學上是對稱的，沒有什么不同。 一開始將要歸類的 n 個變量（或個體）各自看成一類，然后按事先規(guī)定好的方法計算各類之間的歸類指標（如某種距離或相似系數(shù)），根據(jù)指 標值大小衡量兩兩之間關(guān)系的密切程度，將關(guān)系最密切的兩類并第 頁 2 成一類，其余不變，即得 1n? 類；又按事先規(guī)定的方法重新計算各類之間的歸類指標（仍為某種距離或相似系數(shù)），又將關(guān)系密切的兩類并成一類，其余不變，即得 2n? 類；如此進行下去，每次歸類都減少一類，直到最后， n 個變量（或個體）都歸成一類為止。聚類分析一般上尋求客觀分類的方法，事先對總體到底有幾種類型無所知曉，而判別分析則是在總體類型劃分已知，在各總體分布或來自各總體訓練樣本的基礎(chǔ)上，對當前的新樣品用統(tǒng)計的方法判定它們屬于哪個總體。 本章將重點介紹一些常見的分類統(tǒng)計量和目前使用