【正文】 判別分析 判別分析要解決的問題是已知歷史上用某些方法已經(jīng)把研究對象分成若干組的情況下 ,來判定新的觀測樣品應(yīng)歸屬哪一組 . ? ? ? ? ? ?.,,: 2121體要求判斷它屬于哪一總體對于給定的一個新的個數(shù)元函均為是個總體的分布函數(shù)分別這隨機向量來描述維的個每一個總體均可以用一個總體設(shè)有數(shù)理統(tǒng)計的描述x ，p，xFxFxFk，pkkk?? ??? 常用的判別方法：距離判別、貝葉斯 (Bayes)判別和典型判別 . 距離判別 ? ? ? ?? ? ? ? ? ? ? ?. , ,: 222221122121合適有時用歐氏距離并不太在統(tǒng)計中但是兩點間的距離的平方中的兩點維歐氏空間歐氏距離馬氏距離的概念一，yxyxyxdyyyxxxRp、ppTpTpp????????????yx,yx? ? ? ?. . 2 . .3 2 .4,~ ,~ : 2121212221些顯然后一種度量更合理近一些點離總體所以應(yīng)該認為的概率更大一些屬于總體處的左側(cè)的中心體而位于總處的右側(cè)的中心點位于總體但從概率的角度來看要近一些要比離總體點離總體若按歐氏距離來度量的距離是的中心距總體的距離是的中心距總體個體有一個設(shè)有兩個正態(tài)總體例如YA，YA，Y，X，AYX，AY，XA ，NYNXYX?????????????? ?? ? ? ? ? ?? ? ? ? ? ????????????????????XXXdXYXYXYXdYX，YXsM a h a l a n o b iTT1212, , )0( , :)1936,( 為的馬氏距離的平方定義到總體定義為之間的馬氏距離的平方和內(nèi)的兩點總體則的二個個體的總體協(xié)方差矩陣為是取自均值向量為設(shè)提出馬氏距離比斯印度統(tǒng)計學(xué)家馬哈拉諾 .),0(),0(, 212121判斷它來自哪一個總體樣品是一新協(xié)方差矩陣分別為的均值分別為設(shè)總體，X， ????????? ? ? ?? ? ? ?? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ?? ? ? ? ? ?? ?? ?? ?. 0 ,0 , , ,2 22 22 , , , , : ,)1(212112121121212111221222122221212121稱為判別系數(shù)性判別函數(shù)所以又稱為線的線性函數(shù)由于它是別函數(shù)為兩總體距離判別的判稱若若則判別規(guī)則可表述為令其中考慮若若判別規(guī)則aaaaa，X，XWXWXXWXXXWXXXXXXXXdXdXdXdXXdXdXTTTTTT???????????????????????????? ??????????????????????????????????????????????????????????? ?? ? ? ?? ?? ? ? ? ? ? ? ?? ? ? ? ? ?? ?? ?? ?? ?? ?.20 22210 21~ ,21~,~0 ,0 :221222112122111212211兩個誤判概率相同同理所以則令時即時當都是正態(tài)總體和若記發(fā)生錯誤判別的概率?????? ???????????? ????????????????????????????????????????????????????????????????????????XXWPXWPXXWP，NXW，NXX，WNX，X，XXWPeXXWPeTTTpTpaaaa 總體的均植向量和協(xié)方差矩陣一般都是未知的，可以由樣本均值和樣本協(xié)方差矩陣分別進行估計 . ? ? ? ? ? ?? ? ? ? ? ?? ? ? ?? ? ? ?? ? ? ? ? ?? ? ? ? ? ?? ? ? ? ? ?? ????????????????????????????2121211222211111211222111122221211211121? 1? ,1? ,,niTiiniTiiniiniinnxxxxxxxxnnxnxnxxxxxx????稱為訓(xùn)練樣本，則的樣本取自總體的樣本取自總體??? ? ? ? ? ?? ? ? ? ? ?? ???????????????? ?0?0? ?21 ,?? 2121121WxWxxxSxxxxxW pT，若，若判別規(guī)則為，其中這時，判別函數(shù)為??aa當 p=1時，若兩總體為正態(tài)總體，則兩總體呈 1? 2?1? 2??? ?. . . . . , . 21不大這時作判別分析的意義誤判的概率很大如果兩總體靠得很近部分誤判的概率為圖中陰影按規(guī)則它來自的右邊但它落在了來自如但也會有誤判很合理用距離判別所得的規(guī)則還是的符號取決于這里，，xxxxW????? ??? ? ? ?? ? ? ?? ? ? ? ? ?? ? ? ? ? ? ? ?? ?? ???????????????????????????????0 ,0 , , , , : , )2(2121221111221222122221212121XWXXWX，XXXXXXdXdXWXdXdXXdXdXTT若若相應(yīng)的判別規(guī)則為的二次函數(shù)這是判別函數(shù)若若判別規(guī)則???????????????? ? ? ? ? ? ?? ?? ?jTjkjiTiiiTiTiiiiiTiTiTiTiTiTiikkCXCXXkiCXkiCCXXXXXXXXXd，k????????????????????????????????????IIIII1111111122121m a x , :,2,1 , .,2,1 ,21 ,2 2 , ,, )1(若相應(yīng)的判別規(guī)則為線性判別函數(shù)為其中則協(xié)方差矩陣均為它們的均值分別是個總體設(shè)有協(xié)方差矩陣相同????????????????????? ? ? ?? ? ? ?? ? ? ? ? ?? ? TjjinijjijkkjjnijijjjkxxxxAnnnnAknkjxnxjj????????????????????1211121 , ,1? ,2,1 ,1? :,??????? 本進行估計均未知時，抽取訓(xùn)練樣當? ? ? ? ? ?? ? ? ?jkjiiiiTiikkkXdXdXkiXXXdX，，k????????????,m i n, , ,2,1 , , ,, )2(21212212121?????????????若判別規(guī)則為方到各組的馬氏距離的平個體且它們不全相等為協(xié)方差矩陣它們的均值分別是個總體設(shè)有協(xié)方差矩陣不全相同????? ? ? ?? ? ? ?? ? ? ? ? ?? ?kjxxxxnSxnxjjnjTjjijjijjjnijijjjkk,2,1 ,11? ,1? :,,112121??????????????????????? 本做估計均未知時，抽取訓(xùn)練樣當貝葉斯 (Bayes)判別 ? ?? ? ? ? ? ?? ? ? ?? ?? ?? ?? ?kiXfpXfpXP，X，XxfXXXdXpkipXkiNkkiiiiiiiixdpiiiiTiiikiiiiiiipiki,2,1 , ex p2 .1 ,2,1 , .,2,1 ,0 ,~ , 1212121212??????????????????????????????????????????????的概率為它屬于已知時即當樣品的后驗概率屬于總體的概率密度函數(shù)為總體的馬氏距離的平方是到滿足的先驗概率為自總體來設(shè)樣品且個總體設(shè)有 Bayes統(tǒng)計的思想：假定對研究的對象已有一定的認識，常用先驗概率分布來描述這種認識，然后取得一個樣本，用樣本來修正已有的認識，即先驗概率分布，得后驗概率分布，各種統(tǒng)計推斷都通過后驗概率分布來進行 . 將 Bayes思想用于判別分析，就得到 Bayes判別 . ? ? ? ?? ?? ?? ?? ?