多元統(tǒng)計(jì)分析ppt課件(編輯修改稿)
2025-02-10 17:36 本頁面
【文章內(nèi)容簡介】 ……（ 3） B. 時(shí)的判別方法 21 ???21 ???)(XW)()()()()( 21221111 ???? ???????? ?? XXXXXW TT12, ( ) 0, : ( ) 0X G W XX G if W X? ??????if: 在實(shí)際應(yīng)用中，總體的均值和協(xié)方差陣一般是未知的，我們所知道的僅僅是一組樣本或者觀測(cè)值，在這種情況下，就需要利用數(shù)理統(tǒng)計(jì)的知識(shí)，對(duì) 進(jìn)行估計(jì)。 利用已知樣本，易得 的無偏估計(jì)分別為 C. 的估計(jì) 2121 , ????2121 , ????2121 , ???????11111 1njjXnX ???21222 1njjXnX??????11111111 ))((11 njTjj XXXXnS??????21222222 ))((11 njTjj XXXXnS 對(duì)于多個(gè)總體的情況，可以類似于兩個(gè)總體的處理過程，我們給出如下的步驟： 第一步：計(jì)算樣品 到每個(gè)總體的馬氏距離 ； 第二步：比較 的大小，將樣品 判為距離最小的那個(gè)總體。 如果均值為： 和協(xié)方差： 未知，可以類似兩個(gè)總體的情形運(yùn)用訓(xùn)練樣本來進(jìn)行估計(jì)。這里不再贅述。 多 總 體的距離判 別 X),2,1)((2 kiXd i ??),2,1)((2 kiXd i ??X),2,1( kii ??? ),2,1( kii ??? 距離判別的不足 距離判別方法簡單實(shí)用，容易實(shí)現(xiàn)，并且結(jié)論的意義明確。但是，距離判別沒有考慮： （ 1）各總體本身出現(xiàn)的可能性在距離判別中沒有考慮； （ 2）錯(cuò)判造成的損失在距離判別中也沒有考慮。 在很多情況下，不考慮上面的兩種因素是不合理的。貝葉斯（ Bayes）判別方法克服了距離判別的不足。 與前面距離判別方法不同的是：所謂貝葉斯（ Bayes）判別，就是在考慮各總體的先驗(yàn)概率和錯(cuò)判損失的情況下，給出空間 的一個(gè)劃分： ， 使得運(yùn)用此劃分來判別歸類時(shí)，所帶來的平均錯(cuò)判損失最小。 貝 葉斯判 別 mR},{ 21 kDDDD ??貝葉斯（ Bayes）判別問題的數(shù)學(xué)描述為：設(shè)有 個(gè) 維的總體 ，其密度函數(shù)分別為 ， 若已知這 個(gè)總體各自出現(xiàn)的概率（先驗(yàn)概率）為 （ ，且 ），假設(shè)已知將本來屬于總體 的樣品錯(cuò)判為總體 所造成的損失為 。 在這樣的情形下，對(duì)于新的樣品 ，需要判斷它來自那個(gè)總體。 為了給出貝葉斯（ Bayes）判別準(zhǔn)則，我們從下面幾個(gè)方面來討論： k m kGGG , 21 ?)(,),(),( 21 xfxfxf k?k12, , , kq q q 0?iq11???kiiq iGjG),2,1,)(|( kjiijL ??X 先驗(yàn)概率表示對(duì)各總體的先知認(rèn)識(shí)，或者說，事先對(duì)所研究的問題所具有的認(rèn)識(shí)。一般來說，先驗(yàn)概率并不容易獲得，其更多的來自于長期累積的經(jīng)驗(yàn)。先驗(yàn)概率可以通過下面幾種賦值方法得到： ； 作為 的值。其中 表示第 類總體的樣品數(shù)， 是總訓(xùn)練樣本數(shù)，該方法要求訓(xùn)練樣本是通過隨機(jī)抽樣得到的； 。 nniiq in iknnnn ???? ?21kqqq k /121 ???? ? 這里用 表示將本來屬于總體 的樣品錯(cuò)判為總體 的概率，即誤判概率，顯然，根據(jù)概率的定義，易得： （ ） ……（ 4） 實(shí)際上，（ 4）式的幾何意義是很明顯的，見圖 2。 )|( ijPiGjG?? jD i dXXfijP )()|( ij ?圖 2表示的是兩個(gè)正態(tài)總體的誤判概率示意圖。 誤判概率的估計(jì)方法有以下幾種： （ 1）利用訓(xùn)練樣本為檢驗(yàn)集，用判別方法對(duì)訓(xùn)練樣本進(jìn)行判斷，統(tǒng)計(jì)誤判的樣本個(gè)數(shù)，計(jì)算誤判樣本占總樣本的比例，并作為誤判概率的估計(jì)值； （ 2）當(dāng)訓(xùn)練樣本足夠大時(shí)，從訓(xùn)練樣本中預(yù)留一部分作為檢驗(yàn)集，并記錄判錯(cuò)的比率，作為誤判概率的估計(jì)值； （ 3）運(yùn)用舍一法：每次預(yù)留一個(gè)樣本來檢驗(yàn)，用剩下 的樣本建立判別準(zhǔn)則，循環(huán)檢驗(yàn)完所有訓(xùn)練樣本，記錄判錯(cuò)的比率，以此作為誤判概率的估計(jì)值。 1?n 錯(cuò)判必然帶來損失。現(xiàn)實(shí)中，錯(cuò)判的損失一般來說很難定量給出。但是可以運(yùn)用賦值法來確定： （ 1） 根據(jù)經(jīng)驗(yàn)或者實(shí)際問題的特征人為
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1