【正文】 們討論 k=2的情形。 則平均錯(cuò)判損失為： ? ?? ?? ki ijiijPijCqE C M1)/()/(使 ECM最小的分劃， 是 Bayes判別分析的解。 【 定義 】 （ 平均錯(cuò)判損失 ） 用 P(j/i)表示將來自總體 Gi的樣品錯(cuò)判到總體 Gj的條件概率。 并且根據(jù)以往的統(tǒng)計(jì)分析 ， 知道 出現(xiàn)的概率為 。 kqq k11 ??? ??)(xmi ( i)1( i) μΣμ ??? 21 xΣμ 1( i) ???令 有 )21( l n2)( xΣμμΣμx 1( i )( i )1( i ) ?? ????? ii qP問題轉(zhuǎn)化為若 ， 則判 。 )]([m a x)( 1 xZxZ ikil ??? lGx?當(dāng)協(xié)方差陣相等 ????? k?1則判別函數(shù)退化為 ?? ii qxz ln)( )](21 ( i )1( i ) μ(xΣ)μx ??? ????? iqln2[21 )]( ( i )1( i ) μ(xΣ)μx ??? ?令 )]( i )1( i ) μ(xΣ)μ(x ??? ???? ii qxF ln2)(問題轉(zhuǎn)化為若 ， 則判 。 0x lG )(xfi ),(m a x)(1 00 ki iillxfqxfq???則 判給 。 由貝葉斯公式計(jì)算后驗(yàn)概率 ， 有： iG)(xfiiGiq 0x),2,1( kiG i ??)()()|(000 xfqxfqxGPjjiii ?? 判別規(guī)則 )()()|(000 xfqxfqxGPjjlll ?? )()(001m a x xfq xfqjjiiki ????則 判給 。 并且根據(jù)以往的統(tǒng)計(jì)分析 ， 知道 出現(xiàn)的概率為 。 貝葉斯公式是一個(gè)我們熟知的公式 )()|()()|()|(iiiii BPBAPBPBAPABP??? 貝葉斯判別 在各總體的概率分布及先驗(yàn)概率已知的前提下，分別計(jì)算待判對象屬于各總體的后驗(yàn)概率，并以 最大后驗(yàn)概率 對應(yīng)的總體來作為待判對象的所屬總體。 3 貝葉斯判別法 ? ? ? ?? ? )/()()/(//(壞人做好事壞人好人做好事好人好人做好事好人做好事）好人PPPPPPP?? ???? ??一 、標(biāo)準(zhǔn)的 Bayes判別 ? ? ? ?? ? )/()()/(//(壞人做好事壞人好人做好事好人壞人做好事壞人做好事）壞人PPPPPPP?? ???? ?? 距離判別簡單直觀 ， 很實(shí)用 ， 但是距離判別的方法把總體等同看待 ， 沒有考慮到總體會(huì)以不同的概率 （ 先驗(yàn)概率 ） 出現(xiàn) ， 也沒有考慮誤判之后所造成的損失的差異 。壞人總是要做壞事，好人總是做好事，偶爾也會(huì)做一件壞事，一般好人做好事的概率為 ，壞人做好事的概率為 ，一天，小王做了一件好事，小王是好人的概率有多大，你現(xiàn)在把小王判為何種人。 辦公室新來了一個(gè)雇員小王，小王是好人還是壞人大家都在猜測。 距離判別方法簡單實(shí)用，但沒有考慮到每個(gè)總體出現(xiàn)的機(jī)會(huì)大小，即先驗(yàn)概率，也沒有考慮到錯(cuò)判的損失。 交叉核實(shí)可以解決樣本容量不大的情形 ， 改變樣本 ， 來檢驗(yàn)方法是否穩(wěn)定的問題 。 交叉核實(shí)檢查比較嚴(yán)格 ， 能說明所選擇判別方法的有效性 。 )2()2()(2122221222??????????????????XPXPXP錯(cuò)判概率：)2( 2122 ? ??? ? ???? XP)2(1 21 ? ?? ???? 交叉核實(shí) 交叉核實(shí)法的思想是：為了判斷第 i個(gè)觀測的判別正確與否 ， 用刪除第 i個(gè)觀測的樣本數(shù)據(jù)集計(jì)算出判別函數(shù) ， 然后用此判別函數(shù)來判別第 i個(gè)觀測 。 又設(shè) Y是一個(gè)待判樣品 。步驟如下（假如兩個(gè)總體）： （ 1）分別計(jì)算各組的離差矩陣 S1和 S2； （ 2）計(jì)算 （ 3）計(jì)算類的均值 （ 4）計(jì)算 （ 5）計(jì)算 （ 6）生成判別函數(shù)，將檢驗(yàn)樣本代入，得分，判類?？己似髽I(yè)經(jīng)營狀況的指標(biāo)有： 資金利潤率 =利潤總額 /資金占用總額 勞動(dòng)生產(chǎn)率 =總產(chǎn)值 /職工平均人數(shù) 產(chǎn)品凈值率 =凈產(chǎn)值 /總產(chǎn)值 三個(gè)指標(biāo)的均值向量和協(xié)方差矩陣如下。 用線性判別函數(shù)進(jìn)行判別分析非常直觀 ，使用起來最方便 ， 在實(shí)際中的應(yīng)用也最廣泛 。）（如，）（如，yyyy 當(dāng) 和 ?已知時(shí) ， 是一個(gè)已知的 p維向量 ， W（ y） 是 y的線性函數(shù) ， 稱為線性判別函數(shù) 。 設(shè) 是從期望 μ= 和方差陣 Σ= 的總體 G抽得的兩個(gè)觀測值 ， 則稱 為 X與 Y之間的 Mahalanobis距離 和),( 21 ?? mxxx ?x ),( 21 ?? myyy ?y),( 21 ?m??? ? ? ? 0??mmij?)()(),(2 yxyxyx 1 ????? ?dkiGd iii ,2,1)()(),(2 ??????? ? ?? xxx 1 樣本 X和 Gi類之間的馬氏距離定義為 X與 Gi類重心間的距離： （二）兩個(gè)總體距離判別法 先考慮兩個(gè)總體的情況 ， 設(shè)有兩個(gè)協(xié)差陣 ?相同的 p維正態(tài)總體 ， 對給定的樣本 Y， 判別一個(gè)樣本 Y到底是來自哪一個(gè)總體 ， 一個(gè)最直觀的想法是計(jì)算 Y到兩個(gè)總體的距離 。 167。 判別分析的特點(diǎn)是根據(jù)已掌握的 、 歷史上每個(gè)類別的若干樣本的數(shù)據(jù)信息 ， 總結(jié)出客觀事物分類的規(guī)律性 ， 建立判別公式和判別準(zhǔn)則 。 它產(chǎn)生于 20世紀(jì) 30年代 。第 4章 判 別 分 析 距離判別 貝葉斯判別 典型判別 逐步判別 例 中小企業(yè)的破產(chǎn)模型 為了研究中小企業(yè)的破產(chǎn)模型，選定 4個(gè)經(jīng)濟(jì)指標(biāo)： X1總負(fù)債率（現(xiàn)金收益 /總負(fù)債） X2收益性指標(biāo)（純收入 /總財(cái)產(chǎn)） X3短期支付能力（流動(dòng)資產(chǎn) /流動(dòng)負(fù)債） X4生產(chǎn)效率性指標(biāo)（流動(dòng)資產(chǎn) /純銷售額） 對 17個(gè)破產(chǎn)企業(yè)（ 1類）和 21個(gè)正常運(yùn)行企業(yè)（ 2類）進(jìn)行了調(diào)查，得如下資料： 167。 1 什么是判別分析 總負(fù)債率 收益性指標(biāo) 短期支付能力 生產(chǎn)效率指標(biāo) 類別 .45 1 .16 1 .06 .02 .40 1 .26 1 .67 1 .71 .28 1 .22 .18 1 .07 .02 .25 1 .01 .00 .70 1 .66 1 .15 .05 .27 1 .37 .11 .38 1 .42 1 .05 .03 .95 1 .01 .00 .60 1 .12 .11 .17 1 .51 1 .51 .10 .54 2 .08 .02 .53 2 .38 .11 .55 2 .19 .05 .33 2 .32 .07 .63 2 .31 .05 .69 2 .12 .05 .69 2 .02 .35 2 .22 .08 .40 2 .17 .07 .52 2 .15 .05 .55 2 .58 2 .14 .46 .26 2 .14 .07 .52 2 .47 2 .48 .09