基于貝葉斯決策理論的分類器-在線瀏覽
2025-04-11 14:15本頁(yè)面
【正文】 1kiaikkijcijiiiijjjkiaikaxaRxaRaaixaRaaixPaxaRxaRaxPxxpPaaxaRxaR??????????????wwlwww? 如果只有兩類的情況下 這時(shí)最小風(fēng)險(xiǎn)的 Bayes決策法則為： 如果 R(a1|x) R(a2|x), 則 x的真實(shí)狀態(tài) w1, 否則 w2。 ? 這里決策與例 1結(jié)論相反為異常細(xì)胞。 l不易確定，要與有關(guān)專家商定。 已知：?jiǎn)蝹€(gè)特征變量 x為正態(tài)分布 兩類方差都為 s 2=1/2, 均值分別為 m = 0,1 即 求： ①若先驗(yàn)概率 P(w1) = P(w2) = 1/2，計(jì)算最小錯(cuò)誤率情況下的閾值 x0。 ])(21exp [2 1)( 2s ms? ??? xxp ① 最小錯(cuò)誤概率情況下閾值 x0 (取對(duì)數(shù)運(yùn)算 ) ② 最小風(fēng)險(xiǎn)情況下閾值 x0 ? 如果這兩類不是等概率， P(w1) P(w2),閾值左移 也就是說(shuō)擴(kuò)大最大可能 類的區(qū)域。 21))1(exp ()exp (022?????xxx2122ln1))1(exp (2)exp (022???????xxx閾值左移 ⑶ 拒絕決策 ? 在某些情況下拒絕決策比錯(cuò)誤判別風(fēng)險(xiǎn)要小。,c則對(duì) x作出拒絕判別。 aixPaxaR jcijii ,2,1),|()|()|(1??? ??wwlzcjjzjcjzc xPxPxaR lwlwl ??? ?????111 )|()|()|(5. 兩種 Bayes決策關(guān)系 ①多類問(wèn)題中，若損失函數(shù)為 0 — 1時(shí) 的條件錯(cuò)誤概率。；錯(cuò)誤決策損失均為表示正確決策沒(méi)有損失ijcijjjcijjjjicjijixxPxPxPaxaRcjijijiawwlwl)()()(),()(12,1,1,0),(111????????????????? ?決策。 6. 此外還有下列三種主要的決策方法： ? 聶曼－皮爾遜 決策：兩類模式中，一類錯(cuò)誤率為常數(shù)，另一類錯(cuò)誤率達(dá)到極小值時(shí)的決策。選擇風(fēng)險(xiǎn)為最大時(shí)的 P(w)來(lái)設(shè)計(jì)。先用一部分特征來(lái)分類，逐步加入特征以減少分類損失。 3 Bayes分類器和判別函數(shù) ? c類的分類問(wèn)題，就是按決策規(guī)則將 d維特征空間劃分為 c個(gè)決策區(qū)域，其邊界稱為 決策面 ，用決策面方程表示。c個(gè)類就有 c個(gè)由 d個(gè)特征組成的單值函數(shù)，即判別函數(shù) g(x) 。 ? 決策面方程應(yīng)滿足 gi (x) = gj (x) gij(x) = gi(x)－ gj(x)=0 i≠j 且 i與 j為相鄰的兩類。 ⑴ 多類： ? 根據(jù)各類訓(xùn)練集樣本 x計(jì)算得到 c個(gè)判別函數(shù) gi，將待分樣本計(jì)算 gi，從中選擇最大值作為類決策。 ijiiiiiiiiiixijxgxgPxpxgPxpxgxPxgxgwwwwww屬于，則，對(duì)一切如果③②①：三種形式的判別函數(shù)。 ）（設(shè)－；否則設(shè)＋屬于，則如果決策規(guī)則③②①同樣有三種形式：判別函數(shù)1)1(0)()()(ln)|()|(ln)()()|()()|()()|()|()()()()()(21212122112121wwwwwwwwwxxgPPxpxpxgPxpPxpxgxPxPxgxgxgxgxg?????????例 4 對(duì)例 1和例 2分別列出判別函數(shù)和決策面方程 例 1. 判別函數(shù) 決策面方程 例 2. 判別函數(shù) 決策面方程： )|()|()()()|()()|()(212211wwwxpxpxgPxpPxpxg????0)|()|(9)(,0)( 21 ???? ww xpxpxgxg )|()|()()()|()()|()|()|()|()|()(212222112121212112wwwwlwwlwlwlxpxpxPxpPxpxPxPxaRxaRxg????????0)|(6)|(9)( 21 ??? ww xpxpxg167。 ⑴單變量的正態(tài)分布概率密度函數(shù) ? 性質(zhì)： p(x)由 m, s 2確定。 ???????????????dxxpxdxxxpxExxp)()()(}{])(21exp [21)(222msmsms?方差均值),(~)( 2smNxp記為⑵ 多元 (維 )正態(tài)分布的概率密度函數(shù) 非對(duì)角線上的元素協(xié)方差方差，對(duì)角線上的元素對(duì)稱矩陣，并且正定的行列式是的逆矩陣，是,)])([(222222122222212212122111jjiiijiiddddddxxE mmsssssssssss???????????????????????????????維的協(xié)方差矩陣維均值向量維隨機(jī)變量式中ddxxEdxEdxxxxxxpTTdTdTd?????????????????????]))([(],[][],[)()(21exp)2(1)(1112/12/mmmmm
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1