02貝葉斯決策理論-資料下載頁
2025-01-14 02:31本頁面
【正文】 向量 。 α? 根據(jù)最小錯誤率貝葉斯判別函數(shù) ， 在多元正態(tài)概型(p(x|ωi)~N(μi， ∑i),i=1,… ， c)下就可以立即寫出其相應(yīng)的表達(dá)式 。 ? 判別函數(shù)為 : )(ln||ln212ln2)()(21)( 1 iiiiTii Pdg ?? ????????? ? μxμxx● 決策面方程為 : ( ) ( ) 0ijgg??xx即 11 | | ( )11[ ( ) ( ) ( ) ( ) ] l n l n 02 2 | | ( )TT iii i i j j jjjPP???? ?? ? ? ? ? ? ? ? ? ? ??x μ x μ x μ x μ 多元正態(tài)概型下的最小錯誤率貝葉斯判別函數(shù)和決策面 (1) 這種情況中 每類的協(xié)方差矩陣都相等，而且類內(nèi)各特征間相互獨(dú)立，具有相等的方差 。下面再分二種情況討論。 ⒈ 先驗(yàn)概率 P(ωi)與 P(ωj)不相等 di 2|| ???ciIi ,2,1,2 ???? ?㈠ 第一種情況 Ii 21 1????)(lnln212ln22 )()()( 22 idiTii Pdg ???? ??????? μxμxx代入（ 1），得到： 由于上式中的第二 、 三項(xiàng)與類別 i無關(guān) ， 故可忽略 ，并將 gi(x)簡化為 )(ln)()(2 1)( 2 iiTii Pg ?? ????? μxμxx ????????djijjiiTi x122 )(||||)()( ?μxμxμx為 x到類 ωi的均值向量 μi的歐氏距離的平方。 i =1， … ， c 其中， ⒉ 先驗(yàn)概率 P(ωi)=P(ωj)時的情況 )(ln)2(21)(2 iiTiTiTi Pg ?? ????? μμxμxxx02 )(ln)2(21)(iTiiiTiTii wPg ??????? xwμμxμx ??ii μw 21??這種分類器稱為 最小距離分類器 。 忽略與 i無關(guān)的 xTx，則判別函數(shù)為 : )(ln2 1 20 iiTii Pw ?? ??? μμwi0為第 i個方向的閾值或偏置 。 21 , 2. ..m in iic x ?? ?若要對觀察 x進(jìn)行分類，只要計(jì)算 x到各類均值 μi的歐氏距離平方 ，然后把 x歸于具有 的類。 2??ix? 判別函數(shù) gi(x)是 x的線性函數(shù) 。 ? 判別函數(shù)為線性函數(shù)的分類器稱為 線性分類器(linear machine)。 02 )(ln)2(21)(iTiiiTiTii wPg ??????? xwμμxμx ??0)()( ?? xx ji gg? 所確定的一個超平面 。 ? 線性分類器的決策面是由線性方程 )(max)( xx iik gg ?若： 則決策 x∈ ωk。 在 ∑i=σ2I 下，這個方程可改寫為 wT(x－ x0) = 0 w=μi－ μj )()( )(ln||||)(21 220 jijijiji PP μμμμμμx ????? ???其中 ? 滿足 wT(x－ x0) = 0式的 x的軌跡為 ωi與 ωj類間的決策面 ，它是一個超平面 ?當(dāng) P(ωi)= P(ωj)時，超平面通過 μi與 μj連線中點(diǎn)并與連線正交，如圖所示。 ?當(dāng) P(ωi)不等于 P(ωj)時，如圖所示。 如果 σ2遠(yuǎn)小于 ||μiμj||2，則決策面的位置對先驗(yàn)概率不敏感。 ㈡ 第二種情況 ∑i=∑ ? 由 ∑i =∑2 =… =∑c =∑， 即 ∑與 i無關(guān) ， 所以 ， 其判別函數(shù) （ 1） 可簡化為 )(ln)()(21)( 1 iiiTii Pg ??????? ? μxμxx? 若 c類先驗(yàn)概率都相等 則判別函數(shù)可進(jìn)一步簡化為 ? 這時其決策規(guī)則為：為了對觀察 x進(jìn)行分類 ， 只要計(jì)算出 x到每類的均值點(diǎn) μi的 Mahalanobis距離平方 ， 最后把 x歸于最小的類別 。 )()()( 12 iiTiig μxμxx ????? ??（ 2） )(ln||ln212ln2)()(21)( 1 iiiiTii Pdg ?? ????????? ? μxμxx（ 1） ?將 （ 2） 式展開 ， 忽略與 i無關(guān)的 xT∑1x項(xiàng) ， 則判別函數(shù)可寫成下面的形式 0)( iTii wg ?? xwx 其中， wi=∑1μi )(ln21 10 iiTi Pw ????? ? μμ（ 3） )(ln)()(21)( 1 iiiTii Pg ??????? ? μxμxx（ 2） 由式 （ 3） 可見：它也是 x的線性判別函數(shù) ， 因此決策面仍是一個超平面 。 ? 如果決策域 Ri和 Rj相鄰 ， 則決策面方程應(yīng)滿足： gi(x)－ gj(x)=0 即 wT(x― x0)=0 其中 w=∑1(μi－ μj) )()()()()(ln)(2110 jijiTjijijiPPμμμμμμμμx ??????? ???若各類的先驗(yàn)概率相等 ，則 ? 此時 x0點(diǎn)為 μi與 μj連線的中點(diǎn) ， 根據(jù)前面的討論 ， 決策面應(yīng)通過這一點(diǎn) ， 如圖 。 )(210 ji μμx ??? 若先驗(yàn)概率不相等 ， x0就不在 μi與μj連線的中點(diǎn)上，而是在連線上向先驗(yàn)率小的均值點(diǎn)偏移。 ? 一般來說， w與 μiμj方向不同，因此決策面不垂直于 μi與 μj的連線。 ㈢ 一般情況 — ∑i≠∑j ? 各類的協(xié)方差陣不相等 ， 則 01 )(ln)ln(21)()(21)(iTiiTiiiiTiiwWPg??????????? ?xwxxμxμxx ?121 ????iiW (d d矩陣 ) )(ln||ln2121 10 iiiiTii Pw ???????? μμiii μw 1??? (d維列向量 ) 其中： ? 判別函數(shù) gi(x)表示為 x的二次型 。 ? 若決策域 Ri與 Rj相鄰 ， 則 決策面 應(yīng)滿足 gi(x)－ gj(x)=0 ? 即 xT(Wi－ Wj)x+(wi－ wj)Tx+wi0－ wj0=0 ? 由上式所決定的決策面為超二次曲面 ，隨著 ∑i，μi， P(ωi)的不同而呈現(xiàn)為某種超二次曲面，如超球面、超橢球面、超拋物面、超雙曲面或超平面。 演講完畢，謝謝觀看！
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號-1