02貝葉斯決策理論-wenkub.com
2024-10-25 00:52 本頁(yè)面
【正文】 事件和決定，這些機(jī)緣、事件和決定在它們實(shí)現(xiàn)的當(dāng)時(shí)是取決于我們的意志的。2024年10月上午6時(shí)25分24.10.2106:25October 21, 2024 時(shí)間是人類發(fā)展的空間。06:25:4006:25:4006:25Monday, October 21, 2024 安全在于心細(xì)，事故出在麻痹。,加強(qiáng)做責(zé)任心，責(zé)任到人，責(zé)任到位才是長(zhǎng)久的發(fā)展。,若先驗(yàn)概率不相等，x0就不在μi與μj連線的中點(diǎn)上，而是在連線上向先驗(yàn)率小的均值點(diǎn)偏移。,如果σ2遠(yuǎn)小于||μiμj||2，則決策面的位置對(duì)先驗(yàn)概率不敏感。 判別函數(shù)為線性函數(shù)的分類器稱為線性分類器(linear machine)。 ⒈ 先驗(yàn)概率P(ωi)與P(ωj)不相等,㈠第一種情況,代入（1），得到：,由于上式中的第二、三項(xiàng)與類別i無(wú)關(guān)，故可忽略，并將gi(x)簡(jiǎn)化為,其中，,⒉ 先驗(yàn)概率P(ωi)=P(ωj)時(shí)的情況,這種分類器稱為最小距離分類器。即 p(y)~N(Aμ，A∑AT),⑹線性組合的正態(tài)性,若x為多元正態(tài)隨機(jī)向量，則線性組合,是一維的正態(tài)隨機(jī)變量，且y服從：,其中 是與x同維的向量。（證明見(jiàn)清華模式識(shí)別第二版P27) 推論: 如果多元正態(tài)隨機(jī)向量的協(xié)方差陣是對(duì)角陣，則x的分量是相互獨(dú)立的正態(tài)分布隨機(jī)變量。 不相關(guān)性是兩個(gè)隨機(jī)變量的積的期望等于兩個(gè)隨機(jī)變量的期望的積，它反映了xi與xj總體的性質(zhì)。,⑶不相關(guān)性等價(jià)于獨(dú)立性,不相關(guān)與獨(dú)立的定義： 若 E{xi xj}= E{xi}在數(shù)理統(tǒng)計(jì)中上式所表示的數(shù)量：,為x到μ的Mahalanobis距離的平方。 協(xié)方差矩陣∑由于其對(duì)稱性故其獨(dú)立元素有,p(x)~N(μ,∑),多元正態(tài)分布概率密度函數(shù)常記為,⑵等密度點(diǎn)的軌跡為一超橢球面,從正態(tài)分布總體中抽取的樣本大部分落在由μ和∑所確定的一個(gè)區(qū)域里。 ●若xT∑x0，則∑為正定陣。 由于決策表是人為確定的，決策表的不同會(huì)導(dǎo)致決策結(jié)果的不同，因此，在實(shí)際應(yīng)用中，需要認(rèn)真分析所研究問(wèn)題的內(nèi)在特點(diǎn)和分類的目的，與應(yīng)用領(lǐng)域的專家共同設(shè)計(jì)出適當(dāng)?shù)臎Q策表，才能做出更有效的決策。,幾種等價(jià)形式,決策例子,在前面例子的基礎(chǔ)上，利用下面的決策表，按最小風(fēng)險(xiǎn)貝葉斯決策重新進(jìn)行分類決策。 可以用Lagrange乘子法求解。,兩類錯(cuò)誤率,用FP,FN,TP,TN分別表示假陽(yáng)性，假陰性，真陽(yáng)性，真陰性的樣本數(shù)，Sn和Sp分別表示靈敏度和特異性，α,β分別表示第一類和第二類錯(cuò)誤率，則 如果令ω1表示陰性， ω2表示陽(yáng)性，則前面最小錯(cuò)誤率討論中的P1(e)和P2(e)分別對(duì)應(yīng)于第一類錯(cuò)誤率和第二類錯(cuò)誤率。 在評(píng)價(jià)一種檢測(cè)方法的效果時(shí)，常用的兩個(gè)概念是靈敏度(sensitivity)和特異性(specificity)。,等價(jià)形式,因?yàn)閜(x)只是一個(gè)伸縮因子，并不影響后驗(yàn)概率的相對(duì)大小，因此決策規(guī)則中可以不考慮p(x): 如果 p(x | ?1)P(?1) p(x | ?2 ) P(?2) ，則決策為?1 ，否則決策為?2 。給定一個(gè)判別函數(shù)集合 如果特征x滿足 則決策為 。 顯然，對(duì)于給定的x，上述決策規(guī)則使得錯(cuò)誤率最小。,分類決策的分析,如果只對(duì)一條魚(yú)做分類決策，則前面的決策規(guī)則是合理的，如果要對(duì)連續(xù)出現(xiàn)的多條魚(yú)重復(fù)這一決策規(guī)則，就略顯怪異了：盡管我們知道會(huì)出現(xiàn)的魚(yú)有兩種，但我們只是重復(fù)同一決策。一般的，假定已知出現(xiàn)鱸魚(yú)的概率P(ω1)和出現(xiàn)鮭魚(yú)的概率P(ω2)，則P(ω1)+ P(ω2)=1.這是我們?cè)跊Q策之前已知的先驗(yàn)知識(shí)，因此稱為先驗(yàn)概率分布,只依賴先驗(yàn)概率的決策,先驗(yàn)概率反映了我們?cè)隰~(yú)真正出現(xiàn)之前就已經(jīng)具有的關(guān)于鱸魚(yú)和鮭魚(yú)的出現(xiàn)的可能性的知識(shí)。第二章 貝葉斯決策理論,2.1 引言 2.2 最小錯(cuò)誤率貝葉斯決策 2.3最小風(fēng)險(xiǎn)貝葉斯決策 2.4正態(tài)分布下的貝葉斯決
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1