02貝葉斯決策理論(完整版)
【正文】 為d維隨機(jī)向量，對隨機(jī)向量x可能采取的決策組成了決策空間 設(shè)對于實際狀態(tài)為ωj的向量x,采取決策αi所帶來的損失為λ(αi, ωj),i=1,…k, j=1,…c. λ(αi, ωj),i=1,…k, j=1,…c 稱為損失函數(shù)，通常用表格給出，在應(yīng)用中需要根據(jù)問題的背景知識確定。,2.3 正態(tài)分布時的統(tǒng)計決策,正態(tài)分布概率密度函數(shù)的定義及性質(zhì) 多元正態(tài)概型下的最小錯誤率貝葉斯判別函數(shù)和決策面,正態(tài)分布的重要性,正態(tài)分布是所有分布中最受關(guān)注的分布 數(shù)學(xué)上易于分析 物理上的合理性：適合于給定類別ωi的特征x是某個單值向量μi的隨機(jī)擾動的情形（根據(jù)中心極限定理，大量微小的，獨立的隨機(jī)擾動加和的累積效應(yīng)會導(dǎo)致高斯分布） 很多模式（比如魚，手寫字符，語音等）都可以看成一個理想模式被大量隨機(jī)過程所擾動的結(jié)果，因此正態(tài)分布是描述實際概率分布的理想模型,2.3.1正態(tài)分布概率密度函數(shù)的定義及性質(zhì),㈠單變量正態(tài)分布 ●單變量正態(tài)分布概率密度函數(shù)定義為,正態(tài)分布的重要性質(zhì),正態(tài)分布可以由均值μ和方差σ完全確定 正態(tài)分布與熵之間有著深刻的聯(lián)系， 熵度量的是從一個分布中隨機(jī)抽取樣本時的不確定性 可以證明，在給定均值和方差的前提下，正態(tài)分布的熵是最大的,㈡ 多元正態(tài)分布 ⒈多元正態(tài)分布的概率密度函數(shù),●協(xié)方差的各分量為：,●協(xié)方差矩陣總是非負(fù)定陣。下圖給出了從一個以均值μ為中心的二維高斯分布中取出的樣本。E{xj} 則定義隨機(jī)變量xi和xj是不相關(guān)的。,多元正態(tài)分布的邊緣分布和條件分布仍然是正態(tài)分布。,忽略與i無關(guān)的xTx，則判別函數(shù)為:,wi0為第i個方向的閾值或偏置。,㈡第二種情況∑i=∑,由∑i =∑2 =…=∑c =∑，即∑與i無關(guān)，所以，其判別函數(shù)（1）可簡化為,若c類先驗概率都相等則判別函數(shù)可進(jìn)一步簡化為 這時其決策規(guī)則為：為了對觀察x進(jìn)行分類，只要計算出x到每類的均值點μi的Mahalanobis距離平方，最后把x歸于最小的類別。24.10.2024.10.20Sunday, October 20, 2024 人生得意須盡歡，莫使金樽空對月。2024年10月20日星期日4時26分33秒16:26:3320 October 2024 科學(xué)，你是國力的靈魂；同時又是社會發(fā)展的標(biāo)志。24.10.2024.10.2016:2616:26:3316:26:33Oct24 人生不是自發(fā)的自我發(fā)展，而是一長串機(jī)緣。24.10.2016:26:3316:26Oct2420Oct24 重于泰山，輕于鴻毛。,如果決策域Ri和Rj相鄰，則決策面方程應(yīng)滿足： gi(x)－ gj(x)=0 即 wT(x―x0)=0 其中 w=∑1(μi－μj),若各類的先驗概率相等，則,此時x0點為μi與μj連線的中點，根據(jù)前面的討論，決策面應(yīng)通過這一點，如圖2.12所示。,判別函數(shù)gi(x)是x的線性函數(shù)。,同理可以推出x2的邊緣分布為,對于給定x1的條件下x2的分布，有定義 p(x2|x1) = p(x1,x2 ) / p(x1),同理可以寫出給定x2條件下x1的分布:,⑸線性變換的正態(tài)性,若對x用線性變換矩陣A(A是非奇異(|A|≠0)的)作線性變換， y = Ax 則y服從以均值向量為Aμ，協(xié)方差矩陣為A∑AT的多元正態(tài)分布。,■一般情況下相關(guān)與獨立的關(guān)系,獨立性是比不相關(guān)性更強(qiáng)的條件，獨立性要求 p(xi,xj)= p(xi) p(xj) 對于xi和xj都成立。,■當(dāng)指數(shù)項為常數(shù)時，密度p(x)值不變，因此等密度點應(yīng)是此式的指數(shù)項為常數(shù)的點，即應(yīng)滿足,■可以 證明上式的解是一個超橢球面，且它的主軸方向由∑陣的特征向量所決定，主軸的長度與相應(yīng)的協(xié)方差矩陣∑的本征值成正比。如果對x≠0的一切x 有 xT∑
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1