模式識別線性判別函數(shù)-展示頁
2024-08-19 17:26本頁面
【正文】 ??目標(biāo)函數(shù)準(zhǔn)則函數(shù) 表示 對應(yīng)于準(zhǔn)則函數(shù)的最優(yōu)化（方法），求準(zhǔn)則函數(shù)的極值問題。這些方法本質(zhì)上都是要確定線性判別函數(shù)中的參數(shù)（參數(shù)分類器中的參數(shù)估計(jì)）。 引言 在實(shí)際 工 作中， ???需要大量的樣本。 參數(shù)分類器可以是線性（一次）的、二次的，或其它函數(shù)形式。 展開 h(x)并整理后有： TcxbAxxxhTT21)(??????? 引言 式中： 21212211111112121211ln)(2KKmKmmKmcmKmKbKKATT????????????? 引言 當(dāng)兩類的協(xié)方差矩陣相等時(shí)，即K=K1=K2， 決策規(guī)則變?yōu)椋? TcxbxhT21)(?????? 引言 其中： 212111121 )(2mKmmKmcmmKbTT ??????? 這是一個(gè)線性分類器，是在正態(tài)分布、等協(xié)方差矩陣的情況下導(dǎo)出的。第五章 線性判別函數(shù) （分類器，參數(shù)分類器） 引言 Fisher 線性判別 感知準(zhǔn)則函數(shù)（ Perceptron） 最小平方誤差準(zhǔn)則函數(shù) 多層感知的學(xué)習(xí)算法 —誤差反向傳播算法 1. 前面講過，各種決策規(guī)則都導(dǎo)致似然比檢驗(yàn)的形式： λ2ω1ω)ω|P ( x)ω|P ( xl ( x)21??? 引言 引言 若分布是正態(tài)的，其均值向量和協(xié)方差矩陣分別是 mi 和 ki（ i＝ 1, 2） ，則 ???21)()(21)()(21e x p)()( 212211112112???????? ??????? ?? mxKmxmxKmxKKxl TT定義 )(ln)( xlxh 2?? ，則 2121221111 ln)()()()()( KKmxKmxmxKmxxh TT ??????? ?????ln221????T 引言 本質(zhì)上在比較離均值的馬氏距離。這是一個(gè)二次分類器。 這時(shí)的判別函數(shù) gk(x)的形式也是線性的，稱為 線性判別函數(shù) 引言 線性判別函數(shù)由一些參數(shù)所規(guī)定，所以由它們所確定的分類器又稱為參數(shù)分類器。 而近鄰法是一種非參數(shù)分類器。參數(shù)估計(jì)和密度估計(jì)又形式很難確定，樣本的類條件概率密度 所以發(fā)展了各種直接從樣本中設(shè)計(jì)線性分類器的方法。 引言 2. 線性分類器的設(shè)計(jì)過程 線性判別函數(shù)的一般形式為： 0)( wxwxgT ?? 希望根據(jù)給出的已知類別的訓(xùn)練樣本，確定參數(shù) w和 w0. 引言 對分類器的性能提出要求 使所確定的 w和 w0盡可能滿足這些要求。 引言 線性判別函數(shù)分類的錯(cuò)誤率可能比貝葉斯錯(cuò)誤率大，但它簡單，容易實(shí)現(xiàn)，它是 ，人們對它進(jìn)行了大量的研究工作。 引言 假定 x1和 x2是超平面 H（分界面）上的任意兩點(diǎn)，由于 0)( 210201 ?????? xxwwxwwxw TTT 即 w是 H的 法向量 ， 它和 H上的任一向量正交。 超平面的一些性質(zhì) 引言 x 兩類情況 引言 則 wwrxx ?? ?代入 g(x) 中有： wrwwwrwxwwwwrxwxg TTT ????????? ?? ??000 ?? )()( 引言 ∴ wxgr )(? （點(diǎn)面距離） 222000CBADCzByAxd??????點(diǎn) (x0, y0, z0) 到平面 Ax+By+Cz+D=0的距離為： 引言 若 x為原點(diǎn)，則 )(wwxwwwr T 00 ???若 w00，則原點(diǎn)在 H的正側(cè)； 若 w00，則原點(diǎn)在 H的負(fù)側(cè)； 若 w0=0，則 H通過原點(diǎn)，具有齊次形式。 引言 4. 廣義線性判別函數(shù) 有時(shí)，有些判別函數(shù)不是線性的，但通過適當(dāng)?shù)淖儞Q可以轉(zhuǎn)換為線性判別函數(shù)。 引言 例： 一維 ， ab，三個(gè)區(qū)域，兩類 這樣做的結(jié)果是增加了特征的維數(shù)。 引言 另外 ,為了處理上的方便，線性判別函數(shù) 0wxwxgT ??)(常寫成齊次的形式 yaxg T?)( 引言 其中 ???????????????????????????xxxyn111， ?????????????????????????
高考資料相關(guān)推薦
鄂ICP備17016276號-1