gxpaaa線性判別函數(shù)(編輯修改稿)
2025-08-20 10:54 本頁面
【文章內(nèi)容簡介】 x)=wx即可看成是特征向量 x在 w上投影的 |w|倍 。 線性判別函數(shù) 2Fisher線性判別 投影原則 尋找合適的 w， 使各模式投影后 ， 同類模式相距較近 ， 同類模式密聚 ， 異類模式相距較遠(yuǎn) ， 各類中心距離較大 。 2221221 )()(SSmmwJ F???線性判別函數(shù) 2Fisher線性判別 符號含義 mi為各類樣本均值 Si為類內(nèi)標(biāo)準(zhǔn)差 準(zhǔn)則函數(shù) SW為樣本類內(nèi)總散度矩陣 SB為樣本類間總散度矩陣 (M1M2)(M1M2)T TWTBF wwSwwSSSmmwJ ????2221221 )()(線性判別函數(shù) 2Fisher線性判別 求解方法 利用二次型關(guān)于向量求導(dǎo)的公式可得 0)()(2)(2)(2 ?????TWTwTBTBTWFwwSwSwwSwSwwSwwJTWTBwwSwwSk ?令 線性判別函數(shù) 2Fisher線性判別 求解方法 利用二次型關(guān)于向量求導(dǎo)的公式可得 TwTB wkSwS ?TTBW kwwSS ?? 1對于兩類問題 ， SB的秩為 1， 故上式只有一個(gè)非零特征值 ， 其所對應(yīng)的特征向量稱為 Fisher最佳鑒別向量 。 線性判別函數(shù) 2Fisher線性判別 求解方法 Fisher解 TTWTBWTwmmmmSwSSkw))(( 212111??????)( 211 mmcSw WT ?? ?線性判別函數(shù) 2Fisher線性判別 一維分類原則 當(dāng)投影前維數(shù)和樣本數(shù)都很大時(shí) ,可采用 Bayes決策規(guī)則 ,從而獲得一種在一維空間的最優(yōu)分類 . 如上述條件不滿足 ,也可利用先驗(yàn)知識選定分界閾值點(diǎn) y,以便進(jìn)行分類判別 . y=(m1+m2)/2 線性判別函數(shù) 3感知準(zhǔn)則函數(shù) 準(zhǔn)則函數(shù) （ Perceptron Function） 其中 Xe是被權(quán)向量 w錯(cuò)分的樣本集合 .當(dāng) x被錯(cuò)分后 ,wx=0或 –wx= JP(w) 極小 (至 0)的權(quán)向量 w. ????eXxP wxwJ )(線性判別函數(shù) 3感知準(zhǔn)則函數(shù) 梯度下降法 準(zhǔn)則函數(shù)在某點(diǎn) wk的梯度方向反映了函數(shù)變化率最大的方向 ， 故在求準(zhǔn)則函數(shù)極小值時(shí) ， 沿負(fù)梯度方向搜索有可能最快地找到極小值 。 先任意選擇一個(gè)初始權(quán)向量 ， 沿梯度方向進(jìn)行遞推搜索 ， 因而可構(gòu)造迭代算法： w(k+1) = w(k) – pkS(▼ JP(w)) 線性判別函數(shù) 3感知準(zhǔn)則函數(shù) 梯度下降法 對準(zhǔn)則函數(shù) (純量函數(shù) )關(guān)于向量 w求導(dǎo) . ????????eXxPP xwwJwJ)()(迭代公式 w(k+1)=w(k)+pkS(x∈ Xe) 線性判別函
高考資料相關(guān)推薦
鄂ICP備17016276號-1