機器學(xué)習(xí)經(jīng)典算法(ppt45頁)(編輯修改稿)
2025-02-05 17:55 本頁面
【文章內(nèi)容簡介】 （ 3）估計模型通常不用花費很長的訓(xùn)練時間； （ 4） 推理過程完全依據(jù)屬性變量的取值特點（與 ， CRT的輸出字段既可以是數(shù)值型，也可以是分類型） （ 5）比其他模型更易于理解 —— 從模型中得到的規(guī)則能得到非常直觀的解釋，決策推理過程可以表示成 IF?THEN 的形式 （ 6）目標是定類變量為分類樹，若目標變量是定距變量，則為回歸樹； （ 7）通過檢測輸入字段，通過度量各個劃分產(chǎn)生的異質(zhì)性的減小程度，找到最佳的一個劃分。 （ 8）非常靈活，可以允許有部分錯分成本，還可指定先驗概率分布，可使用自動的成本復(fù)雜性剪枝來得到歸納性更強的樹 三、樸素貝葉斯 ? 機器學(xué)習(xí)的任務(wù)：在給定訓(xùn)練數(shù)據(jù) D時，確定假設(shè)空間 H中的最佳假設(shè)。 ? 最佳假設(shè)：一種方法是把它定義為在給定數(shù)據(jù) D以及 H中不同假設(shè)的先驗概率的有關(guān)知識下的最可能假設(shè)。貝葉斯理論提供了一種計算假設(shè)概率的方法，基于假設(shè)的先驗概率、給定假設(shè)下觀察到不同數(shù)據(jù)的概率以及觀察到的數(shù)據(jù)本身。 ? 主要應(yīng)用在電子郵件過濾和文本分類的研究 樸素貝葉斯算法原理： 四、 KNN ? K近鄰分類算法（ K Nearest Neighbors，簡稱KNN）通過計算每個訓(xùn)練數(shù)據(jù)到待分類元組的距離，取和待分類元組距離最近的 K個訓(xùn)練數(shù)據(jù)， K個數(shù)據(jù)中哪個類別的訓(xùn)練數(shù)據(jù)占多數(shù)，則待分類元組就屬于哪個類別。 K的值一般選取為 √q (q為訓(xùn)練元組的數(shù)目，商業(yè)算法通常以 10作為默認值 ) 盡管近鄰法有其優(yōu)良品質(zhì)，但是它的一個嚴重弱點與問題是需要存儲全部訓(xùn)練樣本，以及繁重的距離計算量。但以簡單的方式降低樣本數(shù)量，只能使其性能降低，這也是不希望的。 該算法比較適用于樣本容量比較大的類域的自動分類，而那些樣本容量較小的類域采用這種算法比較容易產(chǎn)生誤分。 五、 SVM SVM的主要思想可以概括為兩點： (1) 它是針對線性可分情況進行分析，對于線性不可分的情況，通過使用非線性映射算法將低維輸入空間線性不可分的樣本轉(zhuǎn)化為高維特征空間使其線性可分，從而使得高維特征空間采用線性算法對樣本的非線性特征進行線性分析成為可能； (2) 它基于結(jié)構(gòu)風(fēng)險最小化理論之上在特征空間中建構(gòu)最優(yōu)分割超平面，使得學(xué)習(xí)器得到全局最優(yōu)化 ,并且在整個樣本空間的期望風(fēng)險以某個概率滿足一定上界。 ? SVM的應(yīng)用主要于模式
公司管理相關(guān)推薦
鄂ICP備17016276號-1