機器學習：基于實例的學習-展示頁
2025-08-10 15:04本頁面
【正文】 – 返回 – 其中 ???? ki iVvq xfvxf 1 ))(,(m a xa r g)(? ???? ??? ba baba 01),(? 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 9 k近鄰算法（ 3） ? 表 81的算法返回值是對 f(xq)的估計，它是距離 xq最近的 k個訓練樣例中最普遍的 f值，結果與 k的取值相關。如何有效地索引訓練樣例是一個重要的問題 – 當從存儲器中檢索相似的訓練樣例時，一般考慮實例的所有屬性，如果目標概念僅依賴于很多屬性中的幾個，那么真正最“相似”的實例之間可能相距甚遠 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 6 簡介（ 3） ? k近鄰算法和它的幾個變體 ? 局部加權回歸法，這是一種建立目標函數(shù)的局部逼近的學習方法，被看作 k近鄰算法的一般形式 ? 徑向基函數(shù)網絡，它為基于實例的學習算法和神經網絡學習算法提供了一個有趣的橋梁 ? 基于案例的推理，這是一種使用符號表示和基于知識的推理的方法 ? 消極學習方法和積極學習方法之間的差異 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 7 k近鄰算法 ? k近鄰算法是最基本的基于實例的學習方法 ? k近鄰算法假定所有的實例對應于 n維空間 Rn中的點，任意的實例表示為一個特征向量a1(x), ..., an(x) ? 根據歐氏距離定義實例的距離。 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 1 機器學習 第 8章 基于實例的學習 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 2 概述 ? 已知一系列的訓練樣例，許多學習方法為目標函數(shù)建立起明確的一般化描述， ? 基于實例的學習方法只是簡單地把訓練樣例存儲起來，從這些實例中泛化的工作被推遲到必須分類新的實例時 ? 每當學習器遇到一個新的查詢實例，它分析這個新實例與以前存儲的實例的關系，并據此把一個目標函數(shù)值賦給新實例 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 3 概述（ 2） ? 基于實例的學習方法包括： – 假定實例可以表示成歐氏空間中的點 ? 最近鄰法 ? 局部加權回歸法 – 對實例采用更復雜的符號表示 ? 基于案例的推理 ? 基于實例的學習方法有時被稱為消極學習法，它把處理工作延遲到必須分類新的實例時 ? 這種延遲的學習方法有一個優(yōu)點：不是在整個實例空間上一次性地估計目標函數(shù)，而是針對每個待分類新實例作出局部的和相異的估計 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 4 簡介 ? 基于實例的學習方法的學習過程只是簡單地存儲已知的訓練數(shù)據，當遇到新的查詢實例時，一系列相似的實例從存儲器中取出，用來分類新的查詢實例 ? 與其他方法相比，基于實例的學習方法的一個關鍵差異是：可以為不同的待分類查詢實例建立不同的目標函數(shù)逼近 ? 許多技術不建立目標函數(shù)在整個實例空間上的逼近，只建立局部逼近，并將其用于與新實例鄰近的實例 ? 這樣做的好處是：有時目標函數(shù)很復雜，但具有不太復雜的局部逼近描述 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 5 簡介（ 2） ? 基于案例的學習（基于實例的學習的一種）使用復雜的符號表示法來描述實例，也按照這種方式確定鄰近實例 ? 基于實例的方法的不足： – 分類新實例的開銷可能很大。 ? 幾乎所有的計算都發(fā)生在分類時，而不是在第一次遇到訓練樣例時。兩個實例 xi和 xj的距離 d(xi,xj)定義為 ? 在最近鄰學習中，目標函數(shù)值可以是離散的也可以是連續(xù)的，本節(jié)先考慮離散的情況。 ? 圖 81圖解了一種簡單情況下的 k近鄰算法，實例是二維空間中的點，目標函數(shù)具有布爾值， 1近鄰算法把 xq分類為正例， 5近鄰算法把 xq分類為反例 ? k近鄰算法不形成關于目標函數(shù) f的明確的一般假設，僅在需要時計算每個新查詢實例的分類，但依然可以問： k近鄰算法隱含的一般函數(shù)是什么？ ? 圖 81中右圖畫出了 1近鄰算法在整個實例空間上導致的決策面形狀。即計算 k個最接近樣例的平均值，而不是計算其中的最普遍的值，為逼近 f: Rn?R，計算式如下： kxfxf ki iq ??? 1)()(? 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 11 距離加權最近鄰算法 ? 對 k近鄰算法的一個改進是對 k個近鄰的貢獻加權，越近的
電大資料相關推薦
鄂ICP備17016276號-1