機器學習：基于實例的學習-資料下載頁
2025-08-01 15:04本頁面
【正文】 CADET中每個存儲的訓(xùn)練樣例描繪了一個功能圖以及實現(xiàn)該功能的結(jié)構(gòu) – 實例空間定義為所有功能圖的空間，目標函數(shù) f映射到實現(xiàn)這些功能的結(jié)構(gòu) – 每個存儲訓(xùn)練樣例 x,f(x)是一個序偶，描述某個功能圖 x和實現(xiàn) x的結(jié)構(gòu) f(x) – 系統(tǒng)通過學習訓(xùn)練樣例，以輸出滿足功能圖查詢輸入 xq的結(jié)構(gòu) f(xq) 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 33 基于案例的推理（ 6） ? CADET系統(tǒng)區(qū)別于 k近鄰方法的一般特征 – 實例（或稱案例）可以用豐富的符號描述表示，因此可能需要不同于歐氏距離的相似性度量 – 檢索到的多個案例可以合并形成新問題的解決方案，合并案例的過程與 k近鄰方法不同，依賴于知識推理而不是統(tǒng)計方法 – 案例檢索、基于知識的推理、問題求解是緊密耦合在一起的 ? 概括而言，基于案例的推理是一種基于實例的學習方法，在這個方法中 – 實例可以是豐富的關(guān)系的描述 – 案例檢索和合并過程可能依賴于知識推理和搜索密集的問題求解方法 ? 一個研究課題：改進索引案例的方法 – 句法相似度量僅能近似地指出特定案例與特定問題的相關(guān)度，而不能捕捉其他難點，比如多個設(shè)計片斷的不兼容性 – 發(fā)現(xiàn)這些難點后，可以回溯，并且可用來改進相似性度量 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 34 對消極學習和積極學習的評價 ? 本章考慮了三種消極學習方法： k近鄰、局部加權(quán)回歸、基于案例的推理 ? 本章考慮了一種積極學習方法：學習徑向基函數(shù)網(wǎng)絡(luò)的方法 ? 消極方法和積極方法的差異： – 計算時間的差異 ? 消極算法在訓(xùn)練時需要較少的計算，但在預(yù)測新查詢的目標值時需要更多的計算時間 – 對新查詢的分類的差異（歸納偏置的差異） ? 消極方法在決定如何從訓(xùn)練數(shù)據(jù) D中泛化時考慮查詢實例 xq ? 積極方法在見到 xq之前，就完成了泛化 – 核心觀點：消極學習可以通過很多局部逼近的組合表示目標函數(shù)，積極學習必須在訓(xùn)練時提交單個的全局逼近 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 35 對消極學習和積極學習的評價（ 2） ? 使用多個局部逼近的積極方法，可以產(chǎn)生與消極方法的局部逼近同樣的效果嗎？徑向基函數(shù)網(wǎng)絡(luò)是對這個目標的嘗試 ? RBF學習方法是在訓(xùn)練時提交目標函數(shù)全局逼近的積極方法，然而，一個 RBF網(wǎng)絡(luò)把這個全局函數(shù)表示為多個目標局部核函數(shù)的線性組合 ? RBF學習方法創(chuàng)建的局部逼近不能達到像消極學習方法中那樣特別針對查詢點 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 36 小結(jié) ? 基于實例的學習方法推遲處理訓(xùn)練樣例，直到必須分類一個新查詢實例時才進行。它們不必形成一個明確的假設(shè)來定義整個實例空間上的完整目標函數(shù)，而是對每個查詢實例形成一個不同的目標函數(shù)局部逼近 ? 基于實例的方法的優(yōu)點：通過一系列不太復(fù)雜的局部逼近來模擬復(fù)雜目標函數(shù)，而且不會損失訓(xùn)練樣例中蘊含的任何信息 ? 基于實例的方法的主要的實踐問題： – 分類新實例的效率 – 難以選擇用來檢索相關(guān)實例的合適的距離度量 – 無關(guān)特征對距離度量的負作用 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 37 小結(jié)（ 2） ? k近鄰假定實例對應(yīng)于 n維歐氏空間中的點，一個新查詢的目標函數(shù)值是根據(jù) k個與其最近的訓(xùn)練樣例的值估計得到 ? 局部加權(quán)回歸法是 k近鄰方法的推廣，為每個查詢實例建立一個明確的目標函數(shù)的局部逼近，逼近方法可以基于常數(shù)、線性函數(shù)、二次函數(shù)等這類簡單的函數(shù)形式，也可以基于核函數(shù) ? 徑向基函數(shù)網(wǎng)絡(luò)是一類由空間局部化核函數(shù)構(gòu)成的人工神經(jīng)網(wǎng)絡(luò)，可被看作是基于實例的方法和神經(jīng)網(wǎng)絡(luò)方法的結(jié)合 ? 基于案例的推理使用復(fù)雜的邏輯描述而不是歐氏空間中的點來表示實例。給定實例的符號描述，已經(jīng)提出了許多方法將訓(xùn)練樣例映射成新實例的目標函數(shù)值 機器學習 基于實例的學習 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 38 補充讀物 ? k近鄰算法 – Cover amp。 Hart1967提出了早期的理論結(jié)果 – Duda amp。 Hart1973提供了一個很好的概述 – Bishop1995討論了 k近鄰算法以及它與概率密度估計的關(guān)系 – Atkeson et 覽 – Atkeson et ? 徑向基函數(shù) – Bishop1995提供了一個全面討論 – Powell1987和 Poggio amp。 Girosi1990給出了其他論述 ? 基于案例的推理 – Kolodner1993提供了基于案例的推理的一般介紹
電大資料相關(guān)推薦
鄂ICP備17016276號-1