機(jī)器學(xué)習(xí)：基于實(shí)例的學(xué)習(xí)-資料下載頁(yè)
2025-08-01 15:04本頁(yè)面
【正文】 CADET中每個(gè)存儲(chǔ)的訓(xùn)練樣例描繪了一個(gè)功能圖以及實(shí)現(xiàn)該功能的結(jié)構(gòu) – 實(shí)例空間定義為所有功能圖的空間，目標(biāo)函數(shù) f映射到實(shí)現(xiàn)這些功能的結(jié)構(gòu) – 每個(gè)存儲(chǔ)訓(xùn)練樣例 x,f(x)是一個(gè)序偶，描述某個(gè)功能圖 x和實(shí)現(xiàn) x的結(jié)構(gòu) f(x) – 系統(tǒng)通過(guò)學(xué)習(xí)訓(xùn)練樣例，以輸出滿(mǎn)足功能圖查詢(xún)輸入 xq的結(jié)構(gòu) f(xq) 機(jī)器學(xué)習(xí) 基于實(shí)例的學(xué)習(xí) 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 33 基于案例的推理（ 6） ? CADET系統(tǒng)區(qū)別于 k近鄰方法的一般特征 – 實(shí)例（或稱(chēng)案例）可以用豐富的符號(hào)描述表示，因此可能需要不同于歐氏距離的相似性度量 – 檢索到的多個(gè)案例可以合并形成新問(wèn)題的解決方案，合并案例的過(guò)程與 k近鄰方法不同，依賴(lài)于知識(shí)推理而不是統(tǒng)計(jì)方法 – 案例檢索、基于知識(shí)的推理、問(wèn)題求解是緊密耦合在一起的 ? 概括而言，基于案例的推理是一種基于實(shí)例的學(xué)習(xí)方法，在這個(gè)方法中 – 實(shí)例可以是豐富的關(guān)系的描述 – 案例檢索和合并過(guò)程可能依賴(lài)于知識(shí)推理和搜索密集的問(wèn)題求解方法 ? 一個(gè)研究課題：改進(jìn)索引案例的方法 – 句法相似度量?jī)H能近似地指出特定案例與特定問(wèn)題的相關(guān)度，而不能捕捉其他難點(diǎn)，比如多個(gè)設(shè)計(jì)片斷的不兼容性 – 發(fā)現(xiàn)這些難點(diǎn)后，可以回溯，并且可用來(lái)改進(jìn)相似性度量 機(jī)器學(xué)習(xí) 基于實(shí)例的學(xué)習(xí) 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 34 對(duì)消極學(xué)習(xí)和積極學(xué)習(xí)的評(píng)價(jià) ? 本章考慮了三種消極學(xué)習(xí)方法： k近鄰、局部加權(quán)回歸、基于案例的推理 ? 本章考慮了一種積極學(xué)習(xí)方法：學(xué)習(xí)徑向基函數(shù)網(wǎng)絡(luò)的方法 ? 消極方法和積極方法的差異： – 計(jì)算時(shí)間的差異 ? 消極算法在訓(xùn)練時(shí)需要較少的計(jì)算，但在預(yù)測(cè)新查詢(xún)的目標(biāo)值時(shí)需要更多的計(jì)算時(shí)間 – 對(duì)新查詢(xún)的分類(lèi)的差異（歸納偏置的差異） ? 消極方法在決定如何從訓(xùn)練數(shù)據(jù) D中泛化時(shí)考慮查詢(xún)實(shí)例 xq ? 積極方法在見(jiàn)到 xq之前，就完成了泛化 – 核心觀點(diǎn)：消極學(xué)習(xí)可以通過(guò)很多局部逼近的組合表示目標(biāo)函數(shù)，積極學(xué)習(xí)必須在訓(xùn)練時(shí)提交單個(gè)的全局逼近 機(jī)器學(xué)習(xí) 基于實(shí)例的學(xué)習(xí) 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 35 對(duì)消極學(xué)習(xí)和積極學(xué)習(xí)的評(píng)價(jià)（ 2） ? 使用多個(gè)局部逼近的積極方法，可以產(chǎn)生與消極方法的局部逼近同樣的效果嗎？徑向基函數(shù)網(wǎng)絡(luò)是對(duì)這個(gè)目標(biāo)的嘗試 ? RBF學(xué)習(xí)方法是在訓(xùn)練時(shí)提交目標(biāo)函數(shù)全局逼近的積極方法，然而，一個(gè) RBF網(wǎng)絡(luò)把這個(gè)全局函數(shù)表示為多個(gè)目標(biāo)局部核函數(shù)的線(xiàn)性組合 ? RBF學(xué)習(xí)方法創(chuàng)建的局部逼近不能達(dá)到像消極學(xué)習(xí)方法中那樣特別針對(duì)查詢(xún)點(diǎn) 機(jī)器學(xué)習(xí) 基于實(shí)例的學(xué)習(xí) 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 36 小結(jié) ? 基于實(shí)例的學(xué)習(xí)方法推遲處理訓(xùn)練樣例，直到必須分類(lèi)一個(gè)新查詢(xún)實(shí)例時(shí)才進(jìn)行。它們不必形成一個(gè)明確的假設(shè)來(lái)定義整個(gè)實(shí)例空間上的完整目標(biāo)函數(shù)，而是對(duì)每個(gè)查詢(xún)實(shí)例形成一個(gè)不同的目標(biāo)函數(shù)局部逼近 ? 基于實(shí)例的方法的優(yōu)點(diǎn)：通過(guò)一系列不太復(fù)雜的局部逼近來(lái)模擬復(fù)雜目標(biāo)函數(shù)，而且不會(huì)損失訓(xùn)練樣例中蘊(yùn)含的任何信息 ? 基于實(shí)例的方法的主要的實(shí)踐問(wèn)題： – 分類(lèi)新實(shí)例的效率 – 難以選擇用來(lái)檢索相關(guān)實(shí)例的合適的距離度量 – 無(wú)關(guān)特征對(duì)距離度量的負(fù)作用 機(jī)器學(xué)習(xí) 基于實(shí)例的學(xué)習(xí) 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 37 小結(jié)（ 2） ? k近鄰假定實(shí)例對(duì)應(yīng)于 n維歐氏空間中的點(diǎn)，一個(gè)新查詢(xún)的目標(biāo)函數(shù)值是根據(jù) k個(gè)與其最近的訓(xùn)練樣例的值估計(jì)得到 ? 局部加權(quán)回歸法是 k近鄰方法的推廣，為每個(gè)查詢(xún)實(shí)例建立一個(gè)明確的目標(biāo)函數(shù)的局部逼近，逼近方法可以基于常數(shù)、線(xiàn)性函數(shù)、二次函數(shù)等這類(lèi)簡(jiǎn)單的函數(shù)形式，也可以基于核函數(shù) ? 徑向基函數(shù)網(wǎng)絡(luò)是一類(lèi)由空間局部化核函數(shù)構(gòu)成的人工神經(jīng)網(wǎng)絡(luò)，可被看作是基于實(shí)例的方法和神經(jīng)網(wǎng)絡(luò)方法的結(jié)合 ? 基于案例的推理使用復(fù)雜的邏輯描述而不是歐氏空間中的點(diǎn)來(lái)表示實(shí)例。給定實(shí)例的符號(hào)描述，已經(jīng)提出了許多方法將訓(xùn)練樣例映射成新實(shí)例的目標(biāo)函數(shù)值 機(jī)器學(xué)習(xí) 基于實(shí)例的學(xué)習(xí) 作者： Mitchell 譯者：曾華軍等 講者：陶曉鵬 38 補(bǔ)充讀物 ? k近鄰算法 – Cover amp。 Hart1967提出了早期的理論結(jié)果 – Duda amp。 Hart1973提供了一個(gè)很好的概述 – Bishop1995討論了 k近鄰算法以及它與概率密度估計(jì)的關(guān)系 – Atkeson et 覽 – Atkeson et ? 徑向基函數(shù) – Bishop1995提供了一個(gè)全面討論 – Powell1987和 Poggio amp。 Girosi1990給出了其他論述 ? 基于案例的推理 – Kolodner1993提供了基于案例的推理的一般介紹
電大資料相關(guān)推薦
鄂ICP備17016276號(hào)-1