機(jī)器學(xué)習(xí)研究進(jìn)展(文件)
【正文】 ) 泛化：以泛化能力為基礎(chǔ)的算法設(shè)計(jì) 4 對(duì)增強(qiáng)機(jī)器學(xué)習(xí)的說明 ? “適應(yīng)性”是控制理論中最重要的概念之一，以往在計(jì)算機(jī)科學(xué)中考慮較少 ? 1975年， Holland首先將這個(gè)概念引入計(jì)算機(jī)科學(xué)。 ? 認(rèn)識(shí)世界 ：只有在某個(gè)空間中可以描述為線性的世界，人們才說，這個(gè)世界已被認(rèn)識(shí) (將問題變換為另一個(gè)問題 ) ? 數(shù)學(xué)方法 ：尋找一個(gè)映射，將非線性問題映射到線性空間，以便其可以線性表述 11 例子 XOR問題 xy 0 0 0 1 例子： XOR問題： 映射： (x,y)?(x,xy,y) 線形表示： 12 在機(jī)器學(xué)習(xí)中的方法 ? 尋找具有一般意義的線性空間 (方法 ) ? 目前，機(jī)器學(xué)習(xí)主要采用兩種方法： (1) 整體線性， Hilbert空間 (核映射 ) (2) 類似分段線性， Madaline或弱分類方法 13 Hilbert空間 ? Hilbert空間是 Von Neumman為量子力學(xué)數(shù)學(xué)基礎(chǔ)提出的一類具有一般意義的線性內(nèi)積空間 ? 在機(jī)器學(xué)習(xí)中借助 Hilbert空間構(gòu)成特征空間 14 線性不可分機(jī)器學(xué)習(xí)問題 ? 將線性不可分問題變?yōu)榫€性可分問題的關(guān)鍵是尋找一個(gè)映射，將樣本集映射到特征空間，使其在特征空間線性可分 ? 這樣，我們只需以感知機(jī)為基礎(chǔ)，研究統(tǒng)計(jì)機(jī)器學(xué)習(xí)問題。泛化能力可以使用樣本集合的邊緣刻畫。 Gold證明，這是不可能的實(shí)現(xiàn)的 (1967)。這樣，“最小”樹或規(guī)則集合就是其目標(biāo)函數(shù) ? 兩個(gè)因素影響這個(gè)目標(biāo)：其一，從實(shí)域到符號(hào)域的映射，其二，在符號(hào)域上的約簡(jiǎn)。例外是噪音 ? 例外是比可以覆蓋大多數(shù)樣本的規(guī)則更為有趣的知識(shí) ? 對(duì)專家，規(guī)則是“老生常談”，而例外則是應(yīng)該引起注意的事件或知識(shí) ? 例外是新研究與發(fā)現(xiàn)的開始 37 增強(qiáng)機(jī)器學(xué)習(xí) ? 增強(qiáng)機(jī)器學(xué)習(xí)最早提出是考慮“從變化環(huán)境中”學(xué)習(xí)蘊(yùn)含在環(huán)境中知識(shí)，其本質(zhì)是對(duì)環(huán)境的適應(yīng) ? 開始的動(dòng)機(jī)主要是為了解決機(jī)器人規(guī)劃、避障與在環(huán)境中適應(yīng)的學(xué)習(xí)問題 ? 目前，由于網(wǎng)絡(luò)用戶是更為復(fù)雜的環(huán)境，例如，如何使搜索引擎適應(yīng)用戶的需求，成為更為重要的應(yīng)用領(lǐng)域 38 流形機(jī)器學(xué)習(xí) ? 很多問題的表示方法，使得信息十分稀疏，如何將信息稠密化是一個(gè)困難的問題（“維數(shù)災(zāi)難”），主成分分析是一種方法，但是，只對(duì)線性情況有效 ? 流形學(xué)習(xí)是解決上述問題的非線性方法 ? 由于流形的本質(zhì)是分段線性化，因此，流形學(xué)習(xí)需要解決計(jì)算開集、設(shè)計(jì)同胚映射等問題 39 半監(jiān)督機(jī)器學(xué)習(xí) ? 在觀測(cè)數(shù)據(jù)中，可能有很多觀測(cè)不能決定其類別標(biāo)號(hào)。這要求： (1) 需要考慮科學(xué)原理解決表示問題，特別需要借用近代數(shù)學(xué)的研究結(jié)果，“拍腦
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1