機(jī)器學(xué)習(xí)研究-在線瀏覽
2024-08-29 19:44本頁面
【正文】 分能力為目標(biāo)的研究 ? 這類研究的指導(dǎo)思想，一直延續(xù)到上個(gè)世紀(jì)的九十年代。以 BP算法為核心的神經(jīng)網(wǎng)絡(luò)研究是典型例子。 神經(jīng)網(wǎng)絡(luò) BP算法 ? 使用了一種非線性的基函數(shù)。 ? 其在科學(xué)上的意義，遠(yuǎn)不如提示人們再次注意感知機(jī)的作用更大。 ? 但是，如果研究者忘記 SVM所基于的統(tǒng)計(jì)基礎(chǔ)，就與 Vapnik的本意相悖了。 機(jī)器學(xué)習(xí)的統(tǒng)計(jì)假設(shè) ? 機(jī)器學(xué)習(xí)的統(tǒng)計(jì)基礎(chǔ)是基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小假設(shè)，以此，對機(jī)器學(xué)習(xí)算法所建模型的泛化能力估計(jì) (經(jīng)驗(yàn)風(fēng)險(xiǎn) )。 ? 泛化描述 “ 從樣本數(shù)趨于無窮大 ” 變?yōu)椤?在給定樣本集 ” 基礎(chǔ)上判定。 ? 這樣，機(jī)器學(xué)習(xí)的目標(biāo)函數(shù)就可以建立在樣本集合的結(jié)構(gòu)之上。 泛化能力 ? 以下不等式依概率 1?成立： ? R: 包含所有樣本的球半徑 ? M: 邊緣 ? l: 樣本個(gè)數(shù) ? ? ? ? ???????? ??? ?lo glo g22* lMRlcQRQRe m p泛化不等式的解釋 ? M0， 邊緣不能等于零。 ? 邊緣最大，泛化能力最強(qiáng)。 ? 泛化能力的描述無需使用世界 W來刻畫，而只需樣本集合 Q來刻畫。 ? 這樣，線性可分問題變?yōu)橛?jì)算兩個(gè)閉凸集的最大邊緣問題。 ?泛化問題：怎樣使兩個(gè)閉凸集之間的距離最大。 ? 研究核函數(shù)選擇的技術(shù)稱為核技術(shù)。由此，可以獲得支持向量。 未解決的問題 ? 在特征空間樣本集合是否可以劃分為不相交的閉凸集，決定于核函數(shù)的選擇。 ? 核函數(shù)的選擇沒有一般的方法。 解決線性不可分問題的方法 ? 核函數(shù)選擇的困難可能是根本性的。 ? 軟邊緣。 兩類技術(shù)措施的統(tǒng)計(jì)解釋 ? 目的是解決樣本集合不滿足一致性假設(shè)，采用不確定性來補(bǔ)充，以使得模型與實(shí)際世界的統(tǒng)計(jì)分布一致。 ? 集成機(jī)器學(xué)習(xí)：多個(gè)分類器集成，以使用不同模型補(bǔ)充一個(gè)模型的不足。 ? 在理論上似乎與 Madaline類似。 ? 進(jìn)而，又說明，這類集成后的強(qiáng)分類器具有統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)。 ?這意味著，比擲硬幣猜正面的概率稍好，就是弱分類器。 ? 由于每個(gè)分類器的分類能力不同，在集成時(shí)，需要對所有分類器加權(quán)平均，以決定分哪類。 ? 成為一種機(jī)器學(xué)習(xí)的規(guī)范。 ? 以后機(jī)器學(xué)習(xí)的研究必須考慮從數(shù)據(jù)到分布的歸納機(jī)理問題。 ? 由于獲得數(shù)據(jù)的手段的改善，在各行各業(yè)人們可以方便地獲得越來越多的數(shù)據(jù)。 ? 另一個(gè)任務(wù)悄悄興起，這就是復(fù)雜數(shù)據(jù)分析。 ? 原因是：對大多數(shù)情況， ? 積累的數(shù)據(jù)與未來將發(fā)生的事件不滿足一致性假設(shè)，而是可能相差甚遠(yuǎn)。 例如 ? 零售業(yè)：積累的數(shù)據(jù)只能部分指導(dǎo)未來的進(jìn)貨策略與銷售策略，特別是變化快的行業(yè)，例如，音像制品。從海量數(shù)據(jù)中發(fā)現(xiàn)這些用戶僅僅使用統(tǒng)計(jì)方法是不夠的。 人們不相信模型 ? 由于大多數(shù)數(shù)據(jù)集合不能滿足一致性假設(shè)，使得人們可能不一定相信來自觀測數(shù)據(jù)所建立的模型。 閱讀數(shù)據(jù)的需求 ? “ 一致性假設(shè) ” 不滿足，導(dǎo)致人們閱讀數(shù)據(jù)的需求。 ? 例如，在電信業(yè)、數(shù)據(jù)服務(wù)業(yè)、零售業(yè)、股票證券業(yè)，每天的數(shù)據(jù)量在 1068。 ? 假設(shè)人一分鐘可以閱讀一頁，大約需要 1035分鐘， 161600小時(shí)， 。 未來十年關(guān)鍵性的研究課題 ? 對大多數(shù)情況，一致性假設(shè)完全不能滿足，甚至不能假設(shè)其近似滿足。 ? 目前計(jì)算機(jī) 90%的處理量是符號性的，只有 10%是數(shù)值性的，未來的情況將可能與這類似。 ? 需要考慮不同用戶在共享同一個(gè)數(shù)據(jù)集合的不同需求 (包括解與解的長度 )。 ? 這類研究也可以稱為數(shù)據(jù)描述。 ? 這與機(jī)器學(xué)習(xí)具有不同的目標(biāo)。 應(yīng)用領(lǐng)域 ? DNA功能分析。 ? 金融、經(jīng)濟(jì)數(shù)據(jù)分析。 ? 文本分析。等等。 ? 顏色：赤橙黃綠青藍(lán)紫，或光的波長。 ? 體溫：發(fā)燒，或 37度以上。 技術(shù)方法之一 符號機(jī)器學(xué)習(xí) ? 根據(jù)不同數(shù)
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1