深度學習基礎(chǔ)(ppt36頁)-wenkub
2023-01-30 05:35:38 本頁面
【正文】 A brief introduce of deep learning 機器學習 ? 機器學習（ Machine Learning）是一門專門研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學習行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)市值不斷改善自身的性能的學科，簡單地說，機器學習就是通過算法，使得機器能從大量的歷史數(shù)據(jù)中學習規(guī)律，從而對新的樣本做智能識別或預(yù)測未來。而特征的樣式目前一般都是靠人工提取特征。 ? 深度學習的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究，含多隱層的多層感知器就是一種深度學習結(jié)構(gòu)。 淺層學習與深度學習 ? 傳統(tǒng)機器學習和信號處理技術(shù)探索僅含單層非線性變換的淺層學習結(jié)構(gòu)。 ? 受到大腦結(jié)構(gòu)分層的啟發(fā)，神經(jīng)網(wǎng)絡(luò)的研究發(fā)現(xiàn)多隱層的人工神經(jīng)網(wǎng)絡(luò)具有優(yōu)異的特征學習能力，學習得到的特征對數(shù)據(jù)有更本質(zhì)的刻畫，從而有利于可視化或分類；而深度神經(jīng)網(wǎng)絡(luò)在訓練上的難度，可以通過“逐層初始化”來有效克服。 ? 深度學習與淺層學習的區(qū)別 ? 強調(diào)了模型結(jié)構(gòu)的深度，通常有 510多層的隱層節(jié)點； ? 明確突出了特征學習的重要性，通過逐層特征變換，將樣本在原空間的特征表示變換到一個新特征空間，從而使分類或預(yù)測更加容易。隨機設(shè)定初值，計算當前網(wǎng)絡(luò)的輸出，然后根據(jù)當前輸出和樣本真實標簽之間的差去改變前面各層的參數(shù)，直到收斂； ?深度學習： BP算法不適合深度神經(jīng)網(wǎng)絡(luò)，如果對所有層同時訓練，時間復(fù)雜度會太高，如果每次訓練一層，偏差逐層傳遞會出現(xiàn)過擬合。 ? 自上而下的監(jiān)督學習 基于第一步的得到的各層參數(shù)進一步調(diào)整整個多層模型的參數(shù)，這一步是一個有監(jiān)督的訓練過程。卷積網(wǎng)絡(luò)是為識別二維形狀而特殊設(shè)計的一個多層感知器，這種網(wǎng)絡(luò)結(jié)構(gòu)對平移、比例縮放、傾斜或者共他形式的變形具有高度不變性。 假設(shè)一種卷積核只提取出圖像的一種特征，所以一般要多個卷積核來提取不同的特征，所以每一層一般都會有多張 Feature map。 圖像具有一種 “ 靜態(tài)性（ stationarity） ” 的屬性，可以對圖像某一個區(qū)域上的特征取平均值 (或最大值 )。其權(quán)值連接個數(shù)比原來減少了四個數(shù)量級。 卷積神經(jīng)網(wǎng)絡(luò)較一般神經(jīng)網(wǎng)絡(luò)在圖像處理方面有如下優(yōu)點： a）輸入圖像和網(wǎng)絡(luò)的拓撲結(jié)構(gòu)能很好的吻合； b）特征提取和模式分類同時進行，并同時在訓練中產(chǎn)生； c）權(quán)重共享可以減少網(wǎng)絡(luò)的訓練參數(shù)，使神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)變得更簡單，適應(yīng)性更強。這個過程也叫做 Pool。 小結(jié)： 經(jīng)過計算， LeNet5系統(tǒng)總共需要大約 13萬個參數(shù)，這與前面提到的全連接系統(tǒng)每個隱藏層就需要百萬個參數(shù)有著天壤之別，極大地減少了計算量。 Convolutional Neural Networks for P300 Detection with Application to BrainComputer Interfaces P300檢測 ? P300檢測：檢測 P300的響應(yīng)。 輸入正則化 ? 原始信號：由電極采集的 EEG信號 ? 輸入數(shù)據(jù)正
范文總結(jié)相關(guān)推薦
鄂ICP備17016276號-1