深度學(xué)習(xí)基礎(chǔ)(ppt36頁)(已改無錯字)
2023-01-30 05:35:38 本頁面
【正文】 層的大小是 28x28。這里設(shè)定有 6個(gè)不同的 C1層，每一個(gè) C1層內(nèi)的權(quán)值是相同的。 2. S2層是一個(gè)下采樣層，由 4個(gè)點(diǎn)下采樣為 1個(gè)點(diǎn)，也就是 4個(gè)數(shù)的加權(quán)平均，加權(quán)系數(shù)也需要通過學(xué)習(xí)得到。這個(gè)過程也叫做 Pool。 C3層的大小為 10x10，不過， C3層有 16個(gè) 10x10網(wǎng)絡(luò) ! 我們只需要按照一定的規(guī)則來組合 S2的特征圖。具體的組合規(guī)則在 LeNet5 系統(tǒng)中給出了下面的表格： 4. S4 層是在 C3層基礎(chǔ)上進(jìn)行下采樣，前面已述。在后面的層中每一層節(jié)點(diǎn)個(gè)數(shù)比較少，都是全連接層，這里不再贅述。 小結(jié)： 經(jīng)過計(jì)算， LeNet5系統(tǒng)總共需要大約 13萬個(gè)參數(shù)，這與前面提到的全連接系統(tǒng)每個(gè)隱藏層就需要百萬個(gè)參數(shù)有著天壤之別，極大地減少了計(jì)算量。 在以上的識別系統(tǒng)中，每個(gè)特征圖提取后都緊跟著一個(gè)用來求局部平均與二次提取的亞取樣層。這種特有的兩次特征提取結(jié)構(gòu)使得網(wǎng)絡(luò)對輸入樣本有較高的畸變?nèi)萑棠芰?。也就是說，卷積神經(jīng)網(wǎng)絡(luò)通過局部感受野、共享權(quán)值和亞取樣來保證圖像對位移、縮放、扭曲的魯棒性。 Convolutional Neural Networks for P300 Detection with Application to BrainComputer Interfaces P300檢測 ? P300檢測：檢測 P300的響應(yīng)。 ? 二分類：信號呈一個(gè) P300波形，則認(rèn)為檢測到；否則，檢測丌到。 ? 挑戓性： ? 盡管我們可以從實(shí)驗(yàn)中的范例得知 P300的預(yù)期響應(yīng)在什么時(shí)候，但是 P300的響應(yīng)取決于被試者。 ? 實(shí)際上，即使一個(gè) P300響應(yīng)可以被預(yù)測為在一個(gè)特定的時(shí)間點(diǎn)，但是被試者很可能丌會在像人工產(chǎn)品一樣在正確的時(shí)刻產(chǎn)生 P300響應(yīng)。 輸入正則化 ? 原始信號：由電極采集的 EEG信號 ? 輸入數(shù)據(jù)正則化： EEG信號樣本中提取子樣本，從而降低數(shù)據(jù)的大小以便分析。等同于把信號用 120HZ的抽樣率采樣。 20HZ的帶通濾波器處理輸入數(shù)據(jù) ? CNN的輸入： ? 一個(gè) 矩陣。其中 是我們采集 EEG信號時(shí)所有的電極的數(shù)量。 是每個(gè)電極采集到的 EEG信號正則化以后長度。我們令 。 ? 每個(gè)樣本代表一部分經(jīng)過 650ms頻閃燈后采集的信號。 神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu) ? 網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)是分類器的關(guān)鍵特征。 ? 網(wǎng)絡(luò)由五層組成，每一層由一個(gè)戒多個(gè)特征圖組成。一個(gè)特征圖代表一層的本質(zhì)，含有一個(gè)特殊的語義： 。 。 神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu) CNN的學(xué)習(xí)規(guī)律 2023/1/30 在卷積神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程當(dāng)中，主要運(yùn)用前向傳播和反向傳播兩種學(xué)習(xí)法則來優(yōu)化權(quán)值，學(xué)習(xí)到一個(gè)最優(yōu)的濾波器來提取特征。 （ 1） 前向傳播 如果用 l來表示當(dāng)前的網(wǎng)絡(luò)層，那么當(dāng)前網(wǎng)絡(luò)層的輸出為： 其中， 為網(wǎng)絡(luò)的輸出激活函數(shù)。輸出激活函數(shù)一般選用 sigmoid函數(shù)或者選用雙曲
范文總結(jié)相關(guān)推薦
鄂ICP備17016276號-1