深度學(xué)習(xí)基礎(chǔ)(ppt36頁(yè))(參考版)
2025-01-13 05:35本頁(yè)面
【正文】 為了簡(jiǎn)便計(jì)算，我們會(huì)在前向傳播時(shí)保存好相對(duì)應(yīng)的特征圖，那么在反向傳播過(guò)程中就不需要再另外計(jì)算了。其中偏置 basi基 b因?yàn)橹皇且粋€(gè)加性基，所以跟上述卷積層當(dāng)中的計(jì)算一樣。)( 11 llTll ufW ?? ?? ??2023/1/30 （ 4）池化層 對(duì)于池化層來(lái)說(shuō)，輸入和輸出的特征圖數(shù)量是相等的，而不同的是每個(gè)特征圖的大小。這樣一來(lái)，得到的靈敏度圖的大小便和卷積層的特征圖的大小相同了。 nnLL tyuf ????2023/1/30 對(duì)于第 l層，誤差對(duì)于每個(gè)權(quán)值的偏導(dǎo)數(shù)如下： 當(dāng)前層神經(jīng)元的權(quán)值更新值如下： (3)卷積層 當(dāng)接在卷積層的下一層為池化層時(shí)，由于池化層是有下采樣的，池化層和卷積層的神經(jīng)元無(wú)法一一對(duì)應(yīng)。 對(duì)于非輸出層，第 l層靈敏度可以表示為： 而對(duì)于輸出層 L的靈敏度為： )(39。在代價(jià)函數(shù)方面，我們選擇采用平方誤差代價(jià)函數(shù)。 llllll bxWuufx ??? ?1)( ，其中(.)f（ 2） 反向傳播算法 我們假設(shè)訓(xùn)練集有 N個(gè)訓(xùn)練樣本，一共分成 2類(lèi)。 （ 1） 前向傳播 如果用 l來(lái)表示當(dāng)前的網(wǎng)絡(luò)層，那么當(dāng)前網(wǎng)絡(luò)層的輸出為： 其中， 為網(wǎng)絡(luò)的輸出激活函數(shù)。 。 ? 網(wǎng)絡(luò)由五層組成，每一層由一個(gè)戒多個(gè)特征圖組成。 ? 每個(gè)樣本代表一部分經(jīng)過(guò) 650ms頻閃燈后采集的信號(hào)。 是每個(gè)電極采集到的 EEG信號(hào)正則化以后長(zhǎng)度。 20HZ的帶通濾波器處理輸入數(shù)據(jù) ? CNN的輸入： ? 一個(gè) 矩陣。 輸入正則化 ? 原始信號(hào)：由電極采集的 EEG信號(hào) ? 輸入數(shù)據(jù)正則化： EEG信號(hào)樣本中提取子樣本，從而降低數(shù)據(jù)的大小以便分析。 ? 挑戓性： ? 盡管我們可以從實(shí)驗(yàn)中的范例得知 P300的預(yù)期響應(yīng)在什么時(shí)候，但是 P300的響應(yīng)取決于被試者。 Convolutional Neural Networks for P300 Detection with Application to BrainComputer Interfaces P300檢測(cè) ? P300檢測(cè)：檢測(cè) P300的響應(yīng)。這種特有的兩次特征提取結(jié)構(gòu)使得網(wǎng)絡(luò)對(duì)輸入樣本有較高的畸變?nèi)萑棠芰Α? 小結(jié)： 經(jīng)過(guò)計(jì)算， LeNet5系統(tǒng)總共需要大約 13萬(wàn)個(gè)參數(shù)，這與前面提到的全連接系統(tǒng)每個(gè)隱藏層就需要百萬(wàn)個(gè)參數(shù)有著天壤之別，極大地減少了計(jì)算量。具體的組合規(guī)則在 LeNet5 系統(tǒng)中給出了下面的表格： 4. S4 層是在 C3層基礎(chǔ)上進(jìn)行下采樣，前面已述。這個(gè)過(guò)程也叫做 Pool。這里設(shè)定有 6個(gè)不同的 C1層，每一個(gè) C1層內(nèi)的權(quán)值是相同的。 卷積神經(jīng)網(wǎng)絡(luò)較一般神經(jīng)網(wǎng)絡(luò)在圖像處理方面有如下優(yōu)點(diǎn)： a）輸入圖像和網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)能很好的吻合； b）特征提取和模式分類(lèi)同時(shí)進(jìn)行，并同時(shí)在訓(xùn)練中產(chǎn)生；
范文總結(jié)相關(guān)推薦
鄂ICP備17016276號(hào)-1