一文讀懂卷積神經(jīng)網(wǎng)絡(luò)cnn(完整版)
【正文】 測層通過訓(xùn)練數(shù)據(jù)進行學(xué)習(xí)，所以在使用CNN時，避免了顯示的特征抽取，而隱式地從訓(xùn)練數(shù)據(jù)中進行學(xué)習(xí)；再者由于同一特征映射面上的神經(jīng)元權(quán)值相同，所以網(wǎng)絡(luò)可以并行學(xué)習(xí)，這也是卷積網(wǎng)絡(luò)相對于神經(jīng)元彼此相連網(wǎng)絡(luò)的一大優(yōu)勢。隨后，更多的科研工作者對該網(wǎng)絡(luò)進行了改進。第二點，Deep Learning強大的地方就是可以利用網(wǎng)絡(luò)中間某一層的輸出當(dāng)作是數(shù)據(jù)的另一種表達，從而可以將其認為是經(jīng)過網(wǎng)絡(luò)學(xué)習(xí)到的特征。20世紀(jì)60年代，Hubel和Wiesel在研究貓腦皮層中用于局部敏感和方向選擇的神經(jīng)元時發(fā)現(xiàn)其獨特的網(wǎng)絡(luò)結(jié)構(gòu)可以有效地降低反饋神經(jīng)網(wǎng)絡(luò)的復(fù)雜性，繼而提出了卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks簡稱CNN）。此外，由于一個映射面上的神經(jīng)元共享權(quán)值，因而減少了網(wǎng)絡(luò)自由參數(shù)的個數(shù)。當(dāng)將多個單元組合起來并具有分層結(jié)構(gòu)時，就形成了神經(jīng)網(wǎng)絡(luò)模型。就跟辟邪劍譜似的，普通人練得很挫，一旦自宮后內(nèi)力變強劍法變快，就變的很牛了。而那1010個像素值對應(yīng)的1010個參數(shù)，其實就相當(dāng)于卷積操作。如下圖所示，展示了一個33的卷積核在55的圖像上做卷積的過程。下圖展示了在四個通道上的卷積操作，有兩個卷積核，生成兩個通道。因此，為了描述大的圖像，一個很自然的想法就是對不同位置的特征進行聚合統(tǒng)計，例如，人們可以計算圖像一個區(qū)域上的某個特定特征的平均值 (或最大值)?？梢?，深度學(xué)習(xí)的提升空間還很巨大。第二層卷積：33卷積核256個，每個GPU上128個。第一層全連接：4096維，將第五層maxpooling的輸出連接成為一個一維向量，作為該層的輸入。DeepID網(wǎng)絡(luò)結(jié)構(gòu)DeepID網(wǎng)絡(luò)結(jié)構(gòu)是香港中文大學(xué)的Sun Yi開發(fā)出來用來學(xué)習(xí)人臉特征的卷積神經(jīng)網(wǎng)絡(luò)。第三層卷積：與上一層是全連接，3*3的卷積核384個。需要注意的是，該模型采用了2GPU并行結(jié)構(gòu)，即第5卷積層都是將模型參數(shù)分為2部分進行訓(xùn)練的。這種聚合的操作就叫做池化 (pooling)，有時也稱為平均池化或者最大池化 (取決于計算池化的方法)。所以，在上圖由4個通道卷積得到2個通道的過程中，參數(shù)的數(shù)目為4222個，其中4表示4個通道，第一個2表示生成2個通道，最后的22表示卷積核
高考資料相關(guān)推薦
鄂ICP備17016276號-1