詳解卷積神經(jīng)網(wǎng)絡(luò)(更新版)
【正文】 CR識別和人臉識別等問題，并推出相應(yīng)的桌面和移動搜索產(chǎn)品， 2022年，深度學(xué)習(xí)模型被成功應(yīng)用于一般圖片的識別和理解。 深度學(xué)習(xí)在圖像識別中的應(yīng)用 ? 2022年 6月， 《 紐約時報 》 披露了 Google Brain項目，吸引了公眾的廣泛關(guān)注。這主要原因是， CNN在大規(guī)模圖像上效果不好，比如像素很多的自然圖片內(nèi)容理解，所以沒有得到計算機視覺領(lǐng)域的足夠重視。使用分布編碼的 RBF更適合該目標(biāo)。這些單元的參數(shù)是人工選取并保持固定的（至少初始時候如此）。 繼續(xù)，取出網(wǎng)絡(luò) 15016中輸入的最后 1個部分的節(jié)點（為 25個），且同時是與隱含層 16個節(jié)點中的第 5個相連的那 25個值， reshape為 5*5大小，用這個 5*5大小的特征 patch去 convolution S2網(wǎng)絡(luò)中的最后 1個特征圖，假設(shè)得到的結(jié)果特征圖為 h3。 ? CNN的結(jié)構(gòu)受到著名的 HubelWiesel生物視覺模型的啟發(fā)，尤其是模擬視覺皮層 V1和 V2層中 Simple Cell和 Complex Cell的行為。 ? 顯然，這些淺層結(jié)構(gòu)算法有很多局限性：在有限樣本和計算單元情況下對復(fù)雜函數(shù)的表示能力有限，針對復(fù)雜分類問題其泛化能力受到一定的制約。 淺層神經(jīng)網(wǎng)絡(luò)的缺陷 ? 于是， 20世紀(jì) 90年代，有更多各式各樣的 淺層模型 相繼被提出，比如只有一層隱層節(jié)點的支撐向量機（ SVM，Support Vector Machine）和 Boosting，以及沒有隱層節(jié)點的最大熵方法（例如 LR， Logistic Regression）等，在很多應(yīng)用領(lǐng)域取代了傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)。 ? CNN是一種帶有卷積結(jié)構(gòu)的深度神經(jīng)網(wǎng)絡(luò)，通常至少有兩個非線性可訓(xùn)練的卷積層，兩個非線性的固定卷積層（又叫 Pooling Laye）和一個全連接層，一共至少 5個隱含層。 同理，取出網(wǎng)絡(luò) 15016中輸入的倒數(shù)第 2個部分的節(jié)點（為 25個），且同時是與隱含層 16個節(jié)點中的第 5個相連的那 25個值， reshape為 5*5大小，用這個5*5大小的特征 patch去 convolution S2網(wǎng)絡(luò)中的倒數(shù)第 2個特征圖，假設(shè)得到的結(jié)果特征圖為 h2。給定一個輸入模式，損失函數(shù)應(yīng)能使得 F6的配置與 RBF參數(shù)向量（即模式的期望分類）足夠接近。另一個原因是分類器不僅用于識別字母，也用于拒絕非字母。 Matlab代碼 ? Output層與 F6層合并實現(xiàn)： – layer 7 [out], type:F – number of feature maps: 10 – number of neurons: 10 – number of connections: 1210 – number of parameters: 1210 – number of trainable parameters: 1210 ? 1210 = (120+1) *10 ? 卷積神經(jīng)網(wǎng)絡(luò)的衰落 ? 在很長時間里， CNN雖然在小規(guī)模的問題上，如手寫數(shù)字，取得過當(dāng)時世界最好結(jié)果，但一直沒有取得巨大成功。如果重建出來的數(shù)據(jù)與原數(shù)據(jù)差異很大，那么進行調(diào)整并再次重建。 ? 這個驚人的結(jié)果為什么在之前沒有發(fā)生？ ? 原因當(dāng)然包括算法的提升，比如 dropout等防止過擬合技術(shù)，但最重要的是， GPU帶來的計算能力提升和更多的訓(xùn)練數(shù)據(jù)。 總結(jié) ? 當(dāng)下研究的熱門是用更深層次的卷積神經(jīng)網(wǎng)絡(luò)模型用于圖像和語
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1