詳解卷積神經(jīng)網(wǎng)絡(luò)-資料下載頁(yè)
2024-08-25 00:28本頁(yè)面
【正文】 學(xué)習(xí)教授 Andrew Ng和在大規(guī)模計(jì)算機(jī)系統(tǒng)方面的世界頂尖專(zhuān)家 Jeff Dean共同主導(dǎo)，用 16,000個(gè) CPU Core的并行計(jì)算平臺(tái)去訓(xùn)練含有 10億個(gè)節(jié)點(diǎn)的深度神經(jīng)網(wǎng)絡(luò)（ DNN， Deep Neural Networks），使其能夠自我訓(xùn)練，對(duì) 2萬(wàn)個(gè)不同物體的 1,400萬(wàn)張圖片進(jìn)行辨識(shí)。 ? 在開(kāi)始分析數(shù)據(jù)前，并不需要向系統(tǒng)手工輸入任何諸如“臉、肢體、貓的長(zhǎng)相是什么樣子”這類(lèi)特征。 Jeff Dean說(shuō)：“我們?cè)谟?xùn)練的時(shí)候從來(lái)不會(huì)告訴機(jī)器：‘這是一只貓’（即無(wú)標(biāo)注樣本）。系統(tǒng)其實(shí)是自己發(fā)明或領(lǐng)悟了‘貓’的概念?！? ? 2022年 3月，同樣也是基于深度學(xué)習(xí)方法， Facebook的 DeepFace 項(xiàng)目使得人臉識(shí)別技術(shù)的識(shí)別率已經(jīng)達(dá)到了 %，只比人類(lèi)識(shí)別 % 的正確率略低那么一點(diǎn)點(diǎn)，準(zhǔn)確率幾乎可媲美人類(lèi)。該項(xiàng)目利用了 9 層的神經(jīng)網(wǎng)絡(luò)來(lái)獲得臉部表征，神經(jīng)網(wǎng)絡(luò)處理的參數(shù)高達(dá) 。 ? 這個(gè)驚人的結(jié)果為什么在之前沒(méi)有發(fā)生？ ? 原因當(dāng)然包括算法的提升，比如 dropout等防止過(guò)擬合技術(shù)，但最重要的是， GPU帶來(lái)的計(jì)算能力提升和更多的訓(xùn)練數(shù)據(jù)。百度在 2022年底將深度學(xué)習(xí)技術(shù)成功應(yīng)用于自然圖像 OCR識(shí)別和人臉識(shí)別等問(wèn)題，并推出相應(yīng)的桌面和移動(dòng)搜索產(chǎn)品， 2022年，深度學(xué)習(xí)模型被成功應(yīng)用于一般圖片的識(shí)別和理解。 ? 從百度的經(jīng)驗(yàn)來(lái)看，深度學(xué)習(xí)應(yīng)用于圖像識(shí)別不但大大提升了準(zhǔn)確性，而且避免了人工特征抽取的時(shí)間消耗，從而大大提高了在線計(jì)算效率。可以很有把握地說(shuō)，從現(xiàn)在開(kāi)始，深度學(xué)習(xí)將取代“人工特征 +機(jī)器學(xué)習(xí)”的方法而逐漸成為主流圖像識(shí)別方法。 總結(jié) ? ANN（人工神經(jīng)網(wǎng)絡(luò)）又被稱(chēng)為淺層神經(jīng)網(wǎng)絡(luò)（ shallow neural work，也可能使用了 CNN的方法。 ? CNN（卷積神經(jīng)網(wǎng)絡(luò)）其實(shí)是已經(jīng)很早提出來(lái)的理論，也得到了在字母識(shí)別數(shù)字識(shí)別上的好的運(yùn)用， let5。 ? DNN（深度神經(jīng)網(wǎng)絡(luò)）可近似為深度卷積神經(jīng)網(wǎng)絡(luò)（ CNNs），將卷積神經(jīng)網(wǎng)絡(luò)的深度大大加深。 ? DBN（深度置信網(wǎng)） Deep Belief Net。 總結(jié) ? 當(dāng)下研究的熱門(mén)是用更深層次的卷積神經(jīng)網(wǎng)絡(luò)模型用于圖像和語(yǔ)音識(shí)別。難點(diǎn)在于訓(xùn)練使模型收斂。 ? Hinton在 12年 ImageNet能使錯(cuò)誤率大大降低的關(guān)鍵不僅僅是增加了卷積神經(jīng)網(wǎng)絡(luò)的深度，而之所以能訓(xùn)練深層次的網(wǎng)絡(luò)使其達(dá)到收斂，原因是改進(jìn)了卷積神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方式（ ReLU+Dropout)。 ? Hinton在 2022年發(fā)表的關(guān)于圖像處理的文章： – imageclassificationwithdeepconvolutionalneuralworks 疑點(diǎn)總結(jié) ? 深度置信網(wǎng)（ Deep Belief Net： DBN） ——其由一系列受限波爾茲曼機(jī)（ Restricted Boltzmann Machine： RBM）組成。 ? DBN與 DNN的區(qū)別是什么？ ? 受限玻爾茲曼機(jī)是什么？ ? 深度置信網(wǎng)絡(luò)有一個(gè)非監(jiān)督預(yù)訓(xùn)練的過(guò)程，使用 RBM進(jìn)行權(quán)重偏置的初始化。為 dnn提供較好的初始參數(shù)？ ? BP算法（舊的用于訓(xùn)練的算法）怎么實(shí)現(xiàn)？新的算法又是什么？ ? jzK8UxqyHdh86B2g0DMUZWs1yyJ6EsWM0rzxvVUMoJJ5Xuk23f6nSAa5XLdno_FejJGYYFG5iIzXdV7N3nPRgNTa Caffe ? caffe是一個(gè)清晰，可讀性高，快速的深度學(xué)習(xí)框架。作者是賈揚(yáng)清 ,加州大學(xué)伯克利的 ，先就職于 google。caffe的官網(wǎng)是 ?
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1