深度學習基礎(ppt36頁)-全文預覽
【正文】 個神經(jīng)元，用一個 3*3的卷積核對它進行卷積，得到了如右圖所示的卷積后的 Feature map。它的權值共享網(wǎng)絡結構使之更類似于生物神經(jīng)網(wǎng)絡，降低了網(wǎng)絡模型的復雜度，減少了權值的數(shù)量。 深度學習的訓練過程 ? 自下而上的非監(jiān)督學習：從底層開始，一層一層的往頂層訓練，分別得到各層參數(shù)。 深度學習的訓練方法 與神經(jīng)網(wǎng)絡的異同 深度學習與神經(jīng)網(wǎng)絡的異同 神經(jīng)網(wǎng)絡 深度學習 深度學習與神經(jīng)網(wǎng)絡的異同 ? 相同點 二者均采用分層結構，系統(tǒng)包括輸入層、隱層（多層）、輸出層組成的多層網(wǎng)絡，只有相鄰層節(jié)點之間有連接，同一層以及跨層節(jié)點之間相互無連接，每一層可以看作是一個 logistic 回歸模型。 ? 深度學習的實質 ? 通過構建具有很多隱層的機器學習模型和海量的訓練數(shù)據(jù)，來學習更有用的特征，從而最終提升分類或預測的準確性。典型的淺層學習結構包括傳統(tǒng)隱馬爾科夫模型 (HMM)、條件隨機場 (CRFs)、最大熵模型 (Max Ent)、支持向量機 (SVM)、核回歸及僅含單隱層的多層感知器 (MLP)等。 人腦的視覺機理 1981年的諾貝爾醫(yī)學獎獲得者 David Hubel和 Torsten Wiesel發(fā)現(xiàn)了視覺系統(tǒng)的信息處理機制，他們 發(fā)現(xiàn)了一種被稱為“方向選擇性細胞的神經(jīng)元細胞，當瞳孔發(fā)現(xiàn)了眼前的物體的邊緣，而且這個邊緣指向某個方向時，這種神經(jīng)元細胞就會活躍。 深度學習 ? 自 2023年，深度學習（ Deep Learning）已經(jīng)成為機器學習研究中的一個新興領域，通常也被叫做深層結構學習或分層學習。 特征的自學習 傳統(tǒng)的模式識別方法： 通過傳感器獲取數(shù)據(jù)，然后經(jīng)過預處理、特征提取、特征選擇、再到推理、預測或識別。 ? 機器學習在圖像識別、語音識別、自然語言理解、天氣預測、基因表達、內容推薦等很多方面的發(fā)展還存在著沒有良好解決的問題。而手工選取特征費時費力，需要專業(yè)知識，很大程度上靠經(jīng)驗和運氣，那么機器能不能自動的學習特征呢？深度學習的出現(xiàn)就這個問題提出了一種解決方案。深度學習通過組合低層特征形成更加抽象的高層表示屬性類別或特征，已發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。淺層模型的一個共性是僅含單個將原始輸入信號轉換到特定問題空間特征的簡單結構。 ? 深度學習可以通過學習一種深層非線性網(wǎng)絡結構，實現(xiàn)復雜函數(shù)逼近，表征輸入數(shù)據(jù)分布式表示，并展現(xiàn)了強大的從少數(shù)樣本中集中學習數(shù)據(jù)及本質特征的能力。與人工規(guī)則構造特征的方法相比，利用大數(shù)據(jù)來學習特征，更能夠刻畫數(shù)據(jù)的豐富內在信息。因此深度學習整體上是是一個分層訓練機制。 深度學習的幾種常用模型 ? Auto Encoder（自動編碼器） ? Sparse Coding （稀疏編碼） ? Restricted Boltzmann Machine（限制玻爾茲曼機） ? Deep Belief Networks （深度信任網(wǎng)絡） ? Convolutional Neural Networks （卷積神經(jīng)網(wǎng)絡） Convolutional Neural Networks(CNN) Convolutional Neural Networks(C
范文總結相關推薦
鄂ICP備17016276號-1