【正文】 s to identify and classify vehicle models has attracted wide attention from both academia and industry. This paper mainly discusses how to use depth learning method to identify and classify vehicle models. First of all, the application background and the basic theory of depth learning are introduced. After that, in order to identify objects, we introduce the mon algorithms, analyze and pare the mon algorithms for image feature extraction, and summarize their performance, accuracy, and the correlation between them. After that, the basic algorithms in target recognition are introduced, and the characteristics and application scenarios of various methods are clarified. Then, we analyze and pare the different feature learning methods of depth neural networks based on the depth neural network, and analyze how to train parameters using the convolutional neural network. We analyze and pare the characteristics of different feature learning methods, select the K mean clustering algorithm as the feature learning method used in this paper, and build a deep learning model by using the structure of convolutional neural network. In this paper, a large amount of measured data is used as simulation data to ensure the validity of the experiment. At the same time, based on the same measured data, we apply the improved SIFT feature matching algorithm and depth learning algorithm for vehicle recognition. Experimental results show that the accuracy of the depth learning algorithm is as high as 90%. Compared with the SIFT matching algorithm, the accuracy of model recognition is greatly improved by depth learning algorithm. Based on the above simulation results, our depth learning algorithm is applicable to the field of vehicle model recognition.目錄第一章 緒論 1 課題研究背景及意義 1 深度學(xué)習(xí)簡介 3 本文主要工作及篇章結(jié)構(gòu) 8第二章 目標識別算法 9. 基于機器學(xué)習(xí)的分類算法 12 . 神經(jīng)網(wǎng)絡(luò)算法 14 . 卷積神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法 20 第三章 車型識別算法 14 SIFT特征匹配算法 16 原始算法 改進算法 深度學(xué)習(xí)算法 16 無監(jiān)督特征學(xué)習(xí) 基于SVM 卷積的網(wǎng)絡(luò)優(yōu)化算法 車型識別在深度學(xué)習(xí)中的建模 深度學(xué)習(xí)算法設(shè)計 第四章 數(shù)值仿真和結(jié)果分析 22 SIFT 特征匹配的車型識別仿真 基于深度算法的車型識別仿真 結(jié)果分析以及算法對比第六章 結(jié)束語 27致 謝 28參考文獻 291. 緒論 . 研究背景及意義 因此，智能交通系統(tǒng)(Intelligent Transportation System，簡稱ITS)[13]是未來交通系統(tǒng)的發(fā)展方向，它是將先進的信息技術(shù)、數(shù)據(jù)通訊傳輸技術(shù)、電子傳感技術(shù)、控制技術(shù)及計算機技術(shù)等有效地集成運用于整個地面交通管理系統(tǒng)而建立的一種在大范圍內(nèi)、全方位發(fā)揮作用的，實時、準確、高效的綜合交通運輸管理系統(tǒng)。浩瀚如海的大數(shù)據(jù)，結(jié)構(gòu)復(fù)雜，種類繁多，單純依靠人力定義的過程無法處理這海量數(shù)據(jù)。深度學(xué)習(xí)的問題最后似乎總能變成優(yōu)化問題，這個時候數(shù)值優(yōu)化的方法就變得尤其重要。在深度學(xué)習(xí)領(lǐng)域變流行之前，如何控制泛化誤差一直是機器學(xué)習(xí)領(lǐng)域的主流問題。表達主要指的是深度學(xué)習(xí)模型和它要解決的問題之間的關(guān)系，比如給出一個設(shè)計好的深度學(xué)習(xí)模型，它適合表達什么樣的問題，以及給定一個問題是否存在一個可以進行表達的深度學(xué)習(xí)模型。我直覺上認為，終極的表達理論就像是拉普拉斯幽靈（Laplace39。在此之后，在深度學(xué)習(xí)框架下，人們還在不斷利用更好的模型和更多的訓(xùn)練數(shù)據(jù)進一步改進結(jié)果。在改改進算法中，我們使用密集采樣保證識別精度。SIFT 特征的設(shè)計及描述方法，并對最常用的機器學(xué)習(xí)分類器做簡單的闡述。在目標分類領(lǐng)域，關(guān)鍵點特征匹配加上 K 近鄰的方式非常常用，效果也不錯，特別是標記樣本數(shù)據(jù)不充足的時候比基于分類的方法可靠性更高，但是其缺點也很明顯，需要存儲大量數(shù)據(jù)，并且計算量也很大。 另一種方法：引入松弛變量解決線性不可分問題，將線性約束變?yōu)椋? (216) 當(dāng)樣本分錯的時候大于 0，分正確怎為 0；優(yōu)化的目標函數(shù)變?yōu)椋? (217) 為懲罰因子，取值越大表明樣本越重要，因此，該樣本被分錯會得到更大的懲罰。根據(jù)激勵函數(shù)的形式不同神經(jīng)元分為：線性神經(jīng)元、二進制閾值神經(jīng)元、修正的線性神經(jīng)元、Sigmoid 函數(shù)神經(jīng)元等，它們的工作原理大同小異，總的歸納起來，神經(jīng)元工作原理如圖 25 所示，首先將所有輸入進行加權(quán)求和，并加上一個偏置并加上一個偏置 b，然后用激勵函數(shù)處理得到該神經(jīng)元的輸出。常見的有監(jiān)督學(xué)習(xí)形式有：回歸和分類。它根據(jù)視覺原理定義局部視覺感受域，這個感受域是圖像的一個個小區(qū)域，這些區(qū)域作為最底層的輸入，然后在多層網(wǎng)絡(luò)中逐層做正向傳遞，得到圖片的特征，在同一層的特征圖中位置不同但網(wǎng)絡(luò)參數(shù)共享，這樣做能減少需要學(xué)習(xí)的參數(shù)數(shù)量，同時能夠使得特征具有變換不變性。同樣進行下采樣將每幅特征圖變?yōu)榇笮?55，即為 S4 的輸出。然后每一層根據(jù)其對應(yīng)的值用下面的式子對各個連接的權(quán)重進行更新，最終訓(xùn)練得到神經(jīng)網(wǎng)絡(luò)。對于深度學(xué)習(xí)算法，我們分別介紹了無監(jiān)督特征學(xué)習(xí)和利用 SVM 分類器進行卷積網(wǎng)絡(luò)優(yōu)化的背景知識，之后對車型識別進行建模，我們的模型可以有效地利用深度學(xué)習(xí)反應(yīng)車載識別的特性。Lowe在1999年所發(fā)表，2004年完善總結(jié)。在現(xiàn)今的電腦硬件速度下和小型的特征數(shù)據(jù)庫條件下，辨識速度可接近即時運算。由于SIFT 特征匹配算法適用于各種場合的車載識別，我們也對 SIFT 特征匹配算法進行了大量實驗，說明基于 SIFT 特征匹配算法在車型識別中存在的問題。 異很大，加上 SIFT 對局部特征描述能力很強所以最后的匹配點明顯減少，只需給出匹配線段的一些角度限制還可以抑制掉更多的誤匹配。我們采用更加密集的抽樣方式，這樣雖然會增加系統(tǒng)的復(fù)雜度，但是相對于傳統(tǒng)SIFT算法的稀疏抽樣，它能夠更加準確地獲得樣本信息，是的車型識別的精度有大量提升。因此，深度學(xué)習(xí)可以利用與車型識別。但是，這些特征無法有效地實現(xiàn)識別分類，尤其是當(dāng)有突發(fā)情況的干擾時，基于k均值聚類快速提取低緯特征的精度非常低。同時，由于非零元素較小，我們不需要遍歷許多情況，所以k均值聚類算法收斂速度快?？紤]到圖像一般是平穩(wěn)的概率分布，因此可以用局部的統(tǒng)計特征去替代具體的特征。 //利用改造的k均值聚類算法 算法學(xué)習(xí)卷積核 P_whiten=ZCA_whiten(P)。??參數(shù)則控制邊緣最大化（margin maximization）和分類誤差最?。╡rror minimization）之間的折中。 . 深度學(xué)習(xí)算法設(shè)計k均值聚類算法會受到輸入變量大小和訓(xùn)練次數(shù)的影響，一般而言，較高的訓(xùn)練次數(shù)和較低的變量大小會使得k均值聚類算法有較高的精度。無監(jiān)督的核心算法是利用 k均值聚類算法 我們通過訓(xùn)練學(xué)習(xí)的卷積核，對學(xué)習(xí)圖像邊緣、角點等低層次特征。識別正確率達到 95%以上的車型，有識別結(jié)果的樣本只是總樣本的一小部分?；谏鲜龇抡娼Y(jié)果，我們的到了深度學(xué)習(xí)算法適用于車輛型號識別領(lǐng)域的結(jié)論。同時，基于相同的實測數(shù)據(jù)我們適用改進SIFT特征匹配算法和深度學(xué)習(xí)算法進行車型識別?；谏鲜龇抡娼Y(jié)果，我們的到了深度學(xué)習(xí)算法適用于車輛型號識別領(lǐng)域的結(jié)論5. 致謝我感謝學(xué)校領(lǐng)導(dǎo)和老師對我的指導(dǎo)，我感謝同學(xué)對我的幫助。首先，介紹了車型識別的應(yīng)用背景和深度學(xué)習(xí)的基本理論。另外從表中可以看出，訓(xùn)練模型消耗時間很長，并且迭代次數(shù)越多時間越長，但是一旦模型訓(xùn)練好之后，測試時間是很短的，測試 2158 張圖片總共耗費時間都在 25 秒左右，平均處理一張圖片 11~12ms。每一個方形小塊就是一個 八十八 的卷積模板，從圖像可以看出，這些模板都是各種各樣的邊緣及角點圖像塊，用這些卷積模板對圖像做卷積則可以在相應(yīng)的邊緣處得到較高的響應(yīng)。因而，實驗步驟可以總結(jié)如下：1） 對歸一化圖片進行ZCA 白化處理； 2） 第一層k均值聚類算法聚類得到88的卷積核，對圖像卷積獲得2555的特征圖； 3） 對各個特征圖進行均值池化，處理后我們可以獲得大小改變的特征圖； 4） 使用 18048 個 22 大小的卷積核，得到 180 個 410 大小的特征圖； 5） 分別對每個特征圖進行22 區(qū)域內(nèi)均值池化得到大小25的特征圖； 6） 所有特征圖拉成1800 維特征向量輸入到 SVM 分類器進行分類。重復(fù)上述的前向和后向傳遞過程，直到結(jié)果收斂。 //進行均值Pooling 降維處理 End