【正文】 配算法有如下特點：1.在現今的電腦硬件速度下和小型的特征數據庫條件下，辨識速度可接近即時運算。使用對于光線、噪聲、些微視角改變的容忍度也相當高。SIFTLowe在1999年所發(fā)表，2004年完善總結。transform或SIFT)[22]是一種電腦視覺的算法用來偵測與描述影像中的局部性特征，它在空間尺度中尋找極值點，并提取出其位置、尺度、旋轉不變量，此算法由尺度不變特征轉換(Scaleinvariant在接下來的章節(jié)中，我們詳細介紹 SIFT特征匹配識別算法和深度學習算法在車載識別中的應用。對于深度學習算法，我們分別介紹了無監(jiān)督特征學習和利用 SVM 分類器進行卷積網絡優(yōu)化的背景知識，之后對車型識別進行建模，我們的模型可以有效地利用深度學習反應車載識別的特性。這兩種算法可以有效地識別車型，適用于不同場景。如何使用合適的算法，在保證車型識別的精度時，降低開銷，如計算復雜度，軟硬件實現成本等，是車型識別理論研究和工程實踐的重點。3 車型識別算法 在現實生活中，車型識別有效提高車輛通行效率，增強車輛識別度，減少人工管理及刷卡停車場系統(tǒng)的管理難度，更減少系統(tǒng)誤判，具有高效、安全、便捷等特點。然后每一層根據其對應的值用下面的式子對各個連接的權重進行更新，最終訓練得到神經網絡。這個向前傳遞的過程就叫卷積神經網絡的前向傳遞。假設一個多類問題，類別數為一共有個訓練樣本，選取平方誤差作為代價函數，則系統(tǒng)誤差計算如下： (220) 表示對應的第個樣本在第類上應該對應的標簽，表示系統(tǒng)預測出來的結果。 接下來我們介紹卷積神經網絡訓練過程卷積神經網絡的訓練過程就是要對網絡的各個參數進行優(yōu)化，這個過程包括前向傳遞和后向傳播。同樣進行下采樣將每幅特征圖變?yōu)榇笮?55，即為 S4 的輸出。做完卷積運算就得到了 C1，是 8 幅 2828 的圖片，因為邊長 32 的圖片用邊長 5 的卷積核卷積后圖片大小應為：325+1=，在 C1 的基礎上做 pooling，pooling 有多種方式，常用的有最大/最小值 pooling 和均值 pooling，為了保證整體效果最好，我們采用均值池化。我們接下來展現在卷積神經網絡，我們如何提取特征向量。神經網絡算法應用廣泛，首先我們介紹特征提取算法。它根據視覺原理定義局部視覺感受域，這個感受域是圖像的一個個小區(qū)域，這些區(qū)域作為最底層的輸入，然后在多層網絡中逐層做正向傳遞，得到圖片的特征，在同一層的特征圖中位置不同但網絡參數共享，這樣做能減少需要學習的參數數量，同時能夠使得特征具有變換不變性。因此得到第三類——混合型結構，它是將上述兩種結構用合適的方式組合起來。第二種是區(qū)分型模型，下一章使用的卷積神經網絡就是其代表，其結構不同于第一類模型，只能對后驗概率進行估計，適合應用在識別和分類問題中。 卷積神經網絡算法深度學習有多種學習結構，主要分為三類：第一種是生成型的深度結構，其代表有深度置信網絡（DBN）[21]：它由一系列限制型玻爾茲曼機組成，主要能解決多層神經網絡在學習的過程中：標簽數據需求量大、收斂速度慢和陷入局部極值等問題。常見的有監(jiān)督學習形式有：回歸和分類。 所謂有監(jiān)督學習，是指給定了訓練樣本數據（data）的同時也已知樣本經過學習后的目標值，比如我們進行車輛型號分類的時候給出了一組車輛圖片，也給出每張圖片對應車輛的型號。 深度學習就是利用一些方法去構建一個含有多層隱藏層的人工神經網絡，網絡的每一層都對應著原始數據不同層次的數學抽象，從而達到用特征向量描述圖像的目的。它由一個輸入層（input）、一個隱藏層（hidden）和一個輸出層（output）組成，每一層的節(jié)點激勵值都是由其前一層與之相連的節(jié)點計算得到的。根據激勵函數的形式不同神經元分為：線性神經元、二進制閾值神經元、修正的線性神經元、Sigmoid 函數神經元等，它們的工作原理大同小異，總的歸納起來，神經元工作原理如圖 25 所示，首先將所有輸入進行加權求和，并加上一個偏置并加上一個偏置 b，然后用激勵函數處理得到該神經元的輸出。一般是由一組互相連通的“神經元”組成。本文的車型識別方法也將會用到 SVM 分類器，并將它與卷積神經網絡相結合。第一種是針對多類問題中的每兩個類都訓練一個二類分類器，這樣若是一個 k 類問題則需要訓練個分類器，雖然這種方法簡單易擴展，但類別很多的時候會需要大量分類器，會有不可分的區(qū)域；另一種方法是針對每一個類跟剩下所有其他類間訓練二類分類器，則 k 類問題則需要訓練 k 個分類器，這種方法需要的分類器少，但對每個類的訓練過程復雜類別改變的時候不易擴展，也同樣存在不能區(qū)分的區(qū)域。 另一種方法：引入松弛變量解決線性不可分問題，將線性約束變?yōu)椋? (216) 當樣本分錯的時候大于 0，分正確怎為 0；優(yōu)化的目標函數變?yōu)椋? (217) 為懲罰因子，取值越大表明樣本越重要，因此，該樣本被分錯會得到更大的懲罰。 當樣本線性不可分的時候，有兩種方式解決這個問題，第一種方式是采用非線性的核函數，將低位空間線性不可分的樣本投影到新的空間，使數據在新的空間中線性可分。另外，SVM 還要求最后得到的判決面是最優(yōu)的，即所得判決面兩側離判決面最近的樣本到超平面距離最大。 支撐向量機（Support Vector Machine, SVM）使用線性劃分的方法。在目標分類領域，關鍵點特征匹配加上 K 近鄰的方式非常常用，效果也不錯，特別是標記樣本數據不充足的時候比基于分類的方法可靠性更高，但是其缺點也很明顯，需要存儲大量數據，并且計算量也很大。K 近鄰是從最近鄰算法發(fā)展而來的，在最近鄰算法中，計算測試樣本到所有訓練樣本的距離，找到距離最近的樣本所屬類別作為分類結果。. 基于機器學習的分類算法在本章中，我們介紹機器學習的相關分類算法，主要包括K 近鄰算法（K nearest neighbor，KNN）[1113]和支撐向量機算法（Support Vector Machine, SVM）[1415]。深度學習的提出給神經網絡的學習能力帶來了飛躍。SIFT 特征的設計及描述方法，并對最常用的機器學習分類器做簡單的闡述。物體的輪廓線條是可以描述目標特征的全局特征，但是在尺度變換、旋轉變換之后變化很大，從而表達能力發(fā)生變化。最后，我們對比了這兩種方法的仿真結果。第四章使用計算機進行仿真。在改改進算法中，我們使用密集采樣保證識別精度。我們使用SIFT特征匹配算法和深度學習算法進行車載識別。分析各種特征之間的優(yōu)勢和劣勢，并對主流的粉類算法的思想做了描述和總結，分析了每類算法的優(yōu)點和缺點，這些理論研究，可以幫助我們設計基于卷積神經網絡的車輛識別算法。. 本文主要工作及篇章結構本文研究內容主要包括，1）介紹車輛型號識別現狀和深度學習理論，提出改進方法；2）研究將深度神經網絡引入目標識別和分類問題中的具體方法；3）研究了卷積神經網絡的構建方法和訓練方法；4）提出針對車型識別的卷積神經網絡模型，并通過實驗證實該模型在車輛型號分類上的效果；5）與改進的SIFT特征匹配分類方法進行對比本文分為四個章節(jié)： 第一章主要介紹了車輛檢測和識別的應用背景和目前該領域存在的主要問題和挑戰(zhàn)，闡述了研究車輛型號識別的目的和意義，并對當前現有的智能交通系統(tǒng)做了介紹，比較各種車型分類識別的方法，介紹深度學習在特征提取和文字識別上的發(fā)展狀況，提出車輛分類算法新思路。在此之后，在深度學習框架下，人們還在不斷利用更好的模型和更多的訓練數據進一步改進結果。本質上是把傳統(tǒng)的混合高斯模型（GMM）替換成了深度神經網絡（DNN）模型，但相對識別錯誤率一下降低20%多，這個改進幅度超過了過去很多年的總和。2009年，Hinton把深層神經網絡介紹給做語音識別的學者們。最后，我們介紹深度學習的應用。我直覺上認為，終極的表達理論就像是拉普拉斯幽靈（Laplace39。然而，有關表達（Representation）的理論，除了從認知心理學和神經科學借用的一些啟發(fā)之外，幾乎是空白。這方面出現了許多成功的例子，比如用于視覺和語音識別的卷積神經網絡（Convolutional Neural Network），以及能夠進行自我演繹的深度回歸神經網絡（Recurrent Neural Network）和會自主玩游戲的深度強化學習（Reinforcement Learning）模型。這實際上包括了受限波爾茲曼模型（Restricted Boltzmann Machine），稀疏編碼（Sparse Coding）和自編碼器（Autoencoder）等。表達主要指的是深度學習模型和它要解決的問題之間的關系，比如給出一個設計好的深度學習模型，它適合表達什么樣的問題，以及給定一個問題是否存在一個可以進行表達的深度學習模型。這不應該是泛函理論已經較為發(fā)達的當下出現的狀況，因此下一步如何能夠從理論上分析深度學習模型的泛化能力也會是一個有趣的問題。從理論方面來說，深度學習的有效性使得PAC學習（Probably Approximately Correct Learning）相關的理論倍受質疑。這一方面源于大數據時代樣本巨大的數量，另一方面近年出現了一些新的在實踐上比較有效的控制泛化誤差（Regularization）的方法，比如Dropout和DropConnect，以及非常有效的數據擴增（Data Agumentation）技術。在深度學習領域變流行之前，如何控制泛化誤差一直是機器學習領域的主流問題。一個模型的泛化能力是指它在訓練數據集上的誤差是否能夠接近所有可能測試數據誤差的均值?，F在有一些對深度學習常用模型及其目標函數的特性研究，期待能夠發(fā)現非凸問題中局部最優(yōu)解的相關規(guī)律。此外，深度學習模型優(yōu)化過程的并行化也是一個非常熱的點，近年在分布式系統(tǒng)的會議上相關論文也逐漸增多。深度學習的問題最后似乎總能變成優(yōu)化問題，這個時候數值優(yōu)化的方法就變得尤其重要。除了應用（Applications）之外每個部分又可以分成實踐和理論兩個方面。從而得出更多元更精準的廠牌型號及其他信息。深度學習的實質，就是通過構建具有很多隱層的機器學習模型和海量的訓練數據，來學習更有用的特征，從而最終提升分類或預測的準確性。浩瀚如海的大數據，結構復雜，種類繁多，單純依靠人力定義的過程無法處理這海量數據。針對諸多問題，工業(yè)界一般采用了國際先進的人工智能、計算機視覺、圖像處理、模式識別、大數據訓練、深度學習等等技術來，通過從視頻流中檢測車輛、車頭區(qū)域的定位、變形和傾斜校正、去除運動和成像造成的模糊、車輛特征的定位和識別、海量特征的選取和決策等多個環(huán)節(jié)來實現。機動車廠牌型號識別技術分為多個環(huán)節(jié)，一般是通過對攝像機采集的數字圖像進行去噪、增強、車標定位、特征提取、識別等分析完成。目前國內的車牌識別技術已經日益成熟，隨著智能交通技術應用的不斷加深，工業(yè)界迫切希望提取更多元的車輛信息，除車牌號碼外，還需要車輛的廠牌、型號以及顏色等信息特征。 關鍵詞： k 均值聚類，深度學習，卷積神經網絡，尺度不變特征變換, 支撐向量機 Abstract With the development