【文章內容簡介】 整權矩陣。這兩個階段的工作一般應受到精度要求的控制，在這里，用式（）計算Ep。作為網(wǎng)絡關于第p個樣本的誤差測度。而將網(wǎng)絡關于整個樣本集的誤差測度定義為：E=∑Ep。 （）如前所述，之所以將此階段稱為向后傳播階段，是對應于輸入信號的正常傳播而言的。因為在開始調整神經元的連接權時，只能求出輸出層的誤差，而其他層的誤差要通過此誤差反向逐層后推才能得到。有時候也稱之為誤差傳播階段。為了更清楚地說明本文所使用的卷積神經網(wǎng)絡的訓練過程，首先假設輸入層、中間層和輸出層的單元數(shù)分別是N、L和M。X=(x0,x1,…,xN)是加到網(wǎng)絡的輸入矢量，H=(h0,h1,…,hL)是中間層輸出矢量，Y=(y0,y1,…,yM)是網(wǎng)絡的實際輸出矢量，并且用D=(d0,d1,…,dM)來表示訓練組中各模式的目標輸出矢量輸出單元i到隱單元j的權值是Vij，而隱單元j到輸出單元k的權值是Wjk。另外用θk和φj來分別表示輸出單元和隱含單元的閾值。于是，中間層各單元的輸出為式（）： （）而輸出層各單元的輸出是式（）： （）其中f(*)是激勵函數(shù)采用S型函數(shù)式（）： （）在上述條件下，網(wǎng)絡的訓練過程如下：1）選定訓練組。從樣本集中分別隨機地選取300個樣本作為訓練組。2）將各權值Vij，Wjk和閾值φj，θk置成小的接近于0的隨機值，并初始化精度控制參數(shù)ε和學習率α。3）從訓練組中取一個輸入模式X加到網(wǎng)絡，并給定它的目標輸出矢量D。4）利用式（）計算出一個中間層輸出矢量H，再用式()計算出網(wǎng)絡的實際輸出矢Y。5）將輸出矢量中的元素yk與目標矢量中的元素dk進行比較，計算出M個輸出誤差項式（）： （） 對中間層的隱單元也計算出L個誤差項式（）： （）6）依次計算出各權值的調整量式（）和式（）： （） （）和閾值的調整量式（）和（）： （） （）7）調整權值式（）和式（）： （） （）調整閾值式（）和（）： （） （）8）當k每經歷1至M后，判斷指標是否滿足精度要求：E≤ε，其中E是總誤差函數(shù)，且。如果不滿足，就返回（3），繼續(xù)迭代。如果滿足就進入下一步。9）訓練結束，將權值和閾值保存在文件中。這時可以認為各個權值已經達穩(wěn)定，分類器形成。再一次進行訓練時，直接從文件導出權值和閾值進行訓練，不需要進行初始化。 卷積神經網(wǎng)絡的優(yōu)點 卷積神經網(wǎng)絡CNN主要用來識別位移、縮放及其他形式扭曲不變性的二維圖形。由于CNN的特征檢測層通過訓練數(shù)據(jù)進行學習，所以在使用CNN時，避免了顯示的特征抽取，而隱式地從訓練數(shù)據(jù)中進行學習；再者由于同一特征映射面上的神經元權值相同，所以網(wǎng)絡可以并行學習，這也是卷積網(wǎng)絡相對于神經元彼此相連網(wǎng)絡的一大優(yōu)勢。卷積神經網(wǎng)絡以其局部權值共享的特殊結構在語音識別和圖像處理方面有著獨特的優(yōu)越性，其布局更接近于實際的生物神經網(wǎng)絡，權值共享降低了網(wǎng)絡的復雜性，特別是多維輸入向量的圖像可以直接輸入網(wǎng)絡這一特點避免了特征提取和分類過程中數(shù)據(jù)重建的復雜度。流的分類方式幾乎都是基于統(tǒng)計特征的，這就意味著在進行分辨前必須提取某些特征。然而，顯式的特征提取并不容易，在一些應用問題中也并非總是可靠的。卷積神經網(wǎng)絡，它避免了顯式的特征取樣，隱式地從訓練數(shù)據(jù)中進行學習。這使得卷積神經網(wǎng)絡明顯有別于其他基于神經網(wǎng)絡的分類器，通過結構重組和減少權值將特征提取功能融合進多層感知器。它可以直接處理灰度圖片，能夠直接用于處理基于圖像的分類。卷積網(wǎng)絡較一般神經網(wǎng)絡在圖像處理方面有如下優(yōu)點： a) 輸入圖像和網(wǎng)絡的拓撲結構能很好的吻合；b) 特征提取和模式分類同時進行，并同時在訓練中產生；c)權重共享可以減少網(wǎng)絡的訓練參數(shù)，使神經網(wǎng)絡結構變得更簡單， 適應性更強。3 卷積神經網(wǎng)絡的應用 物體的形狀是人的視覺系統(tǒng)分析和識別物體的基礎，幾何形狀是物體的本質特征的表現(xiàn)，并具有平移、縮放和旋轉不變等特點，所以在模式識別領域，對于形狀的分析和識別具有十分重要的意義，而二維圖像作為三維圖像的特例以及組成部分，因此二維圖像的識別是三維圖像識別的基礎。物體形狀的識別方法可以歸納為如下兩類，其中，第一類是基于物體邊界形狀的識別，這種邊界的特征主要有周長、角、彎曲度、寬度、高度、直徑等，第二類是基于物體所覆蓋區(qū)域的形狀識別，這種區(qū)域的特征主要有面積、圓度、矩特征等，上述兩類方法都適用于物體形狀的結構或區(qū)域的識別。卷積神經網(wǎng)絡也是一種基于物體邊界形狀的識別，它既可以識別封閉形狀同時對不封閉形狀也有較高的識別率。 圖3 試驗用卷積神經網(wǎng)絡的結構圖 The structure of convolutional neural network圖3 是所用的網(wǎng)絡結構，U0是輸入層，Uc4是識別層。Us為特征提取層，Us1的輸入是光感受器的像素位圖，該層只是提取一些相對簡單的像素特征，隨后幾層的S元提取一些更為復雜的像素特征，隨著層數(shù)的增加，提取的特征也相應遞增；Uc是特征映射層，提取高階特征，提取這些高階特征時不需要提取像簡單特征那樣的精確位置信息。網(wǎng)絡中S元的閉值是預先設定值，訓練時權值的更新基于Fukushima提出的增強型學習規(guī)則，如式()所示，網(wǎng)絡的訓練方式采用的是無監(jiān)督學習方式。圖4與圖5是部分實驗樣本圖 圖4部分訓練樣本圖 Part of the training sample plans圖5部分測試樣本圖 Part of the test sample plans樣本分為三角形，四邊形，八邊形，圓形四類，每類10個共80個樣本，實驗訓練時采用40個樣本，測試時采用剩余的40個樣本，最終的識別結果如表2所示。 表1 訓練后網(wǎng)絡參數(shù)Table1 Network parameters after trainin