【正文】 1．特征提取 圖像經(jīng)過一系列的預處理之后，原來大小不同、分布不規(guī)則的各個字符變成了一個。神經(jīng)網(wǎng)絡字符識別的具體流程圖如 所示 圖 神經(jīng)網(wǎng)絡字符識別流程圖 程序?qū)崿F(xiàn) 系統(tǒng)是對車牌圖像進行了圖像灰度化、二值化、圖像的調(diào) 整、離散噪音點的去除、字符的切分、圖像的縮放、字符的細化、字符的平滑、圖像的求梯度等圖像預處理之后的圖像中的字符進行二次處理。 (4)．作用函數(shù)后縮法 () () 實驗證明，采用此方法，收斂時問平均可 減少 30％ ~50%。 上述問題可以用 δ barδ 方法來克服。另一方面，若在兩次連續(xù)的迭代中，目標函數(shù)對某個權(quán)的導數(shù)具有相反的符號和很大的值，則對應于那個權(quán)學習速率的負調(diào)整也很大。 上式的學習規(guī)則雖然和上述推斷一致，但在應用時還存在 一些潛在的問題。在連續(xù)幾次迭代中，若目標函數(shù)對某個權(quán)導數(shù)的符號相反，則這個權(quán)的學習速率要減小。每一步迭代中，每個學習速率參數(shù)都能改變； (3)．改變學習速率方法 學習速率的局部調(diào)整法基于 如下的幾個直觀的推斷： 為了解決這一問題，人們自然會想到在訓練過程中自動調(diào)整學習速率。 (2)．自適應學習速率 對于一個特定的問題，要選擇適當?shù)膶W習速率并不是一件容易的事情。 附加動量法的實質(zhì)是將最后一次權(quán)值變化的影響，通過一個動量團于來傳遞。 (1)．帶動量因子算法 該方法是在反向傳播法的基礎(chǔ)上在每一個權(quán)值的變化上加上一項正比于前次權(quán)之變化的值，并根據(jù)反向傳播法來產(chǎn)生新的權(quán)值變化。 6. B P 算法力改進 BP 算法改進的主要目標是為了加快訓練速度，避免陷入局部極小值和改善其他能力。通常為了避免這種情況的產(chǎn)生，一是選取較小的初始權(quán)值，二是采用較小的學習速率。可采用變化的學習速率或自適應 的學習速率來加以改進。一般情況下，作為對比，可以同時對兩個不同期望誤差值的網(wǎng)絡進行訓練，最后通過綜合因素的考慮來確定采用其中一個網(wǎng)絡 。為本科畢業(yè)設計 (論文 ) 第 28 頁 了減少尋找 學習速率的訓練次數(shù)以及訓練時間，比較合適的方法是采用變化 的自適應學習速率，使網(wǎng)絡的訓練在不同的階段設置不同大小的學習速率。學習速率的選取范圍是~。大的學習速率可能導致系統(tǒng)的不穩(wěn)定；但小的學習速率導致較長的訓練時間，可能收斂很慢，不過能保證網(wǎng)絡的誤差值不跳出誤差表面的低谷而最終趨于誤差最小值。 另外，威得羅等人在分析 了兩層網(wǎng)絡是如何對一個函數(shù)進行訓練后，提出一種選定初始權(quán)值的策略：選擇權(quán)值的量級為 ，其中 S1 為第一層神經(jīng)元數(shù)，r為輸入個數(shù)。 一般的講，網(wǎng)絡 sl 的選擇原則是：在能夠解決問題的前提下，再加上一個到兩個神經(jīng)元以加快誤差的下降速度即可。 表 21 當 Sl ＝ 2， 3， 4， 5， 6， 20， 25， 30 時的訓練結(jié)果 我們評價一個網(wǎng)絡設計的好壞 ，首先是它的精度，再一個就是訓練時間。選擇誤差目標為 err_goal＝ ，并通過對網(wǎng)絡訓本科畢業(yè)設計 (論文 ) 第 27 頁 練 時所需的循環(huán)次數(shù)和訓練時間的情況來觀察網(wǎng)絡求解效果。所以隱含層神經(jīng)元數(shù)應 ≥ 2。 例：用兩層 BP 網(wǎng)絡實現(xiàn)“異或”功能。 (2)． 隱含層神經(jīng)元數(shù) 網(wǎng)絡訓練精度的提高，可以通過采用一個隱含層，而增加其神經(jīng)元數(shù)的方法來獲得，這在結(jié)構(gòu)實現(xiàn)上，要比增加更多的隱含層要簡單得多。因為能用單層網(wǎng)絡完美解決的問題，用自適應線性網(wǎng)絡也一定能解決，而且自適應線性網(wǎng)絡的運算速度還要快。增加層數(shù)可以進一步的降低誤差，提高精度，但同時 也使網(wǎng)絡復雜化。下面討論各自的選取原則。 本科畢業(yè)設計 (論文 ) 第 26 頁 (3)．解釋 輸出層誤差 ej(j=1S2) 隱含層誤差 ei(i=1n2), 這里，可以認為 ei 是由 ej 加權(quán)組合形成的，由于作用函數(shù)的存在， ej 的等效作用為 δ ji=ejf ?()。 定義 誤差函數(shù)為： () 我們利用剃度下降法求權(quán)值的變化及誤差的反向傳播。 評價的準則是誤差最小，所以網(wǎng)絡訓練的實質(zhì)轉(zhuǎn)化為一個優(yōu)化問題。下面，討論一下本科畢業(yè)設計 (論文 ) 第 25 頁 BP網(wǎng)絡中的權(quán)值確定方法。 2．輸入輸出關(guān)系 IH（輸入層到隱藏層 ） () () HO（隱藏層導輸出層） () 其中，輸人層神經(jīng)元個數(shù)為 n，隱含層神經(jīng)元個數(shù)為 n1，輸出層神經(jīng)元個數(shù)為 S2。 BP 神經(jīng)網(wǎng)絡 BP 網(wǎng)絡是應用中經(jīng)常碰到的，這一節(jié)將詳細介紹一下 BP 網(wǎng)絡。 2． δ 學習規(guī)則 也稱為誤差校正 規(guī)則或者剃度方法，著 名的 BP 方法即為其中一種。這一小節(jié)介紹 M些常用的學習規(guī)則。 (2) 層間無連接； (3) 方向由入到出 . 感知網(wǎng)絡（ Perceptron 即為此），應用最為廣泛。 本科畢業(yè)設計 (論文 ) 第 23 頁 圖 前向網(wǎng)絡結(jié)構(gòu) 其中， x1,x2,? ,xn 是輸入 ,y1,y2,? ,yn 是 輸 出。 圖 人工神經(jīng)網(wǎng)絡基本模型 圖中，輸入經(jīng)過神經(jīng)元之間的連接值和作用函數(shù)，得到輸出，再與目標值相比較 ，根據(jù)其差值信息，反饋回來進行神經(jīng)元之間連接值的調(diào)整。 圖 輻射基函數(shù)（三角波函數(shù) ） 人工神經(jīng)網(wǎng)絡構(gòu)成 人工神經(jīng)網(wǎng)絡有很多構(gòu)成形式，比如基本型、前向型、回歸型以及互聯(lián)型等，下面我們列出一些前兩種神經(jīng)網(wǎng)絡構(gòu)成形式。 圖 S 型函數(shù)（雙曲正切） (4)．輻射基函數(shù) ① 高斯函數(shù) 函數(shù)的形狀見圖 。 ① 對數(shù)正切 y=1/(en+1) () 輸出與輸入成對數(shù)正切關(guān)系，見 圖 。 圖 全線性作用函數(shù) ②．正性型 () 當輸入大于 0 時，輸出與輸入成正比關(guān)系；反之，輸出恒為 0；見圖 。 圖 閾值型作用函數(shù)二 (2)．線性型 也有兩種情況，全線性型和正線性型，如下： ① 全線性 A=f (W*P+b)=W*p+b () 此時輸出與輸入成正比關(guān)系。 圖 閾值型作用函數(shù)一 本科畢業(yè)設計 (論文 ) 第 20 頁 第二種是： () 也就是當輸入大于 0時，輸出為 1；反之為 1。 (1)．閥值型（硬限制型） 有兩種形式，第一種是： () 當 輸入大于 0 時，輸出為 1；輸入小于 0時，輸出為 0。 2．幾種常用的作用函數(shù) 包括閥值型（硬限制型）、線性型、 S 型函數(shù) (Sigmoid)、輻射基函數(shù)等。 經(jīng)過抽象，可得到數(shù)學表達式如下： () () ωi： 數(shù)值 (Weigthts)； θ：閥值 (Threshold)； б (s)：作用函數(shù) (Activated Transfer Function)。見圖 。 1．神經(jīng)元模型 神經(jīng)元是人工神經(jīng)網(wǎng)絡的基本處理單元，它一般是一個多輸入 /多輸出的非線性元件。 神經(jīng)網(wǎng)絡 人工神經(jīng)元 生物神經(jīng)網(wǎng)絡（ BNN）信息傳遞過程為多輸入單輸出（ MISO）系統(tǒng)，信號為脈沖，當脈沖到達突觸前膜時，前膜釋放化學物質(zhì)，結(jié)果在突觸后產(chǎn)生突觸后電位，其大小與脈沖密度有關(guān)（時間總合效應），并且各通道都對電位產(chǎn)生影響（空間總合效應）。但是在描述形狀時，信息并不完全，這些數(shù)值特征與具體的形狀之間并不 — 一對應。奇數(shù)的用人的權(quán)重修正后，邊界的長度檢測時可以彌補圖像離散化的誤差。 從鏈碼可以得出邊界的許多形狀特征： (1) 鏈的長度 () 其中。 (2) 標上起始點的坐標。常用的標識碼有兩種： (1) 加上特殊專用的鏈碼結(jié)束標志。因此，邊界鏈碼具有行進的方向性，在具體應用時必須加以注意。對圖 23(b)所示的一個圖像區(qū)域，若以 S點為出發(fā)點，按逆時針的方向進行，所構(gòu)成的邊界鏈碼應為 556570700122333。再加上一些標識碼，即可構(gòu)成鏈碼。 假設從某一個起點開始，將邊界的走向按上面的編碼方式記錄下來，可形成如下的序列 a1 a2 a3? an?？?慮數(shù)字圖像像素點 (x,y)的一個 8 鄰域，顯然在該點處的邊界只能在以下幾個方向：正東、東北、正北、西北、正面、西南、正南和東南，如圖 (a)所示。適當?shù)厝?{an}的前幾項就可在信息損失較小的前提下描述邊界 r。相應的傅立葉變換為： () () 其中 ， vk是多邊形第 k 個頂點的復數(shù)坐標。 Person 和 Fu 將 r 與下面的復參量對應： u(l)＝ x(l)+iy(l)。 (2) Person— Fu傅立葉描繪子 上面求 an和 bn時，已經(jīng)指出對數(shù)了圖像而言， φ(l)是分段連續(xù)的，即在 (vk1,vk)邊上是常數(shù)，而在端點上是不連續(xù)的，存在跳變。在每邊 vi1vi上， φ(l)為常數(shù)，設 φi1, 定義 , 則： () ()