【文章內(nèi)容簡介】 實際中獲得的圖片往往帶有一些噪聲， 要求所設(shè)計的識別系統(tǒng)具有一定抗干擾能力，使其具有在一定不規(guī)范書寫的情況下的 仍然能夠識別字母或數(shù)字能力， 這給系統(tǒng)設(shè)計實現(xiàn)帶來很大困難，人工神經(jīng)網(wǎng)絡(luò)技術(shù)的出現(xiàn)和發(fā)展為解決這一問題提供了很好的方法和技術(shù)。人工神經(jīng)網(wǎng)絡(luò)具有一些傳統(tǒng)技術(shù)所沒有的優(yōu)點，例如良好的容錯能力、較強的分類能力、并行處理能力和自學(xué)習(xí)能力。因而，采用神經(jīng)網(wǎng)絡(luò)識別方式是開 始 初 始 化 圖 像 二 值 化 特 征 提 取 讀入測試數(shù) 字圖像 的灰度數(shù)組 計算測試數(shù)字與標(biāo)準(zhǔn)字符庫網(wǎng)格特征向量的距離 返 回 計算測試數(shù)字與標(biāo)準(zhǔn)字符庫交叉點特征向量的距離 計算總的特征向量距離 D并求其最小值 D[i] 最小距離 D[i]對應(yīng)的 i 即為所識別的結(jié)果 一種很好的選擇。而其中的 BP 網(wǎng)絡(luò) 。 BackPropagation Network，反向傳播網(wǎng)絡(luò)）是用在模式識別的典型方法。 BP 網(wǎng)絡(luò)因采用 BP 學(xué)習(xí)算法而得名。 BP 算法工作過程如下 [10]： （ 1）正向傳播：輸入的樣本從輸入層經(jīng)過隱層處理后傳向輸出 層；在逐層處理的過程中，每一層神經(jīng)元的狀態(tài)只對下一層神經(jīng)元的狀態(tài)產(chǎn)生影響。在輸出層把輸出值和期望值進行比較，如果輸出值不等于期望值，則進入反向傳播過程。在正向傳播過程中，網(wǎng)絡(luò)的權(quán)值不變； （ 2）反向傳播：根據(jù)輸出值與期望值的誤差，把誤差信號按原來正向傳播的通路反向傳回，并對每個隱層的各個神經(jīng)元的權(quán)值進行修改，以使誤差信號趨于最小。 圖 神經(jīng)網(wǎng)絡(luò)各層關(guān)系示例 系統(tǒng)所用 BP 網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計 BP網(wǎng)絡(luò)的設(shè)計一般要考慮這幾個問題 [11]： ①網(wǎng)絡(luò)的層數(shù)；②每層的神經(jīng)元數(shù)；③每層的激活函數(shù)；④初值的選擇。 1 網(wǎng)絡(luò)層數(shù)的選擇 理論上已經(jīng)證明：只要在輸入輸出線性神經(jīng)元之間，增加采用 S 型函數(shù)的隱層神經(jīng)元，所構(gòu)成的多層前饋網(wǎng)絡(luò)可以實現(xiàn)任意連續(xù)函數(shù)的逼近。也就是說 BP 網(wǎng)絡(luò)解決非線性問題首選的模型為具有一個隱含層的三層網(wǎng)絡(luò)結(jié)構(gòu)。其拓撲結(jié)構(gòu)如前面的圖 所示。 如果試驗中發(fā)現(xiàn)網(wǎng)絡(luò)的訓(xùn)練精度無法達到預(yù)期要求， 可以考慮適當(dāng)增加隱層神經(jīng)元的個數(shù)，這樣修改之后的網(wǎng)絡(luò)的訓(xùn)練效果要比增加層數(shù)更容易觀察和調(diào)整。 2 每層神經(jīng)元數(shù) （ 1）輸入層節(jié)點個數(shù) 由于 BP 網(wǎng)絡(luò)不能直接處理圖片信息，需要將要識別的圖像進行預(yù)處理。將含有英 文字母和數(shù)字的部分用點陣畫出其圖形，并將其數(shù)字化為 16 16 的 0、 1矩陣，例如數(shù)字 5: 由此數(shù)字 5 的 0、 1 矩陣在 MatLab 中可以表示為一個 256 1 的矩陣，用同樣的方法來定義其余字母以及數(shù)字，最終得到樣本矩陣為： alphabetnum = [Number0,Number1,?? Number9]。 輸入端為其中的每一個列向量，因此輸入端的節(jié)點個數(shù)應(yīng)為 256 個。 （ 2）輸出層節(jié)點個數(shù) 由于最終希望系統(tǒng)可以識別 出 26 個大寫英文字母及 10 個數(shù)字， 但是遇到英文字母只需要識別出 1 即可，所以網(wǎng)絡(luò)的輸出端可以采用一個 11 11 的單位矩陣，當(dāng)輸入一個字母或數(shù)字時，矩陣按 alphabetnum中給定順序在其相應(yīng)位置上輸出為 1，其他位置輸出 0。所以輸出層的節(jié)點選定為 11 個。 （ 3）隱層節(jié)點個數(shù) 關(guān)于隱層神經(jīng)元個數(shù)的選擇 [12]至今沒有很好的理論指導(dǎo)，需要在試驗中反復(fù)比較，對比不同神經(jīng)元個數(shù)的訓(xùn)練結(jié)果，選擇 最優(yōu)的節(jié)點個數(shù)。以下公式（ ）可以作為選擇隱層節(jié)點個數(shù)的參考： a n1 ??? nm （ ） 其中， m為輸出層節(jié)點個數(shù)， n 為輸入層節(jié)點個數(shù)， a 為 [1， 10]之間的常數(shù)。根據(jù)以上公式和輸入、輸出層節(jié)點個數(shù)可知隱層節(jié)點大致可以設(shè)置為 21～ 31 之間的數(shù)，由于隱層的節(jié)點個數(shù)并不是越多越好，隱層節(jié)點數(shù)目太多會導(dǎo)致學(xué)習(xí)時間過長，誤差也不一定最佳，還可能會導(dǎo)致網(wǎng)絡(luò) [5][6]容錯性差、不能識別以前沒有看到的樣本等問題；而 且考慮到要防止有不發(fā)生作用的節(jié)點影響網(wǎng)絡(luò)訓(xùn)練效果， 所以通過多次修改網(wǎng)絡(luò)隱層節(jié)點個數(shù)進行試驗，并記錄其訓(xùn)練循環(huán)次數(shù)。結(jié)果如表 所示 ， 其中 S1 為隱層節(jié)點個數(shù)， Epochs 為訓(xùn)練循環(huán)次數(shù)。 表 S1取不同值的時候循環(huán)次數(shù)比較 S1 Epochs S1 Epochs S1 Epochs S1 Epochs 15 438 20 258 25 272 30 257 16 276 21 274 26 249 31 276 17 272 22 276 27 274 32 272 18 271 23 274 28 269 33 271 19 260 24 262 29 266 34 265 通過 表 可以觀察出，除了當(dāng) S1 為 15 時，網(wǎng)絡(luò)訓(xùn)練需要循環(huán)次數(shù)比較多之外，當(dāng)隱層節(jié)點為表中其他值時網(wǎng)絡(luò)的訓(xùn)練循環(huán)次數(shù)并沒有較大的變化。為了選擇最優(yōu)節(jié)點個數(shù)， 試驗同時還記錄下了 s1 在 16～ 34 之間的誤差曲線圖，由于篇幅限制，只列出其中 4 個結(jié)果。當(dāng) S1=20 時，比 S1=16 的網(wǎng)絡(luò)識別錯誤率有明顯的降低；當(dāng) S1 加大到 26 時網(wǎng)絡(luò)性能進一步提高； 而當(dāng) S 取 30 時，網(wǎng)絡(luò)的性能反倒略有下降，這也很好地說明了，對于多層 BP 網(wǎng)絡(luò)來說， 并不是隱層節(jié)點越多越好的問題。根據(jù)以上試驗結(jié)果，本系統(tǒng)的隱層節(jié)點數(shù)最終確定為 26 個。 每層的激活函數(shù) 選擇采用兩層對數(shù) S 型函數(shù)作為網(wǎng)絡(luò)激活函數(shù)。在 MatLab 中已經(jīng)將其編寫成函數(shù)的形式， 可以調(diào)用函數(shù) [13]這里它的輸出計算公式如公式（ ） og ( * , )A l si g W P B? （ ） 系統(tǒng)最終結(jié)構(gòu) 根據(jù)以上分析，系統(tǒng)的結(jié)構(gòu)設(shè)計為：只有一個隱含層的三層 BP 網(wǎng)絡(luò)， 432 個輸入節(jié)點、 26 個隱層節(jié)點及 36 個輸出節(jié)點，為 4322636 結(jié)構(gòu)。采用（ 0， 1）范圍的對數(shù) S 型激活函數(shù)兩層 logsig/logsig 網(wǎng)絡(luò)。 本章小結(jié) 本章主要介紹了目前印刷體字符識別最常用的兩種方法 —— 模板匹配法和BP 神經(jīng)網(wǎng)絡(luò)法，并且給出了各自的算法，其中，對神經(jīng)網(wǎng)絡(luò)做了詳細的介紹， 給出了在 BP 神經(jīng)網(wǎng)絡(luò)用于印刷體字符識別的時候各層的節(jié)點數(shù)和每層的神經(jīng)元數(shù)目，最后給出了算法流圖。 第三章 基于 BP神經(jīng)網(wǎng)絡(luò)的印刷體數(shù)字檢測與識別算法 本系統(tǒng) 基于 BP 網(wǎng)絡(luò)的算法 ，實現(xiàn)了對印刷體數(shù)字 二值 圖像的檢測與識別，能夠 在二值圖像中實現(xiàn)印刷體數(shù)字的檢測與識別 ，另外能夠?qū)㈦s在數(shù)字中的字母進行 識別 ，識別顯示結(jié)果為 1， 算法中主要 包括神經(jīng)網(wǎng)絡(luò)的訓(xùn) 練， 待識別圖像的預(yù)處理，數(shù)字圖像的剪裁， 識別 四 個部分，下面分別介紹這 四 個部分 。 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練 輸入訓(xùn)練樣本 每個數(shù)字輸入十個訓(xùn)練樣本樣本，從完全沒有噪聲到加入各種噪聲，另外，為了讓程序更加人性化，在訓(xùn)練樣本中加入的字母大小寫的樣本，期望輸出設(shè)為 1，也就是說，識別中遇到字母會自動輸出 1。 對訓(xùn)練樣本的輸入包括三部分 [14]： 1）因為本系統(tǒng)使用 16*16 圖 BMP 圖像進行處理，所以首先要建立大小為16*16，值全為 1 的樣本矩陣，隨后循環(huán)讀入要輸入的樣本圖像。截取樣本圖像經(jīng)過二值化的數(shù)字 部分 2）按照比例把截取到的數(shù)字部分轉(zhuǎn)換為 16*16 的比例的矩陣 。 以數(shù)字 0 為例，輸入的訓(xùn)練樣本如下 3）設(shè)置期望輸出 t ，當(dāng)輸入圖像為 09 時，期望輸出為 09.，當(dāng)輸入圖像為字母時，期望輸出為 1，所以，輸入層節(jié)點數(shù)為 16*16=256，輸出層節(jié)點為 11 個 。 設(shè)定閾值 閾值選取算法分析 以上圖像的二值化過程中，確定閾值是關(guān)鍵，如果能確定一個合適的閾值就可以方便的將圖像分割開來。閾值的選取有許多方法，大多都是借助直方圖來選取的，包括極小值點閾值、最優(yōu)閾值、最大類間方差 法閾值。下面主要介紹一下最大類間方差法確定閾值。 Ostu 提出的 “ 最大類間方差法 ” [15]，算法 簡單、穩(wěn)定有效，一直廣為使用，是一種受到普遍歡迎的閾值選取方法。其基本思路是將直方圖在某一閾值處分割成兩組，當(dāng)被分成的兩組的方差為最大時，得到閾值。因為方差是灰度分布均勻性的一種量度，方差值越大，說明構(gòu)成圖像的兩部分差別越大，當(dāng)部分目標(biāo)錯分為背景或部分背景錯分為目標(biāo)都會導(dǎo)致兩部分差別變小，因此使類間方差最大的分割意味著錯分概率最小。 設(shè)一幅圖像的灰度值為 1~M 級，灰度值為 i 的像素數(shù)為 ni，此時我們得到的 總像素數(shù) ： 1MiiNn??? () 各灰度值出現(xiàn)的概率 ： Nnp ii ? () 圖像總平均灰度級 ： 1 *Mii ip? ?? ? () C0類的平均灰度級為 ： 1( ) *kiik i p? ?? ? () C0類的像素數(shù)為 ： 0 1kiiNn??? () C1類的平均灰度級為 ： ()k??? () C1類的像素數(shù)為 ： 0NN? () C0產(chǎn)生的概率 ： 0 1 ()kii pk?????? () C1產(chǎn)生的概率 ： 1 ( )k?? () C0 組的均值 ： 0 () ()k k?? ?? () C1組的均值 ： 1 [ ( ) ] [1 ( ) ]k k??? ??? ? () 圖像總均值可化為 0 0 1 1? ? ? ? ??? () 類間方差 2 2 2 20 0 1 1 0 1 0( ) ( ) ( ) ( )k? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ?() 可化為 22 [ * ( ) ( ) ]() { ( ) [ 1 ( ) ] }kkk kk? ? ?? ???? ?() k從 1～ M變化，使 )(2 k? 最大的 k*即為所求之 最佳門限。 )(2 k? 稱為目標(biāo) 選擇函數(shù)。本系統(tǒng)中閾值設(shè)定為 ，在閾值設(shè)定完成后，把 訓(xùn)練樣本 中的數(shù)字部分截取出來，再按照比例轉(zhuǎn)化為 16*16的圖像，因為 bp網(wǎng)絡(luò)的輸入節(jié)點為 256個 [12]。 BP 網(wǎng)絡(luò)的構(gòu)造 構(gòu)造 BP網(wǎng)絡(luò) 除了調(diào)用 newff函數(shù)外，還要設(shè)置神經(jīng)網(wǎng)絡(luò)的訓(xùn)練步數(shù)，設(shè)置訓(xùn)練目標(biāo)，設(shè)置學(xué)習(xí)率，程序如下 [16] [17]： 神經(jīng)網(wǎng)絡(luò)構(gòu)造函數(shù)： =newff(pr,[25 1],{39。logsig39。 39。purelin39。}, 39。traingdx39。, 39。learngdm39。)。 設(shè)置的訓(xùn)練步數(shù)誤差范圍： =2500。 =。 =10。 =。 訓(xùn)練得到的參數(shù)如圖 。 圖 訓(xùn)練 BP網(wǎng)絡(luò)得到的參數(shù) 在后面的識別過程中，可以直接載入此神經(jīng)網(wǎng)絡(luò)模型，不用每次都進行訓(xùn)練 。 特征提取算法 特征提取 [18]的目的是從原始數(shù)據(jù)中抽取出用于區(qū)分不同類型的本質(zhì) 特征。無論是識別過程還是學(xué)習(xí)過程，都要對研究對象固有的、本質(zhì)的重要特征或?qū)傩赃M行量測并將結(jié)果數(shù)值化，形成特征矢量。特征向量的提取方法多種多樣，有逐象素特征提取發(fā)，骨架特征提取法，垂直方向數(shù)據(jù)統(tǒng)計特征提取法， 13 點特征提取法，弧度梯度特征提取法等很多種方法，根據(jù)具體情況的不同我們可以來選擇不同的方法。在