【正文】 s information processing style, its essence is transformation through the work and dynamic behavior is a parallel distributed information processing, and to varying degrees and levels mimic brain information processing sys。 output unit for processing the results to achieve the output。如果能克服這些問題，將大大提高此程序的適應能力和識別率。 例如 本設計對訓練樣本的依賴性很大，對于傾斜字符或者不同字體的字符來說識別率不高，此時可以通過加大訓練樣本的數(shù)目來解決，并考慮各種傾斜角度的以及其他幾種常用的字體，那么該 BP 網(wǎng)絡將會有更加普遍的適應性。 通過測試表明， 經(jīng)過訓練的 BP 神經(jīng)網(wǎng)絡 能實現(xiàn) 對待識別圖像中數(shù)字的辨認 功能 ， 可以 提供智能化簡潔化的識別系統(tǒng)， 節(jié)省大量的人力物力，操作簡單、結果明顯 。 主要完成的內容包括 ： 查閱大量資料，了解了 BP 神經(jīng)網(wǎng)絡的算法及訓練過程 ，綜合分析了 文字識別系統(tǒng)在國內的 研究現(xiàn)狀。如果識別的對象發(fā)生了較大的變化而難以識別的時候，就需要重新制作訓練樣本進行識別。 北京理工大學 2020 屆本科生畢業(yè)設計（論文） 27 圖 49 打開一個測試樣本 圖 410 識別結果 至此，已完整的運行了一次由訓練到識別的過程。常用的菜單也已經(jīng)集成到了工具欄上，如打開、保存、重新加載、訓練網(wǎng)絡、功能識別。 圖 47 訓練結果 程序的運行 程序的主界面如圖 48 所示。在訓練之前，程序要求輸入訓練參數(shù)，如圖 46 所示。這里采用了含有 40 個字符的數(shù)據(jù)圖像作為訓練樣本，圖像包含了 Arial 字體、斜體、 粗體和 10 個傾斜而數(shù)字，訓練樣本如圖 45 所示。原因是這里采用的激活函數(shù) S 型函數(shù)的輸出永遠不能是 0 或 1，而只能是趨近。如此，可以確定輸出層神經(jīng)元的數(shù)目為 4，即為輸出向量的維數(shù)。即如何對目標期望輸出進行編碼。本設計中，使用 10個隱層神經(jīng)元。所以可以確定，輸入層的節(jié)點數(shù)為 128。本設計采用 168? 歸一化，特征提取采用的是逐個像素特征提取法，也即直接利用每個點的像 素值來作為特征。 樣本訓練 開始 字符特征輸入 結束 識別并給出結果 識別 待識別圖片 樣本訓練圖片 數(shù)字特征提取 BP 神經(jīng)網(wǎng)絡 結果： 0,1,2,3,4,5… ,9 北京理工大學 2020 屆本科生畢業(yè)設計（論文） 24 BP 網(wǎng)絡應用的第一步是用一支訓練樣本來訓練網(wǎng)絡。 BP 網(wǎng)絡應用流程如圖 44 所示。假設設定的字符標準歸一化的高度為 8，寬度為 16，那么對于每個字符就有 128 維的特征。 圖 43 神經(jīng)網(wǎng)絡數(shù)字識別流程圖 BP 網(wǎng)絡的重要的用途 之一 就是用于模式識別，任務是要設計并訓練出一個可行、高效的 BP 網(wǎng)絡， 用來準確識別出 09 共 10 個數(shù)字。預處理過程中的每一步已在第三章中詳細介紹。其結果利用 BP 網(wǎng)絡進行識別。 圖 41 程序總體流程 基于神經(jīng)網(wǎng)絡的數(shù)字識別的基本過程 整個系統(tǒng)的程序實現(xiàn)分為圖像預處理和神經(jīng)網(wǎng)絡識別兩大模塊。 （ 5）訓練結束進入識別部分。 （ 4）進入 BP 網(wǎng)絡訓練部分。接受用戶輸入。 具體流程如下： （ 1）打開含字符的圖像文件（訓練的時候為訓練樣本圖片，識別的時候為含有未知數(shù)字的測試圖片），并將文件中的信息讀入內存。 第四章 基于人工神經(jīng)網(wǎng)絡的數(shù)字識別 系統(tǒng)框架 系統(tǒng)在實現(xiàn)的過程當中，分成兩大部分，即圖像預處理模塊和神經(jīng)網(wǎng)絡訓練模塊以及 識別模塊。 圖 317 13點特征提取法 具體流程如下圖所示。 圖 316 13點特征提取法 然后統(tǒng)計水平方向中間兩列和豎直方向中間兩列的黑色像素點的個數(shù)作為4 個特征，最后統(tǒng)計所有黑色像素點的個數(shù)作為第 13 個特征。 所謂 13 點特征提取法，即從每個字符中提取 13 個特征點。將提取出 的 訓練樣本中的特征向量帶入 BP 網(wǎng)絡之中，就可以對網(wǎng)絡進行訓練，提取出待識別的樣本中的特征 向量帶入到訓練好的 BP 網(wǎng)絡中，就可以對字符進行識別。 圖 315 緊縮重排后的效果 北京理工大學 2020 屆本科生畢業(yè)設計（論文） 20 特征提取 經(jīng)過上面一系列的變換，原來大小不同，分布不規(guī)律的各個字符變成了大小相同，排列整齊的字符。具體流程如下圖所示。 圖 311 輸入歸一化尺寸信息時的對話框 歸一化流程圖如下圖所示。這里歸一化寬度設為 8，高度設為 16。在得到寬度之后，把新圖像里面的點按照差值的方法映射到原圖像中。標準化圖像就是把原來各尺寸大小不相同的字符統(tǒng)一到同一尺寸，本設計統(tǒng)一到同一高度，然后根據(jù)設定的高度來調整字符寬度。此過程的流程圖如下圖所示。 第三步，在已知的每個字符比較精確的寬度范圍內，按照第一步的方法，分別進行自上而下以及自下而上的逐行掃描來獲取每個字符精確的高度范圍。按照上述的方法重復一直掃描直至圖像的最右端。具體過程如下： 第一步，先自下向上對圖像進行逐個掃描，直至遇到第一個黑色的像素點，記錄下來，隨后再反過來由上向下對圖像進行逐行掃描，直至找到第一個黑色的像素，這樣就找到圖像大概的高度范圍。 圖 38 經(jīng)過傾斜度調整后的圖像 字符分割 系統(tǒng)讀取進來的圖像一般會包含不止一個數(shù)字，識別的時候只能根據(jù)每一個字符的特征獨立進行判斷，因此需要進行字符分割這一步驟。具體說來，首先要分別計算機圖像左半邊和右半邊的平均高度，然后求得斜率，根據(jù)斜率重新編輯圖像，里面包含了一北京理工大學 2020 屆本科生畢業(yè)設計（論文） 16 個從新圖像到舊圖像的 像素映射。調整的算法主要是依據(jù)圖像左右兩邊的黑色像素的平均高度來確定。具體流程如下圖所示。具體算法如下：首先掃描整個圖像，當發(fā)現(xiàn)單個黑色點的時候，就考察和該黑色點間接或直接相連的黑色點的個數(shù)有多少，如果大于一定的數(shù)值，那就說明該點不是離散點，否則就屬于離散點，應當把它去掉。但這些算法不適合處理數(shù) 字字符這樣目標細長的圖像，因為在濾波的過程中很可能會去除掉字符本身的像素。 圖 35 梯度銳化后的圖像 去除離散的雜點噪聲 圖像可能會在掃描或者傳送過程中夾帶了一些噪聲，去除噪聲在圖像處理中是一種常用的方法。 定義如下：設原始圖像上的點為 ),( yxf ,定義 ),( yxf 在 ),( yx 處的梯度矢量為： |)1,(),(||),1(),(|)],([ ?????? jifjifjifiifjifG 設一個判定閾值為 ? ，變化后的圖像 ),( yxg 定義為： 北京理工大學 2020 屆本科生畢業(yè)設計（論文） 14 ? ),( )],([),( yxf yxfGyxg ? ????)],([ )],([ yxfG yxfG 通過公式可以看出梯度銳化可以讓模糊的邊緣變得清楚，同時選擇合適的閾值還可以減弱和消除一些細小噪聲。圖像銳化的方法很多，這里采用的方法屬于微分法。 北京理工大學 2020 屆本科生畢業(yè)設計（論文） 13 確 定 像 素 點 的 灰 度 值開 始灰 度 值 是 否 大 于 2 2 0 ？輸 出 白 色 點 輸 出 黑 色 點結 束進 行 圖 像 掃 描Y N 圖 33 二值化流程圖 圖 34 二值化后的圖片 圖像的梯度銳化 由于需要處理的圖像很多是由印刷出版物上掃描得來的，所以經(jīng)常會有字體模糊的情況，給識別圖像帶來一定的困難。因為考慮到所要處理的圖像大多是從印刷物上掃描得來的，底色多為白色，所以將這個閾值固定為 220。本設計中劃分 為黑色和白色。為了更加便利的進行圖像處理，還需要做二值化處理。 圖 32 經(jīng)過灰度處理的文件 灰度圖像二值化 進行灰度化的處理后，圖像的每個像素均只有一個值，即像素的灰度值。圖像的灰度化有各種不同的算法，比較直接的一種就是給像素的 RGB 值各自一個加權系數(shù)，然后求和，同時還要對調色板表項進行相應的處理。灰度圖像沒有顏色的差異，只有亮度的不同。所謂灰度圖像就是圖像的每一個像素 R， G， B 分量的值是相等的。這些技術包括，圖像的灰度化、圖像的二值化、圖像的梯度銳化、去除離散的雜點噪聲、圖像整體傾斜度的調整、字符分割、圖像的歸一化處理、圖像的緊縮重排等。本章主要介紹的是圖像預處理過程。若 E≤ ?E (神經(jīng)網(wǎng)絡的平均誤差容限 )，或者學習過程達到了指定的迭代次數(shù)，則學習過程結束，否則轉向第三步，準備進行學習過程的下一次迭代。 ???Kp pEKE 11 第七步，計算神經(jīng)網(wǎng)絡的輸出誤差 ???Kp pEKE 11。i? 分別是隱層第 i 個節(jié)點的輸出值和偏差信號， ? 和 ? 分別是學習效率和沖量參數(shù)。 tWij? 和 )(39。 ?? tWij 和 )1(39。 tWij 和 )(39。 ?tWij 表示當前隱層第 i 個節(jié)點關于輸入層第 j 個節(jié)點的連接權值， )1(39。 ????? ttt iii ??? 。39。39。 ????? tWtWtW ijijij , )()1( 39。39。39。 對 于 隱 層 的 第 i 個 節(jié) 點 來 說 (i=1,2,…, hN ), )()1( 39。對于輸出層的第 i 個 節(jié) 點 來 說 (i=1,2,…, oN ) ，)()1( tWOtW ijiiij ???????? ??? ， )1()()1( ????? tWtWtW ijijij ，)()1( tt iii ????? ??????? , )1()()1( ????? ttt iii ??? 。其中 ， iH 表示隱 層的第 i 個節(jié)點的輸出值， jiW 表示輸出層的第 j 個節(jié)點關于隱層的第 i 個節(jié)點的連接權值， j? 表示輸出層的第 j 個節(jié)點的偏差信號。對于隱層的第 i 個節(jié)點來說(i=1,2,? , hN )，其偏差信號為 ????oNj jjiiii WHH 139。對于輸出層的第 i 個節(jié)點來說 (i=1,2,…, oN )，其偏差信號為 ))(1( iiiii OYOO ???? 。根據(jù)當前訓練樣例所產生的輸出值，反向逐層計算網(wǎng)絡各節(jié)點的偏差信號δ，并根據(jù)這個偏差信號來調整網(wǎng)絡各節(jié)點的連接權值和閾值。設當前的訓練樣例的實際輸出向量為 ( 1O ， 2O ， … ，NoO ) ，期望輸出向量為 ( 1Y ， 2Y ， … ， NoY ) ，則當前的訓練樣例的輸出誤差為?? ?? oNi iip OYE 1 2)(21 。而式中的函數(shù) xexf ??? 1 1)( ，為 S 型激發(fā)函數(shù)。i? 是隱層第 i 個節(jié)點的閾值。其 中， 39。39。根據(jù)當前的訓練樣例，逐層正向計算網(wǎng)絡各層節(jié)點的實際輸出。當對訓練樣例集中所有的樣例都進行了第四步～第六步的處理之后，就完成了學習過程的一次迭代。對訓練樣例集當中的每個訓練樣例，進行第四步～第六步處理。對于輸出層的第 j 個節(jié)點來說 (j=1,2,…, oN )，它具有 hN 個連接權值1jW , 2jW ,…, hjNW ，這 hN 個連接權值分別對應于隱層的 hN 個節(jié)點；此外，它還具有自己的閾值 j? 。iiNW ，這 iN 個連接權值分別對應于輸入層的 iN 個節(jié)點；此外，它還具有自己的閾值 39。1iW , 39。此處，為了表示方便，我們分別用 iN , hN , oN 來表示輸入層，隱層和輸出層的節(jié)點數(shù)目。 。隱層節(jié)點數(shù)目的選擇沒有確定的指導原則，是帶有嘗試性的。此處為了簡便起見，我們以最基本的 BP 神經(jīng)網(wǎng)絡為例來進行說明。同時，還要確定神經(jīng)網(wǎng)絡的平均誤差容限。 北京理工大學 2020 屆本科生畢業(yè)設計（論文） 8 BP 網(wǎng)絡學習的整體步驟 第一步 .設計與問題特征相適應的網(wǎng)絡結構，包括網(wǎng)絡的層數(shù)和網(wǎng)絡各層的節(jié)點數(shù)。 (5).從輸出層反向計算到第一個隱層，并按照能使誤差向減小最快的方向發(fā) 展的原則，調整網(wǎng)絡中各神經(jīng)元的連接權值。 (3).分別計算經(jīng)過神經(jīng)元處理后的各層節(jié)點的輸出。一般來說，神經(jīng)網(wǎng)絡的輸入信息是一個向量 ( 1X ， 2X ， … ， NiX )，我們稱之為輸入向量， 神經(jīng)網(wǎng)絡的輸出信息也是一個向量 ( 1Y ， 2Y ， … ， NoY )，我們稱之為輸出向量。網(wǎng)絡的訓練過程結束之后，在用于求解實際問題時就只須使用正向傳播，而不需要再進行反向傳播了。反向傳播把誤差信號沿原連接路徑返回，并按照一定的原則對各層神經(jīng)元的連接權值進行適當修改，直至第一個隱層，這時再開始進行正向傳播，利用剛才的輸入信息進行正向網(wǎng)絡計算，如果網(wǎng)絡的輸出達到了誤差要求，則學習過程結束，如果網(wǎng)絡的輸出達不到誤差要求，則再進行反向 傳播的連接權值調整。在正向