【正文】 imshow(I)。39。 imshow(imgRTE) imgBW = im2bw(imgLGE, )。)。 imshow(imgCrop) imgLGE = imresize(imgCrop, 5, 39。 imshow(img) imgGray = rgb2gray(img)。39。 另外，還要感謝四年來培養(yǎng)我的各位老師，感謝和我朝夕相處了四年的同學，我的每一次成功都離不開你們的關心和幫助。 從課題的選擇到項目的最終完成， 李老師都給了我很大的幫助，尤其是在最后的定稿階段，李老師不斷的給我提出寶貴的修改意見，才使得我這篇論文得以順利完成。 在論文寫作過程中，得到了 李利明 老師的親切關懷和 悉心 指導。 基 于 神經(jīng)網(wǎng)絡的手寫數(shù)字系統(tǒng)的設計與實現(xiàn) 參考文獻 28 參 考 文 獻 [1]Yang J M， Kao C Y， A robust evolutionary algorithm for training neural works. Neural Computing and Application[M]， 214~230. [2] Ciaccio E. J., Dunn , Akay M, Binominal Pattern Recognition and interpretation Systems (Review of Applications), IEEE Engineering in Medicine and Biology Magazine[M]， 1994, 13 .2:269~ 273, 283. [3] 吳佑壽，丁曉青 . 漢字識別原理方法與實現(xiàn) [M].北京：高等教育出版社，~121. [4] 張立明 .人工神經(jīng)網(wǎng)絡的模型及其應用 [M].上海：復旦大學出版社，~170. [5] 蔡元明 .神經(jīng)網(wǎng)絡識別手寫體數(shù)字預處理后樣本空間凸集性研究 ，中國科學院半導體所碩士學位論文 [D].保存地點：華中科技大 學圖書館， . [6]崔 屹 .圖像處理與分析 數(shù)學形態(tài)學方法及應用 [M].北京 : 科學出版社 ,2020. [7] 金忠等 .手寫體數(shù)字有效鑒別特征的抽取與識別，計算機研究與發(fā)展， 36(12)，1999， 1484~1489. [8] 飛思科技產(chǎn)品研發(fā)中心 . 輔助圖像處理 .北京：電子工業(yè)出版社，~220. [9] 飛思科技產(chǎn)品研發(fā)中心 . 輔助小波分析與應用 .北京：電子工業(yè)出版社， 2020. [10] 胡小峰 .四維科技 .Visual C++/MATLAB 圖像處理與識別實用案例精選 .北京 :人民郵電出版社 ,2020:32~35. [11] MATLAB,信號處理的小波導引 .北京：機械工業(yè)出版社， 2020： 58~59. [12] 孫即祥等 .模式識別中的特征提取與計算機視覺不變量 .國防工業(yè)出版社，： 115~140. [13]黃心嘩 ,王茂祥 ,富煌清 ,陸估人 .基于結(jié)構(gòu)分析的手寫體數(shù)字識別算法 .電子工程師 [J]， 1999 年第 11 期 . [14] Bernhard R. C， Shi Y， Evolving artificial neural works， In: Proc of 1998 Int39。本文的手寫體數(shù)字識別正確率為 71%。還介紹了一種 BP 神經(jīng)網(wǎng)絡的改進訓 練算法，利用 MATLAB 神經(jīng)網(wǎng)絡工具箱提供的豐富的訓練函數(shù)，對幾種典型的 BP 網(wǎng)絡訓練算法的訓練速度進行了比較。為了提高識別率和可靠性，除了要增強對噪聲的濾除能力外，還要增大知識庫，以解決細化中出現(xiàn)的結(jié)構(gòu)畸變問題，這些都有待我們進一步的研究。 本文對手寫體數(shù)字識別的基本原理及方法作了介紹，設計的時候使用 BP 神經(jīng)網(wǎng)絡進行學習和訓練，并用 MATLAB 工具實現(xiàn)了自由手寫體數(shù)字識別系統(tǒng)。所有測試樣本的平均識別正確率為 71%。 基于 神經(jīng)網(wǎng)絡的手寫數(shù)字識別系統(tǒng)的設計與實現(xiàn) 第五章 系統(tǒng)的實現(xiàn)與結(jié)果分析 26 圖 識別出數(shù)字 5 實驗數(shù)據(jù)及結(jié)果分析 實驗數(shù)據(jù)部分綜合了十張不同的測試圖像 ,每張圖像分別有五個 09,并對每個數(shù)字進行識別 ,如表格 55 是實驗數(shù)據(jù)的記錄表。 選取圖片中的任意數(shù) 字：比如 5，如圖 。 圖 讀入測試圖片 然后用 MATLAB 中圖象處理工具箱讀入 bmp 文件 ,并將其轉(zhuǎn)化為二值數(shù)據(jù) , 其中使用 imread , im2double , rgb2gray ,mat2gray ,im2bw 等函數(shù)。 圖 系 統(tǒng)流程圖 MATLAB 程序設計 本次設計使用 MATLAB 語言實現(xiàn)該系統(tǒng) ,其用戶界面分別介紹如下。 系統(tǒng)流程圖 該系統(tǒng)分為識別過程和訓練過程，這兩個過程又都包括圖像預處理、特征提取和分類識別。 MATLAB 的特點 (1) 此高級語言可用于技術(shù)計算 (2) 此開發(fā)環(huán)境可對代碼、文件和數(shù)據(jù)進行管理 (3) 交互式工具可以按迭代的方式探查、設計及求解問題 (4) 數(shù)學函數(shù)可用于線性代數(shù)、統(tǒng)計、傅立葉分析、篩選、優(yōu)化以及數(shù)值積分等二維和三維圖形函數(shù)可用于可視化數(shù)據(jù) (5) 各種工具可用于構(gòu)建自定義的圖形用戶界面 (6) 各種函數(shù)可將基于 MATLAB 的算法與外部應用程序和語言（如 C、 C++、Fortran、 Java、 COM 以及 Microsoft Excel）集成 使用 MATLAB 的優(yōu)勢 (1) 友好的工作平臺和編程環(huán)境 (2) 簡單易用的程序語言 基于 神經(jīng)網(wǎng)絡的手寫數(shù)字識別系統(tǒng)的設計與實現(xiàn) 第五章 系統(tǒng)的實現(xiàn)與結(jié)果分析 24 (3) 強大的科學計算機數(shù)據(jù)處理能力 (4) 出色的圖形處理功能 (5) 應用廣泛的模塊集合工具箱 (6) 實用的程序接口和發(fā)布平臺 (7) 應用軟件開發(fā)（包括用戶界面） 系統(tǒng)設計思路 本設計主要分為三大步驟：第一階段，圖像預處理；第二階段，特征提??；第三階段，設計 BP 神經(jīng)網(wǎng)絡 并對輸入樣本進行訓練和測試。 MATLAB 的應用范圍非常廣，包括信號和圖像處理、通訊、控制系統(tǒng)設計、測試和測量、財務建模和分析以 及計算生物學等眾多應用領域。它在數(shù)學類科技應用軟件中在數(shù)值計算方面首屈一指。 基于 神經(jīng)網(wǎng)絡的手寫數(shù)字識別系統(tǒng)的設計與實現(xiàn) 第五章 系統(tǒng)的實現(xiàn)與結(jié)果分析 23 第五章 系統(tǒng) 的實現(xiàn)與結(jié)果分析 軟件開發(fā)平臺 MATLAB 簡介 MATLAB 是美國 MathWorks 公司出品的商業(yè)數(shù)學軟件，用于算法開發(fā)、數(shù)據(jù)可視化、數(shù)據(jù)分析以及數(shù)值計算的高級技術(shù)計算語言和交互式環(huán)境，主要 包括 MATLAB 和Simulink 兩大部分。事實證明采用較好的優(yōu)化方法可以提高網(wǎng)絡的收斂速度、避免陷入局部極小。這些方法一般都可以應用到改進 BP算法中。動態(tài)調(diào)整 η和α值，收到良好效果。更進一步可以在學習過程中動態(tài)地調(diào)整η和α的值，使η隨系統(tǒng)總誤差 E 不斷的變化，以避免出現(xiàn) ? W 取值過小，尤其是在接近系統(tǒng)最小值的時候。尋求一種適合 BP算法使用的新的優(yōu)化算法也是一個很有價值的研究課題。例如同倫方法、梯度法、共軛梯度法以及牛頓法。 根據(jù)優(yōu)化理論還有很多種優(yōu)化方法。 實驗中發(fā)現(xiàn)，η越大，學習速度會越快，但過大時會引起振蕩效應；而α取的過大可能導致發(fā)散，過小則收斂速度太慢；η取 ～ ，α取 ～ 時有較快的收斂速度。 利用附加的動量項可以起到平滑梯度方向的劇烈變化。當誤差曲面為窄長型時，該算法在谷的兩壁跳來跳去，影響了網(wǎng)絡的收斂速度。這對有導師 訓練的 BP學習算法而言，大大阻礙了指導人與被指導對象的交流。 (5)解釋能力 神經(jīng)網(wǎng)絡對自身解決問題的方式不能形成一個規(guī)范的推導過程。如果在該點的狀態(tài)下所要求的問題解是正確的，那么，該點是局部的還是全局的極小點就顯得不那么重要了。網(wǎng)絡學習過程中極易陷入局部極小點。 (3)學習速度 BP 神經(jīng)網(wǎng)絡的學習過程是一種超大規(guī)模的反復的浮點數(shù)值運算過程，因此，無論從學習算法本身考慮，還是從使用的微機設備上考慮，學習速度一般是較慢的。實驗結(jié)果表明，外推能力與訓練樣本的種類和數(shù) 量有關。然而， BP 學習算法對不同類型微小特征差異的樣本缺乏足夠的歸納能力。 BP 學習算法存在的局限性 BP 學習算法存在的局限性總結(jié)如下： (1)歸納能力 基于 BP 學習算法的神經(jīng)網(wǎng)絡具有較強的歸納能力。 圖 通過以上處理后，將得到的特征向量輸入到設計好的神經(jīng)網(wǎng)絡進行測試， 下面的圖 ，由圖可以看出 結(jié)果還是很令人滿意的。 傳輸函數(shù) 基于 神經(jīng)網(wǎng)絡的手寫數(shù)字系統(tǒng)的設計與實現(xiàn) 第四章 神經(jīng)網(wǎng)絡在數(shù)字識別中的應用 19 BP 網(wǎng)絡中傳輸函數(shù)常采用 S(sigmoid)型函數(shù) .在某些特定情況下 ,還可能采用純線性 (Pureline)函數(shù)。a為 1～ 10之間的常數(shù)。 為輸入節(jié)點數(shù) 。 輸出層的節(jié)點數(shù) 輸出層節(jié)點數(shù)取決于兩個方面 ,輸出數(shù)據(jù)類型和表示該類型所需要的數(shù)據(jù)大小。 圖 newff函數(shù)建立一個新的 BP神經(jīng)網(wǎng)絡 網(wǎng)絡數(shù)據(jù)的預處理 [17] 預處理方法有歸一化處理、標準化處理和主成分分析。對多層 BP 神經(jīng)網(wǎng)絡，隱層層數(shù)至少為 1 層或 1 層以上，每個隱層的神經(jīng)元個數(shù)至少為 1 個或 1 個以上，否則與多層網(wǎng)絡的命題矛盾而不成立。 從 ()式可推出下列連接權(quán)值的修正量公式 jkkj OW ??? () 對于輸出節(jié)點： 基于 神經(jīng)網(wǎng)絡的手寫數(shù)字系統(tǒng)的設計與實現(xiàn) 第四章 神經(jīng)網(wǎng)絡在數(shù)字識別中的應用 18 )1()( kkkkk OOOt ???? () 對于隱節(jié)點： ??? k kjkjjj WOO ?? )1( () BP 網(wǎng)絡的設計 BP 網(wǎng)絡的設計主要包括輸入層 ,隱層 ,輸出層及各層之間的傳輸函數(shù)幾個方面。 設網(wǎng)絡輸入模式樣本為 }{ pip xx ? ，期望輸出為 }{pkt ，均方誤差函數(shù) pE 為： ? ??k pkpkp OtE2)(21 () 而對于所有的學習樣本，系統(tǒng)的均方誤差為： ? ? ??p k pkpkp OtPE2)(21 () 為了達到學習目的，要根據(jù)誤差函數(shù)來相應地調(diào)整網(wǎng)絡間的連接權(quán)值。 輸出層 輸出層的輸入 k 與輸出 kO 與隱含 層類似，分別為： ??i ikik OW () )( kxk fO ? () 反向傳播過程 BP 學習算法的誤差函數(shù)一般定義為實際輸出與期望輸出的均方誤差和。 隱含層可為一層或者多層，但是隨著隱含層的增多，網(wǎng)格的復雜程度也隨之增加，學習速度減慢，另外網(wǎng)絡的推導能力也有可能下降，即所謂的 “over fitting”現(xiàn)象。 隱含層 對于節(jié)點 j，其輸入值 j 為其前一層各節(jié)點輸出值 i? 的加權(quán)和： ? ?? i ijj iOWne t () 輸出值 )( isi fO ? () 式中 ()sf 稱為激勵函數(shù)或者作用函數(shù)。 它又分為正向和反向傳播兩種，以下對各層進行詳細介紹。如果在輸出層沒有得到期望的輸出，則計算輸出層的誤差變化值，然后轉(zhuǎn)向反向傳播，通過網(wǎng)絡將 誤差 信號 沿著原來的連接通路反傳回來，通過修改各層神經(jīng)元的權(quán)值使得誤差減小，直至達到期望目標。 BP 算法由兩部分組成：信息的正向傳遞與誤差的反向傳播。 BP 算法是一種有監(jiān)督式的學習算法。這種學習算法在模式識別領域中，尤其在字符識別的研究中被廣泛使用。 神經(jīng)網(wǎng)絡以其快速的并行處理能力和其強有力的學習能力而獲得越來越廣泛的重視，其中應用最多的是 BP 神經(jīng)網(wǎng)絡。如：數(shù)據(jù)庫系統(tǒng)的數(shù)據(jù)挖掘、產(chǎn)品的自動分撿系統(tǒng)的圖像識別等。學習系統(tǒng)通過強化那些受獎的動作來改善自身的性能。顯然，無教師的訓練方式可使網(wǎng)絡具有自組織和自學習的功能。無教師學習的訓練數(shù)據(jù)集中，只有輸入而沒有目標輸出，訓練過程神經(jīng)網(wǎng)絡自動地將各輸入數(shù)據(jù)的特征提取出