【正文】 ????? ?? （ ） 濟南大學泉城學院畢業(yè)論文 21 h 為學習因子； Фi為輸出節(jié)點 i 的計算誤差； Oj為輸出節(jié)點 j 的計算輸出； a為動量因子 知道了 BP神經網(wǎng)絡的各結構模型我們進一步建立本文所用到的 BP神經網(wǎng)絡的拓撲結構， 如 圖 所示?，F(xiàn)以人工神經網(wǎng)絡對手寫英文字母 “A”、 “B”兩個字母的識別為例進行說明，規(guī)定當 “A”輸入網(wǎng)絡時，其輸出層輸出 “0”，而當輸入為 “B”時，輸 出層輸出為 “1”。當網(wǎng)絡再次遇到其中任何一個 A 或 B 模式時，能夠作出迅速、準確的判斷進行識別 [22]。 [9][32] 神經網(wǎng)絡的各層節(jié)點數(shù) 輸入 層和輸出層 神經網(wǎng)絡的輸入層實質就是一個緩沖存貯器，它的職責就是把提取的特征數(shù)據(jù)加到神經網(wǎng)絡中。本文的設計思想是希望 26 個輸出節(jié)點對應位置上的輸出是 1，而其他位 置上的輸出為 0，一次對應著 AZ26 個英文字母，輸入特征的影響或是訓練次數(shù)較低以及訓練過程中的噪聲影響可能會導致輸出結果不是 1 或 0 而出現(xiàn)其他的值，入 、 、 、 等一系列的值不符合設計的要求 為了使網(wǎng)絡具有一定的適應環(huán)境的能力將其輸出結果用網(wǎng)絡函數(shù) 處理，相當于曾加一個閥值比如說是 ，則大于 輸出為 1，小于 輸出為0。 濟南大學泉城學院畢業(yè)論文 24 （ 3） 修剪方法 首先構造一個具有冗余節(jié)點的多層次的網(wǎng)絡結構，然后在訓練中逐步刪除不必要的節(jié)點 或權值。 隱含層節(jié)點的選擇不僅僅是一種方法來決定，我們可以結合多種方法進行選擇，在通過 BP 神經網(wǎng)絡的訓練來最終確定隱含層的節(jié)點 [25]。經過訓練本文選取的學習速率是 . 學習速率為 0． 003 像素百分比 粗網(wǎng)格 特征 矩陣變換 筆畫密度 外輪廓 特征 重心 特征 . .. . . . . . . X1 X2 Xn W12 W21 W1n Y1 Yn 輸入層 隱含層 輸出層 濟南大學泉。下面是一些參數(shù)的設計： 每迭代 50 步顯示一次訓練結果 ． trainParam． show=5 0： 學習速率決定著每一 次循環(huán)訓練中所產生的權值的變化量地大小。 （ 4） 自適應方法 這一方法來之于生物神經元的各種狀態(tài)變化會導致人腦空間思維方式的變化這一原理，經過網(wǎng)絡的自適應學習來生成解決提出問題的適宜的神經網(wǎng)絡結構，該方法在網(wǎng)絡隱含層節(jié)點數(shù)的確定過程中綜結合了增長方法和修剪方法這兩種方法。 隱含層節(jié)點數(shù)的優(yōu)化確定 隱含層的節(jié)點數(shù)的確定目前為止在世界 上還沒有一個固定的算法。輸入的這些數(shù)據(jù)可以是連續(xù)的也可以是離散的甚至可以是二進制數(shù) 0、 1，輸入節(jié)點與輸入數(shù)據(jù)是等價的。但是神經元的個數(shù)也不可以太多否則影響其是別的速度過多的神經元也容易出錯，所以神經元也不可以太多。第一，給網(wǎng)絡的各連接權值賦予 (0， 1)之間內的一個隨機值，將 “A”所對應的圖象模式，其實質是一系列的值，輸入給網(wǎng)絡的輸入層， BP 網(wǎng)絡把輸入值進行加權求和與門限值比較然后進行非線性的運算，得到神經網(wǎng)絡的輸出值。每一層節(jié)點的輸出結果送到下一層節(jié)點。同一網(wǎng)絡學習方式及內容不同可具有不同的功能因此人工神經網(wǎng)絡是一個具有學習能力的系統(tǒng)。 圖 神經元 每個神經元的突觸數(shù)目正常，最高可達 10 個。 濟南大學泉城學院畢業(yè)論文 19 4 BP 神經網(wǎng)絡 人工神經網(wǎng)絡 人工神經網(wǎng)絡是由大量的簡單基本元件 —神經元相互聯(lián)接而成的自適應非線性動態(tài)系統(tǒng)。從歸一化的字符中直導出字符的邊緣輪廓。 沿逆時針方向選取八個方向，即 0 度方向， 45度方向． 90 度方向．， 135 度方向， 180 度方向。換句話說，這個 百分比相對值對于二值化圖片局部筆劃的變形或孤立的噪聲點帶來的影響不是很大。相對整體的一個百分比個別孤立點所占的百分比例較小，整體黑點的百分比變化范圍很小，因此像素百分比 的特征對于消除孤立點或噪音有一定的能力。 一個 好的識別系統(tǒng) ，應該符合以下條件 ： (1) 具有較好的平移不變性、旋轉不變性和尺度不變性； (2) 穩(wěn)定性好，具有較好的抗噪能力； (3)具有較好的類內一致性和類間區(qū)分度。 本文識別的對象是手寫體的英文字母，屬于字符識別的領域。 (3)算法不應該對噪聲敏感，即當待識字符邊界上出現(xiàn)噪聲時，對細化結果不產生影響。在得到寬度和高度之后，把新圖像里面的點映射到原圖像中。 基本上歸一化思想是利用圖像的不變矩尋找一組參數(shù)使其能夠消除其他變換函數(shù)對圖像變換的影響。對于全局閥值來說選取閥值 T 整幅圖像當中凡是大于閥值 T 的均為 1，相反只要小于閥值 T 則為 0 二對于局部閥值來說首先要對圖像進行分割，每一部分的閥值 T 是不一樣的實質就是進行圖像的局部二值化。本文要求較高的識別率選用了中值濾波來實現(xiàn)英文字母的識別。設模板窗口像素點的個數(shù)為 5 灰度值分別為 0、 2 經過中值濾波函數(shù) filter 后輸出序列外 0、 8 在去中間值為 4，則 5 個像素點 G（ x1,y1）G(x5,y5）的灰度值為 5。 本文采用的的字母圖像的預處理過程：去噪、二值化、歸一化和細化 。 第四章介紹分類器的設計原理和實現(xiàn)算法，指出 BP 網(wǎng) 絡用于手寫字母識別參數(shù)選擇。 論文組織結構 手寫字母識別是指利用 BP 神經網(wǎng)絡辨認手寫英文字母的一種技術，它屬于OCR 范疇。 （ 4）句子匹配： 對符號的三級模糊度進行匹配進而得到識別結果。屬于同一類別的各個模式之間的差異，部分是由環(huán)境噪聲和傳感器的性質所引起的，部分是模式本身所具有的隨機性質。 手寫字母識別方法 英文字母的結構表達形式和相應的單詞形成方法有多種，每種結構形式又可以選擇不同的特征，并且特征有不同的抽取方法，這 樣識別算法、標準、舉學工具也不相同，這就造成了英文字母識別的算法種類繁多，結構不盡相同。 [1] 我國在識別領域的研究起步較晚，在 20 世紀 70 年代才開始對符號、字母、數(shù)字進行識別 研究，對漢字的識別研究開始于 70 年代末期，到 86 年我國漢字的識別研究進人一個跨越性的時期，并取得了豐碩成果，并相繼推出了許多中文識別的實用產品。下面將以時間為順序，以著名的人物或某一方面的突出研究成果為線索，簡要介紹人工神經網(wǎng)絡的發(fā)展歷程。人工鍵入速度慢而且勞動強度大，對于大量已有的文檔資料，英文自動識別輸人就成為了最佳的選擇。神經網(wǎng)絡可以用于分類、聚類、預測等諸多領域。 用人工神經網(wǎng)絡的反饋網(wǎng)絡 在字母識別時 可以實現(xiàn)這種聯(lián)想 。 濟南大學泉城學院 畢 業(yè) 論 文 題 目 基于 BP 神經網(wǎng)絡的字母識別系統(tǒng) 設計與實現(xiàn) 專 業(yè) 電氣工程及其自動化 班 級 07Q2 學 生 學 號 指導教師 二〇一一 年六月七日 濟南大學泉城學院畢業(yè)論文 I 摘 要 基于前向反饋神經網(wǎng)絡的字母識別技術在科學技術日新月異的今天迅速得到發(fā)展，在諸多的方面得到應用包括出版、金融、軍事、現(xiàn)金登記 、頁面瀏覽以及任何帶有重復性、變化性數(shù)據(jù)的文件 。第二，具有聯(lián)想存儲功能 。 BP 神經網(wǎng)絡手寫字母識別技術的研究有著重要的意義。快速高效地將字母輸人計算機，是信息處理的一個關鍵問題。 研究現(xiàn)狀 于 21 世紀 40 年代早期人工神經網(wǎng)絡在國外率先得到發(fā)展。 1984 年，他又提出了連續(xù)時間 Hopfield神經網(wǎng)絡模型，為神經計算機的研究做了開拓性的貢獻，開創(chuàng)了神經網(wǎng)絡用于聯(lián)想記憶和優(yōu)化計算的全新的途徑，有力地推動了神經網(wǎng)絡的研究發(fā)展， 1985 年，又有學者提出了波耳茲曼模型，在學習中采用統(tǒng)計熱力學模擬退火技術，保證整個系統(tǒng)趨于全局的穩(wěn)定點在日本的“真實世界計算”項目中，人工智 能的研究成了一個重要的組成部分。譬如金融服務業(yè)的支票處理服務的“便捷圖像數(shù)據(jù)辨別”就是這樣的。 [31] 對模式的統(tǒng)計分類方法，即把模式類看成是用某個隨機向量實現(xiàn)的集合，又稱為決策理論識別方 法。 （ 2）基元提?。豪蒙窠浘W(wǎng)絡和 Freeman 分別生成節(jié)點基元集合和連線基元集合，他們組成了符號基元集合 （ 3）符號文法：利用得到的符號基元集合來建立符號的有向圖的表示法再利用圖的遍歷算法遍歷所有節(jié)點形成符號句再用模糊度形成三級模糊度符號句子。由于與很多因素有關，比如作者的書寫習慣、掃描的質量、識別運用的 算法、學習與訓練的樣本等，都可能影響識別正確率，所以 BP 神經網(wǎng)絡產品不但需要一個核心技術，產品的操作使用方便性、所提供的除錯功能及方法，也是決定產品好壞的重要因素 [9]。本文選取的特征包括重心、像素百分比密度特征、矩陣變換特征、粗網(wǎng)格特征、外輪廓特征筆劃密度特征六種方法。因此預處理過程的效果會對特征的提取、數(shù)字識別產生重要的影響。那么中值濾波的具體實現(xiàn)形式又是什么呢？我們設一個一維序列的數(shù)組 f1,f2,…,fn, 取移動窗口的長度為 m（當然 m 為奇數(shù)），我們 ,對其進行中 值 濾 波 時 ， 就 是 從 我 們 選 定 的 序 列 中 連 續(xù) 抽 出 m 個數(shù)字母圖像的預處理 字字母去噪處理 字字母二值化處理 字字母歸一化處理 字字母細化處理 濟南大學泉城學院畢業(yè)論文 8 fia,…,fi 1,fi,fi+1,…,fi+a(fi 為窗口的中心值 ,a=(m1)/2),再將這 m個點按其數(shù)值大小進行排序，數(shù)值順序單調上升或單調下降，取其序號的中心點的那個 數(shù)作為濾波輸出。如果是用在要求識別速度快但對正確率要求必是很高的場合我們可以選擇運用均值濾波的方式，如果使用在要求高正確率的場合，比如銀行、金融業(yè)，我們就必須運用中值濾波來實現(xiàn)。 圖 像的二值化過程運用了許多的算法大體可以分為兩類一類是全局閥值；一類是局部閥值。將每個數(shù)字圖像統(tǒng)一到同一的高度和寬度，這就是圖像的歸一化。重心到中心歸一化后的坐標由式 [12]： ))1()1((),( ?????? ?? vhvufvuf （ ） 公式當中： w 為圖像的 寬度， h為圖像的高度 外輪廓歸一化的原理是利用圖像的伸縮性得到一定尺寸的圖像 .具體的算法如下：首先得到原來字符的高度，并與系統(tǒng)要求的高度進行比較，得到長或寬的變換系數(shù)，然后根據(jù)得到的變換系數(shù)求得圖像變換后的寬度和高度。 (2)細化算法不應該去除重要點例如拐點。因 為在很多實際應用問題中往往不容易找到字符最重要的特征，或受某些條件限制不能對它們進行實際的測量，這就使的特征選擇和提取的任務非常的困難，所以特征的有效選擇成為字符識別系統(tǒng)最困難的任務之一。本文用到了像素百分比的全局特征和粗網(wǎng)格的局部特征提取。這正符合特征提取的要求：有效提取不同字符個性化的特點成為 BP 神經網(wǎng)絡的一個輸入點。 粗網(wǎng)格特征反映的是字符的局部特征，是個百分比相對值，對于本文圖像局部的形變或噪聲對應二值化的數(shù)字點陣就是局部元素的 1 的值，如果圖像帶有局部的形變或著噪音，與沒有形變和噪聲的平滑圖像相比來說，因為要除一個比較大的分母，計算出來的百分比相對值變化不是不大。 筆劃 特征 筆劃 特征有很多種不同的取法，它是識別領域常選用的一種特征提取法方式，它屬于一種結構特征 （一）首個黑點位置特征。 外輪廓特征提取 英文字母的外輪廓特征能夠很好的反映出字符的整體結構和特征，提取輪廓特征時。這些特征可以有效地提高了英文字母的識別率。樹突是作為引入輸入信號的突起，而軸突是作為輸出端的突起。在學習或訓練過程中不斷的改變權重 值來適應環(huán)境的要求。 BP神經網(wǎng)絡由三層節(jié)點集合組成：輸入層、輸出層、隱含層。 網(wǎng)絡學習的基本準則：如果網(wǎng)絡作出了一個錯誤的的判決，則通過 BP 神經網(wǎng)絡的自學習能力，使得 BP 神經網(wǎng)絡減少下次識別時犯同樣錯誤的可能性。 一般情況下，網(wǎng)絡中所含的神經元的個數(shù)與其能記憶、識別 的模式是成正比的。確定輸入層的節(jié)點數(shù)就不需要確定數(shù)據(jù)源的維數(shù)這是因為輸入層的節(jié)點數(shù)就是就是輸入數(shù)據(jù)的個數(shù)。保證輸出結果的可靠性，指定位置輸出為 1 其余位置為 0，我們期望的輸出形式見附錄。常用的方法有：復雜性調整方法、靈敏度計算方法、互相作用的修剪方法、增益方法。 本文采用了式（ ） 來確 定隱含層的節(jié)點數(shù)為 40（其中 c取 7） ,并加以訓練結果識別率達到期望的結果 ， 因此最終確定為 40. 各層節(jié)點確定之后就確定了本文采用的 BP 神經網(wǎng)絡結構，如 圖 所示： 濟南大學泉城學院畢業(yè)論文 25 圖 BP神經網(wǎng)絡結構圖 BP 神經網(wǎng)絡的參數(shù)設計和訓練過程 [17] BP 神經網(wǎng)絡的參數(shù)設置直接影響到最后的識別結果決定著網(wǎng)絡設計的好壞，有著重要的