【正文】 反應(yīng)手 寫字母的整體骨架結(jié)構(gòu)對(duì)字母的正確識(shí)別有很大的作用。 圖 八個(gè)掃描方向 本文采用筆劃 密度的方式訓(xùn)練特征；從水平和垂直方向掃描數(shù)字，計(jì)算掃描線和字符相交的次數(shù)，即筆劃密度特征向量。因此，外 廓特征對(duì)孤立點(diǎn)和噪音不敏感，次特征比較穩(wěn)定對(duì)識(shí)別率有所提高。但是對(duì)于神經(jīng)細(xì)胞的來(lái)說(shuō)比較特殊，具有許 多的個(gè)性突起，所以把神經(jīng)元細(xì)胞為細(xì)胞體、樹(shù)突、軸突三個(gè)部分（如 圖 ）。人工神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)模仿人腦，具有并行處理特征，可以大大提高工作速度。 BP 網(wǎng)絡(luò)有師學(xué)習(xí)方式需要設(shè)定期望值和無(wú)師學(xué)習(xí)方式只需輸入模式之分。人工神經(jīng)網(wǎng)絡(luò)必須要以一定的學(xué)習(xí)準(zhǔn)則來(lái)進(jìn)行學(xué)習(xí)，然后才能運(yùn)用于實(shí)踐。這說(shuō)明網(wǎng)絡(luò)對(duì)這兩個(gè)模式的學(xué)習(xí)是成功的自學(xué)習(xí)后 BP 神經(jīng)網(wǎng)絡(luò)自身已將這兩個(gè)模式分布地記憶在網(wǎng)絡(luò)的各個(gè)連接權(quán)值上。此時(shí)經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)對(duì)類似樣本的輸入信息，自行處理輸出誤差最小的經(jīng)過(guò)非線形轉(zhuǎn)換的信息。本文是對(duì) 26 個(gè)英文字母進(jìn)行識(shí)別所以確定輸出層的節(jié)點(diǎn)數(shù)就是 26 個(gè)。 （ 2） 進(jìn)化方法 該方法結(jié)合了生物進(jìn)化的原理稱為遺傳算法 (GAGeic Algorithm)，具有全局搜索的能力，對(duì) BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的優(yōu)化和調(diào)整有著顯著的作用。 （ ） m：輸入節(jié)點(diǎn)數(shù)； n：輸出節(jié)點(diǎn)數(shù)； c：介于 1～ 10 的常數(shù)。適的，若訓(xùn)練過(guò)程中的均方誤差出現(xiàn)平坦化 甚至說(shuō)是震蕩現(xiàn)象，則說(shuō)明學(xué)習(xí)速率選的比較大。學(xué)習(xí)速率太大會(huì)導(dǎo)致系統(tǒng)不穩(wěn)定，學(xué)習(xí)速率太小將導(dǎo)致訓(xùn)練時(shí)間延長(zhǎng)使的收斂很慢，但是可以保證網(wǎng)絡(luò)的誤差值跳不出誤差范圍，使的訓(xùn)練結(jié)果趨于最小誤差值。 在此基礎(chǔ)上本文有提出了一種隱含層節(jié)點(diǎn)的解決方法：利用逐步回歸分析法結(jié)合參數(shù)的顯著性檢驗(yàn)來(lái)刪除部分線形相關(guān)的隱含層節(jié)點(diǎn)，節(jié)點(diǎn)刪除的標(biāo)準(zhǔn)是：當(dāng)上一層節(jié)點(diǎn)指向的下一層節(jié)點(diǎn)的所有權(quán)值均落在了死區(qū) （通常取 177。如果隱含層節(jié)點(diǎn)數(shù)過(guò)少的話，可能導(dǎo)致網(wǎng)絡(luò)不能進(jìn)行訓(xùn)練或?qū)е戮W(wǎng)絡(luò)性能變差；如果隱層節(jié)點(diǎn)數(shù)過(guò)多，雖然能夠使的神經(jīng)網(wǎng)絡(luò)的整體系統(tǒng)誤差降低，但它不僅延長(zhǎng)了神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)間，且容易在訓(xùn)練過(guò)程中陷入局部極小值點(diǎn)而無(wú)法得到最優(yōu)點(diǎn)， 甚至不能收斂，網(wǎng)絡(luò)的容錯(cuò)能力差， 往往使得其反，這也是訓(xùn)練時(shí)網(wǎng)絡(luò)出現(xiàn)“過(guò)擬合的原因。所以要想確定輸入層節(jié)點(diǎn)的個(gè)數(shù)就必須確定要輸入的有效數(shù)據(jù)的個(gè)數(shù)。 如圖 所示拓?fù)浣Y(jié)構(gòu)的單隱層（隱含層只有一層）前饋網(wǎng)絡(luò)，通常稱為三層前向反饋神經(jīng)網(wǎng)絡(luò)，即：輸入層、中間層、隱含層及輸出層。這樣網(wǎng)絡(luò)輸濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 22 出值為 “1”和 “0”的概率都為 。各個(gè)輸出值由于其連接權(quán)值的不同而被放大或縮小。 神經(jīng)網(wǎng)絡(luò)的模型圖 BP 網(wǎng)絡(luò)模型包括輸出模型、輸入模型、誤差計(jì)算模型、作用函數(shù)模型和自學(xué)習(xí)模型 [7]。各神經(jīng)元之間的連接強(qiáng)度和極性有所不同，并且都可調(diào)整、基于這一特性，人腦具有存儲(chǔ)信息 的功能。單個(gè)神經(jīng)元的結(jié)構(gòu)和功能比較簡(jiǎn)單，但是大量神經(jīng)元之間相互組合而產(chǎn)生的系統(tǒng)卻相當(dāng)復(fù)雜。規(guī)整化的字符以 N N 的點(diǎn)陣表示，在這里 N 為 32。 135 度方向， 90 度方向， 45度方向 如圖 ，統(tǒng)計(jì)八個(gè)不同方向上由外至內(nèi)首個(gè)黑點(diǎn)距離邊界的距離 [24]。因此，以粗網(wǎng)格為特征進(jìn)行數(shù)字識(shí)別，具有較好的正確識(shí)別率。運(yùn)行程序后所得到的 百分比例 如 表 ： 表 像素百分比 A B C D E F G H I J K L M N O P Q R S T U V W X Y Z 字母特征 結(jié)構(gòu)特征 統(tǒng)計(jì)特征 重心特征 心 筆畫密度特征 外輪 廓特征 像素百分比特征 粗網(wǎng)格特征 矩陣像素特征 濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 15 提取矩陣的粗網(wǎng)格特征 粗網(wǎng)格特征注重的是字符圖像的局部分布特征，反應(yīng)的是英文字符的局部像素比例。本文為了對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練以后提高字符的識(shí)別率。字符的特征可 以分為兩大特征，一：結(jié)構(gòu)特征二：統(tǒng)計(jì)特征。 (4)細(xì)化后的圖像要有效地保留原圖像的核心骨架結(jié)構(gòu)，比如保留細(xì)化前圖像的拓?fù)浣Y(jié)構(gòu)等。歸一化把原始的圖像放大成一個(gè)相同規(guī)格的全新的字符圖像，其中新增加的像素其灰度值只是基于原始字符圖0 0 1 0 0 0 1 0 1 0 0 1 1 1 0 1 0 0 0 1 0 0 0 0 0 濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 11 像所派生出來(lái)的，所以圖像的信息量并未增加，但使得圖像更易于處理有利于提高識(shí)別率。也就是轉(zhuǎn)換成唯一的標(biāo)準(zhǔn)形式以抵抗仿射變換。有效地確定閥值所得到得二值化圖像可以提高英文字母的正確識(shí)別率。 對(duì) C 進(jìn)行濾波前后的對(duì)比如下圖： 濾波前 濾 波后 圖 手寫字符濾波前后比對(duì)圖 二值化 在數(shù)字圖像的處理當(dāng)中，二值圖像有著非常重要的地位。 均值濾波和中值濾波的比較：對(duì)于均值濾波 把目標(biāo)像素點(diǎn)都用模板周圍的 8個(gè)像素的灰度均值來(lái)代替。 本文預(yù)處理設(shè)計(jì) 本章的預(yù)處理過(guò)程的設(shè)計(jì) 如 圖 ： 樣本字母 預(yù)處理 特征提取 訓(xùn)練模式 待識(shí)字母 預(yù)處理 特征提取 分類 結(jié)果輸出 學(xué)習(xí)階段 識(shí)別階段 濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 7 圖 預(yù)處理過(guò)程 去噪 我們得到的原始圖像應(yīng)書寫風(fēng)格的不同，外部環(huán)境的影響往往存在個(gè)別的孤立點(diǎn)，這就是我們說(shuō)的噪音。并結(jié)合提取的特征向量，確定本文采用的 BP 網(wǎng)絡(luò)的網(wǎng)絡(luò)模型?；?BP 網(wǎng)絡(luò)的手寫英文字母識(shí)別包括兩個(gè)階段：一個(gè)是訓(xùn)練階段和一個(gè)是識(shí)別階段，這兩個(gè)階段包含輸入、預(yù)處理、特征提取、分類及輸出五個(gè)部分。 [6] 人工神經(jīng)網(wǎng)絡(luò)方法 人工神經(jīng)網(wǎng)絡(luò)（ ArtificialNeuralNetworks，簡(jiǎn)寫為 ANNs）也簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)（ NNs）又稱作連接模型（ ConnectionistModel），它模范動(dòng)物的神經(jīng)網(wǎng)絡(luò)行為特征，是一種分布式并行信息處理的算法模型。前者如紙的質(zhì)量、墨水、污點(diǎn)對(duì)書寫字符的影響；后者表現(xiàn)為同一個(gè)人書寫同一字符時(shí)，雖形狀相似，但不可能完全一樣。因此，不同特征提取特征和神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)方法決定了識(shí)別系統(tǒng)所用得處理方法。我國(guó)的許多研究部門在 80 年代初期就開(kāi)始對(duì)字符識(shí)別進(jìn)行研究，從 80 年代開(kāi)始，神經(jīng)網(wǎng)絡(luò)的識(shí)別研究開(kāi)發(fā)就一直受到國(guó)家“ 863”計(jì)劃的資助與支持，并已經(jīng)有了初步的回報(bào)。在 1943 年， W它在英文信息處理、辦公室自動(dòng)化、機(jī)器翻譯、人工智能等高技術(shù)領(lǐng)域，都有著重要的實(shí)用價(jià)值和理論意義。識(shí)別技術(shù)用于計(jì)算機(jī)的數(shù)據(jù)自動(dòng)輸人，早期的識(shí)別系統(tǒng)被用于大量形式多樣的數(shù)據(jù)輸人方面，比如處理汽油借記卡等。 第三，具有高速尋找優(yōu)化解的能力。 英文字母識(shí)別系統(tǒng)的設(shè)計(jì)經(jīng)過(guò)以下幾個(gè)過(guò)程：預(yù)處理、特征提取、 BP 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、識(shí)別。 字 母識(shí)別時(shí) ，只在先把許多不同的圖像樣板和對(duì)應(yīng)的應(yīng)識(shí)別的結(jié)果輸入人工神經(jīng)網(wǎng)絡(luò)， 然后在 識(shí)別之前 對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練形成穩(wěn)定的權(quán)值 這樣 網(wǎng)絡(luò) 通過(guò)自學(xué)習(xí)功能，慢慢學(xué)會(huì)識(shí)別類似的圖像。以同樣擁有方塊文字的日本為例子，其開(kāi)始的光學(xué)字符識(shí)別技術(shù)走在世界前列， 1960 年左右開(kāi)始研究光學(xué)字符識(shí)別的基本識(shí)別理論，在初期以數(shù)字為對(duì)象，直到 1965 至 1970 年之間開(kāi)始有一些簡(jiǎn)單的產(chǎn)品，例如印刷文字的郵政編碼識(shí)別系統(tǒng)，識(shí)別郵件上的郵政編碼，幫助郵局作區(qū)域分信的作業(yè)活動(dòng)；因此至到今天郵政編碼一直是各國(guó)所倡導(dǎo)的地址書寫方式。 英語(yǔ) 是 世界上使用人數(shù)最多的文字之一。雖然神經(jīng)網(wǎng)絡(luò)的理論研究有著廣闊的發(fā)展前景 ,但是每個(gè)領(lǐng)域的研究就是既充滿誘惑又充滿挑戰(zhàn) . 沒(méi)有人可以肯定告訴我們它的發(fā)展不會(huì)再經(jīng)受挫折 ,也沒(méi)有人會(huì)知道一旦成功實(shí)現(xiàn)其最終的目標(biāo)會(huì)給世界帶來(lái)多大的巨變 . 但是我們有理由相信堅(jiān)持不懈地 致力于 BP 神經(jīng)網(wǎng)絡(luò)理論方法研究必定會(huì)給 21 世紀(jì)科學(xué)研究帶來(lái)輝煌 。 1982 年，美國(guó)加州工物理學(xué)院 提出了 Hopfield 神經(jīng)網(wǎng)格模型，引入了“計(jì)算能量”的概念，給出了網(wǎng)絡(luò)穩(wěn)定性判斷。這是區(qū)別早期識(shí)別系統(tǒng)的最大的優(yōu)點(diǎn)，現(xiàn)在的識(shí)別系統(tǒng)能夠允許強(qiáng)有力的邏輯系統(tǒng)持續(xù)工作，并不再對(duì)要瀏覽的字符的大小字體濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 3 及數(shù)據(jù)位置兩方面信息作出的要求。而“模式識(shí)別”則是在某些一定量度或觀測(cè)基礎(chǔ)上把待識(shí)模式劃分到各自的模式類中去。統(tǒng)計(jì)識(shí)別用于基元的提取上二結(jié)構(gòu)識(shí)別用于整體符號(hào)的識(shí)別上，我們可以分為以下幾步： （ 1）符號(hào)處理：用細(xì)化和歸一化對(duì)待識(shí)字符進(jìn)行處理。對(duì)神經(jīng)網(wǎng)絡(luò)的研究目前許多技術(shù)不能確定，正確率永遠(yuǎn)達(dá)不到 100%，只能靠近，它們之間進(jìn)行著拉鋸戰(zhàn)。 第三章主要講述英文字母的特征提取，介紹了提取的特征即實(shí)現(xiàn)方法。 圖 系 統(tǒng)的識(shí)別框架圖 預(yù)處理概述 在進(jìn)行手寫英文字母識(shí)別時(shí)需要對(duì)所得到的手寫英文字母圖像提前進(jìn)行預(yù)處理，不同地域的人在書寫英文字母的過(guò)程中的書寫風(fēng)格不盡相同即使是同一地域的人由于山谷寫的任意性也會(huì)造成手寫字母的形式千變?nèi)f化，令外數(shù)字圖像在采集過(guò)程中，受圖像質(zhì)量、掃描性能的影響，數(shù)字圖像會(huì)帶有形變和噪聲，這些變化都會(huì)影響英文字母的識(shí)別效果，預(yù)處理的目的是消除原始圖像中的噪聲，將原來(lái)的圖像轉(zhuǎn)化為清晰的二值化圖像，便于對(duì)手寫字母的微觀結(jié)構(gòu)特征的提取。中值濾波的工作原理：用一個(gè)奇數(shù)的移動(dòng)窗口，某一點(diǎn)的值 是該奇數(shù)窗口中所有像素點(diǎn)的中間值，比如說(shuō)，假設(shè)窗口內(nèi)有七點(diǎn)，其值為 70、 80、 90、 200、 11 120 和 210 那么此窗口內(nèi)各點(diǎn)的中值及為 115。所以均值濾波和中值濾波都有各自的利與弊，選用哪一種濾波方式這要看我們對(duì)識(shí)別的要求。 濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 9 ??? ??? Tyxf Tyxf ),(,1 ),(,0y)f(x, （ ） 如公式（ ） 所有灰度大于或等于 選定 閥值 T，即 ?（ x,y) =T ， 的像素被判定為屬于特定物體，其灰度值 變 為 255 用 1（或 0）來(lái)表示 ，否則 ，即 ?（ x,y)T這些像素點(diǎn)被排除在物體區(qū)域 之 外，灰度值為 0， 用 0（或 1）來(lái)表示， 表示背景或例外的物體區(qū)域。 我們用這種方法確定了閾值是 ，如圖 ： 二值化前 二值化后 圖 值化前后圖像 對(duì)于我們要鑒定的字 母二值化前后 的字母矩陣 是什么變化呢？ 以 125為閾 值舉例， 運(yùn)行程序后字母矩陣得到如下表結(jié)果 濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 10 表 字母二值化前后的矩陣 （ a）二值化前 (b)二值化后 45 78 221 78 90 47 217 85 234 0 48 128 178 127 29 128 26 4 90 179 94 124 93 87 1 歸一化 我們所要鑒定的字符的大小規(guī)格不盡相同， 這對(duì)后續(xù)英文字母的特征提取，識(shí)別操作環(huán)節(jié)會(huì)造成一定的障礙。 本文采用的是尺寸上的歸一花，歸一化通常有兩種形式：一種是外輪廓?dú)w一化，另一種是重心的一化 可以得到筆劃均勻分布的圖。 對(duì)字符進(jìn)行細(xì)化的過(guò)程當(dāng)中我們選取算法是要有一定的準(zhǔn)則： (1)細(xì)化算法不應(yīng)該改變待識(shí)字符的連續(xù)性。對(duì)于某一具體的識(shí)別應(yīng)用，所選擇的特征往往會(huì)影響最終的正確識(shí)別率。統(tǒng)計(jì)征可以分為全局特征和局部特整。因?yàn)椴煌挠⑽淖帜腹P畫不 同 在歸一化之后黑像素點(diǎn)的比例有很大的變化，所以這一特征能夠很好的反應(yīng)不同英文字母的個(gè)性化的特點(diǎn)。針對(duì) 32 32 的點(diǎn)陣，我 劃分成大小為 4 4 的 16 個(gè)小區(qū)域（如 圖 ），因此，共得出一個(gè)十六維的粗網(wǎng)格特征值 （ 如表 ） 。 26 個(gè)英文字母的書寫方式不同進(jìn)行二值化后的像素矩陣的排列方式不一樣，一一提取個(gè)個(gè)像素點(diǎn)的值作為 1024 個(gè)特征，因?yàn)闅w一化后的矩陣是 32? 32 的矩陣所以得到了 1024 的向量輸入點(diǎn)，提取之后得到的是一個(gè)矩陣形式，為了方便輸出要將該矩陣變換為 1? 1024 的行矩陣 。對(duì) 32*32 灰度圖在水平方向上從上至下每 4 行掃描一次，提取 8 個(gè)特征， 900方向每隔 4 行掃描一次，形成 8+8=16濟(jì)南大學(xué)泉城學(xué)院畢業(yè)論文 18 個(gè)的特征值。 表 是 4 個(gè)字母ABCD 訓(xùn)練的外輪廓特征數(shù)據(jù)： 表 外輪廓數(shù)據(jù) 0 0 0 0 0 0 0 0 0 0． 531 0 0 0 0 0 0 總結(jié)本文采取了像素百分比一個(gè)特征向量，粗網(wǎng)格特征 16 個(gè)特征向量，重心特征一個(gè)，矩陣的像素特征 32? 32，筆畫密度 16 個(gè)，外 輪廓 4 個(gè)共計(jì) 1062個(gè)特征向量。突起的作用就是用其來(lái)傳遞信息。人工神經(jīng)網(wǎng)絡(luò)具有初步自適應(yīng)的能力。自學(xué)習(xí)模型為： )()1( nan wwijiij