【文章內(nèi)容簡(jiǎn)介】 用的識(shí)別算法。 首先，該系統(tǒng)基于 MNIST 手寫數(shù)字庫，學(xué)習(xí)該庫中樣本文件格式，正確讀取其中的四個(gè)文件，包括兩個(gè)字符文件，還有字符文件所對(duì)應(yīng)是實(shí)際值，也就是另外兩個(gè)文件，了解了文件的格式，并正確的讀取完成對(duì)任意字符的讀取、操作、顯示、寫入等操作。雖然樣本進(jìn)行了初步的大小歸一化，但 字符還存在很多噪聲，筆道存在斷裂，沒有進(jìn)行閾值分割，而且沒有進(jìn)行細(xì)化，這 樣前期處理就是進(jìn)行平滑去噪、閾值分割、閉合、細(xì)化操作，然后將處理的結(jié)果存入文件，以備后期處理。第二步，進(jìn)行特征提取、特征甄選，結(jié)合，形成一個(gè)有效的特征集。第三步，分兩步識(shí)別，對(duì)于各數(shù)字分類，在特征集中選擇相關(guān)特征綜合，確定合適參數(shù)直接完成對(duì)數(shù)字的識(shí)別，這個(gè)過程是建立在特征的統(tǒng)計(jì)和識(shí)別結(jié)果的統(tǒng)計(jì)基礎(chǔ)上的，保證了識(shí)別規(guī)則的準(zhǔn)確性，對(duì)于不滿足識(shí)別規(guī)則的數(shù)字樣本，將該樣本的特征結(jié)合統(tǒng)計(jì)的特征集計(jì)算隸屬度，通過各特征的截?cái)鄥?shù)進(jìn)行投票，得票最多的分類 確定為最終識(shí)別結(jié)果，這個(gè)識(shí)別過程也是基于對(duì)特征的統(tǒng)計(jì)，識(shí)別結(jié)果也是有 效的。 利用形成的識(shí)別系統(tǒng)對(duì) 10000 個(gè)樣本進(jìn)行測(cè)試表明正確識(shí)別率達(dá)到 90%以上。表明該識(shí)別算法有效。 組織結(jié)構(gòu) 本系統(tǒng)處理過程如圖 所示： 圖 本文中其他各章節(jié)展開如下： 預(yù)處理 特征提取 分類器設(shè)計(jì) 南京郵電大學(xué)碩士研究生學(xué)位論文 第一章 緒論 4 第二章 說明 樣本的格式，如何讀取樣本，對(duì)樣本進(jìn)行預(yù)處理，將樣本按原有格式進(jìn)行轉(zhuǎn)儲(chǔ)，顯示。 第三章 說明如何在預(yù)處理過的樣本上，進(jìn)行特征的提取，對(duì)特征進(jìn)行提取，最終形成有效的特征集，為接下來的分類 器設(shè)計(jì)打下基礎(chǔ)。 第四章 對(duì)最終確定的特征集進(jìn)行分析，比較各分類在特征集上與其它分類的差別，以確定分類規(guī)則，以及隸屬關(guān)系。分兩層進(jìn)行識(shí)別 ，首先對(duì)每一分類都在特征集中提取某一特征組合，直接輸出到該分類，這一過程是基于對(duì)特征的統(tǒng)計(jì)，以及在訓(xùn)練樣本集進(jìn)行測(cè)試，確定該識(shí)別規(guī)則對(duì)于該分類的有效性 。 接著 ,第二 步 ,對(duì)于每一分類中不滿足分類規(guī)則的 ,進(jìn)入到下一步的識(shí)別 , 對(duì)每一樣本都在特征集上都進(jìn)行隸屬度的計(jì)算 , 取隸屬最大的分類。以上兩步完成了對(duì)樣本的分類識(shí)別。 第五章 列出識(shí)別結(jié)果，對(duì)上述識(shí)別過程進(jìn)行總 結(jié)。 南京郵電大學(xué)碩士研究生學(xué)位論文 第二章 DoS/DDoS 防御技術(shù)概述 5 第二章 樣本的預(yù)處理 2 樣本 預(yù)處理 樣本格式 手寫體數(shù)字識(shí)別是光學(xué)字符識(shí)別 (OCR)中一個(gè)非常重要的一個(gè)分支 ， 有著廣泛的應(yīng)用前景 。 人工圖像識(shí)別的眾多理論 ， 總是用它 作為 評(píng)判的依據(jù) 。 在長期的研究過程中 ，出現(xiàn)了幾個(gè)比較標(biāo)準(zhǔn)的圖 像 數(shù)據(jù)庫 ， 這些數(shù)據(jù)庫中的圖像已經(jīng)過相似的預(yù)處理 ， 這樣使用者就可以觀察不同原理產(chǎn)生的結(jié)果哪個(gè)更好 ,而不用擔(dān)心由于預(yù)處理的不同而對(duì)結(jié)果產(chǎn)生影響 。 MNIST數(shù)據(jù)庫是一個(gè)免費(fèi)的標(biāo)準(zhǔn)數(shù)字識(shí)別庫 ,來自于 ATamp。T實(shí)驗(yàn)室的 . MNIST 數(shù)據(jù)庫分成兩個(gè)部分 ， 一部分是有 60000 個(gè)手寫數(shù)字樣本的 訓(xùn)練庫 ， 一部分是有 10000 個(gè)手寫數(shù)字樣本的測(cè)試庫 ， 訓(xùn)練庫和測(cè)試庫的手寫體變化分布是相同的 。 所有的圖像都已經(jīng)被規(guī)范成 28*28 點(diǎn)陣的相同尺寸 .MNIST 可以從網(wǎng)絡(luò)上免費(fèi)下載 。 許多知名的算法都曾經(jīng)使用 MNIST 數(shù)據(jù)庫進(jìn)行測(cè)試 ， 包括反饋網(wǎng)絡(luò) ， 支持向量機(jī)等 。 MNIST 數(shù)據(jù)庫文件的存儲(chǔ)格式采用了大多數(shù)非 intel 處理器所采用的 MSB first 格式，也就式對(duì)于一個(gè) WORD 型變量，首先讀取的八位組是 WORD 變量的部八位，這樣在取一個(gè)WORD 型，或 DWORD 型變量的值時(shí)要對(duì)變量的大小進(jìn)行一個(gè)轉(zhuǎn)換。 庫中包 含四個(gè)文件： （ 1） trainimagesidx3ubyte: 訓(xùn)練集的圖像數(shù)據(jù)文件 （ 2） trainlabelsidx1ubyte: 訓(xùn)練集的每個(gè)圖像數(shù)據(jù)所對(duì)應(yīng)的真實(shí)值文件 （ 3） t10kimagesidx3ubyte: 測(cè)試集的圖像數(shù)據(jù)文件 （ 4） t10klabelsidx1ubyte: 測(cè)試集的每個(gè)圖像數(shù)據(jù)所對(duì)應(yīng)的真實(shí)值文件 文件（ 1） 包含 60000 個(gè) 訓(xùn)練 樣本，所采用的格式為： [offset] [type] [value] [description] 0000 32 bit integer 0x00000803(2051) magic number 0004 32 bit integer 60000 number of images 0008 32 bit integer 28 number of rows 0012 32 bit integer 28 number of columns 0016 unsigned byte ?? pixel 0017 unsigned byte ?? pixel 南京郵電大學(xué)碩士研究生學(xué)位論文 第二章 DoS/DDoS 防御技術(shù)概述 6 ........ xxxx unsigned byte ?? pixel Pixels are anized rowwise. Pixel values are 0 to 255. 0 means background (white), 255 means foreground (black). 文件（ 2） 內(nèi)容為文件（ 1）中各樣本所對(duì)應(yīng)的真實(shí)值， [offset] [type] [value] [description] 0000 32 bit integer 0x00000801(2049) magic number (MSB first) 0004 32 bit integer 60000 number of items 0008 unsigned byte ?? label 0009 unsigned byte ?? label ........ xxxx unsigned byte ?? label The labels values are 0 to 9. 文件（ 3） 包含 10000 個(gè)測(cè)試樣本，所采用的格式為： [offset] [type] [value] [description] 0000 32 bit integer 0x00000803(2051) magic number 0004 32 bit integer 10000 number of images 0008 32 bit integer 28 number of rows 0012 32 bit integer 28 number of columns 0016 unsigned byte ?? pixel 0017 unsigned byte ?? pixel ........ xxxx unsigned byte ?? pixel 文件（ 4）內(nèi)容為文件（ 2）中各樣本所對(duì)應(yīng)的真實(shí)值， [offset] [type] [value] [description] 0000 32 bit integer 0x00000801(2049) magic number (MSB first) 0004 32 bit integer 10000 number of items 0008 unsigned byte ?? label 0009 unsigned byte ?? label ........ xxxx unsigned byte ?? label The labels values are 0 to 9. 每個(gè)樣本文件都是一個(gè) 28*28 的點(diǎn)陣，將文件（ 1）的前 100 個(gè)樣本顯示如圖 南京郵電大學(xué)碩士研究生學(xué)位論文 第二章 DoS/DDoS 防御技術(shù)概述 7 圖 樣本的顯示 圖 可以看出每個(gè)數(shù)字樣本都進(jìn)行了大小的歸一化，且位置居中， 但每個(gè)樣本都沒有進(jìn)行細(xì)化，有些樣本還有明顯的噪聲，這樣在前期的操作就要對(duì)樣本進(jìn)行 二值化、 平滑去噪 、細(xì)化等操作。 樣本文件的預(yù)處理 各種預(yù)處理操作是否要進(jìn)行，如何來做具體由樣本本身的情況，以及特征提取的要求 來確定。 原有樣本并沒有進(jìn)行二值化，且存在噪聲點(diǎn)，這樣就需要對(duì)樣本進(jìn)行二值化，及平滑去噪的處理，對(duì)樣本數(shù)據(jù)的分析發(fā)現(xiàn)對(duì)于筆道上的白色數(shù)據(jù)點(diǎn)取值集中于 255，而只有筆道邊緣，及孤立點(diǎn)才存在介于 0 到 255 之間的“灰”色點(diǎn)，而比背景部分的點(diǎn)值則一律取 0 ，這樣，二值化的操作將變得簡(jiǎn)單， f(i, j) 表 示原有樣本文件中點(diǎn) p(i , j )的取值，則二值化后的取值 F(i , j )為： ? 255 ( , ) 1000 ( , ) 100( , ) f i jf i jF i j ??? （ ） 經(jīng)過二值化后，在樣本中噪聲點(diǎn)是以孤立的飛白點(diǎn)的形式出現(xiàn)的，去除孤立點(diǎn)要參照其周圍點(diǎn)的分布情況來判斷，在系統(tǒng)中采用了 3 3 窗口（見圖 ）來檢測(cè)的。 南京郵電大學(xué)碩士研究生學(xué)位論文 第二章 DoS/DDoS 防御技術(shù)概述 8 圖 P 的 8 – 鄰域 去除孤立白點(diǎn)的條件 為 ： P = 255 且 71 iv P??≥ WP （ ） WP 為閾值，系統(tǒng)中其 WP = 8。當(dāng) WP = 8 時(shí)，周圍 8– 鄰域無連接，表明該點(diǎn)為孤立 點(diǎn)，去除該孤立點(diǎn)，令 P = 0 。 接下來對(duì)二值化后的樣本進(jìn)行細(xì)化操作 ，對(duì)于樣本而言，為修復(fù)筆道不必要的斷裂，可以進(jìn)行閉合操作，但從效果上來看由于樣本較小，筆劃間隔很小，所以即使采用 3 3 窗口 進(jìn)行閉合仍然會(huì)使原樣本丟失很多細(xì)節(jié)特征，尤其是小的閉合區(qū)域，所以這里只做細(xì)化操作。 事實(shí)上很多數(shù)字處理算法中都用到了，筆道寬度這一特征，尤其是對(duì)印刷體數(shù)字的識(shí)別中，而在本系統(tǒng)中沒有用到這一特征，認(rèn)為自由體手寫數(shù)字，筆道寬度有著隨意性，對(duì)于本識(shí)別系統(tǒng)屬于冗余信息，且不利于其它有用信息的提取，因此首先就對(duì)樣本進(jìn)行細(xì)化操作。通過細(xì)化可以消除目標(biāo)的很多冗余信息，僅留下進(jìn)行拓?fù)浞治龊同F(xiàn)狀分類所需要的有用信息。二值圖象細(xì)化后的結(jié)果稱為骨架。細(xì)化算法根據(jù)對(duì)象、場(chǎng)合的不同而迥異，對(duì)骨架沒有一個(gè)明確的數(shù)學(xué)定義，一般而言，細(xì)化的原則就是連續(xù)的擦除圖象的邊緣像素，直至成為一個(gè)象素寬的骨架為止。實(shí)現(xiàn)細(xì)化的算法很多，所得到的骨架也各異，但圖象的骨架應(yīng)滿足下列要求： 骨架應(yīng)保持圖象的連續(xù)性，不應(yīng)使筆道發(fā)生斷裂； 骨架為 8 連通的， 不應(yīng)存在多余的象素點(diǎn)； 骨架的端點(diǎn) 應(yīng)基本上是原象素的端點(diǎn)； 骨架應(yīng)基本上位于圖象的中軸位置； 應(yīng)有一定的抗噪 能力，不應(yīng)發(fā)生嚴(yán)重的畸變； 細(xì)化算法可分為串行算法、并行算法、混合算法，各種細(xì)化算法的不同點(diǎn)主要在于使用P3 P2 P1 P4 P P0 P5 P5 P7 南京郵電大學(xué)碩士研究生學(xué)位論文 第二章 DoS/DDoS 防御技術(shù)概述 9 模板進(jìn)行檢測(cè)的順序和模板形狀的差別上，總體上來說，串行算法速度較快，并行算法容易實(shí)現(xiàn)。 本系統(tǒng) 考慮過兩種 并行算法， 兩種方法的具體實(shí)現(xiàn)如下： 方法 1： bool temp = false。 bool Condition1 = false。 bool Condition2 = false。 bool Condition3 = false。 bool Con