【正文】 次讀入24張圖片并進(jìn)行各個(gè)類別的特征提取，將各類的特征值作為輸入向量，聯(lián)合相應(yīng)的輸出向量對(duì)SVM進(jìn)行訓(xùn)練，以達(dá)到分類效果。Kmeans分類方法則無需進(jìn)行特征提取和訓(xùn)練，直接分類。 結(jié)果與分析在測(cè)試程序的過程中，我們對(duì)每一類選取7張測(cè)試圖片，共21張測(cè)試圖片進(jìn)行分類測(cè)試。測(cè)試統(tǒng)計(jì)結(jié)果如下：表61 分類結(jié)果統(tǒng)計(jì)圖像類別分類正確數(shù)量分類正確率香蕉7100%葡萄3%橘子4%平均%（1）在其他文獻(xiàn)記載的SVM小樣本分類中，分類正確率能夠普遍達(dá)到70%80%，%，正確率較一般水平低，但是基本實(shí)現(xiàn)了分類的功能。（2）總結(jié)分類正確率較低的原因有以下幾點(diǎn)：本系統(tǒng)的初始設(shè)計(jì)中未包含有“其他”類選項(xiàng)，則出現(xiàn)一個(gè)問題：當(dāng)待分類的圖片不屬于系統(tǒng)提供的三個(gè)類別中的任何一個(gè)時(shí)，系統(tǒng)默認(rèn)將圖片歸入第一個(gè)進(jìn)行判別的類別當(dāng)中。這樣的功能無疑會(huì)影響到分類的正確率。由于工具包功能的限制，未有一個(gè)好的解決辦法，但是有一個(gè)折中的方法，即，將所有類別向后平移一個(gè)單位，即原本第一次進(jìn)行分類判別的分類推后到第二個(gè)進(jìn)行，以此類推，而將第一個(gè)進(jìn)行分類判別的類別換成“其他”類。由于每個(gè)類別都需要進(jìn)行訓(xùn)練，則在海量圖庫中任意選擇了6張圖片進(jìn)行訓(xùn)練。顯然，這樣的方法也會(huì)損失一部分的分類正確率。b．樣本圖片標(biāo)準(zhǔn)未能嚴(yán)格統(tǒng)一在系統(tǒng)搭建完畢初始進(jìn)行測(cè)試的階段，圖庫圖片均大小不一，而本系統(tǒng)所采用的不變矩特征對(duì)形狀、邊長(zhǎng)等信息要求極為嚴(yán)格，就導(dǎo)致了以下誤差的出現(xiàn)：同樣一張圖片，小尺寸的就可以被正確分類，而當(dāng)其被放大至原先的數(shù)倍后，就無法正確分類。針對(duì)這樣的問題，我們對(duì)系統(tǒng)所涉及的所有圖片進(jìn)行了統(tǒng)一化處理，均將大小改為00533像素。與此同時(shí)的，在統(tǒng)一化標(biāo)準(zhǔn)的過程中，有一個(gè)部分是將圖片的感興趣區(qū)域進(jìn)行摳圖操作。大部分圖片都是作者手動(dòng)摳圖得到的，這個(gè)過程中難免會(huì)對(duì)原先圖片的邊緣信息造成一定程度的損壞，這個(gè)無法避免的信息損失也對(duì)正確率造成了一定程度的影響。通過多次分類結(jié)果的比較，可以得出：波段相鄰或相近的顏色經(jīng)常會(huì)被劃分到一個(gè)類別當(dāng)中。如果待測(cè)圖片的波段區(qū)分不明顯，程序會(huì)報(bào)錯(cuò)，提示出現(xiàn)空類別，即無法很好的區(qū)分出三個(gè)類別。同時(shí)，初始的聚類中心選擇的不同也導(dǎo)致了分類結(jié)果的不同。針對(duì)這樣的問題，可以有以下解決方法：，對(duì)比最后的運(yùn)算結(jié)果，一直到結(jié)果趨于穩(wěn)定結(jié)束。這樣的方法比較耗時(shí)和浪費(fèi)資源。，不應(yīng)事先給定數(shù)據(jù)集所要分出的類別數(shù)。這也是 Kmeans 算法的一個(gè)不足。有的算法是通過類的自動(dòng)合并和分裂，得到較為合理的類型數(shù)目 K，例如 ISODATA 算法。 3. 所謂的gapstatistics（ Gap統(tǒng)計(jì)模型） 第七章 結(jié)論與展望7 結(jié)果與結(jié)論本文研究圖像聚類分析算法，以實(shí)現(xiàn)水果圖像的智能分類為目的， 研究圖像特征提取、SVM及Kmeans分類算法，提取圖像的Hu矩不變特征實(shí)現(xiàn)了圖像的智能圖像分類軟件，能夠完成圖像的預(yù)處理、提取圖像特征并建立訓(xùn)練網(wǎng)絡(luò)、圖像分類等功能。圖像預(yù)處理包括圖像的灰度化、中值濾波以及圖像增強(qiáng)。圖像提取特征是 Hu矩不變特征。分類算法包括SVM算法以及Kmeans算法。測(cè)試表明，%，接近理想正確率。而無監(jiān)督的Kmeans分類能夠自主的根據(jù)圖像的顏色特征將樣本圖像分為三個(gè)色塊區(qū)域。本系統(tǒng)兼有有監(jiān)督和無監(jiān)督兩種分類方式，使用者可以通過對(duì)比兩種分類方式的分類結(jié)果對(duì)兩種分類方式進(jìn)行直觀的了解。本系統(tǒng)的有監(jiān)督分類的分類正確率已接近理想分類的正確率，可以投入到之后的可續(xù)研究工作當(dāng)中，對(duì)其他的更加深入的圖像處理工作能夠起到一定的輔助作用。而本系統(tǒng)的無監(jiān)督分類功能能夠幫助讀者對(duì)不同顏色的物體進(jìn)行快速分類，找尋目標(biāo)。這樣的功能需求已經(jīng)表現(xiàn)在醫(yī)學(xué)、生物、交通等各個(gè)方面。 問題與展望不足之處就是分類的正確率仍有待提高。同時(shí)，在無監(jiān)督分類——kmeans分類功能上面，“更換初始聚類中心進(jìn)行分類”的功能有待加入，以方面使用者得到最理想穩(wěn)定的分類結(jié)果。待所有功能都完善之后，再輔以人性化的界面，就可以將本系統(tǒng)應(yīng)用到我們的工作、生活、學(xué)習(xí)當(dāng)中去，相信這樣一個(gè)只能圖像分類系統(tǒng)一定可以給我們的生活帶來一些便利。 心得體會(huì)從選定課題到基本完成研究任務(wù)，經(jīng)過了將近四個(gè)月的辛苦努力。在這樣一個(gè)我人生中第一個(gè)也可能是最后一個(gè)的研究任務(wù)中，我深深感到，要做好程序設(shè)計(jì)、做好科學(xué)研究一定要做到：第一：要有端正的學(xué)習(xí)態(tài)度以及對(duì)研究工作的足夠重視。人們常說態(tài)度決定一切，通過這次畢業(yè)設(shè)計(jì)我對(duì)這句話的感受又加深了一些。我是同實(shí)驗(yàn)室中唯一一個(gè)去向是工作而不是繼續(xù)上研究生的。對(duì)于這樣一個(gè)并不簡(jiǎn)單的課題，我在一開始的時(shí)候感到巨大的壓力，不僅僅是因?yàn)橹車耐瑢W(xué)都是即將從事研究工作的準(zhǔn)研究生，更加擔(dān)心以我的理論水平無法完成這樣一個(gè)任務(wù)?；谶@樣的心理，在每次的例會(huì)前我都會(huì)準(zhǔn)備好要向老師詢問的問題，把自己不會(huì)的東西拿出來向老師細(xì)細(xì)的詢問。在老師和同學(xué)們的幫助下，我還是順利的完成了此次的畢業(yè)程序設(shè)計(jì)。第二：需要有寬闊的知識(shí)面以及認(rèn)真鉆研的精神。為了能夠順利的完成此次程序設(shè)計(jì)，我和同實(shí)驗(yàn)室的同學(xué)們都進(jìn)行了大量的學(xué)習(xí)以及廣泛的涉獵。通過這次設(shè)計(jì)我明白了要完成一個(gè)真正意義上的科學(xué)研究項(xiàng)目，需要設(shè)計(jì)到方方面面的理論和實(shí)踐知識(shí)。只是針對(duì)某一項(xiàng)知識(shí)進(jìn)行鉆研是遠(yuǎn)遠(yuǎn)不夠的，為了達(dá)到某個(gè)研究目的，通常需要進(jìn)行極其廣泛的涉獵，別且將自己所具有的知識(shí)進(jìn)行總結(jié)、歸納、延伸以及靈活的運(yùn)用。第三：需要有一定的耐心和毅力。在研究工作中，尤其是自主完成的研究工作中，大部分的困難是需要研究者獨(dú)立解決的。而有些困難可能在短時(shí)間內(nèi)很難找到原因，受到思維定勢(shì)的局限使我們的情緒變得消極。這時(shí)，需要我們有足夠的耐心和毅力，從各個(gè)方面審視自己的錯(cuò)誤，反復(fù)的調(diào)試，才能夠使問題迎刃而解。參考文獻(xiàn)致 謝本研究及學(xué)位論文是在我的導(dǎo)師別紅霞老師的親切關(guān)懷和悉心指導(dǎo)下完成的。在將近四個(gè)月的研究中，她嚴(yán)肅的科學(xué)態(tài)度，嚴(yán)謹(jǐn)?shù)闹螌W(xué)精神，精益求精的工作作風(fēng)，深深地感染和激勵(lì)著我。別老師不僅在學(xué)業(yè)上給我以精心指導(dǎo)，同時(shí)還在思想、生活上給我以無微不至的關(guān)懷，在此謹(jǐn)向別老師致以誠(chéng)摯的謝意和崇高的敬意。我還要感謝在一起愉快的度過畢業(yè)論文小組的同學(xué)們，尤其是盛晶晶、梁慧和邱文杰同學(xué)，正是由于你們的幫助和支持，我才能克服一個(gè)一個(gè)的困難和疑惑，直至本文的順利完成。在論文即將完成之際，我的心情無法平靜，從開始進(jìn)入課題到論文的順利完成，有多少可敬的師長(zhǎng)、同學(xué)、朋友給了我無言的幫助，在這里請(qǐng)接受我誠(chéng)摯的謝意!最后我還要感謝培養(yǎng)我長(zhǎng)大含辛茹苦的父母，謝謝你們!最后，再次對(duì)關(guān)心、幫助我的老師和同學(xué)表示衷心地感謝！37外 文 譯 文支持向量網(wǎng)絡(luò)Corinna Cortes and Vladimir VapnikATamp。T LabsResearch, USA摘 要:,這里我們將它擴(kuò)展到不完全可分的訓(xùn)練數(shù)據(jù)集..關(guān)鍵詞：模式識(shí)別, 有效的學(xué)習(xí)算法, 神經(jīng)網(wǎng)路, 徑向基函數(shù)分類器, 多項(xiàng)式分類器1 介紹60多年前,[7](m1,∑1)和N(m2,∑2), m1 和m2為各個(gè)分布的均值向量, ∑1和∑2為各個(gè)分布的協(xié)方差矩陣,并給出最優(yōu)解為如下二次決策函數(shù): . (1)當(dāng)∑1 = ∑2 = ∑時(shí)該二次決策函數(shù)(1)退化為一個(gè)線性函數(shù): . (2)評(píng)估二次決策函數(shù)需要確定n(n+3)/2個(gè)自由參數(shù),(小于10n2)的情況下評(píng)估O(n2),在∑1 ≠∑2 時(shí)也采用線性判別函數(shù)(2),其中的∑采用如下形式: , (3).1962年,Rosenblatt[11]提出了一種不同的學(xué)習(xí)機(jī)器:感知器(或神經(jīng)網(wǎng)絡(luò)).感知器由相關(guān)聯(lián)的神經(jīng)元構(gòu)成,每個(gè)神經(jīng)元實(shí)現(xiàn)一個(gè)分類超平面,.Fig 1: A simple feedforward perceptron with 8 input units, 2 layers of hidden units, and 1 output unit. The grayshading of the Vector entries reflects their numeric value.Rosenblatt沒有提出通過調(diào)整網(wǎng)絡(luò)的所有權(quán)值來最小化向量集上誤差的算法,: (4),再次將構(gòu)建決策規(guī)則歸結(jié)為構(gòu)造某個(gè)空間的線性超平面.1986年,針對(duì)模式識(shí)別問題出現(xiàn)了通過調(diào)整神經(jīng)網(wǎng)絡(luò)所有權(quán)值來局部最小化向量集上誤差的算法[12,13,10,8],神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了分段線性決策函數(shù).本文提出了一種全新的學(xué)習(xí)機(jī)器,:,該決策面的一些性質(zhì)保證支持向量網(wǎng)絡(luò)具有好的推廣能力.例如:要構(gòu)造一個(gè)與二階多項(xiàng)式對(duì)應(yīng)的決策面,我們可以構(gòu)造一個(gè)特征空間Z,它有如下的N=n(n+3)/2個(gè)坐標(biāo): , n coordinates, , n coordinates, , n(n1)/2 coordinates ,其中,x = .分類超平面便是在該空間中構(gòu)造的.以上方法存在兩個(gè)問題:一個(gè)是概念上的,另一個(gè)是技術(shù)上的.(1)概念上的問題:怎樣找到一個(gè)推廣性很好的分類超平面?特征空間的維數(shù)將會(huì)很高,能將數(shù)據(jù)分開的超平面不一定都具有很好的推廣性.(2)技術(shù)上的問題:怎樣在計(jì)算上處理如此高維的空間?要在一個(gè)200維的空間中構(gòu)建一個(gè)4或5階的多項(xiàng)式,需要構(gòu)造一個(gè)上十億的特征空間.概念上的問題在1965年[14],構(gòu)造最優(yōu)超平面只需考慮訓(xùn)練集中決定分類隔間的少量數(shù)據(jù),則一個(gè)測(cè)試樣例被錯(cuò)判的期望概率以支持向量的期望數(shù)目與訓(xùn)練集向量數(shù)目比值為上界,即: . (5)注意,如果支持向量的個(gè)數(shù)相對(duì)與整個(gè)訓(xùn)練集很小,則構(gòu)建出來的分類超平面將具有很好的推廣性,通過實(shí)際問題我們驗(yàn)證了比值(5).Fig 2. An example of a separable problem in a 2 dimensional space. The support vectors, marked with grey squares, define the margin of largest separation between the two classes.令,特征空間中最優(yōu)超平面的權(quán)值可以寫成支持向量的某個(gè)線性組合 . (6)從而特征空間里的線性決策函數(shù)I(z)為如下形式: , (7),.盡管最優(yōu)超平面保證了好的推廣性,在文獻(xiàn)[3]中證明構(gòu)造決策函數(shù)的步驟可以交換順序:不必先將輸入向量通過某種非線性變換映射到特征空間再與特征空間中的支持向量做內(nèi)積；而可以先在輸入空間通過內(nèi)積或者某種別的距離進(jìn)行比較,.,、.Fig 3. Classification by a supportvector network of an unknown pattern is conceptually done by first transforming the pattern into some highdimensional feature space. An optimal hyperplane constructed in this feature space determines the output. The similarity to a twolayer perceptron can be seen by parison to Fig 1.Fig 4. Classification of an unknown pattern by a supportvector network. The pattern is in input space pared to support vectors. The resulting values are nonlinearly transformed. A linear function of these transformed values determines the output of the classifier.2 最優(yōu)超平面本節(jié)回顧文獻(xiàn)[14],用來處理訓(xùn)練集不完全可分情況下的學(xué)習(xí)問題. 最優(yōu)超平面算法訓(xùn)練樣本集 , (8)是線性可分的。如果存在向量w和標(biāo)量b使得以下不等式 (9)對(duì)(8)(9)寫成如下形式: (10)最優(yōu)超平面 (11)是指將訓(xùn)練數(shù)據(jù)以最大間隔分開的那個(gè)平面:它決定了向量w/|w|的方向,它由下式給定: . (12)最優(yōu)超平面(w0,b0)便是使得距離(12)(12)和(10)可得 . (13)這表明,最優(yōu)超平面就是滿足條件(10),構(gòu)建一個(gè)最有超平面其實(shí)就是一個(gè)二次規(guī)劃問題.: , (14)其中≥0(參