【正文】 最小二乘支持向量機(jī) 與 正規(guī)化網(wǎng)絡(luò)和高斯過(guò)程密切相關(guān)，但 更 加重視和利用原始對(duì)偶的 規(guī)范條款解釋 。 phi(5)=(*)*(+)*((+)^23*(+)^2+(3*)* (+)*(3*(+)^2(+)^2))。 令平面上點(diǎn)坐標(biāo)為 P(x,y),重心為 C(x!,y!), 二階行距： Axxxxw M o m e n t /])!(*)!([ro ? ??? 二階列距： Ayyyyc o lM o m e n t /])!(*)!([? ??? A 為點(diǎn)的個(gè)數(shù)。 在實(shí)際調(diào)用中，當(dāng)灰度圖像通過(guò)中值濾波濾掉噪聲后，可以進(jìn)行 Sobel 算子圖像增強(qiáng)，以達(dá)到提取邊緣的目的。銳化技術(shù)可以在空間域中進(jìn)行，基本的方法是對(duì)圖像進(jìn)行微分處理：在頻率域運(yùn)用高通濾波技術(shù)。在一定條件下，中值濾波可以克服線性濾波器所帶來(lái)的圖像細(xì)節(jié)模糊，而卻對(duì)濾除脈沖干擾及顆粒噪聲最為有效。由于人眼對(duì)綠色的敏感度最高，對(duì)紅色的敏感度次之，對(duì)藍(lán)色的敏感度最低，當(dāng) rW =， aW =， cW = 時(shí)，即可得到最合理的灰度圖像。圖像灰度化是將彩色圖像轉(zhuǎn)化為灰度圖像。 ，得到 K個(gè)聚類 。 將所有對(duì)象隨機(jī)分配到 k 個(gè)非空的簇中。 歐氏距離的定義如下： 假設(shè)給定的數(shù)據(jù)集 ， X中的樣本用 d 個(gè)描 述屬性 A1,A2?Ad 來(lái)表示，并且 d 個(gè)描述屬性都是連續(xù)型屬性。將訓(xùn)練樣本 2S 存儲(chǔ)為兩個(gè)數(shù)據(jù)矩陣 X 和 Y，它們的第 i 行分別為 ii yx和 。 對(duì)于二類模式分類問(wèn)題，設(shè)有訓(xùn)練樣本 niyx ii ,...,2,1},{:S1 ? ，其中 為模式向量， }1,1{ ???iy 為類別標(biāo)號(hào)， n 為樣本容量，則將 SVM 優(yōu)化問(wèn)題約束條件 由不等式改為等式，并將經(jīng)驗(yàn)風(fēng)險(xiǎn)函數(shù)改為二次函數(shù)，則可得如式 （ 41） 所示約束優(yōu)化問(wèn)題： 圖 41 最優(yōu)分類面 pix ??北京郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 15 ..221),(m in 21ts ewwebwJ iniTi?????? niebxwy iiTi , . . . ,2,1,1])([ ?????? ? 式（ 41） 式中， bxw iT ?? )(? 為高維特征空間中的分類超平面， w 和 b 為分類超平面的參數(shù)； ie 為第 i 個(gè)樣本點(diǎn)的訓(xùn)練誤差，則 21ini e?? 為經(jīng)驗(yàn)風(fēng)險(xiǎn)； 2|||| T ?? 衡量了學(xué)習(xí)機(jī)器的復(fù)雜性 ； 0?? 為懲罰因子，作用是在訓(xùn)練中平衡學(xué)習(xí)的復(fù)雜性和經(jīng)驗(yàn)風(fēng)險(xiǎn)。在分開數(shù)據(jù)的超平面的兩邊建有兩個(gè)互相平行的超平面。經(jīng)過(guò)以上步驟后，目標(biāo)被突出，圖像背景被弱化，從而使目標(biāo)更容易辨識(shí)； 圖 33 圖像分割與特征提取 （ 2） 通過(guò) MatLab 中的自有函數(shù)對(duì)初始圖庫(kù)圖像和待分類圖像進(jìn)行提取面積、矩形度、原型度、拉伸度以及周長(zhǎng)等特征值，為之后的 Hu 矩不變特征做好準(zhǔn)備； （ 3） 通過(guò)帶入步驟（ 2）的運(yùn)算結(jié)果計(jì)算出初始圖庫(kù)圖像和待分類圖像的面積、矩形度和伸長(zhǎng)度。 圖像 f(x， y)的 (p+q)階幾何矩定義為 : 式中 ),( yxf 是圖像的灰度。幾何矩對(duì)簡(jiǎn)單圖像有一定的描述能力，雖然在區(qū)分度上不如其他三種矩，但與其他算子比較起來(lái)， 較為 簡(jiǎn)單，一般 通過(guò) 一個(gè)數(shù)字就可表達(dá)。為了檢索，除使用空間關(guān)系特征外，還需要其它特征來(lái)配合。 （ 3）幾何參數(shù)法 形狀的表達(dá)和匹配采用更為簡(jiǎn)單的區(qū)域特征描述方法，例如采用有關(guān)形狀定量測(cè)度（如矩、面積、周長(zhǎng)等）的形狀參數(shù)法（ shape factor）。 自回歸紋理模型（ simultaneous autoregressive, SAR）是馬爾可夫隨機(jī)場(chǎng)（ MRF）模型的一種應(yīng)用實(shí)例。 （二）常用的特征提取與匹配方法 紋理特征描述方法分類 （ 1）統(tǒng)計(jì)方法統(tǒng)計(jì)方法的典型代表是一種稱為灰度共生矩陣的紋理特征分析方法Gotlieb 和 Kreyszig 等人在研究共生矩陣中各種統(tǒng)計(jì)特征基礎(chǔ)上，通過(guò)實(shí)驗(yàn)，得出灰度共生矩陣的四個(gè)關(guān)鍵特征：能量、慣量、熵和相關(guān)性。 顏色直方圖特征匹配方法：直方圖相交法、距離法、中心距法、參考顏色表法、累加顏色直方圖法。 北京郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 9 第三章 圖像矩不變特征提取 常用的圖像特征有顏色特征、紋理特征、形狀特征、空間關(guān)系特征 。SVM 的訓(xùn)練是依據(jù)統(tǒng)計(jì)學(xué)理論中的結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，在最小化經(jīng)驗(yàn)風(fēng)險(xiǎn)的同時(shí)最小化 SVM 的模型復(fù)雜度，提高了模型的泛化能力。常用動(dòng)態(tài)聚類法有 Kmeans 算法、 LBG 算法和分裂算法 。 這種方法的基本思想是：從訓(xùn)練樣本中提取各個(gè)類別對(duì)應(yīng)的均值向量并求出待測(cè)向量到各個(gè)均值向量的距離，比較后將待測(cè)類別歸入距離最小的一類中。統(tǒng)計(jì)決策比較成熟，對(duì)模式不太復(fù)雜的應(yīng)用已經(jīng)相當(dāng)?shù)某晒?，但不能反映模式結(jié)構(gòu)特性，概率表示形式使使用上也存在局限性。本文就將使用到 Hu 的不變矩特征。 矩特征表征了圖像區(qū)域的幾何特征 ,又稱為幾何矩，其具有 平移 、 旋轉(zhuǎn) 、尺度等特性的不變特征，又稱其為不變矩 。統(tǒng)計(jì)特征包括 直方圖 、 頻譜和矩等 ，是人為特征，需要經(jīng)過(guò)變換才能得到。 第四章，分類算法。當(dāng)使用者選擇 SVM 分類方法時(shí)，系統(tǒng)將通過(guò)使用圖庫(kù)訓(xùn)練學(xué)習(xí)的方式得到分類結(jié)果。 課題 目標(biāo)及本文研究?jī)?nèi)容 預(yù)期目標(biāo) 本論文擬將智能分類技術(shù)應(yīng)用于圖像的自動(dòng)識(shí)別， 以 水果圖像 分類為目標(biāo) ,研究其 特征提取 方法 及智能分類 算法 ，實(shí)現(xiàn) 基于 Matlab 平臺(tái)的水果圖像智能分析 軟件 。 聚類分析也叫分類分析 (classification analysis)或數(shù)值分類 (numerical taxonomy)， 是用數(shù)學(xué)的方法來(lái)研究和處理給定對(duì)象的分類 ,即對(duì)同類型對(duì)象抽象出其共性 ,從而形成類。無(wú)監(jiān)督分類方法中 Kmeans 分類方法得到了廣泛的研究， Paredes 等利用 Kmeans 算法對(duì)訓(xùn)練圖像塊區(qū)生成的 KD 樹進(jìn)行類似類別搜索，得到了不錯(cuò)的分類效果。另外，除了處理位于可視頻譜范圍的圖像信號(hào)外，在過(guò)去的 20 年里，對(duì)射電望遠(yuǎn)鏡形成的圖像、紅外圖像、合成孔徑雷達(dá)（ Synthetic Aperture ）圖像的研究都非常活躍。 國(guó)內(nèi)外研究現(xiàn)狀 人類從一出生，人眼就在不斷地接受、分析和理解周圍的景物，這是人類的一種本能活動(dòng)。用計(jì)算機(jī)對(duì)遙感圖像進(jìn)行地物類型識(shí)別是遙感圖像數(shù)字處隨著我國(guó)人民生活水平的提高，數(shù)碼相機(jī)、 DV 機(jī)等攝影器材得到了極大范圍的普及，數(shù)字圖像的數(shù)量也在飛速增長(zhǎng)，同時(shí)，互聯(lián)網(wǎng)的普及使 得人們對(duì)于圖像檢索的需求大大增加。傳統(tǒng)的圖像處理技術(shù)主要集中在圖像的獲取、變換、增強(qiáng)、恢復(fù)（還原）、壓縮編碼、分割與邊緣提取等方面，并且隨著新工具、 新方法的不斷出現(xiàn)，這些圖像處理技術(shù)也一直在更新與發(fā)展。 在算法研究的基礎(chǔ)上，設(shè)計(jì)并實(shí)現(xiàn)了水果圖像智能分析應(yīng)用 系統(tǒng)，具有創(chuàng)建特征值數(shù)據(jù)庫(kù)、創(chuàng)建訓(xùn)練網(wǎng)絡(luò)、圖像有監(jiān)督分類和圖像無(wú)監(jiān)督分類等功能。 本文通過(guò)介紹智能圖像分析方法及相關(guān)算法理論，重點(diǎn)研究以 SVM 算法為代表的監(jiān)督分類算法及以 kmeans 聚類算法為代表的費(fèi)監(jiān)督分類算法，并結(jié)合 Hu 圖像矩不變特征，對(duì)圖像進(jìn)行聚類分析及分類。 在理論學(xué)習(xí)的基礎(chǔ)上，運(yùn)用 MatLab 實(shí)現(xiàn)算法并 驗(yàn)證應(yīng)用效果 。當(dāng)進(jìn)行圖像有監(jiān)督分類，即 SVM 算發(fā)分類時(shí)，準(zhǔn)確率可達(dá)到將近 70%。近十多年來(lái)，隨著信息技術(shù)的發(fā)展，圖像特征分析、圖像配準(zhǔn)、圖像融合、圖像分類、圖像識(shí)別、基于內(nèi)容的圖像檢索與圖像數(shù)字水印等領(lǐng)域取得長(zhǎng)足的進(jìn)展。近年來(lái)，為了滿足人們?nèi)找嬖鲩L(zhǎng)的生活、學(xué)習(xí)、工作、娛樂(lè)等各方面的需要，數(shù)字圖書館中儲(chǔ)存了數(shù)以萬(wàn)計(jì)的圖像。在計(jì)算機(jī)技術(shù)的不斷發(fā)展中，人類更是將這一本能發(fā)揮的淋漓盡致。特別是 CT 和核磁共振的利用都極大地豐富了這一領(lǐng)域研究的內(nèi)容。但傳統(tǒng) Kmeans 算法搜索匹配效率低，特別是對(duì)于高維的大型數(shù)據(jù) 集，搜索分類非常費(fèi)時(shí)。 聚類分析是一種數(shù)值分類方法（即完全是根據(jù)數(shù)據(jù)關(guān)系）。 主要研究?jī)?nèi)容 論文主要研究?jī)?nèi)容包括： 圖像特征提取方法研究 ：分析圖像的典型特征 ,并研究 Hu矩不變特征值的計(jì)算方法。當(dāng)使用者選擇 Kmeans 分類時(shí)，系統(tǒng)將得到自主聚類的分類結(jié)果。對(duì)本文用到的兩類不同的分類算法進(jìn)行詳細(xì)介紹。視覺(jué)特征指 的是 具有直觀意義的圖像的形狀與顏色特征 ， 如 顏色 、紋理、形狀等。也是本文中應(yīng)用到得特征。 圖像分類 方 法 圖像分類概念 從人眼角度看， 提高圖像對(duì)比對(duì)、增加視覺(jué)維度、進(jìn)行空間變換或?yàn)V波，其目的就是讓人們能夠憑借知識(shí)和經(jīng)驗(yàn)，根據(jù)圖像色調(diào)、亮度、位置、紋理以及結(jié)構(gòu)等特征，準(zhǔn)確的對(duì)圖像類型或者目標(biāo)，做出正確的判斷和解釋，并根據(jù)當(dāng)下的需求，對(duì)所需圖像進(jìn)行繪制處理。 神經(jīng)網(wǎng)絡(luò)分類方法是只 能信息處理的重要內(nèi)容，它可以處理一些環(huán)境復(fù)雜、背景不清楚、推理規(guī)則不明確的問(wèn)題。 設(shè)待分類像素 Tnxxxx ]...[ 21? 到類別 i? 的距離為 式（ 21） 其中， m 為類別數(shù)， iz 為類 i? 的中心。 MatLab 及圖像智能處理工具箱 MatLab 是 Matrix Laboratory（矩陣實(shí)驗(yàn)室） 的縮寫，是一款由美國(guó) Math Works 公司出品的商業(yè) 數(shù)學(xué)軟件 。盡管如此， SVM 訓(xùn)練為一個(gè)有約束的二次規(guī)劃問(wèn)題，其約束條件數(shù)等于訓(xùn)練樣本容量，因此在用于大訓(xùn)練樣本容量的建模ix ??北京郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 8 問(wèn)題時(shí)，會(huì)導(dǎo)致訓(xùn)練時(shí)間過(guò)長(zhǎng)。 一 顏色特征 （一）特點(diǎn)：顏色特征是一種全局特征 ,描述了圖像或圖像區(qū)域所對(duì)應(yīng)的景物的表面性質(zhì)。 二 紋理特征 （一）特點(diǎn)：紋理特征也是一種全局特征，它也描述了圖像或圖像區(qū)域所對(duì)應(yīng)景物的表面性質(zhì)。統(tǒng)計(jì)方法中另一種典型方法，則是從圖像的自相關(guān)函數(shù)（即圖像的能量譜函數(shù)）提取紋理特征，即通過(guò)對(duì)圖像的能量譜函數(shù)的計(jì)算，提取紋理的粗細(xì)度及方向性等特征參數(shù) （ 2）幾何法 所謂幾何法，是建立在紋理基元（基本的紋理元素）理論基礎(chǔ)上的一種紋理特征分北京郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 10 析方法。 三 形狀特征 （一）特點(diǎn)：各種基于形狀特征的檢索方法都可以比較有效地利用圖像中感興趣的目標(biāo)來(lái)進(jìn)行檢索，但它們也有一些共同的問(wèn)題， （二）常用的特征提取與匹配方法 通常情況下，形狀特征有兩類表示方法，一類是輪廓特征，另一類是區(qū)域特征。在 QBIC 系統(tǒng)中，便是利用圓度、偏心率、主軸方向和代數(shù)不變矩等幾何參數(shù)，進(jìn)行基于形狀特征的圖像檢索。 常用的特征提取與匹配方法： 提取圖 像空間關(guān)系特征可以有兩種方法：一種方法是首先對(duì)圖像進(jìn)行自動(dòng)分割，劃分出圖像中所包含的對(duì)象或顏色區(qū)域，然后根據(jù)這些區(qū)域提取圖像特征，并建立索引；另一種方法則簡(jiǎn)單地將圖像均勻地劃分為若干規(guī)則子塊，然后對(duì)每個(gè)圖像子塊提取特征，并建立索引。 矩不變特征的優(yōu)越性， 特別是其具有的旋轉(zhuǎn)不變形、圖形的扭曲伸縮等不變形，對(duì)于本系統(tǒng)的分類訓(xùn)練具有極其重要的作用。 矩在統(tǒng)計(jì)學(xué)中 通常 被用來(lái)反映隨機(jī)變量的分布情況， 當(dāng)被 推廣到力學(xué)中，它用作 描述 空間物體的質(zhì)量分布。并按照上文提到的算法計(jì)算出每幅圖像的 7 個(gè)矩不變特征。分隔超平面使兩個(gè)平行超平面的距離最大化。 根據(jù)約束優(yōu)化理論，式 （ 41） 的解由其對(duì)應(yīng)的如式（ 43）所 示的 Lagrange 泛函數(shù)的鞍點(diǎn)給出： }1])([{),()。根據(jù) SRM 原則可得到式（ 47）所示的約束優(yōu)化問(wèn)題： ????????????????????nkebxwyebxwyebxwytslklkTllkkkTkkkTk, . . . ,2,1,1])([1])([1])([..,2,222,1,111,??? 式（ 47） 而通過(guò)與二類支持向量機(jī)類似的變換，式（ 47）的解由下式給出： ??????????????????????? ?? ? 100 )(1)( iiiiTiabIy y ? li ,...,2,1? 式（ 48） 式中， iy? 為 Y 的第 i 列，而 )(i? 由 元素 ),(,)( kjkijijii xxkyy?? 組成， )(ia 為對(duì)應(yīng) iy? 的Lagrange 乘子向量， ib 為對(duì)應(yīng) iy? 的常數(shù)項(xiàng)。數(shù)據(jù)樣本 xi=(xi1,xi2,? xid), xj=(xj1,xj2,? xjd)其中， xi1,xi2,? xid 和 xj1,xj2,? xjd 分別是樣本 xi 和 xj 對(duì)應(yīng) d 個(gè)描述屬性 A1,A2,? Ad 的具體取值。 ，并用該平均值代表相應(yīng)的簇。 北京郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 19 第五章 基于 MatLab 的圖像分析軟件實(shí)現(xiàn) 軟件功能及系統(tǒng)流程 本系統(tǒng)以 MatLab 為平臺(tái)，實(shí)現(xiàn)了基于聚類的智能圖像分類。在彩色圖像中包含著很大的信息量，而灰度圖像較好的保留了彩色圖像中的形狀、邊緣等信息，有利于后期進(jìn)行特征提取和識(shí)別，所以有必要將彩色圖像轉(zhuǎn)化為灰度圖像。