【正文】 目前 LS SVMlab 工具箱用戶指南包含了 大量 MatLab 中 LS SVM 算法 的實現，其中涉及 分類，回歸，時間序列預測和無監(jiān)督學習。經典的模式識別算法 的內核版本，如 判別分析 的內核 Fisher， 以非監(jiān)督學習 、循環(huán)式 網絡擴展和控制 之間的鏈接是可用的 。 LSSVM 是標準 SVM 的改進。 支持向量機 應該被 引入統(tǒng)計學習理論 和 結構風險最小化 之 中 。 temp2 = abs(log(phi))。 phi(6)=()*((+)^2(+)^2)+4**(+12)*(+)。 phi(4)=(+)^2+(+)^2。 phi(2)=()^2+4*^2。所以我們可以使用圓度這種幾何矩，對其進行索引，實現快速過濾。 由以上兩個信息可以算出圖形的圓度： circleDisgree = rowMoment /colMoment .如果北京郵電大學本科畢業(yè)設計（論文） 22 圖形的 circleDisgree 越小于 1，則它越趨向于長軸為 y 方向的橢圓。在本系統(tǒng)所實現的圖像分類功能中，需要將待測圖像的特征與圖庫圖像的特征進行比較，提取矩不變特征就大大節(jié)省了比較過程需要的時間 ，提高了比較效率 。而圖庫中的圖片數量較大時，搜尋過程往往會耗費大量的時間。)。語句如下： BW = edge(image,39。 Sobel 算子的基本思想是：以待增強圖像的任意像素為中心，截取一個 3 3 的像素窗口，分別計算窗口中心像素在水平和垂直方向上的梯度，即可。 微分算子方法銳化圖像時，圖像中的噪聲、條紋等同樣得到加強，這在圖像處理中會造成偽的邊緣和輪廓。圖像銳化方法包括微分算子方法、拉普拉斯算子方法、空間高通濾 波方法等。在空間域中，由于需要銳化的圖像邊界或線條可能是任意走向的，所以期望采用的算子應該是各向同性的。 圖像銳化的主要目的是加強圖像中的目標邊界和圖像細節(jié)。因此，可以根據各種圖像模糊過程都有相加或積分運算這一共同點，運用相反的運算來減弱和消除模糊。 圖像銳化 在圖像攝取、傳輸及處理過程中有許多因素會使圖像變得模糊，圖像模糊是常見的圖像降質問題。 在實際調用中，將圖片讀入并進行灰度化處理后，便可以進行中值濾波。由于它在實際運算過程中并不需要圖像的統(tǒng)計特性，所以使用比較方便。空間域方法是直接對圖像像素的灰度進行處理，變換域方法是對圖像的某個變換域中的變換系數進行處理，然后進行逆變換獲得增強圖像。 圖像增強就是增強圖像中用戶感興趣的信息，其目的主要有兩個：一是改善圖像的視覺效果，提高圖像成分的清晰度；二是使圖像變得更有利于計算機處理。 MatLab 中的灰度化函數就是 這樣操作的，在具體的調用中，將圖像讀入之后，便可進行灰度化處理，語句如下： image =rgb2gray(imread(image))?，F階段主要有三種灰度化方法： （ 1） 平均值法：使 R、 G、 B 的值等于三個值的平均值，即 3BR BGRG ????? 式（ 51） （ 2） 最大值法：使 R、 G、 B 的值等于三個值中的最大值，即 ),(m a xBR BGRG ??? 式（ 52） （ 3）加權平均值法：根據重要性或者其他約束條件給 R、 G、 B 賦予不同的權值，并使 R、 G、 B 的值等于它們的加權平均值，即 3BR ar BWGWRWG c ????? 式（ 53） 其中， rW 、 cW 、 aW 分別為 R、 G、 B 的權值。彩色圖像的像素值為 RGB（ R,G,B），灰度圖像的像素值為 RGB（ r,r,r）， R、 G、 B 可由彩色圖像的顏色分解獲得。由彩色轉換為灰度的過程叫做灰度化處理。在彩色圖像中包含著很大的信息量，而灰度圖像較好的保留了彩色圖像中的形狀、邊緣等信息，有利于后期進行特征提取和識別，所以有必要將彩色圖像轉化為灰度圖像。 圖像信息獲取圖像預處理特征提取分類器設計 分類決策訓練過程 決策過程分類器參數結果輸出分類k m e a n s 分類S V M 分類北京郵電大學本科畢業(yè)設計（論文） 20 數字圖像又分為彩色圖像和灰度圖像。 R、 G、 B 分別代表著一幅圖像中的紅色分量、綠色分量以及藍色分量，通過這三個基本顏色可以合成出任意顏色。 程序流程圖如下： 圖 51 系統(tǒng)流程圖 關鍵函數詳述 圖像灰度化 目前的圖像樣本大部分都是通過攝影機、數碼相機等設備或取得，因而需要進行預處理的圖像往往是彩色圖像。 北京郵電大學本科畢業(yè)設計（論文） 19 第五章 基于 MatLab 的圖像分析軟件實現 軟件功能及系統(tǒng)流程 本系統(tǒng)以 MatLab 為平臺，實現了基于聚類的智能圖像分類。 步 直到聚類中心不再變化。 3. 算法流程 算法步驟： 類確定一個初始聚類中心，這樣就有 K 個初始聚類中心。 b，重新計算每個簇的平均值。 ，并用該平均值代表相應的簇。 則誤差平方和準則函數公式為： 式（ 411） （ 3）相似度的計算根據一個簇中對象的平均值來進行。假設 X 包含 k 個聚類子集 X1,X2,? XK；各個聚類子集中的樣本數量分別為 n1， n2,? ,nk。 歐式距離公式如下： 式（ 410） （ 2）選擇評價聚類性能的準則函數 kmeans 聚類算法使用誤差平方和準則函數來評價聚類性能。數據樣本 xi=(xi1,xi2,? xid), xj=(xj1,xj2,? xjd)其中， xi1,xi2,? xid 和 xj1,xj2,? xjd 分別是樣本 xi 和 xj 對應 d 個描述屬性 A1,A2,? Ad 的具體取值。因此在計算數據樣本之間的距離時，可以根據實際需要選擇歐式距離、曼哈頓距離或者明考斯距離中的一種來作為算法的相似性度量，其中最常用的是歐式距離。這一算法不適合處理離散型屬性，但是對于連續(xù)型具有較好的聚類效果。 3. 算法流程 輸入：包含 n 個對象的訓練庫以及待測樣本圖像 輸出：待測圖像的分類結果 w 和 b ，求得判決函數 kmeans 分類算法 1. 算法簡介 北京郵電大學本科畢業(yè)設計（論文） 17 kmeans 算法，也被稱為 k平均或 k均值 算法 ，是一種得到最廣泛使用的聚類算法。根據 SRM 原則可得到式（ 47）所示的約束優(yōu)化問題： ????????????????????nkebxwyebxwyebxwytslklkTllkkkTkkkTk, . . . ,2,1,1])([1])([1])([..,2,222,1,111,??? 式（ 47） 而通過與二類支持向量機類似的變換，式（ 47）的解由下式給出： ??????????????????????? ?? ? 100 )(1)( iiiiTiabIy y ? li ,...,2,1? 式（ 48） 式中， iy? 為 Y 的第 i 列，而 )(i? 由 元素 ),(,)( kjkijijii xxkyy?? 組成， )(ia 為對應 iy? 的Lagrange 乘子向量， ib 為對應 iy? 的常數項。 北京郵電大學本科畢業(yè)設計（論文） 16 （ 2）多類分類 顯然上述分類只能應用于二類模式分類問題，當 LSSVM 應用于多類問題時，假設 ??? ??? ??? lt iknkli iTiiki ewwebwJ 1 2,11,i 221),(m in ? 給定 l 類分類問題的訓練樣本 ,...2,1},{:2 niyxS ji ?其中 jy 為 l 維的由 1 和 +1 組成的l 維向量，當 ix 為第 j 類時， jy 的第 j 個元素為 1，其余皆為 +1。 ???????????????????? ???? 1001 abIy y T? 式（ 45） 式（ 45）中， I 為 n 維的單位矩陣， 1 為 n 維的元素全是 1 的列向量， ? 為 n 維對稱方陣，其元素為 ),()(, jTijiji xxyy ?? ??? 其中 ),()()( jijTi xxkxx ???? 而 ),( ??k 為核函數，因此 ),(, jijiji xxkyy?? 為 ? 的第 i 行 j 列元素。根據式（ 43）的鞍點條件，可得下式： ??????????????????????????????????????????niebxwyeaeyabxywwiTiiTniiii, . . . ,2,1,1])([0L0L00L)(0L1????? 式（ 44） 從式（ 44）的第三式可知， i? 正比于其對應的樣本上的訓練誤差。 根據約束優(yōu)化理論，式 （ 41） 的解由其對應的如式（ 43）所 示的 Lagrange 泛函數的鞍點給出： }1])([{),()。分類線方程為 0??? bwx 。 圖中，實心點和空心點代表兩類樣本， H 為分類線， H H2 分別為過各類中離分類線最近的樣本且平行于分類線的直線，它們之間的距離叫做分類間隔（ margin）。 支持向量機由一個來自最優(yōu)化理論的學習算法訓練，該算法實現了一個由統(tǒng)計學習理論導出的學習偏置 [1]。分隔超平面使兩個平行超平面的距離最大化。它 將向量映射到一個更高維的空間里，在這個空間里建立有一個最大間隔超平面。 本文使用到了支持向量機分類算法（ SVM）以及 Kmeans 分類算法。 ])()(3)[)(3(])(3)) [ ()(3())((4])(3)) [ ((])()(3)[)(3(])(3)) [ ()(3()()()3()3(4)(203212123003211230203212123012300321703211230112032121230022062032121230032103212032121230123012305203212123042032121230311220220202201????????????????????????????????????????????????????????????????????????????????????????????????????????????北京郵電大學本科畢業(yè)設計（論文） 14 第四章 分類算法 本 系統(tǒng)在圖像分類的功能上，既使用到了 監(jiān)督分類方法，又使用到了非監(jiān)督分類方法。并按照上文提到的算法計算出每幅圖像的 7 個矩不變特征。特征提取具體步驟如下： （ 1） 對初始圖庫圖像和待分類圖像進行二圖像濾波、直方圖均衡、圖像均衡、邊緣檢測、二值法銳化等預處理，將目標從背景中分割 出來。如 d x d yyxfYyXxMxNyqcpcpq ),()()(1 1? ?? ? ???? ...)2,1,0,( ?qp 式（ 33） Hu 在文中提出了 7 個幾何矩的不變量，這些不變量滿足于圖像平移、伸縮和旋轉不變。最常用的，物體的零階矩 顯 示了圖像的 “質量 ”： ?? ??????? d xd yyxf ),(m 00 式（ 31） 一階矩 ( 1001m,m )用于確定圖像質心 ( ccYX, )： 00010010 m/m。 矩在統(tǒng)計學中 通常 被用來反映隨機變量的分布情況， 當被 推廣到力學中，它用作 描述 空間物體的質量分布。 圖像矩不變特征提取 數字圖像是通過一個數字矩陣表征的。圖 32 檢索的結果證明形狀檢索算法對于圖像的扭曲。 以下是兩個矩不變特征的圖像檢索實例。 矩不變特征的優(yōu)越性， 特別是其具有的旋轉不變形、圖形的扭曲伸縮等不變形，對于本系統(tǒng)的分類訓練具有極其重要的作用。 其中幾何矩 最早被提出并且形式最簡單 ， 所以 對它的研究最為充分。 矩 是描述圖像特征的算子，在圖像分析與模式識別領域中有重要的應用 。在圖像處理中，幾何矩不變可以 被用來當做 一個重要的特征來表示物體，可以據此特征來對圖像進行分類等操作。 常用的特征提取與匹配方法： 提取圖 像空間關系特征可以有兩種方法：一種方法是首先對圖像進行自動分割，劃分出圖像中所包含的對象或顏色區(qū)域，然后根據這些區(qū)域提取圖像特征，并建立索引；另一種方法則簡單地將圖像均勻地劃分為若干規(guī)則子塊，然后對每個圖像子塊提取特征，并建立索引。另外，實際應用中，僅僅利用空間信息往往是