【正文】 ，并對(duì)KNN算法做出了評(píng)價(jià)。同樣knn分類器也可以應(yīng)用在只有正例訓(xùn)練樣本的情況下。安徽大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院的劉鋒，白凡[5]應(yīng)用了一種改進(jìn)的K近鄰算法進(jìn)行網(wǎng)頁(yè)分類。可以有效地解決 近鄰算法訓(xùn)練樣本規(guī)模及分類精度間的矛盾，提出了一種采用特征相關(guān)性差異優(yōu)化距離的改進(jìn)算法(FCDKNN)。也就是說(shuō)近鄰法的研究還是有必要的。它是一個(gè)新興的，面向商業(yè)應(yīng)用的AI研究。分類的方法包括統(tǒng)計(jì)的方法、近鄰法、神經(jīng)網(wǎng)絡(luò)分類法、無(wú)監(jiān)督聚類法和新出現(xiàn)的基于統(tǒng)計(jì)學(xué)習(xí)理論的支持向量機(jī)法，K近鄰分類法是近鄰分類法的擴(kuò)展。模式還可分成抽象的和具體的兩種形式。前者如意識(shí)、思想、議論等,屬于概念識(shí)別研究的范疇,是人工智能的另一研究分支。它將訓(xùn)練樣本集中的每個(gè)樣本都作為模板，用測(cè)試樣本與每個(gè)模板做比較，看與哪個(gè)模板最相似(即為近鄰) ，就按最近似的模板的類別作為自己的類別。數(shù)據(jù)挖掘是從大量的數(shù)據(jù)中，抽取出潛在的、有價(jià)值的知識(shí)（模型或規(guī)則）的過(guò)程。 國(guó)內(nèi)外研究狀況近十幾年來(lái)，人們利用信息技術(shù)生產(chǎn)和搜集數(shù)據(jù)的能力大幅度提高，無(wú)數(shù)個(gè)數(shù)據(jù)庫(kù)被用于商業(yè)管理、政府辦公、科學(xué)研究和工程開(kāi)發(fā)等，這一勢(shì)頭仍將持續(xù)發(fā)展下去。 該算法將特征熵值與其分布概率的乘積作為特征相關(guān)性的概念， 在此基礎(chǔ)上定義圍繞特征相關(guān)性差異的樣本距離測(cè)度，明確特征在類別上的重要性及相關(guān)性，在小樣本情況下提取針對(duì)分類的大量有效信息，以增強(qiáng)算法的全局優(yōu)化能力。其針對(duì)傳統(tǒng)K近鄰算法對(duì)于噪聲詞敏感的缺點(diǎn)，結(jié)合網(wǎng)頁(yè)文章構(gòu)成的特殊性，對(duì)文檔的特征向量表示模型進(jìn)行了改進(jìn)，從而也改進(jìn)了K近鄰算法中特證詞的權(quán)值以及文檔相似度的計(jì)算公式，實(shí)驗(yàn)結(jié)果表明改進(jìn)后的K近鄰算法提高了分類的精度。在小規(guī)模仿真的時(shí)候使用精度較高的knn分類器，在大規(guī)模仿真和實(shí)際Web檢驗(yàn)的時(shí)候使用knn分類器就沒(méi)有有更好推廣能力。本文的第3章介紹了分類器的概念和分類器的構(gòu)造方法。最近鄰是將所有訓(xùn)練樣本都作為代表點(diǎn)，因此在分類時(shí)需要計(jì)算待識(shí)別樣本x到所有訓(xùn)練樣本的距離，結(jié)果就是與x最近鄰的訓(xùn)練樣本所屬于的類別。對(duì)于取平均 下面我們看一下上面的兩個(gè)表達(dá)式。K近鄰算法從測(cè)試樣本X開(kāi)始生長(zhǎng)，不斷的擴(kuò)大區(qū)域，直到包含進(jìn)K個(gè)訓(xùn)練樣本，并且把測(cè)試樣本X的類別歸為著最近的K個(gè)訓(xùn)練樣本中出現(xiàn)頻率最大的類別。 .. .. 176。 K近鄰法算法研究 K近鄰法的數(shù)學(xué)模型用最近鄰方法進(jìn)行預(yù)測(cè)的理由是基于假設(shè)：近鄰的對(duì)象具有類似的預(yù)測(cè)值。因此最近鄰算法易受噪聲數(shù)據(jù)的影響，尤其是樣本空間中的孤立點(diǎn)的影響。輸出:X的類別Y。(3) 決定K的取值鄰居的個(gè)數(shù)對(duì)分類的結(jié)果有一定的影響，一般先確定一個(gè)初始值，再進(jìn)行調(diào)整，直到找到合適的值為止。此外，為考慮提高性能，可以把所有的數(shù)據(jù)放在內(nèi)存中，如MBR通常指保存在內(nèi)存中的K近鄰算法。缺點(diǎn)是需要大量樣本才能保證數(shù)據(jù)的精度，此外，更主要的是它需要計(jì)算大量的樣本間的距離，導(dǎo)致使用上的不便。根據(jù)在分類中的作用，屬性可以分為條件屬性和目標(biāo)屬性兩種。具體地說(shuō)，每個(gè)步驟的功能如下：(1)模型構(gòu)造分析樣本的類別和其具備的一些特征之間的依賴關(guān)系，并將這種關(guān)系用特定的模型表示出來(lái)。這個(gè)過(guò)程與模型評(píng)價(jià)基本相同，只是輸入數(shù)據(jù)的類別是未知的。第四章 K近鄰法的分類器的設(shè)計(jì)與編程實(shí)現(xiàn) 開(kāi)發(fā)環(huán)境的選擇Matlab是當(dāng)今世界上使用最為廣泛的數(shù)學(xué)軟件，它具有相當(dāng)強(qiáng)大的數(shù)值計(jì)算、數(shù)據(jù)處理、系統(tǒng)分析、圖形顯示，甚至符號(hào)運(yùn)算功能，是一個(gè)完整的數(shù)學(xué)平臺(tái)，在這個(gè)平臺(tái)上，你只需寥寥數(shù)語(yǔ)就可以完成十分復(fù)雜的功能，大大提高了工程分析計(jì)算的效率。終端用戶能夠享受一個(gè)智能化的、個(gè)性化的Internet，它能記住用戶的個(gè)人設(shè)置，并在適當(dāng)?shù)臅r(shí)候，向用戶使用的智能設(shè)備上發(fā)送適當(dāng)?shù)臄?shù)據(jù)[10]。這些類型是bool， byte， ubyte，short， ushort， int， uint，long， ulong， float，double和decimal。(5)參數(shù)傳遞：方法可以被聲明接受可變數(shù)目的參數(shù)。 對(duì)k近鄰算法的程序的探究由前面的分析可知，需要對(duì)K近鄰算法程序的實(shí)現(xiàn)和分類程序包括測(cè)試數(shù)據(jù)集的實(shí)現(xiàn)。%類別數(shù)目if (L Knn), error(39。%SORT(X) sorts the elements of X in ascending order n = hist(samplesY(indices(1:Knn)), Uc)。 [m, best] = max(n)。 result(i) = Uc(best)。它最初是埃德加對(duì)類另外75個(gè)使用k近鄰進(jìn)行識(shí)別結(jié)果如下：類別第一類第二類第三類錯(cuò)誤數(shù)043識(shí)別率100%84%88%總識(shí)別率%下面選取一種改良的k近鄰算法進(jìn)行研究，選取的是遼寧工程技術(shù)大學(xué)的張宇提出的一種k近鄰改進(jìn)算法其主要算法思想如下[3]： 由于k 最近鄰分類器認(rèn)為每個(gè)屬性的作用都是相同的(賦予相同權(quán)值) , 這樣在屬性集包含有許多不相關(guān)屬性時(shí),就會(huì)誤導(dǎo)分類過(guò)程。 該權(quán)重可以隨時(shí)間變化。進(jìn)行人臉圖像識(shí)別研究也具有很大的使用價(jià)依。國(guó)外對(duì)于人臉圖像識(shí)別的研究較早，現(xiàn)己有實(shí)用系統(tǒng)面世，只是對(duì)于成像條件要求較苛刻，應(yīng)用范圍也就較窄，國(guó)內(nèi)也有許多科研機(jī)構(gòu)從事這方而的研究，并己取得許多成果。 = img。 BitmapData data = (new Rectangle(0, 0, w, h), , )。 } (scan, 0, (IntPtr)((int) + * y), )。 ++i) { multimapdouble, string dts。 } } } mapstring, double tds。 type = citsecond。 Peninsula. Bulletin of the American Iris Society. 1935, 59: 2–5[12] Fisher, .. The Use of Multiple Measurements in Taxonomic Problems. Annals of Eugenics. 1936, 7: 179–188. 致謝本文從擬定題目到定稿，歷時(shí)數(shù)月。在論文的寫作過(guò)程中，陳老師給了我許許多多的幫助和關(guān)懷。 }} 小結(jié)由程序運(yùn)行結(jié)果可知，對(duì)于我們?cè)跍y(cè)試時(shí)輸入人臉圖像庫(kù)，得出的結(jié)果同數(shù)據(jù)集的中比較，最后結(jié)果28個(gè)數(shù)據(jù)測(cè)試和數(shù)據(jù)集中結(jié)果不同，因此正確率達(dá)到82%。 double weight = 。 j != dm[i].size()。 } }}（2）識(shí)別圖像使用k近鄰算法對(duì)數(shù)據(jù)集進(jìn)行計(jì)算識(shí)別輸出結(jié)果。 y h。 } catch ( ex) { (載入圖像失??！)。就從目前和將來(lái)來(lái)看，可以預(yù)測(cè)到人臉圖像識(shí)別將具有廣闊的應(yīng)用前景，如表11中所列舉就是其中已經(jīng)實(shí)現(xiàn)或逐步完善的應(yīng)用?，F(xiàn)在己有實(shí)用的計(jì)算機(jī)自動(dòng)指紋識(shí)別系統(tǒng)面世，并在安檢等部門得到應(yīng)用，但還沒(méi)有通用成熟的人臉自動(dòng)識(shí)別系統(tǒng)出現(xiàn)。k近鄰改進(jìn)算法的思想:隨機(jī)選擇屬性子集,構(gòu)建多個(gè)k近鄰分類器,然后對(duì)未分類元組進(jìn)行分類,最后將分類器的分類結(jié)果按照簡(jiǎn)單投票法進(jìn)行組合, 得票最多的分類器的結(jié)果則成為最終組合近鄰分類器的輸出。 組合分類器的方法有很多,其中包括投票法,非投票法,動(dòng)態(tài)法和靜態(tài)法等等。 Peninsula）上的鳶尾屬花朵中提取的地理變異數(shù)據(jù)[11]，后由羅納德Unknown measure function39。 endcase 39。 result(i) = Uc(best)。)endN = size(testsamplesX, 1)。所以我們先對(duì)傳統(tǒng)的k近鄰算法與改進(jìn)的k近鄰算法進(jìn)行探究。ref關(guān)鍵字可以用來(lái)強(qiáng)迫一個(gè)變量通過(guò)引用傳遞，這使得一個(gè)變量可以接受一個(gè)返回值。又象C和C++一樣,每個(gè)數(shù)據(jù)類型都有有符號(hào)和無(wú)符號(hào)兩種類型。C獨(dú)有的特點(diǎn)：(1)中間代碼：微軟在用