svm調(diào)研報(bào)告范文-(編輯修改稿)
2025-03-30 22:44 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 ht[4]，SMO[5]，LIBSVM[8],HeroSVM[11]等。 盡管SVM算法的性能在許多實(shí)際問(wèn)題的應(yīng)用中得到了驗(yàn)證，但是該算法在計(jì)算上存在著一些問(wèn)題，包括練習(xí)算法速度慢、算法復(fù)雜而難以實(shí)現(xiàn)以及檢測(cè)階段運(yùn)算量大等等。傳統(tǒng)的利用標(biāo)準(zhǔn)二次型優(yōu)化技術(shù)解決對(duì)偶問(wèn)題的方法可能是練習(xí)算法慢的主要原因：首先，SVM方法需要計(jì)算和存儲(chǔ)核函數(shù)矩陣，當(dāng)樣本點(diǎn)數(shù)目較大時(shí)，需要很大的內(nèi)存，例如，當(dāng)樣本點(diǎn)數(shù)目超過(guò)4000時(shí)，存儲(chǔ)核函數(shù)矩陣需要多達(dá)128兆內(nèi)存；其次，SVM在二次型優(yōu)化過(guò)程中要進(jìn)行大量的矩陣運(yùn)算，多數(shù)情況下，優(yōu)化算法是占用算法時(shí)間的主要部分。SVM方法的練習(xí)運(yùn)算速度是限制它的應(yīng)用的主要方面，近年來(lái)人們針對(duì)方法本身的特點(diǎn)提出了許多算法來(lái)解決對(duì)偶優(yōu)化問(wèn)題。大多數(shù)算法的一個(gè)共同的思想就是循環(huán)迭代：將原問(wèn)題分解成為若干子問(wèn)題，按照某種迭代策略，通過(guò)反復(fù)求解子問(wèn)題，最終使結(jié)果收斂到原問(wèn)題的最優(yōu)解。 在真實(shí)世界中分解是解決復(fù)雜問(wèn)題的常用策略，一個(gè)復(fù)雜問(wèn)題分解為很多的子問(wèn)題，而這些子問(wèn)題可以很方便的應(yīng)用一些常用的技術(shù)，而且這些子問(wèn)題聯(lián)合起來(lái)又可以解決原始問(wèn)題，這就是分解理論的意義所在。分解應(yīng)用到SVM中就是在每次迭代過(guò)程中，都將優(yōu)化問(wèn)題中的拉格朗日乘子分為迭代過(guò)程需要改變的自由變量集合B和暫時(shí)不變的固定變量N兩部分，當(dāng)優(yōu)化條件被破壞時(shí)，從B集合中選擇變量進(jìn)行更改，其余的變量保持不變，從而將二次規(guī)劃問(wèn)題進(jìn)行分解。 根據(jù)子問(wèn)題的劃分和迭代策略的不同，又可以大致分為兩類。第一類是所謂的“塊算法[3]”（chunkingalgorithm）。“塊算法”基于的是這樣一個(gè)事實(shí)，即去掉Lagrange乘子等于零的練習(xí)樣本不會(huì)影響原問(wèn)題的解。對(duì)于給定的練習(xí)樣本集，假如其中的支持向量是已知的，優(yōu)化算法就可以排除非支持向量，只需對(duì)支持向量計(jì)算權(quán)值（即Lagrange乘子）即可。實(shí)際上支持向量是
化學(xué)相關(guān)推薦
鄂ICP備17016276號(hào)-1