【正文】 怎 么確定呢？它們的大小是試出來的（參數(shù)調(diào)優(yōu)），但是他們的比例可以有些方法來確定。咱們先假定說C+是5這么大，那確定C的 一個(gè)很直觀的方法就是使用兩類樣本數(shù)的比來算，對(duì)應(yīng)到剛才舉的例子，C就可以定為500這么大（因?yàn)?10，000：100=100：1嘛）。 但是這樣并不夠好，回看剛才的圖，你會(huì)發(fā)現(xiàn)正類之所以可以“欺負(fù)”負(fù)類，其實(shí)并不是因?yàn)樨?fù)類樣本 少，真實(shí)的原因是負(fù)類的樣本分布的不夠廣（沒擴(kuò)充到負(fù)類本應(yīng)該有的區(qū)域）。說一個(gè)具體點(diǎn)的例子，現(xiàn)在想給政治類和體育類的文章做分類，政治類文章很多，而 體育類只提供了幾篇關(guān)于籃球的文章，這時(shí)分類會(huì)明顯偏向于政治類，如果要給體育類文章增加樣本，但增加的樣本仍然全都是關(guān)于籃球的（也就是說，沒有足球， 排球，賽車，游泳等等），那結(jié)果會(huì)怎樣呢？雖然體育類文章在數(shù)量上可以達(dá)到與政治類一樣多，但過于集中了，結(jié)果仍會(huì)偏向于政治類！所以給C+和C確 定比例更好的方法應(yīng)該是衡量他們分布的程度。比如可以算算他們?cè)诳臻g中占據(jù)了多大的體積，例如給負(fù)類找一個(gè)超球——就是高維空間里的球啦——它可以包含所 有負(fù)類的樣本，再給正類找一個(gè)，比比兩個(gè)球的半徑，就可以大致確定分布的情況。顯然半徑大的分布就比較廣，就給小一點(diǎn)的懲罰因子。 但是這 樣還不夠好，因?yàn)橛械念悇e樣本確實(shí)很集中，這不是提供的樣本數(shù)量多少的問題，這是類別本身的特征（就是某些話題涉及的面很窄，例如計(jì)算機(jī)類的文章就明顯不 如文化類的文章那么“天馬行空”），這個(gè)時(shí)候即便超球的半徑差異很大，也不應(yīng)該賦予兩個(gè)類別不同的懲罰因子。 看到這里讀者一定瘋了，因?yàn)?說來說去，這豈不成了一個(gè)解決不了的問題？然而事實(shí)如此，完全的方法是沒有的，根據(jù)需要，選擇實(shí)現(xiàn)簡(jiǎn)單又合用的就好（例如libSVM就直接使用樣本數(shù)量 的比）。 SVM入門（十）將SVM用于多類分類從 SVM的那幾張圖可以看出來，SVM是一種典型的兩類分類器，即它只回答屬于正類還是負(fù)類的問題。而現(xiàn)實(shí)中要解決的問題，往往是多類的問題（少部分例外， 例如垃圾郵件過濾，就只需要確定“是”還是“不是”垃圾郵件），比如文本分類，比如數(shù)字識(shí)別。如何由兩類分類器得到多類分類器，就是一個(gè)值得研究的問題。 還以文本分類為例，現(xiàn)成的方法有很多，其中一種一勞永逸的方法，就是真的一次性考慮所有樣本，并求解一個(gè)多目標(biāo)函數(shù)的優(yōu)化問題，一次性得到 多個(gè)分類面，就像下圖這樣： 多個(gè)超平面把空間劃分為多個(gè)區(qū)域，每個(gè)區(qū)域?qū)?yīng)一個(gè)類別，給一篇文章，看它落在哪個(gè)區(qū)域就知道了它的分類。 看起來很美對(duì)不對(duì)？只可惜這種算法還基本停留在紙面上，因?yàn)橐淮涡郧蠼獾姆椒ㄓ?jì)算量實(shí)在太大，大到無法實(shí)用的地步。 稍稍退一步，我們就會(huì)想到所謂“一類對(duì)其余”的方法，就是每次仍然解一個(gè)兩類分類的問題。比如我們有5個(gè)類別，第一次就把類別1的樣本定為 正樣本，其余2，3，4，5的樣本合起來定為負(fù)樣本，這樣得到一個(gè)兩類分類器，它能夠指出一篇文章是還是不是第1類的；第二次我們把類別2 的樣本定為正樣本，把1，3，4，5的樣本合起來定為負(fù)樣本，得到一個(gè)分類器，如此下去，我們可以得到5個(gè)這樣的兩類分類器（總是和類別的數(shù)目一致）。到 了有文章需要分類的時(shí)候，我們就拿著這篇文章挨個(gè)分類器的問：是屬于你的么？是屬于你的么？哪個(gè)分類器點(diǎn)頭說是了，文章的類別就確定了。這種方法的好處是 每個(gè)優(yōu)化問題的規(guī)模比較小，而且分類的時(shí)候速度很快（只需要調(diào)用5個(gè)分類器就知道了結(jié)果）。但有時(shí)也會(huì)出現(xiàn)兩種很尷尬的情況，例如拿一篇文章問了一圈，每 一個(gè)分類器都說它是屬于它那一類的，或者每一個(gè)分類器都說它不是它那一類的，前者叫分類重疊現(xiàn)象，后者叫不可分類現(xiàn)象。分類重疊倒還好辦，隨便選一個(gè)結(jié)果 都不至于太離譜，或者看看這篇文章到各個(gè)超平面的距離，哪個(gè)遠(yuǎn)就判給哪個(gè)。不可分類現(xiàn)象就著實(shí)難辦了，只能把它分給第6個(gè)類別了……更要命的是，本來各個(gè) 類別的樣本數(shù)目是差不多的，但“其余”的那一類樣本數(shù)總是要數(shù)倍于正類（因?yàn)樗浅愐酝馄渌悇e的樣本之和嘛），這就人為的造成了上一節(jié)所說的“數(shù)據(jù) 集偏斜”問題。 因此我們還得再退一步，還是解兩類分類問題，還是每次選一個(gè)類的樣本作正類樣本，而負(fù)類樣本則變成只選一個(gè)類（稱為“一對(duì)一單挑”的方法， 哦，不對(duì)，沒有單挑，就是“一對(duì)一”的方法，呵呵），這就避免了偏斜。因此過程就是算出這樣一些分類器，第一個(gè)只回答“是第1類還是第2類”，第二個(gè)只回 答“是第1類還是第3類”，第三個(gè)只回答“是第1類還是第4類”，如此下去，你也可以馬上得出，這樣的分類器應(yīng)該有5 X 4/2=10個(gè)（通式是，如果有k個(gè)類別，則總的兩類分類器數(shù)目為k(k1)/2）。雖然分類器的數(shù)目多了，但是在訓(xùn)練階段（也就是算出這些分類器的分 類平面時(shí)）所用的總時(shí)間卻比“一類對(duì)其余”方法少很多，在真正用來分類的時(shí)候，把一篇文章扔給所有分類器，第一個(gè)分類器會(huì)投票說它是“1”或者“2”，第 二個(gè)會(huì)說它是“1”或者“3”，讓每一個(gè)都投上自己的一票，最后統(tǒng)計(jì)票數(shù)，如果類別“1”得票最多，就判這篇文章屬于第1類。這種方法顯然也會(huì)有分類重疊 的現(xiàn)象，但不會(huì)有不可分類現(xiàn)象，因?yàn)榭偛豢赡芩蓄悇e的票數(shù)都是0?？雌饋韷蚝妹?？其實(shí)不然，想想分類一篇文章，我們調(diào)用了多少個(gè)分類器？10個(gè)，這還是 類別數(shù)為5的時(shí)候，類別數(shù)如果是1000，要調(diào)用的分類器數(shù)目會(huì)上升至約500,000個(gè)（類別數(shù)的平方量級(jí)）。這如何是好？ 看來我們必須再退一步，在分類的時(shí)候下功夫，我們還是像一對(duì)一方法那樣來訓(xùn)練，只是在對(duì)一篇文章進(jìn)行分類之前，我們先按照下面圖的樣子來組 織分類器（如你所見，這是一個(gè)有向無環(huán)圖，因此這種方法也叫做DAG SVM） 這樣在分類時(shí),我們就可以先問分類器“1對(duì)5”（意思是它能夠回答“是第1類還是第5類”），如果它回答5，我們就往左走，再問“2對(duì)5” 這個(gè)分類器，如果它還說是“5”，我們就繼續(xù)往左走，這樣一直問下去，就可以得到分類結(jié)果。好處在哪？我們其實(shí)只調(diào)用了4個(gè)分類器（如果類別數(shù)是k，則只 調(diào)用k1個(gè)），分類速度飛快，且沒有分類重疊和不可分類現(xiàn)象！缺點(diǎn)在哪？假如最一開始的分類器回答錯(cuò)誤（明明是類別1的文章，它說成了5），那么后面的 分類器是無論如何也無法糾正它的錯(cuò)誤的（因?yàn)楹竺娴姆诸惼鲏焊鶝]有出現(xiàn)“1”這個(gè)類別標(biāo)簽），其實(shí)對(duì)下面每一層的分類器都存在這種錯(cuò)誤向下累積的現(xiàn)象。 不過不要被DAG方法的錯(cuò)誤累積嚇倒，錯(cuò)誤累積在一對(duì)其余和一對(duì)一方法中也都存在，DAG方法好于它們的地方就在于，累積的上限，不管是大 是小，總是有定論的，有理論證明。而一對(duì)其余和一對(duì)一方法中，盡管每一個(gè)兩類分類器的泛化誤差限是知道的，但是合起來做多類分類的時(shí)候，誤差上界是多少， 沒人知道，這意味著準(zhǔn)確率低到0也是有可能的，這多讓人郁悶。 而且現(xiàn)在DAG方法根節(jié)點(diǎn)的選?。ㄒ簿褪侨绾芜x第一個(gè)參與分類的分類器），也有一些方法可以改善整體效果，我們總希望根節(jié)點(diǎn)少犯錯(cuò)誤為好， 因此參與第一次分類的兩個(gè)類別，最好是差別特別特別大，大到以至于不太可能把他們分錯(cuò)；或者我們就總?cè)≡趦深惙诸愔姓_率最高的那個(gè)分類器作根節(jié)點(diǎn)，或者 我們讓兩類分類器在分類的時(shí)候，不光輸出類別的標(biāo)簽，還輸出一個(gè)類似“置信度”的東東，當(dāng)它對(duì)自己的結(jié)果不太自信的時(shí)候，我們就不光按照它的輸出走，把它 旁邊的那條路也走一走，等等。 大Tips：SVM的計(jì)算復(fù)雜度 使用SVM進(jìn)行分類的時(shí)候，實(shí)際上是訓(xùn)練和分類兩個(gè)完全不同的過程，因而討論復(fù)雜度就不能一概而論，我們這里所說的主要是訓(xùn)練階段的復(fù)雜 度，即解那個(gè)二次規(guī)劃問題的復(fù)雜度。對(duì)這個(gè)問題的解，基本上要?jiǎng)澐譃閮纱髩K，解析解和數(shù)值解。 解析解就是理論上的解，它的形式是表達(dá)式，因此它是精確的，一個(gè)問題只要有解（無解的問題還跟著摻和什么呀，哈哈），那它的解析解是一定存 在的。當(dāng)然存在是一回事，能夠解出來，或者可以在可以承受的時(shí)間范圍內(nèi)解出來，就是另一回事了。對(duì)SVM來說，求得解析解的時(shí)間復(fù)雜度最壞可以達(dá)到O(Nsv3)， 其中Nsv是支持向量的個(gè)數(shù)，而雖然沒有固定的比例，但支持向量的個(gè)數(shù)多少也和訓(xùn)練集的大小有關(guān)。 數(shù)值解就是可以使用的解，是一個(gè)一個(gè)的數(shù)，往往都是近似解。求數(shù)值解的過程非常像窮舉法，從一個(gè)數(shù)開始，試一試它當(dāng)解效果怎樣，不滿足一定 條件（叫做停機(jī)條件，就是滿足這個(gè)以后就認(rèn)為解足夠精確了，不需要繼續(xù)算下去了）就試下一個(gè)，當(dāng)然下一個(gè)數(shù)不是亂選的，也有一定章法可循。有的算法，每次 只嘗試一個(gè)數(shù)，有的就嘗試多個(gè)，而且找下一個(gè)數(shù)字（或下一組數(shù)）的方法也各不相同，停機(jī)條件也各不相同，最終得到的解精度也各不相同，可見對(duì)求數(shù)值解的復(fù) 雜度的討論不能脫開具體的算法。 一個(gè)具體的算法，BunchKaufman訓(xùn)練算法，典型的時(shí)間復(fù)雜度在O(Nsv3+LNsv2+dLNsv) 和O(dL2)之間，其中Nsv是支持向量的個(gè)數(shù)，L是訓(xùn)練集樣本的個(gè)數(shù)，d是每個(gè)樣本的維數(shù)（原始的維 數(shù)，沒有經(jīng)過向高維空間映射之前的維數(shù)）。復(fù)雜度會(huì)有變化，是因?yàn)樗还飧斎雴栴}的規(guī)模有關(guān)（不光和樣本的數(shù)量，維數(shù)有關(guān)），也和問題最終的解有關(guān)（即 支持向量有關(guān)），如果支持向量比較少，過程會(huì)快很多，如果支持向量很多，接近于樣本的數(shù)量，就會(huì)產(chǎn)生O(dL2)這個(gè)十分糟糕的結(jié) 果（給10，000個(gè)樣本，每個(gè)樣本1000維，基本就不用算了，算不出來，呵呵，而這種輸入規(guī)模對(duì)文本分類來說太正常了）。 這樣再回頭看就會(huì)明白為什么一對(duì)一方法盡管要訓(xùn)練的兩類分類器數(shù)量多，但總時(shí)間實(shí)際上比一對(duì)其余方法要少了，因?yàn)橐粚?duì)其余方法每次訓(xùn)練都考 慮了所有樣本（只是每次把不同的部分劃分為正類或者負(fù)類而已），自然慢上很多。