基于決策樹統(tǒng)合方法的最小最大模塊化網(wǎng)絡(luò)及其在專利分類中的運(yùn)用.pdf

1、超大規(guī)模的模式識(shí)別問(wèn)題是現(xiàn)在機(jī)器學(xué)習(xí)算法在實(shí)際應(yīng)用中遇到的越來(lái)越多的一個(gè)難題。隨著信息時(shí)代的到來(lái)，現(xiàn)實(shí)中這種大規(guī)模問(wèn)題是很常見(jiàn)的，例如專利分類問(wèn)題。即便是像支持向量機(jī)這樣高效率的學(xué)習(xí)算法，面對(duì)超大規(guī)模的分類問(wèn)題，也是難以克服的。在這種情況下，利用豐富的計(jì)算資源，使得機(jī)器學(xué)習(xí)并行化，是當(dāng)前機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)重要發(fā)展方向。最小最大模塊化支持向量機(jī)(M3-SVM)是基于“分而治之”的思想解決大規(guī)模問(wèn)題的有效的學(xué)習(xí)算法。它通過(guò)分解大規(guī)模問(wèn)題，使

2、之轉(zhuǎn)化為大量小規(guī)模問(wèn)題進(jìn)行學(xué)習(xí)，并通過(guò)有效的分類器集成方法將它們重新組合成為大規(guī)模問(wèn)題的原解，該算法具有天生的并行適應(yīng)性。為了降低M3-SVM在模塊統(tǒng)合階段的時(shí)間復(fù)雜度，我們?cè)谠械姆菍?duì)稱選擇和對(duì)稱選擇等分類器選擇方法的基礎(chǔ)上，提出了基于決策樹的分類器選擇算法。實(shí)驗(yàn)證明，決策樹選擇算法在分類效果上與原方法相似。但是大大提高了訓(xùn)練的復(fù)雜度。在此基礎(chǔ)上，我們又提出了決策樹訓(xùn)練數(shù)據(jù)的選擇方法。該方法大大降低的決策樹訓(xùn)練的時(shí)間，同時(shí)也降低的決策