基于決策樹統(tǒng)合方法的最小最大模塊化網(wǎng)絡(luò)及其在專利分類中的運用.pdf

1、超大規(guī)模的模式識別問題是現(xiàn)在機器學(xué)習(xí)算法在實際應(yīng)用中遇到的越來越多的一個難題。隨著信息時代的到來，現(xiàn)實中這種大規(guī)模問題是很常見的，例如專利分類問題。即便是像支持向量機這樣高效率的學(xué)習(xí)算法，面對超大規(guī)模的分類問題，也是難以克服的。在這種情況下，利用豐富的計算資源，使得機器學(xué)習(xí)并行化，是當前機器學(xué)習(xí)領(lǐng)域的一個重要發(fā)展方向。最小最大模塊化支持向量機(M3-SVM)是基于“分而治之”的思想解決大規(guī)模問題的有效的學(xué)習(xí)算法。它通過分解大規(guī)模問題，使

2、之轉(zhuǎn)化為大量小規(guī)模問題進行學(xué)習(xí)，并通過有效的分類器集成方法將它們重新組合成為大規(guī)模問題的原解，該算法具有天生的并行適應(yīng)性。為了降低M3-SVM在模塊統(tǒng)合階段的時間復(fù)雜度，我們在原有的非對稱選擇和對稱選擇等分類器選擇方法的基礎(chǔ)上，提出了基于決策樹的分類器選擇算法。實驗證明，決策樹選擇算法在分類效果上與原方法相似。但是大大提高了訓(xùn)練的復(fù)雜度。在此基礎(chǔ)上，我們又提出了決策樹訓(xùn)練數(shù)據(jù)的選擇方法。該方法大大降低的決策樹訓(xùn)練的時間，同時也降低的決策