新的基于優(yōu)化間隔分布的AdaBoost算法.pdf

1、數(shù)據(jù)挖掘中主要內(nèi)容為分類，聚類，預(yù)測等。本文主要研究數(shù)據(jù)挖掘中的分類算法，以 PAC為理論學(xué)習(xí)依據(jù)，提出的集成算法。這種算法是通過尋找一些比隨機(jī)猜測稍好的一些分類器，將他們通過加權(quán)投票原則組合成強(qiáng)分類器，這就避免了直接尋找一個(gè)分類準(zhǔn)確率較高的分類器。
　　文章介紹了集成算法中經(jīng)典算法，主要是AdaBoost算法和一種改進(jìn)后的AdaBoost算法，分析了泛化誤差與分類器的間隔之間的聯(lián)系。同時(shí)Breiman提出了算法的泛化性能取決于最

2、大化最小間隔，并給出Arc-Gv算法；Schapire提出算法的泛化性能取決于間隔分布的定理，隨后研究者發(fā)現(xiàn)一個(gè)好的優(yōu)化間隔分布對于泛化性能尤為重要，提出了優(yōu)化間隔分布的AdaBoost-QP算法。
　　研究者提出了AdaBoost-QP算法的思想——在間隔滿足高斯分布的前提下，建立一個(gè)優(yōu)化間隔分布的模型。本文主要是依據(jù)此思想對一種改進(jìn)后的AdaBoost算法進(jìn)行優(yōu)化間隔分布。利用改進(jìn)后的AdaBoost算法每次迭代產(chǎn)生的分類器，