Boosting算法研究及在人臉檢測中的應(yīng)用.pdf

1、集成學(xué)習(xí)算法是通過訓(xùn)練多個弱學(xué)習(xí)算法并將其結(jié)合成一個強學(xué)習(xí)算法，通過這種結(jié)合方式，能顯著提高學(xué)習(xí)系統(tǒng)的泛化能力。 Boosting方法是一個通用的、可以提升任何弱學(xué)習(xí)算法的集成學(xué)習(xí) 方法，是目前最流行的集成學(xué)習(xí)方法之一，是集成學(xué)習(xí)算法的最主要代表，在國內(nèi)外得到了廣泛的研究和應(yīng)用，且已經(jīng)有了多種實用形式。本文詳細地分析了Boosting方法的理論實質(zhì)，包括Boosting方法不會發(fā)生過學(xué)習(xí)的原因以及Boosting方法與SVM的關(guān)系，

2、詳細地分析了算法的訓(xùn)練誤差和系統(tǒng)誤差，并從純數(shù)學(xué)的角度證明了上述誤差的上界。分析了原始算法在訓(xùn)練過程中出現(xiàn)的退化現(xiàn)象，提出了限制權(quán) 重擴張的改進方法；針對算法易受噪聲影響所表現(xiàn)的不穩(wěn)定性，提出改進穩(wěn)定性的意見和思路。針對算法在訓(xùn)練過程中非常耗時的問題，提出了將克隆選擇算法結(jié)合到AdaBoost學(xué)習(xí)中，利用克隆選擇算法快速收斂于全局最優(yōu)的特性，加快搜索到更好的新的分類特征。 本文最后提出一種新的基于鏈式Boosting方法