小生境粒子群優(yōu)化算法及其在多分類器集成中的應用研究.pdf

1、粒子群優(yōu)化算法(Parficle Swarm Optimization)起源于對鳥群、魚群以及對某些社會行為的模擬，是一種基于群體智能的進化計算技術。而小生境技術則起源于遺傳算法，這種方法能使基于群體的隨機優(yōu)化算法形成物種，從而使相應的優(yōu)化算法具有發(fā)現(xiàn)多個最優(yōu)解的能力。而多分類器集成技術則是通過多個分類器進行某種組合來決定最終的分類，以取得比單個分類器更好的性能。多分類器集成技術要求基元分類器不僅個體性能要好并且其差異度要大，這與小生境

2、技術形成物種的能力具有很多內在的相似性。目前已經(jīng)有研究者將小生境技術應用于多分類器集成，但由于傳統(tǒng)的小生境技術仍然不完善，存在一些內在的缺陷，因而這些應用還不成熟和完善。 本文首先回顧了PSO算法及小生境技術的發(fā)展歷史、研究現(xiàn)狀和存在的問題，然后提出了一些對傳統(tǒng)小生境技術改進的思想。全文的主要研究工作可以概括如下： 1．首次提出了在小生境技術中需要一種顯式的探索信息交換機制，并根據(jù)這種機制首先實現(xiàn)了一種自適應串行小生境粒

3、子群優(yōu)化算法，該算法能避免傳統(tǒng)串行小生境算法的一些內在缺陷，特別是對小生境參數(shù)的依賴性。 2．對小生境粒子群優(yōu)化算法探索信息交換機制做了進一步的拓展，并分析了探索信息交換在復雜多模優(yōu)化問題中的必要性。提出了探索信息交換不僅應該用串行方式，而且還應該以并行方式進行，即在小生境技術中，探索信息應該是動態(tài)互相交換的?；谶@些思想，本文實現(xiàn)了一種多子群并行小生境粒子群優(yōu)化算法，該算法不僅集成了自適應串行小生境算法的探索信息交換的優(yōu)點，同

4、時具有并行小生境算法的運行速度，整個算法的運行效率得到了顯著的提高。 3．創(chuàng)造性地提出了一種集成多層選擇模型(Ensemble multilayer pruningmodel)。普通的集成分類器選擇方法，通常只能獲得一個最優(yōu)集成，在這種情況下，一些具有有用信息的基分類器將可能丟失。而在多層模型中，每一層中將有多種不同的選擇集成，因而能夠充分利用每一個基元分類器的有用信息。 4．將提出的多子群小生境粒子群優(yōu)化算法和分類器多