基于改進PSO的BP網(wǎng)絡的研究及應用.pdf

1、BP(Back Propagation)網(wǎng)絡的傳統(tǒng)BP算法和Widow-Hoff學習規(guī)則一樣屬于一種梯度下降學習算法，其權值的修正是沿著誤差性能函數(shù)梯度的反方向進行的，由于實際應用的高維復雜性，BP網(wǎng)絡采用傳統(tǒng)BP算法存在訓練速度慢甚至導致網(wǎng)絡系統(tǒng)癱瘓的問題。針對傳統(tǒng)BP算法存在的一些不足，出現(xiàn)了基于遺傳算法(Genetic Algorithm，GA)、粒子群算法(Particle Swarm Optimization,PSO)等BP網(wǎng)

2、絡的學習訓練算法。特別是粒子群算法的應用，進一步加快了BP網(wǎng)絡的學習速度。 粒子群算法不要求目標函數(shù)具有連續(xù)性，且它的搜索具有全局性和并行性，所以算法簡單，收斂速度快，且不再有GA算法的選擇、交叉、變異等復雜操作。但對高維復雜問題，粒子群算法易早熟收斂，無法保證收斂到最優(yōu)點。 在借鑒前人的研究基礎上，本文對粒子群算法的收斂性進行了研究，并根據(jù)遺傳變異能增加種群多樣性的特性給出了改進型算法，即自適應變異粒子群算法(Part

3、icle Swarm Optimization with Adaptive Mutation，AMPSO)。AMPSO算法以自然界和物理界的基本原理為導向，并根據(jù)環(huán)境的變化，通過提高種群多樣性的方法使算法獲得持續(xù)搜索能力，克服了PSO算法的早熟收斂現(xiàn)象。 最后，本文將AMPSO算法作為BP網(wǎng)絡的學習訓練函數(shù)，建立了基于AMPSO算法的BP網(wǎng)絡。并把該BP網(wǎng)絡應用于入侵檢測技術中，通過KDD99 CUP數(shù)據(jù)集分別對基于不同算法的B