基于改進型GEP的BP神經(jīng)網(wǎng)絡優(yōu)化設計.pdf

1、進化算法（Evolutionary algorithm,EA）與人工神經(jīng)網(wǎng)絡（artificial neural network，ANN）是兩種基于自然生物理論的人工智能算法，因其在求解某些特定問題時具有的優(yōu)越性能而得到了廣泛的研究與應用。進化算法具有良好的全局搜索能力并且擁有較好的通用性，故而已成為機器學習、優(yōu)化搜索、函數(shù)發(fā)現(xiàn)等領域的有力工具；而人工神經(jīng)網(wǎng)絡所具有的自適應性、非線性、并行性、魯棒性以及學習和聯(lián)想等功能使它在模式識別、信

2、號處理、預測優(yōu)化等領域得到廣泛的應用。隨著兩種算法快速發(fā)展，其研究也不斷深入，它們的應用領域也出現(xiàn)了一定的交叉和重疊，這兩種基于生物規(guī)則的算法表現(xiàn)出明顯的融合趨勢，并儼然形成了一個新的研究領域——進化神經(jīng)網(wǎng)絡。
　　進化算法受達爾文生物進化理論啟發(fā)，通過對初始種群進行選擇、交叉、變異等遺傳操作，從而進化得到最優(yōu)的個體?；虮磉_式編程（Gene expression programming, GEP）是2001年Ferreira提出

3、的一種新的進化計算算法，它可以通過簡單編碼解決復雜問題，克服了遺傳算法（Genetic algorithm,GA）和遺傳編程（Genetic programming,GP）的不足。它具有同進化算法一樣的全局搜索能力，但同樣很難找到局部最優(yōu)解。BP神經(jīng)網(wǎng)絡（BP neural network,BP-NN）本質上是一種梯度下降法，故有較強的局部搜索能力，同時作為最早提出的訓練多層網(wǎng)絡的有效算法而得到廣泛應用，但其計算量大、收斂速度慢、對初始

4、值敏感、易陷于局部最優(yōu)解。
　　針對GEP與BP各自的問題，本文深入分析兩種算法的特點，通過優(yōu)勢互補，探討兩種算法融合的問題。首先，探討通過GEP設計BP神經(jīng)網(wǎng)絡的編碼方案，使用帶有權值域和閾值域數(shù)組的染色體表示神經(jīng)網(wǎng)絡；之后，根據(jù)GEP設計神經(jīng)網(wǎng)絡的特點，對GEP標準算法的遺傳操作進行自適應的改進，提出了基于動態(tài)進化GEP的BP神經(jīng)網(wǎng)絡優(yōu)化算法（IGEP-BP）；同時，針對算法結合后帶來的網(wǎng)絡層次性缺失問題，進行算法的改進與分析