基于數(shù)值計算方法的BP神經(jīng)網(wǎng)絡及遺傳算法的優(yōu)化研究.pdf

1、人工神經(jīng)網(wǎng)絡和遺傳算法都是將生物學原理應用于計算機科學的仿生學理論成果。由于它們具有極強的解決問題的能力，近年來引起了眾多學者的興趣與參與，已成為學術(shù)界跨學科的熱門專題之一。 在人工神經(jīng)網(wǎng)絡的實際應用中，約90％的人工神經(jīng)網(wǎng)絡模型都是采用BP網(wǎng)絡或者是它的變化形式，它也是前饋網(wǎng)絡的核心部分，BP網(wǎng)絡廣泛應用于函數(shù)逼近、模式識別/分類、數(shù)據(jù)壓縮等。現(xiàn)已成為人工智能研究的重要領(lǐng)域之一。然而，由于BP算法是一種梯度下降搜索方法，因而不

2、可避免地存在固有的不足，如收斂速度慢、易陷入誤差函數(shù)的局部極小點，對于較大的搜索空間，多峰值和不可微函數(shù)不能有效搜索到全局極小點。 遺傳算法作為一種智能化的全局搜索算法，自80年代問世以來便在數(shù)值優(yōu)化、系統(tǒng)控制、結(jié)構(gòu)優(yōu)化設(shè)計等諸多領(lǐng)域的應用中展現(xiàn)出其特有的魅力，同時也暴露出許多不足和缺陷。如完全依賴概率隨機地進行操作，雖然可以避免陷入局部極小，但受尋優(yōu)條件的限制，一般只能得到全局范圍內(nèi)的近似最優(yōu)解，很難得到最優(yōu)解；對參數(shù)采用二進

3、制編碼，人為地將連續(xù)空間離散化，導致了計算精度與字符串長度、運算量之間的矛盾；采用隨機優(yōu)化技術(shù)，所以要花費大量的時間；算法在交叉、變異的進化過程中隨機性較強，致使搜索效率低下，具體表現(xiàn)為進化迭代過程中會出現(xiàn)子代最優(yōu)個體劣于父代最優(yōu)個體的“退化”現(xiàn)象：遺傳算法雖然具有很強的全局搜索能力，但其局部搜索能力較弱(易出現(xiàn)早熟收斂現(xiàn)象)。 本文主要工作： (1)對BP神經(jīng)網(wǎng)絡的缺陷進行分析研究，針對BP神經(jīng)網(wǎng)絡收斂度慢的不足，對經(jīng)

4、典BP網(wǎng)絡的單極性Sigmoid傳輸函數(shù)和雙極性Sigmoid函數(shù)進行數(shù)學分析，給出二者不同的數(shù)學性質(zhì)和它們的優(yōu)先選擇方法。 (2)利用數(shù)值計算優(yōu)化方法對BP神經(jīng)網(wǎng)絡進行改進，提高其收斂速度，本文分別用擬牛頓法、最優(yōu)步長法和共軛梯度法對BP神經(jīng)網(wǎng)絡學習法進行改進，對各種改進方法進行分析比較，給出各自適用的網(wǎng)絡規(guī)模，并對其收斂性進行分析證明。 (3)利用數(shù)值計算優(yōu)化方法對遺傳算法的交叉算子、變異算子、編碼方式及適應度函數(shù)等

5、進行分析研究，給出了基于一維極小化問題的最優(yōu)策略(Fibonacci法)和近似最優(yōu)策略(黃金分割法)的交叉和變異算子。 (4)將擅長全局搜索的遺傳算法和局部尋優(yōu)能力較強的BP算法結(jié)合起來，根據(jù)GA的交叉、變異和選擇算子在全變量空間以較大概率搜索全局解和在解的點附近利用BP神經(jīng)網(wǎng)絡能快速、精確地收斂的特點，融合二者的優(yōu)點，將二者有機結(jié)合，利用遺傳算法同時訓練神經(jīng)網(wǎng)絡權(quán)值和拓撲結(jié)構(gòu)，可以辟免陷入局部極小值，提高算法收斂速度，很快得到