多層前饋神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)及應(yīng)用.pdf

1、目前，采用BP算法的多層前饋神經(jīng)網(wǎng)絡(luò)在模式識(shí)別、控制工程、信號(hào)處理和經(jīng)濟(jì)預(yù)測(cè)等各個(gè)領(lǐng)域有著廣泛的應(yīng)用。但是BP算法有三個(gè)本質(zhì)的缺點(diǎn)：收斂速度慢，易陷入局部極小和網(wǎng)絡(luò)容錯(cuò)性差。本文針對(duì)其缺陷對(duì)算法進(jìn)行了改進(jìn)。 首先，本文對(duì)BP神經(jīng)網(wǎng)絡(luò)模型和算法進(jìn)行了系統(tǒng)的綜述。針對(duì)標(biāo)準(zhǔn)BP算法存在的缺陷，對(duì)BP神經(jīng)網(wǎng)絡(luò)模型輸出神經(jīng)元過(guò)早飽和的機(jī)理進(jìn)行了分析和研究。在數(shù)學(xué)理論上深入分析了BP神經(jīng)網(wǎng)絡(luò)輸出神經(jīng)元出現(xiàn)過(guò)早飽和現(xiàn)象的內(nèi)在機(jī)制，提出了相關(guān)定

2、理并加以證明。 其次，本文介紹了包含學(xué)習(xí)率、動(dòng)量因子和比例因子的三項(xiàng)BP算法，詳細(xì)推導(dǎo)出網(wǎng)絡(luò)學(xué)習(xí)參數(shù)的最優(yōu)估計(jì)公式。并從理論上分析了三項(xiàng)BP算法的復(fù)雜性，其結(jié)果是：最優(yōu)學(xué)習(xí)參數(shù)的三項(xiàng)BP算法不需要太大的計(jì)算量和內(nèi)存，算法優(yōu)于兩項(xiàng)BP算法，并能有效提高網(wǎng)絡(luò)的學(xué)習(xí)性能。 最后，通過(guò)分析隱層神經(jīng)元飽和度對(duì)網(wǎng)絡(luò)性能的影響，構(gòu)造了新的誤差函數(shù)，同時(shí)設(shè)計(jì)了一種自適應(yīng)調(diào)節(jié)的放大誤差信號(hào)方法，得到新改進(jìn)的BP學(xué)習(xí)算法。該算法流程簡(jiǎn)單，不