基于語法引導(dǎo)遺傳編程的神經(jīng)樹的研究與應(yīng)用.pdf

1、研究表明人工神經(jīng)網(wǎng)絡(luò)由于其大規(guī)模并行處理、容錯性、自組織和自適應(yīng)能力和聯(lián)想功能強等特點,成為解決很多問題的有力工具,并且已經(jīng)廣泛應(yīng)用在函數(shù)逼近、系統(tǒng)識別和控制、信號和圖像處理及時間序列預(yù)測等許多科學和工程領(lǐng)域. 在神經(jīng)網(wǎng)絡(luò)的研究課題中,最重要的一個問題是怎樣選擇合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)以及相關(guān)參數(shù).神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值等參數(shù)可以用許多方法學習得到,如誤差反向傳播算法,遺傳算法,進化編程和隨機搜索算法等.通常神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)決定著它的性能,網(wǎng)絡(luò)結(jié)

2、構(gòu)是用節(jié)點之間是否連接的方式來表明的,但網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計目前還沒有規(guī)律可循.對于同一個問題的解決,可能存在多個結(jié)構(gòu)不同且性能不同的神經(jīng)網(wǎng)絡(luò).根據(jù)具體的問題,所設(shè)計的神經(jīng)網(wǎng)絡(luò)可能是多個隱含層和輸入輸出層,每個神經(jīng)元的激勵函數(shù)可以是不同的,但是有些時候則可能是輸入層和輸出層直接連接而沒有中間層.近年來許多學者致力于實現(xiàn)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)的自動優(yōu)化的研究.本文研究的神經(jīng)樹就是一種網(wǎng)絡(luò)結(jié)構(gòu)和相關(guān)參數(shù)自動優(yōu)化的神經(jīng)網(wǎng)絡(luò)系統(tǒng),這是由于它是采用樹結(jié)構(gòu)編

3、碼的,一些基于樹結(jié)構(gòu)編碼的優(yōu)化算法,如遺傳編程、螞蟻編程和概率遞增編程等,可被用來優(yōu)化神經(jīng)樹的結(jié)構(gòu),而再結(jié)合一些參數(shù)優(yōu)化算法就可以實現(xiàn)結(jié)構(gòu)和參數(shù)的自動優(yōu)化. 本文系統(tǒng)地介紹了神經(jīng)網(wǎng)絡(luò)、基于語法引導(dǎo)遺傳編程和神經(jīng)樹的基本理論、構(gòu)成和實現(xiàn)方法,在總結(jié)前人研究的基礎(chǔ)上,提出了用基于語法引導(dǎo)的遺傳編程來進化神經(jīng)樹結(jié)構(gòu)的實現(xiàn)方法.具體內(nèi)容如下: (1)對神經(jīng)網(wǎng)絡(luò)的基本理論進行了詳細的綜述.首先概述了神經(jīng)網(wǎng)絡(luò)的特點、產(chǎn)生和發(fā)展歷史;

4、著重介紹了神經(jīng)網(wǎng)絡(luò)的基本思想、研究領(lǐng)域和應(yīng)用發(fā)展情況,然后從理論和應(yīng)用研究上綜述神經(jīng)網(wǎng)絡(luò)的研究現(xiàn)狀,總結(jié)了神經(jīng)網(wǎng)絡(luò)設(shè)計中的難點問題. (2)介紹了基于語法引導(dǎo)的遺傳編程.首先概述了進化算法的基本思想,重點介紹了遺傳算法和遺傳編程的基本理論,然后闡述了基于上下文無關(guān)語法模型的遺傳編程和基于隨機概率語法模型的遺傳編程的定義和實現(xiàn)方法. (3)研究了神經(jīng)樹的特點和實現(xiàn)方法.分別介紹了采用基于上下文無關(guān)語法模型的遺傳編程和基于隨