神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的自動(dòng)生成方法研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)技術(shù)從興起到現(xiàn)在經(jīng)歷了幾番波折。從最先的啟蒙時(shí)期到高潮時(shí)期，再到后來(lái)的低潮時(shí)期與現(xiàn)在的復(fù)興時(shí)期?？梢哉f(shuō)人工神經(jīng)網(wǎng)絡(luò)的研究是當(dāng)今熱點(diǎn)之一。生物的神經(jīng)系統(tǒng)，是自然進(jìn)化的結(jié)果，然而人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)大部分是人為預(yù)先設(shè)計(jì)好的，功能具有一定的局限性。研究人工神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的自動(dòng)生成，其意義不止在于創(chuàng)造新的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型以及解決實(shí)際的問(wèn)題上，更是對(duì)智能本源的探索。目前對(duì)于神經(jīng)網(wǎng)絡(luò)的自動(dòng)生成技術(shù)研究主要集中在兩個(gè)方向：一是模擬自然進(jìn)化過(guò)

2、程，結(jié)合進(jìn)化計(jì)算理論演化網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)；二是使用搜索技術(shù)，根據(jù)待解決問(wèn)題設(shè)置合理的啟發(fā)式條件，引導(dǎo)搜索的過(guò)程。本文在前人研究成果的基礎(chǔ)上，對(duì)神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)演化方法展開(kāi)了以下研究：
　　 1.對(duì)神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)進(jìn)化算法-NEAT進(jìn)行了改進(jìn)，減少了生成網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的冗余度，提高了算法運(yùn)行效率，并通過(guò)倒立擺平衡試驗(yàn)進(jìn)行了驗(yàn)證。該算法適用于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的自動(dòng)生成。
　　 2.引入了一種特殊的神經(jīng)網(wǎng)絡(luò)模型——二值邏輯神經(jīng)網(wǎng)

3、絡(luò)；提出了二值邏輯神經(jīng)網(wǎng)絡(luò)運(yùn)算模型的改進(jìn)措施，加快了二值邏輯神經(jīng)網(wǎng)絡(luò)的運(yùn)算效率，減少了權(quán)值和閾值搜索的空間范圍。
　　 3.提出了適用于二值邏輯神經(jīng)網(wǎng)絡(luò)的自動(dòng)化結(jié)構(gòu)生成算法-基于遺傳算法的二值邏輯神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)生成，并通過(guò)迷宮路徑覆蓋實(shí)驗(yàn)證實(shí)了算法的有效性。然而由于遺傳算法本身的局限性，實(shí)驗(yàn)結(jié)果并未達(dá)到預(yù)期的要求。
　　 4.為了克服遺傳算法自身的局限性，提出了二值邏輯神經(jīng)網(wǎng)絡(luò)自動(dòng)生成的新途徑-基于啟發(fā)式信息的二值邏輯神經(jīng)