復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)研究及其應(yīng)用.pdf

1、復(fù)值神經(jīng)網(wǎng)絡(luò)是利用復(fù)值參數(shù)和變量來處理復(fù)值信息的系統(tǒng)，因此在涉及復(fù)值信息時(shí)，如現(xiàn)實(shí)生活中遇到的復(fù)信號(hào)等，復(fù)值神經(jīng)網(wǎng)絡(luò)可發(fā)揮出強(qiáng)大的功能。近幾十年來，學(xué)者們對(duì)復(fù)值神經(jīng)網(wǎng)絡(luò)做了大量的研究工作，并且將其應(yīng)用到了不同領(lǐng)域，包括模式識(shí)別、信號(hào)處理、工程最優(yōu)化、圖像處理、光電子學(xué)、計(jì)算機(jī)視覺和語音合成等。事實(shí)表明，這些應(yīng)用極大地依賴復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為。作為實(shí)值神經(jīng)網(wǎng)絡(luò)的推廣，復(fù)值神經(jīng)網(wǎng)絡(luò)的狀態(tài)、連接權(quán)重和激活函數(shù)都是復(fù)值的，所以兩者之間有很多

2、不同之處。一般來說，復(fù)值神經(jīng)網(wǎng)絡(luò)比實(shí)值網(wǎng)絡(luò)有更加復(fù)雜和優(yōu)異的屬性，從而使得復(fù)值神經(jīng)網(wǎng)絡(luò)可以解決實(shí)值神經(jīng)網(wǎng)絡(luò)所不能解決的問題，如XOR問題和對(duì)稱檢測(cè)問題等。鑒于此，研究復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為并將其應(yīng)用到實(shí)際問題中是極其重要且必要的。本文主要研究了復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為，包括單穩(wěn)定性（μ穩(wěn)定性、漸近穩(wěn)定性和指數(shù)穩(wěn)定性）、多穩(wěn)定性和狀態(tài)估計(jì)的理論研究，同時(shí)，將復(fù)值神經(jīng)網(wǎng)絡(luò)應(yīng)用到聯(lián)想記憶上面，并基于復(fù)值神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)了聯(lián)想記憶算法。主要結(jié)果包

3、含如下幾個(gè)方面:
　　1、研究了幾類復(fù)值遞歸神經(jīng)網(wǎng)絡(luò)的單穩(wěn)定性，包括全局μ-穩(wěn)定性、全局指數(shù)穩(wěn)定性和全局漸近穩(wěn)定性。首先，針對(duì)一類具有泄漏時(shí)滯和無界時(shí)變時(shí)滯的復(fù)值遞歸神經(jīng)網(wǎng)絡(luò)，通過構(gòu)造恰當(dāng)?shù)腖yapunov-Krasovskii泛函并充分利用矩陣自由權(quán)方法，建立了若干確保復(fù)值神經(jīng)網(wǎng)絡(luò)是全局μ-穩(wěn)定的時(shí)滯依賴充分判據(jù)。其次，分析了一類具有時(shí)變時(shí)滯的復(fù)值遞歸神經(jīng)網(wǎng)絡(luò)的全局指數(shù)穩(wěn)定性，基于矩陣測(cè)度方法和Halanay不等式，無需構(gòu)造任何

4、Lyapunov函數(shù)，在不同激活函數(shù)下給出了確保復(fù)值神經(jīng)網(wǎng)絡(luò)達(dá)到全局指數(shù)穩(wěn)定的條件。最后，利用非線性測(cè)度方法和矩陣不等式技巧，考慮了一類具有常時(shí)滯的復(fù)值神經(jīng)網(wǎng)絡(luò)的全局漸近穩(wěn)定性，此外也解決了帶有范數(shù)有界不確定參數(shù)的復(fù)值網(wǎng)絡(luò)的魯棒穩(wěn)定性問題，通過構(gòu)造恰當(dāng)?shù)腖yapunov候選泛函，得到了確保復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)存在、唯一和全局穩(wěn)定的判據(jù)。需要指出的是，在研究復(fù)值遞歸神經(jīng)網(wǎng)絡(luò)的單穩(wěn)定性時(shí)，本文不再要求激活函數(shù)是可導(dǎo)的，并利用與之前相關(guān)結(jié)果不同

5、的方法給出了復(fù)值網(wǎng)絡(luò)單穩(wěn)定性的相關(guān)結(jié)果，所得判據(jù)均可由Matlab工具箱容易地求解。
　　2、探討了幾類時(shí)滯復(fù)值神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性問題。一方面，借助連續(xù)激活函數(shù)的幾何性質(zhì)和不動(dòng)點(diǎn)理論，解決了一類具有實(shí)虛型激活函數(shù)和分布時(shí)滯的復(fù)值神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性問題，所建立的充分性判據(jù)不僅能保證所研究的復(fù)值網(wǎng)絡(luò)存在9n個(gè)平衡點(diǎn)，而且能確保這些平衡點(diǎn)中有4n個(gè)平衡點(diǎn)是局部指數(shù)穩(wěn)定的，此外在一些較寬松的約束下還估計(jì)并擴(kuò)大了此4n個(gè)平衡點(diǎn)的吸引域。另一

6、方面，基于不連續(xù)激活函數(shù)的幾何性質(zhì)和Brouwer不動(dòng)點(diǎn)理論，考慮了一類具有不連續(xù)激活函數(shù)和時(shí)變時(shí)滯的復(fù)值神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性問題，首先定義了具有不連續(xù)激活函數(shù)的時(shí)滯系統(tǒng)的Filippov解，然后通過嚴(yán)格分析得到了確保25n個(gè)平衡點(diǎn)存在（其中9n個(gè)平衡點(diǎn)局部穩(wěn)定且16n-9n個(gè)平衡點(diǎn)不穩(wěn)定）的充分條件，最后估計(jì)并擴(kuò)大了局部穩(wěn)定平衡點(diǎn)的吸引域。值得一提的是，與現(xiàn)有結(jié)果相比，本文在研究復(fù)值神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性時(shí)，不僅分析了復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)的局

7、部穩(wěn)定性、不穩(wěn)定性，而且估計(jì)并擴(kuò)大了局部穩(wěn)定平衡點(diǎn)的吸引域，此外還首次考慮了在激活函數(shù)是不連續(xù)假設(shè)下復(fù)值神經(jīng)網(wǎng)絡(luò)的多穩(wěn)定性問題。
　　3、考慮了（不）確定時(shí)滯復(fù)值神經(jīng)網(wǎng)絡(luò)的狀態(tài)估計(jì)問題。首先，針對(duì)一類具有不確定參數(shù)的時(shí)滯復(fù)值神經(jīng)網(wǎng)絡(luò)，其中不確定參數(shù)是范數(shù)有界的，利用含非線性類利普希茨項(xiàng)的測(cè)量輸出，基于Lyapunov泛函方法和矩陣不等式技巧，給出了確保預(yù)期估計(jì)器增益矩陣存在的時(shí)滯依賴充分條件;并且所設(shè)計(jì)的狀態(tài)估計(jì)器對(duì)所有容許的不確

8、定參數(shù)和時(shí)滯均滿足狀態(tài)誤差系統(tǒng)是全局漸近穩(wěn)定的。其次，利用已知測(cè)量輸出的采樣數(shù)據(jù)信息，分析了具有不確定參數(shù)、混合時(shí)滯和隨機(jī)擾動(dòng)的復(fù)值神經(jīng)網(wǎng)絡(luò)的狀態(tài)估計(jì)問題，其中不確定參數(shù)是范數(shù)有界且隨機(jī)擾動(dòng)為布朗運(yùn)動(dòng);為復(fù)值網(wǎng)絡(luò)模型設(shè)計(jì)了一個(gè)狀態(tài)估計(jì)器，使得對(duì)于所有容許的不確定參數(shù)和采樣測(cè)量輸出，狀態(tài)估計(jì)誤差系統(tǒng)是全局均方漸近穩(wěn)定的。需要說明的是，與相關(guān)文獻(xiàn)相比，本文除了考慮確定性復(fù)值神經(jīng)網(wǎng)絡(luò)的狀態(tài)估計(jì)問題，還同時(shí)考慮了參數(shù)不確定性和隨機(jī)擾動(dòng)對(duì)復(fù)值神經(jīng)

9、網(wǎng)絡(luò)狀態(tài)估計(jì)的影響;其更能真實(shí)反映現(xiàn)實(shí)生活中復(fù)值神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué)行為;此外，在設(shè)計(jì)狀態(tài)估計(jì)器時(shí)，利用了測(cè)量輸出的采樣數(shù)據(jù)信息取代傳統(tǒng)的非采樣測(cè)量輸出信息，降低了時(shí)間功耗成本，提高了系統(tǒng)對(duì)資源的利用效率。
　　4、提出了一種新穎的方法來設(shè)計(jì)具有異步和無界時(shí)滯的復(fù)值神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶算法，得到了保證時(shí)滯復(fù)值神經(jīng)網(wǎng)絡(luò)平衡點(diǎn)存在、唯一和全局指數(shù)穩(wěn)定的充分條件。由于這些條件是以簡(jiǎn)便不等式的形式給出的，所以給復(fù)值網(wǎng)絡(luò)模型的參數(shù)帶來了極高的穩(wěn)健