非光滑優(yōu)化問題的拉格朗日神經(jīng)網(wǎng)絡研究.pdf

1、如今在科學和工程領域中,如信號處理、最優(yōu)控制、統(tǒng)計、模式識別等等都常會用到最優(yōu)化問題。神經(jīng)網(wǎng)絡方法為解決最優(yōu)化問題提供了一個有效的發(fā)展方向,通過使用具備高度并行計算能力的相對簡單的神經(jīng)網(wǎng)絡體系結構,即使相對復雜的最優(yōu)化問題也可以得到實時解決。在過去的三十年,研究者們對解決最優(yōu)化問題提出了很多神經(jīng)網(wǎng)絡模型,使得光滑最優(yōu)化問題得到了很好的解決,但是在實際應用中往往是非光滑最優(yōu)化問題更具一般性和普遍性。本文研究利用拉格朗日神經(jīng)網(wǎng)絡模型解決非光

2、滑最優(yōu)化問題,具體內容如下:
　　文中首先針對目標函數(shù)是局部Lipschitz函數(shù)的非光滑最優(yōu)化問題,其可行域由一組等式約束的光滑凸函數(shù)組成,通過引進光滑逼近技術將目標函數(shù)由非光滑函數(shù)轉換成相應的光滑函數(shù),進而構造一類基于拉格朗日乘子理論的神經(jīng)網(wǎng)絡,以尋找滿足約束條件的最優(yōu)解。證明了神經(jīng)網(wǎng)絡的平衡點集合是原始非光滑最優(yōu)化問題關鍵點集合的一個子集;當原始問題的目標函數(shù)是凸函數(shù)時,最小點集合與神經(jīng)網(wǎng)絡的平衡點集合是一致的等結論。最后,

3、通過Matlab編程進行仿真實驗驗證了理論結果。
　　其次,傳統(tǒng)的罰函數(shù)神經(jīng)網(wǎng)絡方法解決最優(yōu)化問題在計算上有很大的困難,增廣拉格朗日神經(jīng)網(wǎng)絡有效的解決了這種計算上的困難。文中采用拉格朗日乘子理論和罰函數(shù)方法相結合構造微分包含的增廣拉格朗日神經(jīng)網(wǎng)絡,用來解決目標函數(shù)是局部Lipschitz函數(shù),可行域由一組等式約束函數(shù)組成的非光滑最優(yōu)化問題。
　　最后,通過把約束函數(shù)合并到一個修正目標函數(shù)中來處理約束。相比已經(jīng)存在的基于罰函數(shù)