無約束優(yōu)化問題改進的信賴域方法.pdf

1、信賴域方法是求解無約束優(yōu)化問題的一類重要方法，它不要求Hessian矩陣在每個迭代點處均正定，并適合于求解一些病態(tài)問題，而且它還具有較強的收斂性和魯棒性。由于這些優(yōu)點，對信賴域方法的研究成為當今非線性優(yōu)化領域內(nèi)一個重要研究方向。本文首先研究了一類非單調(diào)線搜索的F-準則。然后針對三類改進的信賴域算法具體給出了算法模型；在合理的假設條件下，對這些方法的全局收斂性和超線性收斂性進行了論證；并給出了數(shù)值試驗。本論文的主要內(nèi)容如下：
　　1

2、.研究了一類求解無約束優(yōu)化問題的非單調(diào)線搜索的F-準則。在強迫函數(shù)和連續(xù)梯度逆模定義的基礎上，給出了新的非單調(diào)線搜索F-準則，證明了這種F-準則是Zhang和Hager所給非單調(diào)線搜索方法的一般形式；同時在較弱的條件下，證明了這種線搜索F-準則是全局收斂的；最后，利用當前迭代點的信息構(gòu)造了一類自調(diào)節(jié)初始步長的非單調(diào)線搜索方法，并給出了這類方法的一些重要性質(zhì)。
　　2.研究了一種求解無約束優(yōu)化問題自適應的信賴域方法。首先構(gòu)造了一種自

3、適應的信賴域方法。在每個迭代點處，我們充分利用當前迭代點和先前迭代點的信息來構(gòu)造信賴域半徑，使得二次函數(shù)模型和目標函數(shù)在當前信賴域內(nèi)具有更好的相似性。對于信賴域半徑的調(diào)整，給出了一個新的調(diào)整策略，該策略利用當前比值和先前比值的一個凸組合。這種自適應的方法不但克服了初始信賴域半徑選取的盲目性，而且降低了問題的復雜性，加快了算法的收斂速度；然后在適當?shù)臈l件下，證明了算法是全局收斂和超線性收斂的；最后，對所給算法進行了數(shù)值試驗，結(jié)果表明新的自

4、適應信賴域方法是非常有效的。
　　3.基于錐模型信賴域子問題，并結(jié)合非單調(diào)技巧，提出了一種非單調(diào)自適應的錐模型信賴域方法。在迭代的過程中，算法不要求函數(shù)值在每一步都下降，特別是對于目標函數(shù)存在彎曲峽谷的情形，非單調(diào)性能加快算法的收斂速度。對于非二次性態(tài)較強或曲率改變比較劇烈的目標函數(shù)，錐模型能夠?qū)瘮?shù)的極小值產(chǎn)生較好的預測，彌補了二次模型方法的缺陷。在合理的假設條件下，證明了算法是全局收斂的，并對單調(diào)信賴域方法、二次模型信賴域方法

5、和非單調(diào)錐模型信賴域方法進行了數(shù)值試驗，結(jié)果表明該方法是可行的和穩(wěn)定的。
　　4.以錐模型信賴域子問題為基礎，研究了一種帶線搜索的非單調(diào)錐模型信賴域方法。在每個迭代點處，優(yōu)先使用非單調(diào)錐模型信賴域方法，當試探步不能被接受時，使用非單調(diào)線搜索尋找下一個迭代點。從而在每個迭代點處，只需要求解一次子問題就可以得到成功的迭代點，這種情形可以避免過大的計算量，加快算法的收斂速度。在適當?shù)臈l件下，證明了這種算法是全局收斂和超線性收斂的。數(shù)值試