信賴域算法中的若干調(diào)比技巧.pdf

1、信賴域算法是求解非線性優(yōu)化問(wèn)題的一類重要的迭代方法，它可以解決非線性方程、非線性估計(jì)、無(wú)約束和約束優(yōu)化以及非光滑優(yōu)化問(wèn)題。此外，在大規(guī)模優(yōu)化問(wèn)題中，信賴域算法也有很好的應(yīng)用價(jià)值。信賴域算法由于其在收斂性和穩(wěn)定性方面的優(yōu)點(diǎn)，近二十年來(lái)得到最優(yōu)化學(xué)者的廣泛關(guān)注。 信賴域算法的發(fā)展可以追溯到Levenberg和Marquardt對(duì)于非線性最小二乘問(wèn)題的研究?，F(xiàn)在大部分關(guān)于信賴域的算法都致力于考慮如何解決子問(wèn)題，以更好地提高算法效率。如

2、果單純考慮子問(wèn)題，從理論觀點(diǎn)來(lái)看，引入調(diào)比矩陣是沒(méi)有意義的，也即對(duì)子問(wèn)題算法的構(gòu)造和分析時(shí)，選擇Dk=I即可。但是為了較好地解決信賴域問(wèn)題，我們希望尋找一個(gè)更可“信賴”的區(qū)域，使得二次模型在這個(gè)區(qū)域內(nèi)能夠充分接近目標(biāo)函數(shù)。因此，考慮到實(shí)際問(wèn)題中的目標(biāo)函數(shù)的性態(tài)往往十分“糟糕”，調(diào)比矩陣的引入將是十分必要也是十分重要的。本文中，假設(shè)二次模型能夠較為準(zhǔn)確地反映目標(biāo)函數(shù)的一階和二階導(dǎo)數(shù)信息，我們提出利用這些信息構(gòu)造調(diào)比矩陣Dk來(lái)調(diào)整“信賴域”