徐明明
(成都理工大學,四川 成都610059)
傳統(tǒng)的求解無約束優(yōu)化問題的迭代方法是行搜索方法或信賴域方法。很多學者通過改進信賴域半徑以及非單調(diào)項來提高信賴域方法的魯棒性以及加快收斂速度。
考慮無約束優(yōu)化問題:
在傳統(tǒng)信賴域方法中,通過解決以下子問題,選擇一個試驗步驟dk:
其中g(shù)k∈Rn和Hk∈Rn分別是在當前迭代點xk處f(x)的梯度和Hessian 矩陣的近似。||·||是歐氏范數(shù),δk>0 是當前迭代點的信賴域半徑。
在這一部分中,提出了一種新的非單調(diào)自適應信賴域算法,該算法是基于文獻[1]中提出的非球面信賴域半徑與文獻[2]中提出的一種新的非單調(diào)比率。
在文獻[1]中,作者提出了一種非球面信賴域的非單調(diào)信賴域算法。
首先,介紹了一種基于Hessian 矩陣在當前迭代點的特征值,然后將非單調(diào)搜索策略與信任區(qū)域方法相結(jié)合。其算法如下:
將λki設置為在迭代點xk處Hessian 矩陣Hk的第i 個特征值。通過Ger觢gorin Circle theorem,得到:
然后,在迭代點xk處的第i 維中的非球面信賴域的尺度可以由
確定。也就是說,試驗步驟dk在(2)中的第i 個元素dki在[-δki,δki]中是有界的。
利用(4),可以將球面信賴域轉(zhuǎn)換為非球面信賴域。因此,子問題(2)轉(zhuǎn)換為
為了進一步調(diào)整信賴域,引入了以下兩個參數(shù):
為了提高信賴域算法的計算效率以及增強收斂性,文獻[2]提出來一種新的非單調(diào)項:
其中
其中是滿足下列條件的正序列:
信賴域比率如下:
基于以上兩種方法,本文提出了新的信賴域算法:
Step3:在迭代點xk處求解子問題(5)。
Step4:計算fk+1,通過(4)計算δki,
Step6:令xk+1=xk+dk,mk=min{k,M},k:=k+1 轉(zhuǎn)Step2。
本文提出的新的非單調(diào)自適應信賴域算法,是文獻[1]與文獻[2]的優(yōu)點的一個融合。以后,會對本算法進行進一步的研究。