BFGS算法的最優(yōu)化問(wèn)題及在MATLAB中的實(shí)現(xiàn)

蔣華杰

摘 要：對(duì)擬牛頓方法中的BFGS算法進(jìn)行闡述，基于matlab軟件對(duì)非線性無(wú)約束優(yōu)化問(wèn)題進(jìn)行了仿真研究，結(jié)果表明利用matlab軟件解答非線性無(wú)約束優(yōu)化問(wèn)題獲得了良好的效果，為求解非線性無(wú)約束優(yōu)化問(wèn)題提供了一種新的方法。

關(guān)鍵詞：BFGS算法 MATLAB軟件 非線性

中圖分類號(hào)：O224 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1674-098X（2014）06（b）-0088-01

1 優(yōu)化問(wèn)題的建立

在機(jī)械工程實(shí)踐中，常常會(huì)遇到在眾多方案中如何選擇最佳方案的問(wèn)題，這類問(wèn)題在數(shù)學(xué)上被稱為最優(yōu)化問(wèn)題[1]，最優(yōu)化問(wèn)題在實(shí)踐中有著廣泛的運(yùn)用，如何得到最優(yōu)方案是工程人員關(guān)心的最主要問(wèn)題。

在數(shù)學(xué)上，優(yōu)化問(wèn)題的基本目標(biāo)形式為：

，

，

其中，是待求的目標(biāo)函數(shù)，是約束函數(shù)，是條件函數(shù)。在優(yōu)化問(wèn)題中，根據(jù)目標(biāo)函數(shù)、約束函數(shù)、條件函數(shù)及其變量的不同，可以分為線性優(yōu)化、非線性優(yōu)化等，該文利用求解優(yōu)化問(wèn)題的BFGS算法來(lái)討論非線性優(yōu)化問(wèn)題[2]。

2 BFGS算法的基本思想

BFGS算法用來(lái)求解無(wú)約束問(wèn)題，它由Broyden、Fletcher、Goldfarb 和Shanno四人一起提出[3]。BFGS算法收斂速度快，收斂精度高，是目前求解優(yōu)化問(wèn)題中最普遍的算法。BPGS方法局部收斂理論較為完善，全局收斂性也有重要進(jìn)展。尤其是在研究凸函數(shù)的極小化問(wèn)題上，采用精確的線性搜索，BFGS方法全局收斂。其基本思想是：

在，中取

修正矩陣為秩2矩陣，由擬牛頓方程得，。滿足

上式的向量和不唯一，可取和分別平行于和，即令，。將和的表達(dá)式帶入上式中整理后得，。故可令，，。從而得到BFGS秩2修正公式如下：

3 算例

用BFGS算法求解奇異函數(shù)

的最小值點(diǎn)。

對(duì)于fminunc函數(shù)，Options（6）為控制搜索方向，取默認(rèn)值0時(shí)，是BFGS算法。Options（7）為控制插值法，取默認(rèn)值0時(shí)是混合插值，取 1時(shí)為立方插值。

4 結(jié)語(yǔ)

該文總結(jié)了BFGS算法的基本思想，給出了具體算例，并利用MATLAB語(yǔ)言通過(guò)算例對(duì)其進(jìn)行了仿真分析。其結(jié)果表明，BFGS算法收斂快，計(jì)算量少，是擬牛頓法中最有效的方法之一。

參考文獻(xiàn)

[1] 時(shí)平平.關(guān)于無(wú)約束最優(yōu)化問(wèn)題的擬牛頓算法研究[D].太原科技大學(xué)，2008.

[2] 袁功林，韋增欣，魯習(xí)文.一個(gè)修改的求解非線性對(duì)稱方程組的高斯—— 牛頓BFGS方法[J].廣西科學(xué)，2006（4）：288-292.

[3] 劉陶文.BFGS方法及其在求解約束優(yōu)化問(wèn)題中的應(yīng)用[D].湖南大學(xué)，2006.endprint

摘 要：對(duì)擬牛頓方法中的BFGS算法進(jìn)行闡述，基于matlab軟件對(duì)非線性無(wú)約束優(yōu)化問(wèn)題進(jìn)行了仿真研究，結(jié)果表明利用matlab軟件解答非線性無(wú)約束優(yōu)化問(wèn)題獲得了良好的效果，為求解非線性無(wú)約束優(yōu)化問(wèn)題提供了一種新的方法。

關(guān)鍵詞：BFGS算法 MATLAB軟件 非線性

中圖分類號(hào)：O224 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1674-098X（2014）06（b）-0088-01

1 優(yōu)化問(wèn)題的建立

在機(jī)械工程實(shí)踐中，常常會(huì)遇到在眾多方案中如何選擇最佳方案的問(wèn)題，這類問(wèn)題在數(shù)學(xué)上被稱為最優(yōu)化問(wèn)題[1]，最優(yōu)化問(wèn)題在實(shí)踐中有著廣泛的運(yùn)用，如何得到最優(yōu)方案是工程人員關(guān)心的最主要問(wèn)題。

在數(shù)學(xué)上，優(yōu)化問(wèn)題的基本目標(biāo)形式為：

，

，

其中，是待求的目標(biāo)函數(shù)，是約束函數(shù)，是條件函數(shù)。在優(yōu)化問(wèn)題中，根據(jù)目標(biāo)函數(shù)、約束函數(shù)、條件函數(shù)及其變量的不同，可以分為線性優(yōu)化、非線性優(yōu)化等，該文利用求解優(yōu)化問(wèn)題的BFGS算法來(lái)討論非線性優(yōu)化問(wèn)題[2]。

2 BFGS算法的基本思想

BFGS算法用來(lái)求解無(wú)約束問(wèn)題，它由Broyden、Fletcher、Goldfarb 和Shanno四人一起提出[3]。BFGS算法收斂速度快，收斂精度高，是目前求解優(yōu)化問(wèn)題中最普遍的算法。BPGS方法局部收斂理論較為完善，全局收斂性也有重要進(jìn)展。尤其是在研究凸函數(shù)的極小化問(wèn)題上，采用精確的線性搜索，BFGS方法全局收斂。其基本思想是：

在，中取

修正矩陣為秩2矩陣，由擬牛頓方程得，。滿足

上式的向量和不唯一，可取和分別平行于和，即令，。將和的表達(dá)式帶入上式中整理后得，。故可令，，。從而得到BFGS秩2修正公式如下：

3 算例

用BFGS算法求解奇異函數(shù)

的最小值點(diǎn)。

對(duì)于fminunc函數(shù)，Options（6）為控制搜索方向，取默認(rèn)值0時(shí)，是BFGS算法。Options（7）為控制插值法，取默認(rèn)值0時(shí)是混合插值，取 1時(shí)為立方插值。

4 結(jié)語(yǔ)

該文總結(jié)了BFGS算法的基本思想，給出了具體算例，并利用MATLAB語(yǔ)言通過(guò)算例對(duì)其進(jìn)行了仿真分析。其結(jié)果表明，BFGS算法收斂快，計(jì)算量少，是擬牛頓法中最有效的方法之一。

參考文獻(xiàn)

[1] 時(shí)平平.關(guān)于無(wú)約束最優(yōu)化問(wèn)題的擬牛頓算法研究[D].太原科技大學(xué)，2008.

[2] 袁功林，韋增欣，魯習(xí)文.一個(gè)修改的求解非線性對(duì)稱方程組的高斯—— 牛頓BFGS方法[J].廣西科學(xué)，2006（4）：288-292.

[3] 劉陶文.BFGS方法及其在求解約束優(yōu)化問(wèn)題中的應(yīng)用[D].湖南大學(xué)，2006.endprint

摘 要：對(duì)擬牛頓方法中的BFGS算法進(jìn)行闡述，基于matlab軟件對(duì)非線性無(wú)約束優(yōu)化問(wèn)題進(jìn)行了仿真研究，結(jié)果表明利用matlab軟件解答非線性無(wú)約束優(yōu)化問(wèn)題獲得了良好的效果，為求解非線性無(wú)約束優(yōu)化問(wèn)題提供了一種新的方法。

關(guān)鍵詞：BFGS算法 MATLAB軟件 非線性

中圖分類號(hào)：O224 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1674-098X（2014）06（b）-0088-01

1 優(yōu)化問(wèn)題的建立

在機(jī)械工程實(shí)踐中，常常會(huì)遇到在眾多方案中如何選擇最佳方案的問(wèn)題，這類問(wèn)題在數(shù)學(xué)上被稱為最優(yōu)化問(wèn)題[1]，最優(yōu)化問(wèn)題在實(shí)踐中有著廣泛的運(yùn)用，如何得到最優(yōu)方案是工程人員關(guān)心的最主要問(wèn)題。

在數(shù)學(xué)上，優(yōu)化問(wèn)題的基本目標(biāo)形式為：

，

，

其中，是待求的目標(biāo)函數(shù)，是約束函數(shù)，是條件函數(shù)。在優(yōu)化問(wèn)題中，根據(jù)目標(biāo)函數(shù)、約束函數(shù)、條件函數(shù)及其變量的不同，可以分為線性優(yōu)化、非線性優(yōu)化等，該文利用求解優(yōu)化問(wèn)題的BFGS算法來(lái)討論非線性優(yōu)化問(wèn)題[2]。

2 BFGS算法的基本思想

BFGS算法用來(lái)求解無(wú)約束問(wèn)題，它由Broyden、Fletcher、Goldfarb 和Shanno四人一起提出[3]。BFGS算法收斂速度快，收斂精度高，是目前求解優(yōu)化問(wèn)題中最普遍的算法。BPGS方法局部收斂理論較為完善，全局收斂性也有重要進(jìn)展。尤其是在研究凸函數(shù)的極小化問(wèn)題上，采用精確的線性搜索，BFGS方法全局收斂。其基本思想是：

在，中取

修正矩陣為秩2矩陣，由擬牛頓方程得，。滿足

上式的向量和不唯一，可取和分別平行于和，即令，。將和的表達(dá)式帶入上式中整理后得，。故可令，，。從而得到BFGS秩2修正公式如下：

3 算例

用BFGS算法求解奇異函數(shù)

的最小值點(diǎn)。

對(duì)于fminunc函數(shù)，Options（6）為控制搜索方向，取默認(rèn)值0時(shí)，是BFGS算法。Options（7）為控制插值法，取默認(rèn)值0時(shí)是混合插值，取 1時(shí)為立方插值。

4 結(jié)語(yǔ)

該文總結(jié)了BFGS算法的基本思想，給出了具體算例，并利用MATLAB語(yǔ)言通過(guò)算例對(duì)其進(jìn)行了仿真分析。其結(jié)果表明，BFGS算法收斂快，計(jì)算量少，是擬牛頓法中最有效的方法之一。

參考文獻(xiàn)

[1] 時(shí)平平.關(guān)于無(wú)約束最優(yōu)化問(wèn)題的擬牛頓算法研究[D].太原科技大學(xué)，2008.

[2] 袁功林，韋增欣，魯習(xí)文.一個(gè)修改的求解非線性對(duì)稱方程組的高斯—— 牛頓BFGS方法[J].廣西科學(xué)，2006（4）：288-292.

[3] 劉陶文.BFGS方法及其在求解約束優(yōu)化問(wèn)題中的應(yīng)用[D].湖南大學(xué)，2006.endprint