魯洋為,王振杰
用U曲線法確定嶺估計(jì)中的嶺參數(shù)
魯洋為,王振杰
(中國(guó)石油大學(xué)(華東) 地球科學(xué)與技術(shù)學(xué)院,山東 青島 266580)
在嶺估計(jì)中,嶺參數(shù)的確定是關(guān)鍵。本文針對(duì)嶺估計(jì)中嶺參數(shù)確定困難的問題,提出采用U曲線法確定嶺參數(shù),并將U曲線法與L曲線法、GCV法進(jìn)行了比較,結(jié)果表明:用U曲線法確定嶺參數(shù)能獲得較高精度的解,與L曲線法及GCV法相比,具有一定的優(yōu)勢(shì)。
嶺估計(jì);嶺參數(shù);U曲線法;L曲線法;GCV法
在測(cè)量數(shù)據(jù)處理中,一般采用有偏估計(jì)來改善病態(tài)條件下的最小二乘解,其中嶺估計(jì)是常用的方法[1-8]。在嶺估計(jì)中,嶺參數(shù)的選擇是關(guān)鍵,不同的嶺參數(shù),解算的結(jié)果會(huì)有所差別。目前,嶺參數(shù)的確定方法主要有嶺跡法[9-10]、廣義交叉核實(shí)法(generalized cross validation,GCV)[11-13]和L曲線法[14-18]。嶺跡法比較直觀,但是具有一定的主觀性;GCV法在理論上能夠獲取最優(yōu)的嶺參數(shù),但有時(shí)GCV函數(shù)的變化過于平緩,定位其最小值很困難[9-10];L曲線法可以比較容易的獲得嶺參數(shù),并且能夠得到比較精確的解,但L曲線法存在求解結(jié)果過于依賴曲線擬合精度[19]、求解過程可能不收斂等缺點(diǎn)[20]。本文研究采用U曲線法來確定嶺參數(shù)[19-22],并通過算例,將U曲線法與L曲線法、GCV法進(jìn)行了比較,分析了U曲線法的性能,得出了一些有益的結(jié)論。
1.1 嶺估計(jì)的原理
設(shè)有觀測(cè)方程
L=AX+Δ
(1)
(2)
由式(1)和式(2)可得嶺估計(jì)的解為
(3)
1.2U曲線法的基本原理
嶺參數(shù)的選擇方法很多,其中最常用的方法是GCV法[11]和L曲線法[14-15]。GCV法確定嶺參數(shù),則要求GCV函數(shù)的最小值,由(1)、式(3)得GCV函數(shù)為:
(4)
式(4)中,H(α)=A(ATPA+αI)-1ATP,n為觀測(cè)值個(gè)數(shù),tr為矩陣的跡。
當(dāng)式(4)取最小值時(shí)的α即為GCV法所確定的嶺參數(shù),GCV法的優(yōu)點(diǎn)是,當(dāng)式(4)的最小值存在時(shí),可以選擇一個(gè)最優(yōu)的嶺參數(shù);它的缺點(diǎn)是,GCV函數(shù)有時(shí)變化過于平緩,這時(shí)定位它的最小值很困難。
U曲線法與L曲線法有所不同,U曲線法根據(jù)定義的U(α)函數(shù),得到U(α)-α曲線,曲線左側(cè)曲率最大點(diǎn)的α即為U曲線法所確定的嶺參數(shù)。U曲線函數(shù)的定義為:
(5)
U曲線法和L曲線法的關(guān)鍵都是定位曲線中曲率最大的點(diǎn),對(duì)于U曲線,其曲率可以表示為:
(6)
式(6)中,U(α)′、U(α)″分別為U(α)的一階導(dǎo)數(shù)和二階導(dǎo)數(shù),并且
(7)
(8)
式(7)、式(8)中x(α)、y(α)的一階導(dǎo)數(shù)、二階導(dǎo)數(shù)x(α)′、x(α)″、y(α)′、y(α)″的計(jì)算可參考文獻(xiàn)[21]。
由文獻(xiàn)[19,21]可知,U(α)函數(shù)具有以下性質(zhì):
(1)U曲線在區(qū)間 (0,)內(nèi)嚴(yán)格遞減,在區(qū)間(,+∞)內(nèi)嚴(yán)格遞增;
(2)U曲線在區(qū)間(,)內(nèi)存在局部極小值,并且當(dāng)設(shè)計(jì)矩陣A只有一個(gè)非零奇異值時(shí),U(α)存在唯一的極小值;
采用U曲線法確定嶺參數(shù)時(shí),對(duì)式(6)在區(qū)間 (,)內(nèi)求最大值,定位出U曲線左側(cè)曲率的最大值點(diǎn),該點(diǎn)所對(duì)應(yīng)的α即為所求的嶺參數(shù)。
由以上分析可以看出,U曲線法不需要進(jìn)行曲線擬合,其計(jì)算量要小于L曲線法的計(jì)算量,也不會(huì)出現(xiàn)曲線發(fā)散,無法確定嶺參數(shù)的現(xiàn)象,與L曲線法及GCV法相比,U曲線法更適合用于確定嶺參數(shù)。
圖1 用U曲線法確定嶺參數(shù)的示意圖
合;GCV法在本例中也能夠準(zhǔn)確的定位出GCV函數(shù)的最小值點(diǎn),確定嶺參數(shù),沒有出現(xiàn)發(fā)散的現(xiàn)象。
圖2 用L曲線法確定嶺參數(shù)的示意圖
圖3 用GCV法確定嶺參數(shù)的示意圖
基于這三種方法的嶺估計(jì)結(jié)果如表1所示,可以看出,基于L曲線法和GCV法的嶺估計(jì)解算的未知數(shù)估值與真值之差的二范數(shù)分別為:0.356 1、0.373 3,即L曲線法略優(yōu)于GCV法;而基于U曲線法的嶺估計(jì)解算出的未知參數(shù)的估值與真值之差的二范數(shù)為0.270 6,其精度明顯優(yōu)于L曲線法和GCV法的精度。
表1 嶺參數(shù)及‖△‖
U曲線法具有理論嚴(yán)密,定位準(zhǔn)確的特點(diǎn),與L曲線法相比,具有計(jì)算量小,不需要進(jìn)行曲線擬合的優(yōu)勢(shì);與GCV法和L曲線法不同,U曲線法不會(huì)出現(xiàn)無法確定嶺參數(shù)的現(xiàn)象;基于U曲線法的嶺估計(jì)結(jié)果的精度優(yōu)于基于L曲線法、GCV法的嶺估計(jì)結(jié)果的精度,值得進(jìn)一步研究與推廣應(yīng)用。
[1] HOERL A E,KENNARD R W.Ridge Regression:Biased Estimation for Non-orthogonal Problems[J].Technometrics,1970,12(1):55-67.
[2] 崔希璋,於宗儔,陶本藻,等.廣義測(cè)量平差[M].武漢:武漢大學(xué)出版社,2000.
[3] 歸慶明,李國(guó)重.嶺壓縮組合估計(jì)及其在測(cè)量平差中的應(yīng)用[J].大地測(cè)量與地球動(dòng)力學(xué),2002,22(1):16-21.
[4] 王樂洋,許才軍,魯鐵定.病態(tài)加權(quán)總體最小二乘平差的嶺估計(jì)解法[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2010,35(11):1346-1350.
[5] 丁海勇,楊延珍,王新志,等.基于移動(dòng)曲面擬合方法的GPS高程轉(zhuǎn)換[J].大地測(cè)量與地球動(dòng)力學(xué),2010,30(6):1-4.
[6] 何峰,王剛,劉利等.地球靜止軌道衛(wèi)星廣播星歷參數(shù)擬合與試驗(yàn)分析[J].測(cè)繪學(xué)報(bào),2011,40(增刊):52-58.
[7] 韓松輝,杜蘭,歸慶明,等.診斷復(fù)共線性的特征分析法及其在GEO定軌中的應(yīng)用[J].測(cè)繪學(xué)報(bào),2013,42(1):19-26.
[8] 趙坷,付政慶,劉國(guó)林.加權(quán)半?yún)?shù)模型及其應(yīng)用效果分析[J].大地測(cè)量與地球動(dòng)力學(xué),2014,34(2):100-104.
[9] 王振杰.大地測(cè)量中不適定問題的正則化解法研究[D].武漢:中國(guó)科學(xué)院測(cè)量與地球物理研究所,2003.
[10]王振杰,歐吉坤.用L-曲線確定嶺估計(jì)中的嶺參數(shù)[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2004,29(3):235-238.
[11]GOLUB G H,HEATH M,WAHBA G.Generalized Cross-validation as a Method for Choosing a Good Ridge Parameter[J].Technometrics.1979,21(2):215-223.
[12]王樂洋,許才軍.附有病態(tài)約束反演問題的嶺估計(jì)法[J].測(cè)繪學(xué)報(bào),2011,36(5):612-616.
[13]王劭逸.基于GCV方法的線性回歸模型嶺參數(shù)估計(jì)[D].合肥:中國(guó)科學(xué)技術(shù)大學(xué),2012.
[14]HANSEN P C.Analysis of Discrete Ill-posed Problems by Means of the L-curve[J].SIAM Review,1992,34(4):561-580.
[15]HANSEN P C,O’LEARY D P.The Use of the L-curve in the Regularization of Discrete Ill-posed Problems[J].SIAM J.Sci.Comput,1993,14(6):1487-1503.
[16]袁修孝,林先勇.基于嶺估計(jì)的有理多項(xiàng)式參數(shù)求解方法[J].測(cè)繪學(xué)報(bào),2008,33(11):1130-1133.
[17]王彬,高井祥,劉超,等.L曲線法在等價(jià)權(quán)抗差嶺估計(jì)模型中的應(yīng)用[J].大地測(cè)量與地球動(dòng)力學(xué),2012,32(3):97-101.
[18]劉斌,龔健雅,江萬壽,等.基于嶺參數(shù)的譜修正迭代法及其在有理多項(xiàng)式參數(shù)求解中的應(yīng)用[J].測(cè)繪學(xué)報(bào),2012,37(4):399-402.
[19]袁強(qiáng)強(qiáng),沈煥鋒,李平湘,等.自適應(yīng)正則化多幅影像超分辨率重建[J].中國(guó)圖像圖形學(xué)報(bào),2010,15(12):1720-1727.
[20]XU Pei-liang.Truncated SVD Methods for Discrete Linear Ill-posed Problems[J].Geophysics Journal International,1998(135):505-514.
[21]KRAWCZYK-STADO D,RUDNICKI M.Regularization Parameter Selection in Discrete-ill Posed Problems- the U-curve[J].Int.J.Appl.Match.Comput.Sci,2007,17(2):157-164.
[22]CHAMORRO-SERVENT J,AGUIRRE J,RIPOLL J,et al.Feasibility of U-curve Method to Select the Regularization Parameter for Fluorescence Diffuse Optical Tomography in Phantom and Small Animal Studies[J].Optics Express,2011,19(12):11490-11506.
Determining the Ridge Parameter in Ridge Estimation Using U-curve Method
LUYang-wei,WANGZhen-jie
(School of Geosciences,China University of Petroleum,Qingdao 266580,China)
The determination of ridge parameter is a key problem in ridge estimation,and the U-curve method is used to determine ridge parameter in this paper.We also compare the U-curve method with L-curve method and GCV method using an example and the results show that the U-curve method can get higher accuracy and have an advantage over L-curve method and GCV method.
ridge estimation;ridge parameter;U-curve method;L-curve method;GCV method
魯洋為,王振杰.用U曲線法確定嶺估計(jì)中的嶺參數(shù)[J].導(dǎo)航定位學(xué)報(bào),2015,3(3):132-134+138.(LU Yang-wei,WANG Zhen-jie.Determining the Ridge Parameter in Ridge Estimation Using U-curve Method[J].Journal of Navigation and Positioning,2015,3(3):132-134+138.)
10.16547/j.cnki.10-1096.20150326.
2015-05-18
國(guó)家自然科學(xué)基金(41374008)。
魯洋為(1990—),男,陜西安康人,碩士生,研究方向?yàn)镚NSS定位與測(cè)量數(shù)據(jù)處理。
P228
A
2095-4999(2015)-03-0132-03