胡 川,陳 義,2
1.同濟(jì)大學(xué)測(cè)繪與地理信息學(xué)院,上海 200092;2.現(xiàn)代工程測(cè)量國(guó)家測(cè)繪地理信息局重點(diǎn)實(shí)驗(yàn)室,上海 200092
非線性整體最小平差迭代算法
胡 川1,陳 義1,2
1.同濟(jì)大學(xué)測(cè)繪與地理信息學(xué)院,上海 200092;2.現(xiàn)代工程測(cè)量國(guó)家測(cè)繪地理信息局重點(diǎn)實(shí)驗(yàn)室,上海 200092
整體最小二乘法不僅考慮觀測(cè)向量的誤差而且還考慮系數(shù)矩陣的誤差,平差理論相對(duì)更為嚴(yán)密。在研究經(jīng)典整體最小二乘法的基礎(chǔ)之上,對(duì)系數(shù)矩陣元素是表達(dá)式或函數(shù)情況的非線性整體最小二乘模型進(jìn)行了描述,用拉格朗日極值條件式推導(dǎo)了基于牛頓型解法的非線性整體最小二乘平差計(jì)算公式,并設(shè)計(jì)了一種對(duì)應(yīng)的迭代算法。最后設(shè)計(jì)了兩組模擬試驗(yàn)分析在觀測(cè)向量和系數(shù)矩陣的輸入向量等精度觀測(cè)和非等精度觀測(cè)兩種情況下參數(shù)和驗(yàn)后方差的估計(jì)特點(diǎn)。試驗(yàn)結(jié)果表明,非線性整體最小二乘平差法獲得的參數(shù)估計(jì)值比最小二乘平差法獲得的估計(jì)結(jié)果更接近參數(shù)的實(shí)際值,方差分量(或中誤差)估計(jì)結(jié)果也更接近先驗(yàn)值,本文給出的迭代算法是有效的。
非線性整體最小平差;迭代算法;非線性回歸;曲線擬合
整體最小二乘法(total least squares,TLS)的起源可以追溯到19世紀(jì)70年代[1],這種方法最初在統(tǒng)計(jì)領(lǐng)域開(kāi)始流行,稱為誤差變量模型(error in variable,EIV)。文獻(xiàn)[2]在20世紀(jì)80年代初提出“total least squares”這一術(shù)語(yǔ)[2],實(shí)質(zhì)是從數(shù)字分析角度對(duì)線性EIV模型重新進(jìn)行定義。至此以后,TLS法迎來(lái)了快速發(fā)展期,廣泛地應(yīng)用于系統(tǒng)識(shí)別領(lǐng)域[3]、信號(hào)處理領(lǐng)域[4]、天文學(xué)領(lǐng)域[5]等。TLS平差法是最小二乘(least squares,LS)平差方法的一種自然擴(kuò)展,在LS基礎(chǔ)上考慮系數(shù)矩陣受誤差干擾的情況,使平差理論更嚴(yán)密,因而越來(lái)越受到測(cè)繪領(lǐng)域的重視。但是,TLS法引入大地測(cè)量數(shù)據(jù)處理領(lǐng)域的時(shí)間相對(duì)較晚,1999年文獻(xiàn)[6]應(yīng)用其進(jìn)行曲線擬合。隨后,文獻(xiàn)[7]將TLS法引入GPS數(shù)據(jù)處理中以提高GPS的定位精度。2005年,文獻(xiàn)[8]應(yīng)用TLS法進(jìn)行地理統(tǒng)計(jì)分析,指出該方法優(yōu)于加權(quán)LS法。文獻(xiàn)[9]將TLS法應(yīng)用于變形分析中,但其實(shí)質(zhì)是用TLS法進(jìn)行坐標(biāo)變換。目前,TLS 法(包含其擴(kuò)展模型)的應(yīng)用主要集中在坐標(biāo)變換方面[10-18]。TLS平差法還頻繁地出現(xiàn)在直線擬合[19]和線性回歸分析[20]參數(shù)估計(jì)中。
根據(jù)測(cè)繪學(xué)科自身的特點(diǎn),TLS平差模型本身也在不斷擴(kuò)展??紤]到估計(jì)參數(shù)之間滿足某種函數(shù)關(guān)系,文獻(xiàn)[21—23]提出約束TLS平差法;考慮到觀測(cè)向量為多維情況,文獻(xiàn)[11—12]提出多維TLS平差法;考慮到觀測(cè)向量和系數(shù)矩陣間異方差情況,文獻(xiàn)[20]提出了加權(quán)TLS平差方法;針對(duì)文獻(xiàn)[20]的解算方法相對(duì)復(fù)雜的情況,文獻(xiàn)[24]提出了一種簡(jiǎn)化的加權(quán)TLS平差迭代算法。在坐標(biāo)變換中系數(shù)矩陣可能含有重復(fù)變量,即結(jié)構(gòu)TLS問(wèn)題,除采用結(jié)構(gòu)TLS法外也可以通過(guò)加權(quán)的方式處理[16]。文獻(xiàn)[25]對(duì)含有隨機(jī)參數(shù)的情況進(jìn)行了詳細(xì)討論,并給出加權(quán)TLS解存在的必要條件。國(guó)內(nèi)對(duì)TLS平差方法的研究也比較多,主要集中在三維坐標(biāo)變換參數(shù)估計(jì)[26-31]、三維激光掃描數(shù)據(jù)處理[28,32]、應(yīng)變參數(shù)反演[33]、自回歸參數(shù)估計(jì)[34], 對(duì)TLS平差算法也進(jìn)行了一些研究[35-37]。在模型方面,文獻(xiàn)[38]提出了穩(wěn)健TLS平差法;文獻(xiàn)[39]研究了廣義正則化的TLS平差問(wèn)題。
然而,上述研究都是在線性函數(shù)模型條件下進(jìn)行的討論,即系數(shù)矩陣的每個(gè)元素都是自變量(包括常數(shù))。但是在測(cè)量平差中經(jīng)常出現(xiàn)非線性的情況,例如非線性回歸。此時(shí),系數(shù)矩陣中的各元素不再是自變量,而是關(guān)于自變量的函數(shù),即各元素為函數(shù)表達(dá)式。因此,有必要對(duì)非線性TLS問(wèn)題進(jìn)行討論。盡管非線性EIV模型已經(jīng)不是一個(gè)新問(wèn)題,但是從測(cè)量平差和數(shù)據(jù)分析角度對(duì)非線性整體最小二乘問(wèn)題(nonlinear total least squares,NTLS)進(jìn)行討論并不多見(jiàn)。本文采用拉格朗日極值條件式推導(dǎo)基于牛頓型解法的NTLS平差迭代算法,最后通過(guò)非線性回歸和曲線擬合算例驗(yàn)證該方法在等精度和非等精度情況下的可行性和有效性。
經(jīng)典整體最小二乘法的觀測(cè)方程可以描述為
式中,b∈Rm×1是觀測(cè)向量;eb∈Rm×1是與觀測(cè)向量相對(duì)應(yīng)的誤差向量;A∈Rm×n是含有誤差的系數(shù)矩陣;EA∈Rm×n是系數(shù)矩陣相對(duì)應(yīng)的誤差矩陣;ξ∈Rn×1是參數(shù)向量。盡管在解算TLS問(wèn)題時(shí)其可認(rèn)為是一非線性問(wèn)題,但是從系數(shù)矩陣元素的結(jié)構(gòu)和類型角度分析其應(yīng)該是一線性模型,因?yàn)橄禂?shù)矩陣中的各元素都是自變量。經(jīng)典TLS法的平差準(zhǔn)則是
式中,Pb∈Rm×m和PA∈Rmn×mn分別是觀測(cè)向量和系數(shù)矩陣元素組成的列向量的權(quán)矩陣,在經(jīng)典TLS平差中它們都是單位矩陣;eA∈Rmn×1=vec(EA), vec(·)表示矩陣的拉直計(jì)算,它是將矩陣按列重新排列成一新的列向量。對(duì)于經(jīng)典TLS問(wèn)題的解算方法,最常用的是SVD分解法,但是當(dāng)系數(shù)矩陣元素之間存在相關(guān)性時(shí),SVD分解就不能獲得最或然估計(jì)結(jié)果[40]。如果上述權(quán)矩陣不是單位矩陣,最為常用的解算方法便是基于牛頓型的迭代算法[20]。值得注意的是,對(duì)于按行獨(dú)立的加權(quán)TLS法與附加參數(shù)的條件平差法獲得的估計(jì)結(jié)果具有等價(jià)性[41]。
如果系數(shù)矩陣元素不再是獨(dú)立的自變量,而是關(guān)于某一自變向量a的函數(shù),此時(shí)系數(shù)矩陣不再是線性關(guān)系,例如
此時(shí),系數(shù)矩陣A的元素不再是自變量x本身而是關(guān)于變量的函數(shù),即系數(shù)矩陣的各元素可以由自變矢量a計(jì)算得到。將這種TLS平差問(wèn)題稱為非線性整體平差(NTLS)。
根據(jù)經(jīng)典TLS法的描述,NTLS平差的觀測(cè)方程可以表達(dá)為
式中,a∈Rq×1是系數(shù)矩陣A的輸入向量,該向量元素之間可以是相互獨(dú)立的自變量也可以是相關(guān)量;ea∈Rq×1是輸入向量a對(duì)應(yīng)的誤差向量。非線性TLS極小條件可以描述為
式中,Pa∈Rq×q是輸入向量的權(quán)矩陣。
NTLS問(wèn)題可以看成是一個(gè)雙非線性問(wèn)題。為能夠解算NTLS問(wèn)題,將式(4)表達(dá)成觀測(cè)誤差eb關(guān)于a的函數(shù),即
根據(jù)上一節(jié)的推導(dǎo),將NTLS平差的算法流程設(shè)計(jì)如下。
輸入數(shù)據(jù):觀測(cè)向量b,系數(shù)矩陣輸入向量a、權(quán)矩陣Pb和Pa以及迭代終止條件ε(本文各次計(jì)算均設(shè)置其等于1e-8)。
第1步,令a(0)=a,僅考慮觀測(cè)向量b的誤差,采用LS平差法求得參數(shù)ξ的初始估計(jì)值ξ(0),并計(jì)算
第3步,重復(fù)第2步直到Δξ(i+1)和Δa(i+1)的2范數(shù)都小于指定的收斂條件ε,并根據(jù)式(25)計(jì)算驗(yàn)后方差估計(jì)值。
5.1 等權(quán)情況(以多項(xiàng)式回歸模型為例)
本文所討論的NTLS問(wèn)題經(jīng)常出現(xiàn)在非線性回歸分析中。多種模型可以通過(guò)取對(duì)數(shù)的方式線性化,然后得到各種新的觀測(cè)方程。其中,二次曲線回歸模型是最為常見(jiàn)的一種非線性回歸分析模型。同時(shí),在非線性回歸分析當(dāng)中,各觀測(cè)量通常都是在相同條件下的觀測(cè)值,即等權(quán)。因此,首先考慮二次曲線回歸模型,用其來(lái)驗(yàn)證本文給出算法的可行性。
二次曲線回歸模型通??梢员磉_(dá)為
式中,x和y都是含有誤差的觀測(cè)值;c1、c2、c3是回歸系數(shù)。
假設(shè)在某處通過(guò)測(cè)量獲得如表1所示的20組觀測(cè)數(shù)據(jù),x和y坐標(biāo)是等精度觀測(cè),中誤差為0.05 m。
表1 觀測(cè)數(shù)據(jù)Tab.1 The simulated data m
根據(jù)前面的討論知道,在采用本文給出的NTLS平差迭代算法的過(guò)程中,在獲得初始參數(shù)估計(jì)值以后,需要計(jì)算Ξ矩陣。在本次的回歸系數(shù)估計(jì)中,該矩陣結(jié)構(gòu)為
分別采用LS平差法和NTLS平差法對(duì)表1中的觀測(cè)數(shù)據(jù)進(jìn)行回歸系數(shù)估計(jì),將估計(jì)得到的參數(shù)結(jié)果列于表2中。
表2 兩種平差結(jié)果比較Tab.2 Comparison of the estimated parameters between the classical LS and the NTLS adjustment
需要注意的是,在采用LS平差法的過(guò)程中,因?yàn)檎J(rèn)為系數(shù)矩陣元素不含有任何誤差,故直接采用x的值和元素表達(dá)式計(jì)算得到的結(jié)果作為系數(shù)據(jù)矩陣元素值。
從表2獲得的結(jié)果可以發(fā)現(xiàn),NTLS法獲得的估計(jì)值與真值之間的差值比LS平差法獲得的估計(jì)值與真值之間的差值小很多,特別是截?cái)鄥?shù)的估計(jì)。這說(shuō)明,本文給出的算法能夠獲得比LS平差法更好的估計(jì)結(jié)果。
上面的試驗(yàn)是在單獨(dú)一次估計(jì)中獲得的結(jié)果,為進(jìn)一步說(shuō)明NTLS法比LS法優(yōu)越,將上面的試驗(yàn)進(jìn)行改進(jìn),設(shè)計(jì)如下:
回歸系數(shù)的真值仍然采用表2中描述的值,對(duì)真值坐標(biāo)附加上從0.001 m開(kāi)始,步長(zhǎng)為0.003 m, 到0.1 m結(jié)束的中誤差,在每個(gè)中誤差情況下模擬500次。不同中誤差情況下獲得的參數(shù)估計(jì)值的平均值與真值之差同先驗(yàn)中誤差值的關(guān)系如圖1所示。
圖1 參數(shù)估計(jì)值與真實(shí)值的差值Fig.1 Difference of the parameters between the estimated values and the true ones
從圖中可以看出,當(dāng)誤差比較小時(shí),LS平差法和NTLS平差法獲得的參數(shù)估計(jì)結(jié)果非常接近。在本例中,當(dāng)中誤差小于0.013 m時(shí),它們的估計(jì)結(jié)果幾乎完全相同。同時(shí)發(fā)現(xiàn)高次項(xiàng)對(duì)應(yīng)的系數(shù),不管在什么誤差情況下兩種方法都能夠獲得幾乎與真值完成相同的結(jié)果。隨著誤差的增加以及冪的降低,系數(shù)的估計(jì)結(jié)果與真值的差距越來(lái)越大,但是NTLS方法獲得的結(jié)果總比LS法獲得的結(jié)果更接近于真實(shí)值。
將模擬500次后獲得的驗(yàn)后中誤差平均值與先驗(yàn)的中誤差值的差值隨誤差增長(zhǎng)的變化關(guān)系描述在圖2中。
圖2 估計(jì)中誤差與先驗(yàn)值的差值Fig.2 Difference of the MSE between the prior value and the estimated ones
從圖2的描述來(lái)看,LS平差法很難獲得正確的驗(yàn)后中誤差估計(jì),相反,NTLS平差法能獲得與先驗(yàn)值幾乎一致的估計(jì)結(jié)果。因?yàn)閺膱D上看,其估計(jì)結(jié)果與先驗(yàn)值的差一直都在零附近波動(dòng)。這些都說(shuō)明,在等權(quán)情況下,NTLS平差法處理系數(shù)矩陣非線性情況下的平差問(wèn)題時(shí)比LS平差法更好。
5.2 非等權(quán)情況(以對(duì)數(shù)函數(shù)曲線為例)
前面對(duì)等權(quán)情況下的NTLS平差法進(jìn)行了試驗(yàn)討論,然而在測(cè)量數(shù)據(jù)處理中,非等精度觀測(cè)的情況經(jīng)常出現(xiàn),有必要對(duì)非等權(quán)情況下的NTLS平差問(wèn)題進(jìn)行討論。假設(shè)有如下的對(duì)數(shù)曲線模型
式中,a和b是待估計(jì)系數(shù);x和y都是觀測(cè)量。假設(shè)它們的觀測(cè)精度分別為0.08 m和0.02 m。同樣分別采用NTLS平差法和LS平差法進(jìn)行估計(jì)。在NTLS平差的過(guò)程中,Ξ矩陣的結(jié)構(gòu)應(yīng)該為
兩種方法都模擬500次,將獲得的參數(shù)平均值以及平均值與設(shè)計(jì)真值的差值列于表3。
表3 兩種平差方法結(jié)果比較Tab.3 Comparison of the estimated parameters between the classical LS and the NTLS adjustment
從表3不難發(fā)現(xiàn),NTLS平差法獲得的參數(shù)估計(jì)值比LS平差法獲得的估計(jì)值更接近于真值,這說(shuō)明NTLS平差法比LS平差法在參數(shù)估計(jì)部分更有效。盡管在此取得平均值,但在試驗(yàn)過(guò)程中發(fā)現(xiàn)它同等權(quán)情況時(shí)一樣,每個(gè)點(diǎn)的估計(jì)值都比LS平差法更接近真實(shí)值,因此,避免重復(fù),此處就沒(méi)有再將其列出。
在定權(quán)的過(guò)程中,先驗(yàn)單位權(quán)方差取為1 m2。LS平差法采用
計(jì)算驗(yàn)后單位權(quán)方差,而TNLS平差法采用式(25)計(jì)算。將模擬500次獲得的單位權(quán)方差估計(jì)值作為y軸,模擬次數(shù)作為x軸繪制成圖3。
圖3 兩種方法的估計(jì)單位權(quán)方差Fig.3 Estimated variance components of the classical LS and the NTLS algorithm
圖3中的橫線表示兩種方法獲得的單位權(quán)方差估計(jì)平均值。此圖說(shuō)明,NTLS平差獲得單位權(quán)方差估計(jì)值與輸入的先驗(yàn)單位權(quán)方差值幾乎完全一致;而LS平差獲得的單位權(quán)方差估計(jì)值出現(xiàn)較大偏差,這主要是因?yàn)槠錄](méi)有考慮系數(shù)矩陣中的誤差。這說(shuō)明本文給出的算法是有效并合理的。
本文對(duì)NTLS問(wèn)題進(jìn)行了研究,并給出了一種迭代計(jì)算方法??梢缘贸鲆韵聨c(diǎn)結(jié)論:
(1)NTLS方法保證了系數(shù)矩陣中不同位置的非線性元素的同一自變量獲得相同的誤差改正,常數(shù)元素項(xiàng)不獲得任何改正值,其平差理論相對(duì)嚴(yán)密。
(2)本文給出的算法,對(duì)于初始值的要求相對(duì)較低,不需要非線性LS法來(lái)獲取初始值,直接采用線性最小二乘結(jié)果即可。
(3)不管是等權(quán)或是非等權(quán)情況,NTLS法獲得參數(shù)估計(jì)結(jié)果都更接近真實(shí)值,方差估計(jì)結(jié)果也更接近先驗(yàn)值。
文章僅就一種算法進(jìn)行了討論,而對(duì)于NTLS問(wèn)題的其他方面沒(méi)有涉及,例如模型在測(cè)繪科學(xué)技術(shù)中更廣泛的應(yīng)用等,這是筆者需要進(jìn)一步努力研究的方向。
[1] ADCOCK R J.Note on the Method of Least Squares[J].The Analyst,1877,4(6):183-184.
[2] GOLUB G H,VAN LOAN C F.An Analysis of the Total Least Squares Problem[J].SIAM Journal on Numerical Analysis,1980,17(6):883-893.
[3] GUILLAUME P,PINTELON R,SCHOUKENS J.A Weighted Total Least Squares Estimator for Multivariable Systems with Nearly Maximum Likelihood Properties[J].IEEE Transactions on Instrumentation and Measurement, 1998,47(4):818-822.
[4] DOWLING E M,DEGROAT R D,LINEBARGER D A.Total Least Squares with Linear Constraints[C]∥Proceeding on ICASSP-92.San Francisco:IEEE,1992: 341-344.
[5] BRANHAM R L.A Covariance Matrix for Total Least Squares with Heteroscedastic Data[J].The Astronomical Journal,1999,117:1942-1948.
[6] DAVIS T G.Total Least-Squares Spiral Curve Fitting[J].Journal of Surveying Engineering,1999,125(4):159-176.
[7] LIU L,TIAN Z,HUANG S.Using TLS Algorithm to Improve GPS Positioning Precision with Altitude Hold Mode[J].Journal of Electronics,2002,19(2):120-124.
[8] FELUS Y A,SCHAFFRIN B.A Total Least-Squares Approach in Two Stages for Semivariogram Modeling of Aeromagnetic Data[J].GIS and Spatial Analysis,2005 (1):215-220.
[9] ACAR M,?ZLüDEMIR M T,AKYILMAZ O.Deformation Analysis with Total Least Squares[J].Natural Hazards and Earth System Sciences,2006,6(4):663-669.
[10] AKYILMAZ O.Total Least Squares Solution of Coordinate Transformation[J].Survey Review,2007,39(303): 68-80.
[11] SCHAFFRIN B,FELUS Y A.Multivariate Total Least-Squares Adjustment for Empirical Affine Transformations [C]∥Proceedings of the VI Hotine-Marussi Symposium of Theoretical and Computational Geodesy:Challenge and Role of Modern Geodesy.Wuhan:IEEE,2008:238-242.
[12] SCHAFFRIN B,FELUS Y A.On the Multivariate Total Least-Squares Approach to Empirical Coordinate Transformations:Three Algorithms[J].Journal of Geodesy,2008, 82(6):373-383.
[13] FELUS Y A,BURTCH R C.On Symmetrical Three-dimensional Datum Conversion[J].GPS Solutions,2009,13 (1):65-74.
[14] SCHAFFRIN B,WIESER A.Empirical Affine Reference Frame Transformations by Weighted Multivariate TLS Adjustment[J].Geodetic Reference Frames,2009,13(4): 213-218.
[15] NEITZEL F.Generalization of Total Least-Squares on Example of Unweighted and Weighted 2D Similarity Transformation [J].Journal of Geodesy,2010,84(12):751-762.
[16] MAHBOUB V.On Weighted Total Least-Squares for Geodetic Transformations[J].Journal of Geodesy,2011,86(6): 1-9.
[17] ZHOU Y,DENG C,ZHU J.Weighted Total Least Squaresfor Rigid Body Transformation and Comparative Study on Heteroscedastic Points[C]∥International Symposium on Lidar and Radar Mapping Technologies.Nanjing:SPIE,2011.
[18] MAHBOUB V.On Weighted Total Least-Squares for Geodetic Transformations[J].Journal of Geodesy,2012,86(5): 359-367.
[19] KRYSTEK M,ANTON M.A Weighted Total Least-Squares Algorithm for Fitting a Straight Line[J].Measurement Science and Technology,2007,18(11):3438-3442.
[20] SCHAFFRIN B,WIESER A.On Weighted Total Least-Squares Adjustment for Linear Regression[J].Journal of Geodesy,2008,82(7):415-421.
[21] SCHAFFRIN B,FELUS Y A.On Total Least-Squares Adjustment with Constraints[C]∥A Window on the Future of Geodesy.Berlin Heidelberg:Springer,2005: 417-421.
[22] SCHAFFRIN B.A Note on Constrained Total Least-Squares Estimation[J].Linear Algebra and Its Applications,2006, 417(1):245-258.
[23] SCHAFFRIN B,FELUS Y A.An Algorithmic Approach to the Total Least-Squares Problem with Linear And Quadratic Constraints[J].Studia Geophysica and Geodaetica,2009,53(1):1-16.
[24] SHEN Y Z,LI B F,CHEN Y.An Iterative Solution of Weighted Total Least-Squares Adjustment[J].Journal of Geodesy,2011,85(4):229-238.
[25] FANG X.Weighted Total Least Squares:Necessary and Sufficient Conditions,Fixed and Random Parameters[J].Journal of Geodesy,2013,87(8):733-749.
[26] GE Xuming,WU Jicang.Iterative Method of Weight Constraint Total Least-Squares for Three-Dimensional Datum Transformation[J].Geomatics and Information Science of Wuhan University,2012,37(2):178-182.(葛旭明,伍吉倉(cāng).三維基準(zhǔn)轉(zhuǎn)換的約束加權(quán)混合整體最小二乘的迭代解法[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2012,37(2): 178-182.)
[27] LU Jue,CHEN Yi,ZHENG Bo.Applying Total Least Squares to Three-dimensional Datum Transformation[J].Journal of Geodesy and Geodynamics,2008,28(5):77-81.(陸玨,陳義,鄭波.總體最小二乘方法在三維坐標(biāo)轉(zhuǎn)換中的應(yīng)用[J].大地測(cè)量與地球動(dòng)力學(xué),2008,28(5):77-81.)
[28] CHEN Weixian,CHEN Yi,YUAN Qing,et al.Application of Weighted Total Least-Squares to Target Fitting of Three-Dimensional Laser Scanning[J].Journal of Geodesy and Geodynamics,2010,30(5):90-96.(陳瑋嫻,陳義,袁慶,等.加權(quán)總體最小二乘在三維激光標(biāo)靶擬合中的應(yīng)用[J].大地測(cè)量與地球動(dòng)力學(xué),2010,30(5):90-96.)
[29] LU Jue,CHEN Yi,ZHENG Bo.Application of Weighted Total Least Squares in ITRF Transformation[J].Journal of Geodesy and Geodynamics,2011,31(4):84-89.(陸玨,陳義,鄭波.加權(quán)總體最小二乘方法在ITRF轉(zhuǎn)換中的應(yīng)用[J].大地測(cè)量與地球動(dòng)力學(xué),2011,30(04):84-89.)
[30] YUAN Qing,LOU Lizhi,CHEN Weixian.The Application of the Weighted Total Least-squares to Three Dimensional Datum Transformation[J].Acta Geodaetica et Cartographica Sinica,2011,40(S1):115-119.(袁慶,樓立志,陳瑋嫻.加權(quán)整體最小二乘在三維基準(zhǔn)轉(zhuǎn)換中的應(yīng)用[J].測(cè)繪學(xué)報(bào),2011,40(S1):115-119.)
[31] ZHOU Yongjun,DENG Caihua.Weighted and Unweighted Total Least Square Methods and Applications to Heteroscedastic 3D Coordinate Transformation[J].Geomatics and Information Science of Wuhan University,2012,37 (8):976-979,1007.(周擁軍,鄧才華.加權(quán)和不加權(quán)TLS方法及其在不等精度坐標(biāo)變換中的應(yīng)用[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2012,37(8):976-979,1007.)
[32] CHEN Weixian,YUAN Qing,CHEN Yi.Application of Constrained Total Least-Squares to Cloud Point Registration[J].Journal of Geodesy and Geodynamics,2011,31 (2):137-141.(陳瑋嫻,袁慶,陳義.約束整體最小二乘在點(diǎn)云拼接中的應(yīng)用[J].大地測(cè)量與地球動(dòng)力學(xué),2011,31 (2):137-141.)
[33] WANG Leyang,XU Caijun,LU Tieding.Inversion of Strain Parameter Using Distance Changes Based on Total Least Squares[J].Geomatics and Information Science of Wuhan University,2010,35(2):181-184.(王樂(lè)洋,許才軍,魯鐵定.邊長(zhǎng)變化反演應(yīng)變參數(shù)的整體最小二乘方法[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2010,31(2):181-184.)
[34] HU Chuan,CHEN Yi.Parameters Estimation of Autoregression with Structured Total Least Squares[J].Journal of Geodesy and Geodynamics,2013,33(1):45-47(胡川,陳義.自回歸模型參數(shù)的結(jié)構(gòu)整體最小二乘估計(jì)[J].大地測(cè)量與地球動(dòng)力學(xué),2013,33(1):45-47.)
[35] LU Tieding,ZHOU Shijian.An Iterative Algorithm for Total Least Squares Estimation[J].Geomatics and Information Science of Wuhan University,2010,35(11):1351-1354.(魯鐵定,周世?。w最小二乘的迭代解法[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2010,35(11):1351-1354.)
[36] WANG Leyang,XU Caijun.Iterative Method of Weight Constraint Total Least-Squares for Three-Dimensional Datum Transformation[J].Geomatics and Information Science of Wuhan University,2011,36(8):887-890.(王樂(lè)洋,許才軍.附有相對(duì)權(quán)比的整體最小二乘平差[J].武漢大學(xué)學(xué)報(bào):信息科學(xué)版,2011,36(8):887-890.)
[37] HU Chuan,CHEN Yi.An Innovated Algorithm for Solution of Weighted Total Least Squares Adjustments[J].Journal of Geodesy and Geodynamics,2012,32(6):106-110.(胡川,陳義.解加權(quán)整體最小二乘平差問(wèn)題的一種新方法[J].大地測(cè)量與地球動(dòng)力學(xué),2012,32(6):106-110.)
[38] CHEN Yi,LU Jue.Performing 3D Similarity Transformation by Robust Total Least Squares[J].Acta Geodaetica et Cartographica Sinica,2012,41(5):715-722.(陳義,陸玨.以三維坐標(biāo)轉(zhuǎn)換為例解算穩(wěn)健總體最小二乘方法[J].測(cè)繪學(xué)報(bào),2012,41(5):715-722.)[39] GE Xuming,WU Jicang.Generalized Regularization to Illposed Total Least Squares Problem[J].Acta Geodaetica et Cartographica Sinica,2012,41(3):372-377.(葛旭明,伍吉倉(cāng).病態(tài)整體最小二乘問(wèn)題的廣義正則化[J].測(cè)繪學(xué)報(bào),2012,41(3):372-377.)
[40] VAN HUFFEL S,PARK H,ROSEN J B.Formulation and Solution of Structured Total Least Norm Problems for Parameter Estimation[J].IEEE Transactions on Signal Processing,1996,44(10):2464-2474.
[41] ZHOU Yongjun,ZHU Jianjun,DENG Caihua.The Consistency between Row-wised Weighted Total Least Squares and Condition Adjustment with Parameters[J].Acta Geodaetica et Cartographica Sinica,2012,41(1):48-53, 58.(周擁軍,朱建軍,鄧才華.附參數(shù)的條件平差與按行獨(dú)立的加權(quán)整體最小二乘法估計(jì)的一致性研究[J].測(cè)繪學(xué)報(bào),2012,41(1):48-53,58.)
(責(zé)任編輯:宋啟凡)
An Iterative Algorithm for Nonlinear Total Least Squares Adjustment
HU Chuan1,CHEN Yi1,2
1.College of Surveying and Geo-informatics,Tongji University,Shanghai 200092,China;2.Key Laboratory of Modern Engineering Surveying of National Administration of Surveying,Mapping and Geoinformation,Shanghai 200092,China
Because of the total least squares approximation simultaneously considered the errors both in the observation vector and the coefficient matrix,the theory was more rigorously than standard least squares.Nonlinear total least squares adjustment,an extended model of total least squares,where some elements of the coefficient matrix might be a function depending on the observation vector(input vector),has been discussed.In this contribution,a possible iterative algorithm which is based on the Gauss-Newton algorithm and derived by Lagrange-multiplier approach was designed for nonlinear total least squares adjustment.Two numerical experiments are given at last,one on the nonlinear regression and another one on the nonlinear fitting,to demonstrate the validation and the applicability of the suggested algorithm.The results shows that the estimated parameter from nonlinear total least squares adjustment algorithm is closer to the truth-value than classical least squares either in the equal or unequal weights case,and the estimated variance is also almost consistent with the priori value.
nonlinear total least squares adjustment;iterative algorithm;nonlinear regression;curve fitting
HU Chuan(1983—),male,PhD candidate, majors in geodesy data processing and ionosphere retrieving with GNSS radio occultation data.
P207
A
1001-1595(2014)07-0668-07
2013-04-03
胡川(1983—),男,博士生,主要從事大地測(cè)量數(shù)據(jù)處理與GNSS掩星技術(shù)反演電離層研究。
E-mail:1110169@tongji.edu.cn
HU Chuan,CHEN Yi.An Iterative Algorithm for Nonlinear Total Least Squares Adjustment[J].Acta Geodaetica et Cartographica Sinica,2014,43(7):668-674.(胡川,陳義.非線性整體最小平差迭代算法[J].測(cè)繪學(xué)報(bào),2014,43(7):668-674.)
10.13485/j.cnki.11-2089.2014.0111
國(guó)家自然科學(xué)基金(41074017)
修回日期:2013-12-10