胡善瑞,王明輝,田保光
(青島科技大學數(shù)理學院,山東青島266061)
一類矩陣方程最小二乘問題的LSQR方法
胡善瑞,王明輝,田保光
(青島科技大學數(shù)理學院,山東青島266061)
討論了對稱斜反對稱矩陣的結構,應用LSQR方法求解最小二乘問題‖XTAX-B‖=min(A為待求對稱斜反對稱矩陣),并給出了相應的算法及數(shù)值例子.
對稱斜反對稱矩陣;LSQR方法;最小二乘問題;矩陣拉直①
約束矩陣方程問題在結構動力學、分子光譜學、電力學、參數(shù)識別、生物學、熱力學、線性最優(yōu)控制、自動控制理論等領域有著重要的應用.目前為止,約束矩陣方程在涉及對稱矩陣等問題,應用SVD、GSVD、QSVD、Schur分解等已取得豐碩的成果[1-4].近年來,隨著求解約束矩陣方程問題的研究不斷深入,一些新的問題不斷被提出和解決,人們在討論解的存在性的同時也提出了許多有效的數(shù)值方法[5-7].
考慮約束最小二乘問題
其中X∈Rn×m,B∈Rm×m為給定矩陣,A∈ASn為待求矩陣.
對于該問題,周碩和吳柏生[8]已經(jīng)提出了一種求最小二乘解的方法,即應用矩陣標準相關分解(CCD)的方法,推導給出了A的表達式;但由于矩陣分解的方法針對較大型矩陣時,計算量過于龐大,此時不宜采用直接方法.這里,我們提出一種迭代算法,即將LSQR[9]方法應用到問題(1),得到一類算法,進而求解問題的最小二乘解.
在本文中,我們記所有n×m階的矩陣的集合為Rn×m;所有n階對稱斜反對稱矩陣的集合記為ASn;‖A‖代表矩陣A的Frobenius范數(shù);A?B表示兩個矩陣A與B之間的Kronecker乘積;vec(A)表示對矩陣A中的元素按列作拉直運算組成的一組向量.
最小二乘問題(1)的約束條件為A∈ASn,需要將約束條件進行無約束轉化,在這之前,我們先考察ASn的結構問題.
定義1[10]當矩陣A∈Rn×n中的元素關于對角線是反對稱,并且關于反對角線是對稱,即滿足時,我們稱A為對稱斜反對稱矩陣.滿足條件的矩陣A的集合記為ASn.關于對稱斜反對稱矩陣的逆特征值及其近似解的問題都已有所討論[10].
記
且k=[n/2](即k為不大于n/2的最大整數(shù)).
當k=2n時,令
當k=2n+1時,令
引理1 DTD=I.
引理2[10]A∈ASn當且僅當
引理3[10]A∈ASn當且僅當
記DTX=,其中X1∈R(n-k)×m,X2∈Rk×m.由上面的討論及引理,我們得到下面的定理:
定理1 最小二乘問題
等價于
這里F為
的最小二乘解.
證明:因為A∈ASn,由引理3,存在D∈Rn×n,F(xiàn)∈R(n-k)×k使
另一方面,
定理得證.
Paige與Sauders于1982年提出的LSQR算法[9],用以解決下面的最小二乘問題:給定A∈Rm×n,b∈Rm,計算x滿足
它的法方程為
考慮到文獻中已經(jīng)有詳細的討論,這里我們簡單給出它的算法:
1 初始化
2 迭代,對于i=1,2,…
(1)雙對角化
(2)構造和應用Householder變換
(3)更新xi和hi+1
3 檢查收斂性.
易知,如果(4)有解x*∈R(ATA)=R(AT),那么x*是(3)的極小范數(shù)解,顯然,由LSQR算法得到的xk屬于R(AT).
考慮最小二乘問題(2),我們需要先將其轉化為向量的形式,再應用LSQR算法.
引理4[11]對于任意的S1∈Rm×n,S2∈Rp×q,定義p(l,k)形式如下:
則
這里P(i,j)=P(j,i)T=P(j,i)-1.由此,我們得到如下定理:
定理2最小二乘問題
等價于
證明:對
對矩陣作拉直運算
記
則問題化為
定理得證.
下面對‖Mx-b‖2=min應用LSQR方法,把其中的向量迭代寫成矩陣的形式,從而避免Kronecker積的出現(xiàn).為此,我們需要把LSQR方法中的v和u轉化成矩陣V和U,因此必須先把MTu和Mv轉化成矩陣形式.
用符號mat(a)表示向量a的矩陣化,在這里也是算子vec的逆運算,對v∈Rk·(n-k),u∈Rm2,令V=mat(v)∈Rk×(n-k),U=mat(u)∈Rm×m,則我們有
現(xiàn)在,我們給出求解問題(2)的LSQR算法:
1 初始化
2 迭代,對于i=1,2,…
3 檢查收斂性.
注2:當XTAX=B是相容方程時,由算法可以計算它的極小范數(shù)解.
本節(jié)通過兩個例子看看算法的執(zhí)行情況,所有結果都是在matlab7.0運行得到.
例1考慮矩陣方程XTAX=B,其中
圖1(Fig.1)
圖2(Fig.2)
可以驗證方程是相容的,而且有唯一解
應用上面的算法,當?shù)M行到第k步,得到Fk,進而可求得Ak.我們以δk=‖Ak-A*‖/‖A*‖表示解的相對誤差,rk=‖B-XTAkX‖表示殘差,計算結果見圖1.可見,隨著迭代的進行,δk和rk最終趨于一個穩(wěn)定值(如圖1),其對應解為最優(yōu)解.
例2對于‖XTAX-B‖=min(A∈ASn為待求),已知
求解問題的最小二乘解.
用上面的算法進行計算時,考慮(2)的法方程.由(5)可得法方程為MTMx=MTb,通過一系列變換(矩陣與向量之間的轉換)得到
記
為迭代進行到第i步的殘量.則由圖2可以看到,隨著迭代的進行,當?shù)降?1步以后的時候,殘量值趨于穩(wěn)定,此時迭代得到的解A為最優(yōu)解,并且有
[1]臧正松.矩陣方程AXB=C的實部半正定解[J].華東船舶工業(yè)學院學報,2002,16(02):50-53.
[2]彭振赟.幾類矩陣擴充問題和幾類矩陣方程問題[D].湖南大學數(shù)學與計量經(jīng)濟學院,2003.
[3]廖安平,白中治.矩陣方程A^TXA=D的雙對稱最小二乘解[J].計算數(shù)學,2002,24(1):9-20.
[4]袁仕芳,廖安平,雷淵.四元數(shù)體上矩陣的最小化問題[J].數(shù)學物理學報,2009,29A(5):1298-1306.
[5]Sun Jie.The Iterative Method for the Solution to the Restricted Matrix Equation[J].Journal of Shanghai Institute of Technology,2007,7(01):4-9.
[6]田兆祿.線性方程組Ax=b和矩陣方程Sylvester的迭代解法[D].上海大學,2008.
[7]Fang Ling,Li Bo and Fu Shilu,et al.Iternative Solutions of the Inconsistent Matrix Equation AXB=D in Anti-centrosymmetric Matrix Set[J].Journal of Logistical Engineering University,2010,26(04):86-91.
[8]Zhou Shuo and Wu Bai-sheng.Least-square Solutions of Inverse Problems for Anti-symmetric and Skew-symmetric Matrices.Northeast.Math.J,2007,23(3):189-199.
[9]C.C.Paige and A.Saunders.Lsqr:An Algorithm for Sparse Linear Equations and Sparse Least Squares.ACMTrans.Math.Software,1982:8(1):43-71.
[10]Xie Dongxiu and Sheng Yanping.Inverse Eigenproblem of Anti—Symmetric and Persymmetric Matrices and Its Approximation,Inverse Problems,2003,19:217-225.
[11]R.A.Horn and C.R.Johnson.Topics in Matrix Analysis[D].Cambridge University Press,Cambridge,UK,1991.
[責任編輯:陳慶朋]
Abstract:The structure of anti-symmetric and skew-symmetric matrix is discussed.The LSQR method is applied to solve the least-square problem‖XTAX-B‖=min(where A is a anti-symmetric and skew-symmetric matrix)and the corresponding arithmetic together with some numerical examples are given.
Key words:anti-symmetric and skew-symmetric matrix;the LSQR method;least-square problem;matrix straighten
The LSQR Method to the Least-square Problem of a Class of Matrix Equation
HU shan-rui WANG Ming-h(huán)ui TIAN Bao-guang
(College of Mathematical and Physical Sciences,Qingdao University of Science&Technology,Qingdao 266061,China)
O151
A
1004-7077(2011)02-0051-06
2011-01-27
國家自然科學基金資助項目(11001144)
胡善瑞(1987-),男,山東濟寧人,青島科技大學數(shù)理學院應用數(shù)學專業(yè)2009級在讀碩士研究生,主要從事數(shù)值代數(shù)方向的研究.