內積空間矛盾方程組最小二乘解理論

鄭素佩， 封建湖， 宋學力

(長安大學理學院，西安 710064)

1 引 言

線性矛盾方程組(下文如無特別說明，提到矛盾方程組均指線性矛盾方程組)在工程領域經常會遇到，比如房價預測、共享單車出租數量預測、空氣污染情況預測等.對矛盾方程組數值求解方法的研究具有重要的理論意義與實際應用價值.關于矛盾方程組的最小二乘解，一般的思想是采用多元函數求極值的方法，尋找極值點以得到最小二乘解所滿足的方程組，即法方程組[1-5].

本文首先提出了一種“基函數”的恰當取值方法，并在內積空間理論框架下，推導出矛盾方程組最小二乘解所滿足的法方程組，得到矛盾方程組系數矩陣列滿秩是其最小二乘解存在且唯一的充分條件.通過證明得到兩種理論框架(極值理論與內積理論)所得法方程組是等價的，最后通過兩個算例展示用本文方法能非常方便地得到法方程組.

2 矛盾方程組最小二乘解理論

本節(jié)首先回顧采用極值理論推導矛盾方程組最小二乘解所滿足法方程組的方法，然后提出基于內積理論的矛盾方程組最小二乘解理論，具體內容如下.

2.1 極值理論[1-6]

對線性方程組

(1)

若記

這一處理方式從知識體系角度來說沒有同離散數據最小二乘曲線擬合問題解決方式統一起來，本文就這一問題進行研究，嘗試在內積理論框架下將它們統一在一起.

2.2 內積空間中矛盾方程最小二乘解理論

本節(jié)給出如何將矛盾方程組最小二乘問題轉化為基于“基函數”特定取值的離散數據最小二乘曲線擬合問題，推導出矛盾方程組最小二乘解內積形式的法方程組，給出法方程組解的存在、唯一性條件，以及兩種理論框架所得結論的等價性關系等內容.

2.2.1 問題轉化

通過“基函數”在離散點處的值取為矛盾方程組系數矩陣對應列處的值，實現將矛盾方程組最小二乘解問題轉化為離散數據最小二乘曲線擬合問題.

現記“基函數”為φj(z)(j=1,2,…,n)，其在離散點zi(i=1,2,…,m)處的值取為方程組(1)系數矩陣A第i行第j列的值，即滿足φj(zi)=aij(i=1,2,…,m;j=1,2,…,n)，詳見下表1.

表1 基函數取值

令

該式右端當z=zi(i=1,2,…,m)時即為矛盾方程組(1)的左端.矛盾方程組(1)的最小二乘解問題可轉化為使

2.2.2 相關理論

由2.2.1節(jié)知可將矛盾方程組最小二乘解問題轉化為對一組離散數據基于一組特定取值 “基函數”的最小二乘曲線擬合問題，本節(jié)將推導矛盾方程組最小二乘解在內積理論框架下的相關結論.

定義[4]在內積空間Φ中，對向量y=(y1,y2,…,ym)T∈m,z=(z1,z2,…,zm)T∈m，稱

引理1[4]對向量y=(y1,y2,…,ym)T∈m，則‖y‖2=(y,y)1/2是一種向量范數，或有

為討論矛盾方程組最小二乘解的存在、唯一性，受文獻[4]中證明技巧啟發(fā)，給出如下引理.

(2)

為實對稱半正定矩陣，其中內積

該反應遵循親核消除機理，是可逆反應。與酯化反應相同，為使反應超正方向進行可加熱脫水或使用甲苯等帶水劑除去反應生成的水。

因ωk>0 (k=1,2,…,m)，則對任意0≠x=(x1,x2,…,xn)T∈n，有

xTGnx=xTATdiag(ω1,ω2,…,ωn)Ax=(Ax)Tdiag(ω1,ω2,…,ωn)Ax≥0.

故Gn為半正定矩陣，再由內積的性質知矩陣Gn為實對稱半正定矩陣.

注 對線性矛盾方程組及離散數據最小二乘曲線擬合問題，離散Gram矩陣(2)均有引理所述性質.特殊地，對系數矩陣為列滿秩矩陣的矛盾方程組(1)，所對應的離散Gram矩陣(2)為實對稱正定矩陣.

證對矛盾方程組，由表1知

若A為列滿秩矩陣，則有Ax≠0 (?x≠0)，而ωk>0 (k=1,2,…,m)，由引理2知

xTGnx=xTATdiag(ω1,ω2,…,ωm)Ax=(Ax)Tdiag(ω1,ω2,…,ωm)Ax>0，

則此時離散Gram矩陣Gn為實對稱正定矩陣.

I(x)=(b,b)-2xTBn+xTGnx

基于2.2.1節(jié)的轉化，現給出在內積空間中，矛盾方程組最小二乘解所滿足的法方程組.

注1 為表述的嚴謹性，定理形式上很繁瑣，而

和

注2 該定理將線性矛盾方程組最小二乘解問題統一在內積理論體系下.推導過程表明用該方法很容易得到一般性結論.

定理3在2.2.1節(jié)提出的將矛盾方程組最小二乘解問題轉化為離散數據最小二乘曲線擬合問題的基礎上，推導出矛盾方程組最小二乘解所滿足的法方程組.那么用該方法推導得到的法方程組同采用極值理論得到的法方程組有什么關系呢？

定理4對線性矛盾方程組(1)的最小二乘解，采用極值理論得到的法方程組ATAx=ATb與基于內積理論得到的法方程組Gnx=Bn(詳見定理3)是等價的.

證矛盾方程組最小二乘解問題，采用多元函數求極值的方法得到的法方程組為ATAx=ATb[1-6].取離散數據帶權內積中權ω=(1,1,…,1)T，則

類似地可用矩陣乘法和內積公式得ATb=Bn.從而ω=(1,1,…,1)T時內積理論所得結論同極值理論所得結論等價.

在極值理論中取2-范數為帶權ω=(ω1,ω2,…,ωm)T(ωi>0,i=1,2,…,m)型，離散數據內積也采用帶同樣權ω的內積，可以得兩套理論所得法方程組依然是等價的.

3 例 題

本節(jié)通過兩個簡單的例子展示采用本文的方法非常容易得到線性矛盾方程組最小二乘解所對應的法方程組，且很容易判斷出解的存在性.

例1解方程組

解該方程組的增廣矩陣為

由表1的取值及離散Gram矩陣的表達式(2)知(權ω=(1,1)T)，法方程組系數矩陣和右端項為上面增廣矩陣對應列向量的點積，易得法方程組(公式見定理3)，

解得x1≈2.9774127,x2≈1.2258727.

注 該例中線性方程組系數矩陣顯然是列滿秩矩陣，從理論上也很容易得出其最小二乘解存在且唯一(定理3結論).

例2[10]在開發(fā)一種抗過敏性的新藥時，要對不同劑量的藥效進行實驗.10名患者各服用了該新藥的一個特定的劑量.藥物消失時立即記錄.觀測值列于下表2中.x是劑量,y是癥狀消除持續(xù)的日數.用7個不同的劑量，其中3個劑量重復給兩名患者.試給出y與x之間的一元經驗公式(保留3位有效數字).

表2 觀測數據

解依據已知數據間的關系可將y與x之間的一元經驗公式設為y=c0+c1x，易知常數c0,c1為如下線性矛盾方程組的最小二乘解

下面用本文方法求得法方程組，首先寫出上面線性方程組的增廣矩陣

再將增廣矩陣的相應列向量求點積即得對應的法方程組(公式見定理3)

則y與x之間的一元經驗公式為y=-1.07+2.74x.

該算例數據取自于文獻[10]，通過該算例可以看出離散數據最小二乘曲線擬合問題是可以與線性矛盾方程組最小二乘解問題在一定條件下相互轉化的，且用本文方法很容易得到法方程組.

4 結 論

本文給出了在內積空間理論下線性矛盾方程組最小二乘解理論，并推導了不同理論框架下所得結論的關系.極值理論所得線性矛盾方程組的法方程組與內積理論所得法方程組是等價的.在實際問題數值計算中，可以選用不同的權函數使所得結果更具實際意義.本文提出的算法能夠很容易得到線性矛盾方程組所對應的法方程組且很容易討論出線性矛盾方程組最小二乘解的存在、唯一性.所得結論僅適用于線性矛盾方程組最小二乘解問題，對非線性矛盾方程組的最小二乘解問題尚待進一步研究.

致謝作者非常感謝相關文獻對本文的啟發(fā)以及審稿專家提出的寶貴意見.