張輝遠(yuǎn)

(中鐵第四勘察設(shè)計(jì)院集團(tuán)有限公司，湖北武漢 430063)

基于高光譜影像的流形學(xué)習(xí)降維方法近鄰畸變分析

張輝遠(yuǎn)

(中鐵第四勘察設(shè)計(jì)院集團(tuán)有限公司，湖北武漢 430063)

為了驗(yàn)證高光譜遙感影像數(shù)據(jù)經(jīng)流形學(xué)習(xí)方法降維后數(shù)據(jù)之間關(guān)系的變化，提出了一種新的流形學(xué)習(xí)降維效果評估方法：近鄰畸變參數(shù)分析。該方法簡單直觀，不需先驗(yàn)知識，能直觀顯示降維后數(shù)據(jù)在地理空間中產(chǎn)生的變化，通過參數(shù)統(tǒng)計(jì)顯示降維效果的好壞。

流形學(xué)習(xí) 高光譜遙感 降維 評估

高光譜分辨率遙感是采集和處理可見光、近紅外以及短波熱紅外波段范圍內(nèi)窄波段“連續(xù)”電磁光譜信息的遙感成像及分析技術(shù)。目前，高光譜遙感領(lǐng)域已形成了由地面測量到星載平臺的完整觀測體系，是國家地理國情監(jiān)測的重要數(shù)據(jù)來源。但是光譜維度觀測的大幅提升加重了其處理過程的存儲負(fù)擔(dān)與計(jì)算復(fù)雜度，其中非線性的相關(guān)性特征更降低了傳統(tǒng)高光譜遙感影像數(shù)據(jù)分析的精度。高光譜遙感影像的降維，尤其是非線性降維方法是解決這些問題的必要手段，也是目前遙感數(shù)據(jù)解譯領(lǐng)域的研究熱點(diǎn)問題之一。

流形學(xué)習(xí)方法是一種新型的非線性降維方法，已在模式識別領(lǐng)域建立了完整的理論體系，取得了豐富的應(yīng)用成果，在遙感土地覆蓋與利用中的應(yīng)用也越來越多。流形學(xué)習(xí)算法降維效果的評估是實(shí)踐流形學(xué)習(xí)方法的一個(gè)重要環(huán)節(jié)。好的評估方法不僅可以檢驗(yàn)具體流形學(xué)習(xí)算法模型的特征提取能力，也能為流形學(xué)習(xí)算法參數(shù)的選擇提供必要參考。目前，針對流形學(xué)習(xí)特征提取算法的研究中涉及降維效果評估方法的研究內(nèi)容不多。標(biāo)準(zhǔn)化模型數(shù)據(jù)演算方法評估流形學(xué)習(xí)算法的降維效果是最常用的方法，該類方法能直觀反映理想狀況下流形學(xué)習(xí)算法模型提取非線性特征的能力，但是無法驗(yàn)證在真實(shí)數(shù)據(jù)集(如高光譜遙感影像)上流形學(xué)習(xí)算法模型的降維效果。由于流形學(xué)習(xí)方法將嵌入在高維空間中的非線性空間投影到低維的歐式空間中，以歐式距離為度量的聚類方法成為了檢驗(yàn)流形學(xué)習(xí)方法在真實(shí)數(shù)據(jù)集上降維結(jié)果的自然選擇。Mohan[1]使用局部線性嵌入方法與等角特征映射算法對AVIRIS影像降維時(shí)采用K近鄰聚類方法對降維結(jié)果進(jìn)行聚類分析；Talwalkar等[2]采用K均值聚類算法分析流形學(xué)習(xí)方法在CMU-PIE與Webfaces-18M臉譜數(shù)據(jù)庫上的降維效果，優(yōu)化了評價(jià)聚類精度的參數(shù)；最終通過精確度(Accuracy)與純凈度(Purity)兩個(gè)參數(shù)衡量流形學(xué)習(xí)算法的降維效果。Kokiopoulou等[3]、曾恒等[4]以及徐蓉等[5]同樣采用聚類方法驗(yàn)證在臉譜數(shù)據(jù)庫、筆跡數(shù)據(jù)庫、語音數(shù)據(jù)庫等各類真實(shí)數(shù)據(jù)集中流形學(xué)習(xí)算法的降維效果。聚類方法雖然能夠較好的反映低維歐式空間中數(shù)據(jù)的分布規(guī)律以及離散程度，但是其初始參數(shù)較多，無法保證算法收斂等問題，使其難以保證評估結(jié)果的一致性。使用聚類方法對流形學(xué)習(xí)降維效果的評估必須建立在具備測試數(shù)據(jù)先驗(yàn)知識或標(biāo)記(labeled)的基礎(chǔ)上，這些因素導(dǎo)致聚類方法在解決高光譜遙感影像降維效果評估時(shí)存在局限性。

提出一個(gè)基于高光譜遙感影像的流形學(xué)習(xí)降維效果評估方法。該方法利用遙感影像圖譜雙重性的特點(diǎn)，采用近鄰畸變參數(shù)衡量流形學(xué)習(xí)降維前后對影像特征的影響，該方法僅需少量預(yù)設(shè)參數(shù)，在無先驗(yàn)知識的前提下能取得與聚類評估方法相似的評估結(jié)果。

1 流形學(xué)習(xí)算法原理與分析

等角特征映射法利用流形極小鄰域滿足歐式空間性質(zhì)這一特點(diǎn)求算原數(shù)據(jù)集中任意兩點(diǎn)間測地線距離，并通過多位排列方法(Multi-dimensional Scale)在低維空間中找到一組數(shù)據(jù)集，使其任意兩點(diǎn)間相對距離關(guān)系與原始數(shù)據(jù)集中兩點(diǎn)測地線距離關(guān)系一致，從而得到原始數(shù)據(jù)集非線性特征在低維歐式空間中的表達(dá)。為了得到兩點(diǎn)間測地線距離，只需設(shè)定原始數(shù)據(jù)空間中任意點(diǎn)的近鄰大小，并有

其中xi與xj為原始空間中任意一點(diǎn)，Ki為xi的近鄰集合，dij為xi與xj的距離。以dij為邊長建立原始數(shù)據(jù)點(diǎn)的距離圖，并計(jì)算點(diǎn)間在距離圖上的最小距離既為兩點(diǎn)之間的測地線距離。

拉普拉斯特征映射算法同樣也是尋求原始數(shù)據(jù)集的非線性特征與低維歐式空間的等角映射。但是，等角特征映射方法利用測地線距離保留全局特征，而拉普拉斯特征映射算法則尋求在局部保持空間點(diǎn)與近鄰點(diǎn)幾何關(guān)系的同胚映射。拉普拉斯特征映射算法同樣需構(gòu)件近鄰關(guān)系，并建立權(quán)陣

目前在以上兩種方法的基礎(chǔ)上衍生出的流形學(xué)習(xí)算法模型逐日增多。但是，如前文中所述，在使用一個(gè)流形學(xué)習(xí)方法模型時(shí)，必須對其基本參數(shù)進(jìn)行設(shè)置，如輸入數(shù)據(jù)點(diǎn)的近鄰集大小等。因此，一個(gè)可靠且便捷的流形學(xué)習(xí)算法評估模型是使用流形學(xué)習(xí)算法時(shí)的必要工具。

2 利用近鄰畸變參數(shù)評估流形學(xué)習(xí)算法降維效果

對于一個(gè)理想的特征提取方法，其降維結(jié)果中性質(zhì)相同的點(diǎn)間分布更密集，距離更近；而性質(zhì)不同的點(diǎn)間分布更稀疏，距離更遠(yuǎn)，這也是使用聚類方法評估流形學(xué)習(xí)算法降維效果的依據(jù)。對于高光譜遙感影像而言，其在譜空間降維后的變化也能體現(xiàn)在地理空間中，即經(jīng)過特征提取降維后，高光譜遙感影像中性質(zhì)相同的像素之間差異應(yīng)當(dāng)變小，性質(zhì)相異的像素之間差異應(yīng)當(dāng)變大。

近鄰畸變參數(shù)則利用高光譜遙感影像這種圖譜二重性的特點(diǎn)，通過檢驗(yàn)在地理空間上，降維后數(shù)據(jù)的點(diǎn)間相關(guān)性變化來反映其在光譜空間中的變化。如圖1，高光譜遙感影像中任意像素a，對應(yīng)原光譜空間中的向量Va以及降維后的嵌入空間中的向量Va。令{bi}(i=1,2,…,n)為a在影像中的n個(gè)鄰像元集，并對應(yīng)光譜空間中的向量集{Vbj}以及降維后的嵌入空間中的向量集{Vbj}。則像素a的近鄰畸變參數(shù)為

(1)

其中ωi為權(quán)重系數(shù)，即像素a相鄰像素bi的相關(guān)系數(shù)距離變化占像素a近鄰畸變參數(shù)的比例；根據(jù)具體情況的不同，可選擇不同的相鄰像素窗口大小以及權(quán)重系數(shù)的分布。當(dāng)相鄰像素窗口為1階窗口時(shí)(即3×3窗口)，ωi的選擇通常有如圖2中的三種方式：式(1)中的corr(·,·)為向量間的相關(guān)性系數(shù)。由于流形學(xué)習(xí)算法過程中的歸一化過程，像元間的一些度量關(guān)系會有較大的變化。例如：因縮放關(guān)系，降維后像元間的歐式距離單位往往和原空間相差很遠(yuǎn)(如圖1右上圖中，向量元素的最大值不超過1，而圖1右下圖中，降維后的向量元素取值區(qū)間在-50到10之間)；同樣，由于平移變化，降維后空間原點(diǎn)位置往往改變很大，因此光譜角投影距離也無法用于比較降維前后空間點(diǎn)分布的變化關(guān)系。相關(guān)系數(shù)距離是唯一能衡量高維空間中點(diǎn)間關(guān)系相對變化關(guān)系的度量。

圖1 近鄰畸變參數(shù)原理

圖2 近鄰畸變參數(shù)中權(quán)重系數(shù)的分布方法

3 近鄰畸變試驗(yàn)與分析

在流形學(xué)習(xí)算法降維效果評估實(shí)驗(yàn)中，采用了Indian Pine 數(shù)據(jù)集。該數(shù)據(jù)集截取于AVIRIS機(jī)載高光譜成像傳感器在美國印第安納州獲取的影像，是最常用的基準(zhǔn)測試數(shù)據(jù)集之一。該影像的空間分辨率為30 m，影像大小為145像素×145像素， 共21 025個(gè)高光譜數(shù)據(jù)點(diǎn)。該影像包含由400到2 500 nm共220個(gè)有效波段，在去掉水氣吸收帶與噪聲較大的波段，保留有158個(gè)波段，該數(shù)據(jù)集主要覆蓋農(nóng)業(yè)用地。如圖3所示，圖3(a)為高光譜影像假彩色圖，該影像包含158個(gè)光譜波段，并利用FLAASH大氣校正模型得到每個(gè)波段的反射率值。圖3(b)為流形學(xué)習(xí)算法降維后得到的由近鄰畸變參數(shù)構(gòu)成的灰度圖，顏色由白至黑代表近鄰畸變程度由低變高。圖3(c)為以像素近鄰畸變參數(shù)值為Z軸，影像空間坐標(biāo)為X，Y軸的近鄰畸變參數(shù)三維重建圖。通過計(jì)算整幅影像的近鄰畸變參數(shù)，可以直觀的得到高光譜遙感影像降維前后在地理空間鄰近像素之間發(fā)生的變化。

通過圖3(b)和3(c)，可以直接觀察到高光譜影像降維后與原始影像相比發(fā)生的變化。在影像中不同地物鄰接區(qū)域內(nèi)產(chǎn)生了較大的畸變；而在同類型地物內(nèi)部，則畸變小，且畸變程度相同。這符合前文中對特征提取方法降維結(jié)果的分析，即：性質(zhì)相同的點(diǎn)間分布更密集，距離更近；而性質(zhì)不同的點(diǎn)間分布更稀疏，距離更遠(yuǎn)。性質(zhì)不同的像素點(diǎn)多分布于影像中不同地物的邊緣，而性質(zhì)相同的像素點(diǎn)分布于同一地物內(nèi)部。為了區(qū)分這兩種變化，引入一個(gè)邊緣掩膜分割近鄰畸變參數(shù)結(jié)果，該邊緣掩膜即可通過邊緣提取算法獲得，如canny算子、sobel算子等；也可通過人工操作從影像中標(biāo)注出地物的邊緣信息。掩膜內(nèi)部像素上的畸變參數(shù)為良性近鄰畸變，掩膜外部像素上的畸變參數(shù)為惡性近鄰畸變參數(shù)。通過對良性近鄰畸變參數(shù)和惡性近鄰畸變參數(shù)的統(tǒng)計(jì)分析，可以得到特征提取方法降維結(jié)果的定量數(shù)值。良性近鄰畸變參數(shù)均值越高則表明特征提取方法提取特征的能力越強(qiáng)，反之則越弱；而惡性近鄰畸變參數(shù)均值越高則表明特征提取方法保留原有數(shù)據(jù)信息的能力越弱，反之則越強(qiáng)。

圖3 近鄰畸變參數(shù)

本實(shí)驗(yàn)分別考察了本征緯度(即降維后數(shù)據(jù)集的維數(shù))，最小近鄰大小，以及采用度量方法對流形學(xué)習(xí)算法降維效果的影響。在圖4的每個(gè)分圖中，由上自下分別為使用歐式距離時(shí)的良性畸變，使用光譜角度量時(shí)的良性畸變，使用歐式距離時(shí)的惡性畸變，以及使用光譜角度量時(shí)的惡性畸變。四個(gè)分圖由(a)至(d)，分別為本征維數(shù)變化時(shí)等角特征映射算法的近鄰畸變變化，最小近鄰數(shù)變化時(shí)等角特征映射算法的近鄰畸變變化，本征維數(shù)變化時(shí)的拉普拉斯特征映射算法的近鄰畸變變化，以及最小近鄰數(shù)變化時(shí)的拉普拉斯特征映射算法的近鄰畸變變化。

其中，使用光譜角度量時(shí)的近鄰畸變整體要小于歐式距離；等角特征映射算法的良性畸變參數(shù)與拉普拉斯特征映射算法基本相同，但拉普拉斯特征映射算法的惡性畸變參數(shù)要小于等角特征映射算法。隨著本征維度的上升，兩種算法的近鄰畸變參數(shù)同樣會升高，等角特征映射算法的近鄰畸變參數(shù)始終隨著本征維度的上升而升高，而拉普拉斯特征映射算法的近鄰畸變參數(shù)在本征維度超過15以后上升幅度趨緩。當(dāng)原數(shù)據(jù)近鄰數(shù)小于5時(shí)，兩種流形學(xué)習(xí)算法的近鄰畸變參數(shù)都有明顯的下降。從實(shí)驗(yàn)結(jié)果可以看出，近鄰畸變參數(shù)的變化與流形學(xué)習(xí)原理聯(lián)系緊密。例如，由于拉普拉斯特征映射算法更注重保留局部信息，因此能得到跟低的惡性畸變參數(shù)；并且拉普拉斯特征映射采用熱核函數(shù)估算數(shù)據(jù)點(diǎn)間關(guān)系，距離較遠(yuǎn)的點(diǎn)間權(quán)重極小，因此該算法受近鄰數(shù)量設(shè)置影響較小。

圖4 流形學(xué)習(xí)方法的近鄰畸變參數(shù)分析

4 結(jié)束語

提出了一種新的評估流形學(xué)習(xí)降維效果方法，利用該方法并結(jié)合高光譜遙感影像，即可直觀的顯示流形學(xué)習(xí)方法在降維前后對遙感數(shù)據(jù)地理空間上的影響，也能通過參數(shù)統(tǒng)計(jì)反映降維方法對數(shù)據(jù)的影響的定量統(tǒng)計(jì)。

[1] A. Mohan, G. Sapiro, and E. Bosch, “Spatially Coherent Nonlinear Dimensionality Reduction and Segmentation of Hyperspectral Images,” IEEE Geosci. Remote Sensing Lett., 2007，4：206-210

[2] A. Talwalkar, S. Kumar, and H. Rowley, “Large-scale manifold learning,” presented at the Computer Vision and Pattern Recognition, 2008. IEEE Conference on, pp. 1-8

[3] E. Kokiopoulou and P. Frossard, “Semantic Coding by Supervised Dimensionality Reduction,” Multimedia, IEEE Transactions on, 2008，10(5)：806-818

[4] 曾恒.流形學(xué)習(xí)在高速列車安全性態(tài)評估數(shù)據(jù)分析中的應(yīng)用[D].成都：西南交通大學(xué),2007

[5] 徐蓉.流形學(xué)習(xí)概述[J].智能系統(tǒng)學(xué)報(bào)，2006(1)

[6] 殷興青，韓巖，張忠良.遙感融合影像在攝影測量應(yīng)用中的質(zhì)量評價(jià)[J].鐵道勘察,2008(6)

[7] 余峰，余潔，簡驍.基于Hough變換的高分辨率遙感影像道路提取方法研究[J].鐵道勘察,2011(5)

[8] 譚偉.基于圖像的鐵軌缺陷檢測系統(tǒng)的算法研究及軟件設(shè)計(jì)[D].大連：大連海事大學(xué),2004

[9] 李渝勤，孫麗華.基于規(guī)則的自動分類在文本分類中的應(yīng)用[J].中文信息學(xué)報(bào),2004(4)

[10]鄭麗，潘建平.基于數(shù)學(xué)形態(tài)學(xué)的遙感圖像道路提取[J].鐵道勘察,2010(1)

AnalyzeofManifoldLearningDescendingDimensionMethodNeighbourDistortionDependonHyperspectralVideo

ZHANG Hui-yuan

2014-01-21

張輝遠(yuǎn)(1961—)，男，1982年畢業(yè)于上海鐵道學(xué)院鐵道工程專業(yè)，高級工程師。

1672-7479(2014)02-0037-04

P237

： A