基于改進(jìn)型ELM的指靜脈識別算法研究

劉勝前 ，張烈平 ，趙 陽 ，孫 旋

（1.桂林理工大學(xué) 機(jī)械與控制工程學(xué)院 廣西礦冶與環(huán)境科學(xué)實(shí)驗(yàn)中心，桂林 541004；2.桂林理工大學(xué)環(huán)境科學(xué)與工程學(xué)院，桂林 541004；3.69225部隊(duì)84分隊(duì)，和靜 841300）

與一般的生物特征圖像相比，基于人體指靜脈的身份識別系統(tǒng)具有一些獨(dú)特的優(yōu)勢：①非接觸性，靜脈位于體表下面，不會因皮膚污染而影響靜脈圖像的采集；②活體性，只有手指或手掌處于活體時(shí)才存在成像特征，不會發(fā)生類似指紋生物特征的盜用現(xiàn)象，而且身體內(nèi)部的血管特征很難偽造或是手術(shù)改變；③易接收性，圖像采集比較友好，相比DNA和虹膜，讓人心理上更容易接受；④易與其它生物識別技術(shù)如人臉、指紋等組成多模生物識別系統(tǒng)[1-4]。

目前對指靜脈身份識別方法的研究主要集中在指靜脈圖像采集、指靜脈圖像特征提取和匹配2個(gè)方面。受到手掌皮膚的遮擋、手掌位姿、背景光照、對比度等影響，指靜脈圖像分辨率和清晰度較低，在進(jìn)行識別時(shí)具有一定難度。目前指靜脈圖像特征提取和匹配主要分2類：一類是利用指靜脈圖像的結(jié)構(gòu)特征 （如靜脈紋路圖像的端點(diǎn)和交叉點(diǎn)）來識別指靜脈，這類方法對手掌姿態(tài)變換比較敏感，且耗時(shí)長[5-7]；另一類主要提取全局靜脈圖像的統(tǒng)計(jì)特征來進(jìn)行識別，這類方法容易丟失圖像局部信息，識別率不高[8-10]。

PCA作為一個(gè)非監(jiān)督學(xué)習(xí)的降維方法，能夠提取數(shù)據(jù)中的核心成分，用數(shù)據(jù)里最主要的方面來代替原始數(shù)據(jù)。在利用PCA對指靜脈數(shù)據(jù)進(jìn)行處理時(shí)，僅僅需要以方差衡量信息量，不受特征集以外的因素影響，主要運(yùn)算是特征值分解，易于實(shí)現(xiàn)，可提高檢測時(shí)間。由于各主成分之間正交，消除了收集靜脈數(shù)據(jù)時(shí)手指位置可能會移動產(chǎn)生影響，提高檢測準(zhǔn)確性。

在進(jìn)行識別時(shí)，神經(jīng)網(wǎng)絡(luò)模型憑借其較好的魯棒性和容錯(cuò)能力成為圖像分析中的一個(gè)熱點(diǎn)研究方向[11-12]。BP神經(jīng)網(wǎng)絡(luò)算法是傳統(tǒng)的手勢識別方法之一，主要通過誤差反向傳播方式來建立手勢識別模型。然而BP方法需要多次迭代才可獲取最優(yōu)解，無法滿足手勢識別的實(shí)時(shí)性要求。此外，當(dāng)梯度下降步長較小時(shí)，BP方法容易陷入局部極小值，降低了識別的準(zhǔn)確性。

極限學(xué)習(xí)機(jī)是近年來興起的一個(gè)新型生物學(xué)習(xí)網(wǎng)絡(luò)[13-14]，具有良好的泛化能力，在利用ELM進(jìn)行指靜脈分析時(shí)，對研究對象數(shù)學(xué)模型的精確度和性能特性要求均不高，只需要對一定數(shù)量的樣本展開訓(xùn)練和學(xué)習(xí)就可以完成對指靜脈的識別，具有計(jì)算簡單、學(xué)習(xí)速度快的特點(diǎn)。傳統(tǒng)ELM算法隨機(jī)設(shè)定輸入和隱層參數(shù)，僅采用偽逆算法估計(jì)輸出權(quán)重，存在容易過學(xué)習(xí)、算法泛化能力低的問題。本文提出一種PCA特征提取和超限學(xué)習(xí)機(jī)分類相結(jié)合的高效指靜脈識別方法，將經(jīng)過PCA降維提取的最優(yōu)指靜脈圖像特征信息作為特征向量輸入ELM進(jìn)行訓(xùn)練。其次在傳統(tǒng)ELM基礎(chǔ)上，在估計(jì)輸出權(quán)重時(shí)引入L1范數(shù)約束來控制整個(gè)模型的復(fù)雜度，引入L2范數(shù)約束來提高模型泛化能力。不僅大大降低了要處理的樣本數(shù)量，又保持了ELM學(xué)習(xí)速度快、精度高的優(yōu)點(diǎn)。

1 基于PCA-ELM的靜脈識別方法

1.1 圖像預(yù)處理

1.1.1 靜脈圖像的增強(qiáng)

由于平滑處理后的圖像中靜脈血管可能會比較模糊，不利于后續(xù)處理，因此需要對圖像進(jìn)行增強(qiáng)。針對靜脈圖像整體過暗的特點(diǎn)，采用提升灰度值的思想，使用對數(shù)灰度變換法[15]。對數(shù)灰度變換法的公式如下所示：

式中：e表示灰度相關(guān)變量；t（e）是原始圖像灰度函數(shù)；g（e）是轉(zhuǎn)換后的圖像灰度函數(shù)；b和c是用來調(diào)整曲線的位置和形狀，b用于控制曲線形狀，c用于控制變換速率；a相當(dāng)于平移量，在灰度沒有達(dá)到a時(shí)皆將輸入定位為0。

1.1.2 靜脈圖像的分割

針對每一個(gè)像素點(diǎn)f（x，y），都有一個(gè)對應(yīng)的灰度閾值T（x，y）。利用一種基于圖像統(tǒng)計(jì)的閾值選取方法來對原始指靜脈圖像進(jìn)行分割[16]。閾值計(jì)算公式為

其中：

圖像預(yù)處理結(jié)果如圖1所示。

圖1 預(yù)處理結(jié)果Fig.1 Pretreatment results

1.2 基于PCA的靜脈圖像降維

首先建立樣本的協(xié)方差矩陣R：

式中：Λ=diag（λ1，λ2，…，λL），λ1≥λ2≥…≥λL為樣本相關(guān)矩陣；U=［u1，u2，…，uL］為與樣本相關(guān)矩陣中特征值對應(yīng)的特征向量矩陣。定義主元方差貢獻(xiàn)率：

計(jì)算前k個(gè)主元的方差貢獻(xiàn)率，選取使貢獻(xiàn)率ηk≥85%的主元為最終主成分，并利用所選的主成分特征值對應(yīng)的特征向量構(gòu)建變換矩陣K=［u1，u2，…，uk］，k＜L。 新的樣本空間 A=（a1，a2，…，aN）T可以通過A=XK來進(jìn)行重構(gòu)。重構(gòu)后的樣本不僅消除了靜脈圖像中相關(guān)性較強(qiáng)的一些特征，而且達(dá)到了降維的目的。

2 基于ELM的指靜脈識別模型

對于N個(gè)降維后的靜脈圖像訓(xùn)練樣本（ai，ti），i=1，2，…，N，其中 ai=［ai1，ai2，…，aiK］∈Rk，ti=［ti1，ti2，…，tim]∈Rm，則一個(gè)有T個(gè)隱層節(jié)點(diǎn)的ELM數(shù)學(xué)模型可以表示為

式中：wj=［wj1，wj2，…，wjk］為輸入節(jié)點(diǎn)同第 j個(gè)隱層節(jié)點(diǎn)之間的連接權(quán)重；βj為j個(gè)隱層節(jié)點(diǎn)輸出權(quán)重；bj為第j個(gè)隱層節(jié)點(diǎn)的偏置；g（·）為激活函數(shù)。借鑒類腦思維中隨機(jī)性思想，ELM算法對于wj和bj均隨機(jī)給定，并在整個(gè)過程中保持不變，大大節(jié)省了訓(xùn)練時(shí)間，提高了算法運(yùn)算速率。輸出權(quán)重βj是ELM中唯一需要解析確定的參數(shù)。用矩陣形式重新表示式（3），可以得到：

在傳統(tǒng)ELM算法中，輸出權(quán)重β通過求解最小二乘問題得到：

其中Φ?為偽逆，由于最小二乘算法實(shí)現(xiàn)簡單，使得ELM算法在計(jì)算效率方面明顯優(yōu)于傳統(tǒng)BP算法。然而在實(shí)際數(shù)據(jù)分析中，發(fā)現(xiàn)當(dāng)Φ存在不適定現(xiàn)象時(shí)，輸出權(quán)重β幅值會急劇增大，導(dǎo)致過擬合現(xiàn)象，極大影響ELM算法的模型準(zhǔn)確性，降低ELM網(wǎng)絡(luò)的泛化能力。

為了解決上述問題，在式（7）中加入L1-L2范數(shù)約束，一方面憑借L1范數(shù)的稀疏能力可以使模型變得簡單，另一方面L2范數(shù)約束可以提高算法的泛化能力，得到如下公式：

為了方便求解公式（8），定義如下矩陣：

由于λ2為一預(yù)先設(shè)定的常數(shù)，式（9）進(jìn)一步展開可以得到：

式（10）對β*求偏導(dǎo)，并令導(dǎo)數(shù)為零，可以得到：

綜上所述，基于L1/L2-ELM算法的步驟可以概括為以下三步：

（1）隨機(jī)產(chǎn)生隱層節(jié)點(diǎn)參數(shù)wj和bj；

（2）計(jì)算隱層輸出矩陣Φ；

3 實(shí)驗(yàn)結(jié)果分析

為了驗(yàn)證所提出算法的有效性，選取了自采集數(shù)據(jù)和來自MMCBNU-6000的公共數(shù)據(jù)集。公共數(shù)據(jù)集有來自不同國家、血型、性別和年齡的人群，共100個(gè)人。每個(gè)人18張指靜脈圖片，其中無名指、中指和食指各6張，共100*18=1800張指靜脈圖片。實(shí)驗(yàn)環(huán)境為處理器Inter1.60 GHz，內(nèi)存1 GB，Matlab12平臺仿真。

圖2展示了PCA前后對指靜脈圖像的預(yù)處理效果，可以看出經(jīng)過PCA操作在降維的同時(shí)有效保留了圖像中的靜脈分布。即使在圖像有小角度旋轉(zhuǎn)的情況下，PCA也可以抓住圖像中的有效特征，一定程度上提升了算法的魯棒性。

圖2 PCA處理前后的效果對比Fig.2 Comparison of the effect of PCA rendering

如圖3所示，經(jīng)過三重交叉驗(yàn)證之后，可以得到對三個(gè)不同用戶的身份識別準(zhǔn)確率。所提出算法在識別準(zhǔn)確率方面占據(jù)了明顯的優(yōu)勢，主要原因在于指靜脈圖像采集過程中極易受到手指姿態(tài)、背景光線的影響，會造成圖像細(xì)微的旋轉(zhuǎn)，經(jīng)過PCA的特征提取，可以減弱甚至消除圖像的負(fù)面變化，有利于分類準(zhǔn)確率的提高。此外，由于訓(xùn)練樣本較少，在利用ELM框架進(jìn)行訓(xùn)練時(shí)極容易發(fā)生過擬合，因此采用L1和L2范數(shù)約束可以有效避免過擬合，提升算法的范化能力。

圖3 準(zhǔn)確率對比圖Fig.3 Contrast figure of accuracy

ELM網(wǎng)絡(luò)在進(jìn)行分類時(shí)，隱層神經(jīng)元的數(shù)目需要人為設(shè)定。實(shí)驗(yàn)發(fā)現(xiàn)隱層神經(jīng)元數(shù)目對識別結(jié)果具有一定影響，為了設(shè)置合適的隱層神經(jīng)元數(shù)目，文章分析了當(dāng)隱層神經(jīng)元數(shù)目從20增加至160時(shí)的指靜脈圖像分類準(zhǔn)確率，并選取最高準(zhǔn)確率對應(yīng)的隱層神經(jīng)元數(shù)目作為最終隱層神經(jīng)元數(shù)目設(shè)定值。此外，表1對網(wǎng)絡(luò)規(guī)模進(jìn)行了對比分析，可以發(fā)現(xiàn)經(jīng)過傳統(tǒng)BP網(wǎng)絡(luò)訓(xùn)練時(shí)間最長，且準(zhǔn)確率較差。與傳統(tǒng)ELM算法相比，經(jīng)過PCA進(jìn)行特征提取之后，可以極大縮短ELM網(wǎng)絡(luò)的訓(xùn)練時(shí)間。

表1 網(wǎng)絡(luò)模型規(guī)模比較Tab.1 Comparison of network model scale

4 結(jié)語

本文在極限學(xué)習(xí)機(jī)的基礎(chǔ)之上，結(jié)合主成分分析法，提出了一種PCA-L1/L2ELM的神經(jīng)網(wǎng)絡(luò)算法，本文提出的算法比ELM的訓(xùn)練時(shí)間更短，準(zhǔn)確率更高，穩(wěn)定性更強(qiáng)。一方面通過PCA提取指靜脈圖像的特征信息，使得訓(xùn)練數(shù)據(jù)更為簡單，消除了圖像特征之間的關(guān)聯(lián)度，強(qiáng)調(diào)圖像特征個(gè)體特性。另一方面結(jié)合ELM的快速訓(xùn)練測試神經(jīng)網(wǎng)絡(luò)，通過在ELM算法中引入L1范數(shù)約束來簡化模型，引入L2范數(shù)約束來提高模型的泛化能力。實(shí)驗(yàn)結(jié)果證明該方法具有準(zhǔn)確率高、響應(yīng)快的優(yōu)點(diǎn)。