改進(jìn)的深度殘差網(wǎng)絡(luò)的混合氣體定量分析方法*

詹燦堅(jiān)，何家峰，駱德漢

(廣東工業(yè)大學(xué) 信息工程學(xué)院，廣東 廣州 510000)

0 引言

隨著國(guó)民經(jīng)濟(jì)的快速發(fā)展、人民物質(zhì)生活水平的不斷提高，人們對(duì)室內(nèi)居住環(huán)境的舒適化、高檔化和智能化提出了更高的要求，由此直接帶動(dòng)了裝修裝飾熱和室內(nèi)設(shè)施現(xiàn)代化的熱潮興起。但是由于質(zhì)量參差不齊的住宅建筑材料、裝飾家具材料所釋放的甲醛、甲苯、氨氣等有害化學(xué)氣體，使得室內(nèi)空氣質(zhì)量不斷惡化，嚴(yán)重者會(huì)對(duì)居住者的健康帶來(lái)一定程度的損害；空調(diào)設(shè)備的廣泛使用，使得室內(nèi)通風(fēng)率明顯降低，導(dǎo)致住宅內(nèi)空氣污染程度不斷累積[1]。

目前監(jiān)測(cè)環(huán)境污染氣體的方法和設(shè)備，包括有氣相色譜法、非分散紅外法和納氏試劑比色法等，局限于對(duì)單一或某幾種污染氣體監(jiān)測(cè)，單一設(shè)備成本較高，且無(wú)法實(shí)時(shí)實(shí)地來(lái)進(jìn)行檢測(cè)，這些監(jiān)測(cè)方法的通用性較差。

而仿生嗅覺(jué)系統(tǒng)的采集裝置的傳感器陣列一般由多個(gè)或多組金屬氧化物半導(dǎo)體(Metal-Oxide Semiconductor，MOS)傳感器組成[2]，該傳感器通過(guò)這些MOS 傳感器將混合氣體信息轉(zhuǎn)化為電信號(hào)。MOS 氣體傳感器中的氣體敏感材料對(duì)于不同的氣體具有不同的靈敏度，具有交叉靈敏度的特性，因此，仿生嗅覺(jué)系統(tǒng)通常需要與適當(dāng)?shù)哪Ｊ阶R(shí)別方法一起互相結(jié)合運(yùn)用，用以幫助分析識(shí)別室內(nèi)環(huán)境下混合氣體中的各氣體成分相關(guān)信息。

在實(shí)際的運(yùn)用過(guò)程中，仿生嗅覺(jué)系統(tǒng)會(huì)遇到許多噪聲問(wèn)題，很容易受到環(huán)境干擾因素的影響，例如環(huán)境溫度、濕度和氣壓等影響。另外，電子鼻的陣列式傳感器對(duì)目標(biāo)氣體有響應(yīng)的同時(shí)，也會(huì)對(duì)一些未知?dú)怏w產(chǎn)生響應(yīng)。 這些干擾都會(huì)影響到仿生嗅覺(jué)系統(tǒng)中識(shí)別模型的準(zhǔn)確性和穩(wěn)定性。

本文將重點(diǎn)提出一種改進(jìn)的深度殘差網(wǎng)絡(luò)的氣體定量分析方法，主要結(jié)合了深度殘差網(wǎng)絡(luò)[2]和數(shù)字信號(hào)處理中的降噪分析算法的優(yōu)點(diǎn)，利用深度殘差網(wǎng)絡(luò)有效解決深度學(xué)習(xí)中可能出現(xiàn)的梯度消失和梯度爆炸等問(wèn)題，增加模型的魯棒性，使用軟閾值化來(lái)作為非線性層，從而大大降低未知?dú)馕秾?duì)識(shí)別效果的不良影響，提高對(duì)不同目標(biāo)氣體識(shí)別的預(yù)測(cè)準(zhǔn)確率。

1 仿生嗅覺(jué)系統(tǒng)組成

仿生嗅覺(jué)系統(tǒng)是指一種能夠模擬人和其他哺乳動(dòng)物的各種嗅覺(jué)系統(tǒng)結(jié)構(gòu)和功能來(lái)實(shí)現(xiàn)對(duì)氣體的預(yù)測(cè)或者定量分析的系統(tǒng)，被稱之為人工嗅覺(jué)系統(tǒng)[3]。 仿生嗅覺(jué)系統(tǒng)一般由 MOS 傳感器陣列、氣味信號(hào)采集和模式識(shí)別方法組成，它可以在幾小時(shí)、幾天甚至數(shù)月的時(shí)間內(nèi)連續(xù)地、實(shí)時(shí)地監(jiān)測(cè)特定位置的氣體信息。 仿生嗅覺(jué)工作原理如圖1 所示。

圖1 仿生嗅覺(jué)工作原理圖

在仿生嗅覺(jué)系統(tǒng)中的模式識(shí)別方法主要由氣味信號(hào)處理以及信號(hào)分析與識(shí)別兩個(gè)步驟組成。 當(dāng)今，在仿生嗅覺(jué)中常用一些基于線性的機(jī)器學(xué)習(xí)算法，如主成分分析法(Principal Component Analysis，PCA)[4]和線性判別分析(Latent Dirichlet Allocation，LDA)[5]等。 而上述機(jī)器學(xué)習(xí)算法在只有單一氣體的場(chǎng)景下分類識(shí)別的效果較好，并且室內(nèi)氣體環(huán)境比較復(fù)雜，不只是單單存在一類氣體，電子鼻的傳感器陣列對(duì)混合氣體的響應(yīng)信號(hào)是非線性的，所以大多數(shù)情況下，難以通過(guò)基于 PCA 算法和 LDA 算法[5]的線性特征提取方法來(lái)準(zhǔn)確提取混合氣體信號(hào)中的非線性特征，會(huì)出現(xiàn)室內(nèi)混合氣體識(shí)別準(zhǔn)確較低的情況。

在氣體定量分析的步驟中，一般是采用傳統(tǒng)的模式識(shí)別算法BP 神經(jīng)網(wǎng)絡(luò)[6]或者支持向量機(jī)(Support Vector Machine，SVM)[7]來(lái)進(jìn)行氣體定量分析。 BP 算法能夠擬合氣味模型中的非線性映射，但是收斂速度過(guò)慢，容易陷入局部最小值。 而通過(guò)SVM 可以處理小樣本問(wèn)題，但核函數(shù)的選取和參數(shù)的設(shè)置是影響氣體識(shí)別結(jié)果的重要因素[8]。 因此，在仿生嗅覺(jué)系統(tǒng)中模式識(shí)別方法的選擇會(huì)對(duì)系統(tǒng)的性能產(chǎn)生很大的影響。

而上述的文獻(xiàn)大多數(shù)沒(méi)有考慮到未知?dú)怏w和噪聲對(duì)實(shí)驗(yàn)結(jié)果的干擾的情況，于是本文在電子鼻數(shù)據(jù)采集階段引入不同程度的干擾氣體，根據(jù)實(shí)際情況分為不同的污染等級(jí)，再加上軟閾值化降噪算法，能夠充分地降低噪聲以及冗余信息對(duì)準(zhǔn)確率帶來(lái)的影響，以便進(jìn)行室內(nèi)有害氣體成分的定量分析，實(shí)現(xiàn)室內(nèi)環(huán)境中有害氣體組成成分的高準(zhǔn)確度定量分析。

2 深度殘差網(wǎng)絡(luò)

深度學(xué)習(xí)中，卷積神經(jīng)網(wǎng)絡(luò)已被廣泛應(yīng)用于各種圖像處理等問(wèn)題[9]。 卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，CNN)用于圖像分類、圖像識(shí)別、目標(biāo)跟蹤問(wèn)題，顯示出較高的效率。在卷積層中，前一層的特征圖成為可學(xué)習(xí)的內(nèi)核并使用激活功能生成輸出要素圖。 每個(gè)輸出特征圖可以將卷積與多個(gè)輸入特征圖結(jié)合在一起[10]。 它通常如式(1)所示。

式中：i 為網(wǎng)絡(luò)的第 i 個(gè)卷積核，g(i)為第 i 個(gè)卷積核提取所得到的特征圖；a 為輸入數(shù)據(jù)；β 為卷積核的偏置；x、y、z 為數(shù)據(jù)的維度，在處理一維時(shí)域信號(hào)時(shí)，對(duì)其中兩個(gè)維度進(jìn)行簡(jiǎn)化即可。

根據(jù)神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)本質(zhì)，隨著網(wǎng)絡(luò)層數(shù)的增加，神經(jīng)網(wǎng)絡(luò)的效果應(yīng)當(dāng)越來(lái)越好，也即是損失函數(shù)會(huì)是逐漸下降的光滑曲線。 然而，在實(shí)際的操作中卻不符合這個(gè)規(guī)律。

由于傳統(tǒng)的CNN 自然地整合了由低到高不同層的特征，可以通過(guò)加深網(wǎng)絡(luò)層次來(lái)到達(dá)豐富特征提取的目的。在構(gòu)建卷積網(wǎng)絡(luò)時(shí)，網(wǎng)絡(luò)的深度越深，可抽取的特征層次就越加多。 所以一般會(huì)使用更深層次的網(wǎng)絡(luò)結(jié)構(gòu)，以便得到更佳的深層的特征圖。不過(guò)，在使用高層次的深度網(wǎng)絡(luò)的時(shí)候梯度消失、梯度爆炸問(wèn)題和網(wǎng)絡(luò)退化的問(wèn)題會(huì)隨之出現(xiàn)。

2015 年由何愷明提出的一種看似簡(jiǎn)單但是極為有效的網(wǎng)絡(luò)結(jié)構(gòu)被命名為殘差網(wǎng)絡(luò)(Residual Network，ResNet)，在傳統(tǒng)的前向傳播基礎(chǔ)上，深度殘差網(wǎng)絡(luò)增加了躍層連接(Skip Connection)。 實(shí)踐表明，深度殘差網(wǎng)路可以有效地改善“深度”網(wǎng)絡(luò)的性能。 具體如下：

假如淺層的輸出是x，經(jīng)過(guò)深層后，輸出為H(x)，通常來(lái)說(shuō)其他網(wǎng)絡(luò)模型的做法是訓(xùn)練擬合H(x)，但是在 ResNet 中，它把 H(x)看作兩部分，即 H(x)=x+F(x)，然后再訓(xùn)練擬合這兩部分。

假如 x 已是最優(yōu)，那么 F(x)在訓(xùn)練過(guò)程中將被push 趨近于0，即使繼續(xù)加深網(wǎng)絡(luò)，網(wǎng)絡(luò)也一直處于最優(yōu)狀態(tài)而不輸于淺層網(wǎng)絡(luò)。

F(x)=H(x)-x 被稱為殘差映射(residual mapping)，而x 則被稱為恒等映射(identity mapping)。 這里的 F(x)是對(duì)應(yīng)的殘差，因而叫殘差網(wǎng)絡(luò)。

2.1 殘差網(wǎng)絡(luò)

殘差單元可以通過(guò)跨層恒等連接的形式實(shí)現(xiàn)[11]，如圖2 所示。 即，將單元輸入直接添加到單元輸出并激活。 因此，使用基本的自動(dòng)微分深度學(xué)習(xí)方案可以輕松實(shí)現(xiàn)剩余網(wǎng)絡(luò)框架，并且可以使用BP 算法直接更新參數(shù)。 而深度殘差網(wǎng)絡(luò)就是多個(gè)基本殘差單元堆積而成，形成一個(gè)新的較深的神經(jīng)網(wǎng)絡(luò)。

圖2 殘差網(wǎng)絡(luò)的基本單元

在計(jì)算完成整個(gè)數(shù)據(jù)卷積之后，需要繼續(xù)使用非線性激活函數(shù)將結(jié)果進(jìn)行輸出，CNN 中常用的激活函數(shù)一般為修正線性單元(Rectified Linear Unit，ReLU)，其公式為：

2.2 信號(hào)處理中的軟閾值化

在很多的信號(hào)降噪算法中都應(yīng)用到了軟閾值化這一關(guān)鍵步驟[12]。 信號(hào)通常被轉(zhuǎn)換到一個(gè)域，軟閾值化可以直接將接近于零的特征歸零。小波閾值化通常包括三個(gè)步驟：小波分解、軟閾值化和小波重構(gòu)。 為了保證信號(hào)降噪的效果，小波閾值化的關(guān)鍵任務(wù)是設(shè)計(jì)濾波器。 濾波器能夠?qū)⒂杏玫男畔⑥D(zhuǎn)換成比較大的特征，將噪聲相關(guān)的信息轉(zhuǎn)換成接近于零的特征。 然而，設(shè)計(jì)這樣的濾波器需要大量的信號(hào)處理方面的專業(yè)知識(shí)，這樣是非常困難的。

深度學(xué)習(xí)提供了一種解決這個(gè)問(wèn)題的新思路。這些濾波器可以通過(guò)反向傳播算法自動(dòng)優(yōu)化得到，而不是由專家進(jìn)行設(shè)計(jì)。 因此，軟閾值化和深度學(xué)習(xí)的結(jié)合是一種有效地消除噪聲信息和構(gòu)建高判別性特征的方式。

軟閾值化將接近于零的特征直接置為零，而不是像ReLU 將負(fù)的特征置為零，所以負(fù)的、有用的特征能夠被保留下來(lái)，將絕對(duì)值大于這個(gè)閾值的特征朝著零的方向進(jìn)行收縮，它可以通過(guò)式(3)來(lái)實(shí)現(xiàn)。

3 室內(nèi)有害氣體定量分析方法

本文基于深度殘差網(wǎng)絡(luò)的時(shí)序電子鼻氣味信號(hào)定量分析模型[8]，針對(duì)電子鼻采集的混合氣味數(shù)據(jù)的特征以及殘差網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)，提出一種改進(jìn)的深度殘差網(wǎng)絡(luò)，本算法模型框圖如圖3 所示。 該模型與傳統(tǒng)的殘差模型相比，是通過(guò)加入軟閾值化作為非線性層對(duì)未知的一些噪聲干擾進(jìn)行降噪[13]，適用于電子鼻的室內(nèi)混合氣體數(shù)據(jù)維度大、噪聲多的數(shù)據(jù)特性，也同時(shí)結(jié)合了深度學(xué)習(xí)與信號(hào)降噪算法的優(yōu)點(diǎn)，提高了識(shí)別的準(zhǔn)確性。

圖3 殘差網(wǎng)絡(luò)的基本單元

4 實(shí)驗(yàn)結(jié)果

4.1 混合氣體數(shù)據(jù)采集

本文通過(guò)電子鼻采集實(shí)驗(yàn)共收集了1 040 個(gè)數(shù)據(jù)樣本。 根據(jù)室內(nèi)空氣質(zhì)量標(biāo)準(zhǔn)(GB/T18883-2002)，將數(shù)據(jù)樣本分為三部分種污染程度、干擾程度不同的數(shù)據(jù)。 在開(kāi)始實(shí)驗(yàn)前， 應(yīng)打開(kāi)室內(nèi)空調(diào)和加濕器，使溫度控制在25±1 ℃以內(nèi)，濕度在 75±1%以內(nèi)。 首先通過(guò)動(dòng)態(tài)氣體混合儀用標(biāo)準(zhǔn)氣體配制實(shí)驗(yàn)所需的氣體樣品， 將配制好的氣體樣品送入氣體測(cè)試箱，然后通過(guò)電子鼻采集氣味數(shù)據(jù)。最后，將氣體試驗(yàn)箱內(nèi)殘留的試驗(yàn)氣體通過(guò)尾氣處理裝置進(jìn)行無(wú)害化處理。其中320 份含甲醛的數(shù)據(jù)樣本濃度 從 0.01 mg/m3到 0.08 mg/m3(無(wú) 0.08 mg/m3)的 種氣體為合格 (正常)，320 個(gè)甲醛濃度為 0.08 mg/m3至0.16 mg/m3的數(shù)據(jù)樣本分類為輕度污染 (輕度)，有400 個(gè)數(shù)據(jù)樣本包含甲醛濃度大于 0.16 mg/m3的列為嚴(yán)重污染(嚴(yán)重)。

4.2 室內(nèi)有害氣體定量實(shí)驗(yàn)

電子鼻采集室內(nèi)有害氣體數(shù)據(jù)樣本通過(guò)不同干擾程度分為正常、輕度和嚴(yán)重三個(gè)組別，通過(guò)基于深度殘差網(wǎng)絡(luò)對(duì)含有甲醛氣體的室內(nèi)有害氣體樣本進(jìn)行定量分析。 為了探索分析基于深度殘差網(wǎng)絡(luò)的混合氣體定量分析的效果，本文使用4.1 小節(jié)PEN3 電子鼻收集的室內(nèi)混合氣體數(shù)據(jù)集，分別運(yùn)用PCA+LDA 算 法[14]、SVM 算 法[15]、CNN 算 法 以 及 改 進(jìn)的深度殘差算法進(jìn)行不同干擾程度甲醛氣體成分識(shí)別實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如表 1 和表2 所示。

表1 不同算法對(duì)不同干擾程度的甲醛濃度識(shí)別率的比較(%)

表2 不同算法對(duì)混合氣體中甲醛濃度識(shí)別的結(jié)果比較

通過(guò)實(shí)驗(yàn)結(jié)果，可見(jiàn)本文所提出的室內(nèi)有害氣體成分識(shí)別算法對(duì)混合氣體中輕度干擾和重度干擾氣體具有更高的識(shí)別率，均方誤差也更小。 但模型訓(xùn)練比其他三種算法要花費(fèi)更多時(shí)間。

5 結(jié)論

本文提出一種改進(jìn)的基于深度學(xué)習(xí)與信號(hào)處理中降噪算法相結(jié)合的室內(nèi)有害氣體定量分析算法，利用深度殘差網(wǎng)絡(luò)和軟閾值化的優(yōu)點(diǎn)，在有外界干擾氣體的場(chǎng)景下，對(duì)室內(nèi)有害混合氣體仍具有較高的識(shí)別率。 該算法的研究對(duì)仿生嗅覺(jué)系統(tǒng)在不同程度干擾的場(chǎng)景下進(jìn)行定量分析以及后續(xù)濃度估計(jì)問(wèn)題的解決具有重要意義。