吳 蘭， 李崇陽

(河南工業(yè)大學(xué) 電氣工程學(xué)院 河南 鄭州 450001)

0 引言

近年來，深度學(xué)習(xí)方法已經(jīng)成功應(yīng)用于機(jī)器視覺[1]、圖像處理等領(lǐng)域，這些成功的背后都離不開大量的帶標(biāo)簽數(shù)據(jù)支撐。但是在實(shí)際生活中，收集足夠多的帶標(biāo)簽數(shù)據(jù)是極其困難的。特別是在特殊領(lǐng)域，由于無法獲取足夠的帶標(biāo)簽數(shù)據(jù)，導(dǎo)致該領(lǐng)域發(fā)展受限。遷移學(xué)習(xí)[2]的提出可以借助相關(guān)源域豐富的帶標(biāo)簽數(shù)據(jù)來解決目標(biāo)域無標(biāo)簽數(shù)據(jù)的問題。領(lǐng)域自適應(yīng)[3]是一種非常有效的遷移學(xué)習(xí)方法，能夠利用來自不同但相關(guān)源域豐富的帶標(biāo)簽數(shù)據(jù)，將從源域?qū)W習(xí)的知識(shí)遷移到目標(biāo)域。

領(lǐng)域自適應(yīng)的關(guān)鍵就是要減小源域樣本與目標(biāo)域樣本之間的域轉(zhuǎn)移問題，從大量帶標(biāo)簽數(shù)據(jù)的源域中學(xué)習(xí)域不變特征，遷移到目標(biāo)域上，從而解決目標(biāo)域標(biāo)簽樣本不足的問題。

現(xiàn)有的領(lǐng)域自適應(yīng)方法大多數(shù)是基于全局的域自適應(yīng)，將源域和目標(biāo)域全局分布對(duì)齊，沒有考慮到源域與目標(biāo)域類別的情況。在面對(duì)目標(biāo)域類別比源域類別數(shù)量少的部分領(lǐng)域自適應(yīng)，此時(shí)將兩個(gè)域經(jīng)過全局域適應(yīng)后，兩個(gè)域特征分布大致相同，但是由于目標(biāo)域的類別數(shù)量少，源域類別數(shù)量多，在對(duì)齊的過程中勢(shì)必會(huì)將目標(biāo)域本身的特征信息分配給只出現(xiàn)在源域的類別，從而導(dǎo)致負(fù)遷移?，F(xiàn)有針對(duì)部分域自適應(yīng)的方法常見的是基于對(duì)抗性的。但基于對(duì)抗性的方法的本質(zhì)也是將兩個(gè)域的特征分布進(jìn)行全局對(duì)齊，可能會(huì)丟失數(shù)據(jù)本身的細(xì)粒度信息。

基于以上問題，本文提出一種深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)，通過加權(quán)跨域?qū)R相關(guān)的子域分布，增強(qiáng)深度領(lǐng)域自適應(yīng)網(wǎng)絡(luò)的特征學(xué)習(xí)能力，與以往的方法相比，更加關(guān)注子類信息，通過子域自適應(yīng)來學(xué)習(xí)每個(gè)類別的特征信息，同時(shí)考慮樣本特征的權(quán)重來減緩只存在源域的異常源類的負(fù)遷移。

本文的主要貢獻(xiàn)包括3個(gè)方面：

1) 提出一種新的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)(deep-weighted subdomain adaptive network, DWSAN)，通過權(quán)重設(shè)置,弱化只出現(xiàn)在源域的異常源類特征對(duì)目標(biāo)域?qū)W習(xí)源域相關(guān)類別特征信息的影響，最大限度將目標(biāo)域的類別與相關(guān)源類進(jìn)行子域?qū)R，從而為解決部分領(lǐng)域自適應(yīng)問題提供思路。

2) 提出一種局部加權(quán)最大均值差異方法，通過權(quán)重設(shè)置來減緩異常源類的特征在遷移過程中對(duì)目標(biāo)域的影響，并且對(duì)目標(biāo)域和源域都存在的每個(gè)子類的特征分布差異進(jìn)行優(yōu)化。

3) 本文采用的網(wǎng)絡(luò)結(jié)構(gòu)是非對(duì)抗性的，優(yōu)化參數(shù)少，比以前的基于對(duì)抗的模型結(jié)構(gòu)簡(jiǎn)單。

1 相關(guān)工作

1.1 深度域自適應(yīng)

深度域自適應(yīng)是利用深度網(wǎng)絡(luò)來增強(qiáng)域自適應(yīng)性能的一種方法。深度網(wǎng)絡(luò)學(xué)習(xí)的特征更具有代表性和可遷移性。與傳統(tǒng)的方法相比，深度域自適應(yīng)方法通過將域自適應(yīng)和深度神經(jīng)網(wǎng)絡(luò)相結(jié)合，利用深度網(wǎng)絡(luò)學(xué)習(xí)更多可遷移的特征。

深度域自適應(yīng)主要有基于差異和基于對(duì)抗兩種方法?；诓町惖纳疃扔蜃赃m應(yīng)方法主要是利用目標(biāo)域標(biāo)記的或者未標(biāo)記的數(shù)據(jù)對(duì)深度網(wǎng)絡(luò)模型進(jìn)行調(diào)整，以此來減少兩個(gè)域的分布差異。最大均值差異[4](maximum mean discrepancy, MMD)是最常用的比較和減少域間分布差異的非參數(shù)方法，除此之外還有相關(guān)對(duì)齊(CORAL)[5]、Kullback-Leibler(KL)散度[6]等方法。文獻(xiàn)[7]提出了一種極其簡(jiǎn)單的域自適應(yīng)神經(jīng)網(wǎng)絡(luò)(domain adaptive neural network, DaNN)，該方法是一種新的深度結(jié)構(gòu)域自適應(yīng)方法，在特征層之后加入MMD自適應(yīng)層來測(cè)量?jī)蓚€(gè)域之間的特征分布差異。基于對(duì)抗的深度域自適應(yīng)方法是通過域鑒別器來混淆用于分類的數(shù)據(jù)是來自源域還是目標(biāo)域，以此來最小化源域與目標(biāo)域映射在特征空間的分布差異。文獻(xiàn)[8]提出了一種新的領(lǐng)域?qū)股窠?jīng)網(wǎng)絡(luò)(domain adversarial neural network, DANN)，首次將對(duì)抗學(xué)習(xí)的思想引入遷移學(xué)習(xí)，該模型最小化標(biāo)簽分類器的損失函數(shù)以提取具有區(qū)分能力的特征，最大化分類器的損失函數(shù)以提取具有域不變性的特征，從而減少域遷移。文獻(xiàn)[9]提出了一種對(duì)抗判別域自適應(yīng)(adversarial discriminative domain adaptation, ADDA)模型，將生成式對(duì)抗網(wǎng)絡(luò)(generative adversarial network, GAN)[10]損失、權(quán)重共享和判別建模相結(jié)合，對(duì)域差異進(jìn)行優(yōu)化。文獻(xiàn)[11]提出的部分對(duì)抗性域自適應(yīng)(partial adversarial domain adaptation, PADA)通過對(duì)抗的思想對(duì)齊兩個(gè)域的全局分布，同時(shí)減小在異常源類的類別權(quán)重而增大源域中目標(biāo)域相關(guān)類別的權(quán)重，把問題轉(zhuǎn)化為傳統(tǒng)遷移學(xué)習(xí)問題。文獻(xiàn)[12]提出了選擇對(duì)抗網(wǎng)絡(luò)(selective adversarial network, SAN)來解決部分領(lǐng)域自適應(yīng)問題，文獻(xiàn)[12]和文獻(xiàn)[11]的整體思路和架構(gòu)幾乎一樣，最大的不同是文獻(xiàn)[12]使用了多個(gè)域鑒別器，源域有多少類就有多少個(gè)域鑒別器，而文獻(xiàn)[11]只有一個(gè)域鑒別器。文獻(xiàn)[13]提出了重要性加權(quán)對(duì)抗網(wǎng)絡(luò)(importance weighted adversarial network, IWAN)，該網(wǎng)絡(luò)針對(duì)部分遷移問題的解決方案是，選擇出源域中與目標(biāo)域都存在的類別里的樣本，給它們賦予高權(quán)重，異常源類里的樣本賦予低權(quán)重，將問題轉(zhuǎn)化為傳統(tǒng)的遷移學(xué)習(xí)問題。

1.2 最大均值差異(MMD)

MMD等多種測(cè)量?jī)蓚€(gè)域特征分布的度量方法都被應(yīng)用于域適應(yīng)，除此之外還有一些基于MMD的擴(kuò)展也被應(yīng)用于域自適應(yīng)。文獻(xiàn)[14]提出了一種深度殘差傳輸網(wǎng)絡(luò)(residual transfer network, RTN)域自適應(yīng)方法，除了使用MMD適應(yīng)特征外，還增加了一個(gè)門控殘余層用于分類器自適應(yīng)。文獻(xiàn)[15]提出了一種新的深度自適應(yīng)網(wǎng)絡(luò)結(jié)構(gòu)(deep adaptation network, DAN)，在條件分布保持不變的前提下，通過嵌入多個(gè)任務(wù)特定層和多核來優(yōu)化匹配邊緣分布學(xué)習(xí)可轉(zhuǎn)移特征，而不是使用單層線性MMD。文獻(xiàn)[16]提出聯(lián)合自適應(yīng)網(wǎng)絡(luò)(joint adaptation network, JAN)，該網(wǎng)絡(luò)通過聯(lián)合最大平均誤差(joint maximum mean discrepancy, JMMD)準(zhǔn)則來調(diào)整多個(gè)領(lǐng)域特定層的聯(lián)合分布來學(xué)習(xí)遷移網(wǎng)絡(luò)，采用對(duì)抗性訓(xùn)練策略使JMMD最大化，使源域和目標(biāo)域的分布更容易區(qū)分。

MMD值最常用的定義為再生核希爾伯特空間(reproducing kernel Hilbert space, RKHS)中邊緣分布Ps和Pt的內(nèi)核嵌入之間的平方距離。MMD值越小，表示源域與目標(biāo)域的特征分布越相似。

源域與目標(biāo)域的特征分布距離可以表述為

其中:φ是特征映射;k是φ的核函數(shù);Hk代表具特色核k的RKHS。

1.3 子域自適應(yīng)

近年來越來越多研究人員對(duì)子域自適應(yīng)進(jìn)行了深入的研究，文獻(xiàn)[17]提出了一種利用子空間對(duì)齊的遷移框架，源域和目標(biāo)域均用特征向量矩陣描述的子空間表示。文獻(xiàn)[18]提出了基于RCNN的目標(biāo)檢測(cè)器的子空間對(duì)齊的域自適應(yīng)算法。在基于子空間的對(duì)象域適應(yīng)中，需要訪問源子空間和目標(biāo)子空間來獲得特征。文獻(xiàn)[19]提出將特征映射到低維子空間，在子空間中進(jìn)行聯(lián)合適配。

本文提出的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)設(shè)計(jì)了一種新的局部加權(quán)最大平均差異來優(yōu)化目標(biāo)域和源域相關(guān)子類的特征分布差異，通過設(shè)置權(quán)重盡量減少異常源類在域自適應(yīng)過程中的負(fù)遷移。

2 深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)

2.1 基本定義

2.2 深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)

本文針對(duì)部分領(lǐng)域自適應(yīng)問題提出了深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)。與以往的方法不同，本次實(shí)驗(yàn)沒有采用對(duì)抗性的方法，網(wǎng)絡(luò)結(jié)構(gòu)更加簡(jiǎn)單，提出了局部加權(quán)最大平均差異方法。通過給源域類別設(shè)置權(quán)重參數(shù)，來緩解異常源類數(shù)據(jù)在子域自適應(yīng)過程中對(duì)目標(biāo)域數(shù)據(jù)產(chǎn)生的影響。網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

圖1 深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

通過對(duì)深度神經(jīng)網(wǎng)絡(luò)的研究發(fā)現(xiàn)，深度網(wǎng)絡(luò)可以學(xué)習(xí)更深層次的可遷移特征，并且這些特征更具有代表性，在深度域自適應(yīng)中提取的特征好壞會(huì)直接影響模型的泛化性能。因此，本文的特征提取器Gf是在ImageNet模型中預(yù)先訓(xùn)練的ResNet-50模型的基礎(chǔ)上微調(diào)得到的，該模型可以充分利用預(yù)訓(xùn)練過的模型和原始網(wǎng)絡(luò)參數(shù)的優(yōu)點(diǎn)。通過特征提取器Gf提取輸入數(shù)據(jù)的深度域不變特征，并在兩個(gè)域之間共享特征提取器Gf的權(quán)值。其中，fs表示從源域提取的特征，ft表示從目標(biāo)域提取的特征。

源分類器Gy將特征提取器Gf獲得的域不變特征f作為輸入，可以得到預(yù)測(cè)輸出。將源分類器的權(quán)值共享給目標(biāo)域分類器。

為獲取域不變特征f，通過優(yōu)化特征提取器Gf的參數(shù)θf，同時(shí)優(yōu)化源分類器Gy的參數(shù)θy來保證源分類器Gy的準(zhǔn)確性。除此之外還要優(yōu)化局部加權(quán)最大均值差異(weighted maximum mean discrepancy, WMMD)的參數(shù)θm，進(jìn)一步減小相關(guān)源類和目標(biāo)域類別的子域特征分布差異，從而提高傳遞精度。

2.3 局部加權(quán)最大均值差異

以往的基于MMD的方法重點(diǎn)關(guān)注全局分布的對(duì)齊，從而忽略了兩個(gè)域中同一類別之間的關(guān)系。尤其是在部分域自適應(yīng)問題中，由于異常源類的存在，直接進(jìn)行全局對(duì)齊就會(huì)產(chǎn)生負(fù)遷移。本文提出將源域和目標(biāo)域中同一類別的相關(guān)子域的分布進(jìn)行對(duì)齊。在對(duì)齊相關(guān)子域的同時(shí)，把異常源類的影響降到最低，因此提出WMMD，給異常源類一個(gè)低權(quán)重，從而減少異常源類在對(duì)齊子域分布的影響。WMMD的分布距離可以表述為

為了對(duì)齊相關(guān)子域的分布，設(shè)置源域每個(gè)類的權(quán)重參數(shù)為γ。

γ是一個(gè)量化源域類別貢獻(xiàn)的|Cs|維向量。由于目標(biāo)域數(shù)據(jù)不屬于異常源類，因此針對(duì)異常源類的數(shù)據(jù)應(yīng)該有一個(gè)比較小的權(quán)重，這樣才能減少子域?qū)R的影響。通過將每個(gè)權(quán)重都除以這個(gè)權(quán)重向量中最大權(quán)值進(jìn)行歸一化處理，即：γ=γ/max(γ)，從而達(dá)到將異常源類的權(quán)重貢獻(xiàn)明顯變小。這樣處理不管源域的類別數(shù)量比目標(biāo)域數(shù)量多還是相等，都可以得到源域類別的貢獻(xiàn)權(quán)重，從而引導(dǎo)目標(biāo)域數(shù)據(jù)減少分類錯(cuò)誤。

2.4 損失函數(shù)

本文提出的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)的損失包括兩部分，一部分是在訓(xùn)練源分類器的源監(jiān)督損失，另一部分是利用WMMD對(duì)齊子域分布的損失。

深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)的總體損失函數(shù)為

3 實(shí)驗(yàn)結(jié)果及分析

我們?cè)贠ffice-31[20]、Office-Home[21]和水下人造物體數(shù)據(jù)集上進(jìn)行了仿真實(shí)驗(yàn)，以此來評(píng)估我們的方法與幾種先進(jìn)的深度域自適應(yīng)方法的性能。

3.1 數(shù)據(jù)集

Office-31是領(lǐng)域自適應(yīng)中使用最廣泛的數(shù)據(jù)集，從三個(gè)不同的領(lǐng)域收集了包含31個(gè)類別共計(jì)4 652張圖像，如圖2所示。這些圖像數(shù)據(jù)集分別為從亞馬遜網(wǎng)下載的Amazon(A)、通過網(wǎng)絡(luò)攝像頭和單反相機(jī)拍攝的Webcam(W)和DSLR(D)。使用Office-31和Caltech-256數(shù)據(jù)集共享的10類作為目標(biāo)域。設(shè)置6組域自適應(yīng)學(xué)習(xí)任務(wù)，分別為A31→W10(A→W)、D31→W10(D→W)、W31→D10(W→D)、A31→D10(A→D)、D31→A10(D→A)、W31→A10(W→A)。每組學(xué)習(xí)任務(wù)源域?yàn)?1類，目標(biāo)域?yàn)?0類。

圖2 Office-31數(shù)據(jù)集示例圖像

Office-Home是一個(gè)復(fù)雜度更高的領(lǐng)域自適應(yīng)數(shù)據(jù)集，從4個(gè)不同的領(lǐng)域收集了65個(gè)類別共計(jì)15 588張圖像，如圖3所示。這些圖像分別來自藝術(shù)照片(A)、剪紙畫(C)、產(chǎn)品圖像(P)和現(xiàn)實(shí)世界圖像(R)。 將這四個(gè)域的數(shù)據(jù)分別作為源域，目標(biāo)域數(shù)據(jù)為按照字母排序的前25類圖像?；诖宋覀兛梢詷?gòu)造12個(gè)學(xué)習(xí)任務(wù)。分別為A65→C25(A→C)、A65→P25(A→P)、A65→R25(A→R)、C65→A25(C→A)、C65→P25(C→P)、C65→R25(C→R)、P65→A25(P→A)、P65→C25(P→C)、P65→R25(P→R)、R65→A25(R→A)、R65→C25(R→C)、R65→P25(R→P)。每組學(xué)習(xí)任務(wù)源域?yàn)?5類，目標(biāo)域?yàn)?5類。

圖3 Office-Home數(shù)據(jù)集示例圖像

水下數(shù)據(jù)集：借助文獻(xiàn)[22]提出的不需要額外的圖像深度信息就能獲得滿意的水下圖像的方法，基于Office-31和Caltech-256數(shù)據(jù)集共享的10類數(shù)據(jù)集為基礎(chǔ)，得到的渾濁度分別為0.5、1.0、1.5、2.0的水下數(shù)據(jù)集。水下數(shù)據(jù)集示例如圖4所示。將得到的水下數(shù)據(jù)集作為目標(biāo)域，Office-31數(shù)據(jù)集作為源域，針對(duì)每種渾濁度的水下數(shù)據(jù)集分別構(gòu)造了以下9個(gè)學(xué)習(xí)任務(wù)。A31→U_A10(A→U_A)、A31→U_W10(A→U_W)、A31→U_D10(A→U_D)、W31→U_A10(W→U_A)、W31→U_W10(W→U_W)、W31→U_D10(W→U_D)、D31→U_A10(D→U_A)、D31→U_W10(D→U_W)和D31→U_D10(D→U_D)。每組學(xué)習(xí)任務(wù)源域?yàn)?1類，目標(biāo)域?yàn)?0類。

圖4 水下數(shù)據(jù)集示例圖像

針對(duì)Office-31和Office-Home數(shù)據(jù)集將本文提出的深度加權(quán)子域自適應(yīng)與其他主流的深度學(xué)習(xí)方法進(jìn)行了性能對(duì)比。針對(duì)Office-31數(shù)據(jù)集比較的方法有深度殘差網(wǎng)絡(luò)ResNet[1]、深度自適應(yīng)網(wǎng)絡(luò)DAN[15]、RTN[14]、DANN[8]、ADDA[9]、JAN[16]、PADA[11]、IWAN[13]。針對(duì)Office-Home數(shù)據(jù)集比較的方法有ResNet[1]、DAN[15]、RTN[14]、ADDA[9]、PADA[11]、IWAN[13]、SAN[12]。除此之外，還利用水下數(shù)據(jù)集測(cè)試了我們的方法。

3.2 實(shí)驗(yàn)結(jié)果及分析

基于ResNet-50對(duì)Office-31數(shù)據(jù)集的6個(gè)任務(wù)的分類結(jié)果如表1所示，黑體表示該遷移任務(wù)的最高準(zhǔn)確率。從表1可以看出：

表1 Office-31數(shù)據(jù)集用于域適應(yīng)的準(zhǔn)確率(ResNet-50)

1) DAN、DANN、ADDA、JAN的分類正確率都低于ResNet，由此可見，這些方法在面對(duì)部分領(lǐng)域自適應(yīng)問題負(fù)遷移的現(xiàn)象很嚴(yán)重。

2) RTN方法雖然比ResNet有改進(jìn)，但在一些任務(wù)上精度仍然不高，仍然存在負(fù)遷移問題。

3) 部分域自適應(yīng)方法PADA、IWAN在結(jié)果上遠(yuǎn)比其他方法準(zhǔn)確率高，也正因?yàn)樗鼈兝眉訖?quán)機(jī)制才能緩解異常源類的負(fù)遷移，促進(jìn)相關(guān)源類的正遷移。

4) 本文所提出的DWSAN在分類任務(wù)上取得的效果要比部分域自適應(yīng)方法PADA、IWAN要好，這也說明了本文提出的方法可以有效減緩異常源類的負(fù)遷移，促進(jìn)相關(guān)子域的正遷移。

Office-Home數(shù)據(jù)集復(fù)雜度更高，更具有挑戰(zhàn)性，基于ResNet-50對(duì)Office-Home數(shù)據(jù)集的12個(gè)任務(wù)的分類結(jié)果如表2所示。黑體表示該遷移任務(wù)的最高準(zhǔn)確率。從表2可以看出：

表2 Office-Home數(shù)據(jù)集用于域適應(yīng)的準(zhǔn)確率(ResNet-50)

1) DAN、RTN、ADDA的分類準(zhǔn)確率在一些任務(wù)上分類精確度高于ResNet，但整體效果并不理想，這些方法在處理部分領(lǐng)域自適應(yīng)問題存在負(fù)遷移問題。

2) 部分域自適應(yīng)方法PADA、IWAN、SAN在有些任務(wù)上比其他域自適應(yīng)方法表現(xiàn)優(yōu)秀，但由于數(shù)據(jù)集更具挑戰(zhàn)性，整體精度并沒有很突出。

3) 本文所提出的DWSAN在分類任務(wù)上取得的效果比部分域自適應(yīng)方法PADA、SAN、IWAN好，這也說明了本文提出的方法可以有效減緩異常源類的負(fù)遷移，促進(jìn)相關(guān)子域的正遷移。

對(duì)比實(shí)驗(yàn)結(jié)果進(jìn)一步說明：

1) 在部分領(lǐng)域自適應(yīng)問題中，深度加權(quán)子域自適應(yīng)方法性能優(yōu)于之前的域適應(yīng)方法。將以往的全局域適應(yīng)方法改進(jìn)為加權(quán)子域自適應(yīng)方法是實(shí)現(xiàn)域適應(yīng)的關(guān)鍵；以前的方法不考慮子域之間的關(guān)系對(duì)齊全局分布，忽略了局部信息，而DWSAN精確地對(duì)齊了相關(guān)的子域分布，它不僅弱化了異常源類的信息，還可以為每個(gè)目標(biāo)域相關(guān)類別捕獲更細(xì)粒度的信息。

2) 特別是與其他部分域自適應(yīng)方法相比，DWSAN取得了更高的精確度。

除此之外，本文采用的網(wǎng)絡(luò)結(jié)構(gòu)沒有基于對(duì)抗性方法。基于對(duì)抗性的方法大多包含多個(gè)損失函數(shù)，收斂速度相對(duì)較慢。從表2中可以看到以往基于對(duì)抗性的部分領(lǐng)域自適應(yīng)方法與本文提出的方法對(duì)比，本文的方法在準(zhǔn)確率上提高了10%。

基于不同渾濁度的水下數(shù)據(jù)集用深度子域自適應(yīng)網(wǎng)絡(luò)執(zhí)行9組任務(wù)，仿真結(jié)果如表3所示。可以看到每種任務(wù)下各種渾濁度的數(shù)據(jù)集都能夠得到較高的正確率。即使渾濁度較高，得到的水下數(shù)據(jù)集不清晰，也能夠得到較準(zhǔn)確的結(jié)果。

表3 水下數(shù)據(jù)集用于域適應(yīng)的準(zhǔn)確率(ResNet-50)

4 總結(jié)

針對(duì)部分領(lǐng)域自適應(yīng)問題大多數(shù)只考慮對(duì)齊兩個(gè)域的全局分布，而不考慮不同域中相同類別之間的子域關(guān)系，從而導(dǎo)致異常源類在遷移過程中造成的負(fù)遷移。本文提出了一種新的深度加權(quán)子域自適應(yīng)網(wǎng)絡(luò)(DWSAN)。該網(wǎng)絡(luò)通過對(duì)深度網(wǎng)絡(luò)提取的特征基于自適應(yīng)權(quán)重調(diào)節(jié)機(jī)制進(jìn)行重要性加權(quán)，將兩個(gè)域中都存在的類別特征賦予高權(quán)重，只存在于源域的類別特征賦予低權(quán)重；并提出局部加權(quán)最大均值差異方法，研究?jī)蓚€(gè)相關(guān)子域的特征分布對(duì)齊方法，從而減少異常源類的特征在遷移過程中導(dǎo)致的負(fù)遷移，提高模型的分類精度。本文提出的方法與PADA、SAN、IWAN等方法在Office-31和Office-Home公開數(shù)據(jù)集上進(jìn)行了對(duì)比實(shí)驗(yàn)，還將此方法應(yīng)用于水下數(shù)據(jù)集。實(shí)驗(yàn)結(jié)果表明，該方法在Office-31和Office-Home數(shù)據(jù)集上能獲得比現(xiàn)有主流方法更高的分類準(zhǔn)確率。從表3可以計(jì)算出，水下數(shù)據(jù)集用于域適應(yīng)的平均準(zhǔn)確率達(dá)到90.55%。