崔宸 張俊琪 劉彥松等

摘要：在某單位跨系統(tǒng)的應(yīng)用場(chǎng)景中，用戶的個(gè)人信息對(duì)于提高服務(wù)質(zhì)量和用戶體驗(yàn)至關(guān)重要。然而，因?yàn)楦鞣N原因，用戶信息常存在不完整或者不準(zhǔn)確的問(wèn)題。為了解決這個(gè)問(wèn)題，文章提出了一種基于多模態(tài)融合的跨系統(tǒng)用戶信息補(bǔ)全算法。該算法利用用戶在不同信息系統(tǒng)上留下的信息（如用戶公開的郵件信息、操作記錄等）．通過(guò)多模態(tài)數(shù)據(jù)融合和信息匹配來(lái)補(bǔ)全用戶信息。實(shí)驗(yàn)結(jié)果表明，該算法在某單位的跨系統(tǒng)用戶信息補(bǔ)全任務(wù)上取得了優(yōu)秀的效果。

關(guān)鍵詞：多模態(tài)；數(shù)據(jù)融合；跨系統(tǒng)；補(bǔ)全

中圖法分類號(hào)：TP391 文獻(xiàn)標(biāo)識(shí)碼：A

１ 引言

在信息化時(shí)代，個(gè)人信息成為信息系統(tǒng)應(yīng)用的重要組成部分。然而，現(xiàn)實(shí)世界中存在許多問(wèn)題導(dǎo)致系統(tǒng)中用戶信息不完整或者不準(zhǔn)確，如在某單位的實(shí)際應(yīng)用場(chǎng)景中，用戶可能會(huì)誤輸入信息或輸入不正確的格式，信息系統(tǒng)可能會(huì)出現(xiàn)編碼錯(cuò)誤或數(shù)據(jù)庫(kù)錯(cuò)誤，管理人員可能會(huì)疏忽或者誤操作，網(wǎng)絡(luò)原因也可能會(huì)導(dǎo)致信息傳輸不暢或者傳輸失敗。

近年來(lái)，隨著社交網(wǎng)絡(luò)的發(fā)展，為了提高服務(wù)質(zhì)量和用戶體驗(yàn)，用戶信息的自動(dòng)補(bǔ)全成了一個(gè)重要的研究問(wèn)題，受到了越來(lái)越多的關(guān)注。王錚等［１］ 提出了一種基于隨機(jī)森林的大數(shù)據(jù)補(bǔ)全方法，用于填補(bǔ)運(yùn)營(yíng)商大數(shù)據(jù)中用戶的缺失信息，從而提高數(shù)據(jù)分析的準(zhǔn)確性和可靠性，但該方法缺乏捕捉非線性特征的能力，無(wú)法充分學(xué)習(xí)用戶特征；裴楊等［２］ 提出了一種基于ｎｏｄｅ２ｖｅｃ 的社交網(wǎng)絡(luò)用戶屬性補(bǔ)全攻擊方法，首先使用ｎｏｄｅ２ｖｅｃ 算法構(gòu)建社交網(wǎng)絡(luò)的圖模型，將社交網(wǎng)絡(luò)中的用戶屬性補(bǔ)全攻擊轉(zhuǎn)化為在社交網(wǎng)絡(luò)圖模型中尋找最佳路徑的問(wèn)題，通過(guò)深度學(xué)習(xí)的方法捕捉了用戶的非線性特征；張亞楠等［３］ 提出了一種考慮全局和局部信息的科研人員科研行為立體精準(zhǔn)畫像構(gòu)建方法，采用深度學(xué)習(xí)技術(shù)，考慮了局部信息與全局信息，同時(shí)利用長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)捕捉了用戶的時(shí)序信息，但是沒(méi)有利用用戶在多個(gè)平臺(tái)之間的信息；余敦輝等［４］ 首先構(gòu)建了一個(gè)跨平臺(tái)的知識(shí)圖譜，用于捕捉用戶之間的跨平臺(tái)關(guān)系，然后基于知識(shí)圖譜進(jìn)行用戶間的關(guān)系挖掘，從而得到跨平臺(tái)的用戶關(guān)系圖，通過(guò)跨平臺(tái)信息補(bǔ)全用戶屬性。

本文提出了一種基于多模態(tài)融合的跨平臺(tái)用戶信息補(bǔ)全算法ＭＰＣ，通過(guò)融合用戶在不同平臺(tái)上留下的多種信息來(lái)實(shí)現(xiàn)用戶信息的自動(dòng)補(bǔ)全。該算法首先構(gòu)建多模態(tài)用戶信息補(bǔ)全模型，將用戶在不同平臺(tái)上的信息（如文本、圖像、視頻等）進(jìn)行融合，使用深度學(xué)習(xí)技術(shù)捕捉用戶的非線性特征，從而實(shí)現(xiàn)用戶信息的自動(dòng)補(bǔ)全。另外，該算法還利用了生成對(duì)抗網(wǎng)絡(luò)［５］

以捕捉用戶之間的跨平臺(tái)關(guān)系，從而實(shí)現(xiàn)用戶屬性的補(bǔ)全。

２ 技術(shù)背景

用戶信息補(bǔ)全是指在用戶注冊(cè)或使用某產(chǎn)品或服務(wù)時(shí)，為了更好地了解用戶，從而收集用戶的基本信息，完善用戶的個(gè)人信息。用戶信息補(bǔ)全有助于更好地了解用戶，以及為用戶提供服務(wù)，滿足用戶的需求，并進(jìn)行市場(chǎng)營(yíng)銷。例如，在電商平臺(tái)上，用戶信息補(bǔ)全可以幫助電商公司更好地了解用戶，根據(jù)用戶的年齡、性別、職業(yè)、收入水平等信息，向用戶推薦更符合用戶需求的商品，從而增加用戶的購(gòu)買意愿，提高電商的銷售額。同時(shí)，用戶信息補(bǔ)全也可以幫助企業(yè)更好地管理用戶，如可以根據(jù)用戶的收入水平、職業(yè)等信息，將用戶分類，從而更好地了解用戶的需求，以及進(jìn)行市場(chǎng)營(yíng)銷，并為其提供服務(wù)，進(jìn)而提高企業(yè)的效率和收益。另外，用戶信息補(bǔ)全還可以幫助企業(yè)更好地實(shí)現(xiàn)數(shù)據(jù)分析，如可以根據(jù)用戶的性別、出生日期、收入水平等信息，對(duì)用戶進(jìn)行分析，了解用戶的消費(fèi)習(xí)慣，從而更好地實(shí)現(xiàn)市場(chǎng)營(yíng)銷。總之，用戶信息補(bǔ)全是企業(yè)更好地了解用戶，并為其提供服務(wù)，最終進(jìn)行市場(chǎng)營(yíng)銷的重要手段，是企業(yè)發(fā)展的重要基礎(chǔ)。

現(xiàn)階段，由于社交網(wǎng)絡(luò)的發(fā)展，用戶信息補(bǔ)全的相關(guān)研究受到越來(lái)越多的關(guān)注，為了提高數(shù)據(jù)質(zhì)量，王錚等提出可以利用全國(guó)日志留存系統(tǒng)，設(shè)計(jì)完整的數(shù)據(jù)模板樣庫(kù)，使用隨機(jī)森林算法來(lái)補(bǔ)全數(shù)據(jù)并優(yōu)化模板樣庫(kù)，構(gòu)建數(shù)據(jù)補(bǔ)全子系統(tǒng)，從而提升數(shù)據(jù)質(zhì)量，滿足數(shù)據(jù)處理和挖掘的要求，提升運(yùn)營(yíng)商數(shù)據(jù)的價(jià)值；裴楊等提出了一種針對(duì)社交網(wǎng)絡(luò)內(nèi)容安全的攻擊方法，即通過(guò)屬性推斷補(bǔ)全獲取用戶私密屬性，文章指出傳統(tǒng)的無(wú)監(jiān)督學(xué)習(xí)和監(jiān)督學(xué)習(xí)屬性補(bǔ)全方法未能有效結(jié)合結(jié)構(gòu)相似性和同質(zhì)性，并提出了一種基于隱式表達(dá)的用戶屬性補(bǔ)全攻擊方法，該方法利用ＮＯＤＥ２ＶＥＣ 算法將社交網(wǎng)絡(luò)中的用戶節(jié)點(diǎn)映射為向量，并通過(guò)聚類方法計(jì)算節(jié)點(diǎn)所在的社區(qū)，構(gòu)建分類模型并預(yù)測(cè)用戶缺失屬性；張亞楠等提出了一種考慮全局和局部信息的科研人員行為畫像方法，利用長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)自動(dòng)提取高度抽象特征，提取科研人員局部畫像，結(jié)合全局信息構(gòu)建科研人員的立體精準(zhǔn)畫像，考慮了科研人員的信息更新行為；余敦輝等提出了一種基于知識(shí)圖譜和重啟隨機(jī)游走的跨平臺(tái)用戶推薦方法，使用改進(jìn)的多層循環(huán)神經(jīng)網(wǎng)絡(luò)（ＲＮＮ）在目標(biāo)平臺(tái)圖譜和輔助平臺(tái)圖譜的相似子圖中預(yù)測(cè)候選用戶實(shí)體，并結(jié)合拓?fù)浣Y(jié)構(gòu)特征相似度和用戶畫像相似度篩選出相似用戶，并計(jì)算用戶之間的興趣相似度，從而實(shí)現(xiàn)用戶推薦。

針對(duì)現(xiàn)階段研究沒(méi)有考慮文本、圖像、視頻等多重信息互補(bǔ)的問(wèn)題，本文提出了基于多模態(tài)融合的跨平臺(tái)用戶信息補(bǔ)全算法，利用卷積神經(jīng)網(wǎng)絡(luò)捕捉圖像信息，結(jié)合自然語(yǔ)言處理方法提煉文本信息，并利用生成對(duì)抗網(wǎng)絡(luò)實(shí)現(xiàn)用戶信息補(bǔ)全。生成對(duì)抗網(wǎng)絡(luò)（Ｇｅｎｅｒａｔｉｖｅ Ａｄｖｅｒｓａｒｉａｌ Ｎｅｔｗｏｒｋｓ，ＧＡＮｓ） 是一種無(wú)監(jiān)督學(xué)習(xí)方法， 它包含２ 個(gè)神經(jīng)網(wǎng)絡(luò)， 即生成器（Ｇｅｎｅｒａｔｏｒ）和判別器（Ｄｉｓｃｒｉｍｉｎａｔｏｒ）。生成器的任務(wù)是從隨機(jī)噪聲中生成新的數(shù)據(jù)樣本，而判別器則試圖區(qū)分真實(shí)數(shù)據(jù)和生成器生成的數(shù)據(jù)。２ 個(gè)網(wǎng)絡(luò)通過(guò)反復(fù)博弈的方式進(jìn)行訓(xùn)練，直到生成器能夠生成足夠逼真的數(shù)據(jù)，使得判別器無(wú)法準(zhǔn)確區(qū)分真實(shí)數(shù)據(jù)和生成的數(shù)據(jù)。本文算法還利用了Ｄｏｃ２ｖｅｃ［６］ 、卷積神經(jīng)網(wǎng)絡(luò)［７］ 、Ｖｉｄｅｏ２ｖｅｃ［８］ ，其中Ｄｏｃ２ｖｅｃ 是一種無(wú)監(jiān)督算法，可將變長(zhǎng)文本（如句子、段落或文檔）轉(zhuǎn)換成固定長(zhǎng)度的特征表示。它也稱為Ｐａｒａｇｒａｐｈ Ｖｅｃｔｏｒ 或Ｓｅｎｔｅｎｃｅ Ｅｍｂｅｄｄｉｎｇｓ，可以獲取句子、段落和文檔的向量表達(dá)。Ｄｏｃ２ｖｅｃ 不需要固定句子長(zhǎng)度，可以接受不同長(zhǎng)度的句子作為訓(xùn)練樣本。卷積神經(jīng)網(wǎng)絡(luò)（Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＣＮＮ）是一種經(jīng)典的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，常用于圖像識(shí)別和計(jì)算機(jī)視覺(jué)任務(wù)。與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比，卷積神經(jīng)網(wǎng)絡(luò)在處理具有網(wǎng)格狀結(jié)構(gòu)（如圖像）的數(shù)據(jù)時(shí)擁有更好的表現(xiàn)。卷積神經(jīng)網(wǎng)絡(luò)的核心思想是卷積操作，它可以提取輸入圖像的局部特征。卷積神經(jīng)網(wǎng)絡(luò)由多個(gè)卷積層、池化層和全連接層組成。在卷積層中，卷積核對(duì)輸入的局部區(qū)域進(jìn)行卷積操作，產(chǎn)生一個(gè)特征映射。池化層可以對(duì)特征映射進(jìn)行下采樣，以降低數(shù)據(jù)維度和計(jì)算量。全連接層將池化層輸出的特征向量映射到輸出類別上。卷積神經(jīng)網(wǎng)絡(luò)還可以使用多個(gè)卷積層和池化層來(lái)提取多級(jí)抽象特征，從而提高模型性能。同時(shí)，還有一些常用的改進(jìn)方法，如殘差網(wǎng)絡(luò)、批歸一化等，進(jìn)一步提升了卷積神經(jīng)網(wǎng)絡(luò)的性能。Ｖｉｄｅｏ２ｖｅｃ是一種視頻片段的語(yǔ)義和時(shí)空信息嵌入方法。它利用視頻作為語(yǔ)義連續(xù)的時(shí)序列幀來(lái)表達(dá)視頻的高層特征。該方法使用卷積神經(jīng)網(wǎng)絡(luò)特征提取器和２ 個(gè)門控循環(huán)端元（ＧＲＵ）編碼器［９］ 來(lái)學(xué)習(xí)視頻的文本信息。視頻的彩色圖像序列和光流序列被嵌入相同尺寸的表征向量中，然后使用一個(gè)多層感知機(jī)將圖像序列的表征向量和語(yǔ)義文本向量嵌入到一起。

４ 對(duì)比方法

（１）ＲＦ：該方法基于隨機(jī)森林算法，在預(yù)處理、模型構(gòu)建、預(yù)測(cè)和結(jié)果分析等方面進(jìn)行了詳細(xì)研究和探索，并對(duì)隨機(jī)森林算法在運(yùn)營(yíng)商大數(shù)據(jù)補(bǔ)全中的應(yīng)用進(jìn)行了實(shí)證分析。

（２）Ｎｏｄｅ２ｖｅｃ：該方法利用了ｎｏｄｅ２ｖｅｃ 能表達(dá)節(jié)點(diǎn)同質(zhì)性和結(jié)構(gòu)相似性的特點(diǎn)。其將社交網(wǎng)絡(luò)中的節(jié)點(diǎn)映射到低維空間，以訓(xùn)練出來(lái)的向量作為分類器的輸入，使用ｋ?ｍｅａｎｓ 算法進(jìn)行聚類，然后使用ｋＮＮ 算法對(duì)節(jié)點(diǎn)的缺失信息進(jìn)行補(bǔ)全。先聚類再分類能夠節(jié)省程序運(yùn)行時(shí)間，同時(shí)該方法本質(zhì)上是一個(gè)有監(jiān)督的分類問(wèn)題，適用于社交網(wǎng)絡(luò)中的用戶屬性補(bǔ)全。

（３）ＴＳＰ：該方法使用主題模型和長(zhǎng)短期記憶網(wǎng)絡(luò)在科研人員畫像構(gòu)建中處理全局及局部科研行為數(shù)據(jù)，分別提取靜態(tài)和動(dòng)態(tài)特征。主題模型用于處理全局?jǐn)?shù)據(jù)，長(zhǎng)短期記憶網(wǎng)絡(luò)則用于提取科研人員的局部動(dòng)態(tài)變化的科研行為。

（４）ＲＣＣＰ?ＫＧ：該方法基于知識(shí)圖譜實(shí)現(xiàn)輔助平臺(tái)用戶信息補(bǔ)全到目標(biāo)平臺(tái)圖譜中，從而更全面地描述用戶行為，發(fā)現(xiàn)不同平臺(tái)間的潛在用戶關(guān)系，并實(shí)

現(xiàn)更準(zhǔn)確的相似用戶推薦。

５ 實(shí)驗(yàn)

本文以本單位內(nèi)部用戶多平臺(tái)信息作為數(shù)據(jù)集，用于驗(yàn)證本文模型的效果。本文采用均方根誤差（ＲＭＳＥ）、均方誤差（ＭＳＥ）以及平均絕對(duì)誤差（ＭＡＥ）來(lái)評(píng)估實(shí)驗(yàn)結(jié)果。均方根誤差是預(yù)測(cè)值與真實(shí)值之間差的平方的平均值的平方根。ＲＭＳＥ 的數(shù)值越小，表示預(yù)測(cè)誤差越小，模型的預(yù)測(cè)能力越好；均方誤差是預(yù)測(cè)值與真實(shí)值之間差的平方的平均值。ＭＳＥ 的數(shù)值越小，表示預(yù)測(cè)誤差越小，模型的預(yù)測(cè)能力越好；平均絕對(duì)誤差是預(yù)測(cè)值與真實(shí)值之間差的絕對(duì)值的平均值。ＭＡＥ 的數(shù)值越小，表示預(yù)測(cè)誤差越小，模型的預(yù)測(cè)能力越好。

４ 種對(duì)比方法的實(shí)驗(yàn)結(jié)果如表１ 所列。

表１ 列出了ＲＦ， Ｎｏｄｅ２ｖｅｃ， ＴＳＰ， ＲＣＣＰ?ＫＧ 和ＭＰＣ ５ 個(gè)模型使用ＲＭＳＥ，ＭＳＥ 和ＭＡＥ ３ 個(gè)指標(biāo)評(píng)估的結(jié)果。從表１ 可以看出，ＭＰＣ 在所有３ 個(gè)指標(biāo)下的表現(xiàn)都優(yōu)于其他４ 個(gè)模型。它的ＲＭＳＥ 為０．２３４，ＭＳＥ為０．０５５，ＭＡＥ 為０．１４０，表明它的預(yù)測(cè)結(jié)果與真實(shí)結(jié)果之間的差異較小。而在其他４ 個(gè)模型中，ＲＦ 表現(xiàn)最差，它的ＲＭＳＥ 為０．４０６，ＭＳＥ 為０．１６５，ＭＡＥ 為０．２８３，這體現(xiàn)出傳統(tǒng)機(jī)器學(xué)習(xí)方法在學(xué)習(xí)用戶跨平臺(tái)信息時(shí)難以充分利用現(xiàn)有信息。Ｎｏｄｅ２ｖｅｃ 的ＲＭＳＥ為０．２８３，ＭＳＥ 為０．１０８，ＭＡＥ 為０．２２２，以及ＴＳＰ 的ＲＭＳＥ 為０．２８１，ＭＳＥ 為０．０７９，ＭＡＥ 為０．１８１，說(shuō)明通過(guò)深度學(xué)習(xí)的方式能夠有效提升捕捉用戶跨平臺(tái)信息的能力。ＲＣＣＰ?ＫＧ 的表現(xiàn)也較為優(yōu)秀，其ＲＭＳＥ為０．４０６，ＭＳＥ 為０．１６５，ＭＡＥ 為０．２８３，這表明了考慮用戶跨系統(tǒng)信息的重要性，通過(guò)用戶在不同系統(tǒng)中的信息互補(bǔ)，可以有效提升用戶信息補(bǔ)全效果，但與ＭＰＣ 相比，仍然存在差距，這也體現(xiàn)了本文提出的基于多模態(tài)數(shù)據(jù)融合的跨系統(tǒng)用戶信息補(bǔ)全算法的優(yōu)異性，證明了用戶的多模態(tài)信息之間可以有效互補(bǔ)以提升用戶的信息補(bǔ)全效果。

６ 展望

隨著大數(shù)據(jù)和深度學(xué)習(xí)技術(shù)的不斷發(fā)展，基于多模態(tài)數(shù)據(jù)融合的跨系統(tǒng)用戶信息補(bǔ)全算法已經(jīng)成為一個(gè)非常有前景的研究方向。在這個(gè)方向上，未來(lái)可能會(huì)出現(xiàn)以下趨勢(shì)。

多模態(tài)數(shù)據(jù)的應(yīng)用范圍將不斷擴(kuò)大。隨著傳感器

和計(jì)算機(jī)視覺(jué)等技術(shù)的不斷進(jìn)步，我們可以獲取越來(lái)越多的多模態(tài)數(shù)據(jù)，如文本、圖片、音頻、視頻等，這類數(shù)據(jù)可以在用戶信息補(bǔ)全問(wèn)題中得到更廣泛的應(yīng)用。

深度學(xué)習(xí)技術(shù)將成為主流。深度學(xué)習(xí)技術(shù)在圖像、語(yǔ)音、自然語(yǔ)言處理等領(lǐng)域取得了重大的突破，未來(lái)將更多地應(yīng)用于多模態(tài)數(shù)據(jù)融合的用戶信息補(bǔ)全問(wèn)題中。

跨系統(tǒng)用戶信息的挖掘與融合?？缦到y(tǒng)用戶信息的融合涉及多個(gè)系統(tǒng)、多個(gè)數(shù)據(jù)源之間的信息集成和交互，因此需要在用戶信息補(bǔ)全算法中引入數(shù)據(jù)挖掘技術(shù)和信息融合技術(shù)，從而實(shí)現(xiàn)跨系統(tǒng)用戶信息的高效補(bǔ)全。

可解釋性和隱私保護(hù)。在用戶信息補(bǔ)全算法中，需要考慮數(shù)據(jù)的可解釋性和隱私保護(hù)問(wèn)題，這些問(wèn)題將成為未來(lái)算法設(shè)計(jì)中的重要考慮因素。為了確保算法的可靠性和用戶的隱私安全，需要開展更多的相關(guān)研究。

綜上所述，基于多模態(tài)數(shù)據(jù)融合的跨系統(tǒng)用戶信息補(bǔ)全算法在企業(yè)用戶信息管理中具有重要價(jià)值，可以提升企業(yè)的工作效率以及企業(yè)用戶的用戶體驗(yàn)，并幫助企業(yè)開展智能化管理工作。

７ 結(jié)束語(yǔ)

本文介紹了一種基于多模態(tài)數(shù)據(jù)融合的跨系統(tǒng)用戶信息補(bǔ)全算法，旨在解決用戶信息不完整的問(wèn)題，即當(dāng)用戶在使用不同的系統(tǒng)時(shí)，其個(gè)人信息可能會(huì)有所不同，從而導(dǎo)致信息不完整。該算法結(jié)合了多種數(shù)據(jù)源，包括用戶填寫的文本信息、用戶上傳的圖像以及用戶上傳的視頻，通過(guò)多模態(tài)融合的方式來(lái)補(bǔ)全用戶信息。

實(shí)驗(yàn)證明，本文算法表現(xiàn)優(yōu)秀，相較于傳統(tǒng)的基于機(jī)器學(xué)習(xí)的方法與當(dāng)前基于深度學(xué)習(xí)的主流方法，該算法在用戶信息補(bǔ)全的準(zhǔn)確性上顯著提升。另外，該算法的應(yīng)用還有一定的實(shí)際意義，如可以用于社交媒體平臺(tái)中的用戶信息補(bǔ)全，提升用戶體驗(yàn)和社交媒體平臺(tái)的精準(zhǔn)營(yíng)銷效果。

參考文獻(xiàn)：

［１］ 王錚，任華，方燕萍．隨機(jī)森林在運(yùn)營(yíng)商大數(shù)據(jù)補(bǔ)全中的應(yīng)用［Ｊ］．電信科學(xué)，２０１６，３２（１２）：７?１２．

［２］ 裴楊，瞿學(xué)鑫，郭曉博，等．基于ｎｏｄｅ２ｖｅｃ 的社交網(wǎng)絡(luò)用戶屬性補(bǔ)全攻擊［Ｊ］．信息網(wǎng)絡(luò)安全，２０１７ （１２）： ６７?７２．

［３］ 張亞楠，黃晶麗，王剛．考慮全局和局部信息的科研人員科研行為立體精準(zhǔn)畫像構(gòu)建方法［Ｊ］．情報(bào)學(xué)報(bào)，２０１９，３８（１０）：１０１２?１０２１．

［４］ 余敦輝，張蕗怡，張笑笑，等．基于知識(shí)圖譜和重啟隨機(jī)游走的跨平臺(tái)用戶推薦方法［Ｊ］．計(jì)算機(jī)應(yīng)用，２０２１，４１（７）：１８７１．

［５］ ＧＯＯＤＦＥＬＬＯＷ Ｉ， ＰＯＵＧＥＴ?ＡＢＡＤＩＥ Ｊ， ＭＩＲＺＡ Ｍ， ｅｔ ａｌ．Ｇｅｎｅｒａｔｉｖｅ ａｄｖｅｒｓａｒｉａｌ ｎｅｔｗｏｒｋｓ ［Ｊ］． Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ ｏｆ ｔｈｅＡＣＭ，２０２０，６３（１１）：１３９?１４４．

［６］ ＬＥ Ｑ，ＭＩＫＯＬＯＶ Ｔ．Ｄｉｓｔｒｉｂｕｔｅｄ ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｏｆ ｓｅｎｔｅｎｃｅｓａｎｄ ｄｏｃｕｍｅｎｔｓ ［ Ｃ］ ∥ Ｉｎｔｅｒｎａｔｉｏｎａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ ｍａｃｈｉｎｅｌｅａｒｎｉｎｇ，ＰＭＬＲ，２０１４：１１８８?１１９６．

［７］ 常亮，鄧小明，周明全，等．圖像理解中的卷積神經(jīng)網(wǎng)絡(luò)［Ｊ］．自動(dòng)化學(xué)報(bào)，２０１６，４２（９）：１３００?１３１２．

［８］ ＨＵ Ｓ Ｈ，ＬＩ Ｙ，ＬＩ Ｂ． Ｖｉｄｅｏ２ｖｅｃ：Ｌｅａｒｎｉｎｇ ｓｅｍａｎｔｉｃ ｓｐａｔｉｏ?ｔｅｍｐｏｒａｌ ｅｍｂｅｄｄｉｎｇｓ ｆｏｒ ｖｉｄｅｏ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ［Ｃ］∥２０１６ ２３ｒｄＩｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ （ ＩＣＰＲ），ＩＥＥＥ，２０１６：８１１?８１６．

［９］ ＣＨＯ Ｋ， ＶＡＮ ＭＥＲＲＩ?ＮＢＯＥＲ Ｂ， ＧＵＬＣＥＨＲＥ Ｃ， ｅｔ ａｌ．Ｌｅａｒｎｉｎｇ ｐｈｒａｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｕｓｉｎｇ ＲＮＮ ｅｎｃｏｄｅｒ?ｄｅｃｏｄｅｒｆｏｒ ｓｔａｔｉｓｔｉｃａｌ ｍａｃｈｉｎｅ ｔｒａｎｓｌａｔｉｏｎ［Ｊ］．ａｒＸｉｖ ｐｒｅｐｒｉｎｔ，２０１４．

作者簡(jiǎn)介：崔宸（１９９６—），碩士，助理工程師，研究方向：大數(shù)據(jù)與數(shù)據(jù)挖掘。