鄭子亨 王哲

近年來，Deepfakes技術(shù)不斷進(jìn)化，使用門檻不斷降低，一些不法分子將其應(yīng)用于制造假視頻和假新聞、煽動(dòng)網(wǎng)絡(luò)暴力、破壞政治選舉、擾亂外交關(guān)系、偽造虛假證據(jù)、降低民眾對(duì)政府和媒體的信任度，帶來極大負(fù)面影響。對(duì)此，我國應(yīng)予以高度重視，并提前布局、積極應(yīng)對(duì)。

“Deepfakes”是“deep machine learning”（深度學(xué)習(xí)）和“fake”（造假）的英文組合詞，又被稱作“深度偽造”，是一種基于深度學(xué)習(xí)的人物圖像合成技術(shù)，由于Deepfakes最常見的方式就是在視頻中把一張臉替換成另一張臉，因此也被稱作“人臉交換”（Face Swap）技術(shù)。Deepfakes算法常常被運(yùn)用在圖片和視頻制作過程中合成新的視頻或圖像，目前，其技術(shù)門檻正在不斷降低，非專業(yè)人員已經(jīng)可以利用簡單開源代碼快速制作出以假亂真的視頻和圖像，使用Deepfakes技術(shù)制作的音視頻很難被肉眼辨別真?zhèn)巍eepfakes技術(shù)正被濫用于網(wǎng)絡(luò)暴力、破壞政治選舉、擾亂外交關(guān)系等方面，給社會(huì)和國家?guī)順O大風(fēng)險(xiǎn)，對(duì)此，我國應(yīng)予以高度重視，并提前布局積極應(yīng)對(duì)。

Deepfakes技術(shù)濫用引發(fā)社會(huì)風(fēng)險(xiǎn)

Deepfakes技術(shù)正在不斷演進(jìn)。Deepfakes是一套基于生成對(duì)抗網(wǎng)絡(luò)的深度學(xué)習(xí)算法模型，可以實(shí)現(xiàn)模擬真人聲音、圖像視頻內(nèi)容替換、圖像生成等內(nèi)容。目前，Deepfakes被越來越多地使用在視頻領(lǐng)域，使用者利用Deepfakes技術(shù)可嫁接和重構(gòu)視頻內(nèi)容特性，將視頻中人臉進(jìn)行替換。Deepfakes視頻人臉替換實(shí)質(zhì)是將視頻進(jìn)行逐幀處理，達(dá)到換臉的效果，整個(gè)處理流程主要包括三個(gè)步驟：一是圖像預(yù)處理，二是模型訓(xùn)練，三是圖像融合。在生成視頻前，神經(jīng)網(wǎng)絡(luò)需要大量目標(biāo)任務(wù)圖像數(shù)據(jù)進(jìn)行學(xué)習(xí)，圖像的數(shù)量、質(zhì)量和多元性決定了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效果，即學(xué)習(xí)數(shù)據(jù)越多，模擬效果越逼真。換臉技術(shù)曾長期被大型數(shù)字特效公司用于視頻的制作，然而，使用傳統(tǒng)技術(shù)進(jìn)行換臉需要耗費(fèi)大量時(shí)間和計(jì)算資源，隨著Deepfakes技術(shù)的發(fā)展，這一過程得到極大簡化。近年來，Deepfakes技術(shù)自身也在不斷迭代更新，基于新型無監(jiān)督視頻重定向方法（Recycle-GAN）的Deepfakes算法，不僅實(shí)現(xiàn)了對(duì)音視頻材料空間信息和時(shí)間信息的抽取，也改進(jìn)了Deepfakes偽造視頻的真實(shí)度，不過，該技術(shù)的應(yīng)用目前尚不成熟。

Deepfakes技術(shù)濫用愈發(fā)嚴(yán)重。近年來，Deepfakes技術(shù)門檻不斷降低，部分人將Deepfakes技術(shù)用于煽動(dòng)網(wǎng)絡(luò)暴力、破壞政治選舉、擾亂外交關(guān)系、偽造虛假證據(jù)等不法用途，在“所見即真實(shí)”的認(rèn)知定律下，虛假視頻及新聞在社交媒體的加持下加速傳播，使得Deepfakes技術(shù)濫用的后果不斷加劇。例如，2018年4月，網(wǎng)絡(luò)黑客運(yùn)用Deepfakes技術(shù)偽造了美國前總統(tǒng)奧巴馬語言侮辱特朗普的視頻，該視頻在推特上短時(shí)間被點(diǎn)擊200多萬次，對(duì)美國政府形象造成了極大的不良影響。今年以來，利用Deepfakes偽造的美國眾議院議長佩洛西、美國總統(tǒng)特朗普等政要的虛假談話視頻紛紛出現(xiàn)在社交媒體上，并被廣泛快速傳播。Deepfakes技術(shù)的惡意應(yīng)用還極大影響了個(gè)人生活，2019年6月，基于Deepfakes技術(shù)開發(fā)的應(yīng)用程序DeepNude“走紅”網(wǎng)絡(luò)，該應(yīng)用可以自動(dòng)消除圖片中女性衣物，被應(yīng)用于制作名人的虛假色情視頻，對(duì)女性隱私以及日常生活造成嚴(yán)重影響，引發(fā)了全社會(huì)對(duì)于人工智能技術(shù)不正當(dāng)利用的擔(dān)憂，目前該應(yīng)用已被開發(fā)者禁用。此外，Deepfakes還可被用來提供虛假證據(jù)，一些不法分子可以制作出關(guān)于企業(yè)負(fù)責(zé)人行為不當(dāng)?shù)奶摷僖曨l，以此來要挾和敲詐企業(yè)。

Deepfakes將帶來一系列社會(huì)風(fēng)險(xiǎn)。Deepfakes技術(shù)的濫用會(huì)給國家、社會(huì)和個(gè)人帶來極大危害。首先，Deepfakes存在降低國家信譽(yù)、威脅國家安全、損害國際形象的隱患。深度偽造技術(shù)可以讓虛假信息以高度可信的方式呈現(xiàn)給社會(huì)公眾，從而操縱觀眾的情緒反應(yīng)，引發(fā)社會(huì)廣泛的不信任。此外，Deepfakes可能被敵對(duì)國家和勢力利用，作為詆毀政黨、煽動(dòng)恐怖和暴力活動(dòng)、挑撥國家矛盾的工具。美國外交政策研究所認(rèn)為，Deepfakes技術(shù)正被濫用于制作抹黑美國國家元首的視頻，其在社交媒體上的大肆傳播可能對(duì)美國2020年大選存在威脅。其次，Deepfakes技術(shù)的濫用將對(duì)社會(huì)媒體的公信力產(chǎn)生動(dòng)搖，加劇社會(huì)公眾對(duì)記者和媒體的不信任，阻礙證據(jù)的呈現(xiàn)和對(duì)真相的報(bào)道，進(jìn)而引發(fā)全社會(huì)的信任危機(jī)。最后，Deepfakes技術(shù)將對(duì)個(gè)人權(quán)益造成嚴(yán)重?fù)p害。目前，DeepNude等應(yīng)用對(duì)女性惡意污化，使受害人名譽(yù)、隱私嚴(yán)重受損，并使其承受著極大的精神折磨。同時(shí)，人臉識(shí)別技術(shù)已經(jīng)在上班打卡、刷臉購物、支付、手機(jī)解鎖等場景得到廣泛應(yīng)用，如果Deepfakes技術(shù)被應(yīng)用于上述領(lǐng)域，則將對(duì)公民個(gè)人隱私、財(cái)產(chǎn)安全、生命安全等產(chǎn)生重大威脅。

技術(shù)創(chuàng)新和立法監(jiān)管雙管齊下，積極應(yīng)對(duì)Deepfakes帶來的挑戰(zhàn)

從算法角度看，對(duì)抗Deepfakes造假的新型AI視頻識(shí)別技術(shù)逐步成熟。目前，研究者正在利用Deepfakes的算法漏洞研制對(duì)抗識(shí)別算法，準(zhǔn)確度已經(jīng)達(dá)到90%以上。例如，美國南加州大學(xué)的研究人員發(fā)現(xiàn)，用于生成Deepfakes偽造視頻的主流方法都忽視了視頻的連貫性，使得生成視頻中的人物移動(dòng)不流暢并且出現(xiàn)抖動(dòng)情況。他們利用該漏洞，訓(xùn)練出基于遞歸卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)模型，該模型以人類說話時(shí)的面部移動(dòng)特征為學(xué)習(xí)數(shù)據(jù)，能夠自動(dòng)檢測視頻的抖動(dòng)和連貫性情況，判斷Deepfakes偽造視頻的準(zhǔn)確率超過90%。加州大學(xué)伯克利分校的研究者構(gòu)建了高度個(gè)人化的“軟生物識(shí)別指標(biāo)”，并利用這些指標(biāo)來區(qū)分真實(shí)和虛假視頻。他們發(fā)現(xiàn)，人類講話時(shí)會(huì)以微妙但獨(dú)特的方式來移動(dòng)身體，每個(gè)人都有特定的運(yùn)動(dòng)軌跡，現(xiàn)有的Deepfakes視頻偽造技術(shù)并沒有考慮該因素，而以該特征訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型能以92%的準(zhǔn)確率識(shí)別Deepfakes偽造的視頻。此外，IBM基于Debater項(xiàng)目研發(fā)了AI造假探測器，并已投入使用，其客戶可以利用IBM Watson Studio等各類解決方案開發(fā)高質(zhì)量模型，防范包括Deepfakes在內(nèi)的AI造假威脅和欺詐活動(dòng)。不過，雖然基于深度學(xué)習(xí)的Deepfakes識(shí)別技術(shù)的發(fā)展勢頭良好，但現(xiàn)有檢測方法的準(zhǔn)確率仍不能充分滿足現(xiàn)實(shí)需求。與此同時(shí)，區(qū)塊鏈技術(shù)作為一種可能的溯源解決方案被提出。區(qū)塊鏈?zhǔn)且环N全新的分布式基礎(chǔ)架構(gòu)，具有分布式、開放性、獨(dú)立性、安全性、匿名性等特點(diǎn)，在視頻真?zhèn)舞b定領(lǐng)域有很大優(yōu)勢，不僅可以對(duì)視頻發(fā)布者進(jìn)行標(biāo)記，并將標(biāo)記值使用區(qū)塊鏈進(jìn)行存放，也可保證視頻哈希值既可公開查詢又無法被篡改，為用戶進(jìn)行視頻真假校驗(yàn)提供了極大便利，可以作為甄別偽造視頻技術(shù)的未來發(fā)展方向加以探索。

從立法角度看，各國政府積極推動(dòng)建立Deepfakes的立法鑒定系統(tǒng)。Deepfakes的技術(shù)濫用正引起美歐各國政府監(jiān)管層的重視，許多國家正在醞釀出臺(tái)法律條文應(yīng)對(duì)技術(shù)濫用隱患。歐盟在打擊Deepfakes產(chǎn)生的虛假新聞方面采取了有效的措施。2019年年初，歐盟發(fā)布了一項(xiàng)打擊虛假新聞的戰(zhàn)略，包括應(yīng)對(duì)Deepfakes的指南。該指南強(qiáng)調(diào)公眾參與的必要性，幫助人們更容易分辨出某條信息的來源以及可信度。歐盟委員會(huì)還要求建立一個(gè)獨(dú)立的歐洲事實(shí)核查機(jī)構(gòu)，幫助分析網(wǎng)絡(luò)內(nèi)容的來源、創(chuàng)建和創(chuàng)建過程。美國政府高度重視反Deepfakes濫用的立法進(jìn)程。2019年7月，三位美國參議員撰寫公開信，呼吁國家情報(bào)局局長深入調(diào)查外國政府、情報(bào)機(jī)構(gòu)和個(gè)人如何利用Deepfakes來損害美國的利益，并加以提前應(yīng)對(duì)。2019年7月1日，美國弗吉尼亞州政府正式宣布擴(kuò)大化的復(fù)仇色情法生效，嚴(yán)禁制造和傳播經(jīng)過“深度偽造”的內(nèi)容。該法律條文覆蓋了利用Deepfakes等技術(shù)制作或操縱的視頻和圖像等，違法者最高可被判處12個(gè)月的監(jiān)禁并罰款2500美元。英國政府正在醞釀出臺(tái)濫用數(shù)字技術(shù)和產(chǎn)品的法律，專門涉及制作和分享非自愿的親密圖像，英國立法機(jī)構(gòu)將重點(diǎn)關(guān)注復(fù)仇性質(zhì)的色情視頻，以及利用Deepfakes算法生成的色情內(nèi)容。

對(duì)策建議

制定標(biāo)準(zhǔn)，明確Deepfakes的使用范圍和不正當(dāng)使用及其后果。Deepfakes算法正被廣泛運(yùn)用于不同領(lǐng)域，亟須推動(dòng)全社會(huì)對(duì)Deepfakes接受范圍的大討論，明確規(guī)定Deepfakes的使用范疇，幫助社交媒體規(guī)范平臺(tái)管理，對(duì)內(nèi)容進(jìn)行合規(guī)審核。在此基礎(chǔ)上，可借鑒歐盟打擊Deepfakes等AI造假指南文件的制定過程，加強(qiáng)Deepfakes概念界定和監(jiān)管標(biāo)準(zhǔn)研制，增強(qiáng)AI算法的安全可控、透明可釋、保護(hù)隱私、多元包容等倫理原則的可衡量性，同步建設(shè)相應(yīng)的測評(píng)能力，對(duì)Deepfakes技術(shù)的侵權(quán)問題和法律界限進(jìn)行約束和界定。

加強(qiáng)與社交媒體、新聞機(jī)構(gòu)、非政府監(jiān)管機(jī)構(gòu)共享Deepfakes信息?？山梃b歐美等國家和地區(qū)的做法，在Deepfakes來源方面加強(qiáng)與社交媒體、新聞機(jī)構(gòu)等平臺(tái)組織的信息共享，在Deepfakes虛假新聞形成規(guī)模傳播前向上述平臺(tái)發(fā)出警告，并同步共享給主流新聞機(jī)構(gòu)，做到事前管理、事前預(yù)警，減少虛假新聞的波及范圍。例如，美國2015年通過的網(wǎng)絡(luò)安全信息共享法案就允許平臺(tái)在虛假信息傳播至其他平臺(tái)之前進(jìn)行警告，并在虛假新聞傳播至主流新聞圈前提醒新聞機(jī)構(gòu)。

積極推動(dòng)AI造假溯源和Deepfakes對(duì)抗技術(shù)的探索研究。目前，區(qū)塊鏈技術(shù)在虛假視頻信息溯源中的應(yīng)用尚在發(fā)展早期，沒有成熟應(yīng)用，而Deepfakes對(duì)抗算法的創(chuàng)新研究成果也主要出現(xiàn)在美國。例如，美國國防部高級(jí)研究計(jì)劃局（DARPA）正在大力投資“反AI變臉計(jì)劃”，確保偵測到最先進(jìn)的AI造假技術(shù)。我國應(yīng)積極參與并推動(dòng)上述技術(shù)的研究實(shí)踐，尤其要重視將國內(nèi)區(qū)塊鏈技術(shù)的創(chuàng)新引導(dǎo)向AI造假的偵測、溯源和取證等方面，從而實(shí)現(xiàn)多主體間的信息共享和一致決策，確保信息的不可篡改和公開透明。