基于AI技術(shù)偽造網(wǎng)絡(luò)視頻的對策研究

許櫻馨 吳童杏 康暉 許欣 陳睿超

【摘? 要】作為人工智能和深度學(xué)習(xí)技術(shù)發(fā)展的產(chǎn)物，AI技術(shù)偽造視頻在近幾年風靡全球網(wǎng)絡(luò)。筆者探討了AI技術(shù)偽造網(wǎng)絡(luò)視頻的流程，通過實驗驗證了AI換臉視頻的效果，分析了AI技術(shù)偽造網(wǎng)絡(luò)視頻的傳播以及其“向善”與“作惡”的兩面性，提出了針對AI技術(shù)偽造視頻對策：學(xué)會在技術(shù)層面進行判斷;建立鑒偽體系不可或缺;引導(dǎo)人文態(tài)度勢在必行。

【關(guān)鍵詞】AI;deepfake;偽造視頻;鑒別;對策

引言

隨著科技的迅速發(fā)展、AI技術(shù)的不斷成熟，僅使用一張照片就能實現(xiàn)視頻人物“換臉”的AI偽造視頻風靡全球網(wǎng)絡(luò)，一個APP、一張照片就可以輕松換臉。然而在搞笑和娛樂的同時，可能產(chǎn)生個人隱私泄露的巨大風險，甚至惡搞政治人物，操縱民意，造成極其嚴重的社會影響，因此，深入了解AI偽造視頻的原理，了解AI偽造網(wǎng)絡(luò)視頻的傳播與危害，研究AI技術(shù)偽造網(wǎng)絡(luò)視頻對策具有重要意義。

1.AI偽造網(wǎng)絡(luò)視頻的流程

AI偽造視頻通常是指使用人工智能（AI）形式的計算機程序深度學(xué)習(xí)算法被訓(xùn)練用來識別特定人的實際視覺記錄中的一種偽造模式。一段視頻內(nèi)容可以通過更換新元素（比如更換別人的臉）來改變，并無縫地將兩者結(jié)合起來，也就是人們熟知的deepfake。其流程如圖1所示。

為了更深入了解其過程，本課題進行了AI替換的網(wǎng)絡(luò)視頻實驗，實驗過程如下：

（1）選擇合適的目標面部視頻和替換面目素材視頻或多角度照片;

（2）將視頻中每一幀提取出來，轉(zhuǎn)化為png格式圖片;

（3）利用人臉識別算法將兩個視頻的所有幀圖片的面部識別裁剪出來;

（4）手動篩選刪除素材的模糊、識別失敗的面部圖片;

（5）使用英偉達顯卡cuda進行AI學(xué)習(xí)，并改變學(xué)習(xí)時間迭代進化次數(shù)。實驗中經(jīng)過6小時的gtx 1070掛機學(xué)習(xí)，生成model模型;

（6）替換人臉。利用模型學(xué)習(xí)成果，替換目標每一幀圖像的人臉;

（7）整合為視頻。調(diào)整碼率15000，幀速率60fps，編碼格式h.264 。

（8）實驗結(jié)果：學(xué)習(xí)時間迭代進化次數(shù)越多，越清晰，loss噪點（失真度）越小;學(xué)習(xí)時間無上限，可以不斷進化，會越來越清晰。

實驗結(jié)果樣圖見圖2所示。

2.AI偽造網(wǎng)絡(luò)視頻的傳播

AI偽造網(wǎng)絡(luò)視頻技術(shù)最早出現(xiàn)在2017年，經(jīng)過3年多來的快速演化，AI偽造視頻技術(shù)已經(jīng)發(fā)展成為包含以deepfake和Face2Face為代表的PC端軟件，以及以Zao和faceapp為代表的移動軟件的大家庭，并且隨著快手、TikTok（抖音）等短視頻平臺的迅速崛起，為AI技術(shù)偽造視頻的傳播提供了有力的載體支撐。

盡管如此，大多數(shù)國人對于AI偽造視頻的缺乏認識。為此，本課題進行了問卷調(diào)查，目的是調(diào)研大眾對AI偽造視頻的知悉情況。樣本受眾群為普通高校學(xué)生，社會工薪階層等，樣本容量為200。在調(diào)查問卷中，通過統(tǒng)計顯示受眾是否知道AI偽造網(wǎng)絡(luò)視頻的問題，結(jié)果證明，樣本受眾群對AI偽造的網(wǎng)絡(luò)視頻知悉度較低。結(jié)果如圖3所示。

大多數(shù)國人對于AI視頻的認識片面晦澀，AI偽造視頻在國內(nèi)的盛行起步較慢，是從2019年2月開始的。有博主將《射雕英雄傳》中朱茵飾演的黃蓉換臉成楊冪，一夜之間，換臉游戲吸引了很多人的關(guān)注，隨著各種換臉APP的出現(xiàn)，不同的換臉視頻在網(wǎng)絡(luò)上流傳起來，僅需要上傳一張正臉照片和想要的換臉視頻就可以實現(xiàn)AI換臉。

AI偽造視頻換臉主要是用于日常娛樂，讓人們享受到沉浸式的角色扮演，滿足個人的表演欲，它作為一項新興的技術(shù)，帶來了趣味性和視覺效果沖擊，自由選擇的場景和裝扮不斷吸引著使用者的好奇心，新鮮感使得它迅速傳播、不斷擴散。此外，AI偽造出來的搞笑視頻在網(wǎng)絡(luò)傳播的同時也能促進人與人之間的交流，具有社交分享性這一特征，只需要輕輕點下分享按鍵，就能夠快速轉(zhuǎn)發(fā)并與人互動，拓展了AI偽造視頻的傳播渠道。

3.AI偽造網(wǎng)絡(luò)視頻的“向善”與“作惡”的兩面性

如今，科學(xué)技術(shù)的迅猛發(fā)展正在改變著現(xiàn)實中認為“眼見為實”的一切。隨著大量“深度偽造”的視頻流入日常生活，AI為人們帶來快樂的同時，也會輕易蒙蔽他們的肉眼，使他們做不到分辨真假。AI偽造網(wǎng)絡(luò)視頻本身，可以說是一把雙刃劍。

AI偽造網(wǎng)絡(luò)視頻有“向善”的一面。AI換臉視頻還是非常有趣的。就比如用在影視上，相當于更換了演員，贏得一種新鮮感，更方便滿足自己的臆想，又比如把自己或者朋友的臉替換到某個視頻上，在私下與朋友分享，這可比P表情包快樂多了，AI更能創(chuàng)造屬于自己的溫馨回憶，挽回心中的遺憾，發(fā)現(xiàn)閃光點。

AI偽造網(wǎng)絡(luò)視頻有“作惡”的一面。調(diào)查發(fā)現(xiàn)，人們偏向于看到偽造技術(shù)的壞處，往往認為偽造技術(shù)會侵犯人身權(quán)利，使自身信息得不到有效保護等等，圖4，圖5是本課題進行的問卷調(diào)查結(jié)果，顯示受眾對于AI發(fā)展相當焦慮。AI偽造視頻技術(shù)的出現(xiàn)，讓視頻開始變得難以相信。人們普遍認為視頻就能證實事實，而如今視頻中的一切卻變得模糊起來。對于本來就有大量虛假信息的互聯(lián)網(wǎng)來說，這必將造成進一步的信任危機?？赡苣切┱嬲讳浵伦鰤氖禄蛘f令人反感言論的人更容易指出，這些針對他們的證據(jù)都是偽造的，尤其在新聞業(yè)，一旦人們知道目前有偽造的視頻和音頻在傳播，即使他們看到的是真實視頻，也會開始產(chǎn)生懷疑。AI也會大大侵犯肖像權(quán)。與PS修圖技術(shù)不同，AI偽造視頻技術(shù)的主要功能就是換臉，從這個層面來看它的出現(xiàn)本來就是一種對肖像權(quán)的挑釁。而大部分網(wǎng)站會對AI偽造視頻抵觸抗拒，肖像權(quán)危機就是主要原因。

AI偽造網(wǎng)絡(luò)視頻更大“作惡”的一面是針對國家安全的挑戰(zhàn)，也是對政治領(lǐng)域的威脅。例如，2018年一段名為“You Wont Believe What Obama Says In This Video”的AI技術(shù)偽造視頻突現(xiàn)Youtube熱點，視頻中，前美國總統(tǒng)奧巴馬笑罵特朗普是一個十足的笨蛋，短短一個月該視頻達到450萬的播放量。其次，是越來越多的AI偽造網(wǎng)絡(luò)視頻軟件淪為污化女性、黃色惡搞、發(fā)展色情產(chǎn)業(yè)的新工具，如演員楊冪換臉視頻在短期內(nèi)微博的閱讀量就達到了1.1億次，除了楊冪之外，在涉黃網(wǎng)站上檢索“換臉”一詞，女明星迪麗熱巴、林允兒、關(guān)曉彤、趙麗穎、劉詩詩等人的偽造黃色視頻隨處可見。

除了面對AI偽造網(wǎng)絡(luò)視頻的“作惡”，還面臨著難以辨別機器化作用下產(chǎn)生的偽造視頻的難題。如今，人們身處AI技術(shù)泛濫的時代，即使面對的偽造視頻并不完美，圖像有時無法兼容順暢，但伴隨數(shù)據(jù)訓(xùn)練越來越多，這樣的問題將會被改善。如今的趨勢下，機器建模需要的相關(guān)數(shù)據(jù)越來越少，將會更加為分辨結(jié)果造成阻礙，人們通常難以用肉眼分辨出偽造與正常視頻的區(qū)別。

4.針對AI技術(shù)偽造視頻對策

針對AI技術(shù)偽造網(wǎng)絡(luò)視頻帶來多種危害問題，本文提出幾點對策。

4.1學(xué)會在技術(shù)層面進行判斷

視頻造假的危害毋庸置疑，所以隨意放在網(wǎng)上的視頻需要認真去辨別。幸運的是，偽造與證偽的技術(shù)總是交互上升的。像是紅藍對抗賽，AI讓偽造的成本減低，技術(shù)人員也不斷在開發(fā)更加精密的技術(shù)來增強視頻的鑒別。學(xué)會判別真?zhèn)?，技術(shù)層面主要有以下幾點。

（1）規(guī)律技巧掌握。制造出“深度偽造”內(nèi)容的機器學(xué)習(xí)方式不可逆轉(zhuǎn)，因此難以檢測，相對而言，也會總結(jié)出一些技巧。模糊處理是一種最常見的方法。比如視頻中說話者有一段時間沒有動作，眨眼不連貫，或者看上去木訥。研究表明，眼睛和嘴巴往往是一眼認出偽造視頻的關(guān)鍵。再比如通過提高視頻的色彩飽和度，可以在視頻中的面部皮膚檢測出人物脈搏畫質(zhì)的差異，由雜亂剪輯合成的虛假視頻里血流是不規(guī)則或不存在的。除了畫質(zhì)，還有畫幅的甄別，也就是視頻中的低分辨率，修改過的視頻的分辨率也會改變。

（2）訓(xùn)練算法分析。AI除了可以用來偽造視頻本身，也可以充當鑒偽的一種手段?？萍既藛T應(yīng)該注重配套反制技術(shù)的研發(fā)升級，用偽造視頻訓(xùn)練鑒定算法，讓算法辨識虛擬痕跡。當AI通過大量的深度學(xué)習(xí)后，利用神經(jīng)網(wǎng)絡(luò)的開源人工智能視頻造假檢測可以正確區(qū)分視頻畫面里修改過的和未修改過的圖像，成功率大致在87 %-98 %區(qū)間內(nèi)。德國慕尼黑技術(shù)大學(xué)曾研發(fā)過一種名為“XceptionNet” 的算法，它能快速發(fā)現(xiàn)發(fā)布在網(wǎng)上的偽造視頻，還可以用來識別互聯(lián)網(wǎng)上的誤導(dǎo)性視頻。將算法集成到瀏覽器或社交媒體插件中，在后臺運行，一旦識別出被修改或者操縱的圖像或視頻，它會給用戶發(fā)布警告信息，向視頻中涉及的人員透露他們被“偽造”了。

現(xiàn)階段在圖像鑒偽上的圖像噪聲與圖像壓縮偽像兩方面檢測為視頻偽造鑒定提供了一些寶貴意見，但是由于視頻壓縮后幀的強烈退化，大多數(shù)用于圖像的方法都不能直接擴展到視頻數(shù)字視頻，偽造檢測仍然是一項艱巨的任務(wù)。目前主流鑒定方法主要是使用雙JPEG壓縮檢測本地圖像上（將計算機圖形與攝影圖像區(qū)分開來），高斯分布模型（GMM）建模和對抗生成網(wǎng)絡(luò)（GAN）的模型。隨著AI漏洞日漸優(yōu)化，構(gòu)建算法難度也日益增加。視頻是由成千上萬幀圖片連放組成的，因此鑒偽工作必須細致到偵測每個像素的改變痕跡，逐幀檢驗，是一項浩大的工程，任重道遠。

4.2建立鑒偽體系不可或缺

（1）建立三階段應(yīng)對機制。除了上述這一應(yīng)對AI偽造最根本的方法之外，有關(guān)部門還應(yīng)盡快建立完善針對AI偽造的三階段應(yīng)對機制，主要分為事前、事中、事后三個環(huán)節(jié)。規(guī)范化工作一直是約束新生事物危害性的主力場。首先是事前預(yù)防審核機制。在人們上傳視頻到社交網(wǎng)站時，平臺需要重新編碼影片，這是個偵測假視頻的好時機。平臺可以專門成立針對AI偽造視頻的網(wǎng)絡(luò)糾察隊，找尋偽造破綻，對容易引發(fā)爭議的網(wǎng)絡(luò)視頻加以控制，加強網(wǎng)絡(luò)信息監(jiān)管和技術(shù)應(yīng)用的網(wǎng)絡(luò)準入審查力度，將非法行為隔絕在網(wǎng)絡(luò)準入門檻之外。其次是事中運行管理機制。一直以來，在造假AI與辨別 AI的競賽中，修補漏洞的同時，偽造技術(shù)也會更上一層樓。

不管是人為還是機器鑒別，難免做到百密一疏，對于審核之后的網(wǎng)絡(luò)視頻，建立嚴格的管理制度的才能發(fā)揚其優(yōu)勢，摒棄其糟粕。21世紀的網(wǎng)絡(luò)科技公司，掌握大量用戶信息，被看作“信息受托人”，承擔著數(shù)字信息時代新的責任，有責任與義務(wù)保護用戶數(shù)據(jù)。平臺應(yīng)該大力宣傳積極正面的形象化AI替換，堅決抵制低俗惡意地胡亂剪輯。最后是事后兜底懲治機制。關(guān)上AI偽造的潘多拉盒子，嚴格的機構(gòu)監(jiān)督也是關(guān)鍵。國家應(yīng)該從源頭加大監(jiān)管力度，嚴格精準懲處毀壞公民或者企業(yè)形象的虛假視頻，對挑釁侵犯權(quán)威尊嚴力量的給予重擊，警示他人，構(gòu)建AI技術(shù)領(lǐng)域的純潔性與公正性。

（2）規(guī)范法律規(guī)章制度?，F(xiàn)階段AI偽造視頻還存在諸多的法律風險，不僅對個人信息，支付安全領(lǐng)域的侵入，各類侵權(quán)日益增多的同時，也誘發(fā)了諸多刑事犯罪活動。因此，擁有一個理性的法律防范措施對于AI發(fā)展的前景極為重要。

由于人工智能換臉技術(shù)超越了立法者的預(yù)測，現(xiàn)行法變更速度難以跟上人工智能技術(shù)演變的速度，存在著滯后性，但該技術(shù)并非處于法外之地。拿誹謗罪的例子來說，根據(jù)我國相關(guān)司法解釋，誹謗換臉視頻、音頻、圖片被點開、閱覽次數(shù)逾越5000次或被轉(zhuǎn)發(fā)逾越500次的屬于誹謗罪中“非常嚴重”的情節(jié)。法律還應(yīng)設(shè)立針對人工智能的單獨立法措施并加大侵權(quán)處罰力度，設(shè)立分層次的罰賠償制度，擴大刑法的適用范圍。歐盟在2018年就已經(jīng)出臺并了實施《通用數(shù)據(jù)保護條例》，該條例規(guī)定用戶享有“被遺忘權(quán)”，有權(quán)利剔除企業(yè)中的個人數(shù)據(jù)。除了平臺自身自覺的審查機制，法律也要建立嚴格的人工智能技術(shù)準入制度，以不觸犯法律為衡量標準且限制在一定的范圍，設(shè)立禁區(qū)，以維護社會的秩序和倫理安全。

科技的“向善”還是“作惡”， 多取決于技術(shù)的使用人和人們對待技術(shù)的態(tài)度。人工智能技術(shù)與立法齊頭并進，在技術(shù)、市場和法律治理之間找到平衡點，才能真正使得人工智能技術(shù)向安全、可靠、可控的方向發(fā)展。

4.3引導(dǎo)人文態(tài)度勢在必行

科技是冰冷的，人是有溫度的，可問題就在于，人文溫度真的都是火熱的嗎？技術(shù)的快速發(fā)展一直在沖擊著人文世界，想象一下，在偽造的視頻中，總統(tǒng)候選人行為失當，警察局長煽動暴力，或者士兵崇信戰(zhàn)爭，結(jié)果會如何？對于普通人來說，尤其是女性，這項技術(shù)使“色情報復(fù)”成為可能，一旦虛假的視頻在互聯(lián)網(wǎng)上瘋傳，謠言發(fā)酵，社會性死亡比比皆是。隨著AI偽造視頻技術(shù)的不斷成熟，惡搞成本在大幅降低，全網(wǎng)網(wǎng)民人文素養(yǎng)亟待加強。

網(wǎng)絡(luò)素養(yǎng)是網(wǎng)民人文素養(yǎng)的外在表現(xiàn)，是人文素養(yǎng)中的網(wǎng)絡(luò)素質(zhì)及道德規(guī)范。不在網(wǎng)絡(luò)中人云亦云，不借他人行錯發(fā)泄消極情緒，不對敏感話題盲目發(fā)問，多想多問多看，學(xué)會轉(zhuǎn)變思維，是基本的網(wǎng)絡(luò)素養(yǎng)。因此大力加強未成年人與低學(xué)歷人的網(wǎng)絡(luò)素養(yǎng)教育，加強做人的基本品德、非價值觀以及知恥、守信、氣節(jié)方面引導(dǎo)，在全社會倡導(dǎo)優(yōu)良風尚勢在必行。人們在為技術(shù)狂歡的同時，警惕隨之引發(fā)的問題，通過發(fā)揮人的主觀能動性，最大程度消除其弊端，使AI換臉技術(shù)能夠更好地為社會服務(wù)。

5.結(jié)語

AI技術(shù)，正如普羅米修斯當初扔向人間的火種，帶來溫暖、希望的同時也會帶來毀滅。阻斷AI偽造網(wǎng)絡(luò)視頻“作惡”，每一個能做到的，不過微薄，真正起作用的，還是眾人合力和法律規(guī)制。真的希望，在經(jīng)過技術(shù)精英們的拼搏，一鍵辨假的速度，能追上一鍵換臉的速度。（通訊作者：萬榮春（江蘇警官學(xué)院刑事科學(xué)技術(shù)系副教授），通訊作者：蔡璐（江蘇警官學(xué)院刑事科學(xué)技術(shù)系講師））

參考文獻

[1]張雅婷.AI視頻換臉術(shù)的傳播倫理審視[J].新媒體研究，2020，6（06）：63-64.

[2]楊燕. 應(yīng)對“換臉”危機[N]. 經(jīng)濟觀察報，2020-09-07（024）.

[3]黃陳辰.大數(shù)據(jù)時代侵犯公民個人信息罪行為規(guī)制模式的應(yīng)然轉(zhuǎn)向——以“AI換臉”類淫穢視頻為切入[J].華中科技大學(xué)學(xué)報（社會科學(xué)版），2020，34（02）：105-113.

[4]技術(shù)研究綜述[J].信息安全學(xué)報，2020，5（02）：1-17.

[5]劉云生. AI“換臉”誘發(fā)侵權(quán)風險[N]. 深圳特區(qū)報，2019-11-26（B07）.

[6]龍坤，馬鉞，朱啟超.深度偽造對國家安全的挑戰(zhàn)及應(yīng)對[J].信息安全與通信保密，2019（10）：21-34.

[7]阿拉斯（Al-alas Mohammed）. 視頻偽造檢測數(shù)據(jù)庫的構(gòu)建及其七種偽造檢測算法的性能評估[D].華南理工大學(xué)，2018.

[8]左榮昌，左師昌.人工智能換臉犯罪的刑法規(guī)制研究[J].齊齊哈爾大學(xué)學(xué)報（哲學(xué)社會科學(xué)版），2020（07）：96-99+132.

[9]楊叢遜.人工智能時代AI換臉技術(shù)對新聞領(lǐng)域的影響[J].傳播力研究，2020，4（01）：82-83.

[10]鄧志文.主體交流異化與現(xiàn)代迷失——人工智能的精神生態(tài)風險[J/OL].北京理工大學(xué)學(xué)報（社會科學(xué)版）：1-10[2020-12-16].http：//kns.cnki.net/kcms/detail/11.4083.c.20200910.1120.002.html.

基金項目：項目支持：江蘇警官學(xué)院大學(xué)生創(chuàng)新創(chuàng)業(yè)訓(xùn)練計劃項目（創(chuàng)新訓(xùn)練項目）;項目編號：202010329057Y。

作者簡介：許櫻馨（1999.08-），女，江蘇宿遷人，漢族，江蘇警官學(xué)院大三學(xué)生，研究方向為計算機信息與網(wǎng)絡(luò)安全。

江蘇警官學(xué)院網(wǎng)絡(luò)安全與執(zhí)法系? ? 江蘇南京? ? 211800