徐燕萍

DOI：10.16644/j.cnki.cn33-1094/tp.2021.11.033

摘? 要： 近年來“深度偽造”技術(shù)不斷迭代，在給社會(huì)帶來諸多發(fā)展機(jī)遇的同時(shí)，也帶來了許多倫理問題。以“Deepnude”為代表的相關(guān)色情軟件，引起了社會(huì)各界人士的廣泛關(guān)注與討論。文章旨在厘清“深度偽造”的概念，分析基于深偽技術(shù)的色情軟件“Deepnude”帶來的侵犯女性權(quán)益、社會(huì)安全風(fēng)險(xiǎn)、信任危機(jī)等倫理問題，并從國(guó)家、相關(guān)職能部門和第三方平臺(tái)的角度提出對(duì)策。

關(guān)鍵詞： 深度偽造; 色情軟件; 倫理問題; 對(duì)策

中圖分類號(hào)：TP399? ? ? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A? ? ?文章編號(hào)：1006-8228（2021）11-118-04

Ethical reflection on "deepfake" technology

——Take the one-click undressing software "Deepnude" as an example

Xu Yanping

（School of Humanities and Social Sciences， Nanjing Forestry University， Nanjing， Jiangsu 210037， China）

Abstract： In recent years， the "deepfake" technology has been iterated continuously， which has brought many development opportunities to the society， but also brought many ethical issues. Related pornographic software represented by "Deepnude" has aroused widespread concern and discussion among people from all walks of life. This article aims to clarify the concept of "deepfake"， analyze the ethical issues of infringement of womens rights， social security risks， trust crisis， etc. brought by the “deepfake” technology based pornographic software "Deepnude"， and proposes countermeasures from the perspective of the state， relevant functional departments and third-party platforms.

Key words： deepfake; pornography; ethical issues; countermeasure

0 引言

近兩年來，“深度偽造”見諸報(bào)端，成為媒體爭(zhēng)相報(bào)道的對(duì)象。“深度偽造”是基于人工智能的一種合成技術(shù)，于2017年橫空出世，在一位名為“deepfake”的美國(guó)社交用戶利用該技術(shù)生成、上傳一段不雅視頻后，逐漸進(jìn)入大眾視野。發(fā)展之初，深偽技術(shù)主要用于制作娛樂視頻，如人臉替換，此時(shí)期的替換痕跡較為明顯，非專業(yè)人員也易于鑒別虛假視頻。隨著技術(shù)的飛速發(fā)展，合成的虛假圖像、視頻愈加逼真，同時(shí)其實(shí)現(xiàn)成本也逐漸降低，“深度偽造”開始走向技術(shù)普及。

如今，作為一種編織虛假信息的強(qiáng)大工具，再借助互聯(lián)網(wǎng)的強(qiáng)“連接”性，“深度偽造”開始遍布互聯(lián)網(wǎng)的各個(gè)角落。據(jù)中國(guó)信通院2020年12月9日發(fā)布的《人工智能安全框架（2020年）》藍(lán)皮報(bào)告顯示，隨著全球人工智能規(guī)?；ㄔO(shè)和應(yīng)用加速，人工智能帶來的安全風(fēng)險(xiǎn)日益凸顯。“深度偽造”作為人工智能的一項(xiàng)子技術(shù)，其帶來的諸多安全風(fēng)險(xiǎn)同樣值得我們警惕，比如已經(jīng)引發(fā)民眾擔(dān)憂的色情視頻、聲音詐騙、擾亂政治選舉等問題。當(dāng)偽造內(nèi)容越來越數(shù)字化，我們勢(shì)必應(yīng)予以重視。

1 “深度偽造”技術(shù)

“深度偽造”由英文“deep machine learning”（深度機(jī)器學(xué)習(xí)）和“fake photo”（假照片）組合而成，本質(zhì)上是一種深度學(xué)習(xí)模型在圖像合成、替換領(lǐng)域的技術(shù)結(jié)合，屬于深度圖像生成模型的應(yīng)用。

“深度偽造”能基于人類行為特征如面部、聲音等合成圖像、視頻、音頻。2014年有研究者提出了“對(duì)抗生成網(wǎng)絡(luò)”（Generative Adversial Networks，GAN）。GAN的核心思想在于兩個(gè)網(wǎng)絡(luò)：生成器和判別器。生成器負(fù)責(zé)生成圖像欺騙判決器，判別器負(fù)責(zé)區(qū)分真實(shí)或合成的圖像，這兩個(gè)網(wǎng)絡(luò)在不斷博弈中能產(chǎn)生逼真的圖像輸出結(jié)果，“深度偽造”便是基于GAN原理的一種技術(shù)。

目前，“深度偽造”已被應(yīng)用于電影、廣告、醫(yī)療、政治、媒體等諸多領(lǐng)域。正如“技術(shù)中性論”這一科技價(jià)值觀，即科技的每一次突破，都會(huì)帶來意想不到的福音。利用“深度偽造”技術(shù)，電影公司能輕松替換影視作品中演員的臉、廣告主能實(shí)現(xiàn)一鍵“虛擬試衣”與千人千面的廣告植入、醫(yī)療人士能利用該技術(shù)改善醫(yī)學(xué)圖像分析等等。但基于“深度偽造”技術(shù)的應(yīng)用并非都是正面積極的，一些應(yīng)用也在挑戰(zhàn)著倫理邊界，甚至構(gòu)成了犯罪。如利用“深度偽造”技術(shù)制作色情視頻，進(jìn)行聲音詐騙，篡改圖像和視頻傳播虛假新聞，以及擾亂政治、操縱輿論等諸多問題。

2 色情軟件“Deepnude”帶來的倫理問題

根據(jù)2019年一項(xiàng)針對(duì)15，000個(gè)“深度偽造”視頻的統(tǒng)計(jì)顯示，96%的深度偽造視頻是黃色成人視頻。基于此，文章主要對(duì)深偽技術(shù)所帶來的色情視頻泛濫這一倫理問題進(jìn)行探討。2019年6月，一鍵脫衣軟件“Deepnude”刷爆網(wǎng)絡(luò)。據(jù)英國(guó)Wired雜志報(bào)道，2020年7月份以來，至少有10.4萬名婦女受到深度偽造機(jī)器人“Deepnude”的攻擊?！癉eepnude”軟件使用深度學(xué)習(xí)和生成對(duì)抗網(wǎng)絡(luò)生成受害者的裸體圖片，其AI算法是在真實(shí)裸照的大型數(shù)據(jù)庫(kù)上訓(xùn)練出來的，能夠在最終圖像中合成身體敏感部位。用戶只需上傳一張女性照片，軟件就能在30s內(nèi)自動(dòng)除去女性的衣物?？梢?，“深度偽造”技術(shù)將假冒濫用推向了危險(xiǎn)的新領(lǐng)域，帶來了侵犯女性合法權(quán)利、社會(huì)安全風(fēng)險(xiǎn)、信任危機(jī)等倫理問題。

2.1 侵犯女性合法權(quán)益

2.1.1 肖像權(quán)

“Deepnude”軟件在生成色情視頻之前，需要相關(guān)女性的照片作為樣本，以此將色情視頻中女演員的臉替換為其他女性的臉，這顯然侵犯了女性的肖像權(quán)。肖像權(quán)作為一種重要的人格權(quán)，在我國(guó)的諸多法律條文中都對(duì)保護(hù)肖像權(quán)作出了明文規(guī)定。且根據(jù)2021年1月1日起實(shí)施的《民法典》第一千零一十九條，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。

2.1.2 名譽(yù)權(quán)

每個(gè)公民或法人都具有保持并維護(hù)自己名譽(yù)的權(quán)利，色情視頻并非是積極向善的東西，對(duì)女性受害者的名譽(yù)會(huì)造成一定損害。女性受害者分為兩類：女明星和普通女性。女明星由于知名度高，偽造視頻較易被澄清，但卻沒有人去為普通女性證實(shí)/澄清。對(duì)于普通女性而言，這些色情偽造視頻不僅會(huì)損害她們的名譽(yù)，她們的工作前景、人際關(guān)系和精神健康都會(huì)受到影響，甚至完全毀掉她們的生活。

2.1.3 隱私權(quán)

隱私權(quán)起源于19世紀(jì)末的西方，我國(guó)在2010年的《侵權(quán)責(zé)任法》中將隱私權(quán)正式明確列為獨(dú)立的權(quán)利。如今對(duì)個(gè)人隱私的追逐已成為商業(yè)機(jī)構(gòu)獲利的方法之一，正如“Deepnude”軟件通過挖掘女性在社交媒體上發(fā)布的照片生成色情內(nèi)容獲取利益。印度記者拉娜·阿尤布曾因臥底報(bào)道了印度某暴亂中的教徒屠殺，被報(bào)復(fù)者利用“Deepnude”軟件偽造了色情視頻。隨后阿尤布的個(gè)人信息被曝光，并受到了大量死亡和強(qiáng)奸威脅。這一事例足以證明色情偽造視頻對(duì)女性隱私權(quán)的侵犯。

2.2 威脅社會(huì)公共安全

眼下，技術(shù)能重塑人們的認(rèn)知這一點(diǎn)無可辯駁，正如算法能通過個(gè)性化推送固化人們的既有認(rèn)知，同樣的，“深度偽造”的開發(fā)者也將固有的偏見傳遞給了技術(shù)[1]。色情造假軟件背后隱藏著深刻的社會(huì)性結(jié)構(gòu)偏見，并通過技術(shù)放大了這種不公正的社會(huì)結(jié)構(gòu)，強(qiáng)化了既有的、結(jié)構(gòu)性的性別秩序[2]。因而，軟件極有可能淪為男性“色情復(fù)仇”的武器，造成一些惡性犯罪事件。其他偽造內(nèi)容同樣存在安全風(fēng)險(xiǎn)，2018年，社交媒體軟件“WhatsApp”上有人造謠多名印度人綁架小孩或涉及其他犯罪，導(dǎo)致這些人遭受暴力致死。未來可能還會(huì)有不法分子利用偽造內(nèi)容，煽動(dòng)暴力沖突，威脅公共治安、公民的生命安全。

“深度偽造”帶來的財(cái)產(chǎn)安全、政治安全問題同樣值得警惕。2019年3月，英國(guó)某能源公司被敲詐22萬歐元，正是因?yàn)榉缸锓肿永昧恕吧疃葌卧臁奔夹g(shù)模仿公司CEO的聲音。近年來“深度偽造”語(yǔ)音詐騙正在興起，目前的詐騙對(duì)象多為公司高管，未來詐騙對(duì)象可能會(huì)涉及普通民眾，威脅民眾的財(cái)產(chǎn)安全。其次是政治安全問題，“深度偽造”可能會(huì)在背后操縱選舉，對(duì)西方國(guó)家的民主選舉造成威脅。2016年美國(guó)選舉期間，就有特朗普的支持者偽造其競(jìng)爭(zhēng)對(duì)手南希佩洛西的演講視頻，使其看上去像喝醉了酒，說話含糊不清。未來“深度偽造”可能繼續(xù)被用于偽造政治領(lǐng)導(dǎo)人的相關(guān)視頻，擾亂政治安全，干擾選舉。

2.3 引發(fā)社會(huì)信任危機(jī)

目前色情偽造視頻已經(jīng)發(fā)展到了高度精準(zhǔn)化的程度，普通人難以鑒別真?zhèn)?，這會(huì)進(jìn)一步引發(fā)人與人之間的猜疑，將人們包圍在“不確定性”之中，使社會(huì)的信任體系面臨崩塌。此外，“深度偽造”對(duì)企業(yè)信譽(yù)、媒體信譽(yù)也會(huì)產(chǎn)生影響。企業(yè)信譽(yù)是一個(gè)企業(yè)在激烈的市場(chǎng)競(jìng)爭(zhēng)中屹立不倒、維持其經(jīng)營(yíng)活動(dòng)的必要條件。設(shè)想某企業(yè)在首次募股前，被人惡意偽造該企業(yè)CEO宣布破產(chǎn)的假視頻，后果將不堪設(shè)想。同樣的，利用“深度偽造”技術(shù)篡改企業(yè)負(fù)責(zé)人的公開談話視頻，詆毀其形象，也會(huì)影響到企業(yè)的信譽(yù)與經(jīng)濟(jì)利益。而利用“深度偽造”傳播虛假新聞，對(duì)媒體的公信力也會(huì)造成破壞。后真相時(shí)代，媒體已經(jīng)面臨信任危機(jī)，若公眾長(zhǎng)期處于“深度偽造”營(yíng)造的虛假信息環(huán)境中，更會(huì)加劇這種不信任[3]。

3 “深度偽造”倫理問題的解決對(duì)策

現(xiàn)如今，“深度偽造”的門檻已大大降低，普通人通過一臺(tái)手機(jī)、電腦甚至某個(gè)軟件就能實(shí)現(xiàn)AI換臉。如2019年風(fēng)靡國(guó)內(nèi)社交媒體的軟件——ZAO，用戶只需上傳一張自己的照片，就能輕松實(shí)現(xiàn)人臉替換。技術(shù)門檻的降低同時(shí)，也意味著風(fēng)險(xiǎn)的增加，因此，相應(yīng)的防御措施、解決對(duì)策需盡快提上日程。

3.1 國(guó)家：制定相關(guān)法案

在新技術(shù)的治理與風(fēng)險(xiǎn)防范方面，法律規(guī)制一直是必不可少的手段[4]。我國(guó)目前還未針對(duì)“深度偽造”專門立法，但相關(guān)法案已有所涉及。如2019年11月29日國(guó)家網(wǎng)信辦發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第10-13條，提出了AI造假視頻不得隨意發(fā)布等諸多相關(guān)規(guī)定;2020年3月1日發(fā)布的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》中，規(guī)定網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者、生產(chǎn)者和平臺(tái)不得開展網(wǎng)絡(luò)暴力、人肉搜索、深度偽造、流量造假、操縱賬號(hào)等違法活動(dòng)?？傮w上，我國(guó)關(guān)于人工智能等先進(jìn)技術(shù)的立法還不全面。因此，在立法方面可以借鑒美國(guó)，美國(guó)是最早提出對(duì)“深度偽造”技術(shù)進(jìn)行立法的國(guó)家，相關(guān)法案較多且比較完善。如2018年12月，美國(guó)參議院提出的《2018年惡意偽造禁令法案》;2019年3月，美國(guó)參議院提出的《2019年商業(yè)人臉識(shí)別隱私法案》;2019年6月，美國(guó)參議院提出的《2018年惡意偽造禁令法案》等等。這些法案針對(duì)“深度偽造”可能造成的風(fēng)險(xiǎn)作出了各種規(guī)定，值得我國(guó)借鑒。

3.2 相關(guān)職能部門

3.2.1 政府：加強(qiáng)對(duì)公民的宣傳教育

隨著人工智能技術(shù)的不斷迭代，基于“深度偽造”合成的視頻將會(huì)越來越逼真，普通公眾難以鑒別，也容易上當(dāng)受騙。為此，政府首先應(yīng)加強(qiáng)對(duì)公民進(jìn)行“深度偽造”這類新興技術(shù)的宣傳與教育，為公民科普相關(guān)知識(shí)，提升公民的警惕意識(shí)。其次，注意力經(jīng)濟(jì)時(shí)代，政府要注重培養(yǎng)公民的信息素養(yǎng)。由于“深度偽造”產(chǎn)品比較新穎，能夠抓住人們的獵奇心理，如果公民不假思索地跟著轉(zhuǎn)載、點(diǎn)贊，很可能會(huì)加速和擴(kuò)大假消息的破壞性影響。因此政府在確保為公民提供可靠信息渠道的同時(shí)，也要教育公眾審慎傳播信息，避免虛假信息的二次傳播與泛濫。最后，政府也應(yīng)資助“深度偽造”檢測(cè)工具的研發(fā)，盡管目前還沒有完善的檢測(cè)技術(shù)，但偽造內(nèi)容也并非毫無破綻。為了在新的“深度偽造”產(chǎn)品出現(xiàn)之后能盡快地研發(fā)出相應(yīng)的檢測(cè)工具并推廣，政府的資助是必要的。

3.2.2 專家：制定相關(guān)的倫理指南

眼下，一些不法分子公然利用“深度偽造”技術(shù)展開犯罪活動(dòng)，有些行為如偽造色情視頻或許尚不構(gòu)成犯罪，但也對(duì)他人造成了一定傷害。由于網(wǎng)絡(luò)的使用成本低，檢測(cè)技術(shù)也不夠精準(zhǔn)能夠找到偽造者，因此，對(duì)于“深度偽造”技術(shù)的治理，將會(huì)是一場(chǎng)持久戰(zhàn)。除了硬性措施的規(guī)范，也離不開道德的約束。在這方面，可以借鑒歐盟人工智能高級(jí)專家組于2019年4月8日發(fā)布的《可信賴AI的倫理指南》[5]。指南第一章就概述了適用于人工智能系統(tǒng)的四項(xiàng)倫理原則：①尊重人類的主體性;②避免傷害;③公平性;④可解釋性。該指南將這些原則視為AI從業(yè)者應(yīng)始終堅(jiān)持的“倫理準(zhǔn)則”。我國(guó)也可以參照該指南制定相應(yīng)的“深度偽造”倫理指引，雖然倫理準(zhǔn)則不具備強(qiáng)制約束力，但對(duì)于規(guī)范“深度偽造”創(chuàng)建者、使用者的行為，也能夠起到一定的作用。

3.2.3 研發(fā)機(jī)構(gòu)：開發(fā)檢測(cè)技術(shù)

應(yīng)對(duì)“深度偽造”技術(shù)帶來的倫理問題，開發(fā)相應(yīng)的檢測(cè)工具至關(guān)重要。目前學(xué)界和業(yè)界已經(jīng)有了諸多研究成果：2019年，加州大學(xué)伯克利分校和南加州大學(xué)的一個(gè)團(tuán)隊(duì)訓(xùn)練了一個(gè)模型，來尋找精確的“面部動(dòng)作單位”以識(shí)別偽造視頻[6]。近日，來自商湯科技的研究人員與新加坡南洋理工大學(xué)合作，設(shè)計(jì)了“DeeperForensics-1.0”，這是一種用于人臉偽造檢測(cè)的數(shù)據(jù)集，這些數(shù)據(jù)集帶有標(biāo)簽，能夠指示哪些內(nèi)容是由人工智能處理的。此外還有專門針對(duì)聲音的檢測(cè)工具，如Resemble團(tuán)隊(duì)研發(fā)的名為“Resemblyzer”的開源工具，該工具使用人工智能和機(jī)器學(xué)習(xí)來獲取語(yǔ)音樣本的高級(jí)表示，能夠預(yù)測(cè)語(yǔ)音的真實(shí)性。國(guó)內(nèi)也有許多相關(guān)研究成果，如騰訊優(yōu)圖實(shí)驗(yàn)室的人臉合成檢測(cè)平臺(tái)——“FaceIn人臉防偽”、人工智能企業(yè)RealAI研發(fā)的深度偽造視頻檢測(cè)工具——“DeepReal”等等。但目前檢測(cè)器還未能達(dá)到完美的精度，深度偽造的假冒者身份仍然無法確定，并且由于生成器和鑒別器之間持續(xù)博弈的狀態(tài)，任何檢測(cè)技術(shù)隨時(shí)都可能被突破，未來仍需不斷完善與發(fā)展。

3.3 第三方平臺(tái)：加強(qiáng)監(jiān)管，完善管控措施

如今，社交媒體已成為人們獲取信息的重要渠道，同時(shí)社交媒體也是造假者發(fā)布偽造內(nèi)容的天堂。當(dāng)平臺(tái)發(fā)現(xiàn)偽造內(nèi)容時(shí)，是簡(jiǎn)單刪除規(guī)避責(zé)任還是任其傳播？顯然，全盤否定與放任自由都過于極端。社交媒體應(yīng)主動(dòng)承擔(dān)社會(huì)責(zé)任，從各方面出臺(tái)管控措施[7]。與第三方合作以識(shí)別偽造內(nèi)容是社交媒體的首要任務(wù)，如臉書為應(yīng)對(duì)社交網(wǎng)絡(luò)中充斥的色情視頻造假問題，發(fā)起了“深度偽造”挑戰(zhàn)賽，與微軟以及麻省理工、牛津等院校的學(xué)者合作，力圖開發(fā)能有效識(shí)別假視頻的技術(shù)。在能夠識(shí)別偽造內(nèi)容之后，社交媒體應(yīng)建立統(tǒng)一的標(biāo)準(zhǔn)管控偽造內(nèi)容。目前各大平臺(tái)標(biāo)準(zhǔn)不一，有些只刪除使用人工智能制作的假視頻，有些對(duì)偽造視頻和剪輯視頻都會(huì)貼上假視頻的標(biāo)簽，這種模棱兩可的做法可能會(huì)讓偽造者有機(jī)可乘[8]。因此，各大社交平臺(tái)應(yīng)選擇合作，針對(duì)“深度偽造”建立統(tǒng)一的管控標(biāo)準(zhǔn)。對(duì)于一些違反倫理道德、構(gòu)成犯罪的偽造內(nèi)容，嚴(yán)格將其下架，對(duì)于一些普通的偽造內(nèi)容也要貼上相關(guān)標(biāo)簽，以防誤導(dǎo)受眾。

4 結(jié)束語(yǔ)

在“深度偽造”技術(shù)迅猛發(fā)展的當(dāng)下，本文以色情偽造軟件“Deepnude”為個(gè)案，探討了“深度偽造”技術(shù)可能會(huì)帶來的系列倫理問題，包括侵犯女性權(quán)益、社會(huì)安全風(fēng)險(xiǎn)、信任危機(jī)等等。此外，本文提出了國(guó)家應(yīng)制定相關(guān)法案、政府應(yīng)加強(qiáng)對(duì)公民的宣傳教育、專家應(yīng)制定相關(guān)倫理指南、研發(fā)機(jī)構(gòu)應(yīng)開發(fā)檢測(cè)技術(shù)以及第三方應(yīng)加強(qiáng)監(jiān)管、完善管控措施等建議。雖然目前“深度偽造”還未在我國(guó)得到大規(guī)模應(yīng)用，但國(guó)外的種種案例警醒我國(guó)也應(yīng)提前針對(duì)“深度偽造”做好對(duì)策部署，在具體如何應(yīng)用“深度偽造”技術(shù)層面，值得進(jìn)一步研究。

參考文獻(xiàn)（References）：

[1] 位云玲，馮廣圣.算法新聞推薦的社會(huì)責(zé)任反思[J].新聞知識(shí)，2020.9：23-26

[2] 呂志文.構(gòu)建與解構(gòu)：“男性向”網(wǎng)絡(luò)小說改編劇分析[J].藝海，2020.7：82-83

[3] 位云玲.新聞反轉(zhuǎn)的內(nèi)在機(jī)理、影響及治理探究[J].新聞知識(shí)，2019.4：86-89

[4] 李越，吳斯，馮廣圣.UGC視角下的網(wǎng)絡(luò)社區(qū)內(nèi)容分層管理個(gè)案研究——以站酷社區(qū)為例[J].東南傳播，2019.7：121-123

[5] 張濤.后真相時(shí)代深度偽造的法律風(fēng)險(xiǎn)及其規(guī)制[J].電子政務(wù)，2020.4：91-101

[6] 陳昌鳳，徐芳依.智能時(shí)代的“深度偽造”信息及其治理方式[J].新聞與寫作，2020.4：66-71

[7] 王燦.基于營(yíng)銷3.0視角的企業(yè)整合品牌傳播研究——以宜家家居為例[J].東南傳播，2019.5：136-138

[8] 高威，蕭子豪，朱益靈.DeepFake技術(shù)背后的安全問題：機(jī)遇與挑戰(zhàn)[J].信息安全研究，2020.6（7）：634-644