石 巍，黃家星

（南開大學(xué) 法學(xué)院，天津 300350）

“深度偽造”，又稱“AI 換臉”，是一種基于“對(duì)抗生成網(wǎng)絡(luò)”模型（簡稱為GAN）實(shí)現(xiàn)的技術(shù)。它可以通過對(duì)“源數(shù)據(jù)”的學(xué)習(xí)，用特定人的聲音、外貌和動(dòng)作拼接出虛假的聲音、圖片或視頻。訓(xùn)練數(shù)據(jù)越豐富，得出的結(jié)果就會(huì)更加的難以辨別。目前“深度偽造”技術(shù)在實(shí)踐中的應(yīng)用較為廣泛且形式多樣。從輸出形式來看，可以分為圖片、音頻、視頻等形式。從被應(yīng)用的對(duì)象來看，“深度偽造”既可以用在現(xiàn)實(shí)中存在的特定人物上，也可以“創(chuàng)造”出現(xiàn)實(shí)中并不存在的“人”，如在LinkedIn（一款社交網(wǎng)絡(luò)應(yīng)用）上一位聲稱為美國國際戰(zhàn)略研究中心的研究員Katie Jones，被美聯(lián)儲(chǔ)證實(shí)只是潛伏在網(wǎng)絡(luò)上的大量虛假人物之一，其存在目的是為了收集更多有關(guān)美國的政治情報(bào)[1]?！吧疃葌卧臁奔夹g(shù)克服了傳統(tǒng)“生物性識(shí)別數(shù)據(jù)”偽造技術(shù)的局限性，大大拓展了此類技術(shù)的使用范圍。它的出現(xiàn)為社會(huì)生活提供了很多便利和嶄新的可能性。例如可以使已經(jīng)故去的人物在電影中高質(zhì)量地“重現(xiàn)”。在電影《速度與激情7》中就利用了此類技術(shù)使已故的演員保羅.沃克在熒幕上“復(fù)活”。此外大眾可以通過“一鍵換臉”等應(yīng)用程序制作表情包以豐富業(yè)余娛樂生活。

值得注意的是，“深度偽造”在為社會(huì)生活帶來便利的同時(shí)，也帶來了顯而易見的一些風(fēng)險(xiǎn)。面對(duì)這些風(fēng)險(xiǎn)，即使有學(xué)者主張，“深度偽造”不當(dāng)使用的本質(zhì)屬于傳播虛假言論，優(yōu)勝略汰的法則自然會(huì)將傳播中的虛假信息淘汰[2]。但類似于Katie Jones 的虛假人物，可以成為搜集情報(bào)破壞國家安全的手段。另外Deep-Nude（深裸）等應(yīng)用程序的出現(xiàn)也讓人們也不禁更加擔(dān)憂個(gè)人信息安全：如果自己的照片被“移植”到色情圖片或視頻上并被廣泛傳播，又當(dāng)如何處理？因而必須回答的問題是，面對(duì)“深度偽造”這種風(fēng)險(xiǎn)與受益并存的新技術(shù)，法律應(yīng)該采取何種態(tài)度？我國又應(yīng)當(dāng)如何有力應(yīng)對(duì)人工智能時(shí)代這一新挑戰(zhàn)的出現(xiàn)？

目前我國針對(duì)“深度偽造”等技術(shù)可能帶來的風(fēng)險(xiǎn)已經(jīng)開始著手制定相關(guān)規(guī)則?！睹穹ǖ洹啡烁駲?quán)編中不僅規(guī)定了處理個(gè)人信息的基本原則，同時(shí)還明確規(guī)定不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)、不得任意處理他人的私密信息?！毒W(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等法律法規(guī)更是直接針對(duì)“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)的”音視頻信息做出管理規(guī)定。然而這些規(guī)則是否能夠有效規(guī)制“深度偽造”風(fēng)險(xiǎn)，是否有更加完善的空間，則值得進(jìn)一步探討。有鑒于此，本文擬對(duì)“深度偽造”的發(fā)展和應(yīng)用的過程進(jìn)行梳理，并充分分析其可能帶來的風(fēng)險(xiǎn)，以及對(duì)國外相關(guān)規(guī)則做出分析，在此基礎(chǔ)上對(duì)我國的“深度偽造”相關(guān)規(guī)則做出評(píng)價(jià)并提出建議。

一、“深度偽造”的發(fā)展與風(fēng)險(xiǎn)

“深度偽造”中的“偽造”主要是指對(duì)于“生物識(shí)別數(shù)據(jù)”的偽造。而“生物性識(shí)別數(shù)據(jù)”指的是基于特別技術(shù)處理自然人的相關(guān)身體、生理或行為特征而得出的個(gè)人數(shù)據(jù)，這種個(gè)人數(shù)據(jù)能夠識(shí)別或確定自然人的獨(dú)特標(biāo)識(shí)，例如臉部形象或指紋數(shù)據(jù)①。另外“深度偽造”這一概念的發(fā)展離不開人工智能時(shí)代的大背景，并建立在計(jì)算機(jī)“機(jī)器學(xué)習(xí)”的基礎(chǔ)上，即通過“機(jī)器學(xué)習(xí)”中相關(guān)算法從大量訓(xùn)練數(shù)據(jù)中挖掘出隱含的規(guī)律，并將這些規(guī)律用于預(yù)測或者分類。簡而言之，“深度偽造”是人工智能時(shí)代利用計(jì)算機(jī)技術(shù)對(duì)“生物識(shí)別數(shù)據(jù)”進(jìn)行拼接偽造的一種新方法。

（一）“深度偽造”的出現(xiàn)與發(fā)展

公眾對(duì)于偽造“生物識(shí)別數(shù)據(jù)”的了解和關(guān)注往往是從近幾年的娛樂信息開始的。包括將明星的臉疊加在另一段視頻中（例如之前廣泛傳播的“楊冪換臉朱茵”視頻），或者使用應(yīng)用軟件將自己的臉拼接在明星的照片上（例如應(yīng)用軟件ZAO 的火爆下載）。而事實(shí)上，“深度偽造”及相關(guān)技術(shù)的發(fā)展要遠(yuǎn)遠(yuǎn)早于這個(gè)時(shí)間節(jié)點(diǎn)。

1.先人工智能時(shí)代的“生物性識(shí)別數(shù)據(jù)”偽造技術(shù)

在“深度偽造”出現(xiàn)之前，通過電子信息手段進(jìn)行“生物識(shí)別數(shù)據(jù)”偽造的相關(guān)技術(shù)就已經(jīng)出現(xiàn)并得到了運(yùn)用。如在1995 年獲得奧斯卡最佳視覺效果獎(jiǎng)的電影《阿甘正傳》中，主人公阿甘打乒乓球并獲得總理接見的相關(guān)鏡頭就是通過摳像技術(shù)合成的。這一階段的“生物性識(shí)別數(shù)據(jù)”偽造主要通過計(jì)算機(jī)圖片的人像處理技術(shù)實(shí)現(xiàn)。該技術(shù)最早可以追溯到19 世紀(jì)50年代的光學(xué)摳圖。并隨著視頻重構(gòu)等技術(shù)的實(shí)現(xiàn)，得到完善和發(fā)展。

但是總體來看，這一階段的“生物性識(shí)別數(shù)據(jù)”偽造技術(shù)并沒有在社會(huì)生活中得到十分普遍的應(yīng)用。首先，技術(shù)發(fā)展程度使得效果呈現(xiàn)水平有限，人工識(shí)別與手動(dòng)摳圖呈現(xiàn)的成像效果并不能盡如人意。其次，高額的成本決定了這一技術(shù)并不能被廣泛應(yīng)用，應(yīng)用主要局限在電影等具備高額資金支持的領(lǐng)域。最后，電子技術(shù)的整體所處發(fā)展階段決定了這一技術(shù)的風(fēng)險(xiǎn)有限。即使“生物性識(shí)別數(shù)據(jù)”可以偽造，但由于個(gè)人生物特征數(shù)據(jù)獲取的渠道有限、成本較大且范圍較窄，因而并不能在客觀上造成相當(dāng)程度的風(fēng)險(xiǎn)隱患。

因而，先人工智能時(shí)代的“生物性識(shí)別數(shù)據(jù)”偽造技術(shù)在一定程度上為“深度偽造”的出現(xiàn)和發(fā)展提供了技術(shù)基礎(chǔ)和發(fā)展平臺(tái)，但是由于其發(fā)展水平和所處環(huán)境的限制，并沒有引發(fā)相關(guān)的社會(huì)問題和風(fēng)險(xiǎn)規(guī)制思考。

2.人工智能時(shí)代的“生物性識(shí)別數(shù)據(jù)”偽造技術(shù)

如上所述，“深度偽造”是利用計(jì)算機(jī)技術(shù)對(duì)“生物識(shí)別數(shù)據(jù)”進(jìn)行拼接偽造的一種新方法，而作為“深度偽造”基礎(chǔ)模型的GAN 技術(shù)（GAN 屬于“機(jī)器學(xué)習(xí)”中“強(qiáng)化學(xué)習(xí)”的模型之一），由Ian J. Goodfellow 等人于 2014 年 10 月在 Generative Adversarial Networks 中提出，其核心思想來源于博弈論中的二人零和博弈。簡單來說就是GAN 包括一個(gè)生成模型，一個(gè)判別模型。判別模型用于判斷一個(gè)給定的圖片是不是真實(shí)的圖片（從數(shù)據(jù)集里獲取的圖片），生成模型的任務(wù)是去創(chuàng)造一個(gè)看起來像真的圖片一樣的圖片。這兩個(gè)模型一起對(duì)抗訓(xùn)練，生成模型產(chǎn)生一張圖片去欺騙判別模型，然后判別模型去判斷這張圖片是真是假，最終在這兩個(gè)模型訓(xùn)練的過程中，兩個(gè)模型的能力越來越強(qiáng)，最終達(dá)到穩(wěn)態(tài)[3]。

從2017 年起，“深度偽造”技術(shù)逐漸進(jìn)入大眾的視野。有一個(gè)名叫“Deepfaker”的用戶在Reddit 網(wǎng)站利用“深度偽造”技術(shù)將色情視頻中女主角的臉部與知名女演員進(jìn)行替換，這一行為引起了廣泛爭議并最終導(dǎo)致用戶“Deepfaker”在該網(wǎng)站被封號(hào)。但是這一應(yīng)用趨勢(shì)并未因此受到打擊。用戶“Deepfaker”隨后直接開源了項(xiàng)目代碼，更多效仿者隨之而來。追隨者們?yōu)榱思o(jì)念該用戶在這一領(lǐng)域的“貢獻(xiàn)”，便用他的名字“Deepfake”代稱“深度偽造”技術(shù)。

從2018 年開始，相關(guān)應(yīng)用程序在國內(nèi)外開始上線。在國外，2018 年 1 月，一個(gè)名為 FakeApp 的軟件在美國開始上線，號(hào)稱可實(shí)現(xiàn)“一鍵換臉”，激發(fā)了用戶極大的參與熱情，一時(shí)間包括惡搞名人或?qū)⒆约号c名人“換臉”的小視頻比比皆是。同年，號(hào)稱可以實(shí)現(xiàn)“一鍵脫衣”的應(yīng)用程序DeepNude（深裸）也被開發(fā)了出來，然而由于巨大的風(fēng)險(xiǎn)隱患，僅僅上架幾天后，研發(fā)團(tuán)隊(duì)就將這一應(yīng)用程序下架。在國內(nèi)，2019 年8 月上架的應(yīng)用程序“ZAO”，一經(jīng)發(fā)布便得到了大量下載，上線不到一天就出現(xiàn)了服務(wù)器滿負(fù)荷的情況。

相對(duì)于先人工智能時(shí)代的偽造技術(shù)，“深度偽造”具有新的特點(diǎn)。首先，“深度偽造”技術(shù)產(chǎn)物具有高度真實(shí)性，使人難以分辨。人工智能背景下，通過運(yùn)用機(jī)器“對(duì)抗——辨別”模型，極大提升了偽造視頻等產(chǎn)物的外觀“真實(shí)性”和辨認(rèn)的難度，以肉眼的方式辨別真?zhèn)卧桨l(fā)困難。其次，該應(yīng)用具備操作簡易性，即使是非專業(yè)人員也十分容易掌握和參與。雖然“機(jī)器學(xué)習(xí)”抑或“GAN 模型”對(duì)于計(jì)算機(jī)從業(yè)人員以外的非專業(yè)人士知識(shí)壁壘較高，但是相較而言“深度偽造”的應(yīng)用程序卻非常容易上手。如DeepFaceLab 是“深度偽造”技術(shù)的一個(gè)開源軟件工具包，所有人都可以查看源代碼也能免費(fèi)使用，安裝簡單，使用方便，即使是初學(xué)者也可以順利下載使用，在GitHub 上已獲得超過5000 多星的評(píng)價(jià)。另外，“深度偽造”的應(yīng)用廣泛、應(yīng)用成果傳播范圍廣。同時(shí)其在互聯(lián)網(wǎng)傳播應(yīng)用的背景環(huán)境決定了一旦“深度偽造”的成果在上傳至網(wǎng)絡(luò)，傳播速度將十分可觀，故而即使造成了不良影響也很難通過迅速的“下架”或其他方式及時(shí)應(yīng)對(duì)或消除不良影響。

（二）“深度偽造”風(fēng)險(xiǎn)分析

“深度偽造”技術(shù)的不當(dāng)使用可能會(huì)造成對(duì)個(gè)體、社會(huì)、國家三個(gè)層面的影響：

1.個(gè)體層面的風(fēng)險(xiǎn)

首先，“深度偽造”可能對(duì)個(gè)人的人格權(quán)和財(cái)產(chǎn)權(quán)帶來威脅。從人格權(quán)保護(hù)看，個(gè)人的隱私權(quán)、名譽(yù)權(quán)等都極有可能因?yàn)椤吧疃葌卧臁钡牟划?dāng)使用而受到損害。現(xiàn)代社會(huì)中，個(gè)人的信息隱私權(quán)不再局限于對(duì)私生活秘密的消極保護(hù)，而是更加注重對(duì)于個(gè)人信息的控制和自決，德國將此種權(quán)利稱為“控制自己資訊的權(quán)利”或稱為“資訊自決權(quán)”[4]。即個(gè)人有決定自己個(gè)人信息使用的方式，而“深度偽造”其訓(xùn)練替換樣本的獲取往往并沒有取得相應(yīng)權(quán)屬人的同意，對(duì)其信息隱私權(quán)造成了侵犯。另外被傳播的“深度偽造”技術(shù)制作成果，由于一些不恰當(dāng)?shù)氖褂梅绞剑瑥亩赡茉搩?nèi)容具有貶損他人名譽(yù)、降低他人社會(huì)評(píng)價(jià)的性質(zhì)，對(duì)個(gè)人的名譽(yù)權(quán)造成損害。從財(cái)產(chǎn)權(quán)保護(hù)來看，由于形象聲音逼真、辨認(rèn)難度大，利用“深度偽造”這一技術(shù)進(jìn)行詐騙的事例并不罕見。據(jù)《華爾街日?qǐng)?bào)》報(bào)道，今年3 月份，有犯罪分子使用AI 技術(shù)成功模仿了英國某能源公司在德國母公司CEO 的聲音，詐騙了220，000 歐元（約1，730，806 人民幣）。

另外，“深度偽造”技術(shù)的使用有可能對(duì)特定人群造成更大的風(fēng)險(xiǎn)和壓力。雖然“深度偽造”使所有人都有暴露在受到侵害的風(fēng)險(xiǎn)中的可能性，但是從目前的實(shí)踐情況看，“深度偽造”的實(shí)踐應(yīng)用涉及到的具體群體并不相同。例如類似于DeepNude（深裸）利用“深度偽造”技術(shù)合成色情視頻的應(yīng)用程序，會(huì)對(duì)女性造成更大的影響。根據(jù)關(guān)于深度追蹤的一份報(bào)告的內(nèi)容，該報(bào)告在2019 年6 月和7 月的最新統(tǒng)計(jì)中顯示了14698 個(gè)深度偽造視頻，該數(shù)量在七個(gè)月內(nèi)增長了84%。其中絕大多數(shù)（96%）包含以女性為特色的色情內(nèi)容[5]。而當(dāng)運(yùn)用這種應(yīng)用程序進(jìn)行“一鍵合成”的色情視頻在互聯(lián)網(wǎng)上發(fā)布傳播后，其中“被露臉”的當(dāng)事人不可避免的將會(huì)受到就業(yè)、人身安全等諸多方面的困擾，正常的生活秩序勢(shì)必被破壞。正如佛蘭芒廣播公司駐外記者湯姆·范德韋格所言，“受威脅最大的不是大人物，而是像你、我、女記者這樣的普通人，以及某種程度上的邊緣群體，他們可能成為或已經(jīng)成為深度偽造的受害者。”

2.社會(huì)層面的風(fēng)險(xiǎn)

“深度偽造”可能造成社會(huì)信任層面的風(fēng)險(xiǎn)。“眼見為實(shí)”這一俗語準(zhǔn)確的表述了人類長久以來的信賴判斷標(biāo)準(zhǔn)：如果親自看到或聽到了一件事，那它必然是可信的。同時(shí)視頻和音頻等傳播載體的出現(xiàn)極大的拓展了經(jīng)驗(yàn)判斷的來源基礎(chǔ)。但“深度偽造”的技術(shù)的出現(xiàn)，使這一標(biāo)準(zhǔn)從根本上被動(dòng)搖?！吧疃葌卧臁蓖ㄟ^“生物性識(shí)別數(shù)據(jù)”的拼接和偽造，以“訓(xùn)練——替換——對(duì)抗”的方式，制造出“高仿真”的成果，其試圖實(shí)現(xiàn)的最終目標(biāo)就是“以假亂真”。而肉眼和人工智能的對(duì)抗，顯然人類處于這場“真假博弈”的下風(fēng)，必須在“深度偽造”的時(shí)代接受這樣一個(gè)事實(shí)：你所見的并不一定是真的，你所聽的不一定是存在的。

在瓦解傳統(tǒng)信賴判斷標(biāo)準(zhǔn)的同時(shí)，信任風(fēng)險(xiǎn)必然有所上升，從而對(duì)社會(huì)的諸多方面造成壓力。首先，從社會(huì)秩序看，“深度偽造”應(yīng)用傳播的虛假信息可能對(duì)正常的社會(huì)秩序造成破壞，大眾很容易被誤導(dǎo)，因而形成不必要的恐慌。其次，“深度偽造”對(duì)于傳統(tǒng)信賴標(biāo)準(zhǔn)已經(jīng)形成了挑戰(zhàn)，但是相應(yīng)的新的信賴標(biāo)準(zhǔn)卻并未出現(xiàn)，這就導(dǎo)致了“標(biāo)準(zhǔn)缺位”的情形，在這種情形下，個(gè)人判斷很容易走向極端。另外，傳播速度之快，加深了這些風(fēng)險(xiǎn)的威脅。其傳播影響和傳播過程具有同步性，即使迅速采取應(yīng)對(duì)，也幾乎不可能在影響形成之前采取行動(dòng)，因而只能采取一種“事后性”的被動(dòng)彌補(bǔ)方式處理。

3.國家層面的風(fēng)險(xiǎn)

“深度偽造”在國家層面帶來的風(fēng)險(xiǎn)主要包括三個(gè)方面：國內(nèi)政治風(fēng)險(xiǎn)、國家間關(guān)系風(fēng)險(xiǎn)、恐怖主義的威脅。

“深度偽造”技術(shù)對(duì)國內(nèi)政治穩(wěn)定的威脅并非“天方夜譚”。哈佛大學(xué)肯尼迪政府學(xué)院下屬的Belfer 研究中心曾在《AI 與國家安全》報(bào)告中指出：“敵對(duì)國家的網(wǎng)絡(luò)間諜在竊取一國的真實(shí)機(jī)密文件后，同時(shí)泄露真實(shí)文件和一些偽造文件，然后再利用深度偽造技術(shù)合成相應(yīng)的音、視頻材料來佐證這些偽造文件。通過這種途徑，偽造文件的可信度將極大提升，因而可以借以操縱公眾輿論，影響國家政權(quán)穩(wěn)定?！碑?dāng)然實(shí)踐中可操作的形式遠(yuǎn)不止用于偽造文件的輔證，而政治參與者們似乎尋求從中獲取不當(dāng)收利且無意抵制“深度偽造”的不良影響。正如一名法新社記者所說“政客沒有改變這種狀況的動(dòng)機(jī)，并且存在利益沖突，因?yàn)檫@些分發(fā)假材料的平臺(tái)會(huì)幫助他們贏得大選”[6]。甚至一些國家已經(jīng)開始將“深度偽造”技術(shù)作為“信息戰(zhàn)”的手段之一加以大力開發(fā)。美國陸軍網(wǎng)絡(luò)司令部負(fù)責(zé)人斯蒂芬·福格蒂中將曾表示：“我們需要具備攻擊性和防御性的自主能力。事實(shí)上，我們能夠?qū)崟r(shí)捕捉在互聯(lián)網(wǎng)上發(fā)布的有誤導(dǎo)性質(zhì)且有影響力的內(nèi)容，并迅速以其人之道還治其人之身”[7]。

同樣的，“深度偽造”的應(yīng)用可能對(duì)國家間的關(guān)系造成影響。比利時(shí)的社會(huì)黨安德斯曾運(yùn)用“深度偽造”技術(shù)于2018 年5 月在Facebook 上發(fā)布視頻，內(nèi)容顯示特朗普嘲諷比利時(shí)繼續(xù)加入巴黎氣候協(xié)議。當(dāng)然這一事件由于視頻制作較為粗糙，真假辨別難度較低因而并未真實(shí)的影響到比利時(shí)與美國之間的關(guān)系，但試想隨著“深度偽造”技術(shù)的發(fā)展和應(yīng)用的深化，若被別有用心的人士應(yīng)用，則很難預(yù)計(jì)最終的影響。不僅有可能威脅國家間的正常關(guān)系，還有可能被用作“輿論戰(zhàn)”的手段，惡化國家間的關(guān)系，最終甚至走向戰(zhàn)爭。

此外，“深度偽造”如果被恐怖組織加以利用，將對(duì)世界和平安全造成極大的威脅。例如米德爾伯里國際研究中心恐怖主義、極端主義和反恐中心（CTEC）的研究人員認(rèn)為，恐怖組織可以利用GPT-2（一種利用“深度偽造”技術(shù)的應(yīng)用工具）和其他類似的組織來宣傳白人至上主義、伊斯蘭圣戰(zhàn)主義和其他具有威脅性的意識(shí)形態(tài)?？梢哉f，“深度偽造”技術(shù)為恐怖主義的提供了新的輿論混淆手段和宣傳手段，恐怖組織可以通過利用其真假難辨的特性，散步虛假信息，制造動(dòng)蕩局面，進(jìn)而威脅國際安全。

二、“深度偽造”的規(guī)制與評(píng)價(jià)——以美國為例

（一）規(guī)制的可能性與必要性

技術(shù)作為一種對(duì)于自然運(yùn)行客觀規(guī)律的捕捉和利用手段，本身的客觀性是毋庸置疑的。正如布萊恩·阿瑟所言：“本質(zhì)上，技術(shù)是被捕獲并加以利用的現(xiàn)象的集合，或者說，技術(shù)是對(duì)現(xiàn)象有目的的編程”[8]?！吧疃葌卧臁边@一技術(shù)也不例外。它可以被應(yīng)用至電影制作、人像復(fù)原等領(lǐng)域，也可以作為詐騙、勒索、色情傳播的手段危害社會(huì)。從這一點(diǎn)看，正如“技術(shù)中立”價(jià)值論倡導(dǎo)者的判斷，“深度偽造”技術(shù)本身不應(yīng)當(dāng)成為被限制的對(duì)象。

然而，技術(shù)是否可以排除其主觀性的一面，答案是否定的。存在主義哲學(xué)大師海德格爾認(rèn)為：“人盡皆知對(duì)我們這個(gè)問題有兩種回答。其一曰：技術(shù)是合目的的手段。其二曰：技術(shù)是人的行為。這兩個(gè)關(guān)于技術(shù)的規(guī)定原是一體的，因?yàn)樵O(shè)定目的，創(chuàng)造和利用目的的手段，就是人的行為”[9]。技術(shù)追求對(duì)客觀規(guī)律的捕捉和利用，只能說明其來源和內(nèi)容是客觀的，而技術(shù)之所以存在和之所以被應(yīng)用，則體現(xiàn)了技術(shù)創(chuàng)造主觀性的一面。技術(shù)一旦進(jìn)入社會(huì)領(lǐng)域，必然會(huì)被社會(huì)制度、社會(huì)組織和社會(huì)群體的各種利益、訴求和價(jià)值判斷所塑造和限制[10]。如果片面的強(qiáng)調(diào)“技術(shù)中立”，將會(huì)不可避免的導(dǎo)致技術(shù)功能與實(shí)踐后果的分離。也就是說，技術(shù)為人所創(chuàng)造使用，但是發(fā)明人和傳播使用者等卻能完美規(guī)避一切來自法律的負(fù)面評(píng)價(jià)。這顯然是不合理的。

由此可見，技術(shù)本身由于其來源和內(nèi)容，具有客觀性；同時(shí)由于其用途和使用目的，具有主觀性。從風(fēng)險(xiǎn)規(guī)制的角度，應(yīng)當(dāng)主要從其主觀性一面入手，也就是以對(duì)技術(shù)發(fā)明者、使用者、傳播者為切入點(diǎn)，合理規(guī)制技術(shù)風(fēng)險(xiǎn)。

因而具體到“深度偽造”的規(guī)制判斷問題。首先，應(yīng)當(dāng)肯定這一技術(shù)存在的客觀合理性，“深度偽造”本身不應(yīng)當(dāng)直接受到法律的負(fù)面評(píng)價(jià)，脫離使用而單純的對(duì)于“深度偽造”進(jìn)行規(guī)制既無必要也無可行性。其次，“深度偽造”技術(shù)不應(yīng)當(dāng)直接被法律所禁止，但并不等于“深度偽造”的參與者不應(yīng)當(dāng)受到來自法律規(guī)制。換句話說，對(duì)于“深度偽造”的規(guī)制應(yīng)當(dāng)從其參與者入手，包括發(fā)明者、應(yīng)用者、傳播者等方面，以規(guī)制“深度偽造”發(fā)明使用目的為路徑，實(shí)現(xiàn)“深度偽造”的合理使用，避免該技術(shù)對(duì)個(gè)人、社會(huì)、國家造成的諸多方面的風(fēng)險(xiǎn)。

（二）“深度偽造”的規(guī)制路徑——以美國為例

目前各國已經(jīng)開始在法律層面采取手段尋求規(guī)制“深度偽造”的應(yīng)用風(fēng)險(xiǎn)。其中以實(shí)踐較為典型的美國為例。

1.既存規(guī)則體系簡介

美國是最早開始對(duì)“深度偽造”進(jìn)行規(guī)制的國家之一。2018 年以來，隨著“深度偽造”技術(shù)的廣泛應(yīng)用與風(fēng)險(xiǎn)事件的不斷提示，美國在“深度偽造”的法律規(guī)制方面也加快了步伐。目前，既存關(guān)于“深度偽造”的規(guī)則來源較為復(fù)雜，主要分為以下幾類：第一類，是從“深度偽造”自身的角度進(jìn)行規(guī)制，包括《2019 年深度偽造報(bào)告法案》、《深度偽造責(zé)任法案》等；第二類，是以“生物信息保護(hù)”的角度進(jìn)行規(guī)制，包括伊利諾伊州頒布在2008 年頒布的《生物信息隱私法案》、德克薩斯州在2009 年頒布的《生物識(shí)別信息獲取使用法》②等；第三類，是從具體風(fēng)險(xiǎn)（如色情傳播、選舉影響等）規(guī)制的角度進(jìn)行規(guī)制，包括弗吉尼亞州2019《非同意色情法》修正案、德克薩斯州《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》等。

2.規(guī)制的起點(diǎn)與變遷

如何看待“深度偽造”決定了其規(guī)制的起點(diǎn)。一方面，對(duì)“深度偽造”進(jìn)行規(guī)制，顯而易見的一種規(guī)制路徑是以其本身作為規(guī)制切入點(diǎn)，即直接圍繞“深度偽造”的不當(dāng)應(yīng)用進(jìn)行規(guī)制。另一方面“深度偽造”的本質(zhì)是“對(duì)生物識(shí)別數(shù)據(jù)進(jìn)行偽造的一種新技術(shù)”，通過以“生物識(shí)別數(shù)據(jù)”的保護(hù)實(shí)現(xiàn)抑制“深度偽造”不當(dāng)使用帶來的負(fù)面效應(yīng)，也是一種可行的路徑。

美國對(duì)于“深度偽造”的規(guī)制經(jīng)歷了兩個(gè)階段的路徑變遷。在2019 年以前，美國對(duì)于“深度偽造”的規(guī)制，主要是通過對(duì)“生物識(shí)別數(shù)據(jù)”的保護(hù)實(shí)現(xiàn)。無論是伊利諾伊州的《生物信息隱私法案》還是德克薩斯州的《生物識(shí)別信息獲取使用法》等均是在此之前制定。在2019 年以后，美國對(duì)于“深度偽造”的規(guī)制，主要是通過直接規(guī)制實(shí)現(xiàn)，例如《2019 年深度偽造報(bào)告法案》和《深度偽造責(zé)任法案》等。

造成這一情況的原因主要由于“深度偽造”技術(shù)雖然從2014 年開始就獲得了技術(shù)上的突破，但是直到2017 年才開始被廣泛應(yīng)用，之后在實(shí)踐中逐步暴露的風(fēng)險(xiǎn)引起了人們的廣泛注意。因而“深度偽造”帶來的是全新的挑戰(zhàn)。同時(shí)基于法律滯后性的固有特點(diǎn)，開始針對(duì)“深度偽造”進(jìn)行法律規(guī)制的時(shí)間必然更加后置。相對(duì)而言，對(duì)于“生物識(shí)別數(shù)據(jù)”的保護(hù)意識(shí)覺醒的更早，所以試圖實(shí)現(xiàn)對(duì)“深度偽造”的風(fēng)險(xiǎn)進(jìn)行最及時(shí)有效的規(guī)制，顯然應(yīng)當(dāng)在既存規(guī)則中尋求答案，故而第一個(gè)階段的選擇是被動(dòng)的選擇。這一階段針對(duì)“深度偽造”的規(guī)則存在諸多不完善之處。如伊利諾伊州在2008 年頒布的《生物信息隱私法案》，其目的在于規(guī)范“生物標(biāo)識(shí)符和信息的收集，使用，保護(hù)，處理，存儲(chǔ)，保留和銷毀”，但是卻明確的將“照片”等形式明確的排除在該法的限制范圍之外。這樣一來，使用照片進(jìn)行“深度偽造”應(yīng)用的方式就無法得到有效的規(guī)制。

如果說在第一個(gè)階段對(duì)于“深度偽造”的規(guī)制是被動(dòng)的，那么當(dāng)充分掌握了“深度偽造”的運(yùn)行機(jī)制及使用可能性后，美國重新站到了選擇的“十字路口”：是選擇“深度偽造”作為規(guī)制主體抑或是繼續(xù)以“生物識(shí)別數(shù)據(jù)”作為規(guī)制主體。不同于歐盟始終將“生物識(shí)別數(shù)據(jù)”作為規(guī)制主體的路徑選擇，美國轉(zhuǎn)而開始積極嘗試針對(duì)“深度偽造”的直接立法。這主要反映了美國對(duì)于“深度偽造”帶來巨大風(fēng)險(xiǎn)的擔(dān)憂，以及直面修復(fù)這些風(fēng)險(xiǎn)危機(jī)的決心[11]。同時(shí)需要明確的是，“生物識(shí)別數(shù)據(jù)”的范圍以及涉及的法律問題與“深度偽造”有重疊但不重合，美國對(duì)“深度偽造”選擇的直接規(guī)制路徑并不代表對(duì)“生物識(shí)別數(shù)據(jù)”的立法規(guī)制的放棄。事實(shí)上，例如《2019 商業(yè)面部識(shí)別隱私法案》等關(guān)于“生物識(shí)別數(shù)據(jù)”新的立法正在進(jìn)行中。

3.針對(duì)“深度偽造”應(yīng)用風(fēng)險(xiǎn)的具體規(guī)制安排

《2019 年深度偽造報(bào)告法案》直接以“深度偽造”為主要規(guī)制對(duì)象，在這份法案中，首先規(guī)定了“數(shù)字偽造”的定義，即“通過使用新興技術(shù)（包括人工智能和機(jī)器學(xué)習(xí)技術(shù)）來制造或操縱音頻，視覺或文本內(nèi)容，以期產(chǎn)生誤導(dǎo)”?？梢钥吹皆谶@份關(guān)于“深度偽造”的報(bào)告中并未直接使用“深度偽造”的定義，采用了概念外延略大于“深度偽造”的“數(shù)字偽造”定義，在有效涵蓋“深度偽造”概念的同時(shí)合理擴(kuò)大了該法案的適用范圍。其次規(guī)定了關(guān)于“數(shù)字偽造”技術(shù)的“定期報(bào)告”制度，根據(jù)該法案，國土安全部的秘書處應(yīng)在該法案公布的一年內(nèi)公布第一份報(bào)告，并在其后的每五年進(jìn)行報(bào)告。報(bào)告的內(nèi)容包括基礎(chǔ)技術(shù)評(píng)估、類型描述、損害國家安全評(píng)估、用途等八個(gè)方面的評(píng)估內(nèi)容。這些方面涉及的范圍較廣，幾乎包括了實(shí)踐對(duì)于“深度偽造”使用較為關(guān)切的所有問題。采用報(bào)告的形式進(jìn)行監(jiān)督，在主動(dòng)掌握“深度偽造”的發(fā)展趨勢(shì)的同時(shí)并不對(duì)“深度偽造”本身產(chǎn)生不合理限制，平衡了技術(shù)的發(fā)展和監(jiān)管的需要。

另一個(gè)關(guān)于“深度偽造”的最新實(shí)踐是2019 年6月12 日美國國會(huì)眾議員Yvette Clarke 提出的《深度偽造責(zé)任法案》。該法案主要要求視頻創(chuàng)作者對(duì)發(fā)布修改視頻負(fù)責(zé)，并通過不同形式的“自我披露”以實(shí)現(xiàn)與真實(shí)視頻的區(qū)分，否則將會(huì)根據(jù)產(chǎn)生的不同后果受到刑事或者民事處罰。其目的是“通過限制深度偽造視頻更改技術(shù)來防止虛假信息的傳播”，在制度設(shè)計(jì)上更加嚴(yán)格，并且在一定程度上實(shí)現(xiàn)了與其他法律部門的銜接，使“深度偽造”不當(dāng)使用行為的法律責(zé)任更加明確。

在具體風(fēng)險(xiǎn)的規(guī)制方面，對(duì)于政治方面風(fēng)險(xiǎn)的規(guī)制主要集中在“深度偽造”對(duì)選舉等政治活動(dòng)的影響上。加利福尼亞州的AB 730 法案規(guī)定，將在2023 年1月1 日之前禁止個(gè)人、委員會(huì)或其他實(shí)體，在選舉中出現(xiàn)選民候選人的選舉之日起60 天內(nèi)，分發(fā)帶有實(shí)質(zhì)性的具有欺騙性的音頻或圖像的惡意內(nèi)容，否則將面臨訴訟和賠償?shù)娘L(fēng)險(xiǎn)。但是如果媒體等傳播主體做出了如實(shí)披露或提示，則可視具體情況得到豁免。但由于其只適用于開始選舉之日起60 日內(nèi)具有“真實(shí)惡意”的“深度偽造”內(nèi)容，使其適用范圍和實(shí)際效力不得不大打折扣。此外德克薩斯州也通過了保障選舉安全的專門的深度偽造法，即《關(guān)于制作欺騙性視頻意圖影響選舉結(jié)果的刑事犯罪法案》，將利用Deepfake等技術(shù)制作或發(fā)布“深度偽造”視頻企圖傷害候選人或干擾選舉的行為定義為刑事犯罪。

對(duì)于個(gè)人權(quán)利的保護(hù)主要體現(xiàn)在規(guī)制“深度偽造”色情產(chǎn)物傳播上。例如弗吉尼亞州2019《非同意色情法》修正案將“深度偽造”的情況納入非自愿色情禁令的范圍中。該法禁止“意圖脅迫，騷擾或恐嚇”他人傳播裸體圖像或視頻，否則可能構(gòu)成一級(jí)輕罪，最高可判處12 個(gè)月監(jiān)禁和2500 美元罰款。這一安排針對(duì)的是目前實(shí)踐中“深度偽造”在色情視頻傳播中的不當(dāng)應(yīng)用趨勢(shì)，通過將“深度偽造”的情況納入非自愿色情禁令的范圍等手段能夠遏制這一趨勢(shì)，從而保護(hù)女性等容易在這此過程中受到影響的群體。

（三）現(xiàn)有規(guī)則的評(píng)析

總的來說，目前美國面對(duì)“深度偽造”的風(fēng)險(xiǎn)作出了較為及時(shí)有效的回應(yīng)，但是其制定的相關(guān)規(guī)則仍然存在著以下不足之處。

首先，對(duì)濫用者懲罰力度不足。對(duì)“深度偽造”行為進(jìn)行規(guī)制的完整邏輯鏈可以表述為：行為——識(shí)別——規(guī)制。對(duì)于“深度偽造”濫用者的規(guī)制，效應(yīng)不僅體現(xiàn)在“規(guī)制”端，而且可以通過法律的指引作用將監(jiān)管力度延伸至“行為端”，從而實(shí)現(xiàn)較好的實(shí)踐效果。但是目前關(guān)于美國“深度偽造”濫用者的懲罰力度存在著一些的質(zhì)疑的聲音。例如Deep Instinct 的羅森伯格認(rèn)為，“濫用者被抓到的風(fēng)險(xiǎn)很小。因?yàn)轱L(fēng)險(xiǎn)低，所以制造深度偽造幾乎沒有威懾力。而這會(huì)加劇散布深度偽造的假冒者的膽識(shí)”[12]。當(dāng)然這不僅需要法律規(guī)則的完善，同時(shí)還需要技術(shù)的配合，提高濫用者違法行為的風(fēng)險(xiǎn)，改善“深度偽造”濫用低成本、低風(fēng)險(xiǎn)的現(xiàn)狀。

其次，平臺(tái)責(zé)任的設(shè)置不盡合理。正如前文所述，“深度偽造”的成果傳播平臺(tái)是互聯(lián)網(wǎng)。而互聯(lián)網(wǎng)無形性、迅速性的特點(diǎn)決定了“深度偽造”的不良應(yīng)用一旦開始傳播就很難停止并消除其不利影響。而傳播平臺(tái)作為重要媒介，如果在傳播伊始就能夠及時(shí)制止，那么“深度偽造”的負(fù)面應(yīng)用風(fēng)險(xiǎn)就會(huì)大大降低。技術(shù)公司在虛假信息辨別的問題上，扮演者重要的“守門員”角色[13]。但在這一點(diǎn)上僅憑傳播平臺(tái)的“自覺性”是遠(yuǎn)遠(yuǎn)不夠的。雖然一些網(wǎng)站已經(jīng)開始積極采取措施應(yīng)對(duì)“深度偽造”，但是基于《傳播凈化法》中的第230 條的免責(zé)規(guī)定，這些網(wǎng)站仍然缺乏來自法律上動(dòng)力應(yīng)對(duì)“深度偽造”的產(chǎn)物，許多“深度偽造”視頻目前仍在網(wǎng)絡(luò)上廣泛傳播[14]。有學(xué)者提出可以以修正案的方式對(duì)此進(jìn)行修改[15]。但是到目前為止，還沒有進(jìn)一步的實(shí)踐進(jìn)展。

最后，整個(gè)體系應(yīng)進(jìn)一步完善。目前保護(hù)的并不全面。盡管刑法為偽造傳播虛假信息的行為編織了貌似嚴(yán)密的法網(wǎng)，但實(shí)際上，只要視頻信息并非承載特定的內(nèi)容（如軍情、險(xiǎn)情、色情等），或直接從事違法犯罪（如詐騙、盜竊等），現(xiàn)有“換臉視頻”的絕大多數(shù)情形都在刑事法網(wǎng)之外[16]。這一點(diǎn)與現(xiàn)實(shí)的迫切性形成了鮮明的對(duì)比，因而必須做出以聯(lián)邦刑法為基礎(chǔ)，以”深度偽造“色情產(chǎn)物為中心的國家對(duì)策，因?yàn)槊總€(gè)人都會(huì)是潛在的受害者[17]犯罪。（嘗試xxx 罪美國）總體來說，“深度偽造”仍然屬于比較新的問題，需要規(guī)則與實(shí)踐進(jìn)一步互動(dòng)與改進(jìn)。

此外，針對(duì)“深度偽造”的風(fēng)險(xiǎn)進(jìn)行規(guī)制同時(shí)，也必須考慮規(guī)制手段與其他價(jià)值的互動(dòng)與界限，以避免損害規(guī)制手段的有效性。例如，立法機(jī)構(gòu)必須在表達(dá)內(nèi)容本身和內(nèi)容表達(dá)的中介或來源的特點(diǎn)上劃清界限，以保證言論表達(dá)的自由[18]。

基于已有資料及圖件，采用地統(tǒng)計(jì)學(xué)、空間疊置等空間風(fēng)險(xiǎn)方法，依次疊置求交集劃定相關(guān)類別單元的邊界，最后劃定為相對(duì)均一的風(fēng)險(xiǎn)評(píng)價(jià)單元。在地理單元的基礎(chǔ)上，對(duì)受同一污染源影響、且污染程度相似的區(qū)域原則上劃為同一風(fēng)險(xiǎn)評(píng)價(jià)單元，具體需綜合考慮點(diǎn)位風(fēng)險(xiǎn)評(píng)價(jià)結(jié)果、區(qū)域污染源類型因素，結(jié)合土地利用方式、地塊邊界等因素綜合確定風(fēng)險(xiǎn)評(píng)價(jià)單元的區(qū)域和邊界（圖2）。

三、我國對(duì)這一問題的應(yīng)對(duì)

目前我國已經(jīng)充分認(rèn)識(shí)到隨著“深度偽造”等新技術(shù)新應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用，傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風(fēng)險(xiǎn)隱患進(jìn)一步集聚、放大，可能被利用從事危害國家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)，造成政治安全風(fēng)險(xiǎn)和國家安全、公共安全風(fēng)險(xiǎn)，對(duì)社會(huì)穩(wěn)定造成不良影響③。并及時(shí)制定了相關(guān)規(guī)則進(jìn)行規(guī)制。規(guī)制方式與美國較為類似：一方面通過“生物信息”的保護(hù)以避免“深度偽造”的不當(dāng)應(yīng)用，另一方面直接針對(duì)“深度偽造”的不當(dāng)應(yīng)用做出限制（通常以“虛假音視頻”、“非真實(shí)音視頻”等名稱指代）。

通過“生物信息”進(jìn)行規(guī)制的相關(guān)法律涉及數(shù)據(jù)收集、數(shù)據(jù)主體同意、數(shù)據(jù)傳播等各方面?！睹穹ǖ洹返?034 條以及第1035 條規(guī)定，包括生物識(shí)別信息在內(nèi)的自然人的個(gè)人信息受法律保護(hù)。處理個(gè)人信息的，應(yīng)當(dāng)遵循合法、正當(dāng)、必要原則，不得過度處理關(guān)于數(shù)據(jù)收集的目的限制，《數(shù)據(jù)安全管理辦法（征求意見稿）》第24 條規(guī)定，網(wǎng)絡(luò)運(yùn)營者不得以謀取利益或損害他人利益為目的利用大數(shù)據(jù)、人工智能等技術(shù)自動(dòng)合成信息。

除此之外，關(guān)于“深度偽造”等技術(shù)對(duì)“生物信息”不當(dāng)使用的風(fēng)險(xiǎn)規(guī)制，《民法典》第1019 條規(guī)定，任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像。從而扭轉(zhuǎn)了《民法通則》規(guī)定下“非盈利肖像使用”追責(zé)難的局面，并充分限制了以“深度偽造”為代表的信息技術(shù)偽造手段對(duì)個(gè)人肖像權(quán)的侵害。而就“深度偽造”在色情應(yīng)用上的風(fēng)險(xiǎn)，《民法典》第1033 條規(guī)定，除法律另有規(guī)定或者權(quán)利人明確同意外，任何組織或者個(gè)人不得處理他人的私密信息。從“私密信息”的處理限制入手，以實(shí)現(xiàn)“深度偽造”等色情應(yīng)用的傳播。

對(duì)“深度偽造”的不當(dāng)應(yīng)用的直接規(guī)制，我國仍處于初始探索階段。2020 年1 月1 日起施行的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》規(guī)定“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的”必須進(jìn)行標(biāo)識(shí)。對(duì)于其中違法違規(guī)內(nèi)容網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)及時(shí)停止傳輸該信息，并采取消除等處置措施，防止信息擴(kuò)散。并且明確了和其他部門法規(guī)的銜接關(guān)系，明確了法律責(zé)任。其中第十八條規(guī)定，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反本規(guī)定的，由網(wǎng)信、文化和旅游、廣播電視等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

另外，我國在應(yīng)對(duì)“深度偽造”風(fēng)險(xiǎn)規(guī)制方面，與美國相比，優(yōu)勢(shì)之一在于明確傳播平臺(tái)的審查責(zé)任。關(guān)于傳播平臺(tái)的審查，網(wǎng)信辦已經(jīng)會(huì)同有關(guān)部門制定出臺(tái)了《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》，其中規(guī)定各互聯(lián)網(wǎng)信息服務(wù)提供者需要自行或者委托第三方開展安全評(píng)估。這一規(guī)定明確了互聯(lián)網(wǎng)信息服務(wù)提供者的責(zé)任，但不足在于適用范圍較窄，僅限于具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)的平臺(tái)。更廣泛的平臺(tái)責(zé)任安排，則由《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》直接規(guī)定：網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于新技術(shù)新應(yīng)用上線具有媒體屬性或者社會(huì)動(dòng)員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評(píng)估；網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)加強(qiáng)對(duì)網(wǎng)絡(luò)音視頻信息服務(wù)使用者發(fā)布的音視頻信息的管理，部署應(yīng)用違法違規(guī)音視頻以及非真實(shí)音視頻鑒別技術(shù)；網(wǎng)絡(luò)音視頻信息服務(wù)提供者針對(duì)深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻應(yīng)建立健全辟謠等機(jī)制等。

可以看到我國對(duì)于“深度偽造”的風(fēng)險(xiǎn)規(guī)制盡管處于初始階段，但是仍然建立起了比較完善的規(guī)制機(jī)制。在信息收集階段，通過目的限制與征得數(shù)據(jù)收集主體同意等要求，使數(shù)據(jù)主體增強(qiáng)對(duì)個(gè)人生物特征信息的掌控。在“深度偽造”技術(shù)的使用階段，在安全評(píng)估、信息標(biāo)識(shí)、違法違規(guī)信息處理、辟謠機(jī)制的建立等多角度完善了網(wǎng)絡(luò)音視頻信息服務(wù)提供者的責(zé)任機(jī)制，以有效遏制“深度學(xué)習(xí)”可能產(chǎn)生的負(fù)面影響。在未來關(guān)于“深度偽造”的規(guī)制完善方面，應(yīng)著重注意以下幾點(diǎn)：

（一）在知識(shí)產(chǎn)權(quán)保護(hù)等問題上還需要進(jìn)一步的完善

按照我國知識(shí)產(chǎn)權(quán)的相關(guān)規(guī)定，視頻作品的作者享有作品的完整權(quán)，不受任意修改的權(quán)利。當(dāng)原始視頻被曲解、編輯、修改之后，原作者的知識(shí)產(chǎn)權(quán)就受到相應(yīng)的侵害[19]。因而“深度偽造”的不當(dāng)使用也很可能使權(quán)利人知識(shí)產(chǎn)權(quán)被侵犯，但是就目前的立法現(xiàn)狀來看，不論是我國還是其他等已經(jīng)開始針對(duì)“深度偽造”的不當(dāng)使用進(jìn)行規(guī)制國家，都很少關(guān)注“深度偽造”的不當(dāng)使用與知識(shí)產(chǎn)權(quán)保護(hù)之間的問題。關(guān)于這一點(diǎn)，應(yīng)當(dāng)參考《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第十八條中關(guān)于“深度偽造”不當(dāng)使用行為與刑事責(zé)任等進(jìn)行銜接的方式，在未來的立法中將“深度偽造”的不當(dāng)應(yīng)用與知識(shí)產(chǎn)權(quán)法上的相關(guān)法律責(zé)任加以關(guān)聯(lián)。

（二）需要注意平臺(tái)責(zé)任的平衡

需要注重進(jìn)一步發(fā)揮行業(yè)自治規(guī)范的效力，盡快完善相關(guān)技術(shù)標(biāo)準(zhǔn)。關(guān)于“深度偽造”等新技術(shù)的風(fēng)險(xiǎn)規(guī)制，就像是一場“貓鼠游戲”，隨著“深度偽造”技術(shù)的“日臻完美”相應(yīng)的檢測技術(shù)也必將隨之一同發(fā)展。為了使檢測辨別方法更加有效，除了例如在《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》中強(qiáng)調(diào)的“深度偽造”內(nèi)容主動(dòng)標(biāo)識(shí)義務(wù)，同時(shí)還應(yīng)當(dāng)促使相關(guān)辨別技術(shù)標(biāo)準(zhǔn)逐步完善，并充分發(fā)揮行業(yè)自治效應(yīng)。目前我國的互聯(lián)網(wǎng)企業(yè)還沒有采取相關(guān)行動(dòng)，但是谷歌和微軟等國外大型互聯(lián)網(wǎng)公司已經(jīng)采取了一些積極的方式加以應(yīng)對(duì)，例如發(fā)布深度偽造視頻數(shù)據(jù)集，幫助識(shí)別AI 換臉視頻；培養(yǎng)專門人員進(jìn)行“深度偽造”內(nèi)容識(shí)別工作等。這將不僅有助于“深度偽造”的風(fēng)險(xiǎn)防范，還有助于互聯(lián)網(wǎng)企業(yè)的自身發(fā)展。

在人工智能時(shí)代，諸如“深度偽造”等新技術(shù)帶來的風(fēng)險(xiǎn)對(duì)人類構(gòu)成了一些新的挑戰(zhàn)。面對(duì)這些風(fēng)險(xiǎn)，從法律的角度進(jìn)行規(guī)制仍然是一種十分有效且必要的方式。而對(duì)任何一種技術(shù)帶來的風(fēng)險(xiǎn)進(jìn)行規(guī)制都必然面臨技術(shù)中立和價(jià)值判斷的矛盾。技術(shù)本身不應(yīng)當(dāng)成為限制的對(duì)象，否則將打擊技術(shù)發(fā)明的熱情甚至限制科技的進(jìn)步。但是科技的使用必須受到合理的限制，面對(duì)技術(shù)過于“怯懦”的態(tài)度將會(huì)放任科技風(fēng)險(xiǎn)對(duì)人類社會(huì)的威脅。實(shí)現(xiàn)這二者間的平衡，是規(guī)則制定者長期必須面對(duì)的難題。

注 釋：

①歐盟《一般數(shù)據(jù)保護(hù)條例》第4.11 條。

②具體位于《德克薩斯州商法典》（BUSINESS AND COMMERCE CODE）第11 節(jié)個(gè)人身份信息。

③《國家互聯(lián)網(wǎng)信息辦公室.國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人就〈網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定〉答記者問》，http://www.cac.gov.cn/2019-11/29/c_1576561821173892.html.