濫用“深度偽造”的危害

劉輝

“深度偽造”技術(shù)能夠?qū)崿F(xiàn)“一鍵換臉”

“事前規(guī)制”畫“紅線”

今年3月，國家網(wǎng)信辦和公安部依法約談11家互聯(lián)網(wǎng)企業(yè)，督促其加強對語音社交軟件和涉及“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)、新應(yīng)用的安全評估，完善風(fēng)險防控機制和措施，并對發(fā)現(xiàn)的安全隱患及時采取有效的整改措施。

不同于“事后監(jiān)管”，此次安全評估和約談給有關(guān)的互聯(lián)網(wǎng)新技術(shù)、新應(yīng)用提前畫下“紅線”?！笆虑耙?guī)制”有利于企業(yè)及時發(fā)現(xiàn)安全隱患，整改安全問題。

下一步，國家網(wǎng)信辦、公安部將繼續(xù)指導(dǎo)各地網(wǎng)信部門和公安機關(guān)，加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴格遵守相關(guān)法律法規(guī)，積極主動盡到安全管理義務(wù)，切實履行企業(yè)主體責(zé)任，共同維護網(wǎng)絡(luò)傳播秩序，營造良好的網(wǎng)絡(luò)生態(tài)。

這不是國家有關(guān)部門首次關(guān)注網(wǎng)絡(luò)虛擬現(xiàn)實技術(shù)所引發(fā)的問題。早在2019年12月，國家網(wǎng)信辦、文化和旅游部、廣播電視總局就聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（簡稱《規(guī)定》）。《規(guī)定》中多次提及基于“深度學(xué)習(xí)”“虛擬現(xiàn)實”等新技術(shù)、新應(yīng)用的音視頻。

《規(guī)定》強調(diào)，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和使用者，利用“深度學(xué)習(xí)”“虛擬現(xiàn)實”等新技術(shù)、新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識，不得利用“深度學(xué)習(xí)”“虛擬現(xiàn)實”等新技術(shù)、新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。

監(jiān)管部門針對涉及“深度偽造”技術(shù)的新應(yīng)用頻頻出手，讓更多的公眾意識到這一技術(shù)背后潛藏的安全隱患。

侵犯公民合法權(quán)益

科學(xué)技術(shù)的發(fā)展必須堅持以人為本這一基本原則，一旦偏離這一主軸，就有可能陷入倫理危機，甚至是合法性危機。就“深度偽造”技術(shù)而言，其濫用將對公民個人的合法權(quán)益產(chǎn)生不利影響，主要體現(xiàn)在以下幾個方面：

一是侵犯公民的隱私權(quán)。在司法實踐中，通過個案裁決的方式使得一些具體的隱私利益得到保護，如個人的電話號碼、生理缺陷、身體隱私等。另外，曾經(jīng)被公開的隱私仍可獲得隱私保護。

“深度偽造”技術(shù)被濫用，尤其是用于制作色情視頻，將直接侵犯公民的性隱私。

二是侵犯公民的名譽權(quán)。名譽權(quán)是一種非財產(chǎn)性權(quán)利，受害人可以主張精神損害賠償。在我國的司法實踐中，侵害名譽權(quán)的構(gòu)成要件包括：一是行為人的行為違法，包括侮辱行為、誹謗行為及其他違法行為;二是受害人確有名譽被損害的事實，即受害人社會評價的降低;三是違法行為與損害后果之間有因果關(guān)系;四是行為人主觀上有過錯。

“深度偽造”技術(shù)被濫用，無論是偽造色情視頻，還是偽造虛假新聞，都可能造成個人的社會評價降低，對名譽權(quán)產(chǎn)生侵害。

三是侵犯公民的肖像權(quán)。肖像權(quán)是一種重要的人格權(quán)，我國《民法典》《婦女權(quán)益保障法》《侵權(quán)責(zé)任法》等皆對肖像權(quán)保護作出了明文規(guī)定。

“深度偽造”技術(shù)被濫用，主要是將人臉進行“移花接木”，無論是色情視頻還是虛假新聞、虛假廣告，都可能對公民的肖像權(quán)造成侵害。

隨著“深度偽造”技術(shù)的廉價化和易用化，其對肖像權(quán)和隱私權(quán)的侵害不斷被放大。借助一些低價乃至免費的軟件，人們不需要具備專業(yè)知識和技術(shù)能力，即可通過終端實現(xiàn)調(diào)整播放速度、優(yōu)化視頻效果、更換背景、“換臉”等操作。這在一定程度上成為色情視頻的源頭。

眼見不為實

在國外就有這樣的案例：2019年，美國出現(xiàn)了一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性照片，就可自動生成其裸照。受害者通常難以防范，照片上傳到網(wǎng)絡(luò)之后會很快傳播。這種極易生成的色情內(nèi)容將在很大程度上損害女性的職業(yè)前途、人際關(guān)系、名譽和心理健康，污名化女性，成為不法分子實施色情報復(fù)的工具。

四是侵犯公民的聲音權(quán)。目前我國涉及聲音利益保護的主要是《民法典》人格權(quán)編，即“其他人格權(quán)的許可使用和自然人聲音的保護，參照適用本章的有關(guān)規(guī)定”。

“深度偽造”技術(shù)的濫用，除了前文提到的人臉替換以外，還有聲音替換或合成的情況出現(xiàn)，這明顯妨害了個人對于其聲音利益的支配，且有可能引發(fā)更多的風(fēng)險。

損害企業(yè)商業(yè)信譽

信用是市場經(jīng)濟得以正常運行的基礎(chǔ)。企業(yè)要在激烈的市場競爭中立于不敗之地，就必須努力提高并維持自身的商業(yè)信譽。所謂商業(yè)信譽，是指社會對企業(yè)之生產(chǎn)、產(chǎn)品、銷售、服務(wù)等多方面的綜合評價，反映的是企業(yè)的總體商業(yè)形象。從法學(xué)角度看，企業(yè)商業(yè)信譽保護往往關(guān)涉法人權(quán)利這一議題，理論界通常將其稱為商譽權(quán)。

“深度偽造”技術(shù)所體現(xiàn)的高度真實性，可能使其成為個人或組織抹黑企業(yè)的重要工具?！吧疃葌卧臁币曨l可能描述企業(yè)的某位高管實施諸多違反法律、道德的行為，或發(fā)表歧視性言論、與他人發(fā)生不正當關(guān)系、賄賂官員等。包含不良信息的“深度偽造”視頻，可能在企業(yè)經(jīng)營過程中的一些關(guān)鍵時刻被發(fā)布，例如并購談判、首次公開募股、參與招投標等。即使這些“深度偽造”視頻最終被證實是假的，但是一旦企業(yè)的合作伙伴采取“寧可信其有，不可信其無”的態(tài)度，那么對于企業(yè)而言不僅會造成商業(yè)信譽的損害，更會導(dǎo)致商業(yè)機會的流失，甚至使企業(yè)資產(chǎn)大幅縮水。

目前在國內(nèi)外尚未出現(xiàn)因“深度偽造”視頻導(dǎo)致企業(yè)商業(yè)信譽受損的案例。但這不能說明不法分子沒有把目光投向企業(yè)。據(jù)美國《華爾街日報》報道，2019年3月，有犯罪分子利用“深度偽造”技術(shù)成功模仿英國某能源公司CEO的聲音，詐騙了22萬歐元。這是一起利用“深度偽造”技術(shù)侵害企業(yè)利益的典型案例，這種技術(shù)被濫用的破壞性可見一斑。

威脅社會公共安全

公共安全治理是社會治理的重要內(nèi)容，也是對政府執(zhí)政能力的重要考驗。無論是推進國家治理能力和治理體系現(xiàn)代化，還是構(gòu)建政治、自治、德治、法治、智治“五治融合”的社會治理格局，其重要目標均是全力推進平安中國建設(shè)。

近年來，隨著互聯(lián)網(wǎng)、AI的快速發(fā)展，公共安全治理的范圍已經(jīng)發(fā)生了巨大的變化，網(wǎng)絡(luò)空間的安全與公共安全的碰撞和融合也越來越頻繁，越來越重要。

“深度偽造”技術(shù)以互聯(lián)網(wǎng)為重要依托，將現(xiàn)實與虛擬融合在一起，既是網(wǎng)絡(luò)安全治理的重要內(nèi)容，也是公共安全治理的重要對象。

“深度偽造”具備高效率、低門檻、高質(zhì)量的技術(shù)優(yōu)勢，使得普通人能夠輕松地進行聲音、圖像、視頻的偽造，再加上互聯(lián)網(wǎng)提供的高速傳播通道，很容易引發(fā)公共安全風(fēng)險，主要體現(xiàn)在以下兩個方面：

一是破壞社會信任。社會信任是公共安全的重要條件。一個社會要平穩(wěn)有序地運行，就必須建立起堅實的信任體系。信任一旦崩塌，將會使社會生態(tài)惡化。

“深度偽造”技術(shù)可以讓虛假的信息以“高度可信”的方式呈現(xiàn)給社會公眾，從而操縱公眾的情緒反應(yīng)，引發(fā)社會上廣泛的不信任。

美國學(xué)者切斯尼認為，當網(wǎng)絡(luò)信息環(huán)境與個人的認知偏見以有害的方式相互作用時，真相就會逐漸在思想市場中衰退。“深度偽造”技術(shù)將使這一問題更加嚴重。當社會公眾意識到“深度偽造”被大范圍濫用，而個人又無從辨別真假時，將可能形成對任何圖像、視頻的不信任，這無疑會極大地沖擊新聞媒體、政府機構(gòu)的公信力，引發(fā)嚴重的社會信任危機，進而危及公共安全。

二是加劇社會分化。社會分化是影響公共安全的重要因素。“深度偽造”技術(shù)的濫用，將有可能加劇社會分化。某些“深度偽造”視頻可能描述不同階層之間的沖突?！吧疃葌卧臁钡募夹g(shù)優(yōu)勢，讓社會公眾很難辨別這些視頻或信息的真?zhèn)?，再加上某些領(lǐng)域信任度下降的現(xiàn)實，原有的社會問題可能被放大，最終危及社會公共安全。