進(jìn)入“電報(bào)”（以保密性著稱的即時(shí)通信軟件）聊天房，上傳一張臉部照片，不到5秒鐘，采用了深度偽造技術(shù)（Deepfake）的機(jī)器人（bot）就能合成一張真假難辨的照片——就當(dāng)前而言，深度偽造技術(shù)已經(jīng)可以把不同人的聲音、面部及身體像拼圖一樣隨意拼接，制作成各種影像乃至視頻。

2024年8月，大量利用深度偽造制作色情合成物的“電報(bào)”聊天群在韓國的社交媒體上曝光，受害者遍布韓國全國，涉及明星、軍人、老師、護(hù)士、學(xué)生等不同群體，多為女性。

但這并非韓國本土首次出現(xiàn)深度偽造性犯罪。2019年N號(hào)房事件被曝光時(shí)，曾有媒體報(bào)道過一些“電報(bào)”聊天房正利用合成技術(shù)制作色情影像。此后深度偽造性犯罪一度淡出公眾視野，但并未真正消失。

在備受關(guān)注的“首爾大學(xué)深度偽造性犯罪”事件中，受害女性自己收集整理證據(jù)，用長(zhǎng)達(dá)兩年五個(gè)月的時(shí)間將加害者送上法庭。然而，有關(guān)深度偽造的數(shù)碼性犯罪不僅沒有得到遏制，反而愈演愈烈。

一出民間倒逼官方的奇觀因此在社交媒體上演。從2024年8月末開始，韓國女性網(wǎng)友開始不斷將受害者的經(jīng)歷翻譯成不同的語言，在互聯(lián)網(wǎng)上傳播，幾個(gè)深度偽造話題下的推文數(shù)量都超過了三萬，一些熱門推文的閱讀量已突破一千萬。

“正是由于韓國媒體的沉默，我們才不得不使用英語寫作。這么做是為了迫使他們報(bào)道而非試圖掩蓋它?！眳⑴c者之一瑪麗說。

“韓國的換臉問題太嚴(yán)重了?！薄艾F(xiàn)在無法預(yù)測(cè)有多少女性因深度偽造技術(shù)而受害。”8月末，隨著兩位韓國女生在微博發(fā)文求助，“韓國新版N號(hào)房”等話題在中文互聯(lián)網(wǎng)傳播開來，并迅速占領(lǐng)熱搜首位。

“韓國媒體和司法系統(tǒng)不會(huì)做他們應(yīng)該做的事情，除非他們因?yàn)闆]有采取正確的行動(dòng)而受到國際社會(huì)的抨擊?！币晃痪W(wǎng)友戲謔道。

合成一張裸照，只需三塊四毛四

“發(fā)送一張你最喜歡的女孩的照片?！睒愀叨鬟M(jìn)入房間后，立即收到聊天機(jī)器人發(fā)來的信息——這是“電報(bào)”上一個(gè)利用深度偽造非法合成色情影像的房間，參與者達(dá)22萬人。

進(jìn)入這些房間并不困難，只需要在社交媒體上搜索關(guān)鍵詞便能收獲一大串訪問鏈接。

樸高恩按照提示放入一張由AI制作的虛擬女性照片，5秒后，一張裸體照被合成出來。她仔細(xì)端詳照片，發(fā)現(xiàn)其足以以假亂真，照片一旁甚至還有按鈕調(diào)整特定部位的大小。這樣一張合成照片，制作費(fèi)用僅需約650韓元（約合3.44元人民幣）。

“技術(shù)進(jìn)步得如此迅速，著實(shí)讓我震驚?！弊鳛橐幻浾撸瑯愀叨鲀赡昵熬驮珜戇^非法數(shù)字合成物犯罪的報(bào)道。在她的印象里，過去人們還需要付費(fèi)給專門的技術(shù)人員才能制作非法數(shù)字合成物，而現(xiàn)在，任何人都可以通過人工智能自行合成。

韓國警察廳發(fā)布的“深度偽造犯罪現(xiàn)狀”數(shù)據(jù)顯示，深度偽造犯罪案件數(shù)量呈現(xiàn)逐年遞增趨勢(shì)。從2021年的156起增加到2022年的160起，2023年達(dá)到了180起。2024年前七個(gè)月共報(bào)告了297起案件—幾乎是2021年的兩倍。

“guilty archive”是韓國一個(gè)公開追蹤女性仇視犯罪的社交賬號(hào)，在社交平臺(tái)擁有12萬粉絲。幾天前，運(yùn)營這一賬號(hào)的林幼真開始收到網(wǎng)友舉報(bào)，對(duì)方稱“電報(bào)”上有一個(gè)專門針對(duì)青少年的深度偽造群聊。

根據(jù)對(duì)方的提示，林幼真潛入聊天房，看到“充斥著女性裸照的群組，感到非常惡心”。其中令她印象最深刻的是一個(gè)專門侮辱某學(xué)生的房間，里面有超過1000個(gè)成員，他們不僅用該學(xué)生的照片制作色情視頻，還公開了她的所有個(gè)人信息——一些人甚至通過她的聯(lián)系方式告訴她“你遭受了深度偽造”，以分享她痛苦的反應(yīng)為樂。

林幼真將這些整理成推文，發(fā)在社交平臺(tái)約一個(gè)半小時(shí)后，更多的舉報(bào)信息涌入她的賬號(hào)。

“平均每分鐘會(huì)收到8條私信，連凌晨都在不停收到通知?！庇腥烁嬖V林幼真，大邱針對(duì)中學(xué)生的深度偽造聊天群已經(jīng)是第四次出現(xiàn)。她還了解到首爾、水原、大田等地也發(fā)現(xiàn)了類似的群組。

從2024年8月27日出現(xiàn)在網(wǎng)絡(luò)上的“深度偽造受害學(xué)校地圖”來看，報(bào)告遭受深度偽造侵害的初高中及大學(xué)幾乎分布在韓國的各個(gè)地區(qū)，尤其是人口和教育資源密集的首都圈和東南部的釜山、蔚山等城市。

與此同時(shí)，隨著受害房間的曝光愈來愈多，一些韓國女性開始向SBS等本國媒體匿名舉報(bào)“電報(bào)”群組的深度偽造犯罪，并在Naver等社交平臺(tái)上發(fā)帖求助。但這些帖子很快就被舉報(bào)和刪除。

不得已，她們整理相關(guān)證據(jù)，并翻譯成不同的語言，在各個(gè)社交媒體上請(qǐng)求各國網(wǎng)友及外國媒體擴(kuò)散及關(guān)注。

住在美國的瑪麗便是其中一分子。過去一個(gè)多月里，她用于分享美國及其他國家獎(jiǎng)學(xué)金和就業(yè)信息的社交媒體，收到了成千上萬來自韓國粉絲的求助私信。一位18歲的韓國女孩用磕磕絆絆的英文在白紙上寫下求助信發(fā)給了她。

瑪麗感到疑惑，“明明直接告訴韓國的長(zhǎng)輩會(huì)更容易，為什么要大費(fèi)周章地向一個(gè)遠(yuǎn)在大洋彼岸的人求助？”后來女孩們告訴她，因?yàn)轫n國沒有人幫助她們。

“我意外地成了活動(dòng)家，因?yàn)槲覠o法對(duì)這些女孩視而不見?！爆旣愓f。

最先對(duì)這起事件作出反應(yīng)的媒體是新加坡的《海峽時(shí)報(bào)》，緊接著，BBC、《紐約時(shí)報(bào)》、路透社相繼報(bào)道了該事件。2024年9月，韓國女性在社交媒體上發(fā)起的“反深度偽造”全球標(biāo)簽活動(dòng)得到了世界各地網(wǎng)友的參與。據(jù)瑪麗反饋，這個(gè)活動(dòng)不僅在韓國的趨勢(shì)榜單上占據(jù)第1、2位，在歐美等多個(gè)國家也進(jìn)入了前十。

在海外媒體的助推下，韓國本土媒體才開始大量報(bào)道“電報(bào)”的深度偽造技術(shù)性犯罪。在2024年9月2日舉行的記者會(huì)上，韓國國家調(diào)查本部發(fā)言人吳鐘秀表示，8月26日至29日四天內(nèi)，接到非法合成相關(guān)的舉報(bào)案件共88起，對(duì)比2024年1月至7月的297件可謂數(shù)量激增?！笆芎φ邆儸F(xiàn)在開始意識(shí)到這種行為是犯罪，所以正在積極地舉報(bào)那些原本可能被忽略的犯罪。”

艱難的定罪

與瑪麗等人在社交平臺(tái)發(fā)聲不同，作為“首爾大學(xué)非法合成物性犯罪案”的受害者，張藝真和朋友們的戰(zhàn)場(chǎng)是現(xiàn)實(shí)生活。她們的斗爭(zhēng)是一次又一次地追蹤和上訴。

2024年8月28日，“首爾大學(xué)非法合成物性犯罪案”的主犯之一因涉嫌違反《性暴力處罰法》被判處有期徒刑5年。有關(guān)報(bào)道稱，從2020年開始，他和其他加害者通過社交媒體盜用女性受害者的照片制作了419件、傳播了1735件用于性侮辱的非法合成物。大部分受害者來自首爾大學(xué)，其中不乏他的同學(xué)，甚至熟人。

“我的大學(xué)朋友在背后稱我為‘妓女’和‘奴隸’。面對(duì)這一事實(shí)，我曾經(jīng)認(rèn)知的那個(gè)世界崩塌了。”張藝真作為受害者代表在法庭上自陳，“很長(zhǎng)一段時(shí)間里，每天醒來面對(duì)人群對(duì)我來說都是一個(gè)噩夢(mèng)?！?/p>

她的噩夢(mèng)始于2021年7月。

一個(gè)看似如常的夏日午后，正在上網(wǎng)課的張藝真突然收到了“電報(bào)”發(fā)來的數(shù)十條消息。當(dāng)她打開手機(jī)，屏幕里鋪天蓋地涌現(xiàn)的是形形色色的女性裸體。

圖片上面的臉正是她本人，被合成到了陌生女性的身體上。

“電報(bào)”上，“未讀”的標(biāo)志一消失，對(duì)方立刻像朋友一樣搭話：“你好。”張藝真沒有回復(fù)，對(duì)方又發(fā)來幾張“電報(bào)”聊天室的截屏，里面的42人正在傳閱她的照片，在他們口中，張藝真被稱作“本季的獵物”。

張藝真試圖查找發(fā)送人，但除了一個(gè)像亂碼一樣的ID，沒有任何信息。

“別查了，我知道你還在看，快回答我吧?！睂?duì)方仿佛在實(shí)時(shí)監(jiān)視著她的一舉一動(dòng)，“我會(huì)告訴你我是誰的，反正你也抓不到我！”

當(dāng)天下午，張藝真在母親的陪同下去了附近的警察局。說明情況之后，警察對(duì)她說的第一句話是：“‘電報(bào)’很難調(diào)查，我們會(huì)盡力?！迸c此同時(shí)，她的手機(jī)還在不停地收到性侮辱信息。警察讓她先把所有的內(nèi)容截圖，盡快填寫投訴書。

幾個(gè)小時(shí)后，不停震動(dòng)的手機(jī)終于安靜下來。正當(dāng)張藝真以為事情就此結(jié)束時(shí)，對(duì)方又發(fā)來了新消息：“你真的很厲害，我第一次看到你時(shí)就興奮了?！彼藭r(shí)驚異地意識(shí)到，加害者就是她身邊的人。

隨后一段時(shí)間，每當(dāng)想起這些照片和信息，張藝真都感到呼吸困難，身體也不受控制地顫抖起來。心理醫(yī)生診斷她患上了創(chuàng)傷性驚恐障礙和應(yīng)激性抑郁癥。她至今還記得，聽完前因后果的醫(yī)生帶著幾分憐憫感嘆道：“唉，所以說（女孩）不能在社交媒體上發(fā)照片啊?！?/p>

“這就是社會(huì)對(duì)性犯罪的主流看法吧?？偸菫榧雍φ吡粝乱粭l輕易開脫的路，最后只有受害者獨(dú)自承擔(dān)后果?！睆埶囌嫒滩蛔】嘈?。

2021年12月，距離張藝真報(bào)案五個(gè)月后，她收到警方寄來的通知：“由于缺乏線索，調(diào)查已被中止?！?/p>

2022年，張藝真意外得知和她來自同一專業(yè)的三名女生也被非法合成的色情照片威脅過，她們轉(zhuǎn)而開始詢問身邊的人。隨著調(diào)查深入，受害者的范圍擴(kuò)大到包括法學(xué)院在內(nèi)的四個(gè)學(xué)系。

這些受害者在事發(fā)后分別向首爾西大門警察署、江南警察署、世宗警察署報(bào)案，但每個(gè)警察局都以“難以鎖定嫌疑人”等理由作出了停止調(diào)查或不予立案的決定。

盡管張藝珍身邊的人不斷告訴她“盡快忘掉”才是解決問題的最佳方式，但在她看來，“唯一需要做的，就是抓住加害者并對(duì)他們施以懲罰?！?/p>

她召集了朋友們重新梳理線索，并開始尋求原“火花”追蹤團(tuán)成員之一元恩智的幫助——正是這個(gè)組合在2019年調(diào)查并揭發(fā)了令世人震驚的“N號(hào)房”事件。但鮮為人知的是，在此過程中，兩名成員就已經(jīng)發(fā)現(xiàn)“電報(bào)”聊天室中有人利用熟人照片合成色情影像，并幫助一名受害人抓獲加害者。

2022年8月，嫌疑人崔宇成（后來證實(shí)為加害者之一）被逮捕和拘留。然而，5個(gè)月后，因未能找到證據(jù)照片，警方通過短信告知張藝真：“被告崔宇成，決定不送檢，結(jié)論為無罪?！?/p>

2023年4月，張藝真等受害者們對(duì)警方的不予起訴決定提出異議，并向首爾中央地方檢察廳申請(qǐng)復(fù)審。四天后，異議申請(qǐng)被駁回。她們隨后又向首爾高等檢察廳請(qǐng)求重新審查中央檢察廳的不起訴決定，再次被駁回。

最后，她們能做的只有一件事：向法院申請(qǐng)重新審查檢察機(jī)關(guān)對(duì)崔宇成的不起訴決定是否公正。據(jù)韓國律師趙在光介紹，“再審申請(qǐng)的通過率只有1%?！?/p>

2023年11月21日，首爾高等法院第30刑事部在審查了相關(guān)內(nèi)容后，認(rèn)為將案件提交審判是合理的，推翻了此前調(diào)查機(jī)關(guān)的決定，對(duì)崔宇成作出了公訴決定。

這一次，加害者們終于被送上了法庭。

撕裂的民意

比起“首爾大學(xué)深度偽造性暴力事件”中警方和檢察系統(tǒng)的表現(xiàn)，韓國政府在2024年8月這次的深度偽造性犯罪事件中的反應(yīng)要迅速不少。

8月27日，韓國總統(tǒng)尹錫悅在國務(wù)會(huì)議上表示，“我們?nèi)魏稳硕伎赡艹蔀檫@些數(shù)字性犯罪的受害者。相關(guān)部門要通過徹底的調(diào)查來根除這種數(shù)字性犯罪?！?/p>

目前，韓國現(xiàn)行法律中唯一適用于深度偽造性犯罪的條款是《性暴力犯罪處罰特別法》第十四條之二。但正如一位性暴力犯罪專業(yè)的律師指出的那樣，該條款“最大的問題”是僅懲罰傳播者，對(duì)持有或購買視頻的需求方毫無制裁。

因此，近期韓國政府正計(jì)劃設(shè)立“虛假視頻持有罪”條款，并將處罰標(biāo)準(zhǔn)從現(xiàn)有的“5年以下有期徒刑或5000萬韓元以下罰款”提升至“7年以下有期徒刑”。

至于一直被詬病“不作為”的警方，韓國政府決定允許警察以假身份進(jìn)行調(diào)查，以抓捕深度偽造淫穢物品的制作者——至今，只有針對(duì)兒童和青少年的數(shù)字性犯罪調(diào)查中允許使用該方法。同時(shí)，韓國警方宣布從2024年8月28日起對(duì)深度偽造性犯罪進(jìn)行為期七個(gè)月的集中打擊。

此外，韓國政府計(jì)劃整合各部門現(xiàn)有的舉報(bào)接收方式，以便于受害者舉報(bào)并快速獲得所需的支持，包括刪除虛假視頻、提供咨詢、法律和醫(yī)療支持。

不過，對(duì)尹錫悅政府的懷疑也隨之而來。8月29日下午，首爾女性會(huì)等團(tuán)體在首爾江南站前召開緊急記者會(huì)，敦促尹錫悅政府全面修改“不存在結(jié)構(gòu)性性別歧視”的政策基調(diào)。三年前，作為總統(tǒng)候選人，尹錫悅曾提議“廢除女性家庭部”，并在2023年大幅削減防止女性暴力和支援女性暴力受害者的預(yù)算。

“這樣的總統(tǒng)居然在27日的國務(wù)會(huì)議上強(qiáng)調(diào)‘根除數(shù)字性犯罪’？”集會(huì)成員批評(píng)道。

在韓國本土，關(guān)于深度偽造危害性的觀點(diǎn)并不一致。

當(dāng)針對(duì)尹錫悅政府的質(zhì)疑聲不斷響起時(shí)，一些人則對(duì)以上舉措表示異議。內(nèi)閣會(huì)議召開的同一天，改革新黨議員李俊錫曾在國會(huì)科學(xué)技術(shù)信息通信委員會(huì)全體會(huì)議上表示，深度偽造聊天室的用戶數(shù)達(dá)到22萬人是“被夸大的威脅”。他認(rèn)為“電報(bào)”中的非法數(shù)字合成物制作群體用戶還應(yīng)當(dāng)包括海外用戶，按韓國人在“電報(bào)”用戶中的占比計(jì)算，里面只有726名韓國人。因此他擔(dān)心尹錫悅總統(tǒng)的指示可能會(huì)“引發(fā)過度監(jiān)管”。

對(duì)此，“火花追蹤團(tuán)”的另一位成員、前共同民主黨應(yīng)急對(duì)策委員會(huì)主席樸智賢于28日在社交平臺(tái)發(fā)文批評(píng)稱，“深度偽造的受害者正在全國各地不斷出現(xiàn)，尚未防止受害再次發(fā)生，卻優(yōu)先談?wù)摗^度監(jiān)管’，這不是一個(gè)有基本常識(shí)的政治家應(yīng)有的態(tài)度?！?/p>

一種觀點(diǎn)指出，這些與輿論脫節(jié)的發(fā)言主要是為了迎合該黨主要支持群體。在韓國2024年舉行的4·10大選中，李俊錫所屬的改革新黨在政黨投票中獲得了3.61%的支持率，按年齡段劃分，該黨主要支持群體為20至30歲男性。

（瑪麗、林幼真、張藝真、崔宇成為化名）