吳進娥,馮樹春

(江蘇大學 法學院,江蘇 鎮(zhèn)江 212013)

2023年5月內(nèi)蒙古自治區(qū)包頭市公安局電信網(wǎng)絡犯罪偵查局發(fā)布一起使用智能AI技術進行電信詐騙的案件信息,犯罪嫌疑人通過智能AI換臉和擬聲技術,佯裝成好友通過微信視頻聊天騙取某科技公司法人代表郭某430萬元[1]。消息一經(jīng)發(fā)布,引發(fā)了全網(wǎng)轟動和社會公眾的廣泛關注。事實上,AI詐騙早已在多地案發(fā)多起,且正在全國甚至全世界呈爆炸式增長。AI詐騙是“深度偽造”技術發(fā)展的產(chǎn)物之一,除詐騙犯罪之外,“深度偽造”技術也給傳播淫穢物品、敲詐勒索等違法犯罪行為提供了便利?！吧疃葌卧臁笔请S著人工智能的發(fā)展而出現(xiàn)的技術,它已經(jīng)發(fā)展為包括視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)視頻欺騙技術[2]。“深度偽造”技術不僅沖擊著傳統(tǒng)“眼見為實”“有圖有真相”的大眾認知模型,也對以圖片、視頻為重要媒介的法官認知帶來了前所未有的挑戰(zhàn),亟待司法機關作出有效回應。

一、“深度偽造”技術的內(nèi)涵及特征

“深度偽造”技術對法官認知的沖擊與其技術發(fā)展特征緊密相關。與傳統(tǒng)偽造技術相比,“深度偽造”技術借助人工智能所創(chuàng)建或改造的視聽記錄幾乎可以實現(xiàn)“以假亂真”的效果,且從技術上難以做到完全予以鑒別。

(一)“深度偽造”技術內(nèi)涵厘定

“深度偽造”技術目前在國際上還沒有形成統(tǒng)一的定義。在我國,理論上有觀點認為,“深度偽造”技術是利用神經(jīng)網(wǎng)絡進行大樣本學習,將作為素材的圖片或者音視頻合成到其他圖片或者音視頻上,生成新的圖片和音視頻[3]。也有觀點認為,“深度偽造”技術是計算機“深度學習”和“偽造”結合的產(chǎn)物,通過人工智能來制作虛假的視頻或音頻,或者對原本真實的視頻或音頻的內(nèi)容進行修改,呈現(xiàn)與真相不符合的狀態(tài)[4]。兩種觀點的區(qū)別在于對“深度偽造”技術形式進行了不同解釋,前一種觀點認為偽造必須有原型,后一種觀點認為偽造既可以有原型,也可以是虛擬創(chuàng)制。

要厘清“深度偽造”技術的內(nèi)涵,離不開追根溯源?！吧疃葌卧臁备拍钇鹪从诿绹?美國在《2018年惡意偽造禁令法案》(MaliciousDeepFakeProhibitionActof2018)中將其定義為“創(chuàng)建或修改視聽記錄,使其在理性觀察者面前錯誤地顯示為個人的實際言論或行為的真實記錄”,其中,“視聽記錄”是指任何電子格式的音頻或視覺媒體,包括照片、電影、錄像、電子圖像或錄音。在這個法案的定義里,以是否存在原型為標準,將“深度偽造”技術分為創(chuàng)建式“深度偽造”技術和篡改式“深度偽造”技術兩種類型。

結合以上兩種類型,“深度偽造”技術可以界定為“利用人工智能創(chuàng)建虛假的視聽記錄或者對原始的視聽記錄進行篡改,使他人誤認為是真實視聽記錄的技術”。創(chuàng)建式“深度偽造”技術是人工智能通過算法對數(shù)據(jù)庫進行學習,生成全新內(nèi)容的技術。例如微軟推出的“小冰”、Stability AI推出的致力于圖像生成的 Stable Diffusion、OpenAI推出的ChatGPT等均具備這一功能,ChatGPT能夠根據(jù)聊天的語境進行互動,做到與真人幾乎無異的場景式交流,并以聊天的方式實現(xiàn)文本、翻譯、代碼等的撰寫[5]。篡改式“深度偽造”技術以某個原型為載體,通過特殊的神經(jīng)網(wǎng)絡算法生成全新的視聽記錄,達到替換本源的效果。

(二)“深度偽造”技術的特征

與早期一般偽造技術相比,“深度偽造”技術表現(xiàn)出一些特有的屬性,主要體現(xiàn)在以下三個方面。

1.“深度偽造”技術具備超擬真能力

“深度偽造”技術是生成式人工智能發(fā)展的階段性產(chǎn)物,與早期偽造技術相比,具有超擬真能力。早期偽造技術以“PS”為典型,需要借助同一面孔的多張不同角度照片才能完成人臉替換,通過圖層分析和顆粒度比對很容易分析出偽造的痕跡。“深度偽造”則依靠生成式神經(jīng)網(wǎng)絡和鑒別式神經(jīng)網(wǎng)絡予以實現(xiàn),它們分別就像是算法生產(chǎn)工廠中的“生成器”和“鑒別器”,“生成器”承擔數(shù)據(jù)轉化、替換和覆蓋等工作,而“鑒別器”主要檢測信息數(shù)據(jù)的真實性。“鑒別器”依據(jù)人工智能系統(tǒng)中足夠多且高質(zhì)量的算法數(shù)據(jù),完成查找生成信息數(shù)據(jù)的真實性缺陷的對抗工作,并將真實性缺陷的序列數(shù)據(jù)反饋給“生成器”。生成式神經(jīng)網(wǎng)絡再次操作深度的循環(huán)覆蓋、替換過程,以不斷消除“鑒別器”反饋的缺陷信息,直至生成高度真實性的虛假信息[6]。

“深度偽造”技術僅憑一張照片就能實時匹配面部表情,生成換臉視頻,還能自動調(diào)節(jié)替換后臉部的色差、亮度及替換邊緣的差異[7],足以達到偷梁換柱的目的?！吧疃葌卧臁奔夹g在對真實解構、重構的同時,創(chuàng)造出比真實更真實的圖景,進而在認識論中以擬真替代本真、以再生替代本源,其所創(chuàng)作出的超真實信息,幾乎不會留下任何偽造痕跡[8]。

2.“深度偽造”技術的檢測鑒定不完全

“深度偽造”技術自帶反鑒別能力,其所偽造出的產(chǎn)物在偽造過程中就經(jīng)過反鑒別驗證,這給“深度偽造”技術的鑒別工作帶來極大困難。目前,世界上有多家人工智能研究中心和知名大學致力于“深度偽造”檢測技術的研發(fā)。如美國Adobe公司推出反向 PS工具,加州大學河濱分校的研究人員研發(fā)出了一種由遞歸神經(jīng)網(wǎng)絡和編碼過濾器組成的自動檢測算法,清華大學人工智能企業(yè) RealAI發(fā)布深度偽造視頻檢測工具“DeepReal”,北京大學與微軟亞洲研究院聯(lián)合推出深度偽造識別工具“FaceX-Ray”,等等,但沒有任何一家公司可以做到100%精準鑒別。

深度偽造視頻檢測的主要方法可以分為兩類:一是利用人工智能算法、模型對視頻幀進行特征提取,并分類檢測。該類檢測方法對特定的偽造手段有效,但是往往滯后于偽造方法的出現(xiàn),不能全面、廣泛地打擊深度偽造視頻。二是利用視頻內(nèi)容完整性,結合區(qū)塊鏈、傳統(tǒng)信息安全等手段對原始發(fā)布視頻進行溯源或防篡改檢測。該類檢測方法適用范圍廣泛,能有效檢測其他媒體數(shù)據(jù)和篡改手段,但需要提前掌握原始數(shù)據(jù)并做預處理,而我國目前沒有用于研究和測試的深度偽造數(shù)據(jù)集[9]。因此,“深度偽造”技術的鑒別無法達到完全。即使“鑒別器在識別偽造內(nèi)容方面可能會做得越來越好,但生成器也能通過當前的鑒別技術進行防御和反擊,鑒別技術無法永遠保持在生成技術前方”[10]。

3.“深度偽造”技術更迭能力更強

AI技術正以突飛猛進的速度快速發(fā)展。2020年以前,AI技術主要在安全監(jiān)控、醫(yī)療、交通、游戲等有限領域的特定事項上輔助人們作出決斷;2020年后,各式各樣的生成式AI橫空出世,期間僅僅用了短短幾年時間[11]。這一現(xiàn)象在“深度偽造”技術的更迭上同樣顯現(xiàn)。2018年,美國研究人員發(fā)現(xiàn)深度偽造視頻中的角色不會正常眨眼睛,該項研究一經(jīng)發(fā)布,深度偽造角色就學會了眨眼睛?！吧疃葌卧臁奔夹g的快速演化具有多方面的原因,主要表現(xiàn)在以下兩個方面。

一方面,市場需求推動“深度偽造”技術快速發(fā)展。傳統(tǒng)偽造軟件的應用一般需要經(jīng)過專業(yè)的學習和訓練,對操作人的專業(yè)能力、文化層次均有比較高的要求,但“深度偽造”技術的操作更為簡便。由于“深度偽造”的原理并不復雜,生成成本較低,有關深度偽造的項目數(shù)量很多,如Deepfake、 FakeApp、Faceswap、Deepfacelab等都是基于“深度偽造”的生成人臉的工具,其中大部分項目提供了一鍵式操作程序[12]。這極大降低了“深度偽造”技術的使用門檻,導致一些利用這一技術實施的商業(yè)行為、違法犯罪行為呈井噴式涌現(xiàn)。受市場需求驅(qū)動,很多科學家不斷致力于新型“深度偽造”技術的開發(fā)。如2022年8月15日美國Biometric Update網(wǎng)站刊文稱,俄羅斯科學家發(fā)明深度偽造視頻的新方法,這是一套新的神經(jīng)架構和訓練,可以一次性創(chuàng)建高分辨率的人類頭像,輸出高分辨率視頻,該技術可以使用幾乎任何人作為“驅(qū)動圖像”,從而創(chuàng)建高分辨率的人像深度偽造視頻[13]。

另一方面,生成式AI降低了“深度偽造”的專業(yè)門檻。以往編碼創(chuàng)作是高端黑客的專利,讓很多底層黑產(chǎn)從業(yè)者望洋興嘆。而ChatGPT的興起使得黑產(chǎn)“小白”也可以自動編碼惡意程序,推動了“深度偽造”技術發(fā)展。這樣的例子在網(wǎng)絡黑產(chǎn)中并不鮮見,根據(jù)實驗室觀測,部分黑客論壇、暗網(wǎng)中已出現(xiàn)利用ChatGPT生成的即拿即用的攻擊代碼事例,盡管目前代碼實現(xiàn)的功能較為基礎,但隨著相關技術在復雜黑產(chǎn)網(wǎng)絡中傳播,不排除黑客通過多輪交互訓練,提升ChatGPT生成惡意代碼攻擊效果的可能。(1)參見中國工商銀行金融科技研究院安全攻防實驗室2023年2月發(fā)布的《2022網(wǎng)絡金融黑產(chǎn)研究報告》,https://ishare.ifeng.com/c/s/v002f2V6Cw3D33Ow0uZSu68GMGpEopb3Puvet2aiQHXwFYo。在可預見的未來,“深度偽造”技術的發(fā)展條件會越發(fā)便利。

二、“深度偽造”技術對法官認知的沖擊

“深度偽造”技術的超擬真、反鑒別、快更迭等特點使其偽造的視覺和聽覺信息遠遠超越了一般人的認知能力,也給法官的決策帶來前所未有的挑戰(zhàn)。司法決策是一個獨特的認知過程,是一個將法律責任與行為事實相連接的程序。在司法決策形成過程中,需要法官對訴訟參與人的身份、行為事實和法律規(guī)范加以認知,而“深度偽造”技術將會弱化法官認證在線訴訟參與人身份的能力,以及基于直覺和邏輯分析認定行為事實的能力。

(一)“深度偽造”技術影響線上訴訟參與人身份的司法認證

訴訟參與人身份真實是司法程序公正及訴訟結果得到有效執(zhí)行的基礎,在傳統(tǒng)訴訟程序中,司法機關工作人員通過現(xiàn)場核對訴訟參與人的信息,保障訴訟主體的同一性。隨著智慧司法平臺的建設,訴訟的方式衍生出在線訴訟,而且被廣泛應用,但在線訴訟的遠程性、虛擬性、非接觸性等特征,使得訴訟參與人身份的真實性、同一性認證成為新興的程序性難題,而 “深度偽造”技術的發(fā)展,對在線訴訟的身份認證規(guī)則更是提出了全新的挑戰(zhàn)。

1.線上訴訟身份認證的步驟與模式

在線訴訟的身份認證適用于所有在線參與訴訟的訴訟參與人,包括當事人、辯護人、訴訟代理人,以及證人、鑒定人等其他訴訟參與人。我國在線訴訟的身份認證共有兩步:第一步是訴訟主體的真實性審查?！度嗣穹ㄔ涸诰€訴訟規(guī)則》第7條第1款規(guī)定:“參與在線訴訟的訴訟主體應當先行在訴訟平臺完成實名注冊。人民法院應當通過證件證照在線比對、身份認證平臺認證等方式,核實訴訟主體的實名手機號碼、居民身份證件號碼、護照號碼、統(tǒng)一社會信用代碼等信息,確認訴訟主體身份真實性。訴訟主體在線完成身份認證后,取得登錄訴訟平臺的專用賬號?！钡诙绞窃V訟主體的同一性核查。《人民法院在線訴訟規(guī)則》第7條第3款規(guī)定:“人民法院在線開展調(diào)解、證據(jù)交換、庭審等訴訟活動,應當再次驗證訴訟主體的身份;確有必要的,應當在線下進一步核實身份?！鄙矸莺藢τ址譃閱未魏藢蛷痛魏藢煞N模式,單次核對模式下,司法機關只需要對在線訴訟的參與人進行一次比對核驗,而復次核對則需要持續(xù)性多次比對確認。

實踐中,線上身份核對的方式有兩種:一種是人證合一比對模式。該模式采取系統(tǒng)識別、人臉識別、語音動態(tài)確認等方式進行即時的人證合一比對。系統(tǒng)識別一般是指訴訟參與人通過輸入手機號碼獲取驗證碼進行手機驗證,然后輸入姓名和身份證號或者拍攝身份證上傳;人臉識別是指通過身份證照片與人臉進行對比;語音動態(tài)確認是指訴訟參與人按照頁面中的文字提示和演示視頻錄制視頻并上傳,系統(tǒng)進行自動對比。另一種是關聯(lián)核對模式。該模式通過微信、微博、支付寶等實名認證系統(tǒng)進行關聯(lián)核對確認身份。例如,杭州互聯(lián)網(wǎng)法院電子訴訟身份認證經(jīng)支付寶賬戶認證之后就不需要進行身份證照片比對[14]。

2.“深度偽造”技術影響在線訴訟身份認證的風險衡量

在“深度偽造”技術出現(xiàn)以前,由于即時的視頻無法造假,法官通過視頻通話確認在線訴訟參與人的身份,基本上與線下身份核查起到同等效力。但“深度偽造”技術出現(xiàn)以后,即時視頻也存在造假的可能,導致在線訴訟身份認證面臨誤判的司法風險。

首先,人證合一比對模式下“深度偽造”技術存在應用的空間。人證合一比對模式的可靠性建立在對人的聲音信息、面部生物信息的唯一性、真實性之上,而“深度偽造”技術的出現(xiàn)完全打破了人證合一模式的信賴基礎。“偽基站”等信息干擾手段的出現(xiàn),足以顛覆傳統(tǒng)手機驗證碼等識別模式的可靠性,而聲音合成技術和AI換臉技術的出現(xiàn)也為語音確認和視頻確認帶來誤判的可能?！吧疃葌卧臁奔夹g下,人證合一比對模式面臨更加復雜的技術考驗。

其次,關聯(lián)核對模式下“深度偽造”的風險已初見端倪。關聯(lián)核對幾乎完全依賴第三方實名認證系統(tǒng),而第三方實名認證系統(tǒng)的可靠性并非百分之百。本文開篇提到的微信即時換臉視頻詐騙案足以證明,微信等第三方實名認證系統(tǒng)正在受到“深度偽造”技術的侵蝕。雖然第三方實名認證系統(tǒng)沒有支持AI換臉的功能,但用戶可以通過第三方應用系統(tǒng)來完成操作。以微信換臉功能為例,用戶只需下載安裝ZAO或者Face Swap等第三方換臉應用,并在該應用中完成換臉,然后開啟微信視頻聊天,就可以看到換臉后的效果。微信等第三方實名認證系統(tǒng)之所以對AI換臉等“深度偽造”技術采取包容態(tài)度,與其應用系統(tǒng)的商業(yè)屬性、娛樂目的密不可分,也體現(xiàn)了其系統(tǒng)接入管理上的漏洞,這對完全依賴第三方實名認證系統(tǒng)的在線訴訟關聯(lián)核對模式的影響是顯而易見的。

(二)“深度偽造”技術削弱法官的事實認定能力

法官無法直接獲得案件的事實真相,只能依據(jù)證據(jù)和控辯雙方的敘事,作出合乎邏輯和情理的判斷。這個司法決定的認知過程大致經(jīng)歷三個步驟:一是通過構造故事對證據(jù)進行評價;二是通過了解判決可能屬于何種類型提出備選項的判決方案;三是把故事劃入最適合的裁決決定。因此,司法認定的事實是基于對相互競爭的故事比較后的決定,事實就是顯得最正確、最令人信服和最少犯錯誤的陳述[15]114。從幾個或幾組證據(jù)到意義連貫的案件敘事是一個跨度很大的思維跳躍,連接跳躍的認知基礎與其說是推理或演繹,不如說是假設或猜想,因此,在司法決定中,直覺機制與理性分析有著分庭抗禮的地位[16]。直覺思維與邏輯思維構成了人類特征迥異的認知模式,這種認知模式同樣適用于司法機關對案件行為事實的認知。

1.“深度偽造”技術降低法官直覺感知能力

從某種意義上說,世界上有兩類東西:一類是可以言說的,另一類是不可言說的,后者便是人的直覺。在司法實踐中,“不證”或者“少證”似乎是中國刑事法官認定事實的主流態(tài)勢,特別是對于無證據(jù)爭議的案件[17],在這類案件中,直覺判斷是法官無法回避的一種認知模式。在認知心理學上,直覺被視為信息加工處理機制,即根據(jù)輸入的信息,快捷地輸出處理的結果。法官在司法活動中接觸到的形形色色的案件信息,看似孤立無序、不成章法,實則不自覺中早已投射到個人的“知識庫”中,沉淀到知覺印象里。當再遇到新案件或者是相似情境時,法官可能跳過推理、歸納、演繹、概括等認知過程,僅憑直覺徑直作出初步性的結果預判。因此,司法的直覺不同于動物的“刺激—反應”直覺模型,而是與個人的經(jīng)驗、知識儲備以及與直覺形成直接相關的圖片信息、視頻資料信息密不可分。

作為人類認知活動的一部分,司法認知不可能完全超越認知自身的局限性,為了簡化決策任務,法官不得不借助直觀推斷方法。根據(jù)“雙重加工理論”,直觀處理信息的方式常常以圖像、情景和腳本為媒介[18]。而“深度偽造”技術的出現(xiàn)使得圖像、視頻等情景的真?zhèn)坞y辨,一定程度上降低了法官基于證據(jù)形成直覺的能力。例如,在某起故意傷害案件中,被告人因砍傷他人被控故意傷害罪,控訴機關指控被告人犯故意傷害罪的證據(jù)有被害人陳述、證人證言、被害人的傷情照片、作案工具、鑒定意見、出診醫(yī)生的專家意見。被害人陳述和證人證言可以證實,被害人的傷情系被告人所為,傷情照片、鑒定意見和專家意見證實,被害人傷情達到輕傷,符合刑事構罪標準,法官基于上述證據(jù)對被告人作出逮捕決定。(2)本案信息系作者在某省法院走訪調(diào)研時根據(jù)主審法官口述記錄。根據(jù)法律規(guī)定,逮捕適用于有證據(jù)證明有犯罪事實、可能判處有期徒刑以上刑罰的犯罪嫌疑人、被告人。法官在判決前,對案件的定性和裁判已經(jīng)形成了直覺判斷,但隨著對證據(jù)的深入、細致審查,該案發(fā)生了戲劇性轉折。法官在審查傷情照片時,發(fā)現(xiàn)被害人的傷痕與作案工具無法吻合,因為本案的作案工具是一把有弧度的斧頭,而被害人的傷情照片顯示,其頭部傷疤成直線形,且長度大于斧頭的總長度,這顯然違背常識,正是基于這張傷情照片,法官推翻了之前對案件的定性,重新提出被告人不構成犯罪、被害人傷情的真實性存疑的假設。

在這個案例中,法官推翻被告人構成犯罪的定性里面蘊藏著司法直覺,這種直覺來源于對“傷情照片”的完全信賴,其直覺的形成暗含著這樣一種思維:圖片展示的傷情痕跡是真實的,于是根據(jù)圖片內(nèi)容,觸發(fā)了直覺想象,認為傷情痕跡的形成過程存在不明因素或者力量的干擾,從而也得出鑒定意見、醫(yī)生出具的專家報告均不可信,被告人不構成犯罪的結論。但是在“深度偽造”技術出現(xiàn)以后,照片的真實性無法得到保障,法官直覺思維的起點將被徹底打破,法官會基于圖片真?zhèn)蔚贸鰞煞N甚至更多的直覺判斷。可見,“深度偽造”技術一定程度上降低了法官基于圖片、視頻等媒介信息產(chǎn)生的直覺信賴,使其在看到圖片、視頻類證據(jù)時,無法產(chǎn)生明確的直覺感受,增強了直覺想象的復雜性,降低法官的直覺感知能力。

2.“深度偽造”技術削弱法官的邏輯敘事能力

邏輯認知是法官對案件事實的理性分析,其過程建立在對證據(jù)的審查、分析和深度論證的基礎上,是可描述的、階梯式的歸納和演繹過程。邏輯認知的過程一般需要經(jīng)歷以下步驟:證據(jù)的個別化判斷—得出案件碎片化事實—證據(jù)的關聯(lián)性判斷—拼接事實碎片—證據(jù)鏈檢視—勾勒完整的敘事?！吧疃葌卧臁奔夹g容易對電子證據(jù)、視聽資料、圖片造成“污染”,而且“深度偽造”風險證據(jù)的真實性判斷困難,從而所得出的碎片事實鏡像模糊,進而導致事實碎片拼接困難,降低了法官的邏輯敘事能力。

以某起強奸案為例,根據(jù)檢察機關的指控,被告人與被害人相約至浴池洗澡,其間,被告人通過暴力手段,對被害人實施了性侵害。以上事實有被害人的陳述、被害人傷情照片、人體分泌物DNA檢測、案發(fā)現(xiàn)場圖等證據(jù)支持。被害人的傷情照片可以證實被害人遭受暴力侵害的情況,DNA檢測證實被告人與被害人之間發(fā)生過性行為,單個證據(jù)證明的碎片化事實拼接在一起是一個完整的強奸案。但在案件審理過程中,法官對被害人傷情照片進行審查時發(fā)現(xiàn),被害人身上的擦傷成青黃色,而照片拍攝時間顯示是在案發(fā)當日。根據(jù)傷情變化,擦傷的形成初期一般是鮮紅色,然后是青紫色、綠色、黃色,最后逐漸消失,黃色瘀青代表被害人的傷情并非案發(fā)當時形成?；谶@一圖片信息和線索,法官推定案件另有玄機,于是再次提審被告人,被告人此時給出了另一個完全不同的故事描述。根據(jù)被告人的供述,被告人和被害人系情人關系,案發(fā)前幾日被害人的丈夫已知情,并對被害人實施了毆打,案發(fā)當日被害人與被告人相約至浴池洗澡,雙方自愿發(fā)生性關系,事后被害人撥打了報警電話,并指控被告人強奸。(3)本案信息系作者在某省法院走訪調(diào)研時根據(jù)主審法官口述記錄。被告人的這一敘事與被害人傷情形成時間相吻合,于是得到了法官的認可;順著這一故事發(fā)展邏輯,法官結合被告人與被害人的通話記錄等其他證據(jù),形成了一個與公訴機關指控完全不同的敘事。

在該起案件中,法官根據(jù)生活常識敏銳察覺到傷情照片存在的問題,形成直覺感知,但并沒有停留在直覺感知和直覺想象層面,而是通過進一步調(diào)查被告人供述等證據(jù),演繹出一個全新的故事碎片,形成了邏輯認知,在此基礎上勾勒出一個不同的敘事。法官的這一邏輯敘事過程同樣以圖片真實為基礎,一旦對圖片進行“深度偽造”,案件的事實認定便會陷入故事版本同一化誤區(qū),造成冤假錯案。

為保證庭審的公正,美國《聯(lián)邦證據(jù)規(guī)則》第901條規(guī)定,所有證據(jù)在采納之前,都必須進行鑒真?！拌b真”是法官的職能,它要求有足夠的外部證據(jù)來初像地證明有關證據(jù)就是所宣稱的證據(jù)[19]312-317,是對實物證據(jù)的同一性、真實性加以驗證的鑒別手段。依據(jù)鑒真規(guī)則,任何一項在法庭上出示的證據(jù)都被推定為不真實,需要出示證據(jù)者對證據(jù)的真實性加以證明,對于無法通過鑒真規(guī)則檢驗的證據(jù),應當予以排除。而“深度偽造”技術的出現(xiàn)不僅會削弱法官對圖片、視聽資料等“深度偽造”風險證據(jù)真實性的審查能力,同時還會削弱法官對“深度偽造”風險證據(jù)的同一性判斷能力。

其一,法官對“深度偽造”風險證據(jù)的同一性審查受限。在美國,對于聲音、圖像等錄制證據(jù)的鑒真有兩種路徑,對于存在參與目擊證人的,可以由證人提供證言與視聽資料相印證;對于沒有目擊證人的,只能依賴保管鏈條證明,即在物證被提取后直到法庭出示它的整個期間,所有持有、接觸、保管過該項證據(jù)的人,都要向法庭提供證言,證明出示的證據(jù)和最初獲取的證據(jù)具有同一性[20]。我國也有保管鏈條證明規(guī)則,主要包括審查提取、收集相關證據(jù)的筆錄證據(jù)以及被告人的當庭辨認。區(qū)塊鏈存證技術的應用也為破解證據(jù)的同一性審查難題提供了支持。但對于“深度偽造”證據(jù),僅僅依賴筆錄證據(jù)和被告人辨認,很難確認證據(jù)的同一性,對于區(qū)塊鏈存證的證據(jù),雖然可以確保從取證到提交法庭階段的同一性,卻無法排除證據(jù)在固證前已經(jīng)被“深度偽造”技術污染的可能。

其二,法官對“深度偽造”風險證據(jù)的真實性審查十分困難?！吧疃葌卧臁钡母叨确抡嫘浴⒎磋b別性遠超出了人的認識范疇,法官作為勞動力市場上的一員,也很難超越自身的認識界碑對“深度偽造”風險證據(jù)作出不同一般人的認知。對于這類證據(jù)的鑒真,法官不得不依賴“技術鑒定”,但截至目前,技術發(fā)展尚難以達到這一水平,鑒定意見的可采性判斷將成為法官不得不面臨的難題。

三、“深度偽造”技術導致法官認知困境的應對機制

“深度偽造”技術的發(fā)展導致圖片資料、視頻資料真?zhèn)坞y辨,這給以圖片、視頻資料為重要介質(zhì)的法官認知活動帶來全新難題。特別是以視頻為媒介的線上身份認證活動和以圖片、視頻為重要證據(jù)形式的行為事實認定活動受到的沖擊最大,司法上需要積極回應,以保障訴訟參與人的合法權利,維護司法的公信力。

(一)線上訴訟身份認證規(guī)則完善

為回應“深度偽造”技術對線上訴訟管理平臺侵蝕的風險,司法機關應該對現(xiàn)行線上訴訟身份認知規(guī)則加以調(diào)整,具體而言,可以從以下三個方面著手。

1.建立線上訴訟管理系統(tǒng)接入第三方系統(tǒng)審查機制

線上訴訟對通信設備具有依附性,需要手機、電腦等硬件設備和騰訊會議、電子訴訟平臺等應用系統(tǒng)。為保障在線訴訟的公平性、規(guī)范性,應該要求訴訟參與人統(tǒng)一適用司法機關官方的應用系統(tǒng),對于因特殊原因無法適用在線訴訟平臺的情況,訴訟參與人申請適用第三方應用系統(tǒng)參加訴訟的,需要經(jīng)過嚴格的審批程序。線上訴訟管理系統(tǒng)一般不作聲像處理,除非在特殊案件中,為保障證人人身安全的需要,啟動視頻隱蔽作證系統(tǒng),可以對證人的外貌、聲音作特殊處理。這意味著,訴訟參與人將“深度偽造”技術應用到線上訴訟,需要同時開啟“深度偽造”應用系統(tǒng)與線上訴訟管理系統(tǒng),并實現(xiàn)系統(tǒng)對接。為防止“深度偽造”技術的侵蝕,線上訴訟管理系統(tǒng)在技術上應該設置外部應用系統(tǒng)接入警示功能,司法工作人員應該對訴訟管理系統(tǒng)是否接入第三方系統(tǒng)進行審查核實,確保訴訟服務系統(tǒng)的規(guī)范性。

2.加強線上訴訟的場域限制

為破解線上訴訟身份認證難題,有觀點提出了通過實名身份信息的哈希值確認和指紋識別技術、人臉識別技術、短信驗證等信息疊加驗證的思路,實踐中也主要通過這些手段實現(xiàn)訴訟參與人的身份認證,但隨著人工智能的發(fā)展,當前的身份認證手段越來越不足以防范“深度偽造”技術的侵蝕。在線訴訟利用數(shù)字影像技術實現(xiàn)訴訟的既視感,在圖景影像資料中,能夠有效輔助法官確認身份的信息,除人面識別信息和語音信息外,還有一類重要信息便是訴訟場域。訴訟場域?qū)τ谖恢枚ㄎ缓蜕矸莸耐恍耘袛嘀陵P重要,因為“深度偽造”技術目前主要針對人的面部信息、聲音信息等生物信息,還不具備在同步視頻中“深度偽造”環(huán)境的能力,但遺憾的是,當前司法機關對線上訴訟場域的限制或重視主要出于維護法庭秩序的目的,而沒有意識到訴訟場域的身份認證價值。

《人民法院在線訴訟規(guī)則》第37條規(guī)定,“被告人、罪犯被羈押的,可以在看守所、監(jiān)獄等羈押場所在線出庭;被告人、罪犯未被羈押的,因特殊原因確實無法到庭的,可以在人民法院指定的場所在線出庭;證人、鑒定人一般應當在線下出庭,但法律和司法解釋另有規(guī)定的除外?！睆囊?guī)則內(nèi)容來看,除羈押的被告人參與在線訴訟的場域固定之外,其他訴訟參與人包括非在押的被告人、犯罪人參與訴訟的場域都具有不固定性。實踐中,很多情況下證人并不一定到實體法庭,而是在住所、單位、車輛等場所,某些當事人、證人在參加庭審時,其所處房屋或場所甚至出現(xiàn)了手機鈴聲、孩子哭鬧、旁人喧嘩等情形[21],而律師等訴訟參與人參加訴訟的地點選擇性更強。一些法院為強化虛擬法庭的儀式性和權威性,甚至開發(fā)建設了“虛擬法庭艙” 電子訴訟系統(tǒng)平臺[22],訴訟參與人進入虛擬法庭艙后,真實的場域信息被徹底消除,無法起到輔助法官進行身份認證的作用。

為回應“深度偽造”技術侵蝕在線訴訟的風險,司法機關可以對線上訴訟的場域加強限制,除嚴重疾病等特殊原因外,訴訟參加人包括律師均需要到指定場域參加訴訟,這里的指定場域是指就近的司法機關或者具有公共服務職能的組織或機構。確因特殊原因無法到達指定場域參加訴訟的,可以提前向司法機關申請,并明確參加訴訟的地點,以便司法機關進行位置定位和環(huán)境比對。

3.建立在線訴訟見證人制度

對不能到法院指定場域參加訴訟的訴訟參與人,可以建立在線訴訟見證人制度,通過區(qū)域間司法協(xié)助等形式,由參與訴訟當?shù)氐墓珯z法工作人員或者社區(qū)服務人員到達現(xiàn)場見證訴訟參與人參與訴訟的過程。對于涉及國家秘密、個人隱私等特殊情況,見證人只需要參與身份審查環(huán)節(jié),并在形成的筆錄中簽字,確保訴訟參與人身份的真實性、同一性。在線訴訟見證人制度僅適用個別因病重等客觀原因無法到達法院指定場域參加訴訟的情況。程序啟動前,訴訟參加人需向法院提出申請,表明不能到指定地點參加訴訟的緣由,并就參加訴訟的可行地點提出申請,法官基于具體情況審查決定是否同意其在申請地點參加訴訟。經(jīng)審查,法官同意訴訟參加人在申請地點參加訴訟的,需要通知當?shù)胤ㄔ禾峁﹨f(xié)助,由當?shù)胤ㄔ号沙鋈藛T或聯(lián)系當?shù)氐幕鶎咏M織人員按照通知時間到達指定地點審查核實、見證訴訟參與人的身份。

(二) 司法直覺偏差控制:信息“深度偽造”系數(shù)評估

“理想的司法認知至少需直覺、檢測與證立三道工序,對應發(fā)現(xiàn)結論、防范直覺偏差、修正不合理理由三個認知功能,完成為案件提供答案、保證客觀性、展現(xiàn)正當性三重司法任務。”[23]直覺一般處于潛意識狀態(tài),個體似乎知道是什么但又不知為什么,介于有意識與無意識之間。司法直覺是正義觀念驅(qū)使下對案件產(chǎn)生的一種模糊感知,可以看作是不受意識監(jiān)控的推理與頓悟處理觀念關系的產(chǎn)物。因此,司法直覺呈現(xiàn)直接性、敏捷性、不確定性,“司法活動中的直覺思維的應用具體包括直覺判斷、直覺想象和直覺啟發(fā)等三個部分的內(nèi)容”[24]。司法直覺最終以直覺判斷的方式呈現(xiàn),但在形成之前,直覺啟發(fā)和直覺想象也發(fā)揮著關鍵的作用,直覺判斷的產(chǎn)生往往起始于直覺啟發(fā)。在司法直覺形成前,法官可能對案件的判斷處于一種模糊狀態(tài),甚至在深思熟慮后依然很難作出合理的敘事,但在某一時刻,某一信息發(fā)揮了關鍵性的啟發(fā)作用,給法官造成沖擊,帶來直覺啟發(fā),這類信息的載體往往是客觀性比較強的實物證據(jù),如記錄案發(fā)過程的錄音錄像和圖片等。

從關鍵信息帶來直覺啟發(fā)到作出直覺判斷的過程中,法官往往會加入個人的直覺想象,自行彌補沒有證據(jù)證明的事實碎片。但不是所有的信息都能觸發(fā)人的直覺想象,只有被法官“信以為真”的信息,才能發(fā)揮這一功能。因此,司法直覺的底色本質(zhì)上是對觸動直覺啟發(fā)信息的信賴。在“深度偽造”技術發(fā)展以前,偽造視頻的難度很大,法官很容易對視頻類證據(jù)的內(nèi)容產(chǎn)生信賴,并基于這一信賴作出直覺判斷。但在“深度偽造”技術發(fā)展以后,這種信賴被徹底打破。法官在面對信息沖擊時,可能會觸發(fā)直覺啟發(fā),并衍生出直覺想象,但同時也會陷入對證據(jù)真?zhèn)蔚拿芊治鲋小?/p>

“一個理想的文化心理結構應該是直覺思維與理性思維的有機結合?！盵25]為防止“深度偽造”技術造成司法直覺的偏差,法官需要在受到信息沖擊時嵌入理性思維和邏輯判斷,綜合圖片、視頻等直覺信息提取的主體與案件是否存在利害關系,提取時間與案發(fā)時間間隔長短,提取時有無見證人見證,是否利用區(qū)塊鏈存證等內(nèi)容,對直覺信息的“深度偽造”系數(shù)進行綜合評估,建立直覺理性。在直覺判斷的傾向產(chǎn)生以后,法官還應該保持必要的審慎,不輕易對直覺判斷作出肯定性或否定性的心理認證,而要在邏輯理性中進一步求知,實現(xiàn)直覺思維與邏輯思維的深度結合,以控制“深度偽造”技術引發(fā)的司法直覺偏差。

以前文所述的“故意傷害案”為例,在“深度偽造”技術高度發(fā)展時期,法官的直覺受到被害人的傷情照片沖擊后,不應直接建立直覺想象,而應在直覺想象前先行對照片的“深度偽造”可能性進行衡量。除結合控辯雙方的異議、技術鑒定報告等進行判斷以外,還可以從照片的形成時間、制作主體與被害人或者被告人的利害關系分析偽造照片的可能性。照片形成時間與傷情形成時間間隔越久,照片制作過程越隱秘,制作主體與被害人或被告人聯(lián)系越緊密,照片保管的技術性手段越低,偽造的概率越大,反之則越小。這種模糊的趨向認知雖然不能促使法官形成準確的直覺判斷,但一定程度上可以幫助法官降低司法直覺的偏差。

(三)司法邏輯敘事的融貫性:“深度偽造”風險證據(jù)的鑒真及適用

“深度偽造”風險證據(jù)已經(jīng)完全超出一般人的認知范疇,也突破了“印證證明”的鑒真模式。因此,對“深度偽造”風險證據(jù)的鑒真,還應該建立區(qū)別于一般證據(jù)的鏈條證明規(guī)則,打破僅依賴筆錄證據(jù)、書面審查的形式,對于有異議的“深度偽造”風險證據(jù),法官應該傳喚證據(jù)的制作者、保管者、接觸者、見證人到庭接受交叉詢問,特別是對證據(jù)制作者的詢問,可以有效發(fā)現(xiàn)取證前有無技術污染的可能,這個可以結合證據(jù)的形成時間、場景進行綜合判斷。

此外,“深度偽造”風險證據(jù)的鑒真難題由技術引發(fā),也要從技術上尋找破解。雖然目前還沒有鑒別技術能夠達到百分百的識別率,但鑒別技術的識別能力遠遠大于法官個人的識別能力。因此,對于有“深度偽造”風險的證據(jù),我國應該建立檢測報告制度。一旦控辯雙方中有一方對證據(jù)提出異議,并申請偽造技術鑒定,司法機關應當準許,推動“深度偽造”證據(jù)采信客觀化。“從司法實踐發(fā)展的視角看,證據(jù)的客觀化采信是人類司法活動的不懈追求,它能夠提高司法的可預期性、公正性和公信力。”[26]

“技術性鑒真在價值功能、鑒真標準等方面與傳統(tǒng)鑒真方法并無區(qū)別,但在內(nèi)在機理、證明責任、程序保障等方面存在較大差異?！盵27]“深度偽造”風險證據(jù)檢測報告的準確率不可能達到百分百,其帶有“似真性”。沃爾頓提出的似真證據(jù)理論認為,從對一個(可信的)人的初始印象(從表面上看似乎是誠實的),推出某事物,且它被理性地接受,那么它就是證據(jù)[28]204。法官在進行邏輯敘事過程中適用“深度偽造”風險證據(jù)時,需要采用“似真推理”規(guī)則。

通常,在一些技術性意見的審查上,法官常常表現(xiàn)出對專家的過度信賴。因為專家具有中立超然地位和專業(yè)背景優(yōu)勢,能夠獲得較高的社會信賴,其提供的司法鑒定意見能為法官筑起一道“防火墻”。法官無須直面當事人的質(zhì)疑,而且還能避免拖沓的說理和反復的紛爭,節(jié)省司法資源,提高司法效率[29]。但似真證據(jù)天然帶有不確定性,專家也無法確認其真實性,法官只能結合全案證據(jù)進行似真推理。

“似真推理不要求計算命題是否為真的概率,但要求法官選擇接受或拒絕一個似真結論之前,最好權衡一下支持該命題的理由與不支持該命題理由的權重”[30],呈現(xiàn)為“提出假設—作出解釋—比較并判定似真解釋”的過程[31]。如果一種表征看起來為真,則具有似真性;如果它看起來為真并且穩(wěn)定,則它更加具有似真性;如果它可付諸檢驗且通過檢驗,則它具有更進一步的似真性,似真推理可以用似真度來衡量[32]。

法官基于“深度偽造”風險證據(jù)進行似真推理時,首先要對“深度偽造”風險證據(jù)進行似真判斷并提出一個假設,基于這個假設,結合其他證據(jù),得出一個邏輯敘事的版本,進而就敘事的融貫性加以檢驗。只有敘事不存在無法排除的矛盾,并符合人的基本常識和多數(shù)人的共識,才可以接受為似真結論。但在整個推理過程中,法官的思維應該秉持高度開放性,隨時接納新證據(jù)的引入,并對似真性進行檢驗,只有符合穩(wěn)定性的邏輯敘事才可以作為最終的結論。

四、結語

與金融科技改變了金融業(yè)的實際運行狀態(tài)一樣,法律科技,乃至更廣泛意義上的政府科技,正在深刻地改變著司法程序的運轉機制[33]?？茖W技術本身所具有的異化風險,在司法審判場域中很可能會隱含著消解庭審場域、破壞訴訟構造、沖擊法官主體性的風險[34]44?！吧疃葌卧臁奔夹g導致圖片、視頻等媒介的真?zhèn)坞y辨,不僅侵犯公民的個人權利、破壞社會穩(wěn)定與國家安全,甚至還可能消解社會共同的信任。為回應這一技術帶來的挑戰(zhàn),司法機關除加強技術攻克以外,還需要及時調(diào)整相關的司法認知規(guī)則,加強科技創(chuàng)新異化風險的司法防控。