衛(wèi)晨曙

(中國(guó)政法大學(xué) 證據(jù)科學(xué)研究院,北京 100088)

2017年初,一則南京中院決定引入智能機(jī)器人以提高審判質(zhì)量與審判效率的新聞刷爆朋友圈,一時(shí)間關(guān)于“法官是否會(huì)被機(jī)器人取代”“機(jī)器人審理案件”“案件審理的自動(dòng)售賣機(jī)”等話語(yǔ)成為網(wǎng)絡(luò)中的高頻詞匯。這一話題的輿論關(guān)注度從側(cè)面顯示出了人工智能在刑事審判中應(yīng)處于何種地位、發(fā)揮何種功能的問(wèn)題,牽動(dòng)著整個(gè)社會(huì)的神經(jīng)。關(guān)于這一問(wèn)題,無(wú)論是司法決策層還是學(xué)界,都將人工智能技術(shù)定位為輔助司法的工具。具體而言,這一觀點(diǎn)的論證思路,即司法案件的裁判并非簡(jiǎn)單的三段論式推理,其中仍然蘊(yùn)含著案件審理法官對(duì)案件事實(shí)的感官直覺(jué)、對(duì)法律條文的理解、邏輯思維的應(yīng)用以及聯(lián)想、頓悟等多種心理活動(dòng),而當(dāng)前的人工智能技術(shù)尚不具備感性判斷的能力,因而刑事審判中人工智能、大數(shù)據(jù)技術(shù)的應(yīng)用應(yīng)當(dāng)定位于輔助地位。然而,這種論證思路尚處于應(yīng)然層面的邏輯推演,忽視了辦案法官與智能系統(tǒng)交互過(guò)程中面對(duì)智能系統(tǒng)自動(dòng)化決策的心理認(rèn)知等實(shí)然因素,面對(duì)智能辦案系統(tǒng)的自主化、智能化不斷提升、人與智能辦案系統(tǒng)聯(lián)系愈加緊密的趨勢(shì),智能辦案系統(tǒng)是否依然發(fā)揮的是以“工具主義”為核心的輔助功能,以及我們?cè)撊绾螌徱暸c規(guī)制刑事審判中的智能辦案系統(tǒng)是本文所要討論的主要內(nèi)容。

一、刑事審判中人工智能的應(yīng)用現(xiàn)狀

當(dāng)前,司法領(lǐng)域中的人工智能、大數(shù)據(jù)技術(shù)具體表現(xiàn)為智能辦案系統(tǒng),例如上海“刑事案件智能輔助辦案系統(tǒng)”、貴州“政法大數(shù)據(jù)系統(tǒng)”、北京“睿法官”系統(tǒng)等等。根據(jù)不同的功能指向,我國(guó)當(dāng)前刑事審判中的人工智能主要應(yīng)用于以下三個(gè)領(lǐng)域:

(一)輔助證據(jù)審查判斷

上海“刑事案件智能輔助辦案系統(tǒng)”(206系統(tǒng))是這一功能的典型代表。這一系統(tǒng)主要包括證據(jù)標(biāo)準(zhǔn)、證據(jù)規(guī)則指引,單一證據(jù)校驗(yàn)以及證據(jù)鏈和全案證據(jù)審查判斷三項(xiàng)功能。首先,就證據(jù)指引而言,主要分為證據(jù)標(biāo)準(zhǔn)的指引和證據(jù)規(guī)則的指引,其運(yùn)行原理是根據(jù)不同案件類型,分門別類地對(duì)各類案件所應(yīng)收集的證據(jù)形式、證據(jù)內(nèi)容以及收集程序等注意事項(xiàng)進(jìn)行歸納和總結(jié),形成諸如《上海刑事案件證據(jù)收集、固定、審查判斷規(guī)則》等文本規(guī)則,將其嵌入到智能系統(tǒng)中,在辦案人員的辦案過(guò)程中對(duì)其進(jìn)行指引。其次,就證據(jù)校驗(yàn)而言,主要是針對(duì)單一證據(jù)的審查,主要集中在書(shū)證領(lǐng)域,其運(yùn)行原理是依托人工智能深度學(xué)習(xí)、智能識(shí)別技術(shù),對(duì)過(guò)往案件中被掃描進(jìn)系統(tǒng)的相關(guān)證據(jù)種類進(jìn)行自主學(xué)習(xí),進(jìn)而能夠定位、識(shí)別并提取出各種證據(jù)的簽名、印章、手印等,然后再根據(jù)相關(guān)的證據(jù)標(biāo)準(zhǔn)或證據(jù)規(guī)則校驗(yàn)其證據(jù)的形式、收集是否規(guī)范。最后,就證據(jù)審查判斷而言,主要是綜合全案證據(jù)的審查判斷,其運(yùn)行原理是智能識(shí)別技術(shù)定位并抓取證據(jù)中曾經(jīng)出現(xiàn)的相關(guān)人物、物品、時(shí)間以及地點(diǎn)等要素,在此基礎(chǔ)上分析這些要素之間的相互關(guān)系,理清人物關(guān)系、運(yùn)動(dòng)軌跡以及物品流動(dòng)軌跡,從而形成關(guān)于某一具體案件的具體故事模型,憑此對(duì)各項(xiàng)證據(jù)之間是否有內(nèi)在聯(lián)系、是否相互印證以及是否有矛盾或疑問(wèn)進(jìn)行研判,最終將分析結(jié)果提供給司法人員。

(二)輔助精準(zhǔn)量刑

輔助精準(zhǔn)量刑的原理一般是通過(guò)“正則表達(dá)式、上下文無(wú)關(guān)文法、命名實(shí)體識(shí)別等方式提取法律文書(shū)的情節(jié)信息,之后對(duì)提取的信息進(jìn)行結(jié)構(gòu)化,用數(shù)學(xué)模型來(lái)描述數(shù)據(jù)的特點(diǎn)和規(guī)律,算出與其最相符的數(shù)學(xué)模型或算法,人工智能通過(guò)模擬算法,根據(jù)情節(jié)推導(dǎo)量刑結(jié)果”[1]。以法律智能公司華宇元典公司研發(fā)的“元典量刑輔助系統(tǒng)”為例,通過(guò)整合人民法院的公報(bào)案例、指導(dǎo)案例以及裁判文書(shū)網(wǎng)收錄的刑事裁判文書(shū),根據(jù)案由和影響量刑的案件要素,對(duì)當(dāng)?shù)胤ㄔ旱纳袥Q進(jìn)行過(guò)濾篩選,最終由系統(tǒng)給出所選取時(shí)期內(nèi)當(dāng)?shù)胤ㄔ壕驮擃愋桶讣皖惏傅牧啃虆^(qū)間分布、集中量刑值、平均量刑值等,如類似情節(jié)案件的刑期的“眾數(shù)”、最低刑期、最高刑期及平均刑期。讓辦案人員根據(jù)具體案件通過(guò)界面勾選與自定義檢索相組合的方式進(jìn)行操作,輔助量刑參考結(jié)果更為精確。

(三)類案推送與案件偏離預(yù)警

類案推薦、偏離預(yù)警是實(shí)現(xiàn)同案同判的重要保障。一方面,當(dāng)前各地法院的智能系統(tǒng)中,類似案件推薦功能是最為常見(jiàn)的功能之一,北京、上海、江蘇等地法院均有使用。類案推薦功能實(shí)現(xiàn)的前提是構(gòu)建同類案件的知識(shí)庫(kù)(數(shù)據(jù)庫(kù)),一般通過(guò)搜集同類案件海量的裁判文書(shū),提取其中最為相似的案件情節(jié)來(lái)完成。在此基礎(chǔ)上,類案數(shù)據(jù)庫(kù)根據(jù)法官所辦的具體案件,為其推送與之最為相似的歷史案件以供法官參考。另一方面,偏離預(yù)警是指人工智能依據(jù)算法推測(cè)的結(jié)果與法官裁判的結(jié)果進(jìn)行比較,在上海、江蘇、浙江、貴州、云南等地的法院智能輔助系統(tǒng)中,都包含案件偏離預(yù)警的功能模塊。主要分為實(shí)體偏離預(yù)警與程序偏離預(yù)警。前者是智能系統(tǒng)對(duì)案件實(shí)體裁判,例如罪名認(rèn)定是否正確、證據(jù)形式是否合法、證據(jù)鏈條是否完整以及量刑幅度是否合理等與案件實(shí)體判決相關(guān)的問(wèn)題進(jìn)行比對(duì)的偏離預(yù)警。后者是智能輔助系統(tǒng)對(duì)法官辦理案件的時(shí)限、步驟等程序性規(guī)定,與系統(tǒng)相似案件的程序性規(guī)定比對(duì),對(duì)案件辦理的全流程進(jìn)行預(yù)警。

總而言之,目前智能辦案系統(tǒng)是技術(shù)與司法深度融合的產(chǎn)物。一方面,智能辦案系統(tǒng)與系統(tǒng)操作者之間的關(guān)系更為緊密,二者呈現(xiàn)出相互依存、彼此塑造的交互關(guān)系。智能辦案系統(tǒng)的運(yùn)行離不開(kāi)系統(tǒng)操作者與系統(tǒng)之間的雙向問(wèn)答,智能辦案系統(tǒng)根據(jù)操作者的勾選指令進(jìn)行即時(shí)反饋,以滿足系統(tǒng)操作者的預(yù)期需求。另一方面,目前的刑事司法人工智能已經(jīng)擴(kuò)展到證據(jù)審查判斷、類似案件推送、社會(huì)危險(xiǎn)性審查以及案件辦理糾偏預(yù)警等領(lǐng)域,逐步深入到法官的心證及自由裁量的過(guò)程。面對(duì)人工智能在刑事司法領(lǐng)域高歌猛進(jìn)的態(tài)勢(shì),難免引發(fā)人們對(duì)智能辦案系統(tǒng)分割甚至架空司法裁判權(quán)的隱憂,“法庭正暗地里將做出裁判的權(quán)力托付給沒(méi)有政治合法性的外人。難道法庭名義上的助手成了它背后的主宰者嗎?”[2]210在權(quán)力理論的視角里,這一擔(dān)憂似乎正在成為可能。

二、刑事審判人工智能技術(shù)的權(quán)力演化

進(jìn)入數(shù)據(jù)社會(huì)之后,數(shù)據(jù)逐漸成為資源、財(cái)產(chǎn)甚至社會(huì)的建構(gòu)力量,而處理海量數(shù)據(jù)所需要的計(jì)算能力已經(jīng)遠(yuǎn)超人工計(jì)算水平,因而人類對(duì)這些數(shù)據(jù)資源的利用與分配逐漸讓位于智能算法,在這一過(guò)程中算法呈現(xiàn)出具有支配性力量的權(quán)力化趨勢(shì)。這種權(quán)力更傾向于福柯眼中的權(quán)力范式,身處權(quán)力場(chǎng)域中的人對(duì)這種權(quán)力難以察覺(jué),這種網(wǎng)絡(luò)化、彌散化的權(quán)力猶如毛細(xì)血管一樣滲入到刑事審判場(chǎng)域的各個(gè)角落,通過(guò)對(duì)人進(jìn)行監(jiān)控、規(guī)訓(xùn)以及控制的方式實(shí)現(xiàn)支配控制。

(一)人的“代具性”:人工智能技術(shù)權(quán)力演化的哲學(xué)根基

從技術(shù)哲學(xué)的角度而言,人對(duì)技術(shù)的依賴從哲學(xué)層面解釋了人工智能技術(shù)可能對(duì)人產(chǎn)生的支配關(guān)系。法國(guó)當(dāng)代技術(shù)哲學(xué)家貝爾納·斯蒂格勒在論述人與技術(shù)的關(guān)系時(shí)提出了人的“代具性”概念,代具(prothèse)原意是指用于替代人肢體的器具(例如肢體殘疾的人所使用的假肢),斯蒂格勒借此概念來(lái)泛指用于補(bǔ)遺的、人身體之外的一切技術(shù)物。斯蒂格勒認(rèn)為沒(méi)有屬性就是人的第一屬性,這種天生的、原始性的缺陷是人之所以為人的本質(zhì)屬性,這就要求人不得不發(fā)明和利用技術(shù)來(lái)補(bǔ)救、超越自身的天生缺陷,所以說(shuō)超越這種缺陷是人之為人的首要條件[3]312,進(jìn)而人也成為技術(shù)性的存在。因而,人與技術(shù)則形成一種既相連又相離的關(guān)聯(lián),離開(kāi)技術(shù),人就不存在,因?yàn)槿说纳难永m(xù)需要以生命之外的技術(shù)為前提。反之,離開(kāi)人,技術(shù)也不存在,因?yàn)榧夹g(shù)的存在,需要人的能力作為超前動(dòng)力[4]?！叭说拇咝浴睘閷徱暡门姓吲c刑事審判智能系統(tǒng)的關(guān)系提供了新的視角,人對(duì)技術(shù)天生的依賴性使得裁判者在應(yīng)用智能系統(tǒng)時(shí),它們之間所形成的并非是一種“法官—輔助工具”的二元關(guān)系,而是法官與刑事審判輔助系統(tǒng)協(xié)作互補(bǔ)的一體關(guān)系,智能系統(tǒng)所擁有的文書(shū)自動(dòng)生成,類似案例推薦、證據(jù)形式審查、證據(jù)標(biāo)準(zhǔn)、規(guī)則指引等功能補(bǔ)救了法官作為個(gè)人在面對(duì)繁瑣海量復(fù)雜的審理業(yè)務(wù)時(shí)體力與腦力的不足與缺陷,同時(shí)這種智能辦案系統(tǒng)的功能在潛移默化中成為如同辦案法官手足的一部分。

(二)自動(dòng)化偏差:人工智能技術(shù)權(quán)力演化的認(rèn)知基礎(chǔ)

計(jì)算機(jī)技術(shù)、人工智能等一批具有自主性技術(shù)的普及與出現(xiàn),推動(dòng)了傳統(tǒng)的認(rèn)知科學(xué)、計(jì)算機(jī)科學(xué)以及工效學(xué)的交叉融合,以應(yīng)對(duì)自動(dòng)化時(shí)代人機(jī)關(guān)系研究的需要,從而催生出了“認(rèn)知工程學(xué)(Cognitive Engineering)”。認(rèn)知工程學(xué)中的“自動(dòng)化偏差”現(xiàn)象揭示了人對(duì)智能機(jī)器的偏信心理。具體而言,自動(dòng)化偏差指的是人們一般傾向于將計(jì)算機(jī)生成(computer generated)的結(jié)論認(rèn)定是正確的,并且不進(jìn)一步探究或者直接忽視可能與計(jì)算機(jī)系統(tǒng)生成結(jié)論相異的其他信息[5]。在刑事司法領(lǐng)域,美國(guó)學(xué)者的一項(xiàng)實(shí)驗(yàn)[6]也驗(yàn)證了智能系統(tǒng)的“自動(dòng)化偏差”心理對(duì)裁判者決策的影響(1)“再犯風(fēng)險(xiǎn)預(yù)測(cè)工具”(Recidivism Risk Prediction Instrument,RRPI)是美國(guó)刑事司法為保障量刑的準(zhǔn)確性而采取的、對(duì)被告人的再犯風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)的智能化工具。該工具根據(jù)被告人的職業(yè)背景、婚姻狀況以及教育程度等因素將被告人的再犯風(fēng)險(xiǎn)量化為低中高三種檔次,法官在量刑時(shí)根據(jù)具體的量化風(fēng)險(xiǎn)作為其量刑決策的參考。美國(guó)密歇根大學(xué)法學(xué)院斯塔爾教授為了考察RRPI對(duì)司法決策的影響,將83位法學(xué)院學(xué)生分為A、B兩組,其中A組43人,B組40人,并將智能系統(tǒng)與案件背景等相關(guān)情況對(duì)兩組學(xué)生進(jìn)行了告知,唯一不同的是:A組在進(jìn)行量刑決定時(shí)不會(huì)獲取RRPI的計(jì)算結(jié)果,B組在進(jìn)行量刑決定時(shí)會(huì)參考RRPI的計(jì)算結(jié)果。斯塔爾教授提供了兩則案例,羅伯特與威廉分別是實(shí)驗(yàn)中兩例案件的被告人,他們所犯刑事案件的案由相同,即盜竊價(jià)值十萬(wàn)美元的珠寶。他們都被判處相同的罪名(重大盜竊罪),兩人皆無(wú)犯罪前科(只不過(guò)其中一人之前因未到法定飲酒年齡飲酒被判處過(guò)輕罪),兩人都是男性并且二者的種族并未告知被測(cè)試者。但是羅伯特與威廉兩人的個(gè)人情況差別極大:羅伯特,中年人,已婚,大學(xué)學(xué)歷,珠寶連鎖店主管,犯罪動(dòng)機(jī)是為自己的女兒籌集大學(xué)學(xué)費(fèi),其犯罪經(jīng)過(guò)精心策劃,將珠寶首飾盜取后,又用贗品予以代替并售賣,掩飾其犯罪行為;威廉,21歲,單身未婚,無(wú)業(yè),酗酒,最近被父母趕出家門,在商場(chǎng)尋找零售工作時(shí)看到珠寶展示柜臺(tái)被打開(kāi),遂生歹意,因而當(dāng)即決定盜取大量珠寶首飾。經(jīng)過(guò)RRPI的計(jì)算,羅伯特的再犯風(fēng)險(xiǎn)等級(jí)處于“低等”,威廉的再犯風(fēng)險(xiǎn)等級(jí)處于“中高等”。最終,在A組中,17人決定判處羅伯特更長(zhǎng)的刑期,13人決定給予判處二人相同的刑期,13人決定判處威廉更長(zhǎng)的刑期;在B組中,僅有8人決定判處羅伯特更長(zhǎng)的刑期,9人決定判處二人相同的刑期,23人決定判處威廉更長(zhǎng)的刑期。。

(三)國(guó)家權(quán)力:人工智能技術(shù)權(quán)力演化的權(quán)力基礎(chǔ)

一方面,國(guó)家權(quán)力為刑事審判人工智能的正當(dāng)性提供話語(yǔ)保障。2016年7月,在由中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)的《國(guó)家信息化發(fā)展戰(zhàn)略綱要》中,“智慧法院”成為國(guó)家信息化發(fā)展戰(zhàn)略的重要組成部分,“建設(shè)智慧法院,提高案件受理、審判、執(zhí)行、監(jiān)督等各環(huán)節(jié)信息化水平,推動(dòng)執(zhí)法司法信息公開(kāi),促進(jìn)司法公平正義”。2017年5月,周強(qiáng)在全國(guó)法院第四次信息化工作會(huì)議上指出:“建設(shè)智慧法院,是順應(yīng)新一輪科技革命浪潮的必然選擇,是提升司法公信力的重大舉措,是提升人民群眾獲得感的有效手段,是深化人民法院司法改革的重要支撐?！睆恼蜗到y(tǒng)到司法高層都為刑事審判中智能辦案系統(tǒng)的應(yīng)用提供了充分的話語(yǔ)準(zhǔn)備,為其運(yùn)行的合正當(dāng)性與合法性提供了背書(shū)。

另一方面,國(guó)家權(quán)力為算法權(quán)力提供司法數(shù)據(jù)保障。算法的運(yùn)行離不開(kāi)數(shù)據(jù)的“喂養(yǎng)”。在萬(wàn)物皆可數(shù)據(jù)化的時(shí)代,刑事司法大數(shù)據(jù)成為司法機(jī)關(guān)握有的特殊權(quán)力資源。司法領(lǐng)域內(nèi)形成的數(shù)據(jù)資源不同于以社會(huì)為背景的大數(shù)據(jù)資源。一是司法大數(shù)據(jù)的占有主體具有單一性,司法大數(shù)據(jù)的占有主體僅為司法機(jī)關(guān),辯護(hù)律師、訴訟當(dāng)事人以及其他社會(huì)組織能夠通過(guò)裁判文書(shū)公開(kāi)網(wǎng)等司法公開(kāi)途徑獲取司法數(shù)據(jù),但是這樣獲取的司法數(shù)據(jù)是十分有限的,例如裁判文書(shū)公開(kāi)網(wǎng)公開(kāi)的僅僅是判決書(shū)與裁定書(shū),而與案件相關(guān)的其他訴訟文書(shū),如審判委員會(huì)的會(huì)議紀(jì)要、合議庭會(huì)議記錄以及法院的案件審結(jié)報(bào)告等文件則未予公開(kāi)。二是司法數(shù)據(jù)與社會(huì)數(shù)據(jù)之間數(shù)據(jù)流動(dòng)的單向性。為保障案件認(rèn)定的準(zhǔn)確性,司法大數(shù)據(jù)能夠主動(dòng)吸納與犯罪嫌疑人、被告人有關(guān)的社會(huì)數(shù)據(jù),而司法數(shù)據(jù)因其特殊性并不會(huì)流向社會(huì)為公眾所知,例如刑事被追訴人的軌跡數(shù)據(jù)信息、賬單數(shù)據(jù)信息以及音視頻數(shù)據(jù)信息等會(huì)因刑事訴訟的進(jìn)行而進(jìn)入司法場(chǎng)域,成為案件辦理的重要數(shù)據(jù)資源,在此基礎(chǔ)上形成的數(shù)據(jù)信息則在圈存在司法場(chǎng)域內(nèi)。

(四)技術(shù)外包:人工智能技術(shù)權(quán)力演化的知識(shí)基礎(chǔ)

技術(shù)“外包”(outsource)是目前刑事司法領(lǐng)域智能系統(tǒng)所采取的普遍的研發(fā)模式。所謂技術(shù)“外包”是司法機(jī)關(guān)將審判智能系統(tǒng)研發(fā)所依賴的專業(yè)技術(shù)交由司法機(jī)關(guān)以外的數(shù)據(jù)服務(wù)商或者科技公司等主體,司法機(jī)關(guān)主要提供司法活動(dòng)中產(chǎn)生的大數(shù)據(jù),同時(shí)向技術(shù)公司準(zhǔn)確描述智能系統(tǒng)所應(yīng)具備的目標(biāo)需求。當(dāng)前各地法院智能辦案系統(tǒng)合作研發(fā)情況如表1所示。

表1 法院智能辦案系統(tǒng)合作研發(fā)情況

技術(shù)“外包”的研發(fā)模式是智能系統(tǒng)研發(fā)中公私主體的一次合作,但更為重要的是,這一過(guò)程中存在著法學(xué)專業(yè)知識(shí)與智能技術(shù)知識(shí)兩套知識(shí)體系的分野,這種專業(yè)精細(xì)的學(xué)科知識(shí)為刑事審判場(chǎng)域算法權(quán)力的產(chǎn)生提供了知識(shí)基礎(chǔ)。法國(guó)哲學(xué)家福柯認(rèn)為權(quán)力與知識(shí)二者密不可分,相互勾連,知識(shí)造就權(quán)力,權(quán)力生產(chǎn)知識(shí)[7]20-25,可以說(shuō)掌握專門知識(shí)的人就是掌握權(quán)力的人。

從目前刑事審判智能系統(tǒng)的研發(fā)實(shí)踐來(lái)看,科學(xué)技術(shù)知識(shí)與法學(xué)專業(yè)知識(shí)之間在一定程度上處于隔絕的狀態(tài)[8],法學(xué)專業(yè)知識(shí)與智能算法的契合度較低,這兩套知識(shí)體系的差異形成了智能算法技術(shù)對(duì)司法人員的支配和控制。辦案法官并不了解智能系統(tǒng)的運(yùn)行原理,智能辦案系統(tǒng)在收集、篩選以及處理數(shù)據(jù)時(shí)因“黑箱原理”難以完整呈現(xiàn)其具體運(yùn)算過(guò)程,加之前文提及的“自動(dòng)化偏差”認(rèn)知機(jī)制的影響,法官無(wú)法對(duì)智能系統(tǒng)生成的結(jié)論進(jìn)行深刻的批判與質(zhì)疑,最終使得法官臣服于智能系統(tǒng)算法決策的結(jié)果。這種技術(shù)“外包”研發(fā)模式所導(dǎo)致的法學(xué)知識(shí)與智能算法知識(shí)之間的不平等性,推動(dòng)了刑事審判場(chǎng)域中智能系統(tǒng)的權(quán)力化。

(五)系統(tǒng)架構(gòu):人工智能權(quán)力演化的現(xiàn)實(shí)動(dòng)力

架構(gòu),又稱軟件架構(gòu)(software architecture),是計(jì)算機(jī)科學(xué)中的專業(yè)術(shù)語(yǔ),架構(gòu)并非軟件,而是軟件設(shè)計(jì)的宏觀策略,為特定問(wèn)題提供抽象解決方案。架構(gòu)的本質(zhì)是其所包含的解決特定問(wèn)題的既定路徑或預(yù)設(shè)步驟所產(chǎn)生的剛性效力,核心在于對(duì)架構(gòu)內(nèi)行為主體的規(guī)制作用。人工智能時(shí)代,算法搭建了諸如淘寶、亞馬遜以及臉書(shū)等一系列電商平臺(tái)、社交媒體等系統(tǒng)架構(gòu),這些系統(tǒng)架構(gòu)規(guī)范著系統(tǒng)內(nèi)用戶的具體行為。以亞馬遜公司的“混沌存儲(chǔ)算法管理倉(cāng)庫(kù)”為例,在此智能倉(cāng)庫(kù)內(nèi),貨物先由算法根據(jù)其體積、種類以及貨架空間進(jìn)行擺放、存儲(chǔ),人工通過(guò)算法定位所需貨物,根據(jù)架構(gòu)指引進(jìn)行取貨調(diào)貨,這一過(guò)程可以說(shuō)是人的行為受到了系統(tǒng)架構(gòu)的支配[9]。

具體到刑事審判領(lǐng)域,以“上海刑事案件智能輔助系統(tǒng)”為例,這一系統(tǒng)也可以看作是一個(gè)系統(tǒng)架構(gòu),該系統(tǒng)為實(shí)現(xiàn)刑事證據(jù)標(biāo)準(zhǔn)的指引功能,預(yù)先設(shè)定了實(shí)現(xiàn)該功能的路徑與規(guī)則,例如先根據(jù)地方司法機(jī)關(guān)制定的類案證據(jù)標(biāo)準(zhǔn)構(gòu)建不同案件的證據(jù)模型,根據(jù)不同模型形成刑事案件證據(jù)指引的知識(shí)庫(kù),在此基礎(chǔ)上根據(jù)刑事訴訟活動(dòng)不同階段的不同證據(jù)標(biāo)準(zhǔn),將知識(shí)庫(kù)嵌入系統(tǒng),對(duì)辦案人員的證據(jù)收集行為進(jìn)行引導(dǎo)。在這一過(guò)程中,智能辦案系統(tǒng)產(chǎn)生了對(duì)辦案人員的約束力,這一系統(tǒng)會(huì)對(duì)辦案人員收集的證據(jù)進(jìn)行校驗(yàn)和審查,如果證據(jù)出現(xiàn)瑕疵,除非司法辦案人員能夠?qū)﹁Υ米C據(jù)進(jìn)行補(bǔ)正或說(shuō)明,那么該系統(tǒng)就會(huì)自動(dòng)阻斷證據(jù)進(jìn)入下一個(gè)階段。在司法實(shí)踐中可能出現(xiàn)辦案人員為了使證據(jù)標(biāo)準(zhǔn)能夠符合系統(tǒng)要求,不得不按照系統(tǒng)的要求再次進(jìn)行證據(jù)收集與補(bǔ)正,在這一過(guò)程中,刑事審判智能系統(tǒng)憑借架構(gòu)優(yōu)勢(shì)所形成的規(guī)范效力,支配著辦案人員現(xiàn)實(shí)的證據(jù)審查行為。

三、刑事審判人工智能權(quán)力化的正當(dāng)性風(fēng)險(xiǎn)

人工智能技術(shù)作為不同于刑事司法的社會(huì)系統(tǒng),其并不具備傳統(tǒng)刑事審判的中立、公開(kāi)、準(zhǔn)確等正當(dāng)性品格,反而可能會(huì)對(duì)其造成侵蝕或不當(dāng)干預(yù)。因而,有人將數(shù)據(jù)時(shí)代的人工智能算法稱為“數(shù)字殺傷性武器”,隨著人工智能技術(shù)與刑事司法的深度融合,其引發(fā)的正當(dāng)性風(fēng)險(xiǎn)也將逐漸顯現(xiàn)。

(一)規(guī)訓(xùn)風(fēng)險(xiǎn)

人工智能技術(shù)權(quán)力作為一種彌散于刑事審判場(chǎng)域的權(quán)力范式,其與作用主體之間形成了“泛在”的權(quán)力關(guān)系,表現(xiàn)為對(duì)人或主體無(wú)處不在的引導(dǎo)或操縱,這種“無(wú)意識(shí)”的權(quán)力治理術(shù)規(guī)訓(xùn)著法官在裁判過(guò)程中的自主性。

一是智能辦案系統(tǒng)對(duì)法官裁判行為的引導(dǎo)作用。智能辦案系統(tǒng)的證據(jù)指引、量刑輔助以及類案推送功能通過(guò)構(gòu)建數(shù)據(jù)模型實(shí)現(xiàn)對(duì)法官辦案行為的導(dǎo)引,這種數(shù)據(jù)模型形塑了法官辦案的行為。法官在智能辦案系統(tǒng)中無(wú)外乎一個(gè)助推系統(tǒng)運(yùn)行的“零件”,無(wú)論辦案法官自身有著怎樣的辦案慣習(xí),在智能辦案系統(tǒng)整齊劃一的運(yùn)行指令下,他們認(rèn)知案件事實(shí)的步驟必須滿足智能辦案系統(tǒng)的要求,司法辦案人員的行為受到智能辦案系統(tǒng)的調(diào)控與約束,法官的主體性在這一過(guò)程中可能會(huì)遭受消解,導(dǎo)致機(jī)械司法的出現(xiàn)。

二是智能辦案系統(tǒng)對(duì)法官裁判行為的監(jiān)督作用。大數(shù)據(jù)技術(shù)能把法官在辦案過(guò)程中所生成的全部數(shù)據(jù)悉數(shù)保存,形式不僅局限于以往審結(jié)率、上訴率等以數(shù)字呈現(xiàn)的數(shù)據(jù),同時(shí)也包括如法官的庭審視頻、語(yǔ)音記錄以及電子卷宗等等,法官無(wú)異于置身巨量數(shù)據(jù)所形成的“數(shù)據(jù)牢籠”之中。仍以上海206系統(tǒng)的偏離預(yù)警功能為例,“在法官?zèng)Q定判決時(shí),寫好判決書(shū)放入系統(tǒng)里,系統(tǒng)會(huì)自動(dòng)提示跟本院以及上級(jí)法院有將近85%的類似情況下的判決是不一樣的,問(wèn)法官是否堅(jiān)持這樣做,若堅(jiān)持該判決,那么系統(tǒng)將自動(dòng)把判決推送給庭長(zhǎng)以供討論?！?2)最高法司改辦何帆:中國(guó)法院正努力把人工智能引入辦案系統(tǒng)[EB/OL].(2017-07-29)[2021-01-24].http:∥finance.sina.com.cn/roll/2017-07-29/doc-ifyinryq7012174.shtml.這種智能辦案系統(tǒng)的監(jiān)測(cè)預(yù)警功能與辦案法官之間形成了微妙的控制關(guān)系,智能辦案系統(tǒng)通過(guò)對(duì)法官判決的監(jiān)測(cè),可能成為規(guī)訓(xùn)法官裁判符合其預(yù)警標(biāo)準(zhǔn)的調(diào)控技術(shù)。

(二)排斥風(fēng)險(xiǎn)

隨著智能辦案系統(tǒng)逐漸深入刑事審判程序的關(guān)鍵領(lǐng)域,諸如刑事證據(jù)審查、輔助量刑等關(guān)切刑事被追訴人程序性權(quán)利與實(shí)體性權(quán)利的決策由智能系統(tǒng)作出,然而智能辦案系統(tǒng)排斥刑事被追訴人參與到司法決策的程序中。

一是算法黑箱限縮了刑事被追訴人行使程序性權(quán)利。智能辦案“算法黑箱”的封閉性加劇了刑事審判中控辯雙方信息不對(duì)稱的狀況,使本就處于弱勢(shì)地位的刑事被追訴人難以行使程序性權(quán)利。以質(zhì)證為例,最高人民法院《刑事訴訟法解釋》第七十一條規(guī)定:“證據(jù)未經(jīng)當(dāng)庭出示、辨認(rèn)、質(zhì)證等法庭調(diào)查程序查證屬實(shí),不得作為定案的根據(jù)?！弊C據(jù)質(zhì)證是被追訴人程序參與,實(shí)現(xiàn)庭審實(shí)質(zhì)化的重要方式,被告人行使質(zhì)證權(quán)的前提是能夠提前獲知控方證據(jù)的具體信息,作為質(zhì)證意見(jiàn)的依據(jù)。但是,面對(duì)控方借由智能系統(tǒng)生成的指控證據(jù),由于算法黑箱的存在,被追訴人難以獲知智能系統(tǒng)生成結(jié)論依賴的海量數(shù)據(jù)及智能算法,即便能夠獲知這些信息,被追訴人也缺乏相關(guān)知識(shí)進(jìn)行計(jì)算和理解。例如在一起涉稅案件中,整個(gè)案件涉及的資金流水?dāng)?shù)據(jù)達(dá)到上億條,賬戶數(shù)據(jù)上萬(wàn)個(gè),憑借人力難以進(jìn)行梳理與分析,檢察機(jī)關(guān)通過(guò)搭建數(shù)據(jù)模型,利用數(shù)據(jù)挖掘等技術(shù)刻畫(huà)了資金來(lái)源和去向的案件網(wǎng)絡(luò)[10],面對(duì)這一案件中數(shù)據(jù)模型生成的關(guān)于資金網(wǎng)絡(luò)的證據(jù)材料,數(shù)據(jù)量巨大,數(shù)據(jù)關(guān)系復(fù)雜,被告人及辯護(hù)律師難以對(duì)其有效進(jìn)行質(zhì)證。

二是智能系統(tǒng)的商業(yè)秘密特免權(quán)排斥刑事被追訴人獲知智能辦案系統(tǒng)的代碼信息,被追訴人難以參與到事關(guān)自身權(quán)益的決策程序中。這一現(xiàn)象在國(guó)內(nèi)并未引發(fā)爭(zhēng)議,在國(guó)外已經(jīng)成為智能辦案系統(tǒng)妨礙被追訴人正當(dāng)程序權(quán)利的爭(zhēng)論焦點(diǎn)[11]。當(dāng)受智能辦案系統(tǒng)決策影響的刑事被追訴人提出公開(kāi)智能辦案系統(tǒng)源代碼(source code)的請(qǐng)求時(shí),這些商業(yè)科技公司以這些代碼屬于本公司的商業(yè)秘密,應(yīng)享有商業(yè)秘密特免權(quán)(trade secret privilege)保護(hù)為由拒絕公開(kāi)智能辦案系統(tǒng)的代碼信息,并且這一主張得到了法院的支持。今后,商業(yè)秘密特免權(quán)在我國(guó)很可能成為橫亙?cè)谥悄苻k案系統(tǒng)與刑事被追訴人之間的鴻溝。2014年以來(lái),我國(guó)人工智能專利授權(quán)量增速較快,從人工智能專利的申請(qǐng)主體而言,2017年排名前20的中國(guó)申請(qǐng)人僅中國(guó)科學(xué)院為科研單位,其余均為企業(yè)申請(qǐng)人(3)國(guó)家知識(shí)產(chǎn)權(quán)局規(guī)劃發(fā)展司.2017年我國(guó)人工智能領(lǐng)域?qū)＠饕y(tǒng)計(jì)數(shù)據(jù)報(bào)告[EB/OL].(2018-10-18)[2021-01-24].https:∥www.cnipa.gov.cn/20181114100805476353.pdf.。同時(shí),我國(guó)刑事訴訟法第五十四條第三款規(guī)定:“對(duì)涉及國(guó)家秘密、商業(yè)秘密個(gè)人隱私的證據(jù),應(yīng)當(dāng)保密?！边@種商業(yè)秘密特免權(quán)在今后可能成為被追訴人參與智慧司法決策的阻礙。

(三)誤判風(fēng)險(xiǎn)

科技系統(tǒng)與司法系統(tǒng)分屬兩個(gè)不同的社會(huì)子系統(tǒng),二者在目標(biāo)利益與運(yùn)行邏輯上差異較大,例如科技注重對(duì)效率的追求,司法更強(qiáng)調(diào)公平而兼顧效率,這在刑事司法領(lǐng)域可能導(dǎo)致誤判的風(fēng)險(xiǎn)。

一是智能辦案系統(tǒng)的轉(zhuǎn)譯模式導(dǎo)致的誤判風(fēng)險(xiǎn)。在刑事司法場(chǎng)域,為了保障智能算法能夠識(shí)別法律文本,需要對(duì)其進(jìn)行代碼化轉(zhuǎn)譯。一方面,從法律文本的轉(zhuǎn)譯主體而言,智能系統(tǒng)的設(shè)計(jì)工程師和程序員將法律規(guī)范及相關(guān)司法解釋轉(zhuǎn)譯為能夠被算法識(shí)別運(yùn)算的程序代碼。但是,程序員并非法定的立法主體和法律解釋主體,同時(shí)其也缺乏相關(guān)的法律知識(shí),在轉(zhuǎn)譯的過(guò)程中程序員可能會(huì)曲解、簡(jiǎn)化法律文本,存在著被程序員簡(jiǎn)化或誤讀而改變立法原意的風(fēng)險(xiǎn)。例如,在美國(guó),從2004年9月到2007年4月之間,程序員將900多條理解錯(cuò)誤的法律規(guī)范編寫嵌入到科羅拉多州的公共福利系統(tǒng)(CMBS)中,這一失誤波及所有受該系統(tǒng)影響的人群,造成了成千上萬(wàn)受該系統(tǒng)配給社會(huì)福利的人喪失了公共福利待遇[12]。另一方面,法律文本轉(zhuǎn)譯的遲滯性問(wèn)題可能會(huì)帶來(lái)智能辦案系統(tǒng)的準(zhǔn)確性降低。政策法規(guī)向計(jì)算機(jī)代碼的轉(zhuǎn)換之間具有一定的時(shí)間差,一些新近修訂的政策法規(guī)無(wú)法及時(shí)嵌入自動(dòng)化決策系統(tǒng)從而導(dǎo)致系統(tǒng)決策準(zhǔn)確性降低。

二是智能辦案系統(tǒng)的數(shù)據(jù)處理方式導(dǎo)致的誤判風(fēng)險(xiǎn)。一方面,在數(shù)據(jù)輸入層面,刑事司法人工智能離不開(kāi)司法大數(shù)據(jù)的喂養(yǎng),在數(shù)據(jù)與智能的關(guān)系上,即“rubbish in,rubbish out”(垃圾進(jìn),垃圾出),司法大數(shù)據(jù)的質(zhì)量一定程度上決定了司法人工智能決策的質(zhì)量。我國(guó)目前司法大數(shù)據(jù)仍然存在著不充分、不真實(shí)、不客觀以及結(jié)構(gòu)化不足的特點(diǎn)[13],匱乏且低質(zhì)的數(shù)據(jù)輸入難以保障智能辦案系統(tǒng)的準(zhǔn)確性。另一方面,在數(shù)據(jù)處理層面,如果說(shuō)數(shù)據(jù)是人工智能運(yùn)行的“燃料”,那么處理數(shù)據(jù)的算法即是人工智能的“引擎”。在智能時(shí)代,算法已經(jīng)逐漸脫離“技術(shù)中立”的價(jià)值立場(chǎng),一些對(duì)性別、地域、種族等因素的預(yù)設(shè)觀念在進(jìn)行算法設(shè)計(jì)的同時(shí)也被植入到智能辦案系統(tǒng)中,由此導(dǎo)致的“算法偏見(jiàn)”“算法歧視”問(wèn)題也成為掣肘智能系統(tǒng)辦案準(zhǔn)確性的重要因素。

四、刑事審判中人工智能技術(shù)的規(guī)制路徑

面對(duì)刑事審判場(chǎng)域中人工智能的權(quán)力化趨勢(shì),人工智能規(guī)制更應(yīng)注重技術(shù)的權(quán)力傾向以及由此引發(fā)的對(duì)相關(guān)主體的引導(dǎo)與操控。因而,刑事審判場(chǎng)域中人工智能技術(shù)的規(guī)制應(yīng)主要從智能系統(tǒng)的操作主體——裁判者、智能系統(tǒng)的作用對(duì)象——辯護(hù)方以及智能系統(tǒng)自身三方面展開(kāi)。

(一)裁判自主化的適用機(jī)制

首先,根據(jù)案件類型合理安排智能系統(tǒng)的適用。目前,我國(guó)刑事輔助辦案智能系統(tǒng)主要具備證據(jù)標(biāo)準(zhǔn)指引查驗(yàn)、量刑輔助以及案件裁判偏離預(yù)警等功能,但是目前刑事智能系統(tǒng)的發(fā)展尚不完善,仍舊存在著案件情節(jié)提取準(zhǔn)確度不足、類案識(shí)別準(zhǔn)確率偏低以及模型訓(xùn)練的樣本瑕疵等問(wèn)題。為了保障準(zhǔn)確審判案件,保障被追訴人的合法權(quán)利不受智能系統(tǒng)決策的影響。一方面,根據(jù)案件的復(fù)雜程度以及量刑幅度決定是否適用智能系統(tǒng)輔助決策。倘若案件情節(jié)復(fù)雜、量刑可能偏高的案件應(yīng)當(dāng)減少智能系統(tǒng)的使用。另一方面,根據(jù)案件中被告人及辯護(hù)人的認(rèn)罪態(tài)度決定是否適用智能輔助系統(tǒng)。若被告人不認(rèn)罪或者辯護(hù)人做無(wú)罪辯護(hù)的,法院不宜使用智能系統(tǒng),防止智能系統(tǒng)產(chǎn)生的決策在認(rèn)知偏差的作用下使法官產(chǎn)生預(yù)判從而導(dǎo)致未判先決的情況發(fā)生[14]。

其次,根據(jù)智能辦案系統(tǒng)的功能合理選擇智能系統(tǒng)的適用。根據(jù)目前智能系統(tǒng)的功能,可以將其分為預(yù)警性功能與引導(dǎo)性功能,前者如案件審判偏離預(yù)警、量刑幅度預(yù)警,主要提醒裁判者案件審理的程序或?qū)嶓w性事項(xiàng),注重防錯(cuò)糾偏,這種功能往往集中于事后糾偏,對(duì)裁判自主性影響相對(duì)較小;后者如證據(jù)審查指引、量刑輔助以及類案指引等,這類功能傾向于事前引導(dǎo),可能會(huì)對(duì)裁判者產(chǎn)生心理錨定,影響司法權(quán)的自主運(yùn)行。因此,對(duì)于預(yù)警性功能而言,裁判者要認(rèn)真比對(duì)、核查人工決策與系統(tǒng)預(yù)警之間的差異,依據(jù)系統(tǒng)的預(yù)警提示作出的更改應(yīng)當(dāng)標(biāo)注留痕。對(duì)于引導(dǎo)性功能而言,可以借鑒美國(guó)法院使用COMPAS系統(tǒng)的經(jīng)驗(yàn),可以對(duì)裁判者提供辦案系統(tǒng)局限性的書(shū)面提示(written advisement of its limitation),告誡智能系統(tǒng)的操作者(法官)該系統(tǒng)的準(zhǔn)確性、透明性尚不完備,系統(tǒng)決策僅具有參考意義,在參照決策時(shí)應(yīng)當(dāng)審慎。

最后,裁判者應(yīng)提升自身的綜合素養(yǎng)。刑事智能系統(tǒng)對(duì)裁判者的控制支配源于裁判者的法學(xué)知識(shí)與算法的編碼知識(shí)之間的專業(yè)槽,這種專業(yè)之間的差距形成了算法對(duì)裁判者的相對(duì)權(quán)威,破解這種權(quán)力關(guān)系的途徑即是裁判者在自身的專業(yè)技能之外,能夠?qū)Υ髷?shù)據(jù)、智能算法以及辦案過(guò)程中應(yīng)用到的智能系統(tǒng)的工作原理有一定的了解,提高對(duì)刑事司法智能系統(tǒng)決策的認(rèn)知水平,逐漸破除因知識(shí)權(quán)威而形成的對(duì)智能系統(tǒng)的神秘感與依賴感。

(二)辯方平等化的參與機(jī)制

首先,拓寬智能辦案系統(tǒng)的公開(kāi)途徑。一是制作并公開(kāi)刑事司法智能系統(tǒng)的操作指南。美國(guó)刑事司法領(lǐng)域中COMPAS系統(tǒng)的操作指南(Practitione’s Guide to COMPAS Core)即面向全社會(huì)公開(kāi),這份指南由Northpointe公司編寫,一共分為六部分,對(duì)COMPAS系統(tǒng)的歷史發(fā)展、系統(tǒng)構(gòu)成、主要功能、運(yùn)行原理、系統(tǒng)估值含義以及系統(tǒng)決策的正確率與可靠性作了全面詳細(xì)的介紹與論證。我國(guó)的刑事司法智能系統(tǒng)目前尚未有公開(kāi)的操作指南,可以根據(jù)智能系統(tǒng)的具體功能制作并公開(kāi)完備的系統(tǒng)操作指南。二是設(shè)置智能系統(tǒng)的算法研發(fā)聽(tīng)證程序?？梢栽O(shè)立刑事司法智能系統(tǒng)算法評(píng)估委員會(huì),委員會(huì)里應(yīng)當(dāng)有技術(shù)專家、法學(xué)專家、社會(huì)公眾代表等人員的參與,就數(shù)據(jù)來(lái)源、數(shù)據(jù)提取和刪除標(biāo)準(zhǔn)、數(shù)據(jù)賦權(quán)比重、算法種類選取、算法運(yùn)行一般原理以及智能系統(tǒng)主要功能指向等問(wèn)題展開(kāi)介紹與討論,這樣可以在一定程度上增強(qiáng)智能系統(tǒng)的透明性,同時(shí)也使自身利益受智能算法影響的訴訟當(dāng)事人更易接受智能辦案系統(tǒng)的決策結(jié)論。三是關(guān)于智能辦案系統(tǒng)代碼商業(yè)秘密保護(hù)的問(wèn)題。根據(jù)我國(guó)《刑事訴訟法司法解釋》第八十一條規(guī)定:“公開(kāi)審理案件時(shí),公訴人、訴訟參與人提出涉及國(guó)家秘密、商業(yè)秘密或者個(gè)人隱私的證據(jù)的,法庭應(yīng)當(dāng)制止;確與本案有關(guān)的,可以根據(jù)具體情況,決定將案件轉(zhuǎn)為不公開(kāi)審理,或者對(duì)相關(guān)證據(jù)的法庭調(diào)查不公開(kāi)進(jìn)行。”這一規(guī)定旨在通過(guò)不公開(kāi)審理等程序性技術(shù)措施緩解因商業(yè)秘密保護(hù)帶來(lái)的訴訟困難,因此當(dāng)刑事被追訴人提起公開(kāi)智能辦案系統(tǒng)相關(guān)涉及商業(yè)秘密信息的請(qǐng)求時(shí),可以通過(guò)不公開(kāi)審理、不公開(kāi)法庭調(diào)查等方式將商業(yè)秘密規(guī)制于庭審范圍內(nèi),保障智能辦案系統(tǒng)的核心算法信息僅在控辯之間公開(kāi)。

其次,保障刑事被追訴人能夠有效參與智能系統(tǒng)的權(quán)利。從數(shù)據(jù)層面而言,被指控人的辯護(hù)律師可以請(qǐng)求查看、修改、更正以及解釋智能系統(tǒng)中與自身權(quán)益相關(guān)的數(shù)據(jù)。我國(guó)刑事訴訟法第四十條規(guī)定:“辯護(hù)律師自人民檢察院對(duì)案件審查起訴之日起,可以查閱、摘抄、復(fù)制本案的案卷材料。其他辯護(hù)人經(jīng)人民法院、人民檢察院許可,也可以查閱、摘抄、復(fù)制上述材料?！边@一規(guī)定賦予辯護(hù)律師的閱卷權(quán)可以作為刑事被追訴人要求獲知智能系統(tǒng)內(nèi)相關(guān)數(shù)據(jù)的依據(jù)。例如辯護(hù)律師可以對(duì)系統(tǒng)中所錄入的前科信息、戶籍信息、工作信息以及教育水平等信息進(jìn)行核查與校正,保障數(shù)據(jù)的真實(shí)性與準(zhǔn)確性。從算法層面而言,可以賦予被指控人算法解釋權(quán)。算法解釋權(quán)是誕生于民商事糾紛領(lǐng)域內(nèi)的請(qǐng)求性權(quán)利,其在自動(dòng)化決策領(lǐng)域維護(hù)著雙方地位平等的法律價(jià)值,在刑事司法領(lǐng)域,由于智能系統(tǒng)導(dǎo)致控辯審在信息收集、分析能力上的不對(duì)稱的現(xiàn)象,司法機(jī)關(guān)應(yīng)當(dāng)對(duì)智能系統(tǒng)的算法進(jìn)行解釋。具體而言,解釋的主體包括智能系統(tǒng)的使用者和研發(fā)者;解釋的內(nèi)容應(yīng)當(dāng)主要包括輸入的數(shù)據(jù)類型、算法的運(yùn)行原理、智能辦案系統(tǒng)的主要功能、智能辦案系統(tǒng)的結(jié)論與現(xiàn)實(shí)決策之間的關(guān)聯(lián)性等;解釋的標(biāo)準(zhǔn)是以受系統(tǒng)決策影響的被指控人及其辯護(hù)律師能夠理解為限度,鑒于算法黑箱與技術(shù)專業(yè)性,解釋主體不必確切描繪系統(tǒng)運(yùn)算的具體過(guò)程細(xì)節(jié);解釋的方式可以通過(guò)口頭解釋或者通過(guò)可視化的動(dòng)畫(huà)演示。

最后,司法機(jī)關(guān)應(yīng)當(dāng)履行告知義務(wù)。刑事被指控人應(yīng)對(duì)智能系統(tǒng)抗辯權(quán)的行使離不開(kāi)司法機(jī)關(guān)的有效告知。司法機(jī)關(guān)在應(yīng)用刑事智能系統(tǒng)之前,尤其是在影響被指控人權(quán)利的領(lǐng)域,例如輔助量刑時(shí),應(yīng)當(dāng)告知犯罪嫌疑人、被告人其司法決策的決定過(guò)程摻入了智能系統(tǒng)的計(jì)算結(jié)論。例如公訴機(jī)關(guān)應(yīng)用智能系統(tǒng)量刑輔助功能制作量刑建議書(shū)時(shí)應(yīng)當(dāng)告知犯罪嫌疑人,法官在應(yīng)用智能系統(tǒng)進(jìn)行證據(jù)查驗(yàn)、量刑輔助或者被告人的再犯可能性審查時(shí),也應(yīng)當(dāng)告知報(bào)告人。如果犯罪嫌疑人、被告人及其辯護(hù)律師明確表示不愿意適用智能系統(tǒng)的自動(dòng)決策結(jié)論,應(yīng)當(dāng)尊重其選擇,退出依靠智能系統(tǒng)輔助司法決策的決議過(guò)程,進(jìn)行人工審查決策。

(三)決策可靠化的研發(fā)機(jī)制

首先,提高刑事司法智能系統(tǒng)的技術(shù)研發(fā)水平。一是提高司法大數(shù)據(jù)數(shù)量與質(zhì)量。目前我國(guó)刑事司法智能系統(tǒng)的可輸入運(yùn)算的數(shù)據(jù)量仍較小,上海刑事案件智能輔助辦案系統(tǒng)僅學(xué)習(xí)了1.5萬(wàn)份卷宗材料,這一問(wèn)題應(yīng)當(dāng)給予司法機(jī)關(guān)和技術(shù)部門一定的時(shí)間尋求技術(shù)上的突破,中國(guó)的司法數(shù)據(jù)是較為豐富的,我國(guó)法院系統(tǒng)也正在不斷地將過(guò)往裁判文件數(shù)據(jù)化。同時(shí),應(yīng)當(dāng)注意輸入系統(tǒng)內(nèi)的數(shù)據(jù)與案件事實(shí)的相關(guān)性、地域差異性等因素。二是保障法律文本向程序代碼轉(zhuǎn)譯的準(zhǔn)確性。一方面,司法機(jī)關(guān)要主動(dòng)對(duì)嵌入系統(tǒng)中的法律文本進(jìn)行篩選,對(duì)已經(jīng)失效或修訂過(guò)的法律規(guī)范進(jìn)行剔除與校正,對(duì)智能系統(tǒng)進(jìn)行周期性評(píng)測(cè),保障系統(tǒng)運(yùn)算結(jié)果的準(zhǔn)確性。另一方面,應(yīng)當(dāng)促進(jìn)法學(xué)知識(shí)與算法知識(shí)的融合,技術(shù)人員對(duì)法律文本進(jìn)行代碼化的過(guò)程中,司法人員應(yīng)當(dāng)介入并對(duì)相關(guān)專業(yè)術(shù)語(yǔ)作出解釋,將司法專業(yè)知識(shí)與司法實(shí)踐知識(shí)結(jié)合,將司法理論知識(shí)與計(jì)算機(jī)科學(xué)知識(shí)結(jié)合,確保辦案系統(tǒng)研發(fā)的專業(yè)性與準(zhǔn)確性。

其次,對(duì)刑事司法領(lǐng)域中的智能系統(tǒng)進(jìn)行第三方評(píng)估監(jiān)管。第三方監(jiān)管評(píng)測(cè)是國(guó)外規(guī)制刑事司法風(fēng)險(xiǎn)評(píng)估工具的常見(jiàn)舉措。例如,哈佛大學(xué)法學(xué)院開(kāi)展了對(duì)美國(guó)若干州內(nèi)審前風(fēng)險(xiǎn)評(píng)估工具效能評(píng)估的項(xiàng)目,對(duì)美國(guó)若干州內(nèi)的公共安全評(píng)估(public safety assessment,PSA)系統(tǒng)的功效進(jìn)行評(píng)測(cè),目的是為了測(cè)試風(fēng)險(xiǎn)評(píng)估工具生成的審前羈押決策(pretrial incarceration decisions)的準(zhǔn)確性和實(shí)效性。我國(guó)可以考慮將科研院所、高校以及非盈利機(jī)構(gòu)作為智能辦案系統(tǒng)評(píng)估的主體,將智能系統(tǒng)的數(shù)據(jù)采集、算法模型選取以及系統(tǒng)決策錯(cuò)誤率作為評(píng)測(cè)的主要內(nèi)容,對(duì)國(guó)內(nèi)刑事智能辦案系統(tǒng)的可靠性進(jìn)行評(píng)測(cè)。此外,應(yīng)當(dāng)注意的是第三方評(píng)估的周期性,應(yīng)當(dāng)定期開(kāi)展系統(tǒng)評(píng)估,為司法機(jī)關(guān)與技術(shù)部門提供長(zhǎng)效穩(wěn)定的評(píng)估報(bào)告。