徐前權(quán) 郭倫

(1.長(zhǎng)江大學(xué) 人文社科處，湖北 荊州 434023；2.長(zhǎng)江大學(xué) 法學(xué)院，湖北 荊州 434023)

法院信息化建設(shè)與量刑規(guī)范化改革是當(dāng)下司法改革的兩大任務(wù)，加之AI技術(shù)的逐漸成熟，三者共同促成了人工智能輔助量刑系統(tǒng)的研發(fā)推廣。所謂人工智能輔助量刑，是指在大數(shù)據(jù)、云計(jì)算的技術(shù)支撐下構(gòu)建法律圖譜，通過(guò)提取法律文書(shū)要素，進(jìn)行類(lèi)案識(shí)別和模型訓(xùn)練，用機(jī)器學(xué)習(xí)等人工智能方法形成量刑算法，在此基礎(chǔ)上實(shí)現(xiàn)量刑預(yù)測(cè)和偏離度測(cè)算。[1]

人工智能輔助量刑是大數(shù)據(jù)時(shí)代司法改革的嘗試，與傳統(tǒng)的刑事訴訟相比，其核心有兩點(diǎn)。第一，以大數(shù)據(jù)技術(shù)為突破口，以人工智能為載體，借以解決人類(lèi)思維局限性、司法壓力大、量刑公信力低等問(wèn)題，將科技價(jià)值與人類(lèi)情感價(jià)值相結(jié)合，互補(bǔ)短板，以人工智能輔助量刑推動(dòng)法院量刑規(guī)范化、精細(xì)化，最大限度發(fā)揮科技的法律價(jià)值。第二，通過(guò)在量刑程序中引入人工智能，以人工智能量刑的獨(dú)立性，為量刑程序的相對(duì)獨(dú)立保駕護(hù)航，這對(duì)于定罪程序與量刑程序的相對(duì)分離有極其重要的作用。其本質(zhì)都是為了更好地實(shí)現(xiàn)量刑規(guī)范化改革與法院信息化建設(shè)。

在司法政策的支持下，各地法院積極將人工智能引入審判體系，涌現(xiàn)出許多人工智能輔助量刑系統(tǒng)，如北京“睿法官”系統(tǒng)、廣州“智審輔助量刑裁決系統(tǒng)”、上?！?06”系統(tǒng)等，這些系統(tǒng)盡管不盡相同，但大都具有卷宗識(shí)別提取、理論量刑建議、實(shí)證量刑分析三大底層功能。然而，相較于刑事政策與司法實(shí)踐的積極主動(dòng)，學(xué)界在對(duì)人工智能輔助量刑的應(yīng)用表示歡迎的同時(shí)，更多了一份謹(jǐn)慎?，F(xiàn)階段，人工智能輔助量刑系統(tǒng)正在全國(guó)推廣應(yīng)用，其風(fēng)險(xiǎn)還未充分暴露。人工智能輔助量刑系統(tǒng)實(shí)現(xiàn)其價(jià)值主要依靠邏輯算法與數(shù)據(jù)庫(kù)，本文將以二者為出發(fā)點(diǎn)，探討人工智能輔助量刑系統(tǒng)的應(yīng)用可能造成的風(fēng)險(xiǎn)，進(jìn)而為規(guī)避其風(fēng)險(xiǎn)提出對(duì)策。

一、人工智能輔助量刑的風(fēng)險(xiǎn)預(yù)判

(一)機(jī)器價(jià)值驅(qū)逐人的價(jià)值

馬克斯·韋伯曾說(shuō)過(guò)“司法不是自動(dòng)售貨機(jī)”，這句法律人耳熟能詳?shù)脑?huà)經(jīng)常被用來(lái)批判司法過(guò)程中的機(jī)械主義。人工智能輔助量刑系統(tǒng)的應(yīng)用，固然對(duì)量刑規(guī)范化改革有很大益處，但同時(shí)我們也應(yīng)當(dāng)警惕機(jī)器對(duì)人的價(jià)值的過(guò)度排斥，防止量刑規(guī)范化改革向機(jī)械主義量刑轉(zhuǎn)變。在刑事量刑過(guò)程中，我們應(yīng)當(dāng)注意到，刑罰的裁量不僅僅是對(duì)已有犯罪行為的懲罰和報(bào)復(fù)，還有對(duì)人身危險(xiǎn)性、再犯可能性的判斷。人工智能可以通過(guò)對(duì)司法數(shù)據(jù)庫(kù)的檢索分析得出基本犯罪事實(shí)的類(lèi)同量刑結(jié)果，但是對(duì)于人身危險(xiǎn)性、再犯可能性的判斷，人工智能無(wú)法全面涵蓋和考量，因?yàn)楹笳叱送ㄟ^(guò)對(duì)犯罪人已有犯罪行為以及行為后的表現(xiàn)來(lái)推斷，很多方面還需要法官當(dāng)面交流、切實(shí)感受，即所謂的“察言觀(guān)色”、個(gè)人體會(huì)，這里需要的是經(jīng)驗(yàn)、情感，而不是大數(shù)據(jù)與算法。一個(gè)合格的司法裁判，不僅要立足于案件事實(shí)和法律規(guī)定的硬性因素，更要結(jié)合社會(huì)倫理、價(jià)值判斷、社情民意等軟性因素進(jìn)行綜合考量，自由心證、排除合理懷疑等制度設(shè)計(jì)，就是為了緩解機(jī)械司法所帶來(lái)的弊端。[2]證據(jù)裁判規(guī)則對(duì)法官的每一項(xiàng)決定都作出了證據(jù)要求，這似乎為人工智能介入量刑提供了很好的理論支撐，但是，在實(shí)踐中人的因素不可避免，這就導(dǎo)致了機(jī)器與人之間的博弈。

綜上，人工智能介入量刑確實(shí)會(huì)實(shí)現(xiàn)類(lèi)案類(lèi)判這一價(jià)值目的，但是，人工智能的介入不是毫無(wú)界限的，不能因?yàn)槿说囊蛩夭豢煽兀蛯⒎ü俚淖杂刹昧繖?quán)無(wú)限壓縮甚至排除在量刑之外。量刑不僅具有法律價(jià)值，還具有情感價(jià)值，在“弱人工智能”的今天，量刑不可能完全機(jī)器化、數(shù)據(jù)化，機(jī)器無(wú)“人性”這一特性導(dǎo)致機(jī)器無(wú)法實(shí)現(xiàn)量刑中的情感價(jià)值，在考慮罪犯的人身危險(xiǎn)性和再犯可能性時(shí)，人的因素還是占主導(dǎo)地位。對(duì)于法官濫用自由裁量權(quán)的問(wèn)題，解決的關(guān)鍵在于意識(shí)培養(yǎng)與監(jiān)督制約，而不是剝奪權(quán)力。即便在“強(qiáng)人工智能”時(shí)代，機(jī)器可以發(fā)揮情感價(jià)值，擁有了人的屬性，這時(shí)候?qū)ζ溥M(jìn)行監(jiān)督，無(wú)非是今天對(duì)法官監(jiān)督的一個(gè)輪回。再小的權(quán)力都有濫用的風(fēng)險(xiǎn)，我們需要尊重這一現(xiàn)實(shí)，做好對(duì)權(quán)力的監(jiān)督制約，而不是剝奪法官的自由裁量權(quán)。

(二)過(guò)度追求司法效率，忽略司法公正

目前，司法機(jī)關(guān)普遍存在對(duì)司法效率的過(guò)度追求，忽略司法公正。以“于歡辱母案”為例，于歡因不堪母親受辱，持刀刺傷四人，最終導(dǎo)致一人死亡。在整個(gè)事件中，不論是警察執(zhí)法還是法院司法，效率優(yōu)先都體現(xiàn)得淋漓盡致。警察在執(zhí)法過(guò)程中一直秉持“大事化小，小事化了”的理念，未及時(shí)采取相關(guān)強(qiáng)制措施，以致悲劇最終發(fā)生。在法院審判過(guò)程中，于歡一審被聊城市中級(jí)人民法院判處無(wú)期徒刑，輿論發(fā)酵后，山東省高級(jí)人民法院在二審中撤銷(xiāo)了一審判決，二審判處于歡有期徒刑五年。聊城中院做出一審判決的理由是，當(dāng)時(shí)的情況下，于歡及其母親的生命健康權(quán)受到的危險(xiǎn)性較小，不存在防衛(wèi)的緊迫性。[3]事實(shí)上，法官還是沒(méi)有站在被告人當(dāng)時(shí)的地位考慮問(wèn)題，沒(méi)有從人性角度出發(fā)，沒(méi)有考慮當(dāng)時(shí)環(huán)境下被告人于歡的判斷力和控制力。更多的底層邏輯依然是司法效率，對(duì)于命案依然是穩(wěn)妥且迅速辦理，缺乏對(duì)案件的開(kāi)創(chuàng)性思考，本質(zhì)上就是缺乏對(duì)司法公正的執(zhí)著追求，這種效率優(yōu)先的思維在智能輔助量刑的實(shí)踐中更需警惕。

效率和公正都是司法所追求的目標(biāo)，二者不可偏廢。在人工智能迅猛發(fā)展和司法改革的背景下，全國(guó)各地法院都掀起了“智慧法院”建設(shè)，大力發(fā)展司法人工智能，想要借此打破“案多人少”和“類(lèi)案別判”的司法困境。司法人工智能的應(yīng)用無(wú)疑有巨大潛力，但是，過(guò)于追求解決目前司法困境的功利性目的，勢(shì)必會(huì)造成對(duì)司法公正的忽略。利用人工智能輔助法官辦案會(huì)提高辦案效率，但同時(shí)也加強(qiáng)了對(duì)法官的監(jiān)督，限制了法官自由裁量權(quán)的行使，類(lèi)案畢竟有別，法官的自由裁量權(quán)的行使有利于個(gè)案正義的實(shí)現(xiàn)，這就需要尋找一個(gè)契合點(diǎn)，找準(zhǔn)人工智能與法官之間的界限。“司法是維護(hù)社會(huì)公平正義的最后一道防線(xiàn)”[4]，司法人工智能的發(fā)展應(yīng)當(dāng)同時(shí)關(guān)注司法效率與司法公正。我們也應(yīng)當(dāng)明白，公正是司法的第一追求，當(dāng)司法人工智能的運(yùn)用導(dǎo)致司法效率與司法正義二者沖突時(shí)，應(yīng)當(dāng)堅(jiān)持“公正優(yōu)先，兼顧效率”的原則，[5]始終把公平正義作為根本目標(biāo)和價(jià)值追求。

(三)算法歧視沖擊量刑公正

算法歧視將會(huì)是一種最根本、最徹底、最統(tǒng)一的歧視。[6]人工智能輔助量刑系統(tǒng)在對(duì)犯罪人既存的犯罪事實(shí)進(jìn)行分析的基礎(chǔ)上，結(jié)合已經(jīng)存在的類(lèi)似的犯罪歷史數(shù)據(jù)，通過(guò)不摻雜私人感情的、客觀(guān)公正的算法計(jì)算，得出一個(gè)最終的量刑結(jié)果，這減少了人的主觀(guān)因素等不確定因素對(duì)案件量刑的影響。但是，作為計(jì)算基礎(chǔ)的數(shù)據(jù)庫(kù)是已經(jīng)存在的，如果數(shù)據(jù)庫(kù)存在數(shù)據(jù)偏差，那么，算法將被迫接受這樣的規(guī)律，最終導(dǎo)致統(tǒng)一的、大規(guī)模的量刑偏差。例如，無(wú)業(yè)盜竊犯往往更會(huì)引起法官的厭惡，在法官自由裁量權(quán)范圍內(nèi)可能會(huì)遭受更重的刑罰；住所地與法院所在地是否一致，成為法官是否決定適用緩刑的重要考量因素等。如果一個(gè)地區(qū)大部分法官都帶有這種非法律因素的偏見(jiàn)，那么，人工智能輔助量刑在對(duì)司法大數(shù)據(jù)進(jìn)行分析時(shí)會(huì)被迫接受這種原始歧視，并且這種原始歧視將得到系統(tǒng)強(qiáng)化，甚至發(fā)展成為統(tǒng)一的、百分之百的司法錯(cuò)誤。在法官主導(dǎo)司法的過(guò)程中，即便人的種種不確定因素會(huì)影響量刑結(jié)果的準(zhǔn)確性，但不可否認(rèn)的是，仍然會(huì)有一部分法官堅(jiān)守對(duì)量刑公正的追求，這會(huì)不斷糾偏，并且隨著相關(guān)監(jiān)管措施的落實(shí)，法官單獨(dú)量刑的準(zhǔn)確性必然會(huì)得到提高，只是需要時(shí)間來(lái)達(dá)到這一目標(biāo)。如果盲目地使用智能輔助量刑系統(tǒng)，可能會(huì)導(dǎo)致人工智能對(duì)已判案件量刑情節(jié)和結(jié)果的機(jī)械性適用，一旦原始數(shù)據(jù)出現(xiàn)上述量刑歧視的情況，而人工智能的機(jī)械性又注定其不具有實(shí)現(xiàn)個(gè)案正義的開(kāi)創(chuàng)性，系統(tǒng)會(huì)從司法數(shù)據(jù)庫(kù)中尋找類(lèi)同于“住所地決定緩刑適用”這樣的潛規(guī)則并指導(dǎo)實(shí)踐，實(shí)踐案例又將成為系統(tǒng)學(xué)習(xí)的“母本”，最終這條潛規(guī)則將架空法律。因此，在量刑這樣具有價(jià)值判斷的領(lǐng)域，應(yīng)當(dāng)保證法官的主導(dǎo)地位。

(四)算法黑箱影響司法透明化

算法作為人工智能的核心決定著智能化系統(tǒng)的行為，對(duì)于多數(shù)人(包括司法人員和當(dāng)事人)來(lái)說(shuō)，算法的隱秘性決定了它是一個(gè)黑箱般的存在，人們只知其果，不知其因，尤其是對(duì)大數(shù)據(jù)中類(lèi)同案件的分析取舍，人們無(wú)法得知，或者說(shuō)，也難以明白其算法邏輯，這對(duì)需要接受量刑結(jié)果的當(dāng)事人而言，有悖于司法透明化原則。美國(guó)威斯康星州訴盧米斯案是人工智能輔助量刑中關(guān)于算法黑箱的典型案例，懲戒署官員制作量刑前調(diào)查報(bào)告時(shí)，利用COMPAS風(fēng)險(xiǎn)評(píng)估工具對(duì)盧米斯進(jìn)行累犯風(fēng)險(xiǎn)評(píng)估，因?yàn)镃OMPAS背后的評(píng)估算法屬于商業(yè)秘密，所以懲戒署提供的報(bào)告中僅有累犯風(fēng)險(xiǎn)的評(píng)估數(shù)值。法院在量刑時(shí)參考了該評(píng)估結(jié)果，并部分基于此判處了盧米斯6年有期徒刑和5年社區(qū)監(jiān)督(extended supervision)。盧米斯主張COMPAS以性別作為其量刑分析的考量因素違憲，法院依靠COMPAS系統(tǒng)做出的量刑判決侵犯了自己的正當(dāng)程序權(quán)利，但最終威斯康星州最高法院維持了原判。[7]COMPAS風(fēng)險(xiǎn)評(píng)估工具所使用的算法由于涉及商業(yè)秘密是不公開(kāi)的，過(guò)程不公開(kāi)必然導(dǎo)致最終量刑結(jié)果的說(shuō)理不充分，直接影響司法透明化甚至是司法公正，要想解決算法黑箱，需要從源頭入手，相關(guān)法學(xué)工作者需要介入算法的初始設(shè)計(jì)階段，進(jìn)行監(jiān)督和學(xué)習(xí)，算法設(shè)計(jì)企業(yè)也需要做出妥協(xié)，目前公開(kāi)算法是解決該問(wèn)題最可行的辦法。

二、人工智能輔助量刑的防范建議

(一)明確定位

人工智能輔助量刑系統(tǒng)，“輔助”二字就表明了系統(tǒng)的工具屬性，其價(jià)值是幫助法官更好地進(jìn)行司法裁判，而不是侵蝕甚至取代法官的獨(dú)立裁判地位，其所追求的是人工智能和法官都能實(shí)現(xiàn)自己對(duì)于案件的價(jià)值。具體而言，就是將案件的情感價(jià)值與法律價(jià)值相分離，法官解決案件的情感問(wèn)題，人工智能解決案件的法律問(wèn)題，二者之間是配合而不是替代關(guān)系，并且法官將一直占據(jù)主導(dǎo)地位。這是因?yàn)槟壳暗娜斯ぶ悄芎腿四X差距巨大，人工智能所依靠的核心是算法，機(jī)器深度學(xué)習(xí)是在算法不斷更新、數(shù)據(jù)不斷錄入的情況下進(jìn)行的，這是一個(gè)十分艱難的過(guò)程。而人腦基于天然的優(yōu)勢(shì)，每次攝入數(shù)據(jù)都會(huì)帶來(lái)人們思維上的長(zhǎng)進(jìn)，只有人腦可以應(yīng)對(duì)新情況、新問(wèn)題，而機(jī)器對(duì)數(shù)據(jù)的解讀能力是以算法能夠覆蓋數(shù)據(jù)為前提的。[8]因此，人工智能只是技術(shù)工具，無(wú)法代替人類(lèi)進(jìn)行主體性思考。將人工智能引入量刑是為了提升司法效率和推進(jìn)量刑規(guī)范化改革，這與保留法官自由裁量權(quán)并不沖突，在現(xiàn)階段，二者之間有一個(gè)契合，即法官占主導(dǎo)地位，人工智能起輔助作用。這樣做的考量有二：一是目前的社會(huì)觀(guān)念無(wú)法接納機(jī)器深度介入量刑，法官的權(quán)力來(lái)源于公共授權(quán)，法官以事實(shí)為依據(jù)，以法律為準(zhǔn)繩，獨(dú)立行使司法權(quán)，不受任何人與機(jī)構(gòu)的制約，如果人工智能取代法官的主導(dǎo)地位，將人類(lèi)置于機(jī)器人的司法管轄之下，不僅違背了公眾對(duì)于法官的期待，還有悖于倫理與法理；[2]二是目前的智能量刑算法模型、機(jī)器深度學(xué)習(xí)等核心技術(shù)尚未成熟，暫時(shí)還沒(méi)有深度介入司法裁判全過(guò)程的能力。人工智能還遠(yuǎn)遠(yuǎn)不能實(shí)現(xiàn)量刑過(guò)程中的情感價(jià)值，諸如在對(duì)犯罪人人身危險(xiǎn)性、再犯可能性進(jìn)行考量時(shí)，法官可以通過(guò)長(zhǎng)時(shí)間生活、工作形成的經(jīng)驗(yàn)和人類(lèi)情感上的共鳴來(lái)切實(shí)感受，而機(jī)器是在對(duì)犯罪人既存的犯罪事實(shí)和表現(xiàn)綜合分析的基礎(chǔ)上得出結(jié)論，相較于法官的切實(shí)感受而言，機(jī)器分析存在明顯的覆蓋瑕疵。因此，現(xiàn)階段人工智能只可能是法官量刑的一種技術(shù)性輔助工具。

人工智能輔助量刑作為一種技術(shù)性輔助工具可以很好地發(fā)揮提升司法效率的價(jià)值，同時(shí)，法官的主導(dǎo)地位又可以最大限度地兼顧個(gè)案的正義，這對(duì)于解決目前的司法困境和推進(jìn)量刑規(guī)范化改革都具有重要意義。為了更好地保障法官的主體地位，防止對(duì)人工智能的過(guò)度依賴(lài)，需要在立法層面對(duì)人工智能輔助量刑的輔助屬性進(jìn)行確定，對(duì)此，可以參考國(guó)家衛(wèi)生和計(jì)劃生育委員會(huì)頒布的《人工智能輔助診斷技術(shù)管理規(guī)范(2017 年版)》，該規(guī)范明確規(guī)定在醫(yī)療活動(dòng)中，人工智能輔助診斷技術(shù)屬于臨床診斷決策的參考，不能直接作為臨床最終診斷的結(jié)論，最終的診斷必須經(jīng)由具備資格的臨床醫(yī)師決定。[9]此外，需要加強(qiáng)對(duì)法官使用人工智能輔助量刑的培訓(xùn)學(xué)習(xí)，明確相關(guān)的操作流程和使用風(fēng)險(xiǎn)，切實(shí)發(fā)揮好機(jī)器輔助法官的科技價(jià)值。

(二)優(yōu)化資源

數(shù)據(jù)庫(kù)是人工智能輔助量刑的根基，司法大數(shù)據(jù)應(yīng)用的前提是數(shù)據(jù)客觀(guān)、真實(shí)、準(zhǔn)確。要保證量刑結(jié)果的客觀(guān)公正，首先需要保證數(shù)據(jù)的客觀(guān)公正。

1.保證數(shù)據(jù)客觀(guān)完整

第一，注重對(duì)入庫(kù)案件的質(zhì)量審查。對(duì)已經(jīng)入庫(kù)的案件要做質(zhì)量篩選，將文書(shū)語(yǔ)言不規(guī)范、法律適用不合理、量刑失衡的案件剔除，在初期階段對(duì)準(zhǔn)備入庫(kù)的案件也要審查相關(guān)的文書(shū)語(yǔ)言與量刑內(nèi)容，保證原始數(shù)據(jù)的準(zhǔn)確可靠。第二，整合數(shù)據(jù)庫(kù)，保證數(shù)據(jù)的全面性。使用智能量刑輔助系統(tǒng)的地方司法機(jī)關(guān)應(yīng)做好案件公開(kāi)工作，整合當(dāng)?shù)氐乃痉〝?shù)據(jù)庫(kù)，解決數(shù)據(jù)庫(kù)局限的問(wèn)題。還要擴(kuò)大司法數(shù)據(jù)的收集范圍，不僅僅是案件的裁判文書(shū)收集，還需將訊問(wèn)筆錄、庭審筆錄等相關(guān)信息收集錄入，保證案件信息的完整性。

2.保證數(shù)據(jù)精準(zhǔn)合理

第一，及時(shí)更新數(shù)據(jù)庫(kù)。隨著經(jīng)濟(jì)、社會(huì)的不斷發(fā)展，很多法律條文也在不斷更新，以廢止掉的法律為依據(jù)量刑的案件也就不再適宜作為新案件量刑的參考數(shù)據(jù)，這就需要定時(shí)對(duì)司法數(shù)據(jù)庫(kù)進(jìn)行鑒別篩選。新出臺(tái)的相關(guān)法規(guī)也需要及時(shí)錄入，并及時(shí)補(bǔ)充以其為依據(jù)的案件。對(duì)此，需要建立一套完整的篩選更新機(jī)制，保證數(shù)據(jù)庫(kù)的時(shí)效性。第二，加大指導(dǎo)案例的參考價(jià)值。經(jīng)過(guò)司法人工智能產(chǎn)出的量刑數(shù)據(jù)屬于“二手?jǐn)?shù)據(jù)”,法官對(duì)其的控制權(quán)并不大，在目前這樣一個(gè)適用人工智能輔助量刑的初級(jí)階段，限制人工智能輔助量刑產(chǎn)出數(shù)據(jù)的錄入，提高指導(dǎo)性案例的參考價(jià)值，保證法官對(duì)司法核心數(shù)據(jù)的控制權(quán)，是十分必要的。

3.保證數(shù)據(jù)分類(lèi)科學(xué)

數(shù)據(jù)完整與數(shù)據(jù)精準(zhǔn)是對(duì)司法數(shù)據(jù)的內(nèi)容優(yōu)化，科學(xué)分類(lèi)則是對(duì)司法數(shù)據(jù)的系統(tǒng)優(yōu)化。第一，按照司法裁判數(shù)據(jù)中的基本信息進(jìn)行分類(lèi)，包括但不限于裁判年份、法院層級(jí)、地域及文書(shū)類(lèi)型、案由。第二，細(xì)化裁判文書(shū)關(guān)鍵內(nèi)容分類(lèi)，如故意犯、偶犯、共同犯罪、自首、立功、人身權(quán)利、財(cái)產(chǎn)權(quán)利等。第三，對(duì)法官說(shuō)理部分合理分類(lèi)，法官說(shuō)理是法官情感價(jià)值在裁判文書(shū)中的集中體現(xiàn)，可以按照法官在說(shuō)理中所引述的法條、原則和裁決關(guān)鍵詞進(jìn)行分類(lèi)。通過(guò)多方面、多層次的科學(xué)分類(lèi)，做到類(lèi)案檢索的快、全、準(zhǔn)。

(三)公正保障

算法歧視和算法黑箱是司法人工智能繞不過(guò)去的問(wèn)題，算法的隱秘性和數(shù)據(jù)庫(kù)的復(fù)雜性是造成二者的原因所在，也是影響量刑公正的原因所在。解決算法歧視的關(guān)鍵在于，保證司法數(shù)據(jù)庫(kù)中的數(shù)據(jù)客觀(guān)、完整、合理，屬于前面優(yōu)化資源所追求的目標(biāo)。

對(duì)于解決算法黑箱，筆者有兩點(diǎn)建議。

1.完善審查機(jī)制，強(qiáng)制算法公開(kāi)

算法黑箱的本質(zhì)是算法的隱秘性，解決問(wèn)題的關(guān)鍵也在于此。在算法構(gòu)建引入的初期，司法機(jī)關(guān)就需要做好相關(guān)的審查工作，做好對(duì)算法模型構(gòu)建的監(jiān)督工作，評(píng)估其算法的客觀(guān)性、合理性，會(huì)同社會(huì)相關(guān)專(zhuān)家研討，并公布相關(guān)的審查報(bào)告，做好對(duì)算法構(gòu)建的內(nèi)部監(jiān)督。人工智能輔助量刑是為了維護(hù)和促進(jìn)司法公正，但算法往往因?yàn)樯婕吧虡I(yè)秘密而無(wú)法公布，反過(guò)來(lái)?yè)p害了司法公正，這有悖于司法人工智能的設(shè)計(jì)初衷。為了維護(hù)司法的透明化和司法公正，算法設(shè)計(jì)的相關(guān)企業(yè)機(jī)構(gòu)需要做出讓步。

2.構(gòu)建問(wèn)責(zé)機(jī)制，保障權(quán)利救濟(jì)

任何權(quán)力都有被濫用的風(fēng)險(xiǎn)，不論是算法設(shè)計(jì)還是算法應(yīng)用，都需要構(gòu)建相關(guān)的問(wèn)責(zé)機(jī)制。在對(duì)算法設(shè)計(jì)進(jìn)行監(jiān)督的同時(shí)需要明確相關(guān)的責(zé)任，不論是設(shè)計(jì)者還是監(jiān)督者，都需要對(duì)自己行為的結(jié)果承擔(dān)責(zé)任。法官對(duì)輔助量刑系統(tǒng)的應(yīng)用也需要受到責(zé)任制約，否則，法官將量刑責(zé)任推給人工智能輔助量刑系統(tǒng)，那么，群眾的權(quán)利救濟(jì)就相當(dāng)困難。如果二審?fù)瑯舆m用人工智能輔助量刑，那么，只要法官在量刑輔助系統(tǒng)里填入相同的信息，一審二審的量刑結(jié)果將完全一致，上訴也就失去了意義。為了保障犯罪人得到公正裁決，必須在人工智能輔助量刑的新模式下構(gòu)建相應(yīng)的權(quán)利救濟(jì)途徑和相關(guān)的問(wèn)責(zé)機(jī)制。

(四)強(qiáng)化說(shuō)理

人工智能輔助系統(tǒng)的算法模型擁有案件量刑情節(jié)提取分析、文書(shū)生成的功能，方便法官量刑的同時(shí)也削弱了量刑程序?qū)Ψü俚慕^對(duì)依靠，法官在擺脫體力勞動(dòng)的同時(shí)也減輕了腦力勞動(dòng)，這就可能導(dǎo)致法官量刑責(zé)任意識(shí)的惰化。法官在智能輔助量刑中的情感價(jià)值無(wú)法得到固定量化之前，法官憑借輔助系統(tǒng)便可完成案件的量刑分析甚至是部分說(shuō)理，這就會(huì)導(dǎo)致法官逃避甚至是無(wú)需說(shuō)理，造成法官辦案能力的下降。筆者認(rèn)為，即便智能輔助量刑可以起到釋法的功能，但是說(shuō)理的功能仍然應(yīng)當(dāng)由法官獨(dú)立完成，并且在智能輔助量刑的背景下得到加強(qiáng)。由機(jī)器發(fā)揮法律價(jià)值，由法官發(fā)揮情感價(jià)值，都應(yīng)該在判決書(shū)中得到體現(xiàn)。在智能輔助量刑系統(tǒng)應(yīng)用的初級(jí)階段，強(qiáng)化判決書(shū)的釋法說(shuō)理是十分必要的，這不僅是對(duì)個(gè)案權(quán)威的追求，也是對(duì)司法數(shù)據(jù)庫(kù)原始數(shù)據(jù)的優(yōu)化，可以為人工智能深化學(xué)習(xí)提供良好的基礎(chǔ)。具體實(shí)踐上，可以明確規(guī)制法官對(duì)判決書(shū)中分析說(shuō)理的獨(dú)立書(shū)寫(xiě)權(quán)，限制智能系統(tǒng)對(duì)判決書(shū)釋法說(shuō)理的自動(dòng)生成，并且明確法官對(duì)量刑結(jié)果尤其是說(shuō)理部分的責(zé)任。

(五)完善立法

人工智能輔助量刑是我國(guó)正在進(jìn)行的一項(xiàng)司法智能化改革，目前正處在初級(jí)實(shí)踐階段，還有很多技術(shù)需要完善。在這樣的背景下，關(guān)于人工智能輔助量刑的立法幾乎沒(méi)有，僅有最高人民檢察院、最高人民法院和政府的一些規(guī)劃書(shū)，這就導(dǎo)致了各省都有自己的具體實(shí)施計(jì)劃，其所利用的人工智能輔助量刑系統(tǒng)也不盡相同，并且這些系統(tǒng)缺乏國(guó)家的統(tǒng)一管理。智能輔助量刑系統(tǒng)的定位、算法風(fēng)險(xiǎn)、機(jī)械性風(fēng)險(xiǎn)都是目前暴露出來(lái)的問(wèn)題，不論是明確定位還是公開(kāi)算法，都需要國(guó)家出臺(tái)相關(guān)法律，在全國(guó)進(jìn)行統(tǒng)一規(guī)劃，需要明確各省政府采購(gòu)和使用智能輔助量刑系統(tǒng)的具體事項(xiàng)和限制，明確法官對(duì)智能輔助量刑所承擔(dān)的法律責(zé)任，明確智能輔助量刑系統(tǒng)設(shè)計(jì)廠(chǎng)商所應(yīng)遵守的具體規(guī)定和相應(yīng)的法律責(zé)任，明確智能輔助量刑系統(tǒng)的監(jiān)管和權(quán)利救濟(jì)途徑。在人工智能輔助量刑技術(shù)逐漸成熟，系統(tǒng)擁有和使用的司法權(quán)力越來(lái)越大的趨勢(shì)下，立法以明確人工智能輔助量刑的相關(guān)內(nèi)容，能夠很好地緩和智能輔助量刑系統(tǒng)與法官和現(xiàn)行相關(guān)法律之間的沖突，有利于更好地實(shí)現(xiàn)司法的程序正義與實(shí)體正義。

三、結(jié)語(yǔ)

在大數(shù)據(jù)技術(shù)迅猛發(fā)展的背景下，刑事司法智能化是必然趨勢(shì)，在司法改革的背景下，智能輔助量刑系統(tǒng)是必然結(jié)果。智能輔助量刑系統(tǒng)的應(yīng)用符合目前的司法需求和社會(huì)現(xiàn)狀，其對(duì)法院的量刑規(guī)范化改革有時(shí)代賦予的契合性和重要性，當(dāng)前全國(guó)各地智能量刑輔助系統(tǒng)的普及應(yīng)用也表明了國(guó)家政策的肯定與支持，在此背景下，警惕智能輔助量刑所蘊(yùn)含的機(jī)械性風(fēng)險(xiǎn)和算法風(fēng)險(xiǎn)并作出相應(yīng)的完善，對(duì)智能輔助量刑系統(tǒng)的良好運(yùn)行和司法正義的實(shí)現(xiàn)具有重要意義。