武曉瀟
太原科技大學(xué),山西 太原 030024
近幾年來(lái),人工智能的表現(xiàn)愈發(fā)耀眼,在全力打好新冠肺炎疫情防控阻擊戰(zhàn)的關(guān)鍵時(shí)刻,政府也將目光投向了人工智能。關(guān)于人工智能法律地位的確認(rèn),也再度引起了法律領(lǐng)域內(nèi)的爭(zhēng)議。
盡管在“官場(chǎng)+市場(chǎng)”[1]的雙重驅(qū)動(dòng)下,司法領(lǐng)域的AI應(yīng)用貌似熙熙攘攘,但實(shí)際效果卻不那么盡如人意。以案例自動(dòng)推送系統(tǒng)為例,盡管自動(dòng)化的案例推送提高了案件檢索的效率,但是,由于案例匹配精準(zhǔn)度不高,推送案例的范圍過(guò)窄、來(lái)源不明、層級(jí)不清等原因,一些法官使用意愿不強(qiáng)等主客觀因素,案例推送系統(tǒng)發(fā)揮的作用實(shí)為有限。[2]
然而,就像歷史上所有給人類(lèi)社會(huì)帶來(lái)顛覆性影響的科技一樣,人工智能的發(fā)展對(duì)現(xiàn)有的社會(huì)制度和規(guī)范也帶來(lái)了嚴(yán)峻的挑戰(zhàn)和沖擊,特別是在法學(xué)領(lǐng)域。本文以人工智能的法律地位問(wèn)題為中心,針對(duì)人工智能應(yīng)用的法律和現(xiàn)實(shí)困境展開(kāi)討論。
在大數(shù)據(jù)時(shí)代,“直覺(jué)的判斷被迫讓位于精準(zhǔn)的數(shù)據(jù)分析”[3]?!肮矝Q策最重要的依據(jù)將是系統(tǒng)的數(shù)據(jù)。過(guò)去深入群眾、實(shí)地考察的工作方法雖然仍然有效,但對(duì)決策而言,系統(tǒng)采集的數(shù)據(jù)、科學(xué)分析的結(jié)果更為重要”[4]。人工智能不僅僅可以輔助決策(supporting decision),還可以整合相關(guān)數(shù)據(jù)(assembling relevant data)進(jìn)行分析。通過(guò)人工智能對(duì)數(shù)據(jù)的收集整合,可以更清楚、更有效率地發(fā)現(xiàn)政策制定中的變量。這種變量分析越細(xì)致,相關(guān)的政策制定越具有科學(xué)性[5],行政機(jī)關(guān)以及政府就可能形成更富有科學(xué)性和滿足多數(shù)人需求的規(guī)則[6]。
然而,在大數(shù)據(jù)技術(shù)日臻成熟的今天,我們不再拘泥于傳統(tǒng)的問(wèn)題—原因—對(duì)策的邏輯順序,而可以直接尋找數(shù)據(jù)間的關(guān)聯(lián),并根據(jù)這種關(guān)聯(lián)來(lái)直接解決問(wèn)題,這就要求立法者從傳統(tǒng)的因果規(guī)律思維向蓋然性的數(shù)據(jù)規(guī)律的觀念上飛躍,具備數(shù)據(jù)思維[7]。然而,當(dāng)前法律從業(yè)人員多數(shù)為法律科班出身,缺乏算法、大數(shù)據(jù)、統(tǒng)計(jì)學(xué)等方面的專業(yè)技能培訓(xùn)和能力,因此在法律制定和實(shí)施過(guò)程中可能對(duì)技術(shù)的不熟悉而導(dǎo)致最終呈現(xiàn)的效果與內(nèi)心預(yù)期不一致。而真正掌握算法技術(shù)的企業(yè)能夠借助技術(shù)優(yōu)勢(shì)對(duì)立法進(jìn)程和結(jié)果施加影響,其中必定會(huì)摻雜特殊利益偏好,從而削減了法律的權(quán)威性和對(duì)社會(huì)秩序的一般約束力。
此外,法律人工智能的興起促使大量平臺(tái)紛紛涌現(xiàn),打破了傳統(tǒng)的行政中心主義。但這并非完全意義上的“去中心化”:中心依然存在,不過(guò)是由原來(lái)的“行政中心”轉(zhuǎn)移到了“平臺(tái)中心”,由原來(lái)的“政府-公民”二元結(jié)構(gòu)轉(zhuǎn)變?yōu)榱恕罢?平臺(tái)-公民”三層話語(yǔ)體系。在實(shí)踐中,政府授予了專業(yè)性平臺(tái)準(zhǔn)入審查權(quán)監(jiān)督權(quán)等諸多“準(zhǔn)公權(quán)力”,掌握大數(shù)據(jù)和算法的企業(yè)和個(gè)人正逐步利用自身的行業(yè)特性和專業(yè)技術(shù)把握信息和社會(huì)資源,并爭(zhēng)取話語(yǔ)權(quán)。平臺(tái)權(quán)力集群化將不可避免地引發(fā)“算法權(quán)力”(algorithmic power)與政府公權(quán)力在分配結(jié)構(gòu)上的爭(zhēng)議,這也使得人工智能的立法實(shí)現(xiàn)變得較為棘手。
人工智能技術(shù)促進(jìn)了執(zhí)法自動(dòng)化的應(yīng)用和普及,極大地提高了執(zhí)法效率,但潛藏著對(duì)個(gè)人隱私侵犯的風(fēng)險(xiǎn)。一個(gè)民主與自由的國(guó)度中,執(zhí)法行為是社會(huì)共同意志的延伸,必須來(lái)源于公民的授權(quán)。但是在自動(dòng)化執(zhí)法環(huán)境下,公民行為模式的改變是出于對(duì)管理者監(jiān)視和報(bào)復(fù)的恐懼,而非對(duì)作為社會(huì)契約關(guān)鍵要素——法治的自發(fā)性尊重(self-generated respect)。政府監(jiān)視所造成的寒蟬效應(yīng),“不僅通過(guò)創(chuàng)設(shè)一種無(wú)助感和無(wú)力感致使個(gè)人感到沮喪,而且通過(guò)改變?nèi)藗兣c就其生活做重要決定的機(jī)構(gòu)之間的關(guān)系,來(lái)影響社會(huì)結(jié)構(gòu)”。[8]
人工智能執(zhí)法的機(jī)械化會(huì)給公民和法律系統(tǒng)帶來(lái)更加沉重的行政負(fù)擔(dān)。例如,司機(jī)駕駛汽車(chē)通過(guò)顛簸路段時(shí)自覺(jué)把自動(dòng)巡航控制器(Automatic Cruise Control)設(shè)在了限速范圍內(nèi),但是路面的凹凸不平使得車(chē)速時(shí)而高于時(shí)而低于限速,如果嚴(yán)格遵循時(shí)速規(guī)定,他已經(jīng)違章了很多次,可能會(huì)收到十幾張罰單。正當(dāng)程序(procedural due process)原則并沒(méi)有得到體現(xiàn):既沒(méi)有對(duì)受處罰的行政相對(duì)人進(jìn)行通知,也沒(méi)有給予其陳詞的機(jī)會(huì)。而且自動(dòng)化執(zhí)法無(wú)法識(shí)別需要犯罪意圖(mens rea requirement)的犯罪/帶有明知要件(scienter requirement)的犯罪,無(wú)法區(qū)別基于緊急避險(xiǎn)(necessity defense)而造成的違章、違法與一般的違章、違法行為,如果沒(méi)有適當(dāng)?shù)募s束,自動(dòng)化執(zhí)法可能冒險(xiǎn)創(chuàng)造一個(gè)若不大規(guī)模改變社會(huì)文化和規(guī)范則幾乎不可能守法的環(huán)境。
人工智能裁判的內(nèi)在特點(diǎn)決定了其無(wú)法取代人類(lèi)法官的主體地位。1.符號(hào)式裁判。人工智能裁判包含兩個(gè)核心步驟:語(yǔ)言轉(zhuǎn)換和算法運(yùn)行。人工智能裁判系統(tǒng)只能識(shí)別物理符號(hào),而不能理解人類(lèi)的自然語(yǔ)言。在運(yùn)用人工智能時(shí),其接觸到的并非是原始證據(jù),而是經(jīng)技術(shù)轉(zhuǎn)化后的“傳來(lái)證據(jù)”,此過(guò)程中的“失真”將對(duì)證據(jù)的證明力提出疑問(wèn)。2.封閉式裁判。智能司法裁判所倚仗的是預(yù)先編制的裁判系統(tǒng),除了開(kāi)發(fā)該系統(tǒng)的程序員,當(dāng)事人和社會(huì)公眾甚至是法官并不能準(zhǔn)確掌握裁判系統(tǒng)運(yùn)行的原理和規(guī)則,這極大地降低了當(dāng)事人及其代理人參與法庭裁判的能力和意愿,傳統(tǒng)的法庭審理環(huán)節(jié)如質(zhì)證、辯論將不復(fù)存在。3.歸納式裁判。人工智能系統(tǒng)只是對(duì)與案件有關(guān)的歷史數(shù)據(jù)進(jìn)行處理,裁判過(guò)程中突發(fā)的情況和即時(shí)的信息未被納入系統(tǒng)裁判范圍內(nèi)。而且由于部分詞語(yǔ)語(yǔ)義并不明確等原因,智能裁判無(wú)法借助法官的經(jīng)驗(yàn)實(shí)現(xiàn)司法裁判的意向性、親歷性和價(jià)值衡量[9],法官的自由裁量權(quán)和司法的彈性機(jī)制作用將被嚴(yán)重限縮。
如前所述,標(biāo)準(zhǔn)化的司法人工智能會(huì)改變法官的判斷和決策模式?!皹?biāo)準(zhǔn)化就意味著將審判權(quán)還給法官的同時(shí),確保類(lèi)似案件的裁判尺度盡量相同?!保?0]因而,一些人樂(lè)觀地認(rèn)為在司法裁判過(guò)程中運(yùn)用人工智能有助于實(shí)現(xiàn)同案同判,推動(dòng)個(gè)案正義。然而,盡管我國(guó)擁有世界上最大的案例檢索系統(tǒng)——中國(guó)裁判文書(shū)網(wǎng),但無(wú)論是事實(shí)證據(jù)方面,還是裁判理由部分,都過(guò)于概括、泛化。在案件中真正值得借鑒的內(nèi)容,往往只體現(xiàn)在法院內(nèi)部的案件審理報(bào)告或?qū)徑Y(jié)報(bào)告中[11]。另外,早期的人類(lèi)社會(huì)囿于信息成本只能對(duì)概率較大的事件制定一般性規(guī)范進(jìn)行規(guī)制,但伴隨著算法發(fā)展所帶來(lái)的信息成本的急劇降低使規(guī)制重復(fù)博弈行為變得可能,諸多“無(wú)知之幕”也得以揭開(kāi),作為一般性規(guī)則約束對(duì)象的抽象的“人”逐步被還原為特定的“個(gè)人”,司法裁判過(guò)程和結(jié)果的“私人定制”屬性日漸突出,這種個(gè)案的異質(zhì)性給何為同案、如何同判的界定帶來(lái)了挑戰(zhàn)。
短視頻APP發(fā)掘并迎合了大批年輕用戶的娛樂(lè)消費(fèi)觀,造就了娛樂(lè)消遣的流量怪獸;基于數(shù)據(jù)分析的信用等級(jí)評(píng)估為這個(gè)“評(píng)分的社會(huì)”(Scored society)帶來(lái)了更為直觀、便利和高效的管理模式[12],這些在很大程度上都得益于算法基礎(chǔ)上的“精準(zhǔn)投食”。然而,屢被曝光的電商平臺(tái)大數(shù)據(jù)殺熟等負(fù)面新聞引發(fā)了公眾對(duì)人工智能的擔(dān)憂:表面上中立的算法可以反映隱藏在背后的歧視。很顯然,盡管開(kāi)發(fā)者們一直強(qiáng)調(diào)數(shù)據(jù)中立和技術(shù)無(wú)罪,但人工智能已經(jīng)不可避免地學(xué)會(huì)了“傲慢與偏見(jiàn)”。
造成算法歧視的原因產(chǎn)生在不同階段。算法最初階段的研發(fā)是由公司完成的,企業(yè)在研發(fā)時(shí),首先考慮到的是經(jīng)濟(jì)效益和工作效率。使企業(yè)在選擇中更加傾向于那些成本更低、經(jīng)濟(jì)效益更大的算法模型,基于這種局限性而不成熟地在社會(huì)普遍推廣應(yīng)用難免會(huì)導(dǎo)致不公平。另外,機(jī)器學(xué)習(xí)的訓(xùn)練數(shù)據(jù)本身可能帶有現(xiàn)實(shí)世界中的歧視與偏見(jiàn),基于這些數(shù)據(jù)分析產(chǎn)生的識(shí)別錯(cuò)誤進(jìn)一步內(nèi)化了這些偏見(jiàn),也可能無(wú)意識(shí)地侵害了被歧視群體的權(quán)利。當(dāng)進(jìn)入下一階段,即在接收數(shù)據(jù)后、輸出結(jié)果前,會(huì)有一個(gè)我們無(wú)法洞悉的黑箱,算法就是在這一黑箱進(jìn)行自動(dòng)化的數(shù)據(jù)處理、評(píng)估和行為分析。對(duì)算法歧視的擔(dān)憂主要來(lái)源于這一階段。盡管官方已經(jīng)作出了相應(yīng)努力,如歐盟最新發(fā)布的《數(shù)據(jù)保護(hù)通用條例》(GDPR)增加了數(shù)據(jù)的透明度要求,但其實(shí)際效果如何尚待進(jìn)一步觀察。
1.隱私
社交平臺(tái)的相似內(nèi)容推送、腦機(jī)技術(shù)(BCI)等都被認(rèn)為給人們的工作、生活帶來(lái)了極大的便利。然而,數(shù)據(jù)泄露的危害也日漸突出,因此對(duì)數(shù)據(jù)的保護(hù)愈發(fā)迫切。
“物聯(lián)網(wǎng)”時(shí)代的每個(gè)人都是“量化的自我”(qualified myself)或“可測(cè)度的自我”(measurable self),個(gè)人的一舉一動(dòng)都將被轉(zhuǎn)化為可供處理、分析和利用的數(shù)據(jù)。作為算法權(quán)利客體的公民在保護(hù)個(gè)人數(shù)據(jù)上將會(huì)產(chǎn)生深深的無(wú)力感。一方面,借助人工智能實(shí)現(xiàn)自動(dòng)化行政的政府掌握著公民方方面面的數(shù)據(jù),企業(yè)也借助網(wǎng)絡(luò)平臺(tái)地位和技術(shù)優(yōu)勢(shì)掌握著用戶的個(gè)人信息,二者顯然屬于信息優(yōu)勢(shì)方;另一方面,處于算法專業(yè)槽外的公民專業(yè)技術(shù)水平和信息成本承受能力較低,隱私保護(hù)意識(shí)和能力較弱,加之在授權(quán)數(shù)據(jù)使用過(guò)程中存在的概括同意、格式化合同泛濫等情況,其“網(wǎng)絡(luò)留痕”不可避免會(huì)被第三方利用,因此處于相對(duì)不利的地位。這種信息不對(duì)稱(information asymmetry)將進(jìn)一步擴(kuò)大法律主體之間的鴻溝(justice gap)。
2.自主性:沉默權(quán)與同意
邊境自動(dòng)安檢、“測(cè)謊機(jī)器人”等極大地提高了工作效率,但卻忽視了一個(gè)重要環(huán)節(jié):對(duì)象的同意。人工智能會(huì)對(duì)法律相對(duì)人的同意權(quán)帶來(lái)極大的現(xiàn)實(shí)威脅。以《刑法》為例,《刑法》的功能之一在于保護(hù)犯罪嫌疑人、被告人和罪犯的合法權(quán)益,這一點(diǎn)在米蘭達(dá)警告(Miranda Warnings)中體現(xiàn)得尤為明顯。然而,在人工智能自動(dòng)執(zhí)法中,很可能會(huì)未經(jīng)其同意而直接讀出其內(nèi)心思想,嫌疑人的沉默權(quán)將形同虛設(shè)。此外,被告“不得強(qiáng)迫自證其罪”(privilege against self-incrimination)的規(guī)則也將被打破?!叭绻f(shuō)蒙上雙眼的正義女神曾經(jīng)是法律中公平正義最典型的象征符號(hào)的話,那么,借助人工智能的法律運(yùn)作可能不僅摘下了蒙眼布,而且還帶上了柏拉圖在《理想國(guó)》開(kāi)篇所討論的‘古各斯的戒指’,其可以沒(méi)有障礙地窺視一切人,以零成本獲取信息?!痹谌狈?duì)人工智能進(jìn)行有力法律規(guī)制的環(huán)境中,公民仿佛穿上了皇帝的新衣,隱私被窺探一盡卻渾然不知。