智慧警務(wù)的風(fēng)險及其規(guī)制機(jī)制

李 亮

(浙江警察學(xué)院,浙江 杭州 530053)

一、問題的提出

由于管理資源更加豐富、覆蓋性和可及性更強(qiáng)、管理更加精準(zhǔn)匹配,能更好地回應(yīng)復(fù)雜性社會治安防控、打擊違法犯罪的需求,以大數(shù)據(jù)、云計算、人工智能為技術(shù)驅(qū)動的警務(wù)改革取得了迅猛發(fā)展。然而,由此滋生的數(shù)據(jù)采集無限擴(kuò)大、數(shù)據(jù)濫用、自動決策削弱執(zhí)法正當(dāng)程序、警察權(quán)更易進(jìn)入私域等問題也接踵而來。基于公安大數(shù)據(jù)、人工智能等警務(wù)技術(shù)治理到底是擴(kuò)展了公權(quán)力還是更好地保障了當(dāng)事人權(quán)利,是有利于保障公民權(quán)利還是成為侵犯公民隱私等權(quán)利的更大風(fēng)險,如何讓老百姓在智慧警務(wù)中得到更多的實惠而不是承擔(dān)更多的風(fēng)險等一系列疑問,愈來愈成為防范智慧警務(wù)風(fēng)險、深化警務(wù)改革的重要議題。

為此,學(xué)者們的研究主要體現(xiàn)為以下兩種進(jìn)路。一是以不同業(yè)務(wù)領(lǐng)域為進(jìn)路研究智慧警務(wù)的規(guī)制問題。在刑事偵查中,有學(xué)者認(rèn)為,對大數(shù)據(jù)偵查進(jìn)行法律控制,可采取偵查規(guī)范和數(shù)據(jù)規(guī)范的雙重路徑,[1]或從程序規(guī)范及證據(jù)規(guī)則兩方面進(jìn)行嚴(yán)格法律規(guī)制,前者包括適用范圍、適用條件、適用主體、批準(zhǔn)程序、實施程序等方面,后者包括證據(jù)的排除規(guī)則等方面。[2]在警察行政執(zhí)法中,有學(xué)者認(rèn)為,可從明確大數(shù)據(jù)技術(shù)應(yīng)用范圍、應(yīng)用條件,增強(qiáng)執(zhí)法過程透明性、公開性和可問責(zé)性以及厘清數(shù)據(jù)信息權(quán)利等方面入手。[3]還有很多學(xué)人從智慧監(jiān)所[4]、智慧偵查[5]、智慧新防控警務(wù)[6]、智慧視野下警用無人機(jī)使用規(guī)則[7]等角度去探討如何在具體警種業(yè)務(wù)中規(guī)制智慧警務(wù)。二是以技術(shù)元素分析為進(jìn)路研究智慧警務(wù)的風(fēng)險防范及規(guī)制。從警務(wù)大數(shù)據(jù)角度,認(rèn)為警務(wù)數(shù)據(jù)采集范圍、采集依據(jù)、采集與隱私權(quán)問題等要采取明確法律授權(quán),[8]或通過《中華人民共和國人民警察法》授權(quán)體系補足來解決。[9]也有學(xué)者主張通過重視警務(wù)流程中的數(shù)據(jù)法治化、完善警務(wù)網(wǎng)絡(luò)安全防護(hù)技術(shù)、加強(qiáng)倫理規(guī)范和第三方市場規(guī)范等途徑來防范數(shù)據(jù)泄露等安全風(fēng)險、數(shù)據(jù)權(quán)力擴(kuò)張與數(shù)據(jù)權(quán)利沖突等法律風(fēng)險。[10]從警務(wù)算法及其應(yīng)用的角度,認(rèn)為算法權(quán)力嵌入公權(quán)力后,異化風(fēng)險不斷增加,[11]算法權(quán)力威脅了個體的隱私與自由,算法歧視與偏見導(dǎo)致更深層次的不平等,應(yīng)當(dāng)構(gòu)建算法公開、數(shù)據(jù)賦權(quán)與反算法歧視等算法規(guī)制的具體制度來規(guī)制警務(wù)算法,[12]要加快制定人工智能科技特別法,[13]要探索確立智慧社會治理的新理念、新思維、新機(jī)制、新策略等。[14]上述研究為闡釋智慧警務(wù)存在的風(fēng)險提供了很多有益的嘗試,為智慧警務(wù)實踐者防范智慧風(fēng)險、消除智慧警務(wù)帶來的問題提供了很多有益的途徑。“從不同警務(wù)領(lǐng)域分析進(jìn)路”以點帶面,讓我們對智慧化手段介入各警種警務(wù)有了深入了解,進(jìn)而對“智慧化后的警務(wù)”在面上可能出現(xiàn)的風(fēng)險及其規(guī)制有了全景式認(rèn)知?！皬牟煌夹g(shù)元素角度分析進(jìn)路”由面及點,讓我們對“警務(wù)的智慧化”在縱向深度應(yīng)用中的風(fēng)險及其規(guī)制有了立體化的理解。

本文試圖同時結(jié)合運用以上兩種進(jìn)路,主要以技術(shù)及其法律風(fēng)險為切入口,分析智慧警務(wù)技術(shù)消解了法治目標(biāo)、壓縮甚至弱化了程序空間,使得警察權(quán)更加模糊地進(jìn)入私域,違背了警務(wù)技術(shù)治理的初衷,不利于警務(wù)改革綜合目標(biāo)的實現(xiàn),同時,提出規(guī)制智慧警務(wù)風(fēng)險的事前預(yù)防、事中監(jiān)管、事后救濟(jì)的三大機(jī)制。事前預(yù)防機(jī)制主要針對技術(shù)主義弱化警務(wù)法治目標(biāo)的風(fēng)險,提出要從數(shù)據(jù)正義的價值取向和健全技術(shù)標(biāo)準(zhǔn)去預(yù)防;事中監(jiān)管機(jī)制主要針對智慧化警務(wù)技術(shù)消解了公安執(zhí)法正當(dāng)程序的風(fēng)險,提出要對警務(wù)數(shù)據(jù)采集和運用、警務(wù)算法的決策和適用范圍加強(qiáng)程序控制;事后救濟(jì)機(jī)制主要針對智慧警務(wù)導(dǎo)致警察權(quán)更加容易進(jìn)入私權(quán)利的風(fēng)險,提出要加強(qiáng)警察機(jī)關(guān)在算法決策中的責(zé)任,健全公安機(jī)關(guān)算法歸責(zé)原則,同時,強(qiáng)化公民在受到侵犯后的實體權(quán)利和程序權(quán)利的保障。

二、智慧警務(wù)的風(fēng)險及其成因

到目前為止,學(xué)界對智慧警務(wù)的概括,代表性的主要有“功能論”“模式論”“技術(shù)論”“機(jī)制論”等四種。“功能論”認(rèn)為,智慧警務(wù)是適應(yīng)現(xiàn)代警務(wù)功能特點,通過互聯(lián)化、智能化和物聯(lián)化,從而促進(jìn)公安機(jī)關(guān)各個系統(tǒng)、各個模塊功能集成、協(xié)調(diào)運作,實現(xiàn)信息數(shù)據(jù)高度整合、共享的警務(wù)目標(biāo);[15]“模式論”認(rèn)為,智慧警務(wù)是能夠?qū)崿F(xiàn)“智能指揮”的新型警務(wù)運行方式,海量地掌控與人相關(guān)的“屋、車、場、網(wǎng)、組織”等周邊要素信息,從而形成動態(tài)化的軌跡管控機(jī)制,實現(xiàn)智能辦公和智能監(jiān)督,極大地提高工作效率;[16]“技術(shù)論”認(rèn)為,智慧警務(wù)建立在公安機(jī)關(guān)海量數(shù)據(jù)信息的占有與運用之上,警務(wù)更加智能、開放與人性化;[17]“機(jī)制論”認(rèn)為,智慧警務(wù)是公安機(jī)關(guān)為了回應(yīng)智能化社會等新警務(wù)環(huán)境,運用云計算、大數(shù)據(jù)等技術(shù)對警務(wù)機(jī)制進(jìn)行改革,進(jìn)而建立的一種新型警務(wù)機(jī)制。[18]無論哪種界定,共同點在于,智慧警務(wù)都離不開警務(wù)信息數(shù)據(jù)化、警務(wù)運行算法化、警務(wù)業(yè)務(wù)場景化等三項內(nèi)容,大家在智慧警務(wù)的本質(zhì)是實現(xiàn)警務(wù)方式、手段和路徑的智慧化上形成了共識。因此,應(yīng)當(dāng)主要從智慧化的手段、方式和路徑等技術(shù)層面入手,認(rèn)真總結(jié)智慧化警務(wù)技術(shù)帶來了哪些風(fēng)險,并深刻分析引起這些風(fēng)險的緣由。

(一)警務(wù)技術(shù)主義思路弱化了警務(wù)法治的目標(biāo)

技術(shù)有天然追求效率的屬性,與追求公正的警務(wù)法治目標(biāo)產(chǎn)生了一定張力。警務(wù)主要指作為治安行政力量和刑事司法力量的公安機(jī)關(guān)依據(jù)法律從事的各項事務(wù),包括安全防范、治安管理、行政執(zhí)法、刑事司法等多項事務(wù),是法治政府的重要組成方面,也是法治治理的重要環(huán)節(jié),追求公平、正義是其應(yīng)有之義。智慧警務(wù)是大數(shù)據(jù)、云計算、5G、人工智能等高新技術(shù)在警務(wù)領(lǐng)域的集中體現(xiàn),目的在于不斷提高警務(wù)的效能。技術(shù)一旦形成自己的運行慣性,技術(shù)治理的結(jié)果難免以效率、效能為目標(biāo),裹挾著警務(wù)人員跟隨著技術(shù)的步伐,依從技術(shù)的邏輯開展具體的治安管理、行政執(zhí)法等,而忽視相對人的隱私、知情權(quán)、自決權(quán)等權(quán)利,滋生不公正。為了更好預(yù)防犯罪,北京市懷柔區(qū)警方在2013年建立了“犯罪數(shù)據(jù)分析和趨勢預(yù)測系統(tǒng)”,[19]蘇州市犯罪預(yù)測系統(tǒng)在2015年已覆蓋91種違法犯罪行為,[20]犯罪治理從事后打擊轉(zhuǎn)為事前預(yù)測,但由于算法具有機(jī)器優(yōu)勢、架構(gòu)優(yōu)勢和嵌入優(yōu)勢,其不斷強(qiáng)化自身的判斷和預(yù)測,形成相對獨立的認(rèn)知,反過來又來塑造、強(qiáng)化執(zhí)法者的認(rèn)知,針對某個地域、某個行業(yè),甚至根據(jù)行為人的衣食住行的分析形成的預(yù)測,算法會自動回饋執(zhí)法者的發(fā)現(xiàn),進(jìn)而形成回路。特定危險人群的鎖定和分析往往會針對有前科記錄的人,強(qiáng)化了犯罪人的標(biāo)簽化效應(yīng),形成了“關(guān)注特定人群的行為本身會造成特定人群再犯危險增加”這一悖論,[21]加大了對該類群體的偏見與不公正,擴(kuò)大甚至破壞了社會公正。

技術(shù)邏輯的主動性沖擊了法治邏輯的保守性。人工智能時代,警務(wù)應(yīng)用中的算法構(gòu)建了治安防控、重點人口管理、群體性事件處置等不同治理系統(tǒng)架構(gòu),執(zhí)法者進(jìn)入系統(tǒng)架構(gòu)后,行為即受到算法的支配,而借助源源不斷產(chǎn)生的數(shù)據(jù),算法系統(tǒng)架構(gòu)可以內(nèi)在發(fā)生延伸,并在不同系統(tǒng)之間共享數(shù)據(jù)以持續(xù)形成執(zhí)法者的判斷,這成為技術(shù)治理的主要邏輯,自主學(xué)習(xí)、自動預(yù)警、主動出擊。這種技術(shù)治理的邏輯為警務(wù)服務(wù),即要求在違法犯罪發(fā)生之前就預(yù)警并加以制止。“對我們而言,危險不再是隱私的泄露,而是被預(yù)知的可能性——這些能預(yù)測我們可能生病、拖欠還款和犯罪的算法會讓我們無法購買保險、無法貸款、甚至在實施犯罪前就被預(yù)先逮捕”。[22]偵查啟動的依據(jù)不是基于已經(jīng)發(fā)生的客觀事實,而是大數(shù)據(jù)通過警務(wù)算法形成的一般性、類型化預(yù)測,這與刑事訴訟基本原理規(guī)定的對犯罪事實的偵查是一種回溯性重構(gòu)顯然南轅北轍,刑事法治的題中之義應(yīng)當(dāng)是也只能是對已經(jīng)發(fā)生的犯罪的懲罰,這也是法治保守性的應(yīng)有之義。更何況,數(shù)據(jù)分析存在分析挖掘的誤差甚至錯誤,無辜的人被認(rèn)定為“犯罪嫌疑人”更是對法治精神的背離。

(二)警務(wù)智慧化給公安執(zhí)法正當(dāng)程序提出了前所未有的挑戰(zhàn)

警務(wù)的智慧化弱化了警察行政的公開性。程序是看得見的公正,公開、透明、公眾參與已構(gòu)成現(xiàn)代正當(dāng)法律程序基本的、甚至是不可或缺的內(nèi)容。[23]智慧化技術(shù)最顯著的特點就是專業(yè)性,專業(yè)的警務(wù)算法要取得更精準(zhǔn)的治理效果,需要更多的數(shù)據(jù)及其對結(jié)果的不斷重塑。在這一過程中,一方面,警務(wù)數(shù)據(jù)的收集往往基于公共利益豁免原則,本身很難透明;另一方面,警務(wù)算法設(shè)計原理及其決策過程很難傳遞給普通大眾,大眾沒有機(jī)會獲得這種解釋,因此,進(jìn)入某一警務(wù)算法諸如電子類證據(jù)的采集及其可能引發(fā)的證據(jù)合法性認(rèn)定程序被“算法黑箱”所遮蔽。何況,作為技術(shù)的算法擁有天然“不可解釋性”,技術(shù)本身可以以軟件著作權(quán)為對抗事由獲得不被解釋的機(jī)會,而且,公權(quán)力機(jī)關(guān)往往不愿意對算法的采購、設(shè)計及其運行予以公開,不僅是擔(dān)心可能阻礙治安行政、犯罪預(yù)防等警務(wù)目標(biāo)的實現(xiàn),也可能偏向于以“不可解釋性”為背書來逃避可能到來的未知法律責(zé)任。

警務(wù)的智慧化異化了法律因果性,消解了警察執(zhí)法程序。追究法律責(zé)任的前提是損害行為和傷害結(jié)果之間存在法律上的因果關(guān)系。但建立在算法自動化之上的自動駕駛導(dǎo)致傷害后,其法律責(zé)任如何分配?警務(wù)算法引起對行政相對人的賠償之后,公安機(jī)關(guān)內(nèi)部如何劃分責(zé)任?這類傷害結(jié)果和算法之間的因果關(guān)系構(gòu)成法律上的因果關(guān)系嗎?此外,之前法律上的因果關(guān)系的鏈接往往靠經(jīng)驗與邏輯,但是智慧警務(wù)中對犯罪的預(yù)測,對治安問題的防范往往不再執(zhí)著于經(jīng)驗上的因果關(guān)聯(lián),轉(zhuǎn)而借助海量警務(wù)數(shù)據(jù)直面模糊與混雜,[24]從看似不相關(guān)的現(xiàn)象中找到切口,如維克多·邁爾-舍恩伯格指出的那樣,“知道‘是什么’就夠了,沒必要知道‘為什么’。在大數(shù)據(jù)時代,我們不必非得知道現(xiàn)象背后的原因,而是讓數(shù)據(jù)自己‘發(fā)聲’”,[25]“對過去犯罪數(shù)據(jù)中的模式和相關(guān)性進(jìn)行識別和分析,預(yù)測發(fā)生犯罪概率較高的時間和地點,并將警力部署到可能發(fā)生犯罪的地區(qū)”,“通過智能技術(shù)分析過去犯罪活動的社交網(wǎng)絡(luò),使用機(jī)器學(xué)習(xí)和算法來識別可能的肇事者或受害者”,[26]可以認(rèn)為是以“全數(shù)據(jù)”代替“樣本數(shù)據(jù)”擴(kuò)大探尋犯罪可能存在的時空,也可以認(rèn)為“不是‘因果關(guān)系’,而是‘相關(guān)關(guān)系’”[27]來推動警務(wù)目標(biāo)的實現(xiàn)。而且,在假釋、減刑等處罰情節(jié)中采用風(fēng)險預(yù)測算法,相當(dāng)于用實然來推斷應(yīng)然、以相關(guān)性而非因果性進(jìn)行推理,無疑否定了無罪推定原則的程序性保障。

智慧警務(wù)中的算法自動化決策壓縮了行政程序的空間。程序不僅具有工具性價值,還具有構(gòu)成性價值。[28]工具性價值的目的在于提高警務(wù)效率,關(guān)注的是警務(wù)活動的整體流程;構(gòu)成性價值的目的在于某種特殊的價值,比如交警當(dāng)場做出處罰時必須亮明身份、訊問之前必須告知犯罪嫌疑人有委托辯護(hù)人的權(quán)利等,關(guān)注的是警務(wù)活動程序的完整性。在交通違法的自動識別中,算法自動化決策可同時完成調(diào)集數(shù)據(jù)、識別車輛、分析違法行為、形成車輛違法數(shù)據(jù),經(jīng)過交警部門審核,通知交通違法行為人。除了人為加入的審核環(huán)節(jié),其他環(huán)節(jié)均可在技術(shù)上瞬間完成,原有的按照人的活動步驟設(shè)立的諸多行政正當(dāng)程序的發(fā)送信息功能均被省略,[29]難以分離活動的步驟、方式,使得警察行政正當(dāng)程序無用武之地,直接損害了行政相對人的程序性權(quán)利,可能還削減了其實體權(quán)利。

此外,技術(shù)治理的依賴導(dǎo)致警察權(quán)專屬性的弱化。為了精準(zhǔn)、迅速打擊犯罪,很多警務(wù)活動,典型的電子證據(jù)采集等經(jīng)常需要尋求大型網(wǎng)絡(luò)技術(shù)公司的支持,甚至?xí)扇　巴獍钡男问竭M(jìn)行公私合作,現(xiàn)實的運作過程很難做到界限分明,相關(guān)公司因此獲得了事實上只有行政執(zhí)法、刑事司法中才擁有的監(jiān)控、調(diào)查、初查等公權(quán)力,其顯然違背了警察權(quán)的專屬性。

(三)警察權(quán)進(jìn)入私權(quán)利的方式路徑更加模糊

智慧化的技術(shù)不僅賦能,提高了治安防控、打擊犯罪的能力,更重要的是,技術(shù)還賦權(quán),強(qiáng)化了警察權(quán)的社會控制。[30]一方面,人工智能等技術(shù)介入警務(wù),緩解了治安治理資源的緊張,突破了以往通過民警人力很難下沉社會每個觸角的瓶頸,公共場所智能視頻監(jiān)控、人像識別、緝查布控平臺的視頻導(dǎo)偵等實現(xiàn)了對復(fù)雜社會更加有效的治理。但另一方面,智慧警務(wù)中以技術(shù)為載體和牽引的警察權(quán)可以更精準(zhǔn)地觸及每個個體,個體的自治空間被壓縮,個人的隱私權(quán)尤其是互聯(lián)網(wǎng)上的各項個人信息權(quán)利更加容易被侵犯。

智慧化的警務(wù)技術(shù)不僅增強(qiáng)了警察權(quán)的廣度,而且增強(qiáng)了警察權(quán)介入公民私權(quán)利的深度和力度。警務(wù)數(shù)據(jù)的不斷增多,警務(wù)應(yīng)用及其算法的不斷優(yōu)化,算力的不斷增強(qiáng),算法決策系統(tǒng)使用“超級推理”,能夠以微妙而有效的方式塑造用戶的感受和行為,破壞個人的獨立判斷力。[31]這種優(yōu)勢不斷增強(qiáng)的一個附產(chǎn)品是,國家對秩序和穩(wěn)定的重視進(jìn)一步附加到不斷提升的警務(wù)能力之上,客觀上增強(qiáng)了警察權(quán)進(jìn)入私領(lǐng)域的力度,諸多龐雜的社會問題隨之附加在警務(wù)之上,一定程度上模糊了警察權(quán)在社會治理中的邊界。而且,警務(wù)應(yīng)用往往融匯了大數(shù)據(jù)、5G和人工智能等多項前沿技術(shù),伴隨科學(xué)技術(shù)更迭升級,其收集、存儲、運輸、使用個人信息的能力持續(xù)強(qiáng)大,在警察權(quán)面前,個人愈加立體透明,[32]表面看,算法越來越讓數(shù)字世界成為人類觀察和認(rèn)識自我的“鏡子”,以至于讓我們進(jìn)一步認(rèn)為,在日趨脫離客觀物質(zhì)世界的同時,由大數(shù)據(jù)而構(gòu)成的數(shù)字世界又讓我們越來越接近真正的自己,[33]殊不知,真正接近的自己是算法的結(jié)果。

智慧化的警務(wù)增加了公民判斷警察權(quán)是否侵入私域的難度。一方面,基于技術(shù)上的不平等性,警務(wù)應(yīng)用采集、存儲、運輸和運用公民個人信息往往依賴數(shù)據(jù)資源和專業(yè)技術(shù)知識的壟斷,其決策機(jī)理難以被普通公眾所理解,算法權(quán)力借由技術(shù)屏障達(dá)成了技術(shù)化統(tǒng)治,[34]個人很難通過自身能力來鑒別和判定。另一方面,基于地位上的不平等性,即便個人明知收集個人信息的方式或者警務(wù)應(yīng)用提供的隱私政策不合適,但卻無法形成法律上的有效對抗,相對而言,警察行政機(jī)構(gòu)更熟知政府公共政策、警務(wù)運行機(jī)制,善于利用這些機(jī)制、政策變相逃避個人抗辯。此外,一旦警務(wù)應(yīng)用侵犯了公民個人信息權(quán)等私權(quán)利,個人很難針對警務(wù)算法決策的違法性提出訴訟請求。當(dāng)前,公民針對具體行政行為的違法提出行政復(fù)議、行政訴訟或申請行政信息公開的同時,是否能夠包括算法決策,或者說算法決策能否作為具體行政行為或其中的一部分,還尚不明確。行政機(jī)關(guān)可能以算法涉及國家秘密、商業(yè)秘密、個人隱私或?qū)儆趦?nèi)部信息為由,[35]而拒絕行政相對人的申請。

三、預(yù)防機(jī)制:數(shù)據(jù)正義與技術(shù)標(biāo)準(zhǔn)

無論是警務(wù)智慧化可能導(dǎo)致的警務(wù)與法治公正目標(biāo)的偏離,還是技術(shù)治理把復(fù)雜社會問題簡化為數(shù)據(jù)計算導(dǎo)致的警務(wù)綜合治理目標(biāo)的偏離,都涉及大數(shù)據(jù)運用、算法設(shè)計、智慧警務(wù)應(yīng)用的目標(biāo)取向問題,如何在事前預(yù)防智慧化的技術(shù)偏離警務(wù)改革的目標(biāo),是防范和化解智慧警務(wù)風(fēng)險的第一道關(guān)卡。計算正義、數(shù)據(jù)正義、數(shù)字倫理、人工智能倫理等觀念、價值的討論,[36]成為破解這一難題的不二之選。智慧化的警務(wù)技術(shù)不但具有工具意義,提高了警務(wù)活動的效率,還對深嵌在治安防控、犯罪控制、秩序維護(hù)等警務(wù)中的社會生活產(chǎn)生了重構(gòu)意義,甚至重塑著公正觀等共同價值,因此,包括數(shù)據(jù)、代碼、算法以及由它們?nèi)诤闲纬傻闹腔劬瘎?wù)技術(shù),也應(yīng)當(dāng)具有價值取向。當(dāng)把這些價值取向深嵌在警務(wù)化技術(shù)的設(shè)計及運用環(huán)節(jié),即建立了在事前預(yù)防智慧警務(wù)風(fēng)險的第一道屏障。

技術(shù)正義“家族”被認(rèn)為主要包括數(shù)據(jù)正義、代碼正義和算法正義。[37]在智慧警務(wù)中,則主要涉及警務(wù)數(shù)據(jù)的公平占有和合理使用及對其闡釋的價值取向問題、警務(wù)算法設(shè)計的偏好及正當(dāng)性問題,以及如何防范算法偏見、算法歧視、算法黑箱問題。

用法律的價值去約束并整合技術(shù)正義。當(dāng)人們發(fā)現(xiàn)算法在賦予同距離乘客不同網(wǎng)約車價格的時候,算法實際上已經(jīng)在平臺、消費者、生產(chǎn)者之間賦予了權(quán)利、分配了義務(wù)、配置了責(zé)任,這是算法的規(guī)范屬性,其對人的行為指引作用可以視作法律對人行為指引的延伸。只是這種指引作用造成了不公正,不同乘客享受了同樣的權(quán)利,卻承擔(dān)了不同的義務(wù)。如果在警察行政處罰中,就是不同行政相對人因為同樣的違法行為卻承擔(dān)了不一樣的法律責(zé)任,“同案同判”“權(quán)利義務(wù)責(zé)任相一致”的法律價值取向需要及時糾偏這樣的算法邏輯。此外,還要利用法律的確定性去避免智慧警務(wù)應(yīng)用的“不可解釋性”。算法設(shè)計的專業(yè)性、商業(yè)秘密屬性不排除其透明性、公正化,算法要可理解、可分析,[38]尤其當(dāng)警務(wù)算法侵害了個人權(quán)利時,要確保個人能夠充分理解警務(wù)算法并進(jìn)行舉證。對透明性、可解釋性的追尋無非是不斷增加算法的確定性,提升用戶面對智慧化警務(wù)技術(shù)的預(yù)期性,這種確定性、預(yù)期性的算法倫理應(yīng)當(dāng)在法律對算法的規(guī)制中被法律價值所統(tǒng)攝。

通過建立技術(shù)標(biāo)準(zhǔn)去防止算法等技術(shù)偏離價值設(shè)定。“數(shù)據(jù)闡釋并不是理性的,這不能測量,也沒有是非對錯的終極判斷。闡釋永遠(yuǎn)是主觀的,是依賴直覺的,而且也與周邊環(huán)境緊密相關(guān)。同樣的數(shù)據(jù)在不同的環(huán)境內(nèi)容中可以有截然不同的意義,這些意義并非數(shù)據(jù)所固有,而是人們在特定環(huán)境中分析數(shù)據(jù)并將意義賦予了數(shù)據(jù)”,[39]大數(shù)據(jù)分析離不開分析者對數(shù)據(jù)清理、數(shù)據(jù)集成和數(shù)據(jù)規(guī)約等技術(shù)的取舍,算法設(shè)計離不開編寫者的偏好,“他們對當(dāng)前互聯(lián)網(wǎng)代碼的可變和空白之處所做出的選擇,決定了互聯(lián)網(wǎng)的面貌”,[40]技術(shù)正義的價值設(shè)定必須盡可能限定數(shù)據(jù)取舍者、算法設(shè)計者的主觀偏好。一方面,要努力形成技術(shù)標(biāo)準(zhǔn),同一類型警務(wù)算法處理個人信息的要素和指標(biāo)要統(tǒng)一,這類標(biāo)準(zhǔn)可以由公檢法等政法機(jī)關(guān)、相關(guān)協(xié)會、研究機(jī)構(gòu)聯(lián)合制定,指導(dǎo)警務(wù)應(yīng)用在設(shè)計時即平衡好公權(quán)力和私權(quán)利,確保運行的客觀性、公正性。另一方面,要建立算法審查機(jī)制,2021年通過的《中華人民共和國個人信息保護(hù)法》中的數(shù)據(jù)保護(hù)專員是這一方面的努力嘗試,可以對算法的技術(shù)和倫理層面進(jìn)行單一或一并審查。

四、監(jiān)管機(jī)制:警務(wù)數(shù)據(jù)與警務(wù)算法的程序控制

從技術(shù)元素角度看,在警務(wù)技術(shù)應(yīng)用過程中,智慧警務(wù)風(fēng)險主要來自于兩個方面:一是警務(wù)數(shù)據(jù)的采集、儲存、傳輸及運用的風(fēng)險;二是智慧警務(wù)算法設(shè)計、應(yīng)用中的風(fēng)險。健全完善避免數(shù)據(jù)濫用、嚴(yán)格數(shù)據(jù)運用、防范算法偏見、防止算法權(quán)力濫用等程序規(guī)則,是解決問題的重要突破口。

首先,警務(wù)數(shù)據(jù)的采集和運用直接涉及公民的個人信息權(quán)利,針對這種典型干預(yù)公民權(quán)利的手段需要有法律的授權(quán)。無論是警察機(jī)關(guān)直接采集治安基礎(chǔ)信息、基礎(chǔ)場所信息、危險物品信息等,還是委托社會機(jī)構(gòu)采集旅館住宿登記信息、出租屋登記信息,或者是警察機(jī)關(guān)從大型互聯(lián)網(wǎng)公司收集個人運動數(shù)據(jù)、消費選擇、瀏覽記錄等動態(tài)信息,雖然有其他主體參與,但都是以警察機(jī)關(guān)的采集、委托和收集為信息警務(wù)化的最后一道程序,因此,以《中華人民共和國人民警察法》第二條第一款和第六條為基礎(chǔ),針對數(shù)據(jù)收集、數(shù)據(jù)分析等智慧警務(wù)中典型干預(yù)手段建構(gòu)標(biāo)準(zhǔn)授權(quán)條款,即可解決智慧化技術(shù)的授權(quán)問題。[41]《中華人民共和國反恐怖主義法》第二十八條、第四十三條,《中華人民共和國網(wǎng)絡(luò)安全法》第二十八條至第三十條及第四十一條至第四十五條的規(guī)定,可以被認(rèn)為構(gòu)成智慧化警務(wù)技術(shù)采集個人信息的授權(quán)條款;包括《公安機(jī)關(guān)辦理行政案件程序規(guī)定》第八十二條和第八十三條的規(guī)定,對涉嫌違法行為的例行檢查或者對違法行為人可以依法提取或者采集肖像、指紋等人體生物識別信息等,基本保證了警務(wù)數(shù)據(jù)采集的合法性。然而,針對人臉等敏感性生物信息的采集,到目前為止,法律并沒有規(guī)定采集主體及相應(yīng)的采集、儲存和運用等程序,杭州野生動物園“人臉第一案”凸顯了解決這一問題的現(xiàn)實性和緊迫性。[42]人臉、虹膜,甚至基因,這些唯一性的生物信息一旦泄露,用戶身份安全將形同“裸奔”,如果再結(jié)合3D打印技術(shù),現(xiàn)實生活中就能實現(xiàn)真正的冒名頂替,個人人身、財產(chǎn)就面臨重大風(fēng)險。《中華人民共和國個人信息保護(hù)法》用“敏感個人信息”對人臉等生物性信息進(jìn)行了概括性保護(hù),2020年頒布的行業(yè)標(biāo)準(zhǔn)《App收集使用個人信息最小必要評估規(guī)范總則》中提出了人臉信息收集的最小必要規(guī)范,但對其采集主體、采集條件和適用范圍并沒有嚴(yán)格予以限定。伴隨智能終端、3D打印技術(shù)愈加發(fā)達(dá),需要將人臉等生物敏感性信息的采集條件、適用范圍等程序納入一般法律中加以詳盡規(guī)定,尤其要在涉及治安行政案件、刑事案件的辦案規(guī)則中予以明確規(guī)定,進(jìn)而對其他規(guī)則發(fā)揮引領(lǐng)示范功能。

其次,要完善警務(wù)數(shù)據(jù)的使用規(guī)則。有學(xué)者提出了關(guān)于數(shù)據(jù)使用的“可見性、事先約定、防范不公平對待”三個核心觀點。[43]針對警務(wù)數(shù)據(jù),主要涉及“數(shù)據(jù)使用的可見性”,其實質(zhì)包含了“可見”和“不可見”兩層含義。一方面是“程序的可見性”,警察機(jī)關(guān)對個人數(shù)據(jù)的采集、使用和響應(yīng)的監(jiān)管流程應(yīng)當(dāng)是能明示的、可見的,尤其要可解釋,能被公眾理解。另一方面是“個人信息的不可見性”,流程要可見,但涉及隱私、身份信息、生物信息等個人數(shù)據(jù),警察機(jī)關(guān)在使用過程中要確保其安全性,不被案外人員知曉并利用。此外,還要防止警務(wù)數(shù)據(jù)采集及使用的偏差,正如有學(xué)者所言“如果沒有算法的參與,人類的決策和預(yù)測也會產(chǎn)生大量偏見”,[44]作為結(jié)果的算法偏見主要來源于人們不斷產(chǎn)生的數(shù)據(jù)偏見,只是警務(wù)算法的反復(fù)運用,以技術(shù)的方式呈現(xiàn)了這種偏見,并以其本身暗含的客觀性、理性加深了這種偏見。但其根源仍然在于數(shù)據(jù)本身的偏見,因此,對警務(wù)數(shù)據(jù)的采集和使用要能發(fā)現(xiàn)并糾偏本身的偏見數(shù)據(jù)及衍生的偏見數(shù)據(jù)。

再次,要厘清預(yù)測類警務(wù)算法的適用范圍和條件。有學(xué)者針對自動化技術(shù)引入行政執(zhí)法過程中后,可能對公民權(quán)利造成侵害這種情況,提出了技術(shù)性正當(dāng)程序(Technological Due Process)的概念。[45]預(yù)測型警務(wù)可能導(dǎo)致之前傳統(tǒng)的程序控制失靈,導(dǎo)致權(quán)力濫用、權(quán)利被無聲侵犯。要嚴(yán)格限制預(yù)測型警務(wù)算法決策應(yīng)用范圍,《歐盟通用數(shù)據(jù)保護(hù)條例》第22條明確規(guī)定,如果算法決策對數(shù)據(jù)主體有法律效力或者重大影響,那么這種決策不應(yīng)純粹由算法作出。對涉及限制人身自由的預(yù)測型警務(wù)算法設(shè)計和納入警務(wù)應(yīng)用,至少要有全國人大常委會制定的法律授權(quán),采取更嚴(yán)格的審查標(biāo)準(zhǔn)。不僅要限制預(yù)測型警務(wù)算法的使用范圍,更要嚴(yán)格規(guī)定其適用條件,雖然《中華人民共和國個人信息保護(hù)法》也明確規(guī)定,個人有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定。但是,由于警務(wù)類預(yù)測型算法主要適用于警察機(jī)關(guān)內(nèi)部的風(fēng)險評估和警務(wù)啟動,因此,個人沒有機(jī)會知曉其決策的過程,更沒有機(jī)會拒絕其預(yù)測的結(jié)果。警察會根據(jù)預(yù)測結(jié)果允許或剝奪個體的行為選擇,比如用來排除潛在恐怖分子的機(jī)場禁飛名單系統(tǒng)即是如此。由于對“誰是犯罪嫌疑人”的一系列推斷已經(jīng)深嵌在算法技術(shù)之中,因此,要在算法決策內(nèi)部建立審查監(jiān)督機(jī)制,可以考慮將人民檢察院的法律監(jiān)督功能等監(jiān)督機(jī)制鑲嵌到公安機(jī)關(guān)預(yù)測型警務(wù)應(yīng)用的算法決策過程,對其推理并做出決策的一系列算法過程進(jìn)行審查監(jiān)督,逐項同意,以使決策得以逐步實現(xiàn)。

最后,針對智慧化警務(wù)技術(shù)事實上提前啟動了犯罪偵查的問題,要嘗試分類分層設(shè)計調(diào)查取證措施。由于犯罪預(yù)測系統(tǒng)的提前預(yù)報,形成了事實上的偵查提前啟動。按照2015年出臺的《關(guān)于辦理網(wǎng)絡(luò)犯罪案件適用刑事訴訟程序若干問題的意見》規(guī)定,“對接受的案件或者發(fā)現(xiàn)的犯罪線索,在審查中發(fā)現(xiàn)案件事實或者線索不明,需要經(jīng)過調(diào)查才能夠確認(rèn)是否達(dá)到犯罪追訴標(biāo)準(zhǔn)的,經(jīng)辦案部門負(fù)責(zé)人批準(zhǔn),可以進(jìn)行初查”,初查的啟動至少應(yīng)當(dāng)具備具體的、特定的犯罪事實或線索,那么,類似“犯罪地圖”的預(yù)測警務(wù)所獲得的信息,不應(yīng)成為啟動初查的條件。[46]據(jù)此,可以將刑事案件在公安機(jī)關(guān)辦理階段劃分為預(yù)測警務(wù)、犯罪初查和犯罪偵查三個階段。就調(diào)查內(nèi)容來看,比照偵查階段、初查階段采集證據(jù)規(guī)則,初查階段以不干預(yù)個人敏感信息為原則,并以經(jīng)特殊程序許可的有限干預(yù)為例外,預(yù)測警務(wù)階段則要嚴(yán)格禁止對個人敏感信息的干預(yù)。[47]就調(diào)查方式手段而言,比照《關(guān)于辦理網(wǎng)絡(luò)犯罪案件適用刑事訴訟程序若干問題的意見》規(guī)定的“初查過程中,可以采取詢問、查詢、勘驗、檢查、鑒定、調(diào)取證據(jù)材料等不限制初查對象人身、財產(chǎn)權(quán)利的措施,但不得對初查對象采取強(qiáng)制措施和查封、扣押、凍結(jié)財產(chǎn)”規(guī)則,預(yù)測警務(wù)階段應(yīng)當(dāng)嚴(yán)格禁止采取可能影響個人權(quán)利的調(diào)查措施,如有必要,必須對照技術(shù)偵查措施適用方式強(qiáng)化對初查措施的審批監(jiān)督。

五、救濟(jì)機(jī)制:算法責(zé)任和權(quán)利救濟(jì)

當(dāng)事前預(yù)防機(jī)制、事中監(jiān)管機(jī)制失靈,功能沒有充分發(fā)揮,一旦發(fā)生警務(wù)數(shù)據(jù)濫用或警務(wù)算法決策應(yīng)用侵犯了公民權(quán)利的情形,則涉及責(zé)任分配和權(quán)利救濟(jì)的問題。

一般來說,警務(wù)數(shù)據(jù)濫用主要指公安機(jī)關(guān)內(nèi)部人員利用便利或在執(zhí)行公務(wù)中違規(guī)查詢、收集、使用個人信息,依違法責(zé)任原則,其責(zé)任的最終承擔(dān)主體當(dāng)然是違規(guī)的民警。但在警務(wù)算法應(yīng)用中,對公民權(quán)利義務(wù)產(chǎn)生的影響往往是自動化決策的結(jié)果,此時涉及警務(wù)算法應(yīng)用的責(zé)任問題,即責(zé)任的可追溯性和責(zé)任的分擔(dān)問題。在民事領(lǐng)域,算法責(zé)任主體往往涉及算法設(shè)計者、應(yīng)用開發(fā)者、應(yīng)用平臺及監(jiān)管部門的責(zé)任,尤其是算法應(yīng)用平臺,因其強(qiáng)大的合規(guī)能力,往往被賦予更多的義務(wù)責(zé)任。但警務(wù)算法應(yīng)用一旦做出了侵犯公民權(quán)利的決策后,是否應(yīng)當(dāng)由公安機(jī)關(guān)承擔(dān)責(zé)任?公安機(jī)關(guān)承擔(dān)責(zé)任的前提是,算法決策行為是否屬于公安機(jī)關(guān)做出的具體行政行為,且這樣的決策是否具有違法性。從算法決策行為與公安機(jī)關(guān)的關(guān)系來看,以犯罪預(yù)測型警務(wù)系統(tǒng)為例,由公安機(jī)關(guān)委托設(shè)計,且由公安機(jī)關(guān)應(yīng)用,算法決策行為應(yīng)當(dāng)視作公安機(jī)關(guān)做出該具體行政行為的一部分。從決策行為是否違法來看,如果公安機(jī)關(guān)不能證明自動化決策過程全程合法,那么公安機(jī)關(guān)當(dāng)然應(yīng)當(dāng)承擔(dān)該次算法的責(zé)任;如果公安機(jī)關(guān)能夠證明自動化決策過程合法,是否就不用承擔(dān)該次算法的責(zé)任?對于造成的公民權(quán)利侵害又由誰來賠償?筆者認(rèn)為,應(yīng)當(dāng)綜合算法決策與損害結(jié)果的因果關(guān)系的強(qiáng)弱,讓公安機(jī)關(guān)承擔(dān)相應(yīng)的責(zé)任,如果說前者的依據(jù)是違法責(zé)任原則,那么后者的依據(jù)可以認(rèn)為是無過錯責(zé)任原則,這可以認(rèn)為是智慧警務(wù)改革進(jìn)程中技術(shù)智慧化的部分代價。

要及時強(qiáng)化公民在自我救濟(jì)時的程序權(quán)利和實體權(quán)利。在大數(shù)據(jù)引導(dǎo)的警務(wù)變革及其實踐中,隨著事實上偵查啟動時點的提前,當(dāng)然應(yīng)當(dāng)允許被干預(yù)的權(quán)利主體的辯護(hù)權(quán)提前到同一時點,并加強(qiáng)權(quán)利主體在這一階段有效獲取相關(guān)證據(jù)的權(quán)利。同時,由于公安機(jī)關(guān)擁有比個人強(qiáng)大的數(shù)據(jù)收集能力和數(shù)據(jù)挖掘技術(shù),要強(qiáng)化智慧化技術(shù)下公安機(jī)關(guān)對無罪、無違法之類證據(jù)的搜集義務(wù)。為了避免由于當(dāng)事人不懂智慧化技術(shù)而導(dǎo)致辯護(hù)權(quán)行使的弱化,還要完善當(dāng)事人聘請專家輔助人的制度,允許專家輔助人提前介入庭前會議等庭前程序。

智慧警務(wù)的范疇很廣,文中主要以預(yù)測型犯罪系統(tǒng)為例,借助警務(wù)數(shù)據(jù)和警務(wù)算法應(yīng)用兩條線索,從技術(shù)邏輯—法治目標(biāo)、技術(shù)主義—正當(dāng)程序、警察權(quán)—私權(quán)利等維度提出了智慧警務(wù)建設(shè)應(yīng)當(dāng)關(guān)注的風(fēng)險,并分別從數(shù)據(jù)正義、技術(shù)標(biāo)準(zhǔn)、程序控制、權(quán)利救濟(jì)等角度提出了事前預(yù)防、事中監(jiān)管、事后救濟(jì)等三大規(guī)制機(jī)制。無論如何被雙重空間、數(shù)據(jù)應(yīng)用、算法決策等不斷重塑,作為執(zhí)法機(jī)關(guān),公安機(jī)關(guān)的警務(wù)必須以法治化為目標(biāo)指向。警務(wù)理論如何積極回應(yīng)那些智慧化技術(shù)帶來的顛覆性挑戰(zhàn),并能重構(gòu)又不斷指導(dǎo)警務(wù)實踐適應(yīng)智慧社會的法律規(guī)則,還需要數(shù)字化變革以及一系列警務(wù)數(shù)字化、智慧化、智能化的努力和嘗試。