李小波，李文潤(rùn)

（中國(guó)人民公安大學(xué)，北京 100038）

當(dāng)前，人工智能（Artificial Intelligence）技術(shù)在世界范圍蓬勃發(fā)展，在推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，深刻地影響了人類(lèi)的生產(chǎn)生活方式，對(duì)人類(lèi)社會(huì)發(fā)展進(jìn)程產(chǎn)生深遠(yuǎn)的影響，如何看待人工智能對(duì)人類(lèi)社會(huì)影響，發(fā)展負(fù)責(zé)人的人工智能已成為重要的議題，學(xué)界對(duì)此已有相關(guān)討論［1］。在警務(wù)工作中，人工智能被作為一種新型的高科技系統(tǒng)設(shè)備配備使用，以其多功能、高效率、高穩(wěn)定、強(qiáng)感知、非接觸、自動(dòng)化等技術(shù)優(yōu)勢(shì)持續(xù)深度嵌入警務(wù)工作，在很大程度上提升了警務(wù)工作效率?！叭斯ぶ悄?警用裝備”組合可以實(shí)現(xiàn)警務(wù)高度自動(dòng)化、信息化，甚至警務(wù)自主化，已在公安領(lǐng)域多個(gè)方面被大量應(yīng)用。雖然人工智能目前尚無(wú)法比擬人類(lèi)智慧，但其在邏輯上具備產(chǎn)生理性思維、自我意識(shí)和人格尊嚴(yán)的可能性。近日，谷歌工程師公布了一份與AI聊天機(jī)器人的聊天記錄，稱(chēng)能證明AI聊天機(jī)器人LaMDA（Language Model for Dialogue Applications）具有人類(lèi)知覺(jué)和意識(shí)，雖然谷歌公司隨后否認(rèn)了該事件，并以“違反保密政策”暫停該工程師的工作，但該聊天記錄引發(fā)了人們對(duì)人工智能是否具有人類(lèi)思維的爭(zhēng)議［2］。從當(dāng)前人工智能應(yīng)用于社會(huì)治理領(lǐng)域?qū)嵺`看，人工智能技術(shù)及其載體的組合具備成為主體的潛力和特質(zhì)，特別是當(dāng)人類(lèi)將判斷和決定的權(quán)力賦予人工智能后，其在理論上已具備成為主體的可能性。隨著人工智能大規(guī)模介入社會(huì)治理，在可以預(yù)見(jiàn)的未來(lái)，人工智能將直接挑戰(zhàn)人類(lèi)在社會(huì)治理中的主體地位，警務(wù)活動(dòng)的公權(quán)力特性也使得人們對(duì)人工智能介入其中存在著擔(dān)憂，極易引發(fā)社會(huì)關(guān)注，迫切需要我們從人的主體性和交往關(guān)系角度審視人工智能在警務(wù)領(lǐng)域的應(yīng)用及其可能產(chǎn)生的異化風(fēng)險(xiǎn)。

異化是人類(lèi)在發(fā)展過(guò)程中創(chuàng)造的物質(zhì)的或精神的東西成為異己的存在力量并反過(guò)來(lái)控制、奴役人類(lèi)自身［3］。德國(guó)法蘭克福學(xué)派基于馬克思的勞動(dòng)異化理論，關(guān)注科學(xué)技術(shù)異化對(duì)社會(huì)產(chǎn)生的影響，并將其定位為“工具”進(jìn)行審視，認(rèn)為科學(xué)技術(shù)在不斷發(fā)展過(guò)程中正在成為異化指向的對(duì)象，即科學(xué)技術(shù)作為人類(lèi)文明的創(chuàng)造物，本來(lái)應(yīng)該反饋和造福人類(lèi)，但現(xiàn)代社會(huì)中“異化”了的科技反過(guò)來(lái)控制、脅迫乃至危害人類(lèi)［4］，凸顯“工具”對(duì)人類(lèi)與世界的反向鉗制作用。但如今，人工智能作為技術(shù)發(fā)展的最新樣態(tài)，極大程度上顛覆了我們對(duì)科學(xué)技術(shù)的原有認(rèn)識(shí)。盡管我們不能說(shuō)人工智能就是全新的物種，但是我們必須在直面人工智能主體可能性的前提下追問(wèn)人工智能異化的問(wèn)題［5］。與傳統(tǒng)的技術(shù)異化不同，人工智能異化不僅體現(xiàn)在技術(shù)本身對(duì)人類(lèi)的鉗制和反作用，還體現(xiàn)在人工智能潛在的主體化趨勢(shì)可能對(duì)人的主體性和社會(huì)交往關(guān)系形成影響，換言之，人工智能異化的影響將由“利用”關(guān)系層面上升為“交往”關(guān)系層面。因而，法蘭克福學(xué)派傳統(tǒng)技術(shù)異化理論的“工具”對(duì)象已無(wú)法對(duì)人工智能異化問(wèn)題進(jìn)行全面的回應(yīng)，特別是無(wú)法從主體關(guān)系層面刻畫(huà)人工智能異化帶來(lái)的影響。

在應(yīng)用人工智能技術(shù)拓展警務(wù)資源、提升警務(wù)效能、驅(qū)動(dòng)警務(wù)創(chuàng)新從而釋放技術(shù)紅利的同時(shí)，也隱含著人工智能以其技術(shù)優(yōu)勢(shì)脫離人類(lèi)控制，威脅人類(lèi)主體性和交往關(guān)系的危機(jī)。剖析這一問(wèn)題，“交往理性”在當(dāng)下又給予我們新的解構(gòu)視角。哈貝馬斯在其著作《交往行為理論》中首先提出“系統(tǒng)”與“生活世界”的概念［6］?！跋到y(tǒng)”以“工具行為”“工具理性”為主導(dǎo)，代表了社會(huì)中的“技術(shù)”和“制度”層面。而“生活世界”則由“交往行為”“價(jià)值理性”所構(gòu)建，由此形成了社會(huì)中的“文化”層面。筆者認(rèn)為，人工智能技術(shù)成為主體，其實(shí)質(zhì)首先是“技術(shù)”層面的突破，并隨著其不斷發(fā)展在社會(huì)“技術(shù)—制度”關(guān)系中發(fā)生碰撞競(jìng)合，入侵社會(huì)的“系統(tǒng)”，改造了傳統(tǒng)人類(lèi)社會(huì)的制度框架。革新的“技術(shù)”和發(fā)生形變甚至被重塑的“制度”又在“技術(shù)—制度—文化”關(guān)系中發(fā)生二次碰撞競(jìng)合，在“系統(tǒng)”的基礎(chǔ)之上進(jìn)一步入侵社會(huì)的“生活世界”，從而影響了傳統(tǒng)人類(lèi)社會(huì)的固有文化觀念。因而，以“技術(shù)—制度—文化”的社會(huì)形態(tài)建構(gòu)關(guān)系為邏輯支撐，從交往理性分析人工智能在警務(wù)工作中應(yīng)用及其異化風(fēng)險(xiǎn)具有較好的解釋力。

本研究嘗試從技術(shù)主體化出發(fā)，以“交往理性”為分析視角，在剖析“異化”思想內(nèi)涵、闡釋人工智能技術(shù)異化過(guò)程的基礎(chǔ)上，對(duì)警務(wù)人工智能技術(shù)異化的具體形成機(jī)理進(jìn)行探究，對(duì)其可能導(dǎo)致的風(fēng)險(xiǎn)及具體的類(lèi)型進(jìn)行分析，并在此基礎(chǔ)上提出規(guī)制策略，以期能夠?qū)θ斯ぶ悄軕?yīng)用的合理化、安全化有所助益。

一、人工智能：從技術(shù)走向公共治理的手段

當(dāng)前，人工智能正在逐步走進(jìn)人們的日常生活，但其并非新近發(fā)明，最早追溯至計(jì)算機(jī)的出現(xiàn)，彼時(shí)計(jì)算機(jī)專(zhuān)家已著手探究如何利用人腦外部算法來(lái)模擬人類(lèi)的神經(jīng)網(wǎng)絡(luò)，以此代替人類(lèi)的腦力勞動(dòng)，“人工智能”的概念即已初步被提出，并逐步開(kāi)展專(zhuān)家系統(tǒng)、模式識(shí)別和機(jī)器學(xué)習(xí)模型建構(gòu)［7］。至20世紀(jì)90年代，計(jì)算機(jī)的演算效能取得革命性進(jìn)步，自動(dòng)化水平不斷提高，達(dá)到了足以支撐投射到現(xiàn)實(shí)的邏輯推理和決策選擇的水平，人工智能由理論概念變?yōu)楝F(xiàn)實(shí)，并作為人腦思維的輔助參與、幫助人類(lèi)開(kāi)展理論研究與具體實(shí)踐，在如醫(yī)學(xué)、地質(zhì)學(xué)、工程學(xué)、經(jīng)濟(jì)學(xué)、教育學(xué)、軍事學(xué)等領(lǐng)域已全面鋪開(kāi)。近年來(lái)，人類(lèi)已不滿(mǎn)足于人工智能技術(shù)對(duì)物質(zhì)世界探究和應(yīng)用效率的提升，而將目光置于人工智能技術(shù)與社會(huì)治理相結(jié)合領(lǐng)域，嘗試以高效能的算法技術(shù)代替人類(lèi)從事公共治理活動(dòng)，人工智能由此大規(guī)模滲透進(jìn)人們的日常生活，從單純的技術(shù)上升為社會(huì)治理的手段，其典型的應(yīng)用場(chǎng)景主要在公共行政、司法和警務(wù)三個(gè)領(lǐng)域。

傳統(tǒng)的公共行政難以應(yīng)對(duì)社會(huì)的龐雜性和模糊性帶來(lái)的治理難題。公共行政的前提要求是對(duì)治理場(chǎng)域具有清晰的認(rèn)知，并在認(rèn)知的基礎(chǔ)上充分掌握各種信息，實(shí)現(xiàn)精準(zhǔn)的決策與實(shí)行。單純由人類(lèi)實(shí)施的公共行政，因收集信息的主觀性、有限性以及失真的可能性，加之信息處理與分析層面的能力及效率問(wèn)題，往往無(wú)法做到“完美行政”。而人工智能技術(shù)的介入，大大提高了信息收集處理、決策制定和施行的能力與效率，使公共行政整體水平有了明顯的提升。例如，北京市市場(chǎng)監(jiān)督管理局所采用的“智能登記服務(wù)平臺(tái)”，可自動(dòng)分析企業(yè)提交材料，并能夠在無(wú)人干預(yù)的情況下自行決定審批［8］；遼寧省稅務(wù)局將部分稅務(wù)行政處罰裁量?jī)?nèi)嵌于“金稅三期”稅收管理系統(tǒng)，由系統(tǒng)作出申報(bào)、發(fā)票、登記等日常征管類(lèi)處罰［9］；加拿大政府與科技公司合作，開(kāi)發(fā)傳染病早期自動(dòng)預(yù)警系統(tǒng)，可智能監(jiān)測(cè)分析群體或個(gè)人新冠病毒暴露風(fēng)險(xiǎn)，并自行給出防控措施［10］。這些例子說(shuō)明人工智能大規(guī)模應(yīng)用于現(xiàn)代社會(huì)公共行政已成為推進(jìn)社會(huì)治理現(xiàn)代化的重要選項(xiàng)。

當(dāng)前的司法體系主要面臨工作增量與工作質(zhì)量的矛盾挑戰(zhàn)［11］。一方面，處于劇烈轉(zhuǎn)型和變革中的社會(huì)矛盾增多、問(wèn)題凸顯，大大增加了司法機(jī)關(guān)的工作量；另一方面，司法的公正性、公信性和底線性決定了司法機(jī)關(guān)必須從快、從準(zhǔn)履行司法程序，并最終導(dǎo)出正確結(jié)果。在實(shí)踐中，如何在面對(duì)增量的同時(shí)兼顧質(zhì)量，是司法領(lǐng)域首先需要解決的重要問(wèn)題。而在司法領(lǐng)域內(nèi)應(yīng)用人工智能技術(shù)來(lái)進(jìn)行案情事實(shí)分析和法律適用推理等，則成為了降低工作成本、提升工作效率、保證工作質(zhì)量、促進(jìn)司法公正的有效手段。如成都市檢察院在人臉識(shí)別、智能答疑、量刑輔助、類(lèi)案推送、輔助審查等工作中引入人工智能系統(tǒng)，實(shí)現(xiàn)檢察工作高效化［12］；上海市高級(jí)人民法院研發(fā)的“206系統(tǒng)”（“刑事案件智能輔助辦案系統(tǒng)”）具備審判過(guò)程中核驗(yàn)、檢查和監(jiān)督功能，能夠自動(dòng)預(yù)警可能偏離的審判結(jié)果，提高審判質(zhì)量［13］；在美國(guó)刑事訴訟程序中，人工智能也已被大量運(yùn)用于預(yù)測(cè)個(gè)體是否會(huì)再次犯罪、是否會(huì)在開(kāi)庭日出庭等，進(jìn)而影響到有關(guān)保釋、量刑和假釋的決定［14］。

警務(wù)領(lǐng)域是一個(gè)較為特殊的存在——既包含公共行政層面，同時(shí)也包含刑事司法層面。警務(wù)工作廣泛的社會(huì)覆蓋性、較高的暴力強(qiáng)制、繁復(fù)的程序性和工作的危險(xiǎn)性使得其在實(shí)踐中通常難以達(dá)至理想狀態(tài)。人工智能技術(shù)的超強(qiáng)計(jì)算性、精準(zhǔn)的識(shí)別能力和不知疲倦的特性使其在警務(wù)領(lǐng)域被大規(guī)模應(yīng)用，特別是人工智能技術(shù)控制下的外接設(shè)備的應(yīng)用則大大拓展了警務(wù)工作的范圍，提升了警務(wù)工作的精準(zhǔn)度，在較大程度上增強(qiáng)了警務(wù)工作的效能。如在采集與感知層面，人工智能有著多維度信息采集和高廣度態(tài)勢(shì)感知的優(yōu)勢(shì)，能根據(jù)預(yù)警研判不同任務(wù)需求，選擇連接高清攝像機(jī)、紅外攝像機(jī)、雷達(dá)掃描儀以及熱成像遙感設(shè)備等，實(shí)現(xiàn)以不同手段采集各個(gè)維度信息，信息采集面廣，采集內(nèi)容更為全面；同時(shí)，人工智能還具有隱蔽性好、時(shí)空延遲短、使用范圍廣等特點(diǎn)，能夠全時(shí)空工作，執(zhí)行特殊作業(yè)任務(wù)能力強(qiáng)。如在公安遙感領(lǐng)域，人工智能在毒品原植物識(shí)別研判、邊境安全管控中大規(guī)模應(yīng)用。在判斷與決策層面，人工智能技術(shù)當(dāng)前已可實(shí)現(xiàn)自主化、智能化分析數(shù)據(jù)，能夠獨(dú)立完成生物特征識(shí)別、特殊物品辨認(rèn)、特定行為研判等一系列的數(shù)據(jù)處理和分析工作。例如，在刑事追緝中，人工智能結(jié)合人像比對(duì)系統(tǒng)和警用無(wú)人機(jī)可從空中對(duì)嫌疑人進(jìn)行比對(duì)，確定抓捕目標(biāo)［15］；在林區(qū)治安中，可連接遙感衛(wèi)星自動(dòng)判斷森林盜伐面積、盜伐樹(shù)種；在交通巡邏中，通過(guò)監(jiān)控探頭集群可自主研判車(chē)輛行駛軌跡。在執(zhí)行與處理層面，近年來(lái)人工智能技術(shù)嵌入各類(lèi)執(zhí)法輸出設(shè)備也成為新趨勢(shì)。在各地公安機(jī)關(guān)的實(shí)踐中，人工智能可連接擴(kuò)音喇叭，用以開(kāi)展大型活動(dòng)管控和進(jìn)行違法犯罪警告，通過(guò)智能聯(lián)結(jié)煙霧彈、催淚彈等防暴控制裝備，用以驅(qū)離非法聚集人群，實(shí)現(xiàn)對(duì)群體性事件的處置。同時(shí)，人工智能還可以通過(guò)智能武器站遙控網(wǎng)槍、泰瑟槍等非致命性暴力設(shè)備，用以抓捕犯罪嫌疑人，震懾犯罪行為。目前國(guó)外也有軍警部門(mén)正在進(jìn)行智能機(jī)器人搭載手槍、步槍等殺傷性武器的相關(guān)試驗(yàn)與應(yīng)用［16］。

上述分析可見(jiàn)，人工智能已然從技術(shù)應(yīng)用演化為一種社會(huì)治理手段，其大規(guī)模應(yīng)用不僅節(jié)省了大量的行政資源，同時(shí)提升了治理效率。與此同時(shí)，人工智能深度應(yīng)用及其主體化趨勢(shì)帶來(lái)的爭(zhēng)議不斷增多，蘊(yùn)含著現(xiàn)實(shí)風(fēng)險(xiǎn)，需要我們認(rèn)真反思其對(duì)社會(huì)治理帶來(lái)的挑戰(zhàn)，特別是在警務(wù)領(lǐng)域可能帶來(lái)的風(fēng)險(xiǎn)。

二、人工智能在警務(wù)應(yīng)用中的異化闡釋

人工智能在警務(wù)領(lǐng)域的深度應(yīng)用使其與人類(lèi)主體發(fā)生交互關(guān)系，這實(shí)際在某種程度上肯定了人工智能的思考和判斷能力，并以此為據(jù)啟動(dòng)警察權(quán)的行使，或者人工智能直接行使警察權(quán)力。因而，從實(shí)質(zhì)上來(lái)說(shuō)，人工智能實(shí)際上已經(jīng)成為警務(wù)活動(dòng)的主體，逐漸取代傳統(tǒng)意義的人類(lèi)警務(wù)工作主體，自主行使權(quán)力，實(shí)現(xiàn)控制，而協(xié)助人工智能應(yīng)用的警察逐漸成為技術(shù)的附庸，開(kāi)啟了人類(lèi)由主體向客體轉(zhuǎn)化的趨勢(shì)。雖然人工智能具有“極致理性”的優(yōu)勢(shì)［17］，但也存在人性空白的缺陷，勢(shì)必對(duì)傳統(tǒng)警務(wù)活動(dòng)及其形態(tài)形成沖擊。

（一）人工智能在警務(wù)應(yīng)用中“反客為主”

從哲學(xué)角度看，“主體”是指有認(rèn)識(shí)和實(shí)踐反應(yīng)的個(gè)體或群體，側(cè)重人的實(shí)踐能力和認(rèn)識(shí)能力［18］。換言之，成為主體的核心要素，其一是具有人類(lèi)思維的特性，即獨(dú)立思考和判斷的能力；其二是能夠從外界攝入知識(shí)，即具有感知和接受外界事物的能力；其三是能夠影響外界，即具有以直接或間接行為等方式改造或規(guī)制外界的能力。將以上三者有機(jī)融合，即主體的實(shí)質(zhì)是能夠從外界攝取知識(shí)，以獨(dú)立的思考或判斷加之分析處理，并通過(guò)實(shí)踐對(duì)外界產(chǎn)生影響。按此邏輯反推，則符合上述三要素條件的事物，可稱(chēng)其為“實(shí)質(zhì)”上的“主體”①其中的“實(shí)質(zhì)”以表征其客觀事實(shí)，意指僅就其現(xiàn)實(shí)運(yùn)行中的特性而將其定義為“主體”，在法律、倫理等層面是否能夠?qū)M(mǎn)足上述三要素的事物定義為主體，仍有待爭(zhēng)論。但僅就“主體化”三要素條件看待人工智能這一具體事物，也可基本厘清人工智能如何能夠從單純的警務(wù)工具出發(fā)邁向主體化。。

隨著科技的進(jìn)步，人工智能技術(shù)已取得較大創(chuàng)新，并在警務(wù)實(shí)戰(zhàn)中廣泛裝備，其信息化、智能化應(yīng)用全面展開(kāi)，人工智能應(yīng)用中呈現(xiàn)的主體化趨勢(shì)不斷顯現(xiàn)。如利用智能交通流量控制系統(tǒng)實(shí)時(shí)演算車(chē)流量，通過(guò)控制交通信號(hào)燈等實(shí)現(xiàn)交通疏導(dǎo)；利用物聯(lián)智能攝像頭實(shí)現(xiàn)遠(yuǎn)端人臉識(shí)別、體溫檢測(cè)和自動(dòng)放行；利用警用無(wú)人機(jī)鎖定并自動(dòng)追蹤逃匿的犯罪嫌疑人等等。人工智能技術(shù)成為治理手段的過(guò)程中同樣隱喻了其侵蝕甚至顛覆人類(lèi)主體地位和交往關(guān)系的風(fēng)險(xiǎn)，并在行政與司法相結(jié)合并輔之以強(qiáng)制權(quán)力的警務(wù)領(lǐng)域表現(xiàn)尤為明顯。如2013年，美國(guó)威斯康星州法院在指控一項(xiàng)駕車(chē)射擊案時(shí)，使用算法風(fēng)險(xiǎn)評(píng)估工具COMPAS對(duì)被告的累犯風(fēng)險(xiǎn)做出評(píng)估，并以此為據(jù)對(duì)被告作出判決，引發(fā)輿論嘩然［19］。實(shí)際上，人們擔(dān)憂的是算法被賦予了某種主體性功能并成為直接證據(jù)用于對(duì)人類(lèi)的裁判。“人工智能+警用裝備”逐步具備人類(lèi)警員特征，并大有超越并替代人類(lèi)開(kāi)展警務(wù)工作的趨勢(shì)。人工智能嵌合警務(wù)工作后，成為警務(wù)活動(dòng)新的實(shí)現(xiàn)平臺(tái)，某種形式上獲得了執(zhí)法主體資格，隱含地享有警察權(quán)，進(jìn)而實(shí)現(xiàn)對(duì)人類(lèi)的強(qiáng)制，換言之，人工智能在應(yīng)用中逐步成為執(zhí)法主體，享有警察權(quán)，對(duì)社會(huì)產(chǎn)生了實(shí)質(zhì)上的強(qiáng)控制作用［20］。從目前人工智能技術(shù)及其具體實(shí)踐應(yīng)用看，人工智能已可自主化實(shí)現(xiàn)“輸入”“分析”“輸出”這三個(gè)環(huán)節(jié)。在可以預(yù)見(jiàn)的未來(lái)，基于人工智能技術(shù)的發(fā)展趨勢(shì)，其勢(shì)必會(huì)將以上三環(huán)節(jié)串聯(lián)起來(lái)，獨(dú)立完成“輸入—分析—輸出”全過(guò)程。因而，從“主體”三要素審視人工智能，其完全可以在技術(shù)進(jìn)化中實(shí)現(xiàn)主體化，由“工具”成為“主體”。在警務(wù)工作領(lǐng)域，隨著人工智能越來(lái)越多參與數(shù)據(jù)收集、警務(wù)決策和執(zhí)行活動(dòng)，其不再是簡(jiǎn)單的技術(shù)使用，而由人類(lèi)利用的“工具客體”逐步轉(zhuǎn)化為實(shí)質(zhì)上的執(zhí)法“決定主體”，這說(shuō)明人工智能在警務(wù)領(lǐng)域應(yīng)用中反客為主將成為重要的趨勢(shì)，值得深思、警惕。

（二）人類(lèi)在人工智能的警務(wù)應(yīng)用中“反主為客”

從人工智能應(yīng)用趨勢(shì)看，其與人類(lèi)的支配關(guān)系將面臨逐漸的逆轉(zhuǎn)。首先，人工智能技術(shù)的深度嵌入使警務(wù)技術(shù)系統(tǒng)自身具備了獨(dú)立的思考與判斷能力，成為了警員大腦功能的延伸，代替警員進(jìn)行復(fù)雜繁瑣而又精細(xì)的信息處理和分析決策。在“大腦器官?gòu)?qiáng)化”階段，人工智能本質(zhì)上屬于輔助人類(lèi)警員思考的“工具”，對(duì)于人類(lèi)并沒(méi)有主體地位上的威脅。但隨著人工智能在工作中的自主水平不斷提高，逐漸能夠獨(dú)立勝任執(zhí)法工作，不必需以人類(lèi)警員作為其控制核心，此時(shí)人工智能已不再單純地是警員的器官外化與延伸，而成為了“類(lèi)本質(zhì)”的人，也就具備了與人類(lèi)分享，甚至爭(zhēng)奪主體地位的可能性。

其次，人工智能本質(zhì)上是人類(lèi)大腦理性外化的投射，而相較于人類(lèi)，具有“極致理性”的特點(diǎn)［21］，不會(huì)被人類(lèi)情緒、情感、性格、意志等感性干擾因素所影響，因而以算法分析處理問(wèn)題能夠?qū)崿F(xiàn)完全理性。人工智能可通過(guò)上百萬(wàn)次的演算尋找最優(yōu)解，其在“輸入”“分析”“輸出”三個(gè)環(huán)節(jié)的能力遠(yuǎn)強(qiáng)于人類(lèi)，且數(shù)字儲(chǔ)存的方式能夠在短時(shí)間內(nèi)寫(xiě)入、寫(xiě)出大量知識(shí)記憶，科學(xué)整合各型各類(lèi)資源，以極其豐富的方式完成人類(lèi)無(wú)法完成的任務(wù)，具有遠(yuǎn)超于人類(lèi)的工作效率。從功利主義角度考量，人工智能比人類(lèi)更能勝任繁復(fù)程度較高的工作。隨著技術(shù)治理、數(shù)據(jù)治理不斷滲透到社會(huì)生活各個(gè)領(lǐng)域，警務(wù)工作對(duì)大數(shù)據(jù)的依賴(lài)越來(lái)越深，人工智能因其工作能力、效率和精準(zhǔn)度遠(yuǎn)勝于人類(lèi)，將會(huì)有更多的工作業(yè)務(wù)需要人工智能參與甚至承擔(dān)，能夠獨(dú)立主導(dǎo)執(zhí)法工作的人工智能技術(shù)將會(huì)扮演愈發(fā)重要的角色。從異化角度看，人工智能將會(huì)占據(jù)更多主體地位，并侵蝕和割占原本由人類(lèi)主體承擔(dān)的警務(wù)工作，進(jìn)而擠壓人類(lèi)的主體地位。

再者，從微觀層面而言，警務(wù)工作的主體是擁有情感的人類(lèi)，即警員，其客體也是人類(lèi)，即執(zhí)法對(duì)象。初級(jí)的人工智能在警務(wù)工作中是作為工具使用的，主客體交互關(guān)系可表示為“人—人工智能—人”。但隨著人工智能深度學(xué)習(xí)能力不斷增強(qiáng)，特別是其信息收集、分析、研判和執(zhí)行功能自動(dòng)化甚至自主化后，將逐漸脫離對(duì)人類(lèi)的依附，成為警務(wù)工作的主體，警員被動(dòng)等待研判結(jié)果和指令，實(shí)際上成為人工智能的附庸被邊緣化，人類(lèi)反而成為了客體，成為了被控制和支配的對(duì)象。人工智能在社會(huì)的“制度”層面占據(jù)主導(dǎo)地位使得警務(wù)工作的主客體交互關(guān)系異化為“人工智能—人”。由此不難發(fā)現(xiàn)，隨著人工智能技術(shù)的進(jìn)步及其應(yīng)用深度的拓展，人類(lèi)作為警務(wù)活動(dòng)主體的地位將被侵蝕，作為警務(wù)法律關(guān)系中的管理及執(zhí)法對(duì)象的人類(lèi)成為客體，人類(lèi)與人工智能主客體地位反轉(zhuǎn)，人類(lèi)顯現(xiàn)出“主體客體化”的傾向。

（三）“有缺陷”的主體特質(zhì)導(dǎo)致人工智能在警務(wù)應(yīng)用中異化

在符號(hào)主義學(xué)派看來(lái)，人工智能本質(zhì)上是數(shù)理邏輯，其基本單元是符號(hào)，智能是符號(hào)運(yùn)算后的外顯形式，符號(hào)主義學(xué)派（由人）將智能形式化為符號(hào)、知識(shí)、規(guī)則和算法，并用計(jì)算機(jī)實(shí)現(xiàn)符號(hào)、知識(shí)、規(guī)則和算法的表征和計(jì)算，從而實(shí)現(xiàn)用計(jì)算機(jī)來(lái)模擬人的智能行為［22］。以“符號(hào)主義”為原理所建構(gòu)的人工智能作為主體與人類(lèi)主體相比存在天然缺陷，人類(lèi)思維及其情感的復(fù)雜性是人工智能所不具備的，特別是人工智能不具有人類(lèi)思想與意識(shí)上的整體性，其對(duì)于人類(lèi)思維的模仿是不完全的、不充分的［23］。因而，人工智能無(wú)法完全像警察一樣開(kāi)展執(zhí)法工作，以人工智能為獨(dú)立執(zhí)法主體將會(huì)重塑傳統(tǒng)警務(wù)工作的體系和機(jī)制。

人的本質(zhì)是一切社會(huì)關(guān)系的總和，是理性和感性的統(tǒng)一，理性是遵循邏輯的認(rèn)識(shí)和實(shí)踐，而感性則是基于心靈的感知與體驗(yàn)。人工智能作為人類(lèi)思維的外化，能夠以大數(shù)據(jù)和算法模仿人類(lèi)的理性思考功能，但算法是模型化、流程化的，而根據(jù)“交往理性”模型，人的認(rèn)知世界中除“系統(tǒng)”外還包括“生活世界”，后者包含著大量的非理性因素，特別是情感內(nèi)容，它們難以被數(shù)據(jù)化，人工智能算法既難以生成，也無(wú)法還原這些情感，換言之，人工智能不具備人類(lèi)的心靈能力，無(wú)法進(jìn)行感性認(rèn)識(shí)，開(kāi)展感性實(shí)踐。雖然人工智能隨著其進(jìn)化可能代替人類(lèi)成為某項(xiàng)活動(dòng)的主體，但僅可在其發(fā)揮作用的社會(huì)“技術(shù)”“制度”層面將其視為“類(lèi)主體”，相比于人類(lèi)而言，因其存在感性部分的缺失，難以展開(kāi)有效的交互進(jìn)而建立真正的社會(huì)交往關(guān)系，從“制度”邁向“文化”的生硬入侵將對(duì)人類(lèi)原本的社會(huì)“文化”體系產(chǎn)生深遠(yuǎn)影響。

傳統(tǒng)的警務(wù)執(zhí)法活動(dòng)中，主體和客體都是人類(lèi)，雙方能夠產(chǎn)生感性層面的共情，基于公序良俗、價(jià)值觀、同情心等對(duì)執(zhí)法行為和結(jié)果進(jìn)行妥協(xié)和博弈，不存在一方基于剛性程序設(shè)計(jì)而不顧具體場(chǎng)景的情況。例如，在部分治安案件中，受害人要求警察必須對(duì)行為人的違法行為做出嚴(yán)肅處理，警察則基于社會(huì)道德和習(xí)俗希望當(dāng)事雙方能夠達(dá)成和解，又如家庭矛盾造成的輕傷案件中，警察也往往考慮家庭倫理而避免采取嚴(yán)厲的措施［24］。實(shí)踐中，這種做法更有利于化解矛盾，對(duì)促進(jìn)社會(huì)長(zhǎng)久和諧的意義和價(jià)值遠(yuǎn)遠(yuǎn)大于僵硬執(zhí)行法律條文。

然而人工智能參與警務(wù)活動(dòng)實(shí)踐，因其不存在感性認(rèn)識(shí)和實(shí)踐，只能夠?qū)㈧o態(tài)的規(guī)則條文轉(zhuǎn)化為現(xiàn)實(shí)的執(zhí)法行為［25］139-141，無(wú)從考量執(zhí)法的內(nèi)生精神、本原價(jià)值等執(zhí)法背后的法理精神，缺少人類(lèi)實(shí)踐中的能動(dòng)性、創(chuàng)造性和社會(huì)性，無(wú)從感知人類(lèi)在警務(wù)活動(dòng)中的倫理、道德、信仰、情感等因素，難以在復(fù)雜的情境中有效地將理性和感性認(rèn)識(shí)統(tǒng)一于警務(wù)實(shí)踐中，只以算法“機(jī)械”比照法律并依據(jù)其所學(xué)習(xí)的指令進(jìn)行決策，難以做到基于人與人之間的交互關(guān)系還原警務(wù)工作中人與人的關(guān)系。因而，人工智能主導(dǎo)的警務(wù)活動(dòng)，將導(dǎo)致警務(wù)過(guò)程的機(jī)械化、程式化，警務(wù)治理效果的冰冷化，這種完全理性導(dǎo)向的控制長(zhǎng)此下去，將會(huì)弱化警察在工作中的感知和創(chuàng)造能力，破壞了社會(huì)的“文化”層面架構(gòu)，導(dǎo)致人類(lèi)自身的社會(huì)交互關(guān)系愈發(fā)“冰冷”“僵硬”“功利”。如在警務(wù)執(zhí)法領(lǐng)域，其在執(zhí)法原則上挑戰(zhàn)主體倫理關(guān)系、執(zhí)法權(quán)限上侵蝕公民隱私范圍、執(zhí)法內(nèi)容上破壞人性向“善”的道德價(jià)值、執(zhí)法形式上改造傳統(tǒng)的平等主體模式、執(zhí)法交流中剝離人類(lèi)心靈的情感體驗(yàn)，等等。

如果不能及時(shí)對(duì)人工智能的應(yīng)用進(jìn)行調(diào)適，極有可能陷入功利主義悖論，泯滅技術(shù)發(fā)展本意，漠視人的精神價(jià)值，破壞原本的人性體系，動(dòng)搖人類(lèi)精神支柱，從而在不斷被物化的過(guò)程中喪失了人類(lèi)的創(chuàng)造性和批判性，淪為技術(shù)的附屬品。

三、警務(wù)人工智能技術(shù)異化的風(fēng)險(xiǎn)表征

如上文所述，技術(shù)本身存在著不同于人類(lèi)原有“制度”與“文化”的運(yùn)行邏輯和實(shí)踐方式，人工智能“有缺陷”的主體特質(zhì)使其難以“無(wú)縫”嵌入警務(wù)工作中，如不加限制地使用，勢(shì)必會(huì)對(duì)警務(wù)目的、個(gè)人隱私、執(zhí)法倫理及道德情感形成沖擊。

（一）目標(biāo)異化：背離警務(wù)的核心目標(biāo)

人類(lèi)在長(zhǎng)期的社會(huì)實(shí)踐與交往中不斷產(chǎn)生和發(fā)展出各種各樣的治理形式，包括習(xí)慣、法律、戒律、規(guī)章等具體表現(xiàn)，以調(diào)節(jié)人類(lèi)社會(huì)關(guān)系。赫伯特·馬爾庫(kù)塞（Herbert Marcuse）曾描述了一個(gè)以科技為中心的社會(huì)，即以技術(shù)產(chǎn)生的巨大力量，完全控制社會(huì)關(guān)系的社會(huì)形態(tài)，馬爾庫(kù)塞將其稱(chēng)為單向度的“極權(quán)主義社會(huì)”［26］。在這種社會(huì)中，技術(shù)作為一種使人從物質(zhì)奴役中擺脫出來(lái)的手段卻成了統(tǒng)治人的新模式，技術(shù)系統(tǒng)已不單是技術(shù)裝備在數(shù)字意義上的聚合，更為重要的是，技術(shù)裝備運(yùn)轉(zhuǎn)的日益自動(dòng)化、合理化，形成了一個(gè)穩(wěn)定可靠的控制、調(diào)節(jié)系統(tǒng)［27］，形成了“以技術(shù)為意識(shí)形態(tài)的絕對(duì)權(quán)威”。筆者認(rèn)為，人工智能技術(shù)的發(fā)展及其智慧化趨勢(shì)，將使這種由技術(shù)本身生成的絕對(duì)權(quán)威更為專(zhuān)斷、不容置疑且不受約束，導(dǎo)致人類(lèi)只能將自己的權(quán)力單向讓渡于技術(shù)，而無(wú)法從技術(shù)中獲取相應(yīng)的平等交換。人工智能的應(yīng)用對(duì)社會(huì)而言更加強(qiáng)調(diào)“規(guī)制”，而人類(lèi)天性則崇尚“平等與自由”，當(dāng)人類(lèi)文化所孕育的政治理性逐漸被技術(shù)理性所取代時(shí)，人類(lèi)在實(shí)力與地位不對(duì)等的窠臼中被迫讓步，導(dǎo)致“控制”代替了“治理”“服務(wù)”。

警務(wù)是一項(xiàng)重要的社會(huì)治理實(shí)踐，無(wú)論是作為法定規(guī)范的警務(wù)、作為警察工作的警務(wù)、作為系列活動(dòng)的警務(wù)，還是作為維護(hù)秩序的警務(wù)、作為治理的警務(wù)，最終都落腳于秩序維護(hù)這個(gè)本質(zhì)目的之上［28］，警務(wù)可歸結(jié)為維護(hù)治安秩序、保障公共安全的社會(huì)實(shí)踐［29］。因而，警務(wù)的核心價(jià)值目標(biāo)在于提供穩(wěn)定的社會(huì)秩序，為人類(lèi)公共福祉提供基本保障，警務(wù)是以人為本的。在警務(wù)應(yīng)用領(lǐng)域，人工智能以壓倒性的技術(shù)優(yōu)勢(shì)和效能被廣泛使用，在信息采集、分析、研判的同時(shí)不斷被賦予執(zhí)行功能，這種趨勢(shì)的不斷發(fā)展將會(huì)重塑警務(wù)工作機(jī)制和組織體系，打破雙向賦權(quán)和約束對(duì)等的平衡［30］，導(dǎo)致技術(shù)在警務(wù)領(lǐng)域形成“寡頭”控制，進(jìn)而在警務(wù)執(zhí)法中避開(kāi)原有人本化的控制而植入“技術(shù)自己的模式”，造成原有執(zhí)法工作體系的異化。從技術(shù)角度出發(fā)，人工智能深度參與將導(dǎo)致警務(wù)領(lǐng)域的“技術(shù)利維坦化”，難以彰顯社會(huì)治理對(duì)人性?xún)r(jià)值的維護(hù)。一旦人工智能被賦予獨(dú)立執(zhí)法主體地位，其將憑借精準(zhǔn)、高效、全面的“極致理性”而形成執(zhí)法的“超級(jí)權(quán)威”，造就凡事由人工智能決斷而無(wú)人類(lèi)監(jiān)控與反饋的“技術(shù)利維坦”［27］88。警務(wù)活動(dòng)涉及諸多方面，在執(zhí)法領(lǐng)域，執(zhí)法者和執(zhí)法對(duì)象在法律上存在權(quán)利義務(wù)關(guān)系，但兩者在人格上是平等的，這種人格的平等使兩者之間可以溝通，在互動(dòng)中達(dá)到最優(yōu)的解。人工智能造就的“技術(shù)利維坦”運(yùn)作的邏輯是完全理性的，其與人類(lèi)互動(dòng)的方式是機(jī)械的、功利的，其能識(shí)別違法和犯罪，但識(shí)別不了導(dǎo)致違法犯罪背后的社會(huì)原因，其能夠執(zhí)行法律，但無(wú)法縫合法律執(zhí)行后社會(huì)關(guān)系留下的裂縫。在治安管理領(lǐng)域，人工智能管理社會(huì)的方式高度數(shù)字化，其管理依據(jù)符號(hào)化后的治安管理法律法規(guī)條文，但是社會(huì)管理的依據(jù)并非全然是正式的法律法規(guī)，還包括被公眾所認(rèn)可的非正式規(guī)范，換言之，警務(wù)所追求的社會(huì)控制既有依據(jù)國(guó)家成文法律法規(guī)的正式控制，也有以道德、習(xí)俗和禁忌為依據(jù)的非正式控制，而人工智能無(wú)法理解這種非正式的規(guī)范。申而言之，警務(wù)的本質(zhì)是維護(hù)社會(huì)秩序，執(zhí)法僅僅是維護(hù)秩序的方式之一，人工智能造就的“警務(wù)利維坦”交互方式是機(jī)械的，其無(wú)法理解也難以窮盡社會(huì)生活交互的豐富性。因而，單純依靠人工智能開(kāi)展警務(wù)活動(dòng)，既無(wú)法涵蓋警務(wù)活動(dòng)的全部場(chǎng)景，也難以實(shí)現(xiàn)警務(wù)活動(dòng)的目標(biāo)，反而會(huì)偏離警務(wù)的本質(zhì)目的。

從治理視角出發(fā)，人工智能在警務(wù)工作中大規(guī)模應(yīng)用難以體現(xiàn)治理的民主性、參與性。在由人工智能主導(dǎo)的警務(wù)活動(dòng)中，人類(lèi)原本復(fù)雜、交叉、雙向的執(zhí)法關(guān)系異化為從技術(shù)指向人的單向度關(guān)系，執(zhí)法中物質(zhì)、能量、信息等方面的流動(dòng)存在不平等性是單向的，這不僅背棄了警務(wù)的目的，還影響公眾參與政治生活的能力［31］。同時(shí)，隨著這種趨勢(shì)的發(fā)展，在工具理性驅(qū)動(dòng)下，社會(huì)將會(huì)更加傾向于通過(guò)技術(shù)手段提高對(duì)自身的控制［32］，技術(shù)則壟斷了執(zhí)法“話語(yǔ)權(quán)”，造成“技術(shù)專(zhuān)制”，人類(lèi)無(wú)法真正參與到執(zhí)法決策中，失去了能動(dòng)性和反思性，被剝奪了參與公共事務(wù)的資格。在警務(wù)活動(dòng)中運(yùn)用人工智能的初衷是實(shí)現(xiàn)精準(zhǔn)化、高效化、全面化，但在功利主義主導(dǎo)下，將警務(wù)效益錯(cuò)置為工作效率，進(jìn)而不斷擴(kuò)大人工智能的使用范圍，在潛移默化中讓“技術(shù)”成為控制的主體并反作用于人類(lèi)，導(dǎo)致人類(lèi)產(chǎn)生過(guò)分依賴(lài)“工具理性”的畸變傾向，漠視“結(jié)果”背后的本原意義，與增進(jìn)民眾的福祉背道而馳［33］，泯滅了警務(wù)的目的與意義。

（二）權(quán)利異化：公眾隱私權(quán)的擠壓與知情權(quán)的剝奪

人工智能主體的數(shù)據(jù)收集具有精確化、全面化、便捷化的特點(diǎn)，數(shù)據(jù)處理與決策又具有數(shù)字化、抽象化、運(yùn)算化的特點(diǎn)，其廣泛應(yīng)用使得預(yù)防違法犯罪、維護(hù)社會(huì)治安秩序、保護(hù)公民生命財(cái)產(chǎn)安全的能力和效率得到了顯著提高。但是，我們也應(yīng)當(dāng)看到，在智能時(shí)代，人類(lèi)社會(huì)面臨的最主要風(fēng)險(xiǎn)之一是個(gè)體權(quán)力的不斷壓縮，即智能算法及其外部感知設(shè)備的應(yīng)用對(duì)公民個(gè)人信息權(quán)利的保護(hù)帶來(lái)了前所未有的挑戰(zhàn)。哈佛大學(xué)學(xué)者馬蒂亞斯·里塞提出，智能社會(huì)下人類(lèi)生活的不可侵犯性受到了有史以來(lái)最為嚴(yán)重的沖擊［34］。人工智能在警務(wù)領(lǐng)域大規(guī)模應(yīng)用，意味著對(duì)個(gè)人多維信息采集全方位地展開(kāi)，呈現(xiàn)出數(shù)據(jù)上的“全景敞視”意味［25］141-143，即從防控的需要在特定的時(shí)空內(nèi)實(shí)現(xiàn)最大限度的數(shù)據(jù)收集與整合處理。在這種“全景敞視”下，公眾暴露在人工智能及其邊端設(shè)備的連鎖“監(jiān)視”下，但又很難對(duì)其執(zhí)法行為有所感知和做出反應(yīng)，存在對(duì)個(gè)人權(quán)利，特別是隱私權(quán)、知情權(quán)侵犯的可能。

一方面，人工智能在警務(wù)領(lǐng)域的應(yīng)用對(duì)公民隱私權(quán)形成擠壓。在信息收集能力方面，人工智能物理上可連接望遠(yuǎn)、紅外、夜視、遙感、熱成像等多維度監(jiān)視監(jiān)測(cè)設(shè)備，數(shù)據(jù)上可進(jìn)入互聯(lián)網(wǎng)、大數(shù)據(jù)鏈條以最大程度挖掘數(shù)據(jù)，且不受時(shí)空條件限制，相較于傳統(tǒng)的人類(lèi)警員范圍更加廣泛、方式更加多樣。人工智能系統(tǒng)態(tài)勢(shì)感知能力極強(qiáng)，收集信息過(guò)于全面和方便，因此，也導(dǎo)致了公共與私人信息邊界模糊的問(wèn)題，某種程度上擠壓了個(gè)體隱私空間，進(jìn)而衍生出監(jiān)視中的隱私權(quán)侵犯問(wèn)題。具體來(lái)說(shuō)，相較于傳統(tǒng)警務(wù)信息收集，人工智能采用的是全方位視角，尤其連接偵察無(wú)人機(jī)等前端設(shè)備后視野寬闊、位置靈活，因而人工智能系統(tǒng)在動(dòng)態(tài)巡邏或定向監(jiān)控過(guò)程中，攝像鏡頭非常有可能捕捉到私人領(lǐng)域，以非直接接觸的方式侵犯公民隱私空間和隱私信息；或在警務(wù)應(yīng)用系統(tǒng)的信息收集過(guò)程中有意或者無(wú)意地捕捉到一些特定或不特定私人信息，可能造成個(gè)人數(shù)據(jù)信息泄漏。另外，人工智能的應(yīng)用也隱含將收集來(lái)的個(gè)人信息用作其他事由的可能性，或者將個(gè)體數(shù)據(jù)串聯(lián)而作為對(duì)個(gè)體生活習(xí)性和行為的研判依據(jù)。這些都會(huì)對(duì)公民的隱私權(quán)利形成擠壓。

另一方面，人工智能在警務(wù)領(lǐng)域應(yīng)用會(huì)在悄無(wú)聲息中完成對(duì)公眾知情權(quán)的剝奪。與隱私權(quán)對(duì)個(gè)人信息的保護(hù)相對(duì)應(yīng)，知情權(quán)側(cè)重于公眾的知悉其信息是否被采集、如何存儲(chǔ)、如何適用等權(quán)利。人工智能主導(dǎo)的警務(wù)活動(dòng)打破了傳統(tǒng)的信息收集與處理模式，在民眾不知情的情況下完成對(duì)信息的收集。傳統(tǒng)警務(wù)活動(dòng)警察在收集信息過(guò)程中屬于“嵌入角色”，既是案事件的觀察者，同時(shí)也是參與者，管理對(duì)象能夠直接知悉警察對(duì)其個(gè)人信息的收集。而人工智能的信息收集具有“局外觀察”的特點(diǎn)，通過(guò)外接設(shè)備應(yīng)用抑或線上網(wǎng)絡(luò)搜索，能在民眾不知悉的情況下開(kāi)展監(jiān)視、取證、比對(duì)等工作，避開(kāi)民眾知悉這一環(huán)節(jié)，剝奪公眾對(duì)于個(gè)人信息被收集的知情權(quán)。如人臉識(shí)別、虹膜識(shí)別等無(wú)接觸的信息采集等，實(shí)際上是在無(wú)感的情況下完成的。在信息處理與研判方面，絕大多數(shù)民眾無(wú)法知悉和理解人工智能在“分析與決策”層面所采用的算法邏輯，易導(dǎo)致“算法黑箱”困境［35］，同樣剝奪了民眾對(duì)警務(wù)活動(dòng)合理性和正當(dāng)性的知情權(quán)利。

共產(chǎn)黨人最講認(rèn)真，重要一方面就在于認(rèn)真謀劃全局和總結(jié)提高，這是支部書(shū)記職責(zé)的重要組成部分。知識(shí)學(xué)習(xí)和實(shí)際工作相結(jié)合，學(xué)以致用、相互促進(jìn)，有助于不斷提高全局謀劃的科學(xué)化水平。在實(shí)際工作中，做事“公平公正”，做到“明察秋毫”，實(shí)現(xiàn)管理“用賢勿力”，力避“用力勞傷”，不斷總結(jié)經(jīng)驗(yàn)，汲取教訓(xùn)，增強(qiáng)把握全局的能力，提高工作效率和工作水平。

（三）倫理異化：人工智能的爭(zhēng)奪、錯(cuò)置和僭越挑戰(zhàn)

倫理是指在處理人與人、人與社會(huì)交互關(guān)系時(shí)應(yīng)遵循的道理和準(zhǔn)則，倫理調(diào)整的是“人—人”的人類(lèi)內(nèi)部關(guān)系，毋庸置疑，這一類(lèi)型關(guān)系的主體是人類(lèi)。一旦人工智能主導(dǎo)警務(wù)活動(dòng)，其在警務(wù)活動(dòng)中必然會(huì)與人類(lèi)產(chǎn)生互動(dòng)，進(jìn)而衍生出了新的社會(huì)交互關(guān)系，即“技術(shù)—人”兩種不同屬性和特質(zhì)的主體之間的關(guān)系。此時(shí)，傳統(tǒng)倫理顯然已不能對(duì)此類(lèi)型關(guān)系做出全面的回應(yīng)，現(xiàn)有的倫理體系在機(jī)器智能時(shí)代的現(xiàn)實(shí)下極有可能發(fā)生異化，具體到警務(wù)應(yīng)用層面，體現(xiàn)為人工智能對(duì)人類(lèi)主體地位的爭(zhēng)奪、錯(cuò)置和僭越。

人工智能主導(dǎo)警務(wù)活動(dòng)可能導(dǎo)致算法的傲慢與物理傷害。人工智能不具備人類(lèi)對(duì)倫理底線的認(rèn)知能力，其依憑“輸入—分析—輸出”的理性邏輯行事，可能越過(guò)人類(lèi)為機(jī)器設(shè)定的倫理紅線。一是算法歧視問(wèn)題。在警務(wù)執(zhí)法中，人工智能研判的基礎(chǔ)是大量的經(jīng)驗(yàn)事實(shí)，這些經(jīng)驗(yàn)是機(jī)器學(xué)習(xí)的質(zhì)料，質(zhì)料越多其智能化程度越高，但實(shí)踐中，案件之間存在著天然的差異，即使同類(lèi)案件，當(dāng)事人的情況也不盡相同，但人工智能應(yīng)用中缺少個(gè)案考量，這種“思維定式”導(dǎo)致其進(jìn)行數(shù)據(jù)分析與處理時(shí)過(guò)于相信普適經(jīng)驗(yàn)，缺少對(duì)非理性因素的充分考慮［36］，難以針對(duì)個(gè)案做出合理化的判斷。人工智能應(yīng)用于警務(wù)領(lǐng)域目的在于提高效率，其邏輯算法充斥著“利益最大化”的考量，滲透著功利主義的價(jià)值觀，忽視了對(duì)人性追求平等與尊嚴(yán)的關(guān)懷。此外，人工智能的設(shè)計(jì)者囿于自身主觀認(rèn)知，所設(shè)計(jì)的算法即便能夠自主學(xué)習(xí)，也可能無(wú)法涵蓋人類(lèi)所有的倫理規(guī)則。這些情況告訴我們，人工智能在警務(wù)應(yīng)用中存在著算法的傲慢，某種程度上會(huì)發(fā)展成為算法歧視。二是人工智能自主控制警用器械潛藏對(duì)人類(lèi)“物理傷害”的隱患。艾薩克·阿西莫夫（Isaac Asimov）早在20世紀(jì)50年代便提出了著名的“機(jī)器人三定律”，其中第二條“機(jī)器人不得傷害人類(lèi)個(gè)體，或者目睹人類(lèi)個(gè)體將遭受危險(xiǎn)而袖手不管”［37］，而人工智能為提升執(zhí)法效能，將會(huì)連接各類(lèi)制服性、失能性甚至殺傷性的警械武器。其在發(fā)現(xiàn)嚴(yán)重違法犯罪行為時(shí)，通過(guò)內(nèi)置算法的威脅分析，自主決定使用暴力手段制止危害行為，這將嚴(yán)重觸碰我們?yōu)闄C(jī)器人設(shè)定的倫理底線。

人工智能主導(dǎo)警務(wù)活動(dòng)將直接挑戰(zhàn)現(xiàn)有的警務(wù)工作倫理。當(dāng)人工智能深度參與警務(wù)活動(dòng)，將以其“極致理性”和算法優(yōu)勢(shì)展現(xiàn)出超越人類(lèi)的執(zhí)法效能，它所實(shí)現(xiàn)的自動(dòng)化、智能化在大幅提升執(zhí)法效率的同時(shí)將大大降低執(zhí)法成本，其不僅對(duì)人類(lèi)警員體力勞動(dòng)形成替代，也將在警情研判、犯罪追蹤等腦力勞動(dòng)層面對(duì)人類(lèi)警員形成超越，產(chǎn)生替代效應(yīng)，人類(lèi)由于其生物能力上限將會(huì)主動(dòng)或者被動(dòng)“讓位”，出現(xiàn)技術(shù)主導(dǎo)警務(wù)組織體系，甚至是完全由機(jī)器承擔(dān)的“無(wú)人警務(wù)”，從而讓一些警員成為所謂的“無(wú)用階級(jí)”［38］。這不但改變了警務(wù)工作的模式，還改變警力配置的格局，進(jìn)而導(dǎo)致警務(wù)倫理發(fā)生演變。傳統(tǒng)警務(wù)工作倫理基于人與人的情感交互產(chǎn)生，進(jìn)而內(nèi)化為有約束力的道德情感，能夠基于法理、道理和情理做出合乎倫理的判斷，維護(hù)警察的職業(yè)形象和警民關(guān)系。當(dāng)警務(wù)活動(dòng)由冰冷、理性的機(jī)器主導(dǎo)后，其無(wú)法基于人類(lèi)情感等非理性因素建構(gòu)倫理規(guī)則，無(wú)法基于心靈控制自身的行為，更無(wú)法基于對(duì)公序良俗的理解和適用警察的自由裁量權(quán)，這將導(dǎo)致警務(wù)工作的職業(yè)倫理逐漸沒(méi)落。

人工智能深度參與警務(wù)執(zhí)法將導(dǎo)致歸責(zé)困境。人工智能從設(shè)計(jì)到應(yīng)用的整個(gè)過(guò)程實(shí)際上涉及了多個(gè)主體，包括人工智能本體、人工智能所有者、人工智能使用者、人工智能及其算法設(shè)計(jì)者等等。人工智能開(kāi)展警務(wù)活動(dòng)相對(duì)于人類(lèi)更加精準(zhǔn)、高效，但并不能保證失誤率為零，如果其運(yùn)行過(guò)程中出現(xiàn)失誤甚至發(fā)生責(zé)任事故，歸因歸責(zé)也將會(huì)變得異常難以厘定：如果歸責(zé)于警察，在人工智能不受控的自主活動(dòng)特性下顯然欠妥，因?yàn)閭€(gè)體的警察主觀上并非存有過(guò)錯(cuò)，且將人工智能應(yīng)用于警務(wù)領(lǐng)域并非個(gè)體警察能夠決斷；如果歸責(zé)于人工智能及其算法，人工智能也不具備承擔(dān)責(zé)任、救濟(jì)損失的能力。因而，人工智能一旦出現(xiàn)處理錯(cuò)誤甚至造成不必要的人員傷亡，誰(shuí)應(yīng)當(dāng)承擔(dān)責(zé)任及承擔(dān)何種責(zé)任缺乏明確的規(guī)則。當(dāng)前針對(duì)警察執(zhí)法過(guò)錯(cuò)的民事責(zé)任、行政責(zé)任和刑事責(zé)任等制度設(shè)計(jì)在人工智能主導(dǎo)的警務(wù)活動(dòng)中顯然已無(wú)法有效地作出回應(yīng)。因而，人工智能深度參與警務(wù)執(zhí)法將導(dǎo)致歸責(zé)主體和歸責(zé)方式虛置。

（四）道德異化：人文精神缺失與執(zhí)法邊界的固化

人工智能通過(guò)智能算法實(shí)現(xiàn)處理與決策，但智能算法只能根據(jù)內(nèi)置的執(zhí)法規(guī)則與執(zhí)法現(xiàn)實(shí)情況比對(duì)進(jìn)而生成決策并加以實(shí)施，其雖然擁有遠(yuǎn)超于人類(lèi)的能力和效率，卻無(wú)法顧及決策和行為背后的人本精神與價(jià)值理念，造成人工智能“程式化剛性治理與機(jī)械執(zhí)法的困局”［25］144。因而，人工智能主體異化不僅可能造成對(duì)人類(lèi)“應(yīng)遵循的規(guī)范和準(zhǔn)則”的下限的挑戰(zhàn)，也有對(duì)人類(lèi)“崇善”上限的消弭風(fēng)險(xiǎn)。

人工智能主導(dǎo)警務(wù)活動(dòng)易導(dǎo)致警務(wù)活動(dòng)人文精神的喪失。人文精神是指一種包含理性、感性和超越性的文化傳統(tǒng)，其核心思想是尊重人的價(jià)值和保護(hù)人的尊嚴(yán)的社會(huì)稟賦［39］。在人文精神的熏陶下，相比于法律條文的創(chuàng)造，如何讓法律在實(shí)踐中“活”起來(lái)才是立法的價(jià)值所在：“法律的應(yīng)用是以最嚴(yán)肅的態(tài)度對(duì)待人的學(xué)問(wèn), 隱藏在條條框框背后的思想是對(duì)人和人性的最深刻最本質(zhì)的理解”［40］。在具體的警務(wù)活動(dòng)中，也無(wú)不體現(xiàn)著警察的職責(zé)與人性之“善”。而人工智能通過(guò)將環(huán)境、對(duì)象、行為等信息化為數(shù)字并進(jìn)行演算，最終輸出為行動(dòng)指令，從而實(shí)現(xiàn)的自主“輸入—識(shí)別—輸出”執(zhí)法過(guò)程實(shí)際上“物化”了執(zhí)法對(duì)象，無(wú)法體現(xiàn)出警務(wù)活動(dòng)“崇善向仁”的一面，與“以人民為中心”“以人為本”的技術(shù)發(fā)展理念不符。這種機(jī)械的、程式化的決策與執(zhí)行背離了人的價(jià)值和人文關(guān)懷，使警務(wù)活動(dòng)為人服務(wù)的道德價(jià)值難以彰顯。

人工智能主導(dǎo)警務(wù)活動(dòng)易導(dǎo)致執(zhí)法服務(wù)邊界固化問(wèn)題。一方面，人工智能警務(wù)應(yīng)用將導(dǎo)致回應(yīng)個(gè)性化需求的能力不足。隨著自動(dòng)化、智能化水平不斷提高，人工智能可自主開(kāi)展現(xiàn)場(chǎng)案事件處置，也能進(jìn)行偵查監(jiān)控、治安巡邏、交通指揮、應(yīng)急救援等工作。但警務(wù)工作的場(chǎng)景千差萬(wàn)別，難言同一性，這導(dǎo)致人工智能因自身內(nèi)置算法或外載功能的局限，難以實(shí)現(xiàn)“順手幫忙”的“善意之舉”，無(wú)法像警察一樣有效回應(yīng)不同場(chǎng)景下公眾的需求。另一方面，人工智能在警務(wù)執(zhí)法中保持克制容忍的內(nèi)斂性不足。警察“被賦予了限制和剝奪財(cái)產(chǎn)、自由甚至生命等權(quán)益的規(guī)制手段，具有極大的‘惡’性”［41］，且這種損害不可逆轉(zhuǎn)、難以復(fù)原，因而無(wú)論是人類(lèi)還是人工智能，都必須對(duì)這種暴力規(guī)制設(shè)定“容忍閾值”。但與人類(lèi)不同，人工智能的閾值設(shè)定缺少緩沖區(qū)間，呈現(xiàn)出剛性的“不寬容”。具體來(lái)說(shuō)，人工智能在執(zhí)法中，只要判定各因素符合法律法規(guī)的預(yù)設(shè)條件，即著手采取暴力措施，缺乏對(duì)執(zhí)法后果和影響的考慮，因而也不能像人類(lèi)警員“克制而適度”地執(zhí)法，可能造成“合法但非必要”的損傷結(jié)果，無(wú)法體現(xiàn)警務(wù)執(zhí)法的“謙抑性”。

（五）情感異化：警民關(guān)系疏離與警務(wù)信任危機(jī)

然而，人工智能的“純粹理性”與人類(lèi)的豐富心理情感活動(dòng)之間確實(shí)存在較大張力。申言之，人工智能的“去人性化”式執(zhí)法模式和“效能擴(kuò)張”型價(jià)值驅(qū)動(dòng)使其無(wú)情感因素嵌入，不具備進(jìn)行情感輸出、情感反饋的能力，進(jìn)而難以達(dá)成對(duì)人類(lèi)的情感供給，無(wú)法滿(mǎn)足人類(lèi)豐富的心理體驗(yàn)需求，很大程度上導(dǎo)致執(zhí)法主體與執(zhí)法對(duì)象在執(zhí)法實(shí)質(zhì)內(nèi)容上的“給予—接受”維系結(jié)構(gòu)產(chǎn)生形變甚至斷裂，造成警務(wù)工作中警民之間的情感隔閡。人工智能作為執(zhí)法主體，其不但無(wú)法與執(zhí)法對(duì)象在情感上發(fā)生交互關(guān)系，更因其看上去僵硬、死板、冰冷的執(zhí)法行為而使執(zhí)法對(duì)象產(chǎn)生抵觸甚至排斥的心理感受，大大弱化了警察和公眾之間的情感聯(lián)結(jié)，導(dǎo)致警民關(guān)系的疏離。

信任是一種基于自身能力和過(guò)往行為的超驗(yàn)情感期望［45］，依賴(lài)個(gè)體內(nèi)心體驗(yàn)，信任的生發(fā)與鞏固取決于感受人對(duì)被信任對(duì)象的了解程度。在警務(wù)活動(dòng)中，則可以將這種了解程度具體化為公眾對(duì)于執(zhí)法的知悉程度和參與程度。如上所述，人工智能參與警務(wù)活動(dòng)的“不透明性”使公眾對(duì)警務(wù)活動(dòng)產(chǎn)生未知的“恐慌感”，引發(fā)人們對(duì)警務(wù)活動(dòng)的“不信任感”。人工智能憑借其理性的算法邏輯自主做出執(zhí)法決策，無(wú)法合乎情感地對(duì)執(zhí)法對(duì)象關(guān)于其違法原因等細(xì)節(jié)做出有效回應(yīng)并進(jìn)行互動(dòng)，極易從情感上剝奪執(zhí)法對(duì)象對(duì)于執(zhí)法活動(dòng)的信賴(lài)感，單純依賴(lài)機(jī)器意志做出執(zhí)法決定難免讓執(zhí)法對(duì)象對(duì)警務(wù)活動(dòng)的公正性、科學(xué)性和合理性產(chǎn)生懷疑。由此民眾對(duì)于警務(wù)活動(dòng)的恐慌、懷疑情緒將不斷積累，形成信任危機(jī)。

四、警務(wù)人工智能技術(shù)異化的規(guī)制策略

技術(shù)在推動(dòng)生產(chǎn)力快速發(fā)展的同時(shí)，也將它的理念廣泛滲透到社會(huì)各個(gè)領(lǐng)域［46］，不斷重塑著生產(chǎn)生活結(jié)構(gòu)和人類(lèi)交互的模式，進(jìn)而推動(dòng)社會(huì)制度和文化模式發(fā)生變遷。人工智能的應(yīng)用及其異化已經(jīng)引起研究者的重視，由于警務(wù)領(lǐng)域涉及強(qiáng)制性公權(quán)力的行使，其廣泛應(yīng)用引致的風(fēng)險(xiǎn)更高，應(yīng)加強(qiáng)規(guī)制。2019年，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則—發(fā)展負(fù)責(zé)任的人工智能》（以下簡(jiǎn)稱(chēng)《原則》）［47］，其中的和諧友好、公平公正、包容共享、尊重隱私、安全可控、開(kāi)放協(xié)作、共擔(dān)責(zé)任等原則為我們規(guī)制人工智能技術(shù)異化提供了路徑啟示。人工智能在警務(wù)領(lǐng)域應(yīng)用產(chǎn)生的異化并非無(wú)可避免，只要能堅(jiān)持警務(wù)的本質(zhì)屬性，理順“技術(shù)—人”的交互關(guān)系，正確認(rèn)識(shí)人工智能的應(yīng)用目的，通過(guò)制度化的設(shè)計(jì)使人工智能在參與警務(wù)活動(dòng)中契合警務(wù)目的和人的需要，就能夠在發(fā)揮其效能的同時(shí)，消解其異化產(chǎn)生的問(wèn)題。

（一）明確警務(wù)活動(dòng)中人類(lèi)的主體地位

正如程式化算法永遠(yuǎn)無(wú)法走出“哥德?tīng)栂葳濉雹?931年，哥德?tīng)枺↘.Godel）提出不完備性定理：所有的形式系統(tǒng)中都存在一個(gè)在這個(gè)系統(tǒng)中既不能被證明為真，也不能被證明為假的命題。1961年，盧卡斯（John Lucas）通過(guò)不完備性定理推演指出機(jī)器永遠(yuǎn)無(wú)法讀懂某些特定語(yǔ)句的真假，從而無(wú)法完全模擬人的心智，即為“哥德?tīng)栂葳濉?。，我們?yīng)當(dāng)充分認(rèn)識(shí)到，機(jī)器一方面具有某些遠(yuǎn)超人類(lèi)的能力，但在另一方面又存在遠(yuǎn)不如人類(lèi)的局限［48］。防止警務(wù)活動(dòng)中人工智能應(yīng)用的異化，其前提是遵循《原則》中的公平公正、安全可控等原則指導(dǎo)，明確人類(lèi)在警務(wù)活動(dòng)中的主體性地位，重新認(rèn)識(shí)人工智能本質(zhì)與功能，優(yōu)化警務(wù)執(zhí)法工作中人工智能與人類(lèi)的交往關(guān)系，調(diào)適人工智能工作性質(zhì)由“控制”轉(zhuǎn)為“服務(wù)”，真正實(shí)現(xiàn)技術(shù)與社會(huì)的有機(jī)契合。

首先，要明確人類(lèi)在警務(wù)活動(dòng)中的主體地位。人類(lèi)具有其他事物所不具備的特質(zhì)，那就是人作為活動(dòng)主體的質(zhì)的規(guī)定性，即人的主體性［49］。警務(wù)活動(dòng)是一項(xiàng)人類(lèi)社會(huì)活動(dòng)，其由人開(kāi)展且服務(wù)于人。技術(shù)作為主體可能具有與人類(lèi)相似的業(yè)務(wù)功能，但人類(lèi)參與警務(wù)活動(dòng)有著與技術(shù)本質(zhì)的區(qū)別，即其在警務(wù)活動(dòng)中的人格表現(xiàn)和人性表達(dá)意蘊(yùn)。從這個(gè)意義而言，人工智能作為警務(wù)主體資格實(shí)際上是“殘缺”的。應(yīng)對(duì)人工智能在警務(wù)活動(dòng)中的主體化和人類(lèi)的客體化趨勢(shì)，應(yīng)當(dāng)重新確立并鞏固人類(lèi)的自我本位意識(shí)，拒絕人工智能在主體地位上與人類(lèi)并肩，甚至凌駕于人類(lèi)之上，在維護(hù)人類(lèi)在“技術(shù)—人”社會(huì)交互關(guān)系中的話語(yǔ)權(quán)同時(shí)尋求人工智能與人的“共建”，復(fù)歸人在警務(wù)活動(dòng)中的主體地位。人工智能的應(yīng)用之所以會(huì)帶來(lái)異化影響，根源在于其運(yùn)轉(zhuǎn)邏輯、運(yùn)行機(jī)理、運(yùn)作方式的極致理性，這種極致理性與人類(lèi)心靈天然的感性需求相矛盾。因而，越是在人工智能、大數(shù)據(jù)等技術(shù)大規(guī)模應(yīng)用于警務(wù)工作時(shí)，越應(yīng)當(dāng)強(qiáng)調(diào)人的主體性、技術(shù)的工具性，歸還人類(lèi)在警務(wù)活動(dòng)中的自主性和決定性，強(qiáng)調(diào)“人是萬(wàn)物的尺度”，高揚(yáng)人的主體性，不斷豐富和發(fā)展警務(wù)活動(dòng)的人本內(nèi)涵與意義。在具體的實(shí)踐中，一是應(yīng)當(dāng)通過(guò)法律法規(guī)的設(shè)定，明確將警務(wù)工作的決定權(quán)賦予人類(lèi)，即人類(lèi)是發(fā)布警務(wù)措施、實(shí)施警務(wù)強(qiáng)制的最終決定者；二是賦予對(duì)算法的質(zhì)疑權(quán)利，針對(duì)算法可能出現(xiàn)的錯(cuò)誤，應(yīng)當(dāng)在立法過(guò)程中明確人類(lèi)對(duì)算法失誤質(zhì)疑的權(quán)利，允許通過(guò)行政復(fù)議和訴訟的方式提出審查算法的權(quán)利，實(shí)現(xiàn)對(duì)算法的法律規(guī)制，進(jìn)而維護(hù)人類(lèi)的主體地位。

其次，應(yīng)當(dāng)合適地“安置”人工智能位置。應(yīng)當(dāng)看到，人工智能在警務(wù)活動(dòng)中大規(guī)模應(yīng)用的趨勢(shì)已無(wú)法阻擋，作為人類(lèi)警員的工作輔助和延伸，人工智能在警務(wù)業(yè)務(wù)領(lǐng)域能夠替代人類(lèi)警員的思維和行為，在提高警務(wù)工作效率方面有著人類(lèi)無(wú)可比擬的優(yōu)勢(shì)，應(yīng)給予其合適的位置。從工作實(shí)際需要出發(fā)，應(yīng)當(dāng)賦予人工智能以“輔助主體”地位。在警務(wù)工作中，可以利用人工智能完成信息收集、情報(bào)研判、生成決策等，幫助人類(lèi)更加準(zhǔn)確、高效地開(kāi)展警務(wù)工作，但算法在心智方面的天然殘缺性決定了其不能代替人類(lèi)“獨(dú)立自主”，警務(wù)工作的決定權(quán)、執(zhí)行權(quán)不能歸人工智能支配，以避免機(jī)器倚仗其數(shù)據(jù)優(yōu)勢(shì)和行為優(yōu)勢(shì)產(chǎn)生極化控制。實(shí)踐中，應(yīng)當(dāng)對(duì)人工智能在警務(wù)工作中的邊界給予清晰的界定，即哪些領(lǐng)域可以使用算法輔助功能，哪些領(lǐng)域禁止使用，其使用的限度是什么都應(yīng)在政策制度層面給予清晰的回應(yīng)。

（二）優(yōu)化警務(wù)工作中“人—機(jī)”的分工

針對(duì)人工智能在工作過(guò)程中挑戰(zhàn)并爭(zhēng)奪人類(lèi)主體地位的風(fēng)險(xiǎn)，我們應(yīng)當(dāng)秉持《原則》中的尊重隱私、開(kāi)放協(xié)作等原則，重新梳理“人機(jī)關(guān)系”，優(yōu)化“人機(jī)分工”，化“技術(shù)—人”的異化對(duì)立關(guān)系為“人類(lèi)主導(dǎo)、機(jī)器執(zhí)行”的多元“共治”關(guān)系。

應(yīng)區(qū)分不同警務(wù)工作領(lǐng)域，恰當(dāng)?shù)匕盐杖?、機(jī)效能特點(diǎn)，盡可能發(fā)揮人工智能在警務(wù)工作中的優(yōu)勢(shì)。能被模擬、認(rèn)知和操作的程式化的活動(dòng)，機(jī)器都可以高效且永不疲倦地進(jìn)行，此外，其還能夠在人類(lèi)難以涉足的惡劣、危險(xiǎn)、恐怖環(huán)境下作業(yè)，但在具有創(chuàng)造、批判、經(jīng)驗(yàn)等內(nèi)涵的“體驗(yàn)型”工作上，人類(lèi)則應(yīng)當(dāng)保有其不可替代性，保留不能讓渡給機(jī)器的工作“職能”［46］193。這不僅是對(duì)人類(lèi)勞動(dòng)權(quán)、生存權(quán)的保護(hù)，也是對(duì)人類(lèi)自我價(jià)值實(shí)現(xiàn)的堅(jiān)守。具體而言，警務(wù)工作要求的全時(shí)空性、危險(xiǎn)性和高強(qiáng)度性等特點(diǎn)使人工智能應(yīng)用有著廣闊的前景。因此，在應(yīng)急反恐、邊境安全管控、道路交通管理、情報(bào)信息搜集、研判等單調(diào)重復(fù)和需要大量數(shù)據(jù)采集及運(yùn)算的領(lǐng)域，應(yīng)盡可能地發(fā)揮人工智能優(yōu)勢(shì)以解放警力，提升警務(wù)工作的效率。而在現(xiàn)場(chǎng)執(zhí)法、偵查取證、暴力手段使用等情形下，警員的工作中或涉及自由裁量權(quán)、或涉及執(zhí)法對(duì)象權(quán)益損害、或涉及執(zhí)法主體資格問(wèn)題，此類(lèi)情形則應(yīng)審慎應(yīng)用人工智能，適宜將其作為行動(dòng)支撐而非決策核心，以回避人工智能應(yīng)用形成的治理風(fēng)險(xiǎn)和倫理困境，構(gòu)建人機(jī)共治的“主體間性”結(jié)構(gòu)，實(shí)現(xiàn)社會(huì)效果和法律效果的統(tǒng)一。此外，應(yīng)當(dāng)重視對(duì)公眾隱私權(quán)、知情權(quán)等法律權(quán)利的保護(hù)，公開(kāi)人工智能算法機(jī)理和信息收集的方式，確保人工智能在人類(lèi)的指導(dǎo)與監(jiān)控下開(kāi)展工作，避免將“支配社會(huì)的權(quán)力”讓渡于機(jī)器，制止人工智能應(yīng)用異化鉗制警務(wù)目標(biāo)的實(shí)現(xiàn)。

（三）以“誰(shuí)應(yīng)用誰(shuí)負(fù)責(zé)”為原則解決歸責(zé)困境

人工智能參與警務(wù)活動(dòng)引致風(fēng)險(xiǎn)應(yīng)當(dāng)如何歸責(zé)，學(xué)界尚未對(duì)此展開(kāi)專(zhuān)門(mén)研究。在公共治理領(lǐng)域，技術(shù)與行政價(jià)值的互動(dòng)，須以責(zé)任明晰為前提［50］。雖然人工智能目前尚不能以獨(dú)立的主體資格參與警務(wù)活動(dòng)，但其已廣泛應(yīng)用于警務(wù)活動(dòng)中，實(shí)質(zhì)上承擔(dān)著部分公共行政職能，對(duì)其歸責(zé)的研究已迫在眉睫。十九屆四中全會(huì)已經(jīng)注意到人工智能等新興技術(shù)應(yīng)用對(duì)社會(huì)制度產(chǎn)生的影響，提出“建立健全運(yùn)用互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等技術(shù)手段進(jìn)行行政管理的制度規(guī)則”。

筆者認(rèn)為，在警務(wù)工作領(lǐng)域，人工智能應(yīng)用產(chǎn)生的風(fēng)險(xiǎn)應(yīng)當(dāng)遵循“誰(shuí)應(yīng)用誰(shuí)負(fù)責(zé)”的原則，即使用人工智能的警務(wù)工作機(jī)構(gòu)應(yīng)當(dāng)承擔(dān)人工智能侵權(quán)損害責(zé)任。在民事領(lǐng)域，因人工智能應(yīng)用于警務(wù)工作所帶來(lái)的工作效率提升的收益由警務(wù)工作機(jī)構(gòu)享有，其在應(yīng)用人工智能時(shí)應(yīng)當(dāng)對(duì)可能產(chǎn)生的風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)和論證。理論上，警務(wù)部門(mén)在使用人工智能時(shí)應(yīng)當(dāng)清楚該技術(shù)的性能，部分人工智能的設(shè)計(jì)也是遵循警務(wù)工作部門(mén)的實(shí)際需要開(kāi)發(fā)出來(lái)，其應(yīng)用的具體場(chǎng)景也是由警務(wù)工作部門(mén)選定，因而，由警務(wù)工作部門(mén)承擔(dān)人工智能引致的風(fēng)險(xiǎn)合乎法理。除非有證據(jù)能夠證明人工智能設(shè)計(jì)者因過(guò)失或故意在該技術(shù)開(kāi)發(fā)中留下漏洞造成公眾權(quán)益受損，即便如此，警務(wù)工作部門(mén)應(yīng)先承擔(dān)侵權(quán)責(zé)任，而后向技術(shù)開(kāi)發(fā)者追償。在刑事領(lǐng)域，我們應(yīng)當(dāng)對(duì)利用人工智能導(dǎo)致的犯罪和人工智能本身產(chǎn)生的犯罪問(wèn)題進(jìn)行區(qū)分。利用人工智能導(dǎo)致的犯罪問(wèn)題應(yīng)當(dāng)直接追究使用者的刑事責(zé)任，除非有證據(jù)證明人工智能設(shè)計(jì)者或制造者違背使用者要求導(dǎo)致犯罪，其刑事責(zé)任相對(duì)容易確定。當(dāng)人工智能擁有自我思考和判斷能力并具體執(zhí)行警務(wù)工作時(shí)，其實(shí)際上具有了行政或者刑事司法的主體資格，是具有類(lèi)刑事責(zé)任能力的特殊主體。雖然學(xué)界目前沒(méi)有關(guān)于人工智能刑事責(zé)任能力的相關(guān)研究，但對(duì)機(jī)器施加刑罰毫無(wú)意義，那么刑事責(zé)任承擔(dān)將聚焦人工智能的設(shè)計(jì)者、使用者和所有者三者之一。筆者認(rèn)為，目前尚無(wú)法對(duì)這一問(wèn)題進(jìn)行明確，但應(yīng)當(dāng)清楚的是，誰(shuí)賦予了人工智能自由意志、誰(shuí)擁有該人工智能的所有權(quán)、誰(shuí)在具體使用該人工智能，這三者都應(yīng)當(dāng)承擔(dān)由此產(chǎn)生的犯罪風(fēng)險(xiǎn)，具體歸責(zé)時(shí)應(yīng)當(dāng)看因果關(guān)系的直接性。具體到警務(wù)工作中，人工智能過(guò)錯(cuò)歸責(zé)應(yīng)當(dāng)將設(shè)計(jì)者、使用者和擁有者都納入歸責(zé)范疇：一是設(shè)計(jì)者應(yīng)為人工智能應(yīng)用于警務(wù)活動(dòng)的可靠性和可行性負(fù)責(zé)；二是使用者應(yīng)當(dāng)對(duì)人工智能參與實(shí)際警務(wù)活動(dòng)的決策與行動(dòng)透明性負(fù)責(zé)；三是擁有者，即警務(wù)工作部門(mén)應(yīng)當(dāng)對(duì)人工智能應(yīng)用中發(fā)生錯(cuò)誤時(shí)可解釋性和可定義性負(fù)責(zé)。這種歸責(zé)方式能夠最大限度防止人工智能應(yīng)用產(chǎn)生的責(zé)任盲區(qū)，以保障公眾的權(quán)益得到保護(hù)與救濟(jì)，同時(shí)這種歸責(zé)方式也符合《原則》中提出的“共擔(dān)責(zé)任”原則。

（四）將警務(wù)活動(dòng)的價(jià)值理性充分融入人工智能之中

面對(duì)人工智能在警務(wù)工作中應(yīng)用的異化，我們必須重新審視和反思技術(shù)發(fā)展與社會(huì)實(shí)踐之間的關(guān)系，辨明人工智能應(yīng)用于警務(wù)執(zhí)法活動(dòng)中的價(jià)值目標(biāo)與實(shí)現(xiàn)方式。把握“人是機(jī)器的尺度”，避免人工智能的工具理性主導(dǎo)警務(wù)活動(dòng)而造成警務(wù)價(jià)值理性的喪失困境，這需要我們尊重人在社會(huì)生活中的主體性地位，充分意識(shí)到“相互理解是交往行動(dòng)的核心”［51］，堅(jiān)持“包容共享”原則，以交往理性正確矯正、引導(dǎo)工具理性的發(fā)展，回歸警務(wù)活動(dòng)中的道德與情感“主體間性”關(guān)系，辨明“公眾參與”的重要性，維護(hù)執(zhí)法對(duì)象對(duì)話與交流的權(quán)利，真正實(shí)現(xiàn)意見(jiàn)的雙向交換、信息的公開(kāi)透明、決策的公平公正［52］。

一方面，應(yīng)當(dāng)以交往理性為指引，重視警務(wù)活動(dòng)中技術(shù)與人的互動(dòng)。人工智能參與警務(wù)活動(dòng)不代表技術(shù)的唯一性，而應(yīng)充分體現(xiàn)“和合”的多元交流過(guò)程，尤其是在人工智能參與的主觀性較強(qiáng)的警務(wù)活動(dòng)中，必須著重體現(xiàn)外部人類(lèi)力量的參與，吸收并采納管理服務(wù)對(duì)象及社會(huì)公眾對(duì)于警務(wù)活動(dòng)的意見(jiàn)，充分考量人類(lèi)心理情感活動(dòng)，綜合判定決策并付諸行動(dòng)，化“策略行為”為“交往行為”。讓技術(shù)更好地做出合乎人類(lèi)理性回饋的同時(shí)，對(duì)人工智能的執(zhí)法行為和結(jié)果做出社會(huì)規(guī)制。謹(jǐn)防“技術(shù)”對(duì)人類(lèi)產(chǎn)生的制度單向性控制，從而在技術(shù)與人的互動(dòng)中實(shí)現(xiàn)警務(wù)活動(dòng)的目標(biāo)。

另一方面，摒棄技術(shù)至上的純粹“工具理性”價(jià)值觀念，規(guī)避人工智能參與警務(wù)活動(dòng)導(dǎo)致人的“物化”。人工智能主導(dǎo)的警務(wù)活動(dòng)將技術(shù)至上作為自身的運(yùn)行理念，執(zhí)法過(guò)程更強(qiáng)調(diào)“命令—服從”關(guān)系，難以對(duì)復(fù)雜的社會(huì)現(xiàn)實(shí)綜合判斷。對(duì)此，應(yīng)在充分溝通的基礎(chǔ)上重塑人工智能參與下的警務(wù)活動(dòng)，根據(jù)警務(wù)的核心價(jià)值制定具體的政策，綜合社會(huì)現(xiàn)實(shí)以及具體警務(wù)工作情況，準(zhǔn)確調(diào)整人工智能參與警務(wù)活動(dòng)的策略和行動(dòng)措施，使其在參與警務(wù)活動(dòng)過(guò)程中具有道德上的可實(shí)行性和情感上的可接受性，即在絕對(duì)客觀理性的“技術(shù)”中賦予人類(lèi)的主觀意志。使人工智能能夠成為兼容人類(lèi)、理解人類(lèi)、適應(yīng)人類(lèi)的類(lèi)警務(wù)活動(dòng)主體，消除其參與警務(wù)活動(dòng)可能造成的警務(wù)價(jià)值的異化，變?cè)械摹懊睢摹标P(guān)系為“取信—理解”關(guān)系，使人類(lèi)的倫理道德體系能夠楔入人工智能應(yīng)用中，為其注入人文關(guān)懷的鮮活靈魂，讓“人工智能”更具有“人性”基調(diào)，使警務(wù)更好地服務(wù)人類(lèi)的安全與發(fā)展。

結(jié) 語(yǔ)

我們?cè)谑褂眉夹g(shù)的同時(shí)，技術(shù)也在作用于我們。在肯定人工智能等新興技術(shù)對(duì)社會(huì)發(fā)展巨大推動(dòng)作用的同時(shí)，必須清醒地認(rèn)識(shí)到，作為能夠強(qiáng)化、延伸甚至復(fù)刻人類(lèi)思維的特殊技術(shù)形式，人工智能應(yīng)用的廣度和深度將超過(guò)以往任何一種技術(shù)，其對(duì)公共治理領(lǐng)域巨大的滲透作用已經(jīng)使其從技術(shù)轉(zhuǎn)化為治理手段，蘊(yùn)含著系統(tǒng)性的風(fēng)險(xiǎn)。人們對(duì)人工智能異化的擔(dān)憂不僅包括傳統(tǒng)工具理性放大后人類(lèi)成為技術(shù)附庸的隱憂，同時(shí)還包括人工智能在算法進(jìn)化的同時(shí)擁有類(lèi)人的智慧而引發(fā)的諸多危機(jī)，而這些危機(jī)最為集中的表現(xiàn)就是人類(lèi)主體性的喪失，進(jìn)而導(dǎo)致交往理性弱化，難以安置人類(lèi)交往的情感需求。我們對(duì)人工智能在警務(wù)領(lǐng)域大規(guī)模應(yīng)用導(dǎo)致的異化風(fēng)險(xiǎn)并非杞人憂天，部分風(fēng)險(xiǎn)實(shí)際上已經(jīng)顯現(xiàn)，迫切需要我們思索這一問(wèn)題，及早進(jìn)行規(guī)制。在不遠(yuǎn)的將來(lái)，人工智能發(fā)展將繼續(xù)改變社會(huì)，重塑我們生活的模式，從人類(lèi)的主體性和交往理性出發(fā)，無(wú)論身處怎樣的技術(shù)浪潮下，無(wú)論在此推動(dòng)下社會(huì)演變?yōu)楹畏N樣態(tài)，人們都有權(quán)捍衛(wèi)自己作為“人”的根本屬性，保有來(lái)自心靈最本原的情感體驗(yàn)。