黎 慈

（1.江蘇警官學(xué)院，江蘇 南京 210012；2.華中師范大學(xué)，湖北 武漢 430079）

一、問題提出

大數(shù)據(jù)時代，行政案件量罰自動化、違規(guī)車輛檢測智能化、行政審批全流程自動化成為現(xiàn)實，這標(biāo)志著人工智能在行政執(zhí)法領(lǐng)域應(yīng)用的廣度與深度被進(jìn)一步拓展。人工智能的應(yīng)用在提升行政執(zhí)法效能的同時，也與行政執(zhí)法權(quán)的固有法律屬性要求之間產(chǎn)生了不同程度的沖突，進(jìn)而給傳統(tǒng)行政執(zhí)法帶來了諸多風(fēng)險與挑戰(zhàn)。受制于風(fēng)險的潛在性、立法的滯后性，現(xiàn)有法律規(guī)范與技術(shù)倫理尚無法對其進(jìn)行有效調(diào)控。在此背景下，認(rèn)清人工智能應(yīng)用于行政執(zhí)法領(lǐng)域的新特征、辨識新技術(shù)應(yīng)用帶來的新風(fēng)險，進(jìn)而尋求應(yīng)對措施，已經(jīng)成為亟待解決的現(xiàn)實問題。

與“人工智能+立法”“人工智能+司法”研究相比，盡管“人工智能+行政執(zhí)法”在執(zhí)法實踐中早已存在，但學(xué)界研究似乎有所疏忽，尤其是對人工智能技術(shù)應(yīng)用對行政執(zhí)法本身帶來的新風(fēng)險這一關(guān)鍵問題缺乏應(yīng)有的關(guān)注。對此，本文嘗試探索三個問題：其一，現(xiàn)階段人工智能行政執(zhí)法具有哪些顯著特征？其二，上述特征與執(zhí)法場景的特殊性相結(jié)合會衍生哪些潛在法律風(fēng)險？其三，我們應(yīng)該如何有效應(yīng)對這些風(fēng)險？

二、人工智能嵌入行政執(zhí)法領(lǐng)域的應(yīng)用情勢

人工智能技術(shù)的應(yīng)用，“不僅僅是一場技術(shù)革命，更是一場決策革命和治理革命，它正在開啟一個新的未知空間，可能帶來一場社會變革，特別是公共治理領(lǐng)域的變革與創(chuàng)新?！盵1](p103-111)對于行政執(zhí)法領(lǐng)域而言，人工智能的嵌入一方面促進(jìn)了政府監(jiān)管個人、組織和社會的能效；另一方面也為公民權(quán)利的保障創(chuàng)造了更優(yōu)越的條件。從當(dāng)下人工智能行政執(zhí)法的實踐來看，其應(yīng)用特征主要表現(xiàn)為：

（一）技術(shù)屬性凸顯：智能執(zhí)法依賴于數(shù)據(jù)、算法與算力技術(shù)的共同支撐。

人工智能技術(shù)在行政執(zhí)法領(lǐng)域應(yīng)用的成效，取決于行政執(zhí)法活動所需法律知識與事實情形的數(shù)據(jù)量大小，也取決于將海量知識轉(zhuǎn)化為計算機(jī)可識別的知識所依賴的算法和算力。[2](p29)事實上，就技術(shù)層面而言，數(shù)據(jù)、算法、算力，是人工智能的“三駕馬車”，決定著人工智能在行政執(zhí)法領(lǐng)域應(yīng)用的廣度和深度。

數(shù)據(jù)是決定執(zhí)法人工智能識別率和精準(zhǔn)度的關(guān)鍵要素。人工智能技術(shù)在行政執(zhí)法領(lǐng)域運(yùn)用的實質(zhì)是通過對已有行政法律法規(guī)、行政處理決定書、行政案卷材料、行政執(zhí)法圖片與視頻等數(shù)據(jù)的分析比較，挖掘行政執(zhí)法中隱藏的規(guī)律性，再予以模型化，為執(zhí)法活動提供技術(shù)支持。數(shù)據(jù)的多寡和有效度是決定人工智能識別率和精準(zhǔn)度的核心要素。相比人工智能發(fā)展的前兩次浪潮，我們正在經(jīng)歷的第三次浪潮建基于互聯(lián)網(wǎng)快速發(fā)展并廣泛應(yīng)用積累的數(shù)據(jù)，這為人工智能深度學(xué)習(xí)奠定了基礎(chǔ)，也促進(jìn)了人工智能在行政執(zhí)法領(lǐng)域的廣泛應(yīng)用。

算法是生產(chǎn)執(zhí)法人工智能的直接工具。人工智能替代傳統(tǒng)行政執(zhí)法者完成大量簡單重復(fù)性勞動主要依賴的是算法。目前，使用最為廣泛的深度學(xué)習(xí)算法是通過建立模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)，將算法的學(xué)習(xí)與形式神經(jīng)網(wǎng)絡(luò)結(jié)合在一起，從而模仿人腦解釋圖像、聲音和文本等數(shù)據(jù)。與以往由人類專家設(shè)計的機(jī)器學(xué)習(xí)比較，深度學(xué)習(xí)算法具有很強(qiáng)的自我適應(yīng)性，能夠在計算、挖掘的過程中自動調(diào)整算法參數(shù)，使結(jié)果更加準(zhǔn)確。以“人臉識別”為例，基于深度學(xué)習(xí)算法的運(yùn)用，已將識別成功率提升至99%以上，[3](p70-72)從而有效提升了行政執(zhí)法的精準(zhǔn)度。

算力是執(zhí)法人工智能應(yīng)用的決定性力量。在數(shù)據(jù)、算法和算力三者中，算力是核心因素，是人工智能在行政執(zhí)法領(lǐng)域獲得實際應(yīng)用的基礎(chǔ)性平臺、決定性力量。當(dāng)下，以異構(gòu)計算、加速計算、可編程計算等為代表的新的計算技術(shù)和架構(gòu)正在強(qiáng)化行政執(zhí)法人工智能的算力，《2018—2019年中國人工智能計算力發(fā)展評估報告》預(yù)測，人工智能算力將由過去的80%集中于訓(xùn)練場景轉(zhuǎn)向80%集中于推理場景，[4]這意味著將經(jīng)過訓(xùn)練的應(yīng)用場景與行政執(zhí)法的實際應(yīng)用進(jìn)一步結(jié)合，有助于推動人工智能在行政執(zhí)法領(lǐng)域的更廣泛運(yùn)用。

（二）替代程度不同：智能執(zhí)法表征為部分自動行政與完全自動行政的并存。

人工智能在行政執(zhí)法領(lǐng)域中的具體運(yùn)用，主要指在行政程序運(yùn)行過程中，原先由執(zhí)法者操作的任務(wù)交由人工智能完成，這種執(zhí)法方式被學(xué)界稱為“自動化行政”。實踐中，這種自動化行政表現(xiàn)為，一個行政行為的做出，行政程序的某個或某些階段由人工智能機(jī)器人替代實施；或者是行政程序的所有環(huán)節(jié)由人工智能代為完成。

前一種情況往往被稱為“半自動行政”或“部分自動行政”，即盡管在行政行為做出的過程中借助了人工智能機(jī)器人，但仍需人工介入才能完成行政程序的全過程。從相關(guān)法律及其行政執(zhí)法實踐來看，主要有四類情況：一是申請環(huán)節(jié)自動化。如《行政許可法》規(guī)定可通過電子數(shù)據(jù)交換和電子郵件等方式提出申請；《政府信息公開條例》規(guī)定可以數(shù)據(jù)電文形式向行政機(jī)關(guān)申請獲取政府信息。二是調(diào)查取證環(huán)節(jié)自動化。如交通抓拍就是運(yùn)用智能交通違章監(jiān)攝管理系統(tǒng)具有的車輛檢測、光電成像、自動控制、網(wǎng)絡(luò)通信、計算機(jī)等多種技術(shù)，自動發(fā)現(xiàn)機(jī)動車超速、違章?？?、闖紅燈、逆行等違章行為，并進(jìn)行檢測、抓拍、錄像，完成對機(jī)動車違法事實的確認(rèn)，作為交通行政處罰的證據(jù)。三是自由裁量環(huán)節(jié)的自動化。如南京市公安局首推的“行政案件自動量罰系統(tǒng)”可給出處罰建議，其中的量罰環(huán)節(jié)交由人工智能自動完成。四是送達(dá)環(huán)節(jié)自動化。如《商標(biāo)法實施條例》規(guī)定，經(jīng)當(dāng)事人同意，商標(biāo)局或者商標(biāo)評審委員會的各種文件，可以通過數(shù)據(jù)電文方式送達(dá)當(dāng)事人。

后一種情況往往被稱為“全自動行政”或“完全自動行政”，即行政機(jī)關(guān)借助人工智能機(jī)器人完成行政程序的全部流程。由于完全自動行政在我國尚屬新鮮事物，法律法規(guī)中對此暫無明確規(guī)定。如深圳市于2018年推出的“無人干預(yù)自動審批服務(wù)”，就是利用大數(shù)據(jù)、人工智能等先進(jìn)技術(shù)，由申請人網(wǎng)上提交申請事項及其支撐材料信息，政務(wù)系統(tǒng)按照先前設(shè)置的既定規(guī)則，通過數(shù)據(jù)共享實時比對核驗，自動做出行政審批決定，并將行政審批結(jié)果及時主動送達(dá)申請人的全新政務(wù)服務(wù)模式。[5](p20)這種模式下，只要申請人提供的申請材料符合法律規(guī)定，則行政審批的“申請—受理—審查—決定—送達(dá)”全流程的各環(huán)節(jié)均無須人工干預(yù)。相對于部分自動行政，完全自動行政的效率得到了極大提升。

（三）應(yīng)用范圍廣泛：智能執(zhí)法正逐步嵌入具體行政執(zhí)法的各個實踐領(lǐng)域。

當(dāng)前人工智能的發(fā)展進(jìn)入了新階段。國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》，使人工智能在復(fù)雜社會問題研判、政策評估、風(fēng)險預(yù)警、應(yīng)急處置等重大戰(zhàn)略決策方面被進(jìn)一步推廣應(yīng)用。就行政執(zhí)法領(lǐng)域而言，人工智能技術(shù)應(yīng)用的廣度和深度也在日益拓展。

一是行政檢查智能化?；谌斯ぶ悄芗夹g(shù)的支持，越來越多的行政機(jī)關(guān)采用智能化的監(jiān)管系統(tǒng)和預(yù)警系統(tǒng)，通過分析圖像、視頻等數(shù)據(jù)資料，對監(jiān)管對象的行為進(jìn)行自動識別，并對違法情形進(jìn)行自動報警和自動跟蹤。如“智能警務(wù)系統(tǒng)”通過數(shù)據(jù)匯集，信息融合、提煉，再利用知識圖譜，運(yùn)用數(shù)據(jù)挖掘、信息處理、知識計量和圖形繪制等一系列方式將海量公安執(zhí)法數(shù)據(jù)快速轉(zhuǎn)換為高價值的線索、情報，為治安巡邏提供精準(zhǔn)服務(wù)。[6](p19-26)

二是行政審批智能化。借助人工智能技術(shù)的支持，行政機(jī)關(guān)在行政審批方面實現(xiàn)了從“人工審批”向“智能審批”的重大轉(zhuǎn)變。目前，在廣州、南京、成都等多地行政機(jī)關(guān)的審批活動中，通過安裝自助服務(wù)一體機(jī)，實施了“AI審批”。這種自助服務(wù)機(jī)器，集合了高清拍攝、人臉識別、指紋采集、證照打印等多項功能，利用人臉識別技術(shù)進(jìn)行驗證，有效避免申請者提交大量不必要的證明材料，改變了過去人工辦理的“見面審批”，實現(xiàn)了“不見面審批”，[7](p13-14)從而大大提高行政機(jī)關(guān)的審批效率。

三是行政處罰智能化。其一是應(yīng)用人工智能固定證據(jù)成為絕大多數(shù)政府部門采用的調(diào)查取證方式。如交通抓拍可對司機(jī)沒系安全帶、開車打電話、抽煙等違規(guī)行為進(jìn)行拍攝，抓拍的圖片和視頻能自動存儲，并直接傳輸至交管數(shù)據(jù)后臺服務(wù)器，作為交通違法處罰的證據(jù)。其二是應(yīng)用人工智能做出處罰決定成為諸多政府部門規(guī)范量罰權(quán)的手段。以公安機(jī)關(guān)采用行政案件自動量罰系統(tǒng)為例，執(zhí)法民警登錄警務(wù)平臺輸入警情后，對于需要給予行政處罰的，將會進(jìn)入行政案件量罰系統(tǒng)，勾選平臺上預(yù)設(shè)的較輕、減輕、從輕、從重等備選情節(jié)后，系統(tǒng)會自動生成處罰結(jié)果。

四是行政給付智能化。行政給付是行政機(jī)關(guān)對公民給予物質(zhì)幫助和服務(wù)的行政行為，包括救助、補(bǔ)助、扶貧、優(yōu)待、撫恤等具體表現(xiàn)形式。[8](p4)政府部門運(yùn)用人工智能技術(shù)實施行政給付的目的在于，防范虛報冒領(lǐng)現(xiàn)象，實現(xiàn)精準(zhǔn)給付。以行政機(jī)關(guān)扶貧為例，人工智能技術(shù)幫助行政機(jī)關(guān)進(jìn)行大量信息的采集匯聚、挖掘分析，明確“哪里的人口真正貧困”“誰是真正的貧困人口”“貧困體現(xiàn)在哪里”“貧困的原因是什么”“貧困人口的真實需要是什么”等關(guān)鍵問題，從而促進(jìn)精準(zhǔn)扶貧的實現(xiàn)。

三、人工智能應(yīng)用給傳統(tǒng)行政執(zhí)法領(lǐng)域帶來的新風(fēng)險

人工智能技術(shù)應(yīng)用于行政執(zhí)法領(lǐng)域，雖然在提高行政執(zhí)法效率、約束行政權(quán)行使的任意性、方便行政相對人辦理行政事項等方面發(fā)揮了積極效應(yīng)，但其對行政執(zhí)法權(quán)的固有屬性、行政執(zhí)法程序的完整性、行政執(zhí)法責(zé)任的承擔(dān)等方面帶來了新挑戰(zhàn)。

（一）行政執(zhí)法權(quán)的固有屬性被侵蝕。

運(yùn)用人工智能技術(shù)開展行政執(zhí)法，意味著將行政權(quán)交給智能機(jī)器人，此舉存在顛覆傳統(tǒng)行政權(quán)屬性的潛在可能。這種風(fēng)險可從技術(shù)權(quán)力本質(zhì)屬性上進(jìn)行闡釋。對技術(shù)權(quán)力的最初認(rèn)識可以回溯至馬克思對“機(jī)器權(quán)力”的探究，他在《資本論》中指出，“智力變成資本支配勞動的權(quán)力，是在以機(jī)器為基礎(chǔ)的大工業(yè)中完成時，……科學(xué)、巨大的自然力、社會的群眾性勞動都體現(xiàn)在機(jī)器體系中，并同機(jī)器體系一道構(gòu)成‘主人’的權(quán)力?！盵9](p26)當(dāng)技術(shù)發(fā)展到人工智能時代，這種技術(shù)權(quán)力控制的范圍更廣、強(qiáng)度更大。基于大數(shù)據(jù)技術(shù)的支持，人工智能行政執(zhí)法具有了前所未有的數(shù)據(jù)前置性與算法依賴性等技術(shù)特征，由此形成“算力即權(quán)力”的新型權(quán)力形態(tài)，極有可能使行政權(quán)遭受更隱蔽的技術(shù)權(quán)力侵蝕。

實踐中，人工智能技術(shù)借助代碼、算法支配行政執(zhí)法的各個環(huán)節(jié)，以實現(xiàn)對行政權(quán)的控制。無論是貴陽市41家政府部門實施“數(shù)據(jù)鐵籠”工程，完整記錄行政權(quán)力運(yùn)行的整個過程，以實現(xiàn)對行政權(quán)的全流程監(jiān)控；[10]還是南京等地公安機(jī)關(guān)使用行政案件量罰系統(tǒng)，將行政自由裁量權(quán)精細(xì)劃分編程納入人工智能系統(tǒng)，都是盡可能地將行政權(quán)運(yùn)行的全流程納入技術(shù)、算法以及模型的監(jiān)控之中。事實上，在上述監(jiān)控過程中，行政機(jī)關(guān)擁有的自由裁量權(quán)這一行政權(quán)屬性同時也被技術(shù)權(quán)力所“肢解”。

隨著人工智能技術(shù)在行政執(zhí)法領(lǐng)域的深度應(yīng)用，行政權(quán)的“不可處分性”受到侵蝕同樣會凸顯出來。行政權(quán)的“不可處分性”是公權(quán)力相對于私權(quán)利具有的屬性，意味著行政機(jī)關(guān)不得隨意放棄、轉(zhuǎn)讓自己依法擁有的行政權(quán)，源于行政權(quán)是“權(quán)力與責(zé)任的重合”。由人工智能做出行政審批、行政給付、行政處罰等處理決定，看似將行政權(quán)交給了智能機(jī)器，實則是轉(zhuǎn)移給了人工智能專家，容易陷入技術(shù)專家行政執(zhí)法的怪圈。

簡言之，與傳統(tǒng)人工智能技術(shù)在行政執(zhí)法中定位為輔助工具相比較，在大數(shù)據(jù)技術(shù)支持下的人工智能應(yīng)用過程中，技術(shù)權(quán)力對行政權(quán)力的挑戰(zhàn)將會范圍更廣、程度更深，從而導(dǎo)致行政權(quán)的自由裁量性、不可處分性不斷被侵蝕，也強(qiáng)化了行政執(zhí)法者被人工智能機(jī)器人取代的潛在風(fēng)險。

（二）行政執(zhí)法程序的完整性受到挑戰(zhàn)。

行政程序的設(shè)置，要求行政機(jī)關(guān)按照法定的步驟、方式、順序以及時限實施行政行為，有助于規(guī)范公權(quán)、保障私權(quán)。自行政程序的法治價值被重視以來，行政執(zhí)法規(guī)則一直是圍繞從事具體執(zhí)法行為的“人”構(gòu)建程序體系的，然而，人工智能行政執(zhí)法是通過“機(jī)器”運(yùn)轉(zhuǎn)獲取行政處理決定，勢必對傳統(tǒng)行政程序規(guī)定帶來諸多挑戰(zhàn)，尤其是在全部執(zhí)法環(huán)節(jié)交由人工智能機(jī)器人處理時，這種挑戰(zhàn)將會更加突出。

一是行政調(diào)查程序受到挑戰(zhàn)。行政調(diào)查是指行政機(jī)關(guān)在行政程序啟動之后、行政決定做出之前，依職權(quán)查明案件事實、獲取證據(jù)的相關(guān)活動?！俺?dāng)場做出行政行為的案件外，調(diào)查是行政程序的必經(jīng)程序?！盵11](p187)行政調(diào)查屬于一種權(quán)力性行為，對當(dāng)事人的權(quán)益有可能產(chǎn)生實質(zhì)性的影響。為規(guī)范行政調(diào)查程序，相關(guān)法律法規(guī)對表明身份、告知權(quán)利、說明理由、組織調(diào)查、制作筆錄等主要環(huán)節(jié)提出了明確要求。人工智能技術(shù)的應(yīng)用，對行政調(diào)查程序的現(xiàn)有法律規(guī)定形成挑戰(zhàn)：如何實現(xiàn)調(diào)查人員不少于兩人？怎樣出示執(zhí)法證件、表明身份？通過什么方式告知行政相對人有關(guān)法律依據(jù)和權(quán)利？如何聽取當(dāng)事人的陳述和申辯？……此外，人工智能機(jī)器人在執(zhí)法中的運(yùn)作是按照事先編制的程序進(jìn)行的，而某個具體執(zhí)法行為是針對個案實施的，行政調(diào)查中面臨的情況各有不同，一旦運(yùn)用智能流水線作業(yè)的方式，則不僅有失公正，而且所獲證據(jù)材料的關(guān)聯(lián)性程度也會存在大打折扣的風(fēng)險。

二是行政聽證程序受到挑戰(zhàn)。行政聽證是正當(dāng)法律程序原則的核心要求之一，即指行政機(jī)關(guān)在做出重大的、影響行政相對人權(quán)利義務(wù)關(guān)系的處理決定之前，聽取當(dāng)事人陳述和申辯的活動。行政聽證程序的設(shè)置，有助于行政相對人和利害關(guān)系人的參與，“在聽證中，相對人向行政機(jī)關(guān)提出證據(jù)，陳述自己的意見，對不利于自己的證據(jù)進(jìn)行反駁，影響行政決定的做出，從而有效參與了行政決定。”[12](p200)行政聽證的本質(zhì)在于行政相對人運(yùn)用這種法定參與權(quán)利抵制行政機(jī)關(guān)可能做出不當(dāng)行政行為，縮小行政相對人與行政機(jī)關(guān)在行政法律關(guān)系中的不對等地位差距。人工智能依賴的算法一旦出現(xiàn)偏差，將給行政聽證程序的啟動及其結(jié)論帶來負(fù)面影響。依據(jù)法律規(guī)定，行政聽證程序的啟動方式包括兩種，其一是行政機(jī)關(guān)依職權(quán)自行決定，其二是行政機(jī)關(guān)依行政相對人申請決定。無論是哪種方式，行政聽證程序能否啟動，最終都取決于行政機(jī)關(guān)的意志。如果參與人工智能設(shè)計的政府官員在過往聽證案例的處置中有過不愉快的經(jīng)歷，或是存在認(rèn)為聽證程序煩瑣的偏見，基于“算法是人編寫的，那么在編寫過程中，人的觀念和思維完全有可能寫入算法當(dāng)中”，[13](p124-129)導(dǎo)致“AI可能會表現(xiàn)出與人類相同的偏見”，有可能出現(xiàn)本應(yīng)當(dāng)啟動聽證程序的情形未能啟動。同理，即使進(jìn)入聽證程序，基于人工智能的算法偏差，也可能影響聽證記錄能否如實進(jìn)入行政決定，最終影響到行政相對人對行政決定的平等、有效參與。

三是行政決定程序受到挑戰(zhàn)。行政機(jī)關(guān)在行政調(diào)查終結(jié)后，應(yīng)當(dāng)對調(diào)查結(jié)果及時進(jìn)行審查，根據(jù)不同情況，做出相應(yīng)的處理決定。人工智能技術(shù)在行政執(zhí)法領(lǐng)域的運(yùn)用，讓傳統(tǒng)行政決定程序的有關(guān)限制性規(guī)定失效，不利于行政相對人權(quán)益的保護(hù)。其一是行政機(jī)關(guān)負(fù)責(zé)人集體討論決定的規(guī)定無法實現(xiàn)。對于情節(jié)復(fù)雜或?qū)π姓鄬θ擞绊懼卮蟮男姓讣?，如涉及限制公民人身自由、較大數(shù)額罰款、喪失生產(chǎn)經(jīng)營資格等行政處罰，應(yīng)由行政機(jī)關(guān)負(fù)責(zé)人集體討論后做出決定，并形成集體討論的書面記錄載入案卷，以實現(xiàn)行政處理決定的公正合理。人工智能流水線作業(yè)下形成的行政處理決定，是沒有經(jīng)過行政機(jī)關(guān)負(fù)責(zé)人集體討論就做出決定，由此對“未經(jīng)集體討論做出行政決定屬于嚴(yán)重的程序違法，應(yīng)予撤銷”[14](p1010-103)這一行政審判規(guī)則提出了挑戰(zhàn)。其二是酌定情節(jié)輕重的條款規(guī)定不能兌現(xiàn)。人工智能算法依賴設(shè)計者輸入的數(shù)據(jù)信息，然而行政相對人的情況各有不同，往往無法形成全面信息輸入系統(tǒng)，導(dǎo)致人工智能執(zhí)法決定很有可能忽略相關(guān)情節(jié)。例如，傳統(tǒng)行政執(zhí)法中由行政機(jī)關(guān)負(fù)責(zé)人全面把握相對人信息可以適用“違法行為輕微不予處罰”的條款，基于人工智能缺失個案性分析的弊端就不能有針對性地得到落實。

（三）行政執(zhí)法責(zé)任難以分?jǐn)偂?/h3>

隨著人工智能在行政執(zhí)法領(lǐng)域應(yīng)用范圍的日益拓展，其引發(fā)的行政侵權(quán)責(zé)任認(rèn)定及其承擔(dān)問題，對現(xiàn)行行政侵權(quán)責(zé)任制度將提出越來越多的挑戰(zhàn)。依托于精準(zhǔn)算法和程式的全自動行政執(zhí)法系統(tǒng)在我國剛露頭角，目前暫無行政侵權(quán)案例的報道。但人工智能技術(shù)運(yùn)用引發(fā)的侵權(quán)事件已多次發(fā)生，如美國量刑假釋聽證系統(tǒng)因算法錯誤標(biāo)記黑人被告的可能性是白人的2倍，從而導(dǎo)致黑人罪犯的評級定位高于非黑人，由此產(chǎn)生系統(tǒng)性種族偏見的不公平結(jié)果。[15]同理，應(yīng)用于行政執(zhí)法過程的人工智能，基于算法偏差錯誤、系統(tǒng)故障，也會導(dǎo)致行政處理決定違法并損害行政相對人權(quán)益的情形發(fā)生。

人工智能行政執(zhí)法損害行政相對人權(quán)益的責(zé)任應(yīng)當(dāng)由誰負(fù)責(zé)？通常的考慮是，既然行政機(jī)關(guān)是人工智能的使用者，當(dāng)然應(yīng)由行政機(jī)關(guān)承擔(dān)責(zé)任。誠然，由實施具體行政行為的行政機(jī)關(guān)直接向行政相對人負(fù)責(zé)，既符合行政法理論的要求，也便于行政相對人尋求救濟(jì)。然而，值得我們進(jìn)一步思考的是，人工智能執(zhí)法機(jī)器人是生產(chǎn)廠家提供的，行政機(jī)關(guān)對外承擔(dān)責(zé)任后，是否可以要求生產(chǎn)廠家承擔(dān)責(zé)任？人工智能機(jī)器人是按照事先設(shè)計的程序開展執(zhí)法的，那程序設(shè)計者是否要承擔(dān)責(zé)任？如果多個單位、多人共同開展程序設(shè)計，是否都需對此承擔(dān)責(zé)任？如果人工智能執(zhí)法機(jī)器人按照自己的“意念”執(zhí)法，是否應(yīng)當(dāng)要求最初研發(fā)者承擔(dān)責(zé)任？而上述相關(guān)主體又應(yīng)當(dāng)以什么方式、按照什么比例承擔(dān)責(zé)任？諸如此類問題，隨著人工智能行政執(zhí)法的進(jìn)一步發(fā)展，將成為行政法理論研究和實踐操作中必須面對的問題。

四、人工智能嵌入行政執(zhí)法的風(fēng)險規(guī)制

《新一代人工智能發(fā)展規(guī)劃》強(qiáng)調(diào)：“在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風(fēng)險挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險，確保人工智能安全、可靠、可控發(fā)展?！泵鎸θ斯ぶ悄芗夹g(shù)應(yīng)用于行政執(zhí)法領(lǐng)域可能產(chǎn)生的風(fēng)險，我們不能投鼠忌器，更不能因噎廢食，而是應(yīng)當(dāng)分析風(fēng)險產(chǎn)生的原因，對其予以適度規(guī)制，以更好地發(fā)揮人工智能技術(shù)應(yīng)用于行政執(zhí)法領(lǐng)域的優(yōu)勢效能。

（一）明確人工智能嵌入行政執(zhí)法應(yīng)遵循的基本原則。

一是遵循法律規(guī)制與倫理規(guī)制兼顧原則。法律確認(rèn)行為人的權(quán)利和義務(wù)、由國家強(qiáng)制力保障實施，是防范和化解人工智能風(fēng)險的有效手段。但法律規(guī)范的制定往往具有滯后性，如果沒有倫理規(guī)范的指引與約束，人工智能行政執(zhí)法技術(shù)的負(fù)外部性溢出，將損害行政相對人的合法權(quán)益，甚至危害社會的和諧穩(wěn)定。所以，行政執(zhí)法領(lǐng)域應(yīng)用人工智能技術(shù)，必須采取法律規(guī)制與倫理規(guī)制兼顧原則，將風(fēng)險控制在最小范圍內(nèi)。對此，《新一代人工智能發(fā)展規(guī)劃》高度重視“制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范”，將其列在“保障措施”的首條位置，同時在“戰(zhàn)略目標(biāo)”部分明確了發(fā)展倫理規(guī)范和政策法規(guī)的“三步走”戰(zhàn)略。①國務(wù)院2017年7月印發(fā)的《新一代人工智能發(fā)展規(guī)劃》在“戰(zhàn)略目標(biāo)”部分明確了發(fā)展倫理規(guī)范和政策法規(guī)的“三步走”戰(zhàn)略：第一步，到2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立；第二步，到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力；第三步，到2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。其中尤其值得關(guān)注的是，人工智能應(yīng)用的法律規(guī)制仍然是規(guī)避技術(shù)執(zhí)法風(fēng)險的強(qiáng)有力保障?；谌斯ぶ悄芗夹g(shù)的迅速發(fā)展對現(xiàn)行立法體系提出的嚴(yán)峻挑戰(zhàn)，亟須制定一部《人工智能安全法》并出臺配套法律規(guī)范體系，考慮到人工智能發(fā)展的不確定性，《人工智能安全法》宜粗不宜細(xì)，重在設(shè)置有關(guān)原則框架，細(xì)化部分則由配套法規(guī)完成，以增強(qiáng)基本法適應(yīng)新技術(shù)變化的容納性，確保其穩(wěn)定性，同時應(yīng)避免人工智能技術(shù)的進(jìn)一步發(fā)展受到不必要的阻礙。

二是遵循權(quán)利保障原則。人工智能行政執(zhí)法帶來的直接風(fēng)險是對行政相對人合法權(quán)益造成損害，如人工智能算法偏差可能使應(yīng)當(dāng)獲得行政許可的人未能取得許可；也或許因算法偏差讓公安機(jī)關(guān)投放警力時誤判，導(dǎo)致讓某地被錯誤鎖定為敏感地域從而投放大量警力，而其他地方因警力投放低于正常標(biāo)準(zhǔn)從而缺乏安全保障。再則，行政執(zhí)法應(yīng)用的人工智能系統(tǒng)中保留著關(guān)涉當(dāng)事人個人信息的文字、圖片和視頻資料，如果處理不當(dāng)，泄露個人信息的情形極有可能發(fā)生。因此，無論在人工智能行政執(zhí)法的程序編制抑或是具體實施中，均應(yīng)遵循保障行政相對人權(quán)利的原則。

三是遵循行政比例原則。鑒于人工智能技術(shù)應(yīng)用于行政執(zhí)法領(lǐng)域可能帶來的風(fēng)險，行政機(jī)關(guān)是否采用以及在多大程度上采用人工智能技術(shù)創(chuàng)新執(zhí)法方式，應(yīng)遵循行政比例原則審慎決定。行政比例原則的遵守，主要表現(xiàn)在行政執(zhí)法應(yīng)用人工智能技術(shù)之前，需要進(jìn)行適當(dāng)性、必要性以及均衡性判斷。首先，在是否應(yīng)用人工智能技術(shù)前進(jìn)行適當(dāng)性判斷，即認(rèn)定應(yīng)用該技術(shù)能否有助于達(dá)到保障行政執(zhí)法的公正、提升行政執(zhí)法效率等行政目的。其次，確定人工智能技術(shù)應(yīng)用于行政執(zhí)法具有適當(dāng)性的基礎(chǔ)上，還需判斷應(yīng)用的必要性。必要性判斷應(yīng)遵循最少侵害準(zhǔn)則，即在選擇采用傳統(tǒng)的人工執(zhí)法還是人工智能執(zhí)法時，需要判斷兩種執(zhí)法方式對行政相對人權(quán)益的負(fù)面影響，只有在人工智能行政執(zhí)法可能造成的損害更小時，才可選擇。再次，確定人工智能技術(shù)應(yīng)用于行政執(zhí)法確有必要后，仍需進(jìn)行均衡性判斷，只有人工智能技術(shù)應(yīng)用可能保護(hù)的社會利益大于其可能對公民權(quán)利造成的損害時，才能最終確定應(yīng)用。

（二）提升行政執(zhí)法者的人工智能應(yīng)用能力。

自人工智能律師CaseCruncher在案件裁決比賽中擊敗100名法律專業(yè)學(xué)生后，法律界人士對自己是否會被人工智能取代表示擔(dān)憂。那么，人工智能可否取代行政執(zhí)法人員？對此，已有學(xué)者表達(dá)了自己的看法，“公職人員的部分工作肯定會被替代?！牵瑢τ谛枰咧橇?、更多情感投入的行政工作則絕不可能被替代?！盵16]倘若把行政執(zhí)法全部交給人工智能機(jī)器人處理，則執(zhí)法面對的現(xiàn)實差異因為數(shù)據(jù)庫沒有關(guān)涉而被忽略，容易導(dǎo)致新的執(zhí)法不公正。此外，人工智能開發(fā)者對技術(shù)的濫用，也可能成為人工智能執(zhí)法侵犯行政相對人合法權(quán)益的根源?？梢?，人工智能應(yīng)用于行政執(zhí)法領(lǐng)域，并不意味著對行政執(zhí)法人員的取代，相反，要防范人工智能成為脫韁的野馬，為減少新技術(shù)執(zhí)法帶來的社會風(fēng)險，需要提升行政執(zhí)法者對人工智能技術(shù)的認(rèn)識和應(yīng)用能力。

以人工智能技術(shù)應(yīng)用于行政執(zhí)法的過程階段為標(biāo)準(zhǔn)，行政執(zhí)法者的能力提升主要包括兩個方面：一是參與人工智能程序設(shè)計的能力。人工智能行政執(zhí)法機(jī)器人的設(shè)計游走于科技與人文之間，要保證其向善發(fā)展，絕不是工程技術(shù)人員獨(dú)自研究即可的，必須集合工程技術(shù)人員、哲學(xué)家、法學(xué)家、倫理學(xué)家的力量。行政執(zhí)法者掌握執(zhí)法的法律依據(jù)、深諳法律術(shù)語的內(nèi)涵，并擁有豐富的實踐經(jīng)驗，由他們參與人工智能行政執(zhí)法機(jī)器人的設(shè)計，能促進(jìn)新技術(shù)執(zhí)法的專業(yè)性與科學(xué)性。同時，行政執(zhí)法者要有效參與產(chǎn)品研發(fā)，則需要通過學(xué)習(xí)，掌握人工智能基礎(chǔ)、知識工程、數(shù)據(jù)挖掘分析、語音圖像識別、自然語言處理、機(jī)器學(xué)習(xí)等方面的專業(yè)知識和技能。二是監(jiān)督人工智能應(yīng)用過程的能力。人工智能行政執(zhí)法機(jī)器人設(shè)計出來后，需要進(jìn)行測試并被評估，以保障表述規(guī)則的代碼準(zhǔn)確和整個系統(tǒng)的安全性。測試和評估需要行政執(zhí)法者綜合運(yùn)用行政執(zhí)法、人工智能的知識與技能，來考察人工智能執(zhí)法系統(tǒng)是否存在偏差、偏見和任意性及其程度，論證由這些因素導(dǎo)致的風(fēng)險概率，并提出修正系統(tǒng)的方案，這無疑是對行政執(zhí)法者的素養(yǎng)和能力提出的更高要求。

（三）保障人工智能行政執(zhí)法程序的透明。

人工智能技術(shù)應(yīng)用要充分尊重行政執(zhí)法的透明性。這里的透明性是指行政執(zhí)法決定的實施根據(jù)、法律依據(jù)以及形成的具體過程的公開，也即通常所說的執(zhí)法公開透明。在法治政府建設(shè)、執(zhí)法規(guī)范化要求的時代背景下，近年來行政執(zhí)法公開漸趨普及，對行政行為說明理由提出了更高要求，意指除法律有特別規(guī)定外，必須向行政相對人說明作出該行政行為的事實根據(jù)、法律依據(jù)以及裁量時所考慮的政策、公益等因素。[17](p348)然而，人工智能執(zhí)法系統(tǒng)的使用，普通行政相對人基于對算法原理和機(jī)制的認(rèn)知困難，由此產(chǎn)生算法“黑箱”現(xiàn)象，即“算法能夠被看到和理解的，只有輸入和輸出兩個環(huán)節(jié)，其信息處理過程是一個無從知曉的‘隱層’”。[18]

行政相對人對行政執(zhí)法的信任建立在行政透明的基礎(chǔ)上：如果人工智能執(zhí)法的算法繼續(xù)維持神秘，那么人工智能行政執(zhí)法將難以取得行政相對人的信任。這種信任不僅關(guān)乎人工智能行政執(zhí)法的順利進(jìn)行，也關(guān)乎行政法治建設(shè)的持續(xù)推進(jìn)?？梢姡谌斯ぶ悄苄姓?zhí)法領(lǐng)域，保障算法的透明度、提升可解釋力相當(dāng)重要。因此，在研發(fā)人工智能行政執(zhí)法技術(shù)過程中，應(yīng)當(dāng)特別關(guān)注執(zhí)法過程的透明性，以普通公眾能理解為標(biāo)準(zhǔn)，將技術(shù)模擬行政執(zhí)法的過程以可視化方式呈現(xiàn)出來，對人工智能執(zhí)法系統(tǒng)的運(yùn)作過程、作出行政行為的推理以及運(yùn)作結(jié)論，給予具體的說明。

（四）界定人工智能行政執(zhí)法的責(zé)任歸屬。

人工智能行政執(zhí)法導(dǎo)致的損害由誰承擔(dān)責(zé)任，是新技術(shù)應(yīng)用過程中必須面對的新問題。近年來關(guān)于人工智能法律地位的相關(guān)討論不絕于耳，大致包括三類：第一類是肯定說，即人工智能具有法律主體地位。如學(xué)者郭少飛認(rèn)為，基于人工智能體擁有自我的情感、認(rèn)知與行動能力，不再是完全受支配的客體，故應(yīng)當(dāng)以“電子人”身份界定其法律主體地位。[19](p38-41)第二類是有限肯定說，即人工智能承擔(dān)有限法律責(zé)任。如學(xué)者袁曾審視了人工智能有限法律人格，認(rèn)為應(yīng)將人工智能作為特定的法律主體，使其承擔(dān)有限法律責(zé)任；[20](p54-57)F.Patrick Hubbard則建議將智能機(jī)器人當(dāng)作動物或者幼兒來看待，讓其承擔(dān)相應(yīng)的后果責(zé)任。[21](p105-108)第三類是否定說，即人工智能不具有法律主體地位。如學(xué)者鄭戈認(rèn)為，人工智能體本身并沒有獨(dú)立的財產(chǎn)且不具備獨(dú)立擔(dān)責(zé)的能力，故不應(yīng)當(dāng)承認(rèn)其法律主體資格。[22](p11-15)我國政府對此問題也給予了高度重視，如國務(wù)院發(fā)布了《關(guān)于新一代人工智能發(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018—2020年）》等文件，將“明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任等”作為今后的一項重要任務(wù)。

人工智能有無法律主體資格的確定，對新技術(shù)執(zhí)法造成損害的責(zé)任承擔(dān)主體確定至關(guān)重要。人工智能機(jī)器人不具有自然人的良知和心智，基于預(yù)先設(shè)計的程序和已有數(shù)據(jù)庫進(jìn)行計算；也不擁有獨(dú)立的財產(chǎn)，只是被使用的工具，因此不應(yīng)當(dāng)由人工智能機(jī)器人承擔(dān)責(zé)任。況且，行政執(zhí)法是對行政權(quán)的行使，其直接責(zé)任主體應(yīng)當(dāng)是行政機(jī)關(guān)。當(dāng)然，這并不意味著由行政機(jī)關(guān)負(fù)責(zé)所有損失的承擔(dān)?；谛姓欣碚摵托姓穬斬?zé)任制度，筆者認(rèn)為，在行政機(jī)關(guān)對行政相對人承擔(dān)賠償責(zé)任后，根據(jù)致?lián)p因素來源，依法應(yīng)當(dāng)責(zé)令人工智能設(shè)計人、有故意或重大過失的執(zhí)法人員承擔(dān)部分或全部賠償費(fèi)用。

（五）定位人工智能執(zhí)法的輔助工具地位。

行政執(zhí)法權(quán)的行使是一件十分嚴(yán)肅的事情，涉及行政相對人的合法權(quán)益，關(guān)系整個社會的和諧穩(wěn)定，決不能簡單地將行政執(zhí)法權(quán)移交給其他組織與個人，人工智能機(jī)器人只能發(fā)揮輔助工具的作用。

一是避免人工智能“技治主義”執(zhí)法的風(fēng)險。技治主義強(qiáng)調(diào)，基于大數(shù)據(jù)、人工智能等新技術(shù)治理社會的強(qiáng)大優(yōu)越性，應(yīng)當(dāng)將包括行政權(quán)在內(nèi)的國家權(quán)力交由科技人員、技術(shù)專家、工業(yè)經(jīng)濟(jì)學(xué)家、工業(yè)管理專家等“工程師”行使。[23](p135-137)然而，人工智能依托的大數(shù)據(jù)算法具有“從歷史數(shù)據(jù)中訓(xùn)練而獲得數(shù)據(jù)的特征”，由此帶來的效應(yīng)是，“一旦整個社會對某個少數(shù)族群存在結(jié)構(gòu)性的種族主義和負(fù)面偏見，那么這種偏差就會反映到數(shù)據(jù)上，于是大數(shù)據(jù)算法就會‘如實’地歸納出這些偏性”，[24](p81-86)從而帶來個人偏見、社會歧視、隱私權(quán)和財產(chǎn)權(quán)被侵犯等風(fēng)險。為規(guī)避上述風(fēng)險，人工智能行政執(zhí)法應(yīng)以工具主義為功能定位。

二是防范人工智能“技術(shù)盲區(qū)”造成行政不合理。時至今日，人工智能技術(shù)尚不能審時度勢地處理行政執(zhí)法中遇見的各類主客觀情形，也不能有效解決執(zhí)法推理中的復(fù)雜問題。人工智能系統(tǒng)進(jìn)行的數(shù)據(jù)分析本身不能發(fā)現(xiàn)行政案件背后反映的各種社會關(guān)系，忽視了地區(qū)差異、對象差異，無法取代行政執(zhí)法人員對個案尤其是疑難案件中的自由裁量、利益平衡以及對公平的判斷，也就出現(xiàn)了通常所講的“技術(shù)盲區(qū)”。與此同時，行政執(zhí)法適用法律不單單是機(jī)械地依據(jù)法律法規(guī)做出處理，以行政處罰中處罰與教育相結(jié)合原則為例，人工智能缺乏情感意識，不能很好地與受處罰人進(jìn)行必要的溝通以達(dá)到教育目的。因此，技術(shù)盲區(qū)的存在，同樣決定了人工智能只能是輔助工具。

可見，人工智能的算法偏差、技術(shù)盲區(qū)、數(shù)據(jù)安全等技術(shù)瓶頸的存在，決定了人工智能只能以輔助工具的地位存在。此外，在今后的人工智能執(zhí)法技術(shù)的研發(fā)中，對法律術(shù)語的語義界定、倫理規(guī)范滲入系統(tǒng)的建模、執(zhí)法情形的數(shù)據(jù)擴(kuò)充等予以優(yōu)化，也應(yīng)當(dāng)成為避免人工智能執(zhí)法風(fēng)險、最大限度發(fā)揮其技術(shù)工具價值的有效路徑。

五、結(jié)語

歷史發(fā)展的事實表明，“我們無法真正預(yù)測未來，因為科技發(fā)展并不會帶來確定的結(jié)果”，[25](p357)人工智能技術(shù)仍然處在不斷改進(jìn)過程中，未來的發(fā)展?fàn)顩r我們尚且無法進(jìn)行精準(zhǔn)判斷，但其運(yùn)用于行政執(zhí)法領(lǐng)域的廣度和深度將進(jìn)一步擴(kuò)大則是國家治理現(xiàn)代化發(fā)展的要求。人工智能猶如一把雙刃劍，一方面，人工智能的運(yùn)用能提升行政執(zhí)法的效率、規(guī)制行政權(quán)行使的任意性、方便行政相對人辦理行政事項；但另一方面，人工智能應(yīng)用產(chǎn)生行政執(zhí)法權(quán)固有屬性的侵蝕、行政執(zhí)法程序完整性的破壞、行政執(zhí)法責(zé)任分?jǐn)傠y以辨識等相關(guān)風(fēng)險也客觀存在著。因此，我們應(yīng)當(dāng)在積極推進(jìn)人工智能應(yīng)用于行政執(zhí)法領(lǐng)域的同時，積極回應(yīng)人工智能應(yīng)用帶來的各種挑戰(zhàn)，妥當(dāng)設(shè)置相關(guān)規(guī)則、制度，既應(yīng)當(dāng)有效規(guī)范人工智能技術(shù)的應(yīng)用，也應(yīng)當(dāng)為新興技術(shù)的發(fā)育預(yù)留必要的制度空間。[26](p4-9)