自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的法律規(guī)制

王芳 劉曉含

〔摘要〕 算法決策在自動(dòng)化行政中的應(yīng)用是推進(jìn)數(shù)字政府建設(shè)的必然要求，但由于傳統(tǒng)行政法思維在與新興技術(shù)的碰撞中應(yīng)對(duì)不足等原因，自動(dòng)化行政中算法決策存在潛在風(fēng)險(xiǎn)。為此，應(yīng)摒棄技術(shù)工具理性思維，提升預(yù)防性法律規(guī)制理念，并通過完善算法決策全過程風(fēng)險(xiǎn)評(píng)估預(yù)防機(jī)制、自動(dòng)化行政程序立法體制機(jī)制、行政相對(duì)人權(quán)利救濟(jì)體系、算法決策監(jiān)管制度等法律路徑對(duì)自動(dòng)化行政中的算法決策風(fēng)險(xiǎn)予以規(guī)制。

〔關(guān)鍵詞〕 自動(dòng)化行政；算法決策；算法決策風(fēng)險(xiǎn)；法律規(guī)制

〔中圖分類號(hào)〕D922.1〔文獻(xiàn)標(biāo)識(shí)碼〕A 〔文章編號(hào)〕1009-1203（2023）03-0090-05

2022年發(fā)布的《國務(wù)院關(guān)于加強(qiáng)數(shù)字政府建設(shè)的指導(dǎo)意見》指出，要推進(jìn)建設(shè)數(shù)字機(jī)關(guān)，提升政務(wù)運(yùn)行效能。數(shù)字化建設(shè)在行政領(lǐng)域的應(yīng)用屬于自動(dòng)化行政的范疇，自動(dòng)化行政是指“行政程序中的特定環(huán)節(jié)或所有環(huán)節(jié)由人工智能代為處理，而無須人工的個(gè)別介入，從而實(shí)現(xiàn)部分或全部無人化的行政活動(dòng)”〔1〕。目前，算法決策作為以計(jì)算機(jī)為載體的數(shù)據(jù)處理活動(dòng)，憑借高效率、專業(yè)性等優(yōu)勢(shì)，已將自身影響延伸至公共行政領(lǐng)域：在傳統(tǒng)上依賴人力實(shí)施的行政管理和公共服務(wù)活動(dòng)，逐步轉(zhuǎn)向了以數(shù)據(jù)傳輸為基礎(chǔ)、算法處理技術(shù)為支撐的自動(dòng)化行政方式。我國多地政府在行政審批改革中實(shí)行的數(shù)字化“無人審批”模式，即屬于行政活動(dòng)應(yīng)用算法決策實(shí)現(xiàn)自動(dòng)化的典型例證。算法決策被越來越多地運(yùn)用于政府公共行政，在提升了行政效率和政府治理能力的同時(shí)，其部分消極特性也會(huì)導(dǎo)致新興技術(shù)風(fēng)險(xiǎn)的產(chǎn)生，原有的行政治理機(jī)制難免受到影響。通過算法自動(dòng)將信息進(jìn)行處理，并依據(jù)事先設(shè)定的程序?qū)π姓鄬?duì)人的行為進(jìn)行評(píng)判、打分和歸類，以此作為行政處罰、行政許可等行政行為的依據(jù)，實(shí)質(zhì)上屬于一種自動(dòng)化決策行為，而自動(dòng)化行政一旦被適用在不必要的領(lǐng)域，或是當(dāng)算法決策技術(shù)本身存在較為明顯的缺陷時(shí)，就會(huì)產(chǎn)生潛在風(fēng)險(xiǎn)。一方面，在算法決策技術(shù)的發(fā)展過程中，算法歧視、算法黑箱、算法錯(cuò)誤等常見風(fēng)險(xiǎn)不可避免，算法作為技術(shù)性工具，其缺陷一旦展現(xiàn)在公共行政領(lǐng)域當(dāng)中，可能會(huì)產(chǎn)生行政權(quán)行使下的侵權(quán)與失序風(fēng)險(xiǎn)。另一方面，考慮到算法作為社會(huì)發(fā)展過程中產(chǎn)生的新興技術(shù)力量，行政主體在面對(duì)算法決策時(shí)經(jīng)驗(yàn)與能力難免不足，易產(chǎn)生以技術(shù)權(quán)力取代傳統(tǒng)公權(quán)力的困境，又因缺乏及時(shí)的法律規(guī)制而存在權(quán)力異化〔2〕的風(fēng)險(xiǎn)。因此，筆者認(rèn)為，有必要從行政法視角對(duì)自動(dòng)化行政中算法決策的潛在風(fēng)險(xiǎn)進(jìn)行分析，明晰自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的法律規(guī)制理念，探究自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的法律規(guī)制路徑。

一、自動(dòng)化行政中算法決策的潛在風(fēng)險(xiǎn)及其成因

（一）自動(dòng)化行政中算法決策的潛在風(fēng)險(xiǎn)

1.極化風(fēng)險(xiǎn)。對(duì)于公權(quán)力領(lǐng)域算法決策技術(shù)的應(yīng)用，有學(xué)者認(rèn)為，算法憑借其代碼模式和功能實(shí)現(xiàn)了分析、決策和執(zhí)行的自動(dòng)化，在事實(shí)上已經(jīng)能夠逐步取代法律規(guī)則〔3〕。這種基于技術(shù)優(yōu)勢(shì)而產(chǎn)生的社會(huì)影響力可能導(dǎo)致社會(huì)結(jié)構(gòu)極化的風(fēng)險(xiǎn)：其一，算法決策技術(shù)在自動(dòng)化行政中的應(yīng)用可能引發(fā)行政相對(duì)人之間的不平等。自動(dòng)化行政系統(tǒng)是技術(shù)人員根據(jù)相應(yīng)的算法規(guī)則和目標(biāo)開發(fā)設(shè)計(jì)而成，“人類決策顯然存在偏見，但機(jī)器學(xué)習(xí)算法也存在偏見，尤其是當(dāng)用于訓(xùn)練這些算法的基礎(chǔ)數(shù)據(jù)已經(jīng)包含（人為制造的）偏見時(shí)”〔4〕，不當(dāng)?shù)倪\(yùn)行邏輯而導(dǎo)致的算法偏見可能引發(fā)不同行政相對(duì)人群體被不平等對(duì)待的風(fēng)險(xiǎn)。其二，數(shù)字化發(fā)展進(jìn)程中愈發(fā)被人們注意到的數(shù)字鴻溝困境體現(xiàn)在自動(dòng)化行政中，就表現(xiàn)為傳統(tǒng)行政主體的主觀能動(dòng)性在算法決策技術(shù)面前存在被架空之風(fēng)險(xiǎn)，也就是說，如果算法決策逐步代替?zhèn)鹘y(tǒng)的專家決策，行政人員基于對(duì)算法決策技術(shù)客觀性的信任，即使在算法僅起輔助作用的自動(dòng)化行政行為中，也可能產(chǎn)生弱化行政人員主觀能動(dòng)性而直接采用算法決策作最終決定的后果。

2.異化風(fēng)險(xiǎn)。自動(dòng)化行政所應(yīng)用的算法決策技術(shù)可能對(duì)行政活動(dòng)秩序形成沖擊。算法決策的技術(shù)特性可能會(huì)與行政實(shí)踐中所遵循的行政法原則產(chǎn)生一定沖突，比如自動(dòng)化行政實(shí)現(xiàn)的過程具有瞬時(shí)性、非現(xiàn)場(chǎng)化的特點(diǎn)，可能導(dǎo)致行政人員現(xiàn)場(chǎng)執(zhí)法時(shí)部分法定程序難以實(shí)現(xiàn)，最典型的就是行政相對(duì)人在行政行為作出之前陳述申辯環(huán)節(jié)的消失。而算法本身的不透明屬性以及相應(yīng)技術(shù)主體的商業(yè)秘密保護(hù)訴求，都可能導(dǎo)致無法公開自動(dòng)化行政中的算法決策，這與正當(dāng)程序原則的實(shí)現(xiàn)產(chǎn)生了一定沖突。有學(xué)者指出，在具體行政行為領(lǐng)域以追求高效和精準(zhǔn)為目的而推進(jìn)自動(dòng)化行政，可能會(huì)導(dǎo)致傳統(tǒng)的判斷標(biāo)準(zhǔn)失衡。比如交通違章行為行政處罰自動(dòng)化后，其全范圍識(shí)別和精準(zhǔn)處罰的特性導(dǎo)致判罰量的激增，從而使得傳統(tǒng)的通過經(jīng)濟(jì)因素、處罰概率等多方面考量而設(shè)置的處罰標(biāo)準(zhǔn)出現(xiàn)了疏密程度的失衡〔5〕。由此可見，算法決策技術(shù)的應(yīng)用可能會(huì)給傳統(tǒng)的行政法運(yùn)行秩序帶來一定沖擊，進(jìn)而對(duì)決策之下行政相對(duì)人群體的一般合理預(yù)期和傳統(tǒng)行為模式產(chǎn)生影響。

3.侵權(quán)與責(zé)任風(fēng)險(xiǎn)。算法決策技術(shù)在行政領(lǐng)域的應(yīng)用易導(dǎo)致行政相對(duì)人面臨被侵權(quán)風(fēng)險(xiǎn)。自動(dòng)化決策的過程本身就存在可能導(dǎo)致歧視和錯(cuò)誤產(chǎn)生的因素，如歷史數(shù)據(jù)、技術(shù)限制、當(dāng)下具體環(huán)境等，而行政權(quán)的行使通常具有強(qiáng)制力且面向廣泛的行政相對(duì)人群體。行政機(jī)關(guān)在應(yīng)用了以大數(shù)據(jù)為基礎(chǔ)的算法決策技術(shù)后，其與行政相對(duì)人實(shí)質(zhì)上處于較為不對(duì)等的地位，這就對(duì)較為弱勢(shì)的行政相對(duì)人的權(quán)益保障提出了更高的要求。同時(shí)值得注意的是，具有自主學(xué)習(xí)能力的算法可能展現(xiàn)出越來越多的“輸出結(jié)果的不可控性”，這種技術(shù)結(jié)果的不可控可能致使傳統(tǒng)責(zé)任鏈條斷裂，即算法決策結(jié)果引發(fā)的責(zé)任并非是由算法使用者或開發(fā)者的行為導(dǎo)致的〔6〕，因此自動(dòng)化行政算法決策的歸責(zé)問題存在爭(zhēng)議，具體的責(zé)任主體和歸責(zé)原則仍不明晰〔7〕。且現(xiàn)階段已有一定數(shù)量的行政機(jī)關(guān)基于對(duì)行政管理質(zhì)量和效率兼?zhèn)涞淖非?，與私營技術(shù)主體合作，尋求算法決策技術(shù)的支持，這可能會(huì)使私營技術(shù)主體處于自動(dòng)化行政的實(shí)質(zhì)控制地位，其逐利性本質(zhì)也隱含了相應(yīng)的算法權(quán)力尋租風(fēng)險(xiǎn)。

（二）自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的成因分析

1.傳統(tǒng)行政法思維在與新興技術(shù)的碰撞中應(yīng)對(duì)不足。自動(dòng)化行政中出現(xiàn)的潛在風(fēng)險(xiǎn)，實(shí)質(zhì)是算法決策技術(shù)的一般性風(fēng)險(xiǎn)延伸至行政領(lǐng)域的結(jié)果。在自動(dòng)化行政不斷推進(jìn)的背景下，其決策過程和結(jié)果通常都以電子數(shù)據(jù)的形式存在，傳統(tǒng)行政法思維中以基本原則為基準(zhǔn)的部分程序性內(nèi)容可能無法得到精準(zhǔn)實(shí)現(xiàn)，如算法的瞬時(shí)性特征導(dǎo)致其對(duì)正當(dāng)程序原則的影響，算法程序運(yùn)轉(zhuǎn)的不透明性導(dǎo)致行政公開原則的實(shí)現(xiàn)受阻等。行政人員可能會(huì)因?yàn)樗惴Q策技術(shù)的客觀、高效和精準(zhǔn)等特點(diǎn)而對(duì)技術(shù)本身的決策結(jié)果產(chǎn)生依賴與信任，使得算法一般風(fēng)險(xiǎn)影響到傳統(tǒng)行政秩序的維持。行政主體內(nèi)部人員觀念上尚未對(duì)自動(dòng)化行政與算法決策等概念產(chǎn)生系統(tǒng)的認(rèn)知，可能無法憑借現(xiàn)有的數(shù)字素養(yǎng)主導(dǎo)整個(gè)自動(dòng)化行政過程。最典型的是目前行政人員算法解釋能力不足，行政主體對(duì)其作出的行政行為負(fù)有解釋說明的義務(wù)，而部分算法可以在決策過程中自發(fā)學(xué)習(xí)和不斷演進(jìn)，最終導(dǎo)致“算法黑箱”的產(chǎn)生〔8〕，算法運(yùn)行的過程和方式變得不透明，使得行政人員難以對(duì)自動(dòng)化行政決策的理由和邏輯進(jìn)行解釋。

2.現(xiàn)有法律規(guī)范難以有效規(guī)制新興技術(shù)風(fēng)險(xiǎn)?！吨腥A人民共和國個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》）對(duì)自動(dòng)化決策的個(gè)人信息影響評(píng)估作出了規(guī)定，各地政府也在隨后的智慧政府建設(shè)中發(fā)布了相關(guān)的智能政務(wù)地方性文件。通過各項(xiàng)立法文件和政策的頒布可以看出，雖然目前仍然集中于較為宏觀的指導(dǎo)性立法與政策，但我國對(duì)于算法決策技術(shù)的治理和規(guī)制已經(jīng)提上日程。自動(dòng)化行政中算法決策風(fēng)險(xiǎn)具有不可預(yù)測(cè)性，我國目前尚未出臺(tái)專門規(guī)范公權(quán)力領(lǐng)域算法決策技術(shù)應(yīng)用的法律，現(xiàn)有的僅僅是散見于單項(xiàng)立法中的條款規(guī)定以及政策性文件，難以實(shí)現(xiàn)對(duì)于自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的防范與約束，而關(guān)于自動(dòng)化行政中算法決策技術(shù)的應(yīng)用場(chǎng)景和范圍、風(fēng)險(xiǎn)防范措施、責(zé)任分配模式等問題均需要立法規(guī)范。

二、自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的法律規(guī)制理念

（一）摒棄自動(dòng)化行政中技術(shù)工具理性思維

算法決策已成為推進(jìn)政府管理和公共服務(wù)不斷發(fā)展的技術(shù)性工具，行政領(lǐng)域?qū)Ω录夹g(shù)和提升效率的需求逐漸加大，在一定程度上可能會(huì)形成以算法為基礎(chǔ)的技術(shù)工具理性思維，可能“會(huì)將公共治理推入多中心的技術(shù)依賴?yán)Ь钞?dāng)中，進(jìn)而導(dǎo)致公共治理的畸形化”〔9〕。技術(shù)工具理性思維會(huì)使自動(dòng)化行政中以公共管理和服務(wù)為目標(biāo)的價(jià)值軌道發(fā)生偏移，轉(zhuǎn)向技術(shù)依賴并部分消解人的主體性。自然人對(duì)機(jī)器等科技易產(chǎn)生依賴和盲從，有學(xué)者指出當(dāng)人的主體性和價(jià)值理性逐漸減弱時(shí)，其在作出決策時(shí)就會(huì)不自覺地傾向于與自動(dòng)化決策的結(jié)果保持一致，“原本正確的判斷最終被計(jì)算機(jī)扭轉(zhuǎn)，導(dǎo)致失誤疊加的‘自反性悖論”〔10〕。以技術(shù)工具理性思維為指導(dǎo)行使公權(quán)力，會(huì)給社會(huì)秩序帶來隱患。在自動(dòng)化行政的發(fā)展過程中，對(duì)“人的價(jià)值”的認(rèn)識(shí)十分重要，“人始終是發(fā)展的目的，由算法支撐的智能社會(huì)依然是‘人的社會(huì)而不是‘物的社會(huì)”〔11〕，因此，對(duì)于自動(dòng)化行政中的算法決策技術(shù)，應(yīng)當(dāng)摒棄技術(shù)至上的思維模式，建立起行政主體和行政相對(duì)人共同的理性認(rèn)識(shí)和基本價(jià)值追求，在秉持基本行政法精神和理念的前提下設(shè)置算法決策技術(shù)工具適用的規(guī)范和界限，不斷填補(bǔ)數(shù)據(jù)鴻溝，強(qiáng)化自然人對(duì)算法決策技術(shù)的接觸與理解，保障行政主體的主導(dǎo)地位以及行政相對(duì)人對(duì)應(yīng)的權(quán)利?？傊?，對(duì)自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的規(guī)制，離不開行政法領(lǐng)域價(jià)值理性的嵌入和社會(huì)倫理的約束；保證技術(shù)工具在不斷革新中實(shí)現(xiàn)目標(biāo)成果最大化的同時(shí)，也要發(fā)揮其維護(hù)社會(huì)和諧穩(wěn)定的功能。

（二）提升自動(dòng)化行政中預(yù)防性法律規(guī)制理念

《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》指出，要通過制定相關(guān)的法律法規(guī)和倫理規(guī)范來應(yīng)對(duì)挑戰(zhàn)，“增強(qiáng)風(fēng)險(xiǎn)意識(shí)，重視風(fēng)險(xiǎn)評(píng)估和防控，強(qiáng)化前瞻預(yù)防和約束引導(dǎo)”。面對(duì)算法這一新興技術(shù)可能帶來的風(fēng)險(xiǎn)，確立風(fēng)險(xiǎn)影響評(píng)估機(jī)制成為預(yù)防性風(fēng)險(xiǎn)規(guī)制的重點(diǎn)，目前有些國家已在政策或立法中開始體現(xiàn)。例如，法國政府已經(jīng)要求公開所有為政府用途開發(fā)的算法，以便社會(huì)能夠?qū)@些算法的正確適用進(jìn)行核實(shí)；基于政府部門所應(yīng)用的算法自動(dòng)化決策的安全性要求，歐洲議會(huì)提出了“算法影響評(píng)估（AIA）”制度框架，允許利益相關(guān)者對(duì)于實(shí)質(zhì)影響其權(quán)利的算法決策系統(tǒng)進(jìn)行評(píng)估，以確定適用算法的具體場(chǎng)域。當(dāng)然，在對(duì)算法決策風(fēng)險(xiǎn)進(jìn)行立法規(guī)制時(shí)，應(yīng)強(qiáng)調(diào)以預(yù)防風(fēng)險(xiǎn)為重心的自動(dòng)化行政全過程評(píng)估審查思路。

三、自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的法律規(guī)制路徑

（一）完善自動(dòng)化行政中算法決策全過程風(fēng)險(xiǎn)評(píng)估預(yù)防機(jī)制

全過程風(fēng)險(xiǎn)評(píng)估預(yù)防機(jī)制是對(duì)自動(dòng)化行政從開發(fā)設(shè)計(jì)到投入使用、產(chǎn)生行政行為結(jié)果的全過程進(jìn)行風(fēng)險(xiǎn)分析和預(yù)警的制度。加強(qiáng)對(duì)算法決策風(fēng)險(xiǎn)的事前預(yù)防有助于減少實(shí)質(zhì)損害后果，對(duì)此，國務(wù)院辦公廳印發(fā)的《關(guān)于全面推行行政執(zhí)法公示制度執(zhí)法全過程記錄制度重大執(zhí)法決定法制審核制度的指導(dǎo)意見》已有所體現(xiàn)，明確了行政執(zhí)法裁量決策輔助系統(tǒng)的建立，同時(shí)強(qiáng)調(diào)風(fēng)險(xiǎn)預(yù)測(cè)系統(tǒng)的開發(fā)，以便于對(duì)決策系統(tǒng)的風(fēng)險(xiǎn)進(jìn)行提前預(yù)警、檢測(cè)和研判。事前的預(yù)測(cè)未必能完全杜絕風(fēng)險(xiǎn)的發(fā)生，對(duì)可預(yù)見風(fēng)險(xiǎn)的警示也不必然導(dǎo)致算法禁用的結(jié)果，但可以使得大部分風(fēng)險(xiǎn)在自動(dòng)化行政實(shí)行之初就被考量進(jìn)來，提升行政主體和算法設(shè)計(jì)者對(duì)相關(guān)利益進(jìn)行保護(hù)的意識(shí)。但同時(shí)也應(yīng)注意，自動(dòng)化系統(tǒng)的研發(fā)過程是不透明、不連續(xù)和分散的，事前監(jiān)管的要求在這種技術(shù)特點(diǎn)下落實(shí)起來較為困難，因此，對(duì)于自動(dòng)化行政事中和事后的風(fēng)險(xiǎn)評(píng)估控制也至關(guān)重要，應(yīng)完善事前預(yù)防、事中持續(xù)監(jiān)督、事后定期審查糾正的全過程風(fēng)險(xiǎn)評(píng)估預(yù)防機(jī)制。可考慮建立由專業(yè)技術(shù)人員組成的風(fēng)險(xiǎn)防控內(nèi)部機(jī)構(gòu)，負(fù)責(zé)算法決策風(fēng)險(xiǎn)事前的評(píng)估預(yù)審，也可以通過引入有資質(zhì)的第三方組織負(fù)責(zé)風(fēng)險(xiǎn)的評(píng)估工作。

（二）完善自動(dòng)化行政程序立法體制機(jī)制

鑒于算法決策技術(shù)在行政領(lǐng)域使用的潛在風(fēng)險(xiǎn)，有必要考慮在立法中建立適用于自動(dòng)化行政的專門程序性規(guī)范體系加以應(yīng)對(duì)，規(guī)范自動(dòng)化行政應(yīng)用的具體范圍、方式和過程。

首先，盡管有學(xué)者認(rèn)為部分自動(dòng)化技術(shù)只能定位于為行政機(jī)關(guān)提供決策或行動(dòng)方面的輔助，而非代替人類自行決斷〔12〕，但隨著技術(shù)的不斷發(fā)展以及現(xiàn)實(shí)社會(huì)的需要，“算法由輔助工具徹底躍升為能夠獨(dú)立實(shí)施行政活動(dòng)、或者對(duì)行政主體的行政行為有決定性作用的自主決策工具的可能性是存在的”〔13〕。相應(yīng)地，在何種場(chǎng)景與范圍下能夠以算法決策技術(shù)實(shí)現(xiàn)自動(dòng)化行政行為，應(yīng)當(dāng)由立法予以明確規(guī)定，以保證自動(dòng)化行政遵循法律框架。完全的自動(dòng)化決策應(yīng)當(dāng)適用于那些事實(shí)較為簡(jiǎn)單清晰的事項(xiàng)，對(duì)于負(fù)擔(dān)性行政行為等對(duì)行政相對(duì)人權(quán)益有重大影響的行為則需要謹(jǐn)慎適用或不適用。

其次，應(yīng)當(dāng)在自動(dòng)化行政的整個(gè)適用場(chǎng)域里保留適當(dāng)?shù)娜斯じ深A(yù)渠道。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第11條要求算法推薦服務(wù)提供者建立人工干預(yù)機(jī)制，在自動(dòng)化行政程序中更有必要保留人工干預(yù)渠道，在發(fā)現(xiàn)風(fēng)險(xiǎn)后及時(shí)主動(dòng)地補(bǔ)救，同時(shí)確保行政主體在自動(dòng)化行政系統(tǒng)中的主導(dǎo)地位。實(shí)踐中，基于技術(shù)發(fā)展現(xiàn)狀、系統(tǒng)瑕疵可能性的考量，從算法決策技術(shù)的發(fā)展現(xiàn)實(shí)性角度來看，保留程序完善的人工干預(yù)渠道也是十分有必要的。

整個(gè)自動(dòng)化行政的程序設(shè)計(jì)應(yīng)當(dāng)遵守程序正當(dāng)原則的基本要求，保證算法決策技術(shù)實(shí)施的公開透明，但算法決策技術(shù)本身可能具有“黑箱”現(xiàn)象而難以被一般公眾所獲悉和理解。有學(xué)者從程序法的視角主張通過具有行政專長和相關(guān)算法決策技術(shù)人員的介入，實(shí)現(xiàn)算法編碼的可識(shí)別化、可視化〔14〕。但算法決策技術(shù)的公開可能會(huì)與技術(shù)提供方的知識(shí)產(chǎn)權(quán)等權(quán)益產(chǎn)生沖突，因此自動(dòng)化行政的決策系統(tǒng)采用何種程度的公開、如何兼顧多方利益訴求，也是立法需要考量的問題。為此，在遵循基本行政法理念的前提下，考慮到算法決策技術(shù)瞬時(shí)性特點(diǎn)的影響，以及行政機(jī)關(guān)高效精準(zhǔn)行政考量的需求，對(duì)于一些行政法基本原則可以靈活適用，比如可以將部分程序較為簡(jiǎn)單的行政行為的申辯程序后移至自動(dòng)化行政完成后的申訴環(huán)節(jié)，對(duì)于較為復(fù)雜、需要行政裁量且對(duì)行政相對(duì)人利益有較大影響的自動(dòng)化行政行為，則應(yīng)當(dāng)僅使算法決策技術(shù)處于輔助性地位，而由行政主體作出最終決定。

（三）完善自動(dòng)化行政中行政相對(duì)人權(quán)利救濟(jì)體系

完善行政相對(duì)人對(duì)抗自動(dòng)化行政算法決策風(fēng)險(xiǎn)的權(quán)利體系，是預(yù)防算法決策技術(shù)侵權(quán)風(fēng)險(xiǎn)的必然要求，也有利于推動(dòng)民眾數(shù)字權(quán)利體系建設(shè)?！秱€(gè)人信息保護(hù)法》規(guī)定了信息權(quán)益所有人“免受個(gè)人信息處理者僅通過自動(dòng)化決策的方式作出決定”以及“獲得解釋”的權(quán)利，但是，與自動(dòng)化行政算法決策帶來的潛在風(fēng)險(xiǎn)影響相比，這種權(quán)利內(nèi)容顯得較為空泛，未能形成使行政相對(duì)人有效對(duì)抗自動(dòng)化行政算法決策風(fēng)險(xiǎn)的體系。對(duì)于免受自動(dòng)化決策權(quán)的具體含義，《個(gè)人信息保護(hù)法》所規(guī)定的權(quán)利適用場(chǎng)域較為狹窄，信息權(quán)益所有人只可對(duì)抗“僅通過自動(dòng)化決策”所作出的決定，對(duì)公權(quán)力領(lǐng)域自動(dòng)化決策的對(duì)抗模式、結(jié)果和例外情形均不甚明晰，這使得該權(quán)利必須是完全自動(dòng)化決策影響到行政相對(duì)人利益時(shí)才可以被行使，因適用條件苛刻而易淪為虛置之權(quán)利。另外，即使行政相對(duì)人提出異議，決策方也可以通過證明該決策中“存在最低限度的人工干預(yù)”而免于受此權(quán)利的制約。同時(shí)，針對(duì)我國算法解釋權(quán)如何構(gòu)建這一議題，學(xué)者們一直存在不同觀點(diǎn)：部分觀點(diǎn)主張“算法黑箱”的特性使得算法解釋權(quán)在個(gè)案中無從落實(shí)而不具有實(shí)際意義，只能要求在算法決策作出之前針對(duì)算法基本情況進(jìn)行一般性說明〔15〕。在《個(gè)人信息保護(hù)法》出臺(tái)后，有學(xué)者認(rèn)為行政自動(dòng)化領(lǐng)域的算法解釋權(quán)應(yīng)當(dāng)要求行政機(jī)關(guān)提供事后的具體解釋〔16〕。作為算法決策透明性要求的應(yīng)對(duì)措施，具體的算法解釋權(quán)在公權(quán)力領(lǐng)域是無法回避的，與此同時(shí)，由于行政相對(duì)人通常并不針對(duì)算法邏輯而主要針對(duì)個(gè)案決策后果提出利益訴求，因此在面對(duì)實(shí)踐中難以解釋的學(xué)習(xí)型算法時(shí)，不必然要求行政機(jī)關(guān)解釋其內(nèi)部運(yùn)行邏輯，也無需要求行政相對(duì)人理解算法決策技術(shù)的本質(zhì)，而應(yīng)當(dāng)重點(diǎn)考慮通過行政人員的干預(yù)模式實(shí)現(xiàn)行政行為正當(dāng)性的審查和補(bǔ)正。未來，應(yīng)針對(duì)公權(quán)力領(lǐng)域中算法決策技術(shù)的應(yīng)用設(shè)立公民權(quán)利救濟(jì)體系，具體到自動(dòng)化行政中，應(yīng)結(jié)合行政領(lǐng)域的需求，對(duì)行政相對(duì)人的拒絕自動(dòng)化決策權(quán)、獲得算法解釋權(quán)、陳述與申辯權(quán)等作出明確的法律規(guī)定。

（四）完善自動(dòng)化行政算法決策監(jiān)管制度

設(shè)立自動(dòng)化行政算法決策的專門監(jiān)管機(jī)構(gòu)有其必要性。目前就公權(quán)力領(lǐng)域所面臨的算法決策風(fēng)險(xiǎn)困境而言，行政相對(duì)人處于弱勢(shì)地位而無法對(duì)其進(jìn)行有效制約，第三方監(jiān)督機(jī)構(gòu)本身也不具有強(qiáng)制約束力。因此，針對(duì)包括算法決策技術(shù)風(fēng)險(xiǎn)在內(nèi)的數(shù)字化領(lǐng)域的風(fēng)險(xiǎn)，設(shè)立擁有一定職權(quán)和相應(yīng)技術(shù)水準(zhǔn)的獨(dú)立監(jiān)管機(jī)構(gòu)，可以在一定程度上防止實(shí)行自動(dòng)化行政的政府部門在算法決策技術(shù)應(yīng)用中的濫權(quán)與不作為，同時(shí)也能有效制約以私營主體為主的技術(shù)提供方的不正當(dāng)數(shù)據(jù)處理行為?！秱€(gè)人信息保護(hù)法》已設(shè)置了個(gè)人信息保護(hù)負(fù)責(zé)人，對(duì)于算法決策風(fēng)險(xiǎn)的防控，可以借鑒《德國聯(lián)邦數(shù)據(jù)保護(hù)法》規(guī)定的“個(gè)人數(shù)據(jù)保護(hù)顧問監(jiān)管+數(shù)據(jù)保護(hù)監(jiān)管局兜底”的模式進(jìn)行相應(yīng)的立法設(shè)計(jì)。同時(shí)，監(jiān)管責(zé)任下的相應(yīng)主體豁免規(guī)范也是有必要的〔17〕，自動(dòng)化行政中的算法決策監(jiān)管通常是出于對(duì)重大風(fēng)險(xiǎn)進(jìn)行防范的考量。由于在監(jiān)管過程中可能面臨算法決策技術(shù)方利益訴求適當(dāng)讓位于公共利益的情形，所以立法應(yīng)當(dāng)設(shè)計(jì)相應(yīng)的監(jiān)管豁免制度，使特定的監(jiān)管主體在一定范圍和場(chǎng)景內(nèi)不受追責(zé)地對(duì)自動(dòng)化行政的算法內(nèi)容進(jìn)行審查。另外，監(jiān)管體系的立法建設(shè)可以遵循分級(jí)分類監(jiān)管的原則，在重點(diǎn)風(fēng)險(xiǎn)領(lǐng)域設(shè)置更加嚴(yán)格的防控標(biāo)準(zhǔn)，使得自動(dòng)化行政中的算法決策監(jiān)管更具針對(duì)性，“將一般性監(jiān)管與特殊性監(jiān)管相結(jié)合”〔13〕，實(shí)現(xiàn)在可接受的資源成本內(nèi)達(dá)到監(jiān)管的最大效用，保障自動(dòng)化行政中算法決策的安全審慎推進(jìn)。

〔參 考 文 獻(xiàn)〕

〔1〕馮子軒.人工智能與法律〔M〕.北京：法律出版社，2020：76.

〔2〕張凌寒.智慧司法中技術(shù)依賴的隱憂及應(yīng)對(duì)〔J〕.法制與社會(huì)發(fā)展，2022（04）：180-200.

〔3〕張 欣.算法行政的架構(gòu)原理、本質(zhì)特征與法治化路徑：兼論《個(gè)人信息保護(hù)法（草案）》〔J〕.經(jīng)貿(mào)法律評(píng)論，2021（01）：21-35.

〔4〕卡里·科利亞尼斯，蘇苗罕，王夢(mèng)菲.自動(dòng)化國家的行政法〔J〕.法治社會(huì)，2022（01）：47-57.

〔5〕馬顏昕.自動(dòng)化行政方式下的行政處罰：挑戰(zhàn)與回應(yīng)〔J〕.政治與法律，2020（04）：139-148.

〔6〕張凌寒.算法權(quán)力的興起、異化及法律規(guī)制〔J〕.法商研究，2019（04）：63-75.

〔7〕馬顏昕.自動(dòng)化行政的分級(jí)與法律控制變革〔J〕.行政法學(xué)研究，2019（01）：80-92.

〔8〕張凌寒.算法自動(dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和〔J〕.社會(huì)科學(xué)文摘，2021（02）：69-71.

〔9〕劉 成，張 麗.“刷臉”治理的應(yīng)用場(chǎng)景與風(fēng)險(xiǎn)防范〔J〕.學(xué)術(shù)交流，2021（07）：151-162.

〔10〕唐林垚.“脫離算法自動(dòng)化決策權(quán)”的虛幻承諾〔J〕.東方法學(xué)，2020（06）：18-33.

〔11〕張文顯.構(gòu)建智能社會(huì)的法律秩序〔J〕.東方法學(xué)，2020（05）：4-19.

〔12〕查云飛.行政裁量自動(dòng)化的學(xué)理基礎(chǔ)與功能定位〔J〕.行政法學(xué)研究，2021（03）：114-124.

〔13〕展鵬賀.數(shù)字化行政方式的權(quán)力正當(dāng)性檢視〔J〕.中國法學(xué)，2021（03）：114-138.

〔14〕胡敏潔.自動(dòng)化行政的法律控制〔J〕.行政法學(xué)研究，2019（02）：56-66.

〔15〕沈偉偉.算法透明原則的迷思——算法規(guī)制理論的批判〔J〕.環(huán)球法律評(píng)論，2019（06）：20-39.

〔16〕林洹民.《個(gè)人信息保護(hù)法》中的算法解釋權(quán)：兼顧公私場(chǎng)景的區(qū)分規(guī)范策略〔J〕.法治研究，2022（05）：48-58.

〔17〕萬 勇.人工智能時(shí)代的版權(quán)法通知—移除制度〔J〕.中外法學(xué)，2019（05）：1254-1269.

責(zé)任編輯 梁華林