論自動(dòng)化行政中算法決策應(yīng)用風(fēng)險(xiǎn)及其防范路徑

陳 飏 裴亞楠

[提要]自動(dòng)化行政中算法決策應(yīng)用僅限“三大類別”，但仍無(wú)可避及與正當(dāng)程序、行政公正等原則相背離之風(fēng)險(xiǎn)，甚至因不當(dāng)或?yàn)E用而削弱行政裁量的能動(dòng)性，最終影響行政決策的準(zhǔn)確性而導(dǎo)致行政相對(duì)人權(quán)益損害等風(fēng)險(xiǎn)。算法決策“黑箱”性特征、數(shù)據(jù)質(zhì)量瑕疵與相關(guān)制度規(guī)范缺失等是風(fēng)險(xiǎn)產(chǎn)生的客觀成因，而行政主體對(duì)算法決策的不當(dāng)操作與過(guò)度依賴是重要的主觀成因。為防范該等風(fēng)險(xiǎn)、促進(jìn)算法決策在自動(dòng)化行政中的良性發(fā)展，在建構(gòu)因應(yīng)性的專門法律框架下，至少可從地位厘定、立法明定和程序控制等切入，以重申并堅(jiān)定行政機(jī)關(guān)的主體地位、明確算法決策的工具屬性，并明晰界定自動(dòng)化行政中算法決策的具體應(yīng)用場(chǎng)景，且須以比例原則先行完成系統(tǒng)預(yù)審，同時(shí)還須切實(shí)貫徹正當(dāng)程序控制，在督進(jìn)行政主體算法解釋責(zé)任的同時(shí)，盡速完善行政相對(duì)人的權(quán)利救濟(jì)。

算法決策技術(shù)已然涉入自動(dòng)化行政應(yīng)用領(lǐng)域，2020年初疫情背景下的健康碼的開(kāi)發(fā)與推廣，正是基于大數(shù)據(jù)收集的算法自主分析決策技術(shù)，完成個(gè)人疫情風(fēng)險(xiǎn)的評(píng)估，為行政機(jī)關(guān)的疫情防控應(yīng)急行動(dòng)提供了技術(shù)支持，是算法決策在自動(dòng)化行政領(lǐng)域中的典型應(yīng)用。但是，算法決策在自動(dòng)化行政中的應(yīng)用并非全然，而僅限定以部分自動(dòng)化行政、無(wú)裁量能力的完全自動(dòng)化行政和有裁量能力的完全自動(dòng)化行政之三大類別。盡管該等應(yīng)用確實(shí)大幅度提高了行政機(jī)關(guān)在具體行政活動(dòng)的工作效率、節(jié)省各類行政資源，卻也無(wú)可避及面臨算法決策與正當(dāng)程序、行政公正等原則相背離的風(fēng)險(xiǎn)，甚至因不當(dāng)或?yàn)E用算法決策不僅削弱行政裁量的能動(dòng)性，最終還影響行政決策的準(zhǔn)確性而對(duì)行政相對(duì)人造成實(shí)質(zhì)性權(quán)益損害等風(fēng)險(xiǎn)。上述是為算法決策在自動(dòng)化行政領(lǐng)域應(yīng)用中已露端倪的諸多特定風(fēng)險(xiǎn)，限于技術(shù)發(fā)展水平，將來(lái)定還有他類不可預(yù)測(cè)之風(fēng)險(xiǎn)。所以，本文擇取行政法的視角，在建構(gòu)自動(dòng)化行政中算法決策應(yīng)用的專門性法律框架下，通過(guò)明確自動(dòng)化行政中算法決策應(yīng)用的地位厘定、立法明定與程序控制等路徑展開(kāi)，以積極防范該等風(fēng)險(xiǎn)的發(fā)生，有效規(guī)避該等風(fēng)險(xiǎn)的后果。

一、自動(dòng)化行政中的算法決策及其類別化應(yīng)用

大數(shù)據(jù)時(shí)代，自動(dòng)化行政中算法決策的應(yīng)用已是大勢(shì)所趨。但是，算法決策在自動(dòng)化行政中的應(yīng)用并非全然，至少當(dāng)下應(yīng)僅限于“三大類別”的應(yīng)用。在厘清算法決策、自動(dòng)化行政等基本概念基礎(chǔ)上，完成自動(dòng)化行政之“三大類別”的解讀與分析。

(一)算法決策與自動(dòng)化行政

1.算法決策

算法是由一系列步驟分明的清晰指令組成的計(jì)算機(jī)程序。[1](P.128)算法決策作為一項(xiàng)新興技術(shù)，具有自學(xué)性、“黑箱”性與極速性三種特性，并借助此三種特性的各自優(yōu)勢(shì)和相互作用的充分發(fā)揮，實(shí)現(xiàn)其輔助自動(dòng)化行政的工具作用。

算法決策系統(tǒng)涉入的場(chǎng)景通常分私人生活場(chǎng)景和公共治理場(chǎng)景，并在部分場(chǎng)景下逐漸代替?zhèn)鹘y(tǒng)中只有人為才可進(jìn)行的工作或決策。作為算法決策基礎(chǔ)之一的機(jī)器學(xué)習(xí)，具備區(qū)別于其他分析技術(shù)的三個(gè)特性[2](P.1167)：(1)自學(xué)性。算法決策的結(jié)果并不完全依賴人類預(yù)先指定的預(yù)測(cè)結(jié)果。事實(shí)上，只要機(jī)器自主學(xué)習(xí)還在運(yùn)行，人類就無(wú)法真正控制、組合和比較數(shù)據(jù)；因此，算法決策系統(tǒng)可以有效地、自主地尋找決策模式。(2)“黑箱”性。算法決策的分析過(guò)程是一密閉的“黑箱”性操作，其決策結(jié)果并不能被直觀解釋，當(dāng)然也就不能作為司法、行政部門行動(dòng)理由基礎(chǔ)的因果解釋。(3)極速性。算法決策系統(tǒng)的整個(gè)運(yùn)行過(guò)程極其迅速，算法決策產(chǎn)生結(jié)果的過(guò)程可以縮短、甚至跳過(guò)人類深思熟慮的時(shí)間。

2.自動(dòng)化行政

自動(dòng)化行政，系人工智能在行政領(lǐng)域中的一種具體運(yùn)用，是指行政程序中特定環(huán)節(jié)或所有環(huán)節(jié)由人工智能或者自動(dòng)化系統(tǒng)代為處理，無(wú)需人工的個(gè)別介入，從而實(shí)現(xiàn)部分或全部無(wú)人化的行政活動(dòng)。[3](P.140)可見(jiàn)，自動(dòng)化行政并未完全應(yīng)用算法決策系統(tǒng)。因此，就有必要對(duì)自動(dòng)化行政類型作出界定。

一項(xiàng)特定的行政活動(dòng)可分為識(shí)別與輸入、分析與決定、輸出與實(shí)現(xiàn)三個(gè)環(huán)節(jié)，并依據(jù)這三個(gè)環(huán)節(jié)各自的完成主體是人類還是自動(dòng)化系統(tǒng)，將自動(dòng)化行政分為無(wú)自動(dòng)化行政、自動(dòng)化輔助行政、部分自動(dòng)化行政、無(wú)裁量能力的完全自動(dòng)化行政、有裁量能力的完全自動(dòng)化行政這五個(gè)類別。[4](P.83)其中，只有無(wú)裁量能力的完全自動(dòng)化行政和有裁量能力的完全自動(dòng)化行政這兩個(gè)類別在分析與決定環(huán)節(jié)的完成主體是自動(dòng)化系統(tǒng)，即直接應(yīng)用算法決策完成其行政活動(dòng)。實(shí)踐中，部分自動(dòng)化行政雖然沒(méi)有直接應(yīng)用算法決策完成分析與決定，但在具體場(chǎng)景下，已然應(yīng)用算法決策進(jìn)行輔助行政、幫助行政主體做出最終決策。

(二)部分自動(dòng)化行政

在部分自動(dòng)化行政中，分析與決定環(huán)節(jié)的完成主體雖然是人類；但是，行政主體仍可以應(yīng)用算法決策進(jìn)行數(shù)據(jù)的識(shí)別與分析，以此輔助行政主體作出決策。最典型的應(yīng)用場(chǎng)景是為行政執(zhí)法。

以國(guó)內(nèi)行政執(zhí)法論，2018年，北京、杭州先后推出了“聲吶電子眼”違法鳴笛抓拍設(shè)備。該設(shè)備通過(guò)采集聲音、車輛圖像等信息與信號(hào)，并傳輸至后臺(tái)經(jīng)算法系統(tǒng)的自動(dòng)檢測(cè)與識(shí)別，完成對(duì)違法鳴笛車輛的精準(zhǔn)查控，以有效輔助交警進(jìn)行遠(yuǎn)程或現(xiàn)場(chǎng)執(zhí)法。①

國(guó)外行政執(zhí)法也有類似舉措。2013年，美國(guó)小城雷丁，利用加州圣克魯斯的大數(shù)據(jù)分析初創(chuàng)公司PredPol的犯罪預(yù)測(cè)軟件——收集并利用該地區(qū)的歷史犯罪數(shù)據(jù)——通過(guò)算法決策以按小時(shí)計(jì)算出最有可能發(fā)生犯罪的地點(diǎn)——被預(yù)測(cè)區(qū)域，以協(xié)助警方在對(duì)應(yīng)的時(shí)間段安排相應(yīng)的警力進(jìn)行巡邏與犯罪預(yù)防。[5](P.91)

(三)無(wú)裁量能力的完全自動(dòng)化行政

無(wú)裁量能力的完全自動(dòng)化行政，是指自動(dòng)化系統(tǒng)可以對(duì)不需要裁量的行政活動(dòng)進(jìn)行獨(dú)立的全程處理，但對(duì)于需要進(jìn)行裁量的事項(xiàng)不能適用。[4](P.83)實(shí)踐中多應(yīng)用于行政審批、社會(huì)信用體系建設(shè)和市政建設(shè)等情形。

第一，行政審批的特定事項(xiàng)。2018年6月，深圳市人民政府率先啟用“無(wú)人干預(yù)自動(dòng)審批”的新型行政審批方式。②申請(qǐng)人無(wú)須現(xiàn)場(chǎng)報(bào)到，只需在線提交相關(guān)信息，審批系統(tǒng)采用算法決策技術(shù)自動(dòng)核查材料完整性和準(zhǔn)確性，并決定是否進(jìn)入下一步程序。隨之，安徽、廣西等地也有相關(guān)文件陸續(xù)出臺(tái)。

第二，社會(huì)信用體系建設(shè)。社會(huì)信用體系建設(shè)中的信用評(píng)級(jí)即是通過(guò)算法治理完成信用數(shù)據(jù)的判定。算法治理包括三個(gè)“階段”[6](P.39-40)：1.數(shù)據(jù)收集與存儲(chǔ)，是大數(shù)據(jù)不可或缺的數(shù)據(jù)監(jiān)視；2.數(shù)據(jù)挖掘，即自動(dòng)處理大數(shù)據(jù)，識(shí)別其間的細(xì)微關(guān)聯(lián)；3.關(guān)聯(lián)數(shù)據(jù)應(yīng)用，即以概率統(tǒng)計(jì)知識(shí)，利用關(guān)聯(lián)數(shù)據(jù)預(yù)測(cè)單個(gè)行為。

第三，市政建設(shè)。如美國(guó)波士頓為解決城市道路坑洼問(wèn)題，在2013年推出一款名為Street Bump的應(yīng)用軟件。借助智能手機(jī)的運(yùn)動(dòng)感應(yīng)功能記錄坑洼引起的震動(dòng)數(shù)據(jù)信息，并將其發(fā)送至市政府?dāng)?shù)據(jù)中心，數(shù)據(jù)中心利用算法決策自動(dòng)分析傳來(lái)數(shù)據(jù)，以準(zhǔn)確定位坑洼區(qū)域、及時(shí)作出修復(fù)等市政建設(shè)指令。[1](P.158)

(四)有裁量能力的完全自動(dòng)化行政

有裁量能力的完全自動(dòng)化行政，是指自動(dòng)化系統(tǒng)具有裁量能力，可以在一定的裁量空間內(nèi)進(jìn)行完全自動(dòng)化決策。[4](P.83)但是，囿于行政裁量空間的諸多不確定性、科學(xué)技術(shù)水平的客觀限定以及配套制度的缺失等諸多現(xiàn)實(shí)條件，在有裁量能力的完全自動(dòng)化行政中，算法決策尚未、且將在很長(zhǎng)一段時(shí)間內(nèi)只能作為行政輔助性工具，而不能直接作出最終的決策結(jié)果。就此，德國(guó)即以立法形式對(duì)之進(jìn)行了嚴(yán)格規(guī)定。2017年，德國(guó)在修改的聯(lián)邦《行政程序法》中引入“全自動(dòng)作出的具體行政行為”概念，并在第35a條明確提出，“僅允許在羈束行政行為中應(yīng)用算法決策等全自動(dòng)技術(shù)，禁止在存有不確定法律概念或裁量情形的行政行為中予以應(yīng)用”。[7](P.171-172)

質(zhì)言之，在有裁量能力的完全自動(dòng)化行政中，算法決策的作用惟限定于工具性地位而輔助行政機(jī)關(guān)作出最終行政決策。即藉由算法決策的數(shù)據(jù)收集與分析處理上的技術(shù)優(yōu)勢(shì)，最終可以通過(guò)數(shù)據(jù)整合為行政機(jī)關(guān)提供決策支持。如，通過(guò)算法決策對(duì)互聯(lián)網(wǎng)數(shù)據(jù)的收集與分析，行政機(jī)關(guān)可以判斷某類廣告的影響群體與傳播范圍，進(jìn)而促使行政機(jī)關(guān)政策制定以及決策的優(yōu)化。[8](P.58)顯然，行政機(jī)關(guān)正是借助算法決策的輔助，希望可以作出更富有科學(xué)性的行政決策。

二、自動(dòng)化行政中算法決策的特殊風(fēng)險(xiǎn)

隨著算法決策在自動(dòng)化行政中的擴(kuò)張性應(yīng)用，更因其具有不可徹底解決的“自身弊端”，自動(dòng)化行政中算法決策應(yīng)用的特殊風(fēng)險(xiǎn)正逐層顯露。

(一)算法決策與正當(dāng)程序原則的沖突性

算法決策的“黑箱”性特點(diǎn)致使算法決策與正當(dāng)程序原則相沖突。算法決策的分析過(guò)程是一密閉的“黑箱”性操作，其決策結(jié)果并不能被直觀解釋，當(dāng)然也就不能作為司法、行政部門行動(dòng)理由基礎(chǔ)的因果解釋。[2](P.1167)按照行政正當(dāng)程序基本原則要求，行政機(jī)關(guān)作出任何行政行為，特別是作出對(duì)行政相對(duì)人不利的行政行為，除非有法定保密的要求，都必須說(shuō)明理由；同時(shí)，還必須聽(tīng)取相對(duì)人的陳述和申辯。[9](P.74-76)正當(dāng)程序原則在增強(qiáng)公權(quán)力機(jī)關(guān)可問(wèn)責(zé)性的同時(shí)，還必須保護(hù)公民的知情權(quán)，保障決策結(jié)果的公平性，保護(hù)公民免遭專權(quán)獨(dú)斷。[10](P.22)

然而，自動(dòng)化行政中的算法決策是通過(guò)算法內(nèi)部自主分析迅速完成的，且整個(gè)決策過(guò)程又是封閉的，行政相對(duì)人對(duì)此全無(wú)直觀感受，因而無(wú)法直接參與算法決策系統(tǒng)的內(nèi)在決策流程，更無(wú)機(jī)會(huì)要求行政主體說(shuō)明理由，并聽(tīng)取相對(duì)人的陳述和申辯。例如，技術(shù)公司接受行政機(jī)關(guān)委托，運(yùn)用算法決策技術(shù)開(kāi)發(fā)健康碼，健康碼的生成過(guò)程自然就是不透明的。并且，實(shí)踐中健康碼的評(píng)級(jí)結(jié)果還存在一定程度的偏差，亦因算法決策并不透明，信息申報(bào)人對(duì)決策過(guò)程也根本無(wú)從知曉，自然地，在申述中也就無(wú)從進(jìn)行陳述、作出申辯。[11](P.30)

(二)算法決策與行政公正原則的背離性

算法決策輔助自動(dòng)化行政，其全自動(dòng)地高速處理自是大幅降低成本而提高行政效率，但也致使行政行為趨于模塊化或程式化。[7](P.176)如此“一刀切”的程式化行為方式嚴(yán)重忽略個(gè)案情景的因應(yīng)考量，勢(shì)必有違行政公正原則，以致作出不公正決策而最終導(dǎo)致個(gè)案正義受損。

例如，在“聲吶電子眼”等交通抓拍系統(tǒng)場(chǎng)景下，行政相對(duì)人恰巧是醫(yī)護(hù)急救車等而超速、鳴笛等特殊情狀，現(xiàn)有技術(shù)無(wú)法自主識(shí)別救護(hù)車輛或是普通私用車輛，仍按照系統(tǒng)進(jìn)行常規(guī)化的處理。但事實(shí)上，諸如人類的同理心等特征，是完全可以幫助決策者做出更合理、也更令人信服的結(jié)果。盡管這些結(jié)果可能與可預(yù)測(cè)的算法決策結(jié)果有所偏離，但該等人類特征目前實(shí)難被編程于算法決策系統(tǒng)中。[12](P.1785)遇此情狀，如果行政主體缺乏個(gè)案情景考量，過(guò)度依賴算法決策結(jié)果，必然導(dǎo)致執(zhí)法不公。又如，行政機(jī)關(guān)運(yùn)用算法決策對(duì)行政相對(duì)人進(jìn)行社會(huì)信用評(píng)級(jí)時(shí)，往往將相對(duì)人某一領(lǐng)域的失信記錄納入另一個(gè)完全不同的領(lǐng)域，并以此作為基礎(chǔ)數(shù)據(jù)作出最終評(píng)級(jí)結(jié)果。但是，不同領(lǐng)域的信用記錄是否可以互相作為信用評(píng)判的基礎(chǔ)本身就存在爭(zhēng)議，因?yàn)椴⒎撬嘘P(guān)于相對(duì)人生活場(chǎng)景的數(shù)據(jù)都具有分析價(jià)值、對(duì)個(gè)人信用評(píng)估都具有意義。[13](P.86)所以，如果行政主體過(guò)度依賴這種評(píng)級(jí)結(jié)果，將無(wú)可避免地背離行政公正原則，產(chǎn)生評(píng)級(jí)錯(cuò)誤等問(wèn)題。

(三)算法決策干擾行政決策的準(zhǔn)確性

算法決策技術(shù)的應(yīng)用在一定程度上會(huì)干擾行政決策的準(zhǔn)確性。一如前述，美國(guó)小城雷丁適用的犯罪預(yù)測(cè)軟件，重點(diǎn)數(shù)據(jù)的基礎(chǔ)是地理位置，且以詳細(xì)輸入每一次犯罪的類型、時(shí)間與地點(diǎn)為主要的數(shù)據(jù)收集與選擇。看似客觀、合理，但該軟件的適用終歸依賴警方的最后決定與選擇，即：“只關(guān)注第一類犯罪(暴力犯罪、殺人、縱火、人身侵犯等)——該等犯罪通常必須要被警方記錄在案”；還是“需同時(shí)關(guān)注第二類犯罪(輕微犯罪、流浪、酗酒、侵犯型乞討等)——如果警察不在現(xiàn)場(chǎng)，此等犯罪通常不會(huì)被記錄在案”。必須指出的是，后者之輕微犯罪等情形在貧困地區(qū)十分常見(jiàn)。倘若PredPol的預(yù)測(cè)軟件已然囊括第二類輕微犯罪數(shù)據(jù)，結(jié)果必將出現(xiàn)巨大偏差。一旦選擇輕微犯罪數(shù)據(jù)作為分析指標(biāo)，就會(huì)輕易得出“貧困地區(qū)是最有可能發(fā)生犯罪的地點(diǎn)”的輕率結(jié)論；如此，更多警力被安排進(jìn)貧困地區(qū)，警察在該地域就又獲得更多的輕微犯罪人在案記錄，相應(yīng)地犯罪預(yù)測(cè)模型中也將會(huì)出現(xiàn)越來(lái)越多的輕微犯罪數(shù)據(jù)，而更多警力將被再次派駐于輕微犯罪高發(fā)的貧困地區(qū)。[5](P.93-94)如此，惡性循環(huán)的周而復(fù)始，怎可能有針對(duì)性的準(zhǔn)確行政決策。

經(jīng)過(guò)研究得知:觀察組中護(hù)理滿意度,空腹血糖,餐后兩小時(shí)血糖指標(biāo)大小分別(96.09±2.00)分、(4.16±0.13)mmol/l以及(6.20±1.11)mmol/l,所有數(shù)據(jù)均顯著優(yōu)于對(duì)照組,兩組結(jié)果對(duì)比具有統(tǒng)計(jì)學(xué)意義。如表1所示:

(四)自動(dòng)化行政中算法決策的泛化性

算法決策作為大數(shù)據(jù)時(shí)代的一項(xiàng)新興技術(shù)，不能應(yīng)用于自動(dòng)化行政的所有外部場(chǎng)景，如果行政機(jī)關(guān)肆意應(yīng)用算法決策，必將導(dǎo)致算法決策在自動(dòng)化行政中的泛化或?yàn)E用。如此，當(dāng)外部場(chǎng)景的自身?xiàng)l件不符合算法決策的實(shí)際應(yīng)用要求時(shí)，該等完全取代人為決策的算法決策最終必定產(chǎn)出不準(zhǔn)確、甚或是不公平的決策結(jié)果。

美國(guó)波士頓Street Bump應(yīng)用軟件解決城市道路坑洼仍是最好例證：實(shí)踐中，該軟件算法決策系統(tǒng)的數(shù)據(jù)表明，常常是富裕地區(qū)顛簸程度反而高于貧窮地區(qū)，以此作為依據(jù)而建議市政資源向富裕地區(qū)傾斜。但實(shí)際上，大量的、急需被修復(fù)的道路多聚集于貧困區(qū)域。導(dǎo)致這一偏差的原因其實(shí)很簡(jiǎn)單，惟因富裕地區(qū)居民的智能手機(jī)數(shù)量及其運(yùn)動(dòng)感應(yīng)程序的配置度遠(yuǎn)高于貧困區(qū)域的相應(yīng)配置。[1](P.158)但波士頓政府恰恰忽略了這一關(guān)鍵的基礎(chǔ)性要素——智能手機(jī)本身的擇用就存在嚴(yán)重偏差。所以，該種外部場(chǎng)景并不滿足Street Bump軟件進(jìn)行算法決策的內(nèi)部要求，而波士頓政府不加選擇的應(yīng)用即是算法決策于自動(dòng)化行政中泛化應(yīng)用的風(fēng)險(xiǎn)例證。

(五)算法決策對(duì)行政裁量能動(dòng)的削弱性

誠(chéng)如上述，如果任由自動(dòng)化行政中算法決策的肆意泛化應(yīng)用，算法決策完全有可能取代人為決策而令算法權(quán)力深度嵌入公權(quán)力，以致逐漸削弱、甚至徹底吞噬行政裁量的能動(dòng)性。原本算法決策僅以工具屬性輔助自動(dòng)化行政，但行政主體卻因?qū)χ疅o(wú)條件的依賴，促使其不加質(zhì)疑的直接應(yīng)用決策結(jié)果作出行政決定；加之算法決策的自身特性與機(jī)器優(yōu)勢(shì)，算法決策亦正逐漸突破工具屬性而進(jìn)行著實(shí)質(zhì)性的資源調(diào)配、作出決策等行為。同時(shí)，隨著算法生態(tài)環(huán)境的搭建，算法必將勝任更復(fù)雜的行政行為，并使公民身份最大可能的數(shù)據(jù)化和動(dòng)態(tài)化，進(jìn)而逐步削弱行政機(jī)關(guān)在該決策領(lǐng)域的地位，甚至凌駕、取代行政機(jī)關(guān)的主體地位。[14](P.69-70)

當(dāng)然，行政機(jī)關(guān)還具有行政裁量權(quán)。即在其職權(quán)范圍內(nèi)，可以基于法理或事理對(duì)具體事件進(jìn)行酌量處理。如行政處罰：在傳統(tǒng)行政中，行政機(jī)關(guān)可在法定的處罰幅度內(nèi)自由選擇，不僅是處罰種類的自由選擇，還包括該種類下處罰強(qiáng)度的自由選擇。但在自動(dòng)化行政中，借助算法決策輔助行政處罰，將無(wú)法及時(shí)有效地發(fā)揮行政主體行政裁量權(quán)的作用，更遑論個(gè)案情景的充分考量。因此，如果對(duì)算法決策在自動(dòng)化行政中的應(yīng)用不加以有效的限制與監(jiān)管，其將完全取代人為決策而導(dǎo)致算法權(quán)力深度嵌入公權(quán)力，逐漸削弱行政裁量的能動(dòng)性。

三、自動(dòng)化行政中算法決策風(fēng)險(xiǎn)的成因?qū)徦?/h2>

為最大限度地防范、規(guī)避算法決策在自動(dòng)化行政中顯露的上述五大特殊風(fēng)險(xiǎn)，首先必須要對(duì)風(fēng)險(xiǎn)背后的原因進(jìn)行深度解析。基于此，不僅能從源頭上盡可能地進(jìn)行風(fēng)險(xiǎn)防范或規(guī)避，更能在風(fēng)險(xiǎn)來(lái)臨時(shí)盡可能的降低風(fēng)險(xiǎn)、甚至解決風(fēng)險(xiǎn)帶來(lái)的各種問(wèn)題。下述即從風(fēng)險(xiǎn)成因的客觀方面與主觀方面展開(kāi)論述：

(一)算法決策原生的“黑箱”性與極速性

算法決策原生內(nèi)在的“黑箱”性操作特征，外在表現(xiàn)為自動(dòng)化行政中的行政決策過(guò)程是通過(guò)算法內(nèi)在的自主分析而快速做出的，行政相對(duì)人對(duì)此全無(wú)直觀感受。因此，算法決策分析的結(jié)果自是無(wú)法被直觀地解釋，當(dāng)然也就不能作為司法、行政部門行動(dòng)理由基礎(chǔ)的因果解釋。[2](P.1167)而且，自動(dòng)化行政中算法決策應(yīng)用主要是公私合作模式，即行政主體委托技術(shù)公司研發(fā)、完成算法決策系統(tǒng)，且大部分行政主體對(duì)系統(tǒng)內(nèi)部運(yùn)作機(jī)理幾近一無(wú)所知。面對(duì)這一強(qiáng)技術(shù)性的操作系統(tǒng)，即使行政主體通過(guò)技術(shù)公司對(duì)行政相對(duì)人充分解釋決策理由，但若非專業(yè)技術(shù)人員，實(shí)是難以理解。因此，也就根本無(wú)法達(dá)到正當(dāng)程序原則所要求的“說(shuō)明理由”這一事項(xiàng)的要求與目的。

同時(shí)，在算法決策的“黑箱”性特征導(dǎo)致的不透明性障礙之外，又因算法決策系統(tǒng)的運(yùn)行過(guò)程、決策結(jié)果產(chǎn)生的極速性，可以縮短、甚至跳過(guò)人類思考的時(shí)間，令行政相對(duì)人根本無(wú)法及時(shí)的作出反應(yīng)，更別說(shuō)能進(jìn)行準(zhǔn)確、有效地陳述和申辯。如此，不僅嚴(yán)重危及程序正義，并且，在這種不透明與極速性的決策系統(tǒng)下很可能導(dǎo)致作出不公平的、甚至是錯(cuò)誤的行政決策結(jié)果，也勢(shì)必遭致行政相對(duì)人合法權(quán)益受損之虞。算法黑箱，尤其是其導(dǎo)致的算法社會(huì)，使得算法的擁有者手握巨大的算法權(quán)力，且這是一種準(zhǔn)國(guó)家權(quán)力的權(quán)力。[15](P.11)如果自動(dòng)化行政中算法決策過(guò)程不受正當(dāng)程序原則約束，則該權(quán)力極有可能會(huì)被濫用，從而侵犯行政相對(duì)人的知情權(quán)、平等權(quán)等合法權(quán)益。

(二)數(shù)據(jù)流轉(zhuǎn)環(huán)節(jié)疏漏的數(shù)據(jù)質(zhì)量瑕疵

數(shù)據(jù)收集、選擇與處理通常是數(shù)據(jù)流轉(zhuǎn)的基本環(huán)節(jié)，也是算法決策在自動(dòng)化行政中的應(yīng)用基礎(chǔ)。任一環(huán)節(jié)疏漏的數(shù)據(jù)質(zhì)量瑕疵，必然影響行政決策的準(zhǔn)確性；并且，算法決策作為一項(xiàng)技術(shù)也不可避免會(huì)出現(xiàn)漏洞。因而，數(shù)據(jù)收集、選擇與處理環(huán)節(jié)的數(shù)據(jù)質(zhì)量瑕疵即是干擾行政決策準(zhǔn)確性的基礎(chǔ)性原因。

這里的數(shù)據(jù)質(zhì)量瑕疵區(qū)別于行政主體自身操作失誤因素，主要是指客觀上存在數(shù)據(jù)質(zhì)量瑕疵。如，以健康碼的實(shí)踐為例，健康碼的生成依賴兩部分?jǐn)?shù)據(jù)——申請(qǐng)人個(gè)人自主填寫(xiě)的數(shù)據(jù)與行政機(jī)關(guān)掌握的公共數(shù)據(jù)。個(gè)人填寫(xiě)部分包括申請(qǐng)人的行蹤軌跡和健康狀況，若申請(qǐng)人故意隱瞞行程和病情，則該部分?jǐn)?shù)據(jù)失真無(wú)效，必定導(dǎo)致健康碼的輸出也不準(zhǔn)確。[11](P.30)另外，技術(shù)公司開(kāi)發(fā)健康碼，將被授權(quán)接入公共數(shù)據(jù)，鑒于數(shù)據(jù)掌控主體之間普遍存在的數(shù)據(jù)壁壘，數(shù)據(jù)共享并不理想，后臺(tái)數(shù)據(jù)的完整性并無(wú)完全保障。[11](P.30)同理，行政機(jī)關(guān)掌握的公共數(shù)據(jù)準(zhǔn)確性同樣不能確保?；跀?shù)據(jù)輸入錯(cuò)誤而作出的算法決策，必然影響最終行政決策的準(zhǔn)確性。

(三)自動(dòng)化行政與算法決策的相關(guān)制度規(guī)范缺失

2016年11月，我國(guó)頒行《網(wǎng)絡(luò)安全法》，隨即又發(fā)布《國(guó)家信息化發(fā)展戰(zhàn)略綱要》《新一代人工智能發(fā)展規(guī)劃》(以下簡(jiǎn)稱《發(fā)展規(guī)劃》)等戰(zhàn)略規(guī)劃文件。但是，有關(guān)算法決策在自動(dòng)化行政中應(yīng)用的專門性法律、法規(guī)卻寥寥無(wú)幾，僅在《發(fā)展規(guī)劃》有所提及安全便捷的智能社會(huì)建設(shè)。③此后，盡管地方各級(jí)政府也有智能政務(wù)的相關(guān)地方性文件出臺(tái)，但均未對(duì)人工智能與政務(wù)結(jié)合的具體場(chǎng)景做出細(xì)致說(shuō)明；在行政決策方面，更未有算法決策應(yīng)用的詳細(xì)規(guī)定。如，在深圳、安徽、廣西等關(guān)于智能審批的地方性文件規(guī)定中，也僅籠統(tǒng)強(qiáng)調(diào)推行“無(wú)人干預(yù)自動(dòng)審批”或“不見(jiàn)面審批”等舉措。④由此可見(jiàn)，自動(dòng)化行政與算法決策相關(guān)制度規(guī)范存在極大地缺失。

反觀域外，美、德等國(guó)關(guān)于算法決策的相關(guān)制度規(guī)范的制定已經(jīng)走在了前端。1970年與1974年，美國(guó)分別頒布《公平信用報(bào)告法》(FCRA)與《平等信用機(jī)會(huì)法》(ECOA)，就信用評(píng)分領(lǐng)域的自動(dòng)化決策進(jìn)行立法規(guī)制。[16](P.16)2017 年，德國(guó)在《行政程序法》中引入“全自動(dòng)作出的具體行政行為”概念，并進(jìn)行若干法條的匹配修改；[7](P.170)又通過(guò)《稅收條例》的制定為稅法領(lǐng)域的完全自動(dòng)化奠定規(guī)范基礎(chǔ)。[17](P.1)2018年，歐盟又正式出臺(tái)《通用數(shù)據(jù)保護(hù)條例》(GDPR)，當(dāng)中第22條即是有關(guān)自動(dòng)化決策的專門規(guī)定。⑤顯然，適逢大數(shù)據(jù)時(shí)代，為有效解決算法決策于自動(dòng)化行政應(yīng)用場(chǎng)景中的特殊風(fēng)險(xiǎn)，相應(yīng)的制度規(guī)范自刻不容緩。

(四)行政主體對(duì)算法決策的不當(dāng)操作與過(guò)度依賴

上述三大成因是擇從客觀層面的分析與論證，而行政主體對(duì)算法決策的不當(dāng)操作和過(guò)度依賴是遭致前述五大特殊風(fēng)險(xiǎn)的主觀層面成因。

就行政主體的不當(dāng)操作成因論，緣因算法決策作為大數(shù)據(jù)時(shí)代的一項(xiàng)新強(qiáng)技術(shù)，在實(shí)際的具體應(yīng)用中，必須配備以大量的高科技專業(yè)技術(shù)人員，才能進(jìn)行正確的操作與有效的駕馭。但是，在應(yīng)用算法決策的自動(dòng)化行政實(shí)踐中，卻是由非專業(yè)技術(shù)類的行政機(jī)關(guān)工作人員完成實(shí)際的具體操作；面對(duì)高強(qiáng)技術(shù)性決策系統(tǒng)，行政主體極易因操作不當(dāng)或失誤，影響行政決策最終結(jié)果的準(zhǔn)確性。究其原因，正如前述，緣因我國(guó)自動(dòng)化行政中的算法決策應(yīng)用，所有決策系統(tǒng)的研發(fā)與完成皆是由行政機(jī)關(guān)委托技術(shù)主體完成，即實(shí)行的是行政機(jī)關(guān)與技術(shù)主體的公私合作模式。所以，在算法決策的相關(guān)技術(shù)方面，行政機(jī)關(guān)必然、且將長(zhǎng)期依賴系統(tǒng)研發(fā)的技術(shù)主體，而行政主體的不當(dāng)或失誤操作也將客觀、長(zhǎng)期的存在。

又以行政主體過(guò)度依賴算法決策之成因分析，正因算法決策于自動(dòng)化行政中的推廣應(yīng)用，不僅大幅降低成本，且又極大地提高行政效率。如此明顯優(yōu)勢(shì)利導(dǎo)著行政主體大肆應(yīng)用算法決策而產(chǎn)生過(guò)度依賴，甚至無(wú)條件信任算法決策并促令其直接使用決策結(jié)果于各類行政決定之中，如此“一刀切”的盲目信賴與過(guò)度依賴，只謀圖高效率，完全無(wú)視效益與準(zhǔn)確率，更全然無(wú)視個(gè)案或特殊情形的考量。同時(shí)，必須指出的是，決策系統(tǒng)也因行政主體的過(guò)度依賴而反向促使算法本身形成一種固定式、模塊化的決策模式。如此，行政主體若仍保持信任、毫無(wú)質(zhì)疑，勢(shì)必侵蝕行政主體自身的獨(dú)立判斷能力，最終導(dǎo)致決策結(jié)果的準(zhǔn)確性存疑。

一如上述，基于客觀成因與主觀成因之標(biāo)準(zhǔn)劃分，不管是算法決策原生的“黑箱”性與極速性、數(shù)據(jù)流轉(zhuǎn)環(huán)節(jié)疏漏的數(shù)據(jù)質(zhì)量瑕疵以及有關(guān)自動(dòng)化行政與算法決策的相應(yīng)制度規(guī)范缺失等客觀原因，還是因行政主體對(duì)算法決策的不當(dāng)、或失誤操作及其過(guò)度依賴決策系統(tǒng)等主觀成因，都深刻揭示了自動(dòng)化行政中算法決策的特殊風(fēng)險(xiǎn)并非偶然；且也為下文提出的該等特殊風(fēng)險(xiǎn)防范或規(guī)避的因應(yīng)性路徑夯實(shí)基礎(chǔ)。

四、自動(dòng)化行政中算法決策應(yīng)用風(fēng)險(xiǎn)的防范路徑

有學(xué)者提出，數(shù)字行政法是社會(huì)信用體系等法治化的新路徑，在未來(lái)也將成為大數(shù)據(jù)時(shí)代法治建設(shè)領(lǐng)域全新的行政法學(xué)科分支。[6](P.47)為促進(jìn)算法決策優(yōu)勢(shì)在自動(dòng)化行政中的可持續(xù)發(fā)展，基于創(chuàng)新一定不能打破規(guī)則和安全的態(tài)度，在建構(gòu)自動(dòng)化行政中算法決策應(yīng)用的專門性法律框架下，至少可以在地位厘定、立法明定與程序控制等方面對(duì)自動(dòng)化行政中算法決策的特殊風(fēng)險(xiǎn)予以防范或規(guī)避。

(一)地位厘定：主體地位與工具屬性

誠(chéng)如前述，算法決策正在、且將來(lái)更有可能直接取代人為決策而令算法權(quán)力深度嵌入公權(quán)力，甚至于突破其工具屬性而凌駕、取代行政機(jī)關(guān)的主體地位。因而，在自動(dòng)化行政中，首要的就是必須重申、堅(jiān)持行政機(jī)關(guān)的主體性地位，而算法決策僅是具有起輔助作用的工具屬性罷了。

1. 堅(jiān)定行政機(jī)關(guān)的主體地位

人工智能是人類創(chuàng)造的高度自動(dòng)化、智能化的工具，無(wú)論其怎樣發(fā)展，但終非人類。任一算法決策運(yùn)行背后，仍是行政機(jī)關(guān)通過(guò)專業(yè)技術(shù)人員進(jìn)行著系統(tǒng)的操控和應(yīng)用。同時(shí)，囿于當(dāng)下的計(jì)算機(jī)技術(shù)水平，仍無(wú)法將同理心、道德感、意志等人類獨(dú)有的特征進(jìn)行編碼轉(zhuǎn)換至算法決策中。因此，占據(jù)主體地位的只能是具有同理心、道德感、意志等人類特征、能夠做出個(gè)案情景判斷的行政機(jī)關(guān)(行政主體)。質(zhì)言之，重申并堅(jiān)定行政機(jī)關(guān)的主體地位，不僅能夠防范模塊化的決策系統(tǒng)掌握控制權(quán)，且在特殊個(gè)案的情景下，最大限度地避免其對(duì)行政相對(duì)人的合法權(quán)益造成侵害；進(jìn)而，有效抑制算法決策完全取代人為決策，預(yù)防算法權(quán)力深度嵌入公權(quán)力而致使行政裁量權(quán)被削弱。

2.明確算法決策的工具屬性

作為人類創(chuàng)造的高度自動(dòng)化、智能化的工具，人工智能本身并沒(méi)有自己的意志，只具有工具屬性。[18](P.48)同樣地，自動(dòng)化行政中的算法決策也僅具有工具屬性，其功能就是輔助行政機(jī)關(guān)作出決策，且其輔助形式亦因自動(dòng)化行政的不同級(jí)別而呈現(xiàn)出多樣化態(tài)勢(shì)。如，在部分自動(dòng)化行政中，算法決策通過(guò)完成數(shù)據(jù)識(shí)別與分析得出初步結(jié)論，以此輔助行政主體做出決策；在無(wú)裁量能力的完全自動(dòng)化行政中，算法決策系統(tǒng)可以獨(dú)立對(duì)不需要裁量的行政活動(dòng)實(shí)施全程化處理，即算法決策直觀上取代人為決策。但是，無(wú)論直觀上算法決策是輔助人為決策，亦或是有限度地取代人為決策，都無(wú)法掩蓋其工具屬性。

(二)立法明定：應(yīng)用場(chǎng)景與系統(tǒng)預(yù)審

公共利益是所有行政活動(dòng)的理由和界限所在，也是行政機(jī)關(guān)追求的大眾福祉與個(gè)人追求的私人福祉區(qū)別所在。[19](P.83)為更好地協(xié)調(diào)二者利益關(guān)系，須以立法明定自動(dòng)化行政中算法決策的具體應(yīng)用場(chǎng)景，且同時(shí)還須按比例原則完成決策系統(tǒng)的提前預(yù)審。

1. 明確算法決策的應(yīng)用場(chǎng)景

盡管算法決策已然成功應(yīng)用于部分自動(dòng)化行政、無(wú)裁量能力的完全自動(dòng)化行政和有裁量能力的完全自動(dòng)化行政，但同時(shí)也表明，算法決策絕非可任意應(yīng)用于自動(dòng)化行政的所有場(chǎng)景。

德國(guó)行政程序法對(duì)完全自動(dòng)化行政的適用明確提出其兩個(gè)限定性條件：(1)法律保留，即僅限定于法律法規(guī)允許時(shí)方可適用；(2)行政機(jī)關(guān)不存在裁量或判斷余地時(shí)方可適用。[4](P.89)這于明確我國(guó)算法決策在自動(dòng)化行政中的應(yīng)用場(chǎng)景具借鑒意義。于法律保留，立法者應(yīng)當(dāng)提供原則性指引，而非面面俱到的干預(yù)，如在授益行為和不涉及當(dāng)事人重大利益等事項(xiàng)上，法律可以對(duì)算法決策在自動(dòng)化行政中的應(yīng)用給予概括性的授權(quán)，釋放創(chuàng)新空間。[4](P.89)又如，算法決策在自動(dòng)化行政中應(yīng)當(dāng)適用于事實(shí)清楚，又易數(shù)據(jù)化、類別化等事項(xiàng)。對(duì)于情況較為復(fù)雜，尤其切關(guān)人身權(quán)益、住宅等建筑物拆除令等行政決定不可逆的場(chǎng)景中，行政機(jī)關(guān)應(yīng)當(dāng)謹(jǐn)慎應(yīng)用算法決策。[17](P.13)

2. 完成決策系統(tǒng)的提前預(yù)審

事先運(yùn)用比例原則對(duì)算法決策系統(tǒng)進(jìn)行提前的預(yù)審與測(cè)試，是合理評(píng)估算法決策系統(tǒng)是否適合應(yīng)用于某項(xiàng)具體的自動(dòng)化行政的有效舉措。

算法決策系統(tǒng)的預(yù)審，具言之，即分別進(jìn)行適應(yīng)性判斷、均衡性判斷和必要性判斷。[20](P.112)(1)適應(yīng)性判斷。判斷算法決策系統(tǒng)的設(shè)計(jì)是否能夠合理、合法地運(yùn)行，且其對(duì)數(shù)據(jù)的收集、選擇和處理是否能夠最大限度地減少數(shù)據(jù)質(zhì)量瑕疵。(2)均衡性判斷。判斷決策系統(tǒng)對(duì)數(shù)據(jù)的實(shí)際應(yīng)用是否產(chǎn)生歧視性決策等消極影響，并比較其可能帶來(lái)的積極與消極影響，只有確認(rèn)積極影響明顯高于消極影響時(shí)才可通過(guò)均衡性判斷。(3)必要性判斷。行政機(jī)關(guān)應(yīng)當(dāng)選擇產(chǎn)生消極影響最小的算法決策系統(tǒng)，最大限度地降低技術(shù)的不確定性和數(shù)據(jù)質(zhì)量瑕疵，以保障決策結(jié)果的最大可靠性。自動(dòng)化行政領(lǐng)域，決策結(jié)果可能會(huì)致使行政相對(duì)人的人身權(quán)益和財(cái)產(chǎn)權(quán)益發(fā)生重大變化，所以，有且只能采用技術(shù)不確定性最低、數(shù)據(jù)質(zhì)量瑕疵最小的算法決策系統(tǒng)。質(zhì)言之，惟同時(shí)滿足上述三者判斷的算法決策系統(tǒng)才可通過(guò)預(yù)審并投入實(shí)踐應(yīng)用。

(三)程序控制：解釋責(zé)任與權(quán)利救濟(jì)

一如前述，自動(dòng)化行政中的算法決策應(yīng)用，應(yīng)然接受正當(dāng)程序原則的約束，即在法定程序的控制下進(jìn)行算法決策的應(yīng)用。但是，鑒于算法決策的新強(qiáng)技術(shù)特征，我們應(yīng)與時(shí)俱進(jìn)賦予正當(dāng)程序原則以新的要求與內(nèi)容。

1. 說(shuō)明理由——督進(jìn)行政主體的算法解釋責(zé)任

督進(jìn)行政主體的算法解釋責(zé)任，并非要求行政主體對(duì)算法決策的技術(shù)細(xì)節(jié)進(jìn)行解釋，只要求當(dāng)行政相對(duì)人存在異議時(shí)，行政主體通過(guò)保留解釋能力對(duì)個(gè)案進(jìn)行事后監(jiān)督。[3](P.144-145)即對(duì)算法決策的輸入端和輸出端進(jìn)行事后檢查。

(1)輸入端。如果算法決策系統(tǒng)輸入端的數(shù)據(jù)本身存有瑕疵，那么決策結(jié)果必將存疑。如果行政相對(duì)人就此提出質(zhì)疑，行政主體必須通過(guò)事后檢查進(jìn)行監(jiān)督。在社會(huì)信用體系評(píng)級(jí)中，并非所有關(guān)于相對(duì)人生活場(chǎng)景的數(shù)據(jù)都對(duì)個(gè)人信用評(píng)估有意義，如果相對(duì)人質(zhì)疑其某一領(lǐng)域的信用評(píng)級(jí)，那么就可要求行政主體對(duì)輸入端中作為評(píng)級(jí)基礎(chǔ)的數(shù)據(jù)進(jìn)行解釋與理由說(shuō)明。

(2)輸出端。陳景輝學(xué)者認(rèn)為，只要程序的輸出結(jié)果是單一性的，那么就能反向推斷，這樣的做法違反了正當(dāng)程序或者程序正義的要求，因此就有了要求該算法決策做出改變的正當(dāng)理由。[15](P.13)如在某一項(xiàng)算法決策系統(tǒng)中，如果輸入端數(shù)據(jù)在多次修正后，輸出端得出的結(jié)果依舊一樣，就須考慮決策系統(tǒng)內(nèi)部故障、或決策系統(tǒng)程序本身是否出現(xiàn)問(wèn)題。如此，就必須要求技術(shù)人員及時(shí)進(jìn)行修復(fù)。

2. 聽(tīng)取陳述和申辯——完善行政相對(duì)人的權(quán)利救濟(jì)

因算法決策的“黑箱”性與極速性，當(dāng)事人幾近全無(wú)陳述或申辯的機(jī)會(huì)。所以，行政相對(duì)人的相應(yīng)救濟(jì)權(quán)必須盡速得到完善。

歐盟《通用數(shù)據(jù)保護(hù)條例》第22條第1款規(guī)定，除例外情形，數(shù)據(jù)主體有權(quán)反對(duì)自動(dòng)化決策。⑤德國(guó)在自動(dòng)稅收程序中實(shí)施特殊的保護(hù)機(jī)制，即風(fēng)險(xiǎn)管理系統(tǒng)。該系統(tǒng)的目的即在于確保重大風(fēng)險(xiǎn)案件仍然可以由人為決定，只是在沒(méi)有重大問(wèn)題情況下，自動(dòng)化系統(tǒng)才可以發(fā)揮作用。[17](P.8-9)這一特殊保護(hù)機(jī)制賦予納稅人由算法決策轉(zhuǎn)為人為決策的可能性，某種程度上也是對(duì)行政相對(duì)人權(quán)利救濟(jì)的擴(kuò)張。此外，按照學(xué)者查云飛的觀點(diǎn)，全自動(dòng)行政應(yīng)至少保障行政相對(duì)人對(duì)全自動(dòng)程序的知情權(quán)、選擇權(quán)與要求人工介入等權(quán)利；并且，在法定情形下，行政機(jī)關(guān)還應(yīng)當(dāng)恪守主動(dòng)中斷自動(dòng)程序的義務(wù)。[7](P.177)

可見(jiàn)，實(shí)踐中已有上述例證關(guān)于自動(dòng)化行政中行政相對(duì)人救濟(jì)權(quán)的相關(guān)規(guī)定；由此印證——在保障行政相對(duì)人對(duì)算法決策知情權(quán)的基礎(chǔ)上，賦予行政相對(duì)人于重大事項(xiàng)、且符合正當(dāng)性規(guī)定的情況下，要求人工介入決策、中斷算法決策的救濟(jì)性權(quán)利成為可能。

結(jié) 語(yǔ)

我國(guó)《行政處罰法》修訂草案新增第38條⑥就此命題曾努力嘗試進(jìn)行規(guī)定，但除卻涉關(guān)算法決策應(yīng)用之“電子技術(shù)監(jiān)控設(shè)備”這一專業(yè)語(yǔ)詞外，并未就該等算法決策系統(tǒng)應(yīng)用設(shè)備的大數(shù)據(jù)支撐、如何設(shè)置及其具體設(shè)置標(biāo)準(zhǔn)等進(jìn)行詳細(xì)規(guī)定，更無(wú)只字提及風(fēng)險(xiǎn)防范。而我們也深知，大數(shù)據(jù)只有在為人類所掌控時(shí)才是好的數(shù)學(xué)工具，尤其在自動(dòng)化行政領(lǐng)域，我們必須重申并堅(jiān)定行政機(jī)關(guān)的主體地位、明確算法決策的工具屬性。同時(shí)，通過(guò)立法規(guī)制，嚴(yán)格限定算法決策在自動(dòng)化行政中的具體應(yīng)用場(chǎng)景，并運(yùn)用比例原則進(jìn)行決策系統(tǒng)預(yù)審，明晰算法決策系統(tǒng)合格標(biāo)準(zhǔn)，絕不能因盲求效率而放棄更為重要的公平與公正價(jià)值。當(dāng)然，在強(qiáng)調(diào)合法程序控制的意義下，應(yīng)發(fā)展性地賦予傳統(tǒng)行政法之正當(dāng)程序原則以新的內(nèi)容與要求，督進(jìn)行政主體算法解釋的義務(wù)與責(zé)任，且更須竭盡完善行政相對(duì)人的相應(yīng)救濟(jì)權(quán)。因?yàn)椋诳梢灶A(yù)測(cè)的未來(lái)，算法功能定是愈來(lái)愈趨強(qiáng)大，而人類只有不斷地審視人工智能新技術(shù)的發(fā)展，并不斷增強(qiáng)自身防御和應(yīng)對(duì)風(fēng)險(xiǎn)的能力，才能夠在新技術(shù)到來(lái)時(shí)從容面對(duì)算法決策可能產(chǎn)生的新風(fēng)險(xiǎn)，最大限度地確保并激發(fā)算法決策的優(yōu)勢(shì)，促進(jìn)自動(dòng)化行政中算法決策的可持續(xù)發(fā)展。

注釋：

①參見(jiàn)《“聲吶電子警察”在杭州上崗！》，《杭州日?qǐng)?bào)》2018年7月12日，第8版。

②參見(jiàn)《深圳市人民政府辦公廳關(guān)于印發(fā)深圳市普通高校應(yīng)屆畢業(yè)生引進(jìn)和落戶 “秒批” (無(wú)人干預(yù)自動(dòng)審批) 工作方案的通知》(深府辦函〔2018〕109 號(hào))。

③國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》第三章第三節(jié)第2條。

④《安徽省人民政府辦公廳關(guān)于印發(fā)進(jìn)一步深化“互聯(lián)網(wǎng)+政務(wù)服務(wù)”推進(jìn)政務(wù)服務(wù)“一網(wǎng)、一門、一次”改革行動(dòng)方案的通知》(皖政辦〔2018〕31號(hào))；《廣西壯族自治區(qū)人民政府辦公廳關(guān)于印發(fā)進(jìn)一步深化“互聯(lián)網(wǎng)+政務(wù)服務(wù)”推進(jìn)政務(wù)服務(wù)“一網(wǎng)、一門、一次”改革專項(xiàng)行動(dòng)實(shí)施方案的通知》(桂政辦發(fā)〔2018〕145號(hào))。

⑤參見(jiàn)《通用數(shù)據(jù)保護(hù)條例》第22條第1款。

⑥我國(guó)《行政處罰法》修訂草案新增第38條第1款。