自動(dòng)化行政給付的算法風(fēng)險(xiǎn)及其法律規(guī)制

摘要：算法與行政給付的深度融合是行政給付數(shù)字化轉(zhuǎn)型的關(guān)鍵因素。自動(dòng)化行政給付不僅重塑了申請(qǐng)受理的運(yùn)行方式，也實(shí)現(xiàn)了給付事項(xiàng)的智能處理。然而，自動(dòng)化行政給付的過程也帶來算法歧視或偏見、算法權(quán)力、信息繭房等新型風(fēng)險(xiǎn)，影響自動(dòng)化行政給付的效能發(fā)揮。因此，規(guī)制自動(dòng)化行政給付的算法風(fēng)險(xiǎn)顯得尤為必要。在宏觀上，應(yīng)明晰自動(dòng)化行政給付算法風(fēng)險(xiǎn)的法律規(guī)制向度，更新分配正義理念，確立風(fēng)險(xiǎn)預(yù)防原則；在微觀上，應(yīng)完善風(fēng)險(xiǎn)預(yù)防的法律規(guī)范，增強(qiáng)數(shù)字包容的技術(shù)供給，形成多維給付數(shù)據(jù)的共享機(jī)制，建立算法偏見的合作監(jiān)管機(jī)制，完善技術(shù)運(yùn)用的法律責(zé)任機(jī)制，以健全自動(dòng)化行政給付算法風(fēng)險(xiǎn)的法律規(guī)制體系。

關(guān)鍵詞：自動(dòng)化行政給付；算法風(fēng)險(xiǎn)；分配正義；法律規(guī)制

DOI： 10.13734/j.cnki.1000-5315.2025.0302

收稿日期：2024-10-09

基金項(xiàng)目：本文系四川省哲學(xué)社會(huì)科學(xué)規(guī)劃項(xiàng)目“行政機(jī)關(guān)自我糾錯(cuò)制度研究”（SC24FZ023）的階段性成果。

作者簡(jiǎn)介：梅帥，男，安徽六安人，法學(xué)博士，四川大學(xué)法學(xué)院助理研究員、講師，E-mail： meishuaiscu@163.com。

隨著數(shù)字政府建設(shè)的不斷推進(jìn)，以“秒批”、“免申即享”為典型代表的自動(dòng)化行政給付場(chǎng)景不斷涌現(xiàn)。政府運(yùn)用自動(dòng)化行政給付技術(shù)進(jìn)行治理，為提升行政給付的精準(zhǔn)度、優(yōu)化行政給付的復(fù)雜流程、避免行政給付事項(xiàng)效率低下等提供了契機(jī)。數(shù)字技術(shù)的發(fā)展促使傳統(tǒng)行政給付產(chǎn)生變革，數(shù)字技術(shù)作為內(nèi)在驅(qū)動(dòng)力，與行政給付關(guān)聯(lián)領(lǐng)域相融合，形成自動(dòng)化行政給付的新行為、新方式。但是，這也帶來了算法歧視或偏見、算法權(quán)力以及信息繭房等新型風(fēng)險(xiǎn)?，F(xiàn)有研究多從自動(dòng)化行政給付的正當(dāng)性抑或數(shù)字技術(shù)對(duì)行政給付帶來的變革等方面展開曹夢(mèng)嬌《自動(dòng)化給付的正當(dāng)性基礎(chǔ)及適用展開》，《浙江學(xué)刊》2024年第4期，第129頁(yè)；黎慈《人工智能嵌入行政執(zhí)法的法理分析：現(xiàn)狀、風(fēng)險(xiǎn)與應(yīng)對(duì)》 ，《湖北社會(huì)科學(xué)》2020年第7期，第135頁(yè)；張梁、董茂云《“數(shù)字法治政府”：概念認(rèn)知、機(jī)理闡釋、路徑塑造與機(jī)制構(gòu)建》，《求實(shí)》2023年第5期，第28-29頁(yè)。，較少對(duì)自動(dòng)化行政給付的算法機(jī)理、風(fēng)險(xiǎn)以及法律規(guī)制等展開探討，導(dǎo)致了對(duì)自動(dòng)化行政給付算法風(fēng)險(xiǎn)缺乏系統(tǒng)、全面的理性認(rèn)識(shí)。算法機(jī)理是科學(xué)認(rèn)識(shí)自動(dòng)化行政給付算法風(fēng)險(xiǎn)的基礎(chǔ)，本文將在厘定算法機(jī)理的基礎(chǔ)上，以算法風(fēng)險(xiǎn)及其特征為切入點(diǎn)，探究算法風(fēng)險(xiǎn)法律規(guī)制的向度，并在此基礎(chǔ)上提出完善算法風(fēng)險(xiǎn)法律規(guī)制架構(gòu)的設(shè)想，以防范算法風(fēng)險(xiǎn)，保障相對(duì)人權(quán)益。

一 自動(dòng)化行政給付的算法機(jī)理

（一）自動(dòng)化行政給付的緣起及內(nèi)涵

自動(dòng)化行政給付的生成由來已久，早在電子政務(wù)的初期，政府通過自動(dòng)化設(shè)備實(shí)施給付，實(shí)現(xiàn)政府信息服務(wù)的有效傳遞。當(dāng)時(shí)，自動(dòng)化行政給付雖冠以“自動(dòng)化”一詞，但自動(dòng)化更多體現(xiàn)的是政務(wù)的電子化，而不涉及數(shù)據(jù)的智能分析，政府通過電子設(shè)備發(fā)送給付事項(xiàng)信息，由申請(qǐng)人接收并提出申請(qǐng)。例如，對(duì)于最低生活保障的發(fā)放，政府有效利用信息技術(shù)，通過不同的信息服務(wù)設(shè)施，按照預(yù)先設(shè)定的程序，為低收入家庭中的特殊困難人員等提供自動(dòng)化的信息及相關(guān)服務(wù)，以準(zhǔn)確、快捷地傳遞信息，方便困難群眾。隨著電子政務(wù)的不斷發(fā)展，許多事務(wù)由線下辦理向線上業(yè)務(wù)轉(zhuǎn)型，辦公自動(dòng)化成為政府履行政務(wù)服務(wù)的著力點(diǎn)，行政給付作為社會(huì)保障等部門的職能內(nèi)容，被納入對(duì)外的政務(wù)服務(wù)之中。與此同時(shí)，信息技術(shù)的快速發(fā)展促進(jìn)了部門信息的共享、政務(wù)工作流程的整合及協(xié)同機(jī)制的完善，使更多部門在政務(wù)服務(wù)的同一條業(yè)務(wù)流程上開展工作，行政給付的環(huán)節(jié)大大縮減，行政給付的范圍不斷擴(kuò)大。近年來，自動(dòng)化行政給付的智能升級(jí)更快、運(yùn)用更廣，不僅重塑了政府的治理方式，更為人們的生產(chǎn)生活帶來了實(shí)實(shí)在在的便利。例如，在住房保障領(lǐng)域，沈陽(yáng)市政務(wù)服務(wù)App通過對(duì)職工基本信息及支出信息等完成自動(dòng)審核，確定公積金提取的額度，實(shí)現(xiàn)完全喪失勞動(dòng)能力等10種情形的“掌上辦、零要件、秒到賬”徐佳婷《互聯(lián)網(wǎng)+政務(wù)服務(wù)：讓百姓生活更便捷》，《沈陽(yáng)日?qǐng)?bào)》2022年2月10日，第6版。；在失業(yè)保險(xiǎn)領(lǐng)域，云南省智慧服務(wù)系統(tǒng)自動(dòng)篩選失業(yè)保險(xiǎn)穩(wěn)崗返還的企業(yè)，同時(shí)對(duì)比企業(yè)信用情況，公示無異議后，將資金打入企業(yè)對(duì)公賬戶劉佳華、方敏、葉傳增《免申即享，讓利企便民服務(wù)精準(zhǔn)直達(dá)》，《人民日?qǐng)?bào)》2024年7月23日，第11版。；在醫(yī)療保障領(lǐng)域，安徽省醫(yī)保服務(wù)系統(tǒng)篩選生成“預(yù)享受人員名單”，在慢特病群體、困難群體的醫(yī)療救助及生育津貼發(fā)放等方面打造“免申即享”新模式，實(shí)現(xiàn)服務(wù)事項(xiàng)的“零跑路”和資料的“零提交”黃振君《“免申即享”“即申即享”助醫(yī)保服務(wù)更親民》，《池州日?qǐng)?bào)》2024年7月26日，第3版。?？梢姡詣?dòng)化行政給付有了更多智能化、數(shù)字化的內(nèi)容，隨著數(shù)字技術(shù)與行政給付的融合程度不斷深化，自動(dòng)化行政給付的內(nèi)在邏輯也由政務(wù)服務(wù)的流程化逐步發(fā)展為政務(wù)服務(wù)的自動(dòng)化，審核模式從線上的人工服務(wù)更多地轉(zhuǎn)向機(jī)器自主審核，處理時(shí)效從低效不斷向高效發(fā)展，自動(dòng)化行政給付得以形塑和生成。因此，自動(dòng)化行政給付指的是以大數(shù)據(jù)、人工智能等技術(shù)為支撐，按照一定算法設(shè)計(jì)，由智能系統(tǒng)自動(dòng)地作出給付決定或建議的行為。按照自動(dòng)化決策程度的差異，自動(dòng)化決策又可分為全自動(dòng)化和半自動(dòng)化，前者由智能系統(tǒng)直接作出給付決定，無須行政機(jī)關(guān)意志的介入，后者由智能系統(tǒng)作出給付決定的建議，行政機(jī)關(guān)可對(duì)此調(diào)整、修正或確認(rèn)，并作出最終的給付決定。

（二）自動(dòng)化行政給付的算法機(jī)理探析

1.法律規(guī)則的代碼化是自動(dòng)化行政給付的“轉(zhuǎn)譯”基礎(chǔ)

法律規(guī)則是規(guī)范行政給付行為的依據(jù)，也是衡量行政給付是否在法律框架內(nèi)的關(guān)鍵標(biāo)準(zhǔn)。算法是計(jì)算機(jī)可識(shí)別和執(zhí)行的具體指令的集合，它將人的意圖“翻譯”給機(jī)器，是人和機(jī)器之間的“通約裝置”肖峰《認(rèn)知的算法闡釋：人工智能對(duì)當(dāng)代認(rèn)識(shí)論研究的啟示》，《學(xué)術(shù)界》2021年第2期，第69頁(yè)。。在自動(dòng)化行政給付中，算法將法律規(guī)則轉(zhuǎn)化為機(jī)器可識(shí)別和讀取的代碼，實(shí)現(xiàn)了部分法律規(guī)則從規(guī)范到代碼的轉(zhuǎn)變。智能系統(tǒng)通過算法對(duì)行政給付法律規(guī)則的轉(zhuǎn)化，明晰了不同情形下的給付事項(xiàng)及其要求。進(jìn)一步講，智能系統(tǒng)將算法嵌入自動(dòng)化行政給付的判斷過程，把法律規(guī)則的語(yǔ)言轉(zhuǎn)譯成計(jì)算機(jī)語(yǔ)言，在代碼運(yùn)算、數(shù)據(jù)分析、自動(dòng)處理等機(jī)制作用下形成相對(duì)確定的給付結(jié)果，以實(shí)現(xiàn)對(duì)法律規(guī)則的有效“翻譯”。從轉(zhuǎn)化的內(nèi)容來看，行政給付法律規(guī)則的代碼化主要是從效果裁量方面著力的。這里涉及要件裁量和效果裁量的差異，要件裁量是行政機(jī)關(guān)按照法律文本上的要件解釋不確定法律概念，使其具體化；而效果裁量是行政機(jī)關(guān)在法律要件補(bǔ)足后作出適當(dāng)選擇的自由王貴松《行政裁量的構(gòu)造與審查》，中國(guó)人民大學(xué)出版社2016年版，第45-46頁(yè)。。在智能系統(tǒng)中，絕大多數(shù)的算法將行政給付裁量基準(zhǔn)翻譯為計(jì)算機(jī)的執(zhí)行語(yǔ)言，并將效果裁量與裁量基準(zhǔn)相對(duì)應(yīng)，使裁量效果格次化，進(jìn)而實(shí)現(xiàn)給付裁量的自動(dòng)處理。當(dāng)然，也有少部分智能系統(tǒng)把要件裁量納入判斷范圍，把既往的行政給付實(shí)踐案例作為智能系統(tǒng)的數(shù)據(jù)讀取基礎(chǔ)，由算法對(duì)海量數(shù)據(jù)進(jìn)行處理分析，作為不確定法律概念具體化的經(jīng)驗(yàn)支撐。

2.算法規(guī)則的適用是自動(dòng)化行政給付的“個(gè)案”基礎(chǔ)

從規(guī)范適用來看，確定個(gè)案事實(shí)和解釋法律要件后，還須實(shí)現(xiàn)個(gè)案在規(guī)范中的邏輯演繹，以實(shí)現(xiàn)個(gè)案正義。在自動(dòng)化行政給付中，智能系統(tǒng)首先分析案件基本情況，確定案件所涉及的給付類別，搜集涉案相關(guān)的給付數(shù)據(jù)，按照代碼化的規(guī)則進(jìn)行比對(duì)和裁量，進(jìn)而得出行政給付決定或建議。例如，在失業(yè)保險(xiǎn)領(lǐng)域，企業(yè)職工既往的工作信息、收入情況及待業(yè)時(shí)間等，構(gòu)筑給付事項(xiàng)的“數(shù)據(jù)集”，經(jīng)過代碼化規(guī)則的適用，確定特定企業(yè)職工的給付標(biāo)準(zhǔn)與給付數(shù)額。當(dāng)然，這也涉及案件情節(jié)等法律規(guī)則未明晰的部分，算法往往對(duì)既往行政給付處理決定或建議進(jìn)行比較分析，形成行政給付裁量的補(bǔ)充內(nèi)容，作為確定特定行政給付數(shù)額的支撐。此外，智能系統(tǒng)的定位亦對(duì)算法設(shè)計(jì)提出差異化的要求。半自動(dòng)化與全自動(dòng)化差別較大。半自動(dòng)化基于智能系統(tǒng)的有限介入，主要采取程序處理和人工判斷相結(jié)合的方式，在個(gè)案數(shù)據(jù)輸入后，經(jīng)過代碼化規(guī)則的個(gè)案適用，算法按照既定代碼運(yùn)算得出給付建議，行政機(jī)關(guān)再考量行政給付的個(gè)案性，作出行政給付的最終決定。全自動(dòng)化則不依賴人工判斷的環(huán)節(jié)，算法按照既定代碼運(yùn)算直接得出給付決定。在行政實(shí)踐中，“秒批”、“免申即享”等智能系統(tǒng)更多體現(xiàn)的是全自動(dòng)化行政給付算法的適用。行政給付的算法決定開始于相對(duì)人的意愿確認(rèn)，智能系統(tǒng)對(duì)相對(duì)人給付事項(xiàng)的相關(guān)數(shù)據(jù)進(jìn)行搜集、分析和處理，經(jīng)過代碼化規(guī)則的運(yùn)算以及對(duì)既往處理情況的比對(duì)，智能系統(tǒng)直接作出行政給付決定。值得注意的是，為防止給付范圍的泛化，人們有意識(shí)地設(shè)置給付領(lǐng)域以及相應(yīng)場(chǎng)景下的具體情形，以約束行政給付行為的行使，防止自動(dòng)化行政給付技術(shù)的濫用。

從技術(shù)表征來看，當(dāng)前行政實(shí)踐中自動(dòng)化行政給付的算法設(shè)計(jì)，實(shí)現(xiàn)了生育、醫(yī)療、住房等多領(lǐng)域給付的整合以及社會(huì)救助、社會(huì)福利、社會(huì)保險(xiǎn)等給付范圍的擴(kuò)充。自動(dòng)化行政給付算法依托智能系統(tǒng)而展開，盡管各地的智能系統(tǒng)有所不同，自動(dòng)化行政給付系統(tǒng)存在智能化或數(shù)字化融合程度上的差異，但在流程上主要體現(xiàn)為“申請(qǐng)人意愿確認(rèn)-部門兌現(xiàn)”的方式，即申請(qǐng)人在智能系統(tǒng)上確認(rèn)其對(duì)特定給付事項(xiàng)的意愿，部門借助智能系統(tǒng)審核受理，給付數(shù)額自動(dòng)發(fā)放至申請(qǐng)人的賬戶。

二 自動(dòng)化行政給付的算法風(fēng)險(xiǎn)及其特征

在數(shù)字時(shí)代，算法不再是簡(jiǎn)單的數(shù)據(jù)加工，而是憑借對(duì)海量數(shù)據(jù)的學(xué)習(xí)與處理能力而輸出結(jié)果。在自動(dòng)化行政給付中，算法在發(fā)揮主動(dòng)給付、精準(zhǔn)給付、即時(shí)給付等優(yōu)勢(shì)作用的同時(shí)，更是為行政給付最佳行政目標(biāo)的實(shí)現(xiàn)提供助力。具體來說，自動(dòng)化行政給付的算法運(yùn)用，既化解了行政給付海量數(shù)據(jù)的搜集、貧困人口的分布分析及成因發(fā)現(xiàn)等困難，又解決了行政給付申請(qǐng)流程復(fù)雜、事項(xiàng)辦理效率低下、裁量結(jié)果不一致等問題。依托算法對(duì)海量數(shù)據(jù)的快速分析和高效處理，將原本由執(zhí)法者依據(jù)法律作出給付決定的過程轉(zhuǎn)變?yōu)樗惴ㄗ詣?dòng)作出決策的過程張恩典《人工智能算法決策對(duì)行政法治的挑戰(zhàn)及制度因應(yīng)》，《行政法學(xué)研究》2020年第4期，第37-38頁(yè)。，把復(fù)雜的行政給付申請(qǐng)受理過程簡(jiǎn)易化，進(jìn)一步推動(dòng)了行政給付數(shù)字化流程的再造，降低了公民的程序性義務(wù)負(fù)擔(dān)。這不僅有助于提升政府對(duì)公民給付訴求的回應(yīng)能力，更促進(jìn)了行政給付敏捷治理的實(shí)現(xiàn)。然而，自動(dòng)化行政給付在帶來諸多便利的同時(shí)，也產(chǎn)生了新的風(fēng)險(xiǎn)。

（一）自動(dòng)化行政給付的算法風(fēng)險(xiǎn)

與傳統(tǒng)的行政給付不同，自動(dòng)化行政給付的算法風(fēng)險(xiǎn)產(chǎn)生于算法設(shè)計(jì)以及對(duì)給付數(shù)據(jù)的整合、處理、分析等環(huán)節(jié)。在行政給付法律規(guī)范的落實(shí)中，算法可能對(duì)公平給付、自主給付、個(gè)體給付等產(chǎn)生不利影響。

1.由算法設(shè)計(jì)和數(shù)據(jù)處理流程產(chǎn)生的歧視或偏見風(fēng)險(xiǎn)

在智能系統(tǒng)中，算法偏見貫穿于算法設(shè)計(jì)、數(shù)據(jù)處理等全過程岳平、苗越《社會(huì)治理：人工智能時(shí)代算法偏見的問題與規(guī)制》，《上海大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2021年第6期，第2-3頁(yè)。，對(duì)公平給付產(chǎn)生不利影響。公平是一個(gè)模糊的、難以量化的概念，盡管計(jì)算機(jī)程序在語(yǔ)言和邏輯學(xué)習(xí)方面進(jìn)步很大，但仍然難以準(zhǔn)確理解此抽象概念凱西·奧尼爾《算法霸權(quán)：數(shù)學(xué)殺傷性武器的威脅》，馬青玲譯，中信出版集團(tuán)2018年版，第103頁(yè)。。在技術(shù)上，算法是一種無涉價(jià)值的工具。然而，在實(shí)踐中，算法的主導(dǎo)者將其自身立場(chǎng)和價(jià)值嵌入代碼中，使得代碼對(duì)給付數(shù)據(jù)產(chǎn)生區(qū)分、認(rèn)可或排斥等不同效果。這種自身立場(chǎng)和價(jià)值可能是有意識(shí)的，也可能是無意識(shí)的。例如，在數(shù)據(jù)要素的設(shè)計(jì)環(huán)節(jié)，算法設(shè)計(jì)者基于對(duì)給付主體的經(jīng)濟(jì)、教育、健康等個(gè)人因素形成算法偏見，導(dǎo)致技術(shù)運(yùn)用的非中立立場(chǎng)，將使得有關(guān)群體受到不公正的對(duì)待弗吉尼亞·尤班克斯《自動(dòng)不平等——高科技如何鎖定、管制和懲罰窮人》，李明倩譯，商務(wù)印書館2021年版，第3-5頁(yè)。。在數(shù)據(jù)處理的過程中，經(jīng)過算法系統(tǒng)對(duì)海量數(shù)據(jù)的讀取，社會(huì)公眾的信息被精準(zhǔn)地識(shí)別，產(chǎn)生“數(shù)據(jù)畫像”解志勇《數(shù)字法治政府構(gòu)建的四個(gè)面向及其實(shí)現(xiàn)》，《比較法研究》2023年第1期，第12頁(yè)。。算法歧視來自智能系統(tǒng)中的內(nèi)隱驅(qū)動(dòng)，個(gè)體部分特征或被突出或被忽視，算法歧視結(jié)果由此而逐步生成。例如，算法在讀取數(shù)據(jù)或執(zhí)行指令時(shí)，對(duì)部分特征諸如貧困、低收入、老年人等的記錄，逐步產(chǎn)生區(qū)分性的結(jié)果，可能導(dǎo)致數(shù)字紅利分配的不均衡加劇和顯現(xiàn)。在此背景下，貧困人口、低收入群體等特定群體具備的數(shù)字服務(wù)機(jī)會(huì)存在縮減的風(fēng)險(xiǎn)，數(shù)字弱勢(shì)群體的權(quán)益更易受到忽視曹夢(mèng)嬌《自動(dòng)化給付的正當(dāng)性基礎(chǔ)及適用展開》，《浙江學(xué)刊》2024年第4期，第131頁(yè)。。

2.算法權(quán)力干擾自主給付的運(yùn)行風(fēng)險(xiǎn)

行政給付的前提是政府對(duì)給付事項(xiàng)的依法自主決定。隨著算法在智能系統(tǒng)中的運(yùn)用，算法的本體特征逐步顯現(xiàn)，它可能掠奪行政機(jī)關(guān)的判斷權(quán)和決定權(quán)。算法原本是作為提升效率的工具而存在，其融入智能系統(tǒng)能夠有效降低監(jiān)管成本，但是，這也帶來了治理的“算法化”問題，即算法的“專斷”可能造成算法預(yù)設(shè)規(guī)則的普遍化，所產(chǎn)生的控制力在更深層次上重塑了個(gè)體與社會(huì)的關(guān)系問題周輝《算法權(quán)力及其規(guī)制》，《法制與社會(huì)發(fā)展》2019年第6期，第118頁(yè)。。在自動(dòng)化行政給付中，通過給付規(guī)則的代碼化，所有給付情形和事項(xiàng)判斷幾乎都由代碼運(yùn)算，行政相對(duì)人只有滿足算法所設(shè)置的形式要求，才能被有效識(shí)別。例如，在失業(yè)保險(xiǎn)領(lǐng)域，企業(yè)職工既往的工作信息、收入情況及待業(yè)時(shí)間等，是算法識(shí)別和決策的關(guān)鍵基礎(chǔ)，若其中數(shù)據(jù)存在缺失或不完整，算法規(guī)則可能認(rèn)定為不完全滿足要求，進(jìn)而將其排除在給付對(duì)象之外。行政給付對(duì)象確認(rèn)給付意愿后，算法自動(dòng)搜集相關(guān)數(shù)據(jù)，形成給付判斷，促進(jìn)了自動(dòng)化行政給付算法權(quán)力的建構(gòu)。伴隨著算法的自我迭代更新，算法可能背離設(shè)計(jì)者的預(yù)設(shè)，對(duì)相對(duì)人的隱私權(quán)、人身自由權(quán)等造成侵害，甚至出現(xiàn)技術(shù)資本操縱數(shù)字政府侵犯人權(quán)的風(fēng)險(xiǎn)劉權(quán)《數(shù)字政府建設(shè)中數(shù)字化與法治化的融合》，《當(dāng)代法學(xué)》2023年第6期，第19-20頁(yè)。。

3.信息繭房強(qiáng)化同質(zhì)給付的生成風(fēng)險(xiǎn)

信息繭房來自“蠶蛹吐絲結(jié)繭”的形象化表述，指的是算法習(xí)得用戶行為數(shù)據(jù)和偏好來處理數(shù)據(jù)，強(qiáng)化預(yù)先的數(shù)據(jù)處理習(xí)慣李龍飛、張國(guó)良《算法時(shí)代“信息繭房”效應(yīng)生成機(jī)理與治理路徑——基于信息生態(tài)理論視角》，《電子政務(wù)》2022年第9期，第55頁(yè)。。按照輔助性原則，行政給付的個(gè)體特征，在更深意義上來自國(guó)家對(duì)個(gè)人自主選擇、決定的尊重喻少如《論行政給付中的國(guó)家輔助性原則》，《暨南學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2010年第6期，第58頁(yè)。，而基于算法對(duì)部分?jǐn)?shù)據(jù)的處理而產(chǎn)生的信息繭房，可能弱化個(gè)體特征，推動(dòng)同質(zhì)給付的形成。智能系統(tǒng)的算法決策產(chǎn)生對(duì)已有觀點(diǎn)的相同選擇傾向，不斷篩選和確定與之相同的判斷邏輯，進(jìn)而避免不相一致結(jié)果的產(chǎn)生。依照代碼規(guī)則立足的信賴基礎(chǔ)，信息繭房可被分為特定觀點(diǎn)的信息繭房和類型觀點(diǎn)的信息繭房，前者為基于特定觀點(diǎn)標(biāo)準(zhǔn)而形成與之一致的信息空間，后者為按照觀點(diǎn)類型標(biāo)準(zhǔn)而形成與之一致的信息空間。在自動(dòng)化行政給付的背景下，兩種信息繭房邏輯意味著給付策略和行為模式的趨向一致。特別是在給付數(shù)據(jù)單一且有限的情形下，給付數(shù)據(jù)的不充分使得個(gè)體特征在算法規(guī)則的判斷中逐步消弭，可能產(chǎn)生行政給付結(jié)果的趨同化現(xiàn)象。行政給付原來由行政機(jī)關(guān)綜合考量申請(qǐng)人的實(shí)際情況而定，但是自動(dòng)化行政給付的代碼化處理，使得與特定觀點(diǎn)或類型觀點(diǎn)不一致的要素被忽視，進(jìn)而導(dǎo)致“機(jī)械判斷”、“結(jié)論趨同”等現(xiàn)象的產(chǎn)生。

（二）自動(dòng)化行政給付算法風(fēng)險(xiǎn)的特征

1.復(fù)雜的交織性

自動(dòng)化行政給付算法風(fēng)險(xiǎn)受技術(shù)發(fā)展水平、智能系統(tǒng)層級(jí)、算法適配場(chǎng)景等諸多因素的影響?；诟饕貎?nèi)容建構(gòu)的智能系統(tǒng)模型的不同，自動(dòng)化行政給付算法風(fēng)險(xiǎn)的交織性呈現(xiàn)出不同側(cè)重。在自動(dòng)化程度較低的行政給付中，算法風(fēng)險(xiǎn)可能交織于數(shù)據(jù)的適配性以及數(shù)據(jù)搜集、處理和分析的準(zhǔn)確性等。在自動(dòng)化程度較高的行政給付中，算法風(fēng)險(xiǎn)可能交織于代碼規(guī)則的解釋、算力本身的優(yōu)化以及算法模型適配性的提升等。從具體體現(xiàn)來看，算法風(fēng)險(xiǎn)表現(xiàn)為多種形式，加之算法風(fēng)險(xiǎn)的滯后性，算法風(fēng)險(xiǎn)生成的邏輯變得更為復(fù)雜。尤其是在智能系統(tǒng)自主學(xué)習(xí)的過程中，算法對(duì)新數(shù)據(jù)、新語(yǔ)料的讀取，產(chǎn)生與既往不一致的新解讀，伴隨著多維度神經(jīng)單元反饋的調(diào)整，新舊風(fēng)險(xiǎn)的可能疊加促使算法風(fēng)險(xiǎn)分析邏輯更加復(fù)雜化。而且，在算法風(fēng)險(xiǎn)與行政給付領(lǐng)域的特殊性相結(jié)合的情況下，算法歧視或偏見、算法權(quán)力、信息繭房等風(fēng)險(xiǎn)關(guān)聯(lián)耦合，帶來一系列連鎖反應(yīng)，加劇了算法風(fēng)險(xiǎn)構(gòu)成邏輯的復(fù)雜化，導(dǎo)致對(duì)相應(yīng)風(fēng)險(xiǎn)的識(shí)別和應(yīng)對(duì)的難度不斷攀升。

2.內(nèi)在的隱蔽性

在根源上，算法風(fēng)險(xiǎn)產(chǎn)生于“算法黑箱”。算法黑箱建構(gòu)一個(gè)難以觀測(cè)、無從預(yù)知和不易理解的系統(tǒng)空間，包裹算法決策的內(nèi)核，使得算法運(yùn)轉(zhuǎn)成為連接數(shù)據(jù)輸入和數(shù)據(jù)輸出之間的“黑盒子”。傳統(tǒng)行政給付的申請(qǐng)、審查、批準(zhǔn)等按照法定程序展開，審查標(biāo)準(zhǔn)也嚴(yán)格遵循法定條件尹建國(guó)、余?！豆残姓o付中的裁量權(quán)治理》，《環(huán)球法律評(píng)論》2010年第4期，第59頁(yè)。。而在自動(dòng)化行政給付的智能系統(tǒng)中，推導(dǎo)的因果關(guān)系被打破，數(shù)據(jù)比對(duì)相關(guān)性得到提升，從數(shù)據(jù)輸入到數(shù)據(jù)輸出，人們都無法知曉黑箱運(yùn)轉(zhuǎn)中間階段的邏輯，難以了解算法按照怎樣的標(biāo)準(zhǔn)和邏輯行事，這使得自動(dòng)化行政給付算法風(fēng)險(xiǎn)呈現(xiàn)隱蔽性的特征。盡管從外圍角度看，自動(dòng)化行政給付的設(shè)計(jì)者和服務(wù)者一般提供數(shù)據(jù)關(guān)聯(lián)、共享和確認(rèn)的指引手冊(cè)，但是，指引手冊(cè)不等同于算法決策及給付分析邏輯的公開。在實(shí)踐中，行政相對(duì)人在表達(dá)申請(qǐng)意愿后，即收到給付決定的答復(fù)，難以知曉其數(shù)據(jù)輸出結(jié)果的原因，無從評(píng)判和監(jiān)督算法決策的科學(xué)性。即便“算法黑箱”存在異常，基于算法內(nèi)部推理機(jī)制的不透明，行政相對(duì)人也難以感知給付的內(nèi)在變化。

3.發(fā)生的不確定性

從發(fā)生學(xué)來看，算法風(fēng)險(xiǎn)的發(fā)展、演變與轉(zhuǎn)化規(guī)律具有不確定性，加之算法決策的復(fù)雜特征，算法風(fēng)險(xiǎn)發(fā)生的規(guī)模大小、影響范圍和深度難以估測(cè)。除了算法引發(fā)的不確定風(fēng)險(xiǎn)之外，算法治理的不確定風(fēng)險(xiǎn)還包括決策主體和治理情境兩個(gè)方面，前者基于外部因素和人為因素的復(fù)合，無法確定由誰(shuí)對(duì)算法風(fēng)險(xiǎn)負(fù)責(zé)，后者為算法在執(zhí)行特定任務(wù)時(shí)真實(shí)數(shù)據(jù)偏離初始數(shù)據(jù)，產(chǎn)生侵犯隱私等不確定的后果張海柱《算法治理中的不確定風(fēng)險(xiǎn)及其應(yīng)對(duì)》，《科學(xué)學(xué)研究》2024年第9期，第1802-1803頁(yè)。。在自動(dòng)化行政給付中，這三方面的風(fēng)險(xiǎn)在一定程度上均存在。首先，算法風(fēng)險(xiǎn)的發(fā)生規(guī)律具有不確定性。在智能系統(tǒng)中，算法風(fēng)險(xiǎn)的發(fā)生交織于算法決策本身的復(fù)雜運(yùn)行，部分風(fēng)險(xiǎn)的發(fā)生，人們難以提前預(yù)測(cè)。其次，在風(fēng)險(xiǎn)治理中，算法風(fēng)險(xiǎn)的發(fā)生具有不確定性。在日常監(jiān)管中，智能系統(tǒng)若出現(xiàn)異常并引發(fā)權(quán)益侵害，究竟是屬于系統(tǒng)開發(fā)者、設(shè)計(jì)者、運(yùn)營(yíng)者還是行政機(jī)關(guān)的責(zé)任，難以準(zhǔn)確確定。再次，在智能系統(tǒng)運(yùn)行中，侵犯隱私等算法風(fēng)險(xiǎn)的發(fā)生具有不確定性。例如，給付事項(xiàng)確認(rèn)中的數(shù)據(jù)侵奪、隱私暴露等現(xiàn)象，可能帶來對(duì)個(gè)人信息權(quán)、隱私權(quán)等權(quán)益的侵犯，算法的不利影響難以預(yù)知，發(fā)生結(jié)果的規(guī)模和范圍更是難以衡量。

三 自動(dòng)化行政給付算法風(fēng)險(xiǎn)的法律規(guī)制向度

自動(dòng)化行政給付的參與主體較多且技術(shù)性較強(qiáng)，對(duì)制度規(guī)范要求較高。這決定了自動(dòng)化行政給付算法風(fēng)險(xiǎn)的治理，不能僅施以規(guī)則與技術(shù)的簡(jiǎn)單疊加，而是要形成法律規(guī)制體系，明晰算法風(fēng)險(xiǎn)的法律規(guī)制進(jìn)路，以防范算法風(fēng)險(xiǎn)的發(fā)生。為此，應(yīng)從宏觀層面明確算法風(fēng)險(xiǎn)的法律規(guī)制向度，結(jié)合算法風(fēng)險(xiǎn)的特殊性，更新分配正義理念，確立風(fēng)險(xiǎn)預(yù)防原則，并以此作為自動(dòng)化行政給付算法風(fēng)險(xiǎn)法律規(guī)制的指引。

（一）更新分配正義的理念

規(guī)制理念是行政給付法律規(guī)制的邏輯起點(diǎn)。傳統(tǒng)行政給付理念主要關(guān)注政府職責(zé)問題，如政府對(duì)孤兒、無人照料的病人、孤寡老人等無法自立群體的保障、物質(zhì)權(quán)益或與物質(zhì)相關(guān)權(quán)益的賦予以及政府給付任務(wù)的實(shí)現(xiàn)等胡敏潔《給付行政范疇的中國(guó)生成》，《中國(guó)法學(xué)》2013年第2期，第36-37頁(yè)。。在數(shù)字政府建設(shè)的背景下，算法作為工具，涉及多元價(jià)值的實(shí)現(xiàn)及其衡平問題。在自動(dòng)化行政給付中，算法不僅作為政府給付行為的基礎(chǔ)，更融入了政府、企業(yè)、社會(huì)公眾等主體的價(jià)值認(rèn)識(shí)，因而，算法風(fēng)險(xiǎn)的法律規(guī)制須凝聚多主體共識(shí)，秉持分配正義的理念。而自動(dòng)化行政給付算法風(fēng)險(xiǎn)的特殊性，要求技術(shù)運(yùn)用既要保障分配正義的實(shí)體內(nèi)容，又要保障分配正義的程序內(nèi)容分配正義理念包含兩個(gè)方面：一是關(guān)心何為平等與平等什么等實(shí)體內(nèi)容，二是注重平等的程序性實(shí)現(xiàn)等程序內(nèi)容。參見：汪行?！斗峙湔x與社會(huì)保障》，上海財(cái)經(jīng)大學(xué)出版社2003年版，第7-11頁(yè)。。

1.自動(dòng)化行政給付的實(shí)體分配正義

在數(shù)字社會(huì)，自動(dòng)化行政給付所產(chǎn)生的算法風(fēng)險(xiǎn)具有不確定性，所帶來的危害影響范圍廣、權(quán)益損害多且具有隱蔽性。由于多主體參與智能系統(tǒng)的設(shè)計(jì)、維護(hù)等環(huán)節(jié)，政府職責(zé)的履行和給付任務(wù)的負(fù)擔(dān)逐步模糊化。隨著傳統(tǒng)的線下給付受理逐步轉(zhuǎn)變?yōu)榫€上的給付處理，數(shù)據(jù)成為融合給付利益、給付標(biāo)準(zhǔn)、給付判斷為一體的集合要素。給付的分配邏輯逐步以數(shù)據(jù)為中心，實(shí)體分配正義以公眾需求為導(dǎo)向，政府以積極主動(dòng)的姿態(tài)提供全方位、精細(xì)化、個(gè)性化的行政給付服務(wù)。在此背景下，算法融入自動(dòng)化行政給付，通過技術(shù)變革與服務(wù)創(chuàng)新，為政府職能“做加法”以提升實(shí)效陳可翔《數(shù)字時(shí)代公共服務(wù)行政法構(gòu)建的法理及進(jìn)路》，《中外法學(xué)》2024年第3期，第630頁(yè)。。反過來，實(shí)體分配的非正義逐步體現(xiàn)為信息不對(duì)稱、算法權(quán)力、算法歧視等，對(duì)行政相對(duì)人的權(quán)益產(chǎn)生損害。例如，基于身份差異而產(chǎn)生的數(shù)字歧視，將損害數(shù)字弱勢(shì)群體的社會(huì)保障權(quán)等權(quán)益宋保振《社會(huì)權(quán)視閾下“數(shù)字弱勢(shì)群體”權(quán)益保障》，《法學(xué)》2024年第1期，第22頁(yè)。。而源于組織區(qū)隔、技術(shù)復(fù)合和法律保護(hù)隱匿，人們難以及時(shí)發(fā)現(xiàn)這種非正義性，從而使得有關(guān)風(fēng)險(xiǎn)不斷累積。故而，應(yīng)從實(shí)體層面關(guān)注自動(dòng)化行政給付涉及群體的分配正義問題。例如，綜合考慮給付公正、給付信賴?yán)姹Ｗo(hù)、政府給付義務(wù)的設(shè)置，提升算法的透明度，推進(jìn)算法公開和算法解釋，注重算法在給付中的科學(xué)運(yùn)用，考量不同的給付模型設(shè)計(jì)，提升算法與給付場(chǎng)景的適配性。

2.自動(dòng)化行政給付中的程序分配正義

傳統(tǒng)行政給付要求政府承擔(dān)法定義務(wù)，積極作出給付行為，并按照法定責(zé)任制度保障給付程序的公正。在自動(dòng)化行政給付中，算法融入行政給付的諸多環(huán)節(jié)，在很大程度上沖擊傳統(tǒng)行政給付法律制度中的給付程序，對(duì)程序正義產(chǎn)生影響。例如，在相對(duì)人表達(dá)給付意愿后，算法對(duì)相對(duì)人給付相關(guān)數(shù)據(jù)進(jìn)行搜集、整合、處理和分析，自動(dòng)輸出給付建議或給付決定。從給付的數(shù)據(jù)輸入到自動(dòng)輸出，相對(duì)人無從知曉算法運(yùn)算的中間內(nèi)容，更對(duì)給付標(biāo)準(zhǔn)及數(shù)額難以預(yù)知。就程序法治而言，傳統(tǒng)行政給付主要通過法定程序，增強(qiáng)相關(guān)主體監(jiān)督，保障申請(qǐng)人的程序權(quán)利，以實(shí)現(xiàn)給付的程序公正崔卓蘭、周隆基《社會(huì)管理創(chuàng)新與行政給付新發(fā)展》，《當(dāng)代法學(xué)》2013年第1期，第59頁(yè)。。而在自動(dòng)化行政給付中，算法融入給付過程，帶來了給付事項(xiàng)算法治理的新課題、新挑戰(zhàn)。按照程序分配正義的理念，算法需要經(jīng)過各環(huán)節(jié)“程序”的鍛造，以確保系統(tǒng)的科學(xué)性、合理性和有效性。智能系統(tǒng)經(jīng)過開發(fā)、設(shè)計(jì)、維護(hù)等多個(gè)環(huán)節(jié)，每一環(huán)節(jié)的負(fù)責(zé)主體把關(guān)給付技術(shù)要求，以實(shí)現(xiàn)對(duì)算法的技術(shù)環(huán)節(jié)控制。然而，在行政給付法律規(guī)則未對(duì)技術(shù)規(guī)制予以規(guī)范的情況下，算法的規(guī)制權(quán)限可能被濫用，進(jìn)而影響程序正義的實(shí)現(xiàn)。例如，自動(dòng)化行政給付算法的設(shè)計(jì)者，提供智能系統(tǒng)的使用說明及風(fēng)險(xiǎn)防范要求，這是否確定其已盡到算法合理設(shè)置的義務(wù)仍存在一定疑問。因此，需要從自動(dòng)化行政給付算法運(yùn)用的過程，也即從輸入到輸出的過程保證程序正義的實(shí)現(xiàn)。在給付數(shù)據(jù)的搜集階段，需要通過程序設(shè)置保障相對(duì)人的知情權(quán)等權(quán)利，為防止設(shè)計(jì)主體對(duì)算法的恣意設(shè)計(jì)，應(yīng)加強(qiáng)自動(dòng)化行政給付的算法備案。在給付數(shù)據(jù)的運(yùn)行階段，應(yīng)加強(qiáng)算法透明的進(jìn)路。隨著技術(shù)的發(fā)展，算法運(yùn)用的告知設(shè)置、報(bào)備參數(shù)、源代碼公開等，使得算法透明不僅可能而且可行汪慶華《算法透明的多重維度和算法問責(zé)》，《比較法研究》2020年第6期，第165頁(yè)。。在自動(dòng)化行政給付中，算法透明的實(shí)現(xiàn)并非一蹴而就，而是要考量給付目標(biāo)、給付場(chǎng)景等差別化的透明度要求。例如，在醫(yī)療保障領(lǐng)域，基于對(duì)慢特病群體健康權(quán)、隱私權(quán)保障的設(shè)置，可采取基本信息部分隱匿的方式，以平衡算法透明價(jià)值與其他價(jià)值。在給付數(shù)據(jù)分析的輸出階段，既要保障自動(dòng)化行政給付的結(jié)果公正，也要保障相對(duì)人的異議權(quán)、人工介入權(quán)等程序權(quán)利，以防止算法權(quán)力的濫用。

（二）確立風(fēng)險(xiǎn)預(yù)防的原則

傳統(tǒng)行政給付基于權(quán)益侵害的實(shí)際發(fā)生，按照“行為-責(zé)任”的歸責(zé)邏輯，確定有關(guān)責(zé)任主體及其責(zé)任分擔(dān)，責(zé)任承擔(dān)是以結(jié)果為導(dǎo)向展開建構(gòu)的，損害的現(xiàn)實(shí)發(fā)生為法律規(guī)制的前提條件。由此，法律規(guī)制圍繞權(quán)力制約展開，旨在保障申請(qǐng)人在行政給付中的權(quán)益，并通過強(qiáng)有力的規(guī)制措施實(shí)現(xiàn)有關(guān)侵害的預(yù)防。對(duì)于申請(qǐng)人提出的給付訴求，行政機(jī)關(guān)依法受理，審核給付相關(guān)材料的真實(shí)性，并及時(shí)作出給付決定。若給付決定存在違法或不當(dāng)?shù)那闆r，司法機(jī)關(guān)采取事后的法律規(guī)制措施，監(jiān)督行政權(quán)力的行使。然而，在自動(dòng)化行政給付中，隨著算法融入智能系統(tǒng)，風(fēng)險(xiǎn)的不確定性應(yīng)運(yùn)而生。從技術(shù)變革來看，算法對(duì)傳統(tǒng)行政給付的事后規(guī)制模式提出了挑戰(zhàn)。一方面，事后的給付權(quán)益侵害規(guī)制，難以應(yīng)對(duì)自動(dòng)化行政給付的算法風(fēng)險(xiǎn)。按照事后規(guī)制的邏輯，算法風(fēng)險(xiǎn)唯有不斷累積形成現(xiàn)實(shí)的損害，才能納入規(guī)制框架，這使得權(quán)益保護(hù)范圍過窄，相對(duì)人權(quán)益難以受到及時(shí)保護(hù)。另一方面，事后的給付權(quán)益侵害規(guī)制，無法預(yù)防算法風(fēng)險(xiǎn)的再發(fā)生。無論是從算法風(fēng)險(xiǎn)發(fā)生的頻率、強(qiáng)度來看，還是從司法機(jī)關(guān)的技術(shù)監(jiān)管、損害認(rèn)定等局限來看，事后規(guī)制模式在規(guī)制算法風(fēng)險(xiǎn)上存在諸多短板。為此，2021年6月通過的《中華人民共和國(guó)數(shù)據(jù)安全法》（以下簡(jiǎn)稱《數(shù)據(jù)安全法》）對(duì)數(shù)據(jù)安全、風(fēng)險(xiǎn)監(jiān)測(cè)等作出規(guī)定，為數(shù)據(jù)安全的風(fēng)險(xiǎn)預(yù)防奠定了基礎(chǔ)。同年8月通過的《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱《個(gè)人信息保護(hù)法》）對(duì)預(yù)防侵害個(gè)人信息權(quán)益行為作出規(guī)定，兼有損害預(yù)防與風(fēng)險(xiǎn)預(yù)防的意蘊(yùn)張濤《風(fēng)險(xiǎn)預(yù)防原則在個(gè)人信息保護(hù)中的適用與展開》，《現(xiàn)代法學(xué)》2023年第5期，第54-55頁(yè)。。為應(yīng)對(duì)自動(dòng)化行政給付的算法風(fēng)險(xiǎn)，應(yīng)確立風(fēng)險(xiǎn)預(yù)防原則，明晰其對(duì)算法風(fēng)險(xiǎn)規(guī)制的指引作用，結(jié)合行政給付的特殊性及智能系統(tǒng)的場(chǎng)景，采取預(yù)防性的規(guī)制措施，以防止算法風(fēng)險(xiǎn)對(duì)相對(duì)人權(quán)益的損害。

在自動(dòng)化行政給付算法風(fēng)險(xiǎn)的應(yīng)對(duì)中，應(yīng)科學(xué)審視算法驅(qū)動(dòng)自動(dòng)給付的過程，以事前規(guī)制來預(yù)防風(fēng)險(xiǎn)。具體來說，需要結(jié)合成本收益分析方法，統(tǒng)籌算法發(fā)展與風(fēng)險(xiǎn)防范措施，保障算法風(fēng)險(xiǎn)規(guī)制措施的合理性?？蓮募夹g(shù)合理使用、風(fēng)險(xiǎn)預(yù)期設(shè)置、預(yù)防措施的強(qiáng)度設(shè)置等展開，通過比較預(yù)期危害發(fā)生的概率與預(yù)防措施的負(fù)擔(dān)，運(yùn)用成本收益分析方法確定預(yù)防措施的選擇蘇宇《風(fēng)險(xiǎn)預(yù)防原則的結(jié)構(gòu)化闡釋》，《法學(xué)研究》2021年第1期，第43-44頁(yè)。。算法融入自動(dòng)化行政給付，帶來行政給付領(lǐng)域的技術(shù)革新，是數(shù)字政府建設(shè)的必然要求。然而，算法的不確定性與行政給付的特殊性交織，引發(fā)技術(shù)運(yùn)用的不確定風(fēng)險(xiǎn)。因此，應(yīng)將風(fēng)險(xiǎn)發(fā)生的不確定性考慮在法律規(guī)制的范圍內(nèi)，并通過持續(xù)跟蹤的知識(shí)信息更新，不斷調(diào)整優(yōu)化規(guī)制措施，從而及時(shí)實(shí)現(xiàn)對(duì)風(fēng)險(xiǎn)的識(shí)別、處理和規(guī)制金自寧《科技不確定性與風(fēng)險(xiǎn)預(yù)防原則的制度化》，《中外法學(xué)》2022年第2期，第519頁(yè)。。

防范自動(dòng)化行政給付的算法風(fēng)險(xiǎn)，應(yīng)確立風(fēng)險(xiǎn)預(yù)防原則，并發(fā)揮其指引作用。自動(dòng)化行政給付算法風(fēng)險(xiǎn)存在于給付數(shù)據(jù)搜集、處理及分析等環(huán)節(jié)，要確立技術(shù)運(yùn)用的標(biāo)準(zhǔn)，防止技術(shù)的非理性化發(fā)展。風(fēng)險(xiǎn)預(yù)防原則的引入，旨在發(fā)現(xiàn)侵犯相對(duì)人行政給付權(quán)益的現(xiàn)象，并予以及時(shí)處理，以調(diào)整信息不對(duì)稱、算法權(quán)力等引發(fā)的技術(shù)失衡格局，促進(jìn)相對(duì)人給付權(quán)益保障的實(shí)質(zhì)均衡。此外，風(fēng)險(xiǎn)預(yù)防措施也須把握其運(yùn)行的邊界。在自動(dòng)化行政給付中，采取風(fēng)險(xiǎn)預(yù)防措施時(shí)，應(yīng)按照比例原則中的必要性、適當(dāng)性、損害最小等要求，劃定預(yù)防措施的界限，以避免風(fēng)險(xiǎn)預(yù)防措施的濫用。

四 自動(dòng)化行政給付算法風(fēng)險(xiǎn)的法律規(guī)制架構(gòu)

面對(duì)自動(dòng)化行政給付的算法風(fēng)險(xiǎn)，有學(xué)者認(rèn)為，應(yīng)框定自動(dòng)化行政給付的邊界，實(shí)現(xiàn)人與自動(dòng)化設(shè)備的合理定位王敬波《數(shù)字政府的發(fā)展與行政法治的回應(yīng)》，《現(xiàn)代法學(xué)》2023年第5期，第117-118頁(yè)。。也有學(xué)者認(rèn)為，數(shù)字政府的建構(gòu)不能簡(jiǎn)單套用平臺(tái)經(jīng)濟(jì)的理論，對(duì)于自動(dòng)化行政給付，政府應(yīng)承擔(dān)起必要的義務(wù)和責(zé)任馬長(zhǎng)山《數(shù)字法治政府的機(jī)制再造》，《政治與法律》2022年第11期，第21頁(yè)。。還有學(xué)者認(rèn)為，行政給付的全自動(dòng)化裁量應(yīng)當(dāng)堅(jiān)持法律保留，通過法規(guī)或規(guī)章對(duì)給付裁量自動(dòng)化的適用作細(xì)則規(guī)定，防范自動(dòng)化技術(shù)的風(fēng)險(xiǎn)劉星《行政裁量中的技術(shù)控制——基于政務(wù)服務(wù)應(yīng)用場(chǎng)景的實(shí)踐觀察》，《公共行政評(píng)論》2022年第1期，第61頁(yè)。?，F(xiàn)有研究多聚焦于自動(dòng)化行政給付算法風(fēng)險(xiǎn)法律規(guī)制的某一方面，并未形成系統(tǒng)、完整的法律規(guī)制架構(gòu)?；诖耍P者認(rèn)為，自動(dòng)化行政給付算法風(fēng)險(xiǎn)的法律規(guī)制需要充分考慮法律規(guī)范、技術(shù)供給、數(shù)據(jù)共享等方面的因素，結(jié)合分配正義理念和風(fēng)險(xiǎn)預(yù)防原則，從法律規(guī)范、技術(shù)供給、數(shù)據(jù)共享機(jī)制、合作監(jiān)管機(jī)制和法律責(zé)任機(jī)制等五個(gè)方面展開。

（一）完善風(fēng)險(xiǎn)預(yù)防的法律規(guī)范

當(dāng)前，我國(guó)已出臺(tái)《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律法規(guī)，對(duì)算法權(quán)力運(yùn)行過程中的數(shù)據(jù)、平臺(tái)等要素的安全保障作出規(guī)范。然而，鑒于行政給付法律規(guī)范散見于社會(huì)保險(xiǎn)、社會(huì)救助、社會(huì)福利等具體領(lǐng)域，相關(guān)法律規(guī)范與行政給付領(lǐng)域的結(jié)合、銜接及落實(shí)存在一定不足，自動(dòng)化行政給付的算法風(fēng)險(xiǎn)規(guī)制仍有諸多短板。為應(yīng)對(duì)自動(dòng)化行政給付的算法風(fēng)險(xiǎn)，按照風(fēng)險(xiǎn)預(yù)防原則的要求，應(yīng)強(qiáng)化預(yù)防型法律規(guī)則的設(shè)計(jì)，將算法權(quán)力納入法治軌道。首先，應(yīng)完善自動(dòng)化行政給付算法本體規(guī)制的規(guī)則。算法在改變行政給付運(yùn)行邏輯的同時(shí)，帶來算法本體規(guī)制的規(guī)范空白。這使得算法的運(yùn)用處于“無法可依”的狀態(tài)。對(duì)此，在現(xiàn)有法律規(guī)范的基礎(chǔ)上，應(yīng)不斷完善行政給付的法律規(guī)范，尤其是算法本體規(guī)制的法律規(guī)范，把算法權(quán)力納入法治軌道。具體而言，可推進(jìn)行政給付法律規(guī)范的“數(shù)字轉(zhuǎn)型”，樹立預(yù)防為主的法律理念，明確算法的安全運(yùn)營(yíng)要求，提升算法規(guī)制的行業(yè)自律能力，促進(jìn)行政給付與算法法律規(guī)范的銜接。其次，應(yīng)建立自動(dòng)化行政給付算法風(fēng)險(xiǎn)的評(píng)估機(jī)制。由于算法風(fēng)險(xiǎn)發(fā)生的不確定性，對(duì)其規(guī)制應(yīng)采取事前預(yù)防而非事后制止的措施?！稊?shù)據(jù)安全法》第二十二條確立的數(shù)據(jù)安全評(píng)估機(jī)制，為數(shù)據(jù)安全風(fēng)險(xiǎn)信息的獲取、分享和研判等工作奠定了基礎(chǔ)。在自動(dòng)化行政給付中，可借鑒這條思路，圍繞算法的風(fēng)險(xiǎn)隱患，建立行政給付領(lǐng)域的算法風(fēng)險(xiǎn)評(píng)估機(jī)制，對(duì)行政給付算法運(yùn)行展開定性和定量的風(fēng)險(xiǎn)分析，科學(xué)劃分算法風(fēng)險(xiǎn)的發(fā)生層級(jí)，把握算法風(fēng)險(xiǎn)的發(fā)展趨勢(shì)，把事故發(fā)生的概率及損害降到最低王素芬、付浩然《數(shù)字時(shí)代的社會(huì)救助立法檢視》，《理論學(xué)刊》2023年第2期，第87頁(yè)。。最后，應(yīng)完善自動(dòng)化行政給付算法風(fēng)險(xiǎn)的分類處理機(jī)制。對(duì)于自動(dòng)化行政給付風(fēng)險(xiǎn)的定級(jí)，可在低、中、高基本層級(jí)的基礎(chǔ)上，結(jié)合行政給付領(lǐng)域的特點(diǎn)，實(shí)現(xiàn)層級(jí)的精細(xì)化，形成自動(dòng)化行政給付風(fēng)險(xiǎn)的定級(jí)標(biāo)準(zhǔn)。針對(duì)自動(dòng)化行政給付的具體層級(jí)，在考量算法風(fēng)險(xiǎn)發(fā)生的概率、層級(jí)性以及緊急性等基礎(chǔ)上，采取與之相適應(yīng)的處理措施，如禁止算法對(duì)給付數(shù)據(jù)的獲取、限制算法的部分運(yùn)行權(quán)限等，以規(guī)制算法風(fēng)險(xiǎn)。

（二）增強(qiáng)數(shù)字包容的技術(shù)供給

公平分配要求行政機(jī)關(guān)平等地對(duì)待行政給付事項(xiàng)的申請(qǐng)人，依法考量申請(qǐng)人的給付訴求，盡可能地消除歧視，保障申請(qǐng)人給付權(quán)益。在自動(dòng)化行政給付中，公平分配的實(shí)現(xiàn)并不是通過對(duì)技術(shù)的結(jié)果控制，而是要在技術(shù)的研發(fā)環(huán)節(jié)對(duì)技術(shù)的供給提出要求，以防范算法歧視等風(fēng)險(xiǎn)。為此，要增強(qiáng)數(shù)字包容的技術(shù)供給數(shù)字包容是針對(duì)數(shù)字技術(shù)利維坦問題提出的新路徑，也是從數(shù)字排斥現(xiàn)象中引申的新概念，其肇始于20世紀(jì)90年代，而后發(fā)展于21世紀(jì)初。參見：沈費(fèi)偉、胡紫依《建構(gòu)數(shù)字包容體系：實(shí)現(xiàn)鄉(xiāng)村數(shù)字弱勢(shì)群體權(quán)利保障的策略選擇》，《社會(huì)主義研究》2024年第1期，第116頁(yè)。，通過包容性的技術(shù)，降低給付數(shù)據(jù)采集、處理和分析過程中的歧視，為算法應(yīng)用提供具體的技術(shù)指引。數(shù)字包容最初主要用來化解數(shù)字鴻溝等問題，保障數(shù)字弱勢(shì)群體權(quán)益。而后，數(shù)字包容的重要性不斷提升，逐步發(fā)展為數(shù)字時(shí)代社會(huì)包容的概念范疇，并與數(shù)字排斥相對(duì)應(yīng)。特別是域外發(fā)達(dá)國(guó)家關(guān)于數(shù)字包容的細(xì)化實(shí)踐，將數(shù)字包容進(jìn)一步分為數(shù)字準(zhǔn)備、數(shù)字就緒、數(shù)字參與的基本框架，分別對(duì)應(yīng)數(shù)字公平、數(shù)字信心、數(shù)字賦能等目標(biāo)，這為我國(guó)數(shù)字技術(shù)的規(guī)制與理性發(fā)展提供了經(jīng)驗(yàn)啟示楊巧云、梁詩(shī)露、楊丹《數(shù)字包容：發(fā)達(dá)國(guó)家的實(shí)踐探索與經(jīng)驗(yàn)借鑒》，《情報(bào)理論與實(shí)踐》2022年第3期，第195-196頁(yè)。。2019年，國(guó)際電信聯(lián)盟（ITU）對(duì)數(shù)字包容作出專門界定，并將其表述為“旨在確保所有人都有平等的機(jī)會(huì)和適當(dāng)?shù)募寄?，從廣泛數(shù)字技術(shù)和系統(tǒng)中受益的策略”匡亞林、蔣子恒《政府負(fù)責(zé)任創(chuàng)新下數(shù)字包容型老齡社會(huì)構(gòu)建研究》，《電子政務(wù)》2024年第5期，第34頁(yè)。。這不僅為數(shù)字鴻溝的破解提供了治理指引，也為數(shù)字時(shí)代分配正義的實(shí)現(xiàn)提供了具體進(jìn)路。在自動(dòng)化行政給付中，應(yīng)推動(dòng)實(shí)現(xiàn)數(shù)字包容，尤其是關(guān)照數(shù)字弱勢(shì)群體的給付需求，探討算法包容的技術(shù)路徑與治理方案。具體而言，政府要鼓勵(lì)研發(fā)企業(yè)積極開展普惠性、包容性、無障礙的智能系統(tǒng)研發(fā)或升級(jí)工作，為避免算法歧視等風(fēng)險(xiǎn)提供技術(shù)支撐。政府在應(yīng)用智能系統(tǒng)時(shí)，要最大程度地尊重相對(duì)人的給付需求，尤其是數(shù)字弱勢(shì)群體的訴求，并將相關(guān)訴求與算法、智能系統(tǒng)功能相連接，進(jìn)而優(yōu)化自動(dòng)化行政給付算法的技術(shù)供給，形成包容性技術(shù)研發(fā)運(yùn)用的內(nèi)循環(huán)，提升算法運(yùn)用的人性化水平。

（三）形成多維給付數(shù)據(jù)的共享機(jī)制

給付數(shù)據(jù)作為算法的依托對(duì)象，在智能系統(tǒng)的處理中占據(jù)基礎(chǔ)性地位。然而，數(shù)據(jù)處理容易誘發(fā)信息繭房等算法風(fēng)險(xiǎn)，在很大程度上限制了給付數(shù)據(jù)的價(jià)值發(fā)揮，促使智能系統(tǒng)的給付出現(xiàn)趨同乃至同質(zhì)化的現(xiàn)象。故而，規(guī)制自動(dòng)化行政給付算法風(fēng)險(xiǎn)的重要一環(huán)便是形成多維給付數(shù)據(jù)的共享機(jī)制，化解信息繭房等潛在風(fēng)險(xiǎn)。一方面，應(yīng)從源頭上豐富給付數(shù)據(jù)的來源?；谟邢薜慕o付數(shù)據(jù)，算法在讀取或處理數(shù)據(jù)時(shí)容易產(chǎn)生信息繭房的風(fēng)險(xiǎn)。為此，應(yīng)保障相對(duì)人對(duì)給付事項(xiàng)的知情權(quán)、參與權(quán)等，增強(qiáng)公眾對(duì)自動(dòng)化行政給付的了解，提升給付的多元參與。具體來說，可在智能系統(tǒng)運(yùn)用區(qū)域開展宣傳、培訓(xùn)活動(dòng)，如制定自動(dòng)化行政給付智能系統(tǒng)的使用手冊(cè)等，提升公眾對(duì)給付事項(xiàng)的參與能力。這種保障公眾參與的方式，有助于提升給付數(shù)據(jù)來源的豐富度，避免因給付數(shù)據(jù)不足而誘發(fā)信息繭房風(fēng)險(xiǎn)的發(fā)生。另一方面，應(yīng)整合給付數(shù)據(jù)資源，完善多部門給付數(shù)據(jù)的共享機(jī)制。目前，行政給付的數(shù)據(jù)共享更多地基于單一部門與其他部門的聯(lián)合，數(shù)據(jù)共享程度較低。為有效降低信息繭房風(fēng)險(xiǎn)的發(fā)生概率，應(yīng)加強(qiáng)給付事項(xiàng)的數(shù)據(jù)利用，建立自動(dòng)化行政給付事項(xiàng)的數(shù)據(jù)共享平臺(tái)，作為算法處理給付事項(xiàng)的基礎(chǔ)匡亞林、蔣子恒、張帆《數(shù)字技術(shù)賦能社會(huì)救助：緣起、風(fēng)險(xiǎn)及治理》，《上海行政學(xué)院學(xué)報(bào)》2023年第2期，第95-96頁(yè)。。具體而言，可將給付職能框定在數(shù)據(jù)庫(kù)中，構(gòu)建給付行政整體的公共服務(wù)職能，在厘定多種給付職能的基礎(chǔ)上，形成給付行政的具體清單，由給付事項(xiàng)的負(fù)責(zé)部門提供基本數(shù)據(jù)，給付事項(xiàng)涉及單位提供相關(guān)數(shù)據(jù)，實(shí)現(xiàn)給付事項(xiàng)數(shù)據(jù)的共治關(guān)保英《數(shù)字化之下的給付行政研究》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》2022年第6期，第75頁(yè)。。在數(shù)據(jù)共享中，給付數(shù)據(jù)可重復(fù)使用，并作為其他部門處理給付事項(xiàng)的基礎(chǔ)?？纱_立統(tǒng)一的給付標(biāo)準(zhǔn)，對(duì)算法實(shí)施給付的數(shù)據(jù)進(jìn)行分類處理，對(duì)不同給付事項(xiàng)中的基礎(chǔ)數(shù)據(jù)、代碼標(biāo)準(zhǔn)、算法程序等展開標(biāo)準(zhǔn)化的處理，形成自動(dòng)化行政給付算法的技術(shù)平臺(tái)，方便負(fù)責(zé)不同給付事項(xiàng)的部門自主利用。當(dāng)然，在形成數(shù)據(jù)共享機(jī)制時(shí)，須注重?cái)?shù)據(jù)共享的法定界限，應(yīng)在嚴(yán)格落實(shí)《數(shù)據(jù)安全法》等法律規(guī)范的基礎(chǔ)上，平衡技術(shù)使用與個(gè)人信息權(quán)益的保障。例如，在算法處理給付數(shù)據(jù)后，應(yīng)建構(gòu)相應(yīng)的安全保障機(jī)制，保障給付數(shù)據(jù)的安全性，以防止算法侵害個(gè)人信息情況的發(fā)生。

（四）建立算法偏見的合作監(jiān)管機(jī)制

作為自動(dòng)化行政給付算法治理的理念，分配正義是規(guī)制算法風(fēng)險(xiǎn)、保障數(shù)據(jù)安全和實(shí)現(xiàn)技術(shù)理性發(fā)展的指引。在應(yīng)對(duì)算法偏見風(fēng)險(xiǎn)時(shí)，應(yīng)關(guān)注分配正義理念的制度化，建立算法風(fēng)險(xiǎn)的預(yù)防機(jī)制，結(jié)合自動(dòng)化行政給付算法的實(shí)際情況，采取合作監(jiān)管機(jī)制，實(shí)現(xiàn)數(shù)字時(shí)代行政給付的公正目標(biāo)。首先，應(yīng)加強(qiáng)對(duì)自動(dòng)化行政給付算法的行政監(jiān)管。面對(duì)自動(dòng)化行政的算法決策風(fēng)險(xiǎn)，行政機(jī)關(guān)應(yīng)進(jìn)階對(duì)算法本身進(jìn)行規(guī)制，以提升算法治理的能力張凌寒《算法規(guī)制的迭代與革新》，《法學(xué)論壇》2019年第2期，第23頁(yè)。。具體而言，對(duì)于線上監(jiān)管，行政機(jī)關(guān)應(yīng)建立自動(dòng)化行政給付算法監(jiān)管平臺(tái)，完善算法風(fēng)險(xiǎn)的定期檢查和動(dòng)態(tài)追蹤機(jī)制，以應(yīng)對(duì)算法應(yīng)用所帶來的偏見。為保證算法風(fēng)險(xiǎn)監(jiān)測(cè)的常態(tài)化，行政機(jī)關(guān)應(yīng)建立算法應(yīng)用的監(jiān)管機(jī)構(gòu)，設(shè)計(jì)科學(xué)的監(jiān)管規(guī)則，監(jiān)督算法的實(shí)際運(yùn)行。例如，在事前，政府可采取算法備案監(jiān)管的方式，要求委托的算法設(shè)計(jì)或研發(fā)單位將算法的技術(shù)信息向監(jiān)管機(jī)構(gòu)備案張吉豫《論算法備案制度》，《東方法學(xué)》2023年第2期，第92頁(yè)。；在事中，政府可結(jié)合算法監(jiān)管平臺(tái)，監(jiān)測(cè)算法風(fēng)險(xiǎn)；在事后，政府可依據(jù)法律規(guī)范對(duì)算法主體的實(shí)踐合規(guī)性進(jìn)行審計(jì)，并圍繞公平性、透明度、安全性指標(biāo)對(duì)算法輸出結(jié)果的風(fēng)險(xiǎn)展開審計(jì)，進(jìn)而衡量算法系統(tǒng)的社會(huì)嵌入影響以及嵌入過程的合法性張欣、宋雨鑫《算法審計(jì)的制度邏輯和本土化構(gòu)建》，《鄭州大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》2022年第6期，第35頁(yè)。。其次，政府應(yīng)引導(dǎo)企業(yè)、行業(yè)協(xié)會(huì)、科研機(jī)構(gòu)等參與算法規(guī)制的過程。在行政監(jiān)管之外，為促進(jìn)多主體治理的協(xié)同化，應(yīng)引導(dǎo)包含設(shè)計(jì)方、第三方在內(nèi)的主體參與算法風(fēng)險(xiǎn)的協(xié)作規(guī)制，以應(yīng)對(duì)算法應(yīng)用帶來的風(fēng)險(xiǎn)。企業(yè)作為自動(dòng)化行政給付算法的研發(fā)主體或維護(hù)主體，其參與算法規(guī)制的監(jiān)督過程，有助于及時(shí)了解社會(huì)公眾的實(shí)際所需，理解行政機(jī)關(guān)對(duì)算法監(jiān)管的實(shí)際要求，促使其增強(qiáng)自律意識(shí)，提升算法決策服務(wù)的質(zhì)量。行業(yè)協(xié)會(huì)一般由算法、大數(shù)據(jù)、人工智能等領(lǐng)域的專業(yè)人士組成，由其對(duì)算法風(fēng)險(xiǎn)規(guī)制提出專業(yè)意見，有助于克服算法風(fēng)險(xiǎn)規(guī)制專業(yè)知識(shí)和應(yīng)用經(jīng)驗(yàn)不足的短板，增強(qiáng)對(duì)算法風(fēng)險(xiǎn)的監(jiān)測(cè)能力。另外，專家對(duì)自動(dòng)化行政給付算法的監(jiān)督，有助于提升算法規(guī)制的專業(yè)性，補(bǔ)充算法風(fēng)險(xiǎn)跨領(lǐng)域性、前沿性發(fā)展等規(guī)制的不足，形成算法規(guī)制外部監(jiān)督的有效力量。再次，應(yīng)促進(jìn)社會(huì)監(jiān)督與政府監(jiān)管的協(xié)同聯(lián)動(dòng)。行政給付是典型的惠益性行政方式，按照法律法規(guī)的規(guī)定，公民在失業(yè)、年老、疾病或遭受自然災(zāi)害等特殊情況下，可向行政機(jī)關(guān)提出申請(qǐng)，以獲得一定物質(zhì)性或物質(zhì)性相關(guān)的利益江國(guó)華《中國(guó)行政法（總論）》，武漢大學(xué)出版社2017年版，第233頁(yè)。。相較于商業(yè)領(lǐng)域的算法設(shè)計(jì)，公共事業(yè)領(lǐng)域的算法設(shè)計(jì)嵌入社會(huì)的程度更深，且與個(gè)人經(jīng)歷、內(nèi)容場(chǎng)景等有很強(qiáng)的關(guān)聯(lián)性張欣《算法解釋權(quán)與算法治理路徑研究》，《中外法學(xué)》2019年第6期，第1441-1442頁(yè)。，這就要求強(qiáng)化相對(duì)人的參與式治理，幫助監(jiān)管方及時(shí)發(fā)現(xiàn)和化解自動(dòng)化行政給付算法風(fēng)險(xiǎn)，以形成監(jiān)管的合力應(yīng)對(duì)張欣《生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管》，《現(xiàn)代法學(xué)》2023年第3期，第119頁(yè)。。在權(quán)利設(shè)置上，應(yīng)賦予相對(duì)人在自動(dòng)化處理中獲得有效通知和發(fā)表意見的權(quán)利，如設(shè)置必要的人工介入等，以對(duì)抗“自動(dòng)化偏見”喻少如、雷剛《精準(zhǔn)扶貧中個(gè)人信息的利用及其邊界》，《北京理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2022年第1期，第149頁(yè)。。

（五）完善技術(shù)運(yùn)用的法律責(zé)任機(jī)制

法律責(zé)任的分擔(dān)對(duì)于規(guī)避算法虛化、算法逃逸等風(fēng)險(xiǎn)意義重大。在數(shù)字政府的視域下，需要完善自動(dòng)化行政給付的責(zé)任機(jī)制，明確政府、算法設(shè)計(jì)者、算法維護(hù)者等主體責(zé)任。對(duì)于政府而言，其責(zé)任是行政給付過程中的法定責(zé)任。自動(dòng)化行政給付的算法設(shè)計(jì)由行政機(jī)關(guān)設(shè)定規(guī)則，并委托給特定企業(yè)或機(jī)構(gòu)研發(fā)，算法行為的責(zé)任主體仍為行政機(jī)關(guān)。因而，應(yīng)強(qiáng)化行政機(jī)關(guān)在算法設(shè)計(jì)和運(yùn)用中的責(zé)任設(shè)置。例如，針對(duì)政務(wù)數(shù)據(jù)系統(tǒng)的算法黑箱、算法解釋不足的情形，可分別賦予行政機(jī)關(guān)提升透明度的責(zé)任、作出相應(yīng)解釋的責(zé)任，以防止算法的技術(shù)表象對(duì)政府責(zé)任的掩蓋徐繼敏《數(shù)字時(shí)代行政法的發(fā)展》，《行政法學(xué)研究》2024年第3期，第92頁(yè)。。在類型上，政府責(zé)任可分為監(jiān)管責(zé)任、擔(dān)保責(zé)任等。監(jiān)管責(zé)任要求行政機(jī)關(guān)履行監(jiān)管職責(zé)，對(duì)算法模型的設(shè)計(jì)、測(cè)試和應(yīng)用等各階段進(jìn)行監(jiān)管，提升算法的透明度和解釋性，防止申請(qǐng)人的數(shù)據(jù)被侵奪和隱私被泄露，保障算法給付公正性、效率性的實(shí)現(xiàn)。擔(dān)保責(zé)任要求在算法設(shè)計(jì)者等承擔(dān)部分或全部責(zé)任時(shí)，政府承擔(dān)擔(dān)保其實(shí)際履行的責(zé)任。在民營(yíng)化的合作治理中，政府承擔(dān)的擔(dān)保責(zé)任主要包括挑選合格的合作伙伴、履行協(xié)議、國(guó)家賠償以及合作難以為繼的承接責(zé)任張敏《數(shù)字政府建設(shè)政企合作法律風(fēng)險(xiǎn)的規(guī)制模式》，《現(xiàn)代法學(xué)》2024年第3期，第187-188頁(yè)。。算法設(shè)計(jì)者的責(zé)任來源于對(duì)政府委托設(shè)計(jì)要求的實(shí)現(xiàn)以及算法設(shè)計(jì)中偏差、錯(cuò)誤等避免的合同責(zé)任。當(dāng)然，對(duì)其設(shè)計(jì)的算法在實(shí)踐中引發(fā)權(quán)益侵害，也應(yīng)承擔(dān)侵權(quán)責(zé)任。算法維護(hù)者的責(zé)任同樣來源于維護(hù)協(xié)議的規(guī)定，此時(shí)算法維護(hù)者是否應(yīng)當(dāng)承擔(dān)責(zé)任，應(yīng)取決于其對(duì)算法運(yùn)作是否產(chǎn)生實(shí)質(zhì)影響。例如，在算法失靈情況下，由其參與調(diào)整算法邏輯的運(yùn)行導(dǎo)致的侵權(quán)行為，應(yīng)在行政機(jī)關(guān)委托維護(hù)協(xié)議的范圍內(nèi)承擔(dān)責(zé)任。

在責(zé)任分擔(dān)中，需要確定侵權(quán)主體、侵權(quán)行為、因果關(guān)系和責(zé)任認(rèn)定?？蛇\(yùn)用算法記錄留存機(jī)制和算法影響評(píng)估機(jī)制來判斷相關(guān)主體責(zé)任承擔(dān)及比例。算法記錄留存機(jī)制通過確定算法運(yùn)行的軌跡，回溯侵權(quán)行為相關(guān)時(shí)間段的行為過程，記錄申請(qǐng)人給付意愿確認(rèn)后算法系統(tǒng)的行為活動(dòng)，以判斷在此期間是否存在算法維護(hù)者對(duì)系統(tǒng)的調(diào)整、參數(shù)的修改等。算法影響評(píng)估機(jī)制的運(yùn)行，主要來源于第三方的算法評(píng)估報(bào)告，行政機(jī)關(guān)借此判斷算法侵權(quán)行為發(fā)生后的影響范圍及程度等。在侵權(quán)行為發(fā)生后，行政機(jī)關(guān)可基于侵權(quán)行為發(fā)生后相近時(shí)間點(diǎn)的評(píng)估報(bào)告，把握算法侵權(quán)的風(fēng)險(xiǎn)點(diǎn)及成因，采取及時(shí)補(bǔ)救措施。在責(zé)任追究方面，前述機(jī)制同樣可作為責(zé)任歸屬和后續(xù)處理的基礎(chǔ)。算法記錄留存機(jī)制可還原侵權(quán)行為發(fā)生的情況。算法影響評(píng)估機(jī)制可作為判斷侵權(quán)行為的影響及侵權(quán)擴(kuò)大前后的責(zé)任范圍。反過來，若相關(guān)主體違反前述義務(wù)的要求，其責(zé)任應(yīng)由哪個(gè)主體承擔(dān)及承擔(dān)多少將更為明晰。在侵權(quán)行為與責(zé)任承擔(dān)之間，還存在過錯(cuò)責(zé)任、無過錯(cuò)責(zé)任或過錯(cuò)推定責(zé)任的歸責(zé)以及歸責(zé)方案的細(xì)化，鑒于行政給付的公共屬性，應(yīng)以無過錯(cuò)責(zé)任作為行政機(jī)關(guān)、算法設(shè)計(jì)者、算法維護(hù)者等主體責(zé)任的要求，以強(qiáng)化其義務(wù)履行要求。當(dāng)然，在智能算法系統(tǒng)的運(yùn)行中，各主體對(duì)外承擔(dān)連帶責(zé)任，對(duì)內(nèi)承擔(dān)相應(yīng)責(zé)任，并允許責(zé)任主體之間的相互追償肖夢(mèng)黎《算法行政責(zé)任的分布式重建》，《國(guó)家檢察官學(xué)院學(xué)報(bào)》2023年第2期，第52頁(yè)。。

五 結(jié)語(yǔ)

隨著數(shù)字技術(shù)的快速發(fā)展，算法與行政給付的深度融合不僅增強(qiáng)了政府服務(wù)的回應(yīng)能力，也提升了行政給付的效能。但是，這也帶來了算法歧視或偏見、算法權(quán)力、信息繭房等新型風(fēng)險(xiǎn)。為規(guī)制自動(dòng)化行政給付算法的風(fēng)險(xiǎn)，我們需要更新分配正義理念，確立風(fēng)險(xiǎn)預(yù)防原則，并將其貫穿于自動(dòng)化行政給付算法運(yùn)用的全過程，厘定算法風(fēng)險(xiǎn)的法律規(guī)制向度。在規(guī)制架構(gòu)上，應(yīng)完善風(fēng)險(xiǎn)預(yù)防的法律規(guī)范，增強(qiáng)數(shù)字包容的技術(shù)供給，形成多維給付數(shù)據(jù)的共享機(jī)制，建立算法偏見的合作監(jiān)管機(jī)制，完善技術(shù)運(yùn)用的法律責(zé)任機(jī)制，以健全自動(dòng)化行政給付算法風(fēng)險(xiǎn)的法律規(guī)制體系。自動(dòng)化行政給付算法是給付法律規(guī)范實(shí)施向計(jì)算機(jī)運(yùn)用的轉(zhuǎn)型，本質(zhì)上是實(shí)施手段的更新變化。其中，更為重要的是從算法給付向依法給付的回歸。

［責(zé)任編輯：蘇雪梅］