算法行政的興起、風險及其防控

文／翟月熒

技術進步帶來的變革，正在改變著這個世界。在推進政府治理體系和治理能力現(xiàn)代化進程中，算法被廣泛運用于行政領域，并被作為政府決策的輔助手段。算法與政府治理的深度融合逐漸形成了一種新的治理架構——算法行政。算法行政的高效性、精準性和中立客觀性有助于實現(xiàn)政府治理的智能化轉(zhuǎn)型，提升行政決策的科學化水平。人們在享受“技術紅利”的同時，也要看到算法行政給政府社會治理帶來的沖擊和挑戰(zhàn)。算法黑箱、算法歧視成為算法行政不可規(guī)避的問題，進一步厘清算法行政所帶來的風險，找出算法行政風險的防控措施，具有極其重要的現(xiàn)實意義。

一 從技術到權力：算法行政的興起

算法是一個技術概念，是指導機器完成某一特定工作的一系列指令，而機器學習則是模仿人腦的思維過程，通過對已有數(shù)據(jù)進行學習建模，而后根據(jù)更多的數(shù)據(jù)對模型進行修正和分析。[1]而算法權力則以一種新型權力的形態(tài)呈現(xiàn)。算法嵌入社會權力機構，影響和改變著社會運行和社交方式，成為調(diào)配社會資源的一種重要新興力量，構成“算法權力”。[2]在提供便利的同時，算法也在潛移默化影響著人們的生活方式和日常決策。通過數(shù)據(jù)共享的方式，實現(xiàn)內(nèi)在的延伸或擴展，從而系統(tǒng)性地影響社會的方方面面。同時，憑借敏捷地處理海量信息、高效地流轉(zhuǎn)行政事務、持續(xù)地深度學習等方面的顯著優(yōu)勢，為政府治理提供了更加廣泛和多元的應用場景，如治安風險預警、警務資源調(diào)配、政府自動化決策等等。

算法為政府治理提供了一個很好的決策實現(xiàn)路徑。通過大數(shù)據(jù)輸入，經(jīng)過特定程序而輸出特定的“決策結果”，從理論上講算法本質(zhì)上僅僅是一種技術，然而，隨著政府、企業(yè)、公民個體對算法技術依賴性的增強，算法實際上具備了對指向目標的某種技術上的強制性權力。通過對個體的干預、對社會的引導、對政府決策的影響，一種事實上的權力正逐步形成，即算法權力?！八惴嗔Σ皇呛暧^的政治統(tǒng)治權，不涉及暴力和敵對性的權力爭奪，而是一種普遍存在于社會運作和個人生活中的‘泛在’的權力關系，表現(xiàn)為對人或主體無處不在的行為引導和可能實施的操縱，因此，算法權力實質(zhì)上是一種以治理為目標的權力關系?！盵3]算法與政府治理的深度融合就形成了一種新的治理架構——算法行政。

（一） 算法行政的建構原理

“伴隨著海量數(shù)據(jù)和高效算力，大數(shù)據(jù)技術重新界定了國家、社會的互動關系和二元邊界，實現(xiàn)了全方位、系統(tǒng)化的國家賦權和社會賦權?！盵4]信息技術、數(shù)字技術的發(fā)展有助于單一、集中式的政府治理模式轉(zhuǎn)型為網(wǎng)絡化、平臺化的新型治理模式。首先，人們交往方式已經(jīng)從封閉化、家族化、單一化的傳統(tǒng)社會交往形態(tài)轉(zhuǎn)變?yōu)殚_闊化、快速化、陌生化的網(wǎng)絡交往形態(tài)，極大地擴展了個體交往的范圍，這對傳統(tǒng)的政府治理提出了挑戰(zhàn)。其次，隨著網(wǎng)絡世界信息交流的高速發(fā)展，信息的傳播范圍、速度、內(nèi)容達到了前所未有的范圍。個體接收的信息呈現(xiàn)冪數(shù)級增長，這就會出現(xiàn)大量的監(jiān)管盲區(qū)。監(jiān)管對象的復雜化、多樣性對傳統(tǒng)監(jiān)管模式提出了新要求，促使算法行政進入政府治理的視野。

與此同時，算法技術的專業(yè)化、高效性使算法以擴展的方式嵌入了政府治理、行政決策之中，形成了“自動收集、自動分析、自動決策”的算法行政體系。算法利用系統(tǒng)的架構優(yōu)勢獲得大量的數(shù)據(jù)和信息，通過強大的算力對數(shù)據(jù)進行高速計算，得出優(yōu)于人類計算的數(shù)據(jù)，進一步增強了人們對算法決策的依賴，增加了算法行政的外延、提高了公權力運行的效率。算法已經(jīng)被廣泛運用于行政領域，并且作為政府決策的一種輔助手段，做出具有行政效力的算法決策。比如，通過算法對交通違規(guī)行為的抓取和計算，據(jù)此對交通肇事者進行處罰。又如，算法以服務對象的訴求和需要為導向，重新設計、建模，為服務對象或監(jiān)管主體提供量身定做的應用場景，并將此應用場景進行量化產(chǎn)出，應用于加大規(guī)模的監(jiān)管對象，以極小的成本撬動更大的收益。

（二） 算法行政的演進路徑

1.城市治理的技術化浪潮。隨著城市治理范圍和深度的不斷拓展，城市治理失靈呈現(xiàn)出的政策偏差、制度低效、規(guī)制失敗、服務質(zhì)量差以及群眾不滿意等問題提出了治理變革的要求，特別是提出了專業(yè)性、精確性、科學性和有效性等方面的要求。由此，城市治理向科學技術尤其是信息技術靠攏，尋找解決社會問題的技術答案。[5]如杭州“城市大腦”通過智能調(diào)節(jié)紅綠燈，車輛通行速度最高提升了11%?！俺鞘写竽X”最大的進步在于實現(xiàn)了城市的實時化和智能化資源調(diào)度，解決了城市交通、能源、供水等方面的調(diào)度問題，讓城市運轉(zhuǎn)效率更高。[6]又如在食品安全領域，貴陽觀山湖區(qū)創(chuàng)新智慧監(jiān)管平臺，監(jiān)管人員可通過手機客戶端、電腦終端及監(jiān)控中心進行監(jiān)控，實時執(zhí)法監(jiān)管；消費者也可通過手機APP觀看餐廚圖像，讓食品企業(yè)接受群眾監(jiān)督，引導公眾直接參與。[7]這種協(xié)同監(jiān)管有助于提升監(jiān)管效能。

2.政府治理的智能化轉(zhuǎn)型。算法行政對于提高行政效率，減輕行政負擔具有積極作用。在行政審批等環(huán)節(jié)運用算法有助于減輕行政人員負擔并降低行政時間成本，從而節(jié)省人力成本和精簡機構設置。如不少地方政府一網(wǎng)通辦業(yè)務，大幅縮短審批辦理時限，審批辦理時限比承諾時限平均減少一半。同時算法有助于實現(xiàn)政府治理過程中資源配置的優(yōu)化，化解“低質(zhì)低效”“供需不匹配”等難題。算法行政可以通過自身在信息收集、存儲以及強大的算力優(yōu)勢，將分散、碎片化的公共資源進行重組和歸類，達到減少行政成本、提升治理效果的目的。

同時，算法行政具有高精準度、高匹配性的特點，對治理對象的精準識別和分類是展開有效行政的前提。通過對海量數(shù)據(jù)進行挖掘、收集、分析，對行為對象模擬“人物畫像”，以精準預測其未來行為，進而達到“靶向”治理的效果，提高行政治理的精準度。

此外，公平、公正一直是人們對于公共行政最基本的訴求。算法因其技術屬性被人們普遍認為具有“技術中立”的特性，其能夠摒棄偏見、復雜的人情關系等人為因素而做出公正的決策，實現(xiàn)行政決策的客觀與公正。

二 算法行政的風險樣態(tài)及成因

傳統(tǒng)社會里，涉及到分配和承認的社會正義問題是由國家、市場和社會來解決的。但在數(shù)字生活世界里，社會正義很大程度上取決于操持相關算法的人。算法濫用會導致諸多風險的產(chǎn)生：對政府公信力的侵蝕、對公共性的消解、對社會公平的妨害、對個人隱私的侵犯等等。算法風險給正常的政治和社會秩序造成影響，給社會公平公正和民眾合法權益帶來挑戰(zhàn)。

（一）“技術利維坦”對政府公信力的侵蝕

算法行政最初只是一種政府治理的輔助手段，隨著智能算法自我學習能力的不斷優(yōu)化，智能算法決策甚至代替了傳統(tǒng)的人工決策，從原來的類似于委托代理的關系轉(zhuǎn)化為依靠智能算法直接推薦的合理化決策，我們所接受的決策很可能就是智能算法得出的“最優(yōu)決策”。然而，盡管有“智能”的加持，卻改變不了它的技術屬性，算法仍然是一種二進制的計算程序，任何行為、決策都是按照指令代碼行事，無法確定程序化決策能呈現(xiàn)什么后果、產(chǎn)生何種影響。如行政主體的邊界模糊、行政主體責任人不明確等問題。

另外，如果行政人員臣服于算法的“霸權”之下，困于算法的“枷鎖”之中，越來越依賴算法給出的“最優(yōu)決策”，在公共場域中的“角色”被擱置一邊，“公共性”也就無從談起了，甚至帶來主體責任的“漂移”，這會對政府等行政主體的公信力帶來沉重的打擊，政府的合法性將受到質(zhì)疑。

（二）算法“權力異化”對公共性的侵蝕

公共行政活動一直致力于追求“公共性”，算法行政理論上是在構建一種脫離于人類主觀感情和判斷的趨于“絕對”公正的智能社會，然而，因算法內(nèi)在缺陷而導致的“算法歧視”“算法黑箱”等存在著消解行政公共性的隱憂。

首先，算法的嵌入重構著權力架構。作為一種“技術權力”，背后是運行算法的技術公司。這些新興算法技術公司正逐步滲透或接管政府的部分公共行政職能，甚至在一定程度上可以代替政府作出決策，客觀上具有了一種行政能力，由此衍生的“私權力”存在著侵蝕公權力的隱患。

其次，面對算法“異化”對公共性的裹挾，人類的主體話語權正被通過數(shù)據(jù)和算力精準推測出的需求所代替，算法行政中行政主體和行政客體之間的交流已經(jīng)呈現(xiàn)出一種“非現(xiàn)場”式交流，即以一種“人機”“互機”的形式存在，“身體的直接交流讓位于通過數(shù)字化編碼的虛體的中介進行交流。作為身體的影子的虛體正在逐漸凌駕于身體之上，成為控制和支配身體的力量”。[8]算法語境下的公共關系將會陷入一種人與人、人與機器甚至機器與機器之間的新型公共關系，人類將面臨公共話語權被擠壓的風險。

最后，公眾對于公共性的理解可以視為以下兩種情況：一是公眾對公共生活的參與度，二是行政主體對公眾訴求的回應。這兩個方面都不應忽視技術所帶來的深刻影響。從功能效應來看，算法技術依托其強大的自主學習能力，不斷精準推測公眾的意圖、獲取公眾的訴求，公眾參與逐漸被擁有強大算力的算法所取代；從社會功效來看，算法以其強大的技術優(yōu)勢，使人們陷于“技術依賴”“技術崇拜”，削弱人們對公共政策的參與、表達能力，技術上占有絕對優(yōu)勢的專家客觀上壟斷了決定公共決策走向的權力，存在淪為技術精英主導的不利趨向。

（三）數(shù)據(jù)不公正對社會公平的侵蝕

“到目前為止，計算機還完全不理解公平這個概念。程序員不知道該如何為公平編碼，他們的老板也很少會要求他們做這件事。”[9]設計者在設計、建模的同時不可避免會將主觀因素帶入算法當中，主觀性較強的算法嵌入具體社會治理時，就容易出現(xiàn)判斷的偏差，既損害個體權利，也會對整體社會利益造成侵蝕，加劇原已存在的不公平現(xiàn)象。另外，盡管依據(jù)算法“精準畫像”來對人群進行“評分”“評級”有其優(yōu)勢，但從本質(zhì)而言，這種精準評估本質(zhì)上是一種差別化對待。近年來美國大選多次利用算法來劃分人群，競選者只需關注“搖擺不定”的選民群體即可，那些利用算法推測出的支持者則被忽視。算法將個體固定于特定的模式、框架中，加劇原已存在的社會不平等。

（四）算法越界成為“窺私木馬”的風險

算法將碎片化、看似毫無聯(lián)系的數(shù)據(jù)進行整合，勾勒出一個個完整的“人物畫像”，成為對個體未來行為預測的重要依據(jù)，生活在智能時代的人們就如同“透明人”一樣被置于治安監(jiān)控之下；又猶如“數(shù)字人”被置于數(shù)字世界，人的一切都可數(shù)字化，個人隱私在各種智能設備中被重新計算、定義。隨著算法與政府治理的深度融合，個人數(shù)據(jù)的存在范圍也隨之擴大，個人隱私的邊界也隨之拓展。政府社會治理依賴于大量數(shù)據(jù)，才能對社會治理進行有效的架構和優(yōu)化，個人數(shù)據(jù)被采集后，受限于政府監(jiān)管制度的不健全，數(shù)據(jù)采集技術的滯后等，人們時刻面臨著信息泄露的風險。社會治理與數(shù)據(jù)收集存在著一種特定的關系，數(shù)據(jù)的冗余會加劇個人隱私泄露風險。著名的Facebook數(shù)據(jù)泄露事件，涉及五億多用戶個人隱私信息，數(shù)據(jù)泄露也呈增長態(tài)勢。

三 算法行政的風險防控路徑

要把技術放在制度的籠子里進行規(guī)制，讓算法在法治軌道上健康有序運行，就必須構建算法安全治理體系。2022年3月1日起正式施行的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》提出，要建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度。中共中央辦公廳、國務院辦公廳2022年3月20日印發(fā)的《關于加強科技倫理治理的意見》也提出：加強源頭治理，注重預防，將科技倫理要求貫穿科學研究、技術開發(fā)等科技活動全過程，促進科技活動與科技倫理協(xié)調(diào)發(fā)展、良性互動，實現(xiàn)負責任的創(chuàng)新。具體而言，算法行政的風險防控可從以下三方面推進：

（一）推進算法行政的事前審查評估

一是建立算法分級制度。將算法嵌入到政府治理中時，必須考慮到算法不具備穩(wěn)定的法律屬性，應采用場景式分類，可將算法分為低風險、中風險、高風險。算法行政可定為中風險及以上，將其風險級別定位較低，不當應用算法將會損害公共利益。

二是建立公開透明的算法行政運行機制。算法不透明的運行機制是導致社會治理風險的因素之一，只有建立公開透明的機制才能有效防范算法“黑箱”。首先，要對行政對象進行有限度的公開，內(nèi)容關系到行政對象財產(chǎn)、健康、安全等利益時，應向行政對象公開，并且行政對象有拒絕算法決策的權利。同時，對于算法得出的錯誤決策，行政對象可將訴求反饋，使算法行政優(yōu)化，以提高算法行政的治理效能。其次，建立定時、分級公開制度，政府要定期公開算法的使用范圍和領域，哪些政策法規(guī)的出臺依據(jù)了何種算法規(guī)則，對不同的行政對象有何影響以及影響的程度，等等。

三是建立安全評估系統(tǒng)。在政府內(nèi)部設立安全委員會來監(jiān)督算法在行政過程中的應用，評估算法行政的安全等級，并對算法行政影響社會公正的等級進行評估，以確保投入使用的算法是安全、可靠、公正的。

（二）推進算法行政過程中的權力規(guī)制

一是建立國家主導的算法機構。智能時代的來臨加深了各行各業(yè)對技術的依賴，科技領域已經(jīng)成為了新的戰(zhàn)場，誰掌握了算法、數(shù)據(jù)，誰就有可能擁有了博弈的核心籌碼。政府組織對數(shù)據(jù)的占有、對算法的使用上起步較晚。對于超級平臺來說，因其早期的市場占有積累了大量用戶，通過用戶消費、社交活動獲取了巨量的數(shù)據(jù)。國家行政平臺多以合作的形式呈現(xiàn)，應建立以國家主導的算法研究機構，從研究到應用都由國家自主掌控，從而建立國家在算法領域的領導權，為提高政府決策能力提供條件。

二是建立健全法治與監(jiān)督制度，筑建依法行政的法治底線。從社會層面來講，建立健全算法法律體系和監(jiān)管體系，尤其對于行政對象有重大影響的算法技術，應建立相關行業(yè)規(guī)范，或經(jīng)合法程序上升到法律范疇，納入到國家法治體系。打破因技術發(fā)展帶來的算法“霸權”或“代碼即法律”，在具體應用場景中，行政部門運用算法行政必須有法可依。

三是建立算法行政合理應用領域清單。在人工智能時代的早期，算法行政只是作為一種政府決策的輔助手段，隨著技術的進步，人工智能全面涉足國家治理領域?qū)⑹谴髣菟?，不論是限制自動化決策的算法參與政府治理還是自由裁量參與政府治理，都應該建立一個算法行政的應用領域清單，既包含適用范圍清單，也包含不可使用領域清單，要順應技術發(fā)展趨勢進行動態(tài)調(diào)整，才能有效保證清單的可行性和合理性。

（三）推進算法決策的事后相關規(guī)范

一是提高算法的可解釋性。不同人群、不同應用場景對AI算法的可解釋性期待是不一樣的，不應搞一刀切，將一個統(tǒng)一的標準適用于所有情形。在深度學習普遍缺乏可解釋性的情況下，透明度就顯得尤其重要，需要適當披露AI算法的相關信息，可解釋AI便應運而生，成為AI倫理甚至是立法、監(jiān)管的必選項?？山忉孉I可以分為全局可解釋（使公眾理解算法模型本身）和局部可解釋（使公眾理解算法模型的輸出結果）。從2017年的IEEE的《人工智能設計的倫理準則》，到2019年4月歐盟的《可信AI倫理指南》和2020年11月美國的《人工智能應用監(jiān)管指南》，再到2021年9月中國的《新一代人工智能倫理規(guī)范》，以及2021年聯(lián)合國的《人工智能倫理問題建議書》，都在強調(diào)可解釋性和透明性的問題。我國的《個人信息保護法》、網(wǎng)信辦等九部委出臺的《關于加強互聯(lián)網(wǎng)信息服務算法綜合治理的指導意見》、以及《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等相關立法也開始對人工智能算法應用的透明度和可解釋性提出要求。采用了算法模型的公共行政部門，要給予行政相對人知情的權利，和相應的選擇權。要明確告知行政客體，他們的哪些信息使用了算法模型，還要給予他們質(zhì)疑評估結果、檢查并糾正錯誤信息的權利，在可能的情況下也要給予人們管理算法參數(shù)的權利。

二是完善算法行政的監(jiān)管制度。首先，要建立數(shù)字治理的監(jiān)管、協(xié)調(diào)、問責機構，將目前算法行政的被動、松散、無序的狀態(tài)引導成為整體性、專業(yè)化的智能算法。在機構設置上采用監(jiān)管部門與技術人員結合的方式，在專業(yè)化的情況下引導算法行政的公平性。在對算法行政監(jiān)管的同時，還應擔負起制定相關法規(guī)制度、行業(yè)標準的責任。其次，建立相關評估機制，對于算法行政、算法決策中的評估進行抽樣調(diào)查，只有符合評估標準的算法才能運用到政府治理中去，并且對于這些投入使用的算法也要進行定期檢查，以保證算法在參與政府決策中的合理性。最后，要運用技術優(yōu)勢，以技術治理技術，以代碼規(guī)制代碼，如充分利用技術的不可篡改性、可追溯性等優(yōu)勢消弭跨部門、跨地域的數(shù)字鴻溝、信息孤島等。