周 潔

(華東政法大學經濟法學院，上海 200042)

智慧算法憑借其信息處理迅捷、行政規(guī)制高效以及在一定程度上能夠保障社會福利、優(yōu)化治理效果等優(yōu)勢，以前所未有的方式改變了社會救助的組織形式。算法在決策系統(tǒng)中一般指基于客觀經驗證據或數(shù)據的決策規(guī)則，在信息系統(tǒng)中一般指處理數(shù)據的運行流程，本文所論智慧算法屬于前者。隨著中國特色社會主義進入新時代，要深化社會救助制度改革[1]，社會救助作為一項民生工程面臨重大變革與轉型，社會救助立法方興未艾。政府部門要抓住機遇，推動智慧算法在社會救助領域的廣泛應用，優(yōu)化社會救助功能定位，推進社會救助工作高質量發(fā)展。

目前，我國各級政府已普及電子政務，在電子政務的推廣與應用過程中收集了海量數(shù)據。在大量與社會救助相關的個人情況、家庭情況、就業(yè)狀況、住房情況、傷殘程度、勞動能力等數(shù)據的支撐下，數(shù)據解析技術得到廣泛應用，相對人的過去、現(xiàn)在和未來被直觀呈現(xiàn)，能夠為政府部門精準決策提供依據[2]。智慧算法在公共部門的應用應時而起，然而學術界缺乏從公法視角探討智慧算法的成果。社會救助利用智慧算法開展風險評估形成有關資源分配的決策，會面臨算法決策在風險預測方面缺乏準確性和有效性的挑戰(zhàn)。智慧算法具有顛覆性潛力，而我國尚未形成算法應用的監(jiān)管體系，有必要重視相關解決方案和干預措施，有效防范和減輕智慧算法在社會救助領域的風險與危害。

一、智慧算法在社會救助領域的應用價值

“十四五”時期，社會救助事業(yè)將站在歷史發(fā)展的新起點上，進入高質量發(fā)展新階段[3]。小康社會全面建成后，社會救助工作需要轉向更廣闊的群體，救助內容也應當從單一物質幫助向綜合性、服務性幫扶轉變。依托海量數(shù)據和高效算力，社會救助工作能夠建立和完善低收入人口動態(tài)監(jiān)測和常態(tài)化救助幫扶機制，構建社會救助服務的信號燈、預警器和安全網[4]。智慧算法有利于實現(xiàn)智慧救助精細化，建立多維需求評估標準，構建風險防范機制以及強化政策協(xié)調機制。

(一)智慧算法助推智慧救助精細化

《關于改革完善社會救助制度的意見》指出，要加強社會救助信息化，推進現(xiàn)代信息技術的運用[5]。實踐中，多地社會救助管理部門積極探索智慧救助新模式，通過技術賦權和技術賦能打通社會救助“最后一公里”，建構社會救助清單一張網。

智慧救助是指利用信息系統(tǒng)自動處理救助數(shù)據，幫助社會救助服務精準對接救助對象，實現(xiàn)社會救助智能高效和可持續(xù)化發(fā)展的一種新的社會救助形式。具體表現(xiàn)為：以入戶調查、個案服務數(shù)據為基礎，利用互聯(lián)網技術開發(fā)困難家庭個案評估系統(tǒng)。該系統(tǒng)應用智慧算法對個人的碎片化信息進行分析，進而對以家庭為單位的整體信息進行管理。智慧救助精細化是指智慧救助內容的進一步精細化。當前，以保障最低生活為主要功能定位的社會救助制度重點關注最困難人群[6]。開展社會救助工作不能一概而論，而是需要創(chuàng)新、完善社會救助的支持政策，根據家庭人數(shù)、居住環(huán)境、收入情況、身體狀況、殘疾程度、勞動能力等因素區(qū)分高困難家庭、中困難家庭、低困難家庭。智慧算法與政務應用深度融合，能夠實現(xiàn)對困難家庭信息的動態(tài)管理，綜合識別家庭致困原因與其個性化需求，增強對困難家庭的精準服務能力，從而為分層提供社會救助服務提供依據。

(二)智慧算法助推多維化需求評估標準的建立

隨著絕對貧困的消除，服務救助有可能成為繼現(xiàn)金救助之后社會救助制度的主要訴求之一[7]。在此背景下，社會救助衡量標準應當由收入向需求轉變，全方位重塑社會救助服務體系，拓展多維救助服務，利用智慧算法探尋需求評估標準如何進一步多維化，成為推動社會救助工作發(fā)展的新方向。

多維化需求評估是社會救助工作從脫貧向脫困發(fā)展的必然要求，要求從多個維度開展政策干預，以整合、銜接、疏導為核心，以機制、平臺為保障，根據幫扶對象的實際困難和需求，實施有針對性、差異性的幫扶，探索多層次的幫扶形式[8]。智慧算法應用于多維救助的實踐主要是在保證困難群眾物質有保障的基礎上，聚焦社會救助對象的服務需求開展定制化救助。將智慧算法應用于多維幫扶模式有助于實現(xiàn)按照專業(yè)服務程序開展幫扶。如對于因病致困人群，能夠摸清急需醫(yī)療救助對象的基本情況，建立困難群眾就醫(yī)檔案；對于老人兒童，能夠推動建立孤寡老人、留守兒童等弱勢群體心理檔案。依靠智慧算法定位不同層次目標人群的需求，從而提供不同類型的救助。各地政府依托智慧算法能對大量救助數(shù)據進行識別，將被救助主體按地域和致困因素進行分類，優(yōu)化救助服務流程，整合幫扶資源。通過整合和預測樣本數(shù)據評估救助對象的多維化需求，為困難群眾提供多層次、多渠道、多形式的救助服務。

(三)智慧算法助推風險防范機制的構建

智慧算法在社會救助領域的另一種應用就是利用算法規(guī)制開展風險評估，從而精準、高效地定位真正亟需密切關注的領域[9]178，形成有關資源分配的決策。算法規(guī)制是調節(jié)某一領域行為的決策系統(tǒng)，利用從與受規(guī)制環(huán)境相關的動態(tài)組件中產生和直接收集的數(shù)據來計算和生成知識，從而達到管控風險、改變行為和優(yōu)化系統(tǒng)的目的[9]4-6。

當前智慧算法構建風險防范機制的主要手段是依托社會救助信息化平臺建立救助主動識別和預警機制，同時構建智能化研判和預警系統(tǒng)[3]。步驟如下：首先，基于既定規(guī)則，結合困難情況確定救助優(yōu)先級；其次，篩選已獲取的數(shù)據，從大規(guī)模、廣覆蓋的數(shù)據中進一步分析救助的緊缺度；再次，利用機器學習處理海量大數(shù)據集合，確定精準的救助序位模型?，F(xiàn)階段社會救助領域需要防范漏保、未保風險，智慧算法在很大程度上實現(xiàn)了社會救助的應保盡保。地方政府可借鑒國外社會登記系統(tǒng)，利用微信公眾號與小程序構建社會救助智能監(jiān)管系統(tǒng)[10]。利用該監(jiān)管系統(tǒng)，受助人可以通過登錄鄉(xiāng)村、社區(qū)、街道電腦系統(tǒng)采集人臉信息進行建模，建模成功后直接通過信息和人像比對進行智能簽到。此外，該系統(tǒng)涵蓋社會救助對象認定平臺，困難人員可以在線申報，系統(tǒng)附帶申報指南及教學視頻。智慧算法以主動發(fā)現(xiàn)、主動排查、主動救助代替救助申請，改變了以往只能依據個人申請和部門受理申請的單一模式，從人找政策轉變?yōu)檎哒胰?，有利于實現(xiàn)社會救助體系對困難群體的快速定位。

(四)智慧算法助推政策協(xié)調機制強化

在大數(shù)據時代，智慧算法滲透社會救助領域，成為影響該領域變革和發(fā)展的重要技術要素[11]。運用信息技術營造更加精準高效的社會救助服務環(huán)境，優(yōu)化社會救助制度設計，積極推進協(xié)同治理成為社會救助機制的應有之義[12]。

強化政策協(xié)調機制包含兩層含義。一是政府各救助部門協(xié)同合作，二是社會力量參與。政府部門協(xié)同合作是指不同政府部門為完成同一行政目標相互協(xié)作、相互配合，以彼此相助為核心[13]。智慧算法具有高度數(shù)字化、傳播性和互動性特征[14]，云數(shù)據管理可以避免低效采集，提高信息驗證以及文檔保存與分類的效率，打破條塊管理模式下政府救助部門之間信息難以即時溝通的障礙。社會工作介入社會救助服務體系是實現(xiàn)社會救助向縱深發(fā)展的強力支撐，不僅有利于提升社會救助的專業(yè)服務能力，而且使得社會救助工作更加精準高效和人性化[15]。智慧算法積極引導社會力量參與，實現(xiàn)從物質幫扶向服務幫扶的轉變，具體表現(xiàn)為：以云數(shù)據平臺為支撐連接社會工作和救助對象，通過機器學習識別困難群眾的個性化需求，為其提供量身定制服務，并將救助服務信息通過網上發(fā)放等方式向各地志愿組織和慈善人士公布，對于優(yōu)化社會救助具有重要意義。

智慧算法在社會救助領域具有極大的創(chuàng)新前景和應用價值，貫穿社會救助工作的全過程，形成智慧救助的閉環(huán)。然而，算法自動化決策為社會救助帶來機遇的同時，也可能因其對數(shù)據的過分依賴和決策過程的不透明而對受助者造成困擾[16]。

二、智慧算法應用于社會救助的潛在困境

社會救助制度存在供需錯位、權責不清、效率低下以及責任不明等缺陷，導致碎片化和非均等化現(xiàn)象。智慧算法的設計和使用高度依賴大數(shù)據，在社會救助領域需要對救助對象的家庭背景、經濟狀況、收入情況、經濟變動狀況、勞動能力、殘疾評定等信息進行收集評估，數(shù)據采集不完全、不規(guī)范會影響社會救助工作的開展，可能侵害救助對象的知情權、個人隱私和自由以及人格尊嚴[17]，導致數(shù)字歧視、信息侵害和社會救助污名化等不良后果。

(一)信息弱勢群體需求表達不暢導致數(shù)字歧視

數(shù)據采集不及時、不完整、不準確會導致智慧算法對社會救助風險預測準確性和有效性的缺失，引起或加劇數(shù)字歧視。數(shù)字歧視又稱算法歧視，指基于算法的自動決策導致的直接或間接歧視。申請社會救助的群體包括殘疾人、低保戶、低保邊緣困難戶，救助旨在保障肢體、智力、精神上有殘疾的人員和勞動受限或收入有限的人群。智慧算法應用于社會救助時，需要充分詳實地獲取弱勢群體的求助信息和個人數(shù)據，從而作出是否以及如何提供社會救助服務的自動化決策。其中存在的悖論體現(xiàn)為：一方面我國互聯(lián)網基礎設施不斷發(fā)展和普及，互聯(lián)網覆蓋面不斷擴大，但區(qū)域之間、城鄉(xiāng)之間信息化水平依舊差別較大，城市信息化水平明顯高于農村，西部地區(qū)的互聯(lián)網基礎設施建設落后于中部和東部地區(qū)；另一方面，由于人們對信息的認知、理解和接受程度不同，經濟發(fā)展滯后地區(qū)的互聯(lián)網應用水平明顯偏低，以大數(shù)據為基礎的智慧算法會導致數(shù)字化障礙，阻礙某些信息弱勢群體獲取福利的機會，而社會救助目標群體有很大一部分正是這些在獲取信息資源、信息服務、信息資源配置等方面處于弱勢的困難人群。隨著社會救助智慧算法的在線集成，社會救助需求信息的收集和整合越來越依靠互聯(lián)網，大量弱勢群體難以通過智慧算法直接獲得方便快捷的社會救助服務。一些目標群體處于被動等待狀態(tài)，在選擇救助服務的類型和方法方面往往缺乏主動性，無法準確和及時傳達需求，嚴重影響訴求表達與救助服務項目的適配性，造成數(shù)字歧視。

(二)算法可能侵害救助對象個人信息

數(shù)據挖掘本身是一種對個人信息的占有，管理不規(guī)范會加劇對相對人個人信息的侵害[18]。智慧算法在社會救助領域的應用得到大量基礎數(shù)據支持，因為需要確定受益人的家庭背景、經濟狀況等，然而采集的數(shù)據除了決策所需相關信息外，還包含隱私、個人信息或其他敏感數(shù)據，這些數(shù)據可能被提取、處理、組合和傳輸。智慧算法基于相關數(shù)據進行決策在給救助工作帶來便利的同時，容易引發(fā)對個人信息隨意處理的爭議。

《中華人民共和國數(shù)據安全法》第二十八條指出數(shù)據處理活動應符合社會公德和倫理[19]，《中華人民共和國個人信息保護法》第五十四條、第五十五條也強調應當嚴格規(guī)范使用個人信息[20]。在互聯(lián)網時代，個人信息被深度挖掘，公眾面臨信息受侵害的技術風險[21]。隨著數(shù)據開放、信息共享和傳播速度的加快，救助對象的個人信息實現(xiàn)了數(shù)字化，信息安全問題也隨之產生。目前我國還沒有一個專門為社會救助提供大數(shù)據分析的專業(yè)數(shù)據庫，相關平臺的信息安全存在問題，救助對象的個人信息保護更是一項長期而艱巨的任務。從社會救助法的角度看，社會救助是一種資格，被救助者往往由于對權利的期望較低而不得不接受數(shù)字監(jiān)控和數(shù)據庫審查，使用個人信息成為一種附帶條件的權利。在社會救助領域占主導地位的制度(如低保聽證會和民主評議)雖然涉及個人隱私保護，但往往沒有引起足夠的重視[22]。智慧算法的運用強化了個人信息在社會救助中的應用，由于認定對象需要核實家庭經濟狀況，網上救助平臺提供的救助服務涉及救助信息的錄入、查詢、驗證和使用，數(shù)據平臺匯集了大數(shù)據和隱私敏感數(shù)據，在多主體、多環(huán)節(jié)、長鏈條使用數(shù)據的過程中，容易出現(xiàn)信息泄露的情況。一旦具有高度真實性和隱私性的救助信息被泄露，將對救助對象的心理造成很大的影響[23]。計算機化和自動化系統(tǒng)的使用引起了人們對信息隱私和控制個人傳播信息的能力的關注，數(shù)字時代社會救助中的個人信息權保護面臨新的挑戰(zhàn)。

(三)算法可能加劇社會救助污名化

決策過程中使用算法規(guī)則可能會影響個人尊嚴和受尊重的權利[9]178。社會救助制度是社會保障方面的一種非繳費制度。困難群體只要達到政策規(guī)定的標準線或政策規(guī)定的特殊救助標準，經審核同意即可享受相關救助待遇。然而，多層次的資格審查在篩選目標群體時，有可能造成污名化現(xiàn)象[24]。智慧救助在社會救助領域的數(shù)據分析和自動化決策可能會加劇救助污名化。

救助污名化是指對接受社會救助的個人或群體進行污名化，導致不公正和被排斥的過程[25]，主要表現(xiàn)為被救助者在領取社會救助時受到不公平待遇。我國現(xiàn)行的社會救助政策是典型的救濟型而非賦權型的福利模式，具有明顯的維生性和控制性特征[25]，政策的執(zhí)行是從促進管理的角度而不是從受助者自身感受和需要的角度來考慮的。社會救助尋求社會保障或社會福利系統(tǒng)與經濟系統(tǒng)之間的融合，而不是微觀層面的個體行為者之間以及個體行為者與社會制度之間的融合。我國社會救助是基于絕對貧困，也就是低收入。但實際上貧困不僅體現(xiàn)在缺乏食物和衣服，而且體現(xiàn)在缺乏權利和機會。社會救助方式只注重物質救助，卻忽視了被救助者的主觀福利、對權利和社會地位的精神需要。在公開披露制度下，被救助者獲得了物質幫助，但也因此向外界暴露了自己的家庭背景和收入情況，被貼上弱勢群體的標簽，可能面臨被羞辱、被排斥等不良后果。數(shù)據管理向智慧算法的過渡意味著社會救助管理的去中心化，選定救助對象不再依靠特定的機構給出評分或者評估報告，而是可以利用公開的數(shù)據給出評價。公開披露制度非但沒有在實踐中被削弱，反而在“有效封堵權錢交易的漏洞，擠壓暗箱操作的空間”“防范管理混亂和監(jiān)管不力，阻止人情保、關系保、錯保、漏保等現(xiàn)象的發(fā)生”“讓低保名單在居住地長期公示，放在群眾雪亮的目光下，能最大限度地減少人為操作空間”[26]的呼聲中愈演愈烈，進一步加劇了對救助對象的污名化。

三、智慧算法在社會救助領域的困境疏解

目前，學術界關于如何進行算法規(guī)制存在不同觀點，主要有法律說、政策說、管理說、技術性說等，大多數(shù)研究集中在解決技術問題上。但智慧算法于社會救助領域之困境源自算法設計本身的缺陷與社會救助現(xiàn)有制度的不足，因而可以從技術和制度兩個方面尋求疏解之道。

(一)完善智慧算法技術規(guī)則

攻克算法技術難題是疏解困境的關鍵。算法技術應保證可控性、可管理性、透明性和可預測性，并且其系統(tǒng)應是穩(wěn)定、可靠的，確保人們公平使用。完善算法技術規(guī)則應包括以下手段：一是建立事后問責機制以確保決策過程的可靠性；二是建立公眾參與機制，保證智慧算法公開透明，同時公布算法運行規(guī)則和可能造成的傷害，保障社會公眾能夠知曉和積極參與對自己未來生活的科學設計；三是無論在法律上還是道德上，都必須采用無歧視的數(shù)據挖掘技術，避免違反保護個人免遭非法歧視和相關侵權行為的原則；四是不透明性可能會使那些合法權益受到影響的個人難以了解和理解不利決定的依據，當受到質疑時，決策者應清楚說明理由。

(二)優(yōu)化社會救助制度設計

智慧算法給社會救助帶來困難的深層次原因在于社會救助制度設計的自身缺陷，所以在強調攻克技術難題的同時，必須解決社會救助本身存在的問題。

1.更新社會救助理念

社會救助理念在價值層面上包括底線性和預防性。從價值取向看，社會救助政策的目標不應局限于滿足基本生存需要，而應更加關注扶貧對象和挖掘人的潛力，提高其融入社會的能力，擺脫救助污名化。在應用智慧算法完成社會救助服務時，一是要精準聚焦相對貧困的弱勢群體，在保障基本生活的前提下分析其自身優(yōu)勢，提升其自我發(fā)展能力；二是要發(fā)揮智慧算法的精算作用，科學設計社會救助認定標準，進而利用該標準衡量困難程度，分層次進行保障；三是要推動構建全國社會救助大數(shù)據平臺，通過機器學習分析困難家庭的個性化需求，實現(xiàn)社會救助工作的精準高效。四是依托互聯(lián)網平臺，通過智慧算法整合社會救助供需信息，調整社會救助方式與結構，大力推動從物質救助向服務救助轉變。

2.提升社會救助治理能力

智慧算法在社會救助領域的困境在很大程度上反映出社會救助管理部門治理能力有待提高。社會救助的一個重要特征是治理工具的多樣性，依靠政府、社會力量等多方主體的參與和合作。要發(fā)揮智慧算法在社會救助中的積極作用，既要注重整合完善實現(xiàn)保障的多方機制，實現(xiàn)多部門協(xié)作完成困難群眾幫扶，又要依托智慧算法進一步引入社會公眾力量，注入外部血液，強化社會救助的主動造血能力。此外，線上收集社會救助數(shù)據已不能滿足智慧算法的要求，需要實現(xiàn)線上線下相銜接，暢通信息弱勢群體的需求表達渠道。

3.堅持社會救助服務均等化

社會救助作為一項基礎性保障，其內涵與外延都具有明顯區(qū)別于其他公共產品或服務供給方式的特點。社會救助的非均等化導致數(shù)字歧視與污名化，要堅持社會救助服務均等化原則，增強社會救助體系的包容性和可持續(xù)性。社會救助均等化是指困難群體享有平等獲得幫扶的權利，要求政府部門保證其求助渠道暢通、共享社會發(fā)展成果。這就要求在社會救助領域使用智慧算法決策時，應當明確社會救助工作的基礎內容。首先，應照顧到所有類別的困難人群，特別是那些極易被社會忽視的農民工和外來人口。其次，要努力提升服務質量，多方面評估困難人群的需求。再次，平衡供給有限性和需求無限性之間的矛盾，重點補償最困難的弱勢群體。此外，政府部門在應用智慧算法進行決策時還應當關注社會救助水平和社會經濟發(fā)展狀況的動態(tài)平衡，合理利用社會救助幫扶工具，推動社會救助服務均等化。

4.構建社會救助服務事后反饋機制

智慧算法在社會救助領域的應用存在著數(shù)字歧視、個人信息受侵害和救助污名化等諸多潛在困境，要破解這些難題就必須建立社會救助服務事后反饋機制。通過對社會救助服務成效進行評估，如實掌握最新幫扶情況，從而發(fā)現(xiàn)是否存在幫助不足或產生負面效果的情況，及時出臺有針對性的應對方案，切實做到應保盡保。以數(shù)字歧視和救助對象污名化現(xiàn)象為例，要通過對社會救助工作進行事后評估，及時發(fā)現(xiàn)信息弱勢群體無法獲得相應幫助，或者部分被救助者正在蒙受救助污名等情況?？梢苑謩e開展線下幫助和心理引導，并向公眾普及社會救助是公民享有的一項權利，不必排斥，而應盡力爭取，從而為智慧算法提供更為精確全面的數(shù)據，彰顯其積極效應。對于個人信息受侵害現(xiàn)象，可以通過在智慧算法中設計負面評價指標，防范社會救助工作中由于管理不當可能對受助者個人信息造成的侵害。社會救助管理部門應通過反饋機制分析侵害原因并及時整改，避免侵害的持續(xù)發(fā)生。