摘 要：從工業(yè)生產(chǎn)到社會(huì)生活，從零售消費(fèi)到政府治理，各種場(chǎng)景都嵌入了算法的技術(shù)身影。算法在克服人工不足以應(yīng)對(duì)海量處置、及時(shí)介入、精準(zhǔn)預(yù)判等問題上發(fā)揮著積極作用，卻也在算法偏見、算法壟斷、算法獨(dú)裁等方面為人詬病。在精準(zhǔn)計(jì)算的前提下，若要盡可能避免被技術(shù)精準(zhǔn)“算計(jì)”的應(yīng)用風(fēng)險(xiǎn)，平衡技術(shù)適用與深度發(fā)展之間的張力，就必須回應(yīng)并解決算法技術(shù)的正當(dāng)性與正義性問題。具體而言，從數(shù)據(jù)源頭治理出發(fā)，確保數(shù)據(jù)源質(zhì)量，避免可能引起的“算法偏見”；應(yīng)用可信技術(shù)，以技術(shù)規(guī)制技術(shù)；科技向善的技術(shù)生態(tài)，是培育技術(shù)倫理與技術(shù)道德的重要原則；構(gòu)建算法信任的社會(huì)環(huán)境與話語土壤，培育公眾的技術(shù)信任感。

關(guān)鍵詞：算法治理；算法權(quán)力；技術(shù)正當(dāng)；科技向善

中圖分類號(hào)：D630 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1008－7168（2023）03－0036－09

收稿日期：2022-12-15

基金項(xiàng)目：

江蘇高校哲學(xué)社會(huì)科學(xué)基金一般項(xiàng)目“大數(shù)據(jù)背景下個(gè)人信息分類保護(hù)制度研究”（2020SJA0578）。

作者簡(jiǎn)介：

王君君（1985-），女，南京森林警察學(xué)院治安學(xué)院講師，博士。

伴隨著數(shù)字經(jīng)濟(jì)的興起，大數(shù)據(jù)與算法這對(duì)孿生組合將人類帶入“萬物皆可算”的數(shù)字世界。正如萊斯格認(rèn)為“代碼即法律”，算法技術(shù)不僅建構(gòu)起一個(gè)全新的數(shù)字空間，更通過技術(shù)滲透，用代碼影響物理世界的社會(huì)秩序與規(guī)范。由此，關(guān)于算法是否正義、如何確保算法正義的思考進(jìn)入公眾視野。鄭玉雙從算法與法律的關(guān)系維度思考計(jì)算正義的價(jià)值內(nèi)涵^［1］。馬長山認(rèn)為應(yīng)確立數(shù)字正義的原則，在此基礎(chǔ)上框定數(shù)字正義的領(lǐng)域及路徑，從而構(gòu)建算法治理秩序^［2］。林曦、郭蘇建認(rèn)為算法不正義會(huì)加劇不同社會(huì)個(gè)體在數(shù)據(jù)資源的分配與再分配過程中的不平等，個(gè)體甚至出現(xiàn)“量化自我”運(yùn)動(dòng)，以回應(yīng)算法不公平和不正義產(chǎn)生的倫理問題^［3］。

學(xué)者們從不同的專業(yè)視角對(duì)算法正義作了深度剖析。結(jié)合羅爾斯關(guān)于正義理論的經(jīng)典闡述，算法正義的本質(zhì)是社會(huì)既要求算法作為一項(xiàng)技術(shù)，又要求其作為輔助決策的工具，其設(shè)計(jì)、計(jì)算、應(yīng)用等過程應(yīng)符合社會(huì)道德原則，經(jīng)由計(jì)算的決策結(jié)果應(yīng)符合公平、公正的價(jià)值期待。換言之，算法無論是作為技術(shù)本身，還是作為與社會(huì)深度融合的治理工具，都必須符合程序正義，也必然包括結(jié)果正義。算法正義源于工具理性的技術(shù)實(shí)踐與現(xiàn)有價(jià)值體系之間的碰撞與融合。在制度框架下，法律與技術(shù)基于共同追求的價(jià)值目標(biāo)，不斷整合與完善，形成為社會(huì)所信任的技術(shù)與價(jià)值生態(tài)。可以說，算法正義與否直接影響社會(huì)公平正義與科技向善目標(biāo)的實(shí)現(xiàn)。在當(dāng)下算法技術(shù)已然影響并將長期影響社會(huì)發(fā)展的情況下，對(duì)算法正義的討論與思考顯得尤為緊迫與必要。

一、計(jì)算正義：算法應(yīng)用的正當(dāng)性

斯科特·拉什（ Scott Lash）曾言，在一個(gè)媒體和代碼無處不在的社會(huì)，權(quán)力越來越存在于算法之中^［4］?！皟?chǔ)戶紅碼”事件的發(fā)生，刺痛了身處算法圍城之中的普通民眾的敏感神經(jīng)。畢竟，作為“算法凝視”下的數(shù)據(jù)“打工人”，算法技術(shù)對(duì)終端用戶的技術(shù)“馴化”，直接影響普通人的社會(huì)行為能力。換言之，算法不僅是一種輔助商業(yè)管理與社會(huì)治理的技術(shù)工具，更是一種無形的“準(zhǔn)公共權(quán)力”。它比有形的“全景敞視”，更具無形的威懾效果。正如張權(quán)等所言，信息技術(shù)的應(yīng)用效果，不僅取決于應(yīng)用什么技術(shù)，更取決于怎么應(yīng)用——所以說，工業(yè)技術(shù)取代的是胳膊、手和肌肉，信息技術(shù)替換的是傳播、思考和計(jì)算^［5］。

正因如此，探討商業(yè)管理或社會(huì)治理過程中算法技術(shù)使用的正當(dāng)性、正義性、公平性等問題，特別是伴隨著算法技術(shù)的深入發(fā)展，就需要構(gòu)建的技術(shù)信任生態(tài)而言，這樣的思考就顯得尤為必要。

首先，制度層面的法律確認(rèn)是計(jì)算正義的合法性前提，也是技術(shù)應(yīng)用正當(dāng)性的制度保障。算法技術(shù)在與社會(huì)生活相耦合的過程中，其合法性源于法律、法規(guī)、政策等制度性文本對(duì)其社會(huì)地位的確認(rèn)與保障。制度認(rèn)可是算法技術(shù)由理論向?qū)嵺`、由專業(yè)化向社會(huì)化轉(zhuǎn)型的“敲門磚”。在《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》中，國家明確提到算法技術(shù)在繁榮數(shù)字經(jīng)濟(jì)、促進(jìn)社會(huì)發(fā)展、加速互聯(lián)網(wǎng)信息傳播等領(lǐng)域的積極作用。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第六條規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，積極傳播正能量。這就意味著政府從法律層面認(rèn)可算法在傳播主流價(jià)值與輿論導(dǎo)向中的作用。堅(jiān)持算法推薦服務(wù)提供者的應(yīng)盡責(zé)任，可以理解為在法律允許的范圍內(nèi)，算法作為社會(huì)治理的重要技術(shù)工具，應(yīng)該服務(wù)于主流信息傳播與價(jià)值引領(lǐng)。同時(shí)，在國家技術(shù)安全和國家利益安全層面，職能部門的規(guī)章制度也在切實(shí)維護(hù)國家利益安全。比如，2020年，就特朗普政府關(guān)于TikTok在美國的收購業(yè)務(wù)問題，中國商務(wù)部專門發(fā)布了修訂版的《出口管制產(chǎn)品清單》，明確提到“基于數(shù)據(jù)分析的個(gè)性化推送技術(shù)”，這再次證明核心算法技術(shù)的重要法律地位及其對(duì)整個(gè)國家安全的重要作用。

其次，工具理性是計(jì)算正義的技術(shù)保障。在技術(shù)自主性理論看來，技術(shù)既是“裝置”意義上的技術(shù)，即工具、儀器、機(jī)械這些技術(shù)運(yùn)作的物理裝置，也是“技法”意義上的技術(shù)，即完成特定目標(biāo)所涉及的大量技術(shù)活動(dòng)，如方法、步驟和程序等^［5］。算法更符合“技法”意義上的技術(shù)形象。它利用大數(shù)據(jù)構(gòu)建數(shù)據(jù)之間的相關(guān)關(guān)系模型，并在不斷的迭代學(xué)習(xí)中形成“最佳擬合線”的預(yù)測(cè)機(jī)制，以便在后期形成通過大量的數(shù)據(jù)輸入即可快速預(yù)測(cè)結(jié)果的邏輯步驟。算法的技術(shù)優(yōu)越性在于，在算力足夠的情況下，即使面對(duì)海量、復(fù)雜的社會(huì)問題，只要確保運(yùn)算邏輯與計(jì)算模型的客觀性，它就可以高效地實(shí)現(xiàn)既定的預(yù)測(cè)目標(biāo)，進(jìn)而規(guī)避人工處置的低效與不足。換言之，從純技術(shù)角度看，作為治理工具的算法技術(shù)在完成個(gè)體或組織的預(yù)期目標(biāo)、決策預(yù)判等方面，具備絕對(duì)的工具理性且計(jì)算結(jié)果符合程序與結(jié)果正義。

如羅布·基欽（Rob Kitchin）所言，當(dāng)前的城市已經(jīng)成為一種“代碼空間”，軟件和日常生活的空間互嵌共生，軟件的運(yùn)行狀況成為空間轉(zhuǎn)換的重要因素^{［6］（p.13）}。許煜援引康德“有機(jī)模型”說以闡釋當(dāng)前技術(shù)、環(huán)境與人的深度融合現(xiàn)象。他認(rèn)為，“我們比以往任何時(shí)候都更生活在控制論的時(shí)代，全球智能化的出現(xiàn)意味著遞歸性將構(gòu)成我們未來環(huán)境的主要運(yùn)算與操作模式。配備大數(shù)據(jù)的算法遞歸性，將深入人體器官和社會(huì)器官的方方面面”^{［7］（p.233）}。

而算法作為空間切換的“靈魂”，利用無形的技術(shù)滲透，融入有形的社會(huì)生活，并以可視的方式真實(shí)地重塑社會(huì)秩序與活動(dòng)。當(dāng)前數(shù)據(jù)作為信息時(shí)代的新型生產(chǎn)要素，算法作為技術(shù)工具，在實(shí)踐層面已成為社會(huì)治理、城市運(yùn)行的基礎(chǔ)設(shè)施?！皵?shù)據(jù)+算法”構(gòu)成了新時(shí)代的“算法權(quán)力”?；趯?shí)時(shí)掌握的大數(shù)據(jù)，算法遵循技術(shù)設(shè)計(jì)的目標(biāo)導(dǎo)向，利用系統(tǒng)自動(dòng)運(yùn)行與深度學(xué)習(xí)的高效率決策，使計(jì)算正義成為自動(dòng)化決策與算法行政正當(dāng)性與合理性的最佳注腳。如果說前期的計(jì)算技術(shù)輔助社會(huì)治理還處于一種低調(diào)的狀態(tài)，那么自從疫情以來，計(jì)算技術(shù)融入疫情管控、助力復(fù)工復(fù)產(chǎn)，特別是在有序整合與調(diào)動(dòng)社會(huì)資源方面的能力，使黃仁宇筆下的“數(shù)目字管理”更彰顯出大數(shù)據(jù)時(shí)代的技術(shù)魅力。全國范圍內(nèi)掀起的“一網(wǎng)通辦”、互聯(lián)網(wǎng)法院、算法司法證據(jù)等已經(jīng)形成一種依靠“計(jì)算”進(jìn)行日常管理、風(fēng)險(xiǎn)預(yù)測(cè)、預(yù)警監(jiān)督等的治理氛圍與文化。掌握市場(chǎng)、行業(yè)、民生、社會(huì)等領(lǐng)域大量數(shù)據(jù)的平臺(tái)與政府機(jī)構(gòu)因此獲得“算法權(quán)力”，可以基于平臺(tái)或部門利益，利用計(jì)算技術(shù)實(shí)現(xiàn)預(yù)期計(jì)劃。計(jì)算技術(shù)在社會(huì)治理中取得的正反饋，使計(jì)算治理成為一種正義的管理措施。新技術(shù)的優(yōu)越性，特別是在社會(huì)治理領(lǐng)域展現(xiàn)出的技術(shù)自信，使其得以被當(dāng)前的社會(huì)文化、制度所接納、認(rèn)可并廣泛應(yīng)用。技術(shù)使用的實(shí)際效用增強(qiáng)了技術(shù)應(yīng)用的正當(dāng)性。如清華大學(xué)與騰訊公司聯(lián)合發(fā)布的《2020碼上經(jīng)濟(jì)“戰(zhàn)疫”報(bào)告》這樣描繪：通過二維碼，“構(gòu)建人、物、場(chǎng)泛在的數(shù)字化連接，實(shí)現(xiàn)現(xiàn)實(shí)世界與虛擬世界的映射……保障疫情下信息流、客流、商流、資金流的順暢流通與融合發(fā)展，是疫情中政府治理、企業(yè)運(yùn)營、社會(huì)服務(wù)、個(gè)人生活的有力支撐”^［8］。

最后，社會(huì)層面的算法信任是對(duì)計(jì)算正義的價(jià)值認(rèn)同。鄧恩認(rèn)為，只要有可能，人們就需要節(jié)約對(duì)個(gè)人的信任，而去依賴于精心設(shè)計(jì)政治、社會(huì)和經(jīng)濟(jì)方面的制度^{［9］（p.81）}。他將信任分為作為熱情的信任和作為行為模式的信任，所對(duì)應(yīng)的是個(gè)人信任和計(jì)算性信任。維羅妮卡·亞歷山大（Veronika Alexande）等同樣認(rèn)為，由計(jì)算獲得的正義價(jià)值與結(jié)果，培育了算法信任的社會(huì)土壤，使算法技術(shù)的廣泛應(yīng)用獲得了社會(huì)認(rèn)可的“通行證”；算法被人信賴甚至信仰，借助算法解決問題成為超越人類認(rèn)知局限和執(zhí)行能力的更優(yōu)選擇，由此形成了所謂的“算法信任”^［10］。閆宏秀等認(rèn)為技術(shù)特征并非信任的根本來源，人們對(duì)于算法的信任傾向以及算法自身的可信度是構(gòu)建“算法信任”不可或缺的兩個(gè)方面^［11］。在《契約、治理與交易成本》一書中，作者同樣提到計(jì)算性信任的問題。作者認(rèn)為，信任并不是促成最終交易的重要因素，相反，通過計(jì)算，比較成本和收益，建立在數(shù)字計(jì)算上的衡量與信任，才最終促成交易，并作為交易可持續(xù)的重要因素^{［12］（pp.50-51）}。

由此觀之，相較于自由裁量，經(jīng)由計(jì)算獲得的預(yù)測(cè)或決策結(jié)果，更容易讓人直觀感受到技術(shù)理性的正義魅力。對(duì)程序與結(jié)果的認(rèn)同，更有利于培育社會(huì)信任土壤。對(duì)于算法技術(shù)而言，其觸角早已延伸進(jìn)社會(huì)的毛細(xì)血孔之中。因此，社會(huì)對(duì)計(jì)算正義的信任與認(rèn)同是算法從工具性走向社會(huì)性的重要因素。用戶通過可視的社會(huì)變化以及親歷的社會(huì)感知構(gòu)建對(duì)計(jì)算技術(shù)起碼的社會(huì)信任。計(jì)算技術(shù)之所以能在社會(huì)層面培育信任土壤，歸根結(jié)底是因?yàn)?，?jì)算正義的計(jì)算性福利可以提高整體社會(huì)運(yùn)行效率、管理水平與公共福祉。受益于計(jì)算結(jié)果的正義與公平價(jià)值，公眾會(huì)信任基于計(jì)算的技術(shù)并默認(rèn)它可以成為治理工具。

二、算法的算計(jì)：算法技術(shù)的異化

阿瑟認(rèn)為，技術(shù)的本質(zhì)是其與人建立在觀察、理解、模仿基礎(chǔ)上的需求或想象力相遇^［5］。 技術(shù)創(chuàng)造的宗旨是改善社會(huì)生活、提升公共福利。因此，技術(shù)是中立的。然而，布拉班迪爾在《極簡(jiǎn)算法史》一書中指出，任何算法都對(duì)應(yīng)著所有者的一個(gè)計(jì)劃，這意味著，算法計(jì)劃不一定都是有益的^{［13］（p.102）}。換言之，即使技術(shù)本身是中立的，但蘊(yùn)含算法設(shè)計(jì)者、控制者單方面偏好與思路的算法，顯然無法保持價(jià)值中立，并確保計(jì)算結(jié)果的公正性。正如尼克·斯?fàn)柲崛怂?，“平臺(tái)建立了參數(shù)，決定了在行為上和意識(shí)形態(tài)上，什么是可能的。在這個(gè)意義上，平臺(tái)體現(xiàn)了社會(huì)的物質(zhì)超越性：它們讓行動(dòng)、關(guān)系、權(quán)力的設(shè)置成為可能”^{［14］（pp.50-52）}。算法已淪為被平臺(tái)、技術(shù)控制者、社會(huì)治理者“收編的工具”，在技術(shù)壟斷盛行的環(huán)境里，控制技術(shù)運(yùn)行機(jī)制的人積累權(quán)力，必然要密謀防備那些無法獲取專門技術(shù)知識(shí)的人。而技術(shù)變革依賴于整體的生態(tài)變革。因此，掌握算法權(quán)力的利益群體需要謀求一種新的社會(huì)秩序^{［15］（p.4）}。 從這個(gè)意義上而言，算法技術(shù)承擔(dān)的社會(huì)功能并不僅限于用科技改變社會(huì)生活方式，更重要的是它打破了傳統(tǒng)的社會(huì)權(quán)力結(jié)構(gòu)，使掌握算法權(quán)力的利益群體獲得決策話語權(quán)和實(shí)際控制能力。

在以高科技建構(gòu)而成、無可遁逃的原料萃取過程中，個(gè)體都是被榨取的對(duì)象。算法建構(gòu)的網(wǎng)絡(luò)空間已經(jīng)成為技術(shù)壟斷文化中的“基礎(chǔ)設(shè)施”，個(gè)體自愿或者被迫授權(quán)將個(gè)人數(shù)據(jù)呈現(xiàn)給平臺(tái)，時(shí)刻被算法這一“看不見的手”監(jiān)視與操控是無奈但也是唯一的選擇。有學(xué)者感嘆道，這種邏輯讓日常生活成了每日重復(fù)續(xù)約的21世紀(jì)“浮士德”契約，之所以說是“浮士德”契約，是因?yàn)榫退阄覀冎雷约罕仨毟Ч斫粨Q的事物，終有一日會(huì)反過來破壞原有的生活，我們?nèi)匀粺o法從這種狀態(tài)中抽離^{［16］（pp.375-379）}。我們一方面希望能借助這些監(jiān)控計(jì)劃來改善生活，同時(shí)又對(duì)其明目張膽的侵略姿態(tài)感到抗拒。這種沖突思維使人麻木，讓我們逐漸習(xí)慣這種被監(jiān)控、分析、挖掘以及調(diào)整的現(xiàn)況。正如張凌寒提出，從程序法的視角來看，現(xiàn)行算法決策系統(tǒng)的設(shè)計(jì)理念普遍有待商榷^［17］。因?yàn)樗惴ㄔO(shè)計(jì)的出發(fā)點(diǎn)并不是人的需求和利益，圍繞資本投入與最大化的商業(yè)產(chǎn)出，才是算法技術(shù)的設(shè)計(jì)理念，它更多地凸顯其商業(yè)價(jià)值與幫助資本盈利的能力，而忽略了終端客戶的權(quán)利保護(hù)。以某種意義上講，算法技術(shù)已經(jīng)發(fā)生異化，并成為資本與權(quán)力群體的“收編工具”與“監(jiān)控工具”。

第一，技術(shù)層面的“算法黑箱”。陳國權(quán)等認(rèn)為，網(wǎng)絡(luò)社會(huì)中信息、資本、關(guān)系的流動(dòng)背后依賴的是算法的推動(dòng)^［18］。復(fù)雜算法的存在使網(wǎng)絡(luò)社會(huì)成為一個(gè)“黑箱”，在這個(gè)黑箱之中，權(quán)力也突破了傳統(tǒng)基于信息控制的管理體系對(duì)權(quán)力的配置和約束，實(shí)現(xiàn)了權(quán)力的隱身，而價(jià)值觀、特權(quán)就被隱藏在了算法的編碼規(guī)則之中^［18］。其實(shí)，算法黑箱是技術(shù)自帶的缺陷，它是指數(shù)據(jù)從端口輸入到結(jié)果輸出，這中間的過程沒有辦法解釋，特別是在自主學(xué)習(xí)算法、優(yōu)化算法模型中，這一黑箱效應(yīng)更加明顯。正因如此，由這一算法模型輸出的結(jié)果，或許連算法設(shè)計(jì)者自己也未必能解釋清楚。這就導(dǎo)致在一些自動(dòng)化決策系統(tǒng)中，算法因自身的黑箱效應(yīng)而可能會(huì)“誤傷”很多無辜群眾。

第二，算法監(jiān)控下的“全景數(shù)字監(jiān)獄”。吉登斯認(rèn)為，監(jiān)測(cè)指兩類相互關(guān)聯(lián)的現(xiàn)象：一類是積累并整理從個(gè)體的行為中搜集上來的信息；另一類是權(quán)威對(duì)個(gè)體活動(dòng)施予直接管控^{［19］（pp.66-67）}。?？乱蔡岬?，監(jiān)測(cè)是現(xiàn)代國家以總體人口為對(duì)象從事大規(guī)模治理而必不可少的行動(dòng)，將以治理為導(dǎo)向?qū)ι鐣?huì)事實(shí)進(jìn)行收集、儲(chǔ)存、分類、處理的認(rèn)證，從以社會(huì)控制、紀(jì)律約束、行為規(guī)訓(xùn)等為導(dǎo)向的監(jiān)控中結(jié)構(gòu)剝離，并使之成為影響國家行動(dòng)不可或缺之基本知識(shí)的獨(dú)立要素^［5］。赫拉利認(rèn)為，在算法決策已經(jīng)結(jié)構(gòu)性嵌入社會(huì)運(yùn)營的大背景下，“算法社會(huì)”已經(jīng)臨近奇點(diǎn)，即權(quán)威將從個(gè)人轉(zhuǎn)向由算法構(gòu)成的網(wǎng)絡(luò)，人類不會(huì)再認(rèn)為自己是自主的個(gè)體，不再依據(jù)自己的期望度日，而是習(xí)慣把人類整體看作一種生化機(jī)制的集合體，由電子算法網(wǎng)絡(luò)實(shí)時(shí)監(jiān)測(cè)和指揮^{［20］（p.296）}。無獨(dú)有偶，祖博夫也同樣表達(dá)了對(duì)算法技術(shù)實(shí)現(xiàn)“全景監(jiān)視”的擔(dān)憂。她認(rèn)為，監(jiān)控資本家累積極為龐大的知識(shí)，知識(shí)也帶來無比強(qiáng)大的力量，監(jiān)控資本主義就是在這種不對(duì)等的狀態(tài)下運(yùn)行^［16］。監(jiān)控資本家知道關(guān)于我們的一切，但他們的運(yùn)作模式經(jīng)過精心設(shè)計(jì)，使我們一無所知。通過在高度細(xì)化的層面上持續(xù)跟蹤個(gè)人，算法就像一面單向鏡，允許上面的人低頭監(jiān)視下面的人，但對(duì)下面的人而言，沒有任何現(xiàn)實(shí)前景窺視，更不用說理解日益規(guī)范我們?nèi)粘Ｉ畹乃惴ê谙?。多克·希爾斯（Doc Searls）同樣表達(dá)了對(duì)監(jiān)視型數(shù)字經(jīng)濟(jì)前景的擔(dān)憂，并提出“意愿經(jīng)濟(jì)”（intential economy）的理論構(gòu)想。他認(rèn)為，一個(gè)以計(jì)算機(jī)為中介的世界應(yīng)該尋求建立雙向鏡像，因此更應(yīng)側(cè)重真實(shí)的消費(fèi)者授權(quán)愿景^{［21］（p.297）}。德國韓裔學(xué)者韓炳哲更是直言當(dāng)代西方數(shù)字資本主義發(fā)展的畫面是“整個(gè)地球正在發(fā)展成為一個(gè)全景監(jiān)獄”^{［22］（pp.84-85）}。

放眼望去，大街小巷遍及的監(jiān)控?cái)z像頭，智能手機(jī)中各類APP中包含自動(dòng)收集功能的SDK，甚至回到家中各種智能家居產(chǎn)品，無一不在實(shí)時(shí)收集我們的個(gè)人數(shù)據(jù)。換言之，在算法設(shè)計(jì)者眼中，作為終端產(chǎn)品使用者的我們其實(shí)是一組行走的數(shù)據(jù)坐標(biāo)，實(shí)時(shí)在刻畫自己的數(shù)字畫像。我們仿佛生存于一座數(shù)字圍城之中，自愿或者被迫曝光于“算法之眼”的監(jiān)控之下，義務(wù)生產(chǎn)并提交各種類型的數(shù)據(jù)，幫助算法設(shè)計(jì)者優(yōu)化模型進(jìn)而對(duì)我們實(shí)施“全景監(jiān)控”。生存于數(shù)字世界的普通人仿佛是在作繭自縛，自覺地自我匯報(bào)、自我監(jiān)控。

第三，算法助推下算法權(quán)力的社會(huì)控制能力。助推一詞，指的是在這種選擇體系的任何一方，都不通過強(qiáng)制的方式，而是以一種語言方式去改變?nèi)藗兊倪x擇或者改變他們的經(jīng)濟(jì)動(dòng)機(jī)及行為。要稱得上“助推”，便必須使副作用降低到最小甚至可以輕而易舉地避免副作用^{［23］（p.6）}。算法的作用在于它不強(qiáng)制你消費(fèi)、購物，但它通過挖掘你的興趣、愛好，向你展示、提供可能符合你需求的產(chǎn)品，并且在使用推薦算法時(shí)，優(yōu)先將符合預(yù)期的產(chǎn)品進(jìn)行展示，引導(dǎo)你按照算法給出的關(guān)于你的數(shù)字畫像進(jìn)行選擇與決策。

在社交媒體、短視頻平臺(tái)，算法推薦、算法引流等技術(shù)更是可以將符合你價(jià)值的新聞、視頻、消息進(jìn)行合理化推薦，使你生活在“算法回聲室”中。甚至，在面對(duì)熱點(diǎn)問題時(shí)，算法推薦的新聞可能具有輿論引導(dǎo)功能，變相影響、左右你的思維與言論。從某種程度上講，算法起到技術(shù)助推的作用，潛移默化地影響個(gè)人的言論、行為、決策與選擇。而這正是算法權(quán)力的魅力。算法通過將價(jià)值觀、決策數(shù)據(jù)化、編碼化，通過隱形權(quán)力的助推作用，以潤物細(xì)無聲的方式影響你的價(jià)值選擇。因?yàn)椋惴?gòu)建的網(wǎng)絡(luò)社會(huì)已經(jīng)為我們筑起一道看不見的圍墻。掌握算法技術(shù)及擁有算法權(quán)力，意味著獲得了網(wǎng)絡(luò)社會(huì)中稀缺的權(quán)力專屬性。擁有數(shù)據(jù)、掌握數(shù)據(jù)，尤其是擁有算法制定等基礎(chǔ)能力，對(duì)權(quán)力的生產(chǎn)至關(guān)重要^［24］ 。因此，掌握算法權(quán)力的主體正通過算法助推實(shí)現(xiàn)社會(huì)控制，算法以更隱蔽的方式實(shí)現(xiàn)設(shè)計(jì)者的初衷、理念。它成為權(quán)力控制者的有力武器，既具備強(qiáng)有力的監(jiān)督與控制能力，又時(shí)刻保持中立、低調(diào)的技術(shù)形象，使人們很難將算法權(quán)力與奧威爾筆下的“老大哥”相聯(lián)系。

難怪學(xué)者郭春鎮(zhèn)感嘆，面對(duì)零邊際成本的技術(shù)治理，我們應(yīng)該有所警惕，防止出現(xiàn)數(shù)字時(shí)代的網(wǎng)絡(luò)“滑坡效應(yīng)”，應(yīng)通過法律和社會(huì)規(guī)范對(duì)其進(jìn)行約束，避免技術(shù)治理沿著斜坡無限下滑，防止公民被異化為技術(shù)的奴隸，淪為被數(shù)字控制乃至主宰的客體^［25］。

三、計(jì)算還是算計(jì)：算法正義的思考

這讓我們不得不去思考，算法作為一種技術(shù)，它真的中立么？它的計(jì)算行為是正義的么？“儲(chǔ)戶紅碼”事件，讓社會(huì)清醒地認(rèn)識(shí)到，在法律制度滯后于技術(shù)發(fā)展的情況下，無論是平臺(tái)企業(yè)還是政府部門，一旦在技術(shù)協(xié)助下?lián)碛须[形的控制權(quán)力，都有可能因失控而濫用權(quán)力。而虛擬的技術(shù)大網(wǎng)一旦精準(zhǔn)“捕捉”到個(gè)人，將產(chǎn)生現(xiàn)實(shí)的約束力與控制力。面對(duì)新型技術(shù)產(chǎn)生的負(fù)面影響，一句“這是大數(shù)據(jù)系統(tǒng)出了問題”，就足以讓算法問責(zé)因缺乏配套的法律支撐而難以奏效。對(duì)相關(guān)部門而言，算法權(quán)力的大手一揮，就可以以最小的代價(jià)換取最大化的部門利益。而對(duì)于普通個(gè)人而言，比起行動(dòng)自由受限制后的“困獸折磨”，更深層次的問題是當(dāng)個(gè)人正當(dāng)權(quán)利受侵害后的法律救濟(jì)無門。

馬爾庫塞曾言，數(shù)學(xué)邏輯忽視了現(xiàn)實(shí)世界及生活在其中的主體無法加以計(jì)算的不確定性和特殊性^{［26］（p.138）}。 一種由技術(shù)中立建構(gòu)起的計(jì)算正義的社會(huì)話語體系已經(jīng)遭遇了前所未有的信任危機(jī)。然而，算法社會(huì)的來臨已是不可逆轉(zhuǎn)的大趨勢(shì)，從各省市相繼頒布的“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃來看，未來算法技術(shù)的社會(huì)嵌入與融合只會(huì)更加深入。放眼國際數(shù)字經(jīng)濟(jì)與人工智能的發(fā)展大潮，倘若因?yàn)閾?dān)心被算法“算計(jì)”而因噎廢食、自廢武功，長遠(yuǎn)看不僅影響個(gè)人利益更危及國家安全。因此，當(dāng)務(wù)之急就是要解決如何運(yùn)用法律的武器，平衡技術(shù)發(fā)展需要與社會(huì)公共利益之間的張力，確保算法技術(shù)在有效規(guī)避“技術(shù)算計(jì)”弊端的同時(shí)釋放更多公共價(jià)值，創(chuàng)新技術(shù)“賦能”而不是“負(fù)能”的中國式算法技術(shù)發(fā)展之路。在“計(jì)算”與“算計(jì)”之間，只有使算法權(quán)力真正被控制在制度的牢籠之中才能確保算法正義、計(jì)算正義與社會(huì)正義。

當(dāng)今社會(huì)無論是商業(yè)場(chǎng)景、工業(yè)發(fā)展還是社會(huì)治理都需要廣泛、海量地收集數(shù)據(jù)，目的之一就是通過這種低成本的數(shù)據(jù)收集與應(yīng)用，在算法模型的控制下，可以計(jì)算某種社會(huì)契約、社會(huì)行為、社會(huì)風(fēng)險(xiǎn)的可能性與相關(guān)性。在此基礎(chǔ)上，掌控信息的一方，可以全面衡量與評(píng)價(jià)商業(yè)交易、社會(huì)互動(dòng)、公共安全等層面的成本與收益，以此規(guī)避風(fēng)險(xiǎn)，或盡可能降低損失。這也就驗(yàn)證了，為什么各方都在竭力收集數(shù)據(jù)，并且占有數(shù)據(jù)壟斷優(yōu)勢(shì)的主體，努力期望通過制度約束、邊界意識(shí)構(gòu)筑“數(shù)據(jù)城堡”，保護(hù)其在這一領(lǐng)域的主導(dǎo)權(quán)與話語權(quán)。而作為被收集數(shù)據(jù)的弱勢(shì)一方，個(gè)體只能憑借企業(yè)主動(dòng)披露的商業(yè)信譽(yù)、效用等信息完成社會(huì)信任。本質(zhì)上，數(shù)據(jù)控制者利用“知情同意”條款，以明示告知的方式獲得個(gè)體的一攬子信息授權(quán)。而在交易過程中，數(shù)據(jù)個(gè)體成了風(fēng)險(xiǎn)實(shí)際承擔(dān)者。此外，在目前的制度條件下，權(quán)利救濟(jì)需要支付額外沉重的代價(jià)。因此，面對(duì)企業(yè)、政府與社會(huì)組織這類數(shù)據(jù)剛需方，作為數(shù)據(jù)提供者的個(gè)體，顯然承受了更多的風(fēng)險(xiǎn)與壓力。奧利弗·威廉姆森認(rèn)為，話語權(quán)在沒有退出選項(xiàng)的情況下是相對(duì)無效的，那么話語權(quán)就的確有計(jì)算性的一面。資源依賴性方法關(guān)注權(quán)力差距，這種權(quán)力差距產(chǎn)生于當(dāng)契約雙方之間的依賴意外出現(xiàn)時(shí)。如果不能預(yù)見到這種轉(zhuǎn)變，雙方在最初契約上達(dá)成一致后，合作的一方就可能發(fā)現(xiàn)自己在與另一方的關(guān)系中處于權(quán)力劣勢(shì)^{［12］（pp.50-51）}。這就解釋了，為什么在算法技術(shù)融入社會(huì)生活之后，數(shù)據(jù)提供者基本沒有議價(jià)能力與空間，只能被動(dòng)服從數(shù)據(jù)控制者的算法“算計(jì)”。因此，可以試圖從數(shù)據(jù)源頭、技術(shù)制約、算法倫理及算法信任四個(gè)維度確保算法可控與算法公正。

第一，數(shù)據(jù)源把關(guān)。數(shù)據(jù)是21世紀(jì)的石油，更是數(shù)字經(jīng)濟(jì)時(shí)代重要的生產(chǎn)要素，掌握數(shù)據(jù)就意味著掌握新的生產(chǎn)力與社會(huì)權(quán)力。正如姚尚建所言，數(shù)字社會(huì)權(quán)力生產(chǎn)的技術(shù)條件是對(duì)數(shù)據(jù)的占有，這對(duì)國家和社會(huì)概莫能外；作為信息的符碼化載體，擁有數(shù)據(jù)以及掌握數(shù)據(jù)運(yùn)作尤其是算法制定等基礎(chǔ)能力，對(duì)于權(quán)力的生產(chǎn)至關(guān)重要^［24］。因?yàn)闄?quán)力本身就含有控制人們可介入哪些信息領(lǐng)域的能力，以及他們想要傳遞哪些信息的能力^{［27］（pp.41-43）}。而信息的控制規(guī)制來自于一個(gè)司法理論：它界定什么信息有相關(guān)意義，尤其界定什么信息沒有相關(guān)意義。也就是說，在進(jìn)入司法程序之前，我們首先會(huì)對(duì)信息的流動(dòng)規(guī)則、準(zhǔn)入門檻作界定。換言之，算法規(guī)制是不是也可以參考類似的做法。算法模型的最終形成，一方面來源于算法開發(fā)者的個(gè)人能力與素質(zhì)，它體現(xiàn)了開發(fā)者的價(jià)值觀與傾向，另一方面就是對(duì)數(shù)據(jù)源的把關(guān)。也就是說，選擇什么類型的數(shù)據(jù)集、數(shù)據(jù)池作為喂養(yǎng)算法、馴化算法的生產(chǎn)資料，也在某種程度上形塑算法的合理性與可行性。所以，算法的規(guī)制應(yīng)該在兩個(gè)方面做好源頭把關(guān)：一是數(shù)據(jù)源的把關(guān)；二是算法開發(fā)者的開發(fā)能力，以及對(duì)價(jià)值引導(dǎo)的把關(guān)。數(shù)據(jù)源的把關(guān)，主要是針對(duì)數(shù)據(jù)來源、數(shù)據(jù)類型、數(shù)據(jù)使用、數(shù)據(jù)流轉(zhuǎn)、數(shù)據(jù)交易等全鏈條的數(shù)據(jù)環(huán)節(jié)，保證其是否合法、合規(guī)、合目的。數(shù)據(jù)作為直接影響算法模型是否客觀、是否經(jīng)得起檢驗(yàn)的重要基礎(chǔ)，不能從源頭上出錯(cuò)。

第二，確保技術(shù)可信。零瑕疵的技術(shù)是不可能的，技術(shù)開發(fā)者總是在技術(shù)實(shí)際運(yùn)行過程中不斷發(fā)現(xiàn)問題，并修補(bǔ)技術(shù)缺陷以確保技術(shù)的穩(wěn)定性、可行性與可信任性。馬庫斯堅(jiān)信，如果負(fù)面后果可以在技術(shù)層面追溯到原因，那么研發(fā)更好的技術(shù)就可以消除他們^{［28］（p.24）}。當(dāng)前，“算法黑箱”問題成為公眾質(zhì)疑算法歧視、算法偏見、算法霸權(quán)的重要依據(jù)。本質(zhì)上，無論是從技術(shù)層面還是從商業(yè)秘密角度，無死角地剖析技術(shù)運(yùn)行過程及邏輯運(yùn)算原理，對(duì)于技術(shù)開發(fā)者、技術(shù)擁有者與技術(shù)使用者而言，都是一種低效率的獲取技術(shù)信任的方式。對(duì)于大多數(shù)人而言，他們并不反對(duì)算法技術(shù)的合理應(yīng)用，只是持有一種“消極自由”角度而言的免于被算法“算計(jì)”的樸素正義觀。因此，可以采用零信任計(jì)算技術(shù)，確保算法技術(shù)在融入社會(huì)運(yùn)轉(zhuǎn)過程中的公開、透明、可視。此技術(shù)主要依托區(qū)塊鏈技術(shù)，確保數(shù)據(jù)進(jìn)入計(jì)算環(huán)節(jié)的全流程可追蹤、可查閱。零信任計(jì)算技術(shù)的設(shè)計(jì)初衷就是為了防止在數(shù)據(jù)的全生命周期過程中，數(shù)據(jù)因存在被操縱、篡改的可能性而影響技術(shù)公正。零信任計(jì)算技術(shù)就是以一種技術(shù)透明的方式記錄并展現(xiàn)全鏈條的數(shù)據(jù)流動(dòng)軌跡，它摒棄了人工操作可能產(chǎn)生的負(fù)面問題，將透明度與社會(huì)監(jiān)督全權(quán)交由技術(shù)實(shí)現(xiàn)，撇除人為因素的干擾，實(shí)現(xiàn)技術(shù)獨(dú)立與自立。

另外，“非侵入式數(shù)據(jù)管道技術(shù)”的開發(fā)及應(yīng)用對(duì)實(shí)現(xiàn)技術(shù)可信的想法做出了回應(yīng)。它能夠在保證數(shù)據(jù)安全及原系統(tǒng)正常運(yùn)行的前提下，實(shí)時(shí)調(diào)用“沉睡”在各部門的數(shù)據(jù)資源，實(shí)現(xiàn)數(shù)據(jù)互通互聯(lián)、資源共享。部分地方政府將該技術(shù)運(yùn)用于健康碼，促成“技術(shù)與需求相遇”，幫助繞過了由責(zé)、權(quán)、利構(gòu)成的隱性壁壘，在某種程度上實(shí)現(xiàn)了“帕累托改進(jìn)”，進(jìn)而得到作為數(shù)據(jù)占有者的多元社會(huì)主體的普遍配合與參與，提升了健康認(rèn)證活動(dòng)的合法性和可持續(xù)性^［5］。

人機(jī)回圈（human-in-the-loop）技術(shù)也可以成為規(guī)避技術(shù)風(fēng)險(xiǎn)、實(shí)現(xiàn)技術(shù)可信的兜底技術(shù)。這一原則認(rèn)為，當(dāng)算法決策遇到諸如倫理、道德風(fēng)險(xiǎn)、偏見等機(jī)器學(xué)習(xí)仍無法獲得最優(yōu)解的問題時(shí)，就需要通過人類智慧的補(bǔ)足來優(yōu)化算法，從而為機(jī)器學(xué)習(xí)提供一種民主的或者說是非設(shè)計(jì)者的“濾鏡”^［29］。人機(jī)回圈技術(shù)的本質(zhì)是將最優(yōu)決策權(quán)重新歸還到人類手中，確保技術(shù)倫理及技術(shù)可信。自邁入信息化時(shí)代以來，特別是人類進(jìn)入由算法構(gòu)建的數(shù)字社會(huì)之后，數(shù)字設(shè)備代替人類執(zhí)行了越來越多的原本需要人的思想來解決的任務(wù)，而這使得人類被迫一再地拋棄一個(gè)又一個(gè)人類自認(rèn)為獨(dú)一無二的地位^{［30］（p.107）}。但算法的技術(shù)理性只能處理程序性、功能性較強(qiáng)的問題，無法解釋涉及倫理與道德等的復(fù)雜的社會(huì)性問題。這也就能解釋為什么外賣小哥會(huì)被困在“算法圍城”。因此，人機(jī)回圈技術(shù)依靠人工審核、人工評(píng)價(jià)機(jī)制規(guī)避了技術(shù)存在的倫理、道德等風(fēng)險(xiǎn)性問題，使技術(shù)處置結(jié)果更公正、客觀與可信。

第三，科技向善的網(wǎng)絡(luò)生態(tài)倫理的意識(shí)養(yǎng)成。逐利是資本的首要目標(biāo)。在信息時(shí)代，企業(yè)通過規(guī)?；瘮U(kuò)張，最后形成“贏家通吃”的局面，本質(zhì)還是為了追求高昂的利潤回報(bào)。算法技術(shù)作為企業(yè)的核心競(jìng)爭(zhēng)力，除了服務(wù)社會(huì)的公益目標(biāo)，還必須符合企業(yè)的經(jīng)營理念。因此，技術(shù)很有可能成為資本或者掌握技術(shù)權(quán)力的利益群體逐利的工具。從這個(gè)意義上而言，算法技術(shù)的價(jià)值中立很有可能不成立，它是有價(jià)值偏好的。而一味將利潤作為目標(biāo)導(dǎo)向，就會(huì)造成技術(shù)的“道德滑坡”，違背面向社會(huì)、服務(wù)公共利益的初衷。

當(dāng)前的互聯(lián)網(wǎng)市場(chǎng)，無論是掌握大量數(shù)據(jù)的頭部企業(yè)，還是正在穩(wěn)步上升的中小型企業(yè)，在激烈的市場(chǎng)競(jìng)爭(zhēng)中，都必須不斷占領(lǐng)市場(chǎng)，拓展新的業(yè)務(wù)領(lǐng)域，同時(shí)壓制同行競(jìng)爭(zhēng)，確保自己的發(fā)展先機(jī)。當(dāng)整體的市場(chǎng)生態(tài)是以利潤為導(dǎo)向時(shí)，行業(yè)生態(tài)必然是“弱肉強(qiáng)食”的叢林競(jìng)爭(zhēng)，公共利益似乎已經(jīng)變成了最不值得考慮指標(biāo)，如何在激烈的競(jìng)爭(zhēng)中生存下來并保證盈利才是企業(yè)的奮斗價(jià)值。在這種情況下，要確保算法的設(shè)計(jì)初衷不偏離價(jià)值導(dǎo)向，顯然是不可能的。

因此，政府要積極引導(dǎo)企業(yè)良性競(jìng)爭(zhēng)，特別是要扶持中小型企業(yè)。同時(shí)要注重價(jià)值導(dǎo)向，將科技向善的理念融入行業(yè)發(fā)展的生態(tài)實(shí)踐中，培育企業(yè)技術(shù)向善的價(jià)值意識(shí)?？萍?xì)w根結(jié)底是一種改善社會(huì)生活的技術(shù)工具。算法技術(shù)的廣泛應(yīng)用應(yīng)該是通過大數(shù)據(jù)和高精度的數(shù)據(jù)計(jì)算，掌握社會(huì)需求、服務(wù)社會(huì)需要，以提高整體生活水平與社會(huì)福利為宗旨，而不是完全以資本的盈利作為目標(biāo)導(dǎo)向，通過不斷的“算計(jì)”，完成技術(shù)治理。

第四，構(gòu)建算法信任的社會(huì)環(huán)境與話語土壤。祖博夫認(rèn)為，在算法構(gòu)筑的網(wǎng)絡(luò)與物理空間中，社會(huì)信任已不復(fù)存在，所有的日常記錄包括交流與思想都無非是為了實(shí)現(xiàn)貨幣化和盈利^［16］。誠然，精于“算計(jì)”的技術(shù)會(huì)使“數(shù)字監(jiān)控”無處不在，而法律與制度的枷鎖是懸在技術(shù)頭上的“達(dá)摩克利斯之劍”，提醒資本必須時(shí)刻警惕并平衡利潤最大化與公共利益保障之間的張力。特別是相繼出臺(tái)的《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》等法律，強(qiáng)調(diào)數(shù)據(jù)流轉(zhuǎn)前的個(gè)體知情同意選擇，此舉意在強(qiáng)調(diào)數(shù)據(jù)流轉(zhuǎn)、交易的合法性根基。因此，個(gè)體的授權(quán)是數(shù)據(jù)流轉(zhuǎn)的“通行證”，直接關(guān)乎技術(shù)使用是否合規(guī)的問題。而個(gè)體的自主授權(quán)的前提源于技術(shù)信任、商業(yè)信任以及社會(huì)信任。特別是當(dāng)公民的個(gè)人信息、個(gè)人隱私、數(shù)據(jù)安全意識(shí)覺醒之后，源于信任基礎(chǔ)的數(shù)據(jù)授權(quán)是企業(yè)必然面臨的數(shù)據(jù)大考。在經(jīng)歷一系列算法“算計(jì)”的負(fù)面操作之后，如何重塑公眾的社會(huì)信任成為影響算法技術(shù)發(fā)展、人工智能行業(yè)前進(jìn)的關(guān)鍵步驟。

因此，必須培育算法信任的社會(huì)環(huán)境與話語土壤。技術(shù)雖為某些利益群體所用，但我們不能因此抹殺其某種程度上優(yōu)化社會(huì)流轉(zhuǎn)流程、提高治理能力、提升社會(huì)生活質(zhì)量等的功勞。因此，公眾應(yīng)該對(duì)算法技術(shù)特別是對(duì)科技向善理念指引下的技術(shù)開發(fā)與應(yīng)用保持一定的技術(shù)信任，要相信技術(shù)設(shè)計(jì)的出發(fā)點(diǎn)是某種程度地提升社會(huì)福利。而且隨著零信任算法、隱私計(jì)算、區(qū)塊鏈等技術(shù)的日趨成熟，算法的運(yùn)轉(zhuǎn)邏輯會(huì)更清晰地呈現(xiàn)技術(shù)的服務(wù)流程，這也可以幫助公眾更深刻地理解算法技術(shù)。

技術(shù)的本質(zhì)是一種服務(wù)工具，當(dāng)然會(huì)存在目標(biāo)導(dǎo)向，但總體的趨勢(shì)是服務(wù)于公共利益。因此，公眾無須過度擔(dān)憂技術(shù)對(duì)個(gè)人隱私、個(gè)人利益的侵害。因?yàn)?，法律是?guī)制算法技術(shù)良性發(fā)展的必要手段，制度是引導(dǎo)科技向善的重要指引。只要將算法技術(shù)關(guān)進(jìn)制度的“牢籠”，技術(shù)存在的負(fù)面影響都是可控的。個(gè)體要做的，就是遵循法律制度的同時(shí)，謹(jǐn)慎但理性地授權(quán)數(shù)據(jù)使用，幫助技術(shù)更新與改進(jìn)，造福社會(huì)的良性循環(huán)。

參考文獻(xiàn)：

［1］鄭玉雙.計(jì)算正義：算法與法律之關(guān)系的法理建構(gòu)［J］.政治與法律，2021，（11）.

［2］馬長山.算法治理的正義尺度［J］.學(xué)術(shù)前沿，2022，（5）.

［3］林曦，郭蘇建.算法不正義與大數(shù)據(jù)倫理［J］.社會(huì)科學(xué)，2020，（8）.

［4］Lash Scott. Power After Hegemony：Cultural Studies in Mutation？［J］.Theory， Culture & Society，2007，（3）.

［5］張權(quán)，黃璜.技術(shù)賦能與復(fù)雜性化約——基于“健康碼”的分析［J］.政治學(xué)研究，2022，（2）.

［6］Rob Kitchin，Martin Dodge.Code/Space：Software and Everyday Life［M］.Cambridge，MA：MIT Press，2011.

［7］許煜.遞歸與偶然［M］.蘇子瀅.上海：華東師范大學(xué)出版社，2020.

［8］2020碼上經(jīng)濟(jì)“戰(zhàn)疫”報(bào)告［DB/OL］.https：//coffee.pmcaff.com/article/eRkeNPjeLV，2020-05-20.

［9］John Dunn.Trust and Political Agency［C］//Diego Gambetta.Trust：Making and Breaking Cooperative Relations，Electronic Edition，Department of Sociology.Oxford：University of Oxford，1988.

［10］Veronika Alexander，Collin Blinder，Paul J.Zak.Why Trust an Algorithm？ Performance，Cognition， and Neurophysiology［J］.Computers in Human Behavior，2018，（DEC.）.

［11］閆宏秀，宋勝男.智能化背景下的算法信任［J］.長沙理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2020，（6）.

［12］［美］奧利弗·E.威廉姆森.契約、治理與交易成本經(jīng)濟(jì)學(xué)［M］.陳耿宣.北京：中國人民大學(xué)出版社，2020.

［13］［法］呂克·德·布拉班迪爾.極簡(jiǎn)算法史［M］.任軼.北京：人民郵電出版社，2019.

［14］［加］尼克·斯?fàn)柲崛?平臺(tái)資本主義［M］.程水英.廣州：廣東人民出版社，2018.

［15］［美］波茲曼.技術(shù)壟斷：文化向技術(shù)投降［M］.北京：北京大學(xué)出版社，2007.

［16］Shoshana Zuboff.The Age of Surveillance Capitalism： the Fight for a Human Future at the New Frontier of Power［M］.New York： Public Affairs， 2019.

［17］張凌寒.算法自動(dòng)化決策與行政正當(dāng)程序制度的沖突與調(diào)和［J］.東方法學(xué)，2020，（6）.

［18］陳國權(quán)，孫韶陽.線上政府：網(wǎng)絡(luò)社會(huì)治理的公權(quán)力體系［J］.中國行政管理，2017，（7）.

［19］A. Giddens.The Nation-State and Violence［M］.Cambridge： Polity Press，1985.

［20］［以］尤瓦爾·赫拉利.未來簡(jiǎn)史［M］.林俊宏.北京：中信出版社，2009.

［21］［美］多克·希爾斯.意愿經(jīng)濟(jì)：大數(shù)據(jù)重構(gòu)消費(fèi)者主權(quán)［M］.李小玉，高美.北京：電子工業(yè)出版社，2016.

［22］［德］韓炳哲. 透明社會(huì)［M］.吳瓊.北京：中信出版社，2019.

［23］［美］理查德·塞勒，卡斯·桑斯坦.助推［M］.劉寧.北京：中信出版社，2018.

［24］姚尚建.數(shù)字治理中的權(quán)力控制與權(quán)利破繭［J］.理論與改革，2022，（3）.

［25］郭春鎮(zhèn).對(duì)數(shù)據(jù)治理的治理——從文明碼治理現(xiàn)象談起［J］ .西北政法大學(xué)學(xué)報(bào)，2021，（1）.

［26］［美］赫伯特·馬爾庫塞.單向度的人：發(fā)達(dá)工業(yè)社會(huì)意識(shí)形態(tài)研究［M］ .劉繼.上海：上海譯文出版社，2014.

［27］［美］伊維塔·澤魯巴維爾.房間里的大象——生活中的沉默和否認(rèn)［M］.胡纏.重慶：重慶大學(xué)出版社，2011.

［28］［美］南?！.拜厄姆.交往在云端：數(shù)字時(shí)代的人際關(guān)系［M］.董晨宇，唐悅哲.北京：中國人民大學(xué)出版社，2020.

［29］Jio Ito. AI Engineers Must Open Their Designs to Democratic Control［DB/OL］.http：//www.aclu.org/issues/privacy-technology/surveillance-technologies/ai-engineers-must-open-their-designs-democratic，2021-03-20.

［30］［意］盧西亞諾·弗洛里迪.第四次革命：人工智能如何重塑人類現(xiàn)實(shí)［M］.王文革.杭州：浙江人民出版社，2016.

［責(zé)任編輯：張英秀］

Computation and Calculation： Thinking About the Justice of the Application of Algorithms

Wang Junjun

（Nanjing Forest Police College， Nanjing Jiangsu 210023）

Abstract：From industrial production to social life， from retail consumption to government governance， a variety of scenes have embedded the technical figure of the algorithm. Algorithms play a positive role in overcoming problems such as insufficient manpower to cope with massive disposal， timely intervention and accurate prediction， but they are also criticized in some aspects such as algorithm bias， algorithm monopoly and algorithm dictatorship. On the premise of accurate computation， to avoid the application risk of being accurately “calculated” by technology as much as possible， and balance the tension between the application of technology and the depth of development， we must respond to and solve the problem of legitimacy and justice of algorithm technology. Firstly， starting from data source governance， we should ensure data quality and avoid possible algorithmic bias. Secondly， the trusted technology should be applied so as to regulate technology with technology. Thirdly， the technological ecology of science and technology for the good is an important principle for cultivating technical ethics and technical technology. Finally， we should build a social environment and discourse soil for algorithmic trust， and cultivate the publics sense of technological trust.

Key words：algorithm governance， algorithmic power， technical justification， technology for the better