劉玉綽

一、問題的提出

隨著人工智能技術的快速發(fā)展，人類已經邁進了大數據時代，算法（Algorithm）作為一門新興技術已被廣泛運用于人類的工作及生活中，如公司招聘、學校招生、警察偵辦案件、法官審判案件、銀行信貸、公司商品交易等活動對算法愈加倚重①鄭智航、徐昭曦：《大數據時代算法歧視的法律治理與司法審查——以美國法律實踐為例》，《比較法研究》2019年第4期，第111-122頁。。但是，任何事物均具有兩面性，算法在便利人類工作及生活的同時，也為人類在工作及生活中受到不公平待遇（算法歧視）埋下了隱患。當下算法歧視涵蓋性別歧視、種族歧視、信仰歧視、就業(yè)歧視、教育歧視、算法定價共謀、算法“殺熟”等類型，這表明算法歧視已侵蝕到個人基本權利、市場經濟秩序以及個人經濟利益等“肌體”①劉友華：《算法偏見及其規(guī)制路徑研究》，《法學雜志》2019年第6期，第55-66頁。，算法歧視問題儼然已成為亟須解決的社會問題。根植于資本內部的算法歧視已經危及到市場經濟秩序的穩(wěn)定，亟須予以規(guī)制，國家也開始了大力的監(jiān)督工作。例如，國家市場監(jiān)督管理總局于2021年4月16日對阿里巴巴以實施壟斷行為為由罰款182億元，2021年4月26日又對美團以涉嫌實施“二選一”②“二選一”是指平臺利用優(yōu)勢地位和經營者對其的依賴性，采取不正當手段強迫經營者在平臺間進行唯一選擇。例如某電商平臺為了壟斷市場，要求商家只能在本平臺經營，否則不再合作或對其進行打擊?！岸x一”是濫用市場支配地位的表現，降低了社會效益，損害消費者權益。等壟斷行為為由宣布立案調查，唯品會、騰訊、百度等互聯(lián)網企業(yè)皆曾因壟斷問題受到了相應處罰。筆者單通過知網對“算法歧視”進行檢索發(fā)現，學界已發(fā)表有關算法歧視的期刊論文總計216篇（截至2021年12月底），其中，2004年1篇，2014年1篇，2017年2篇，2018年5篇，2019年46篇，2020年76篇，2021年85篇。不難看出，有關算法歧視的較為廣泛的研究從2019年才開始，并呈現逐年遞增趨勢。

從當前國家算法歧視治理現狀來看，雖然學界對算法歧視問題已進行了一系列研究，但對國家算法歧視治理的理論導向作用整體來看仍成效甚微。因此，極有必要立足于學界現有理論研究成果，對平等權進行憲法規(guī)范層面的解讀，并展開其憲法功能，為國家算法歧視治理體系與治理能力現代化提供憲法價值性指引，以增進算法歧視問題的治理實效。

二、算法歧視的基本問題

（一）算法歧視的概念界定

算法是計算機領域的專業(yè)術語，是指為了達到特定的目的，運用一定復合控制結構所設置的規(guī)則進行計算的方法。通俗地講，人們可以基于特定目的，在計算機特定軟件中輸入特定的指令，通過軟件的運行計算，得出決策。算法具有通用性、有效性、有窮性和確定性等特征，其中，通用性指算法能夠被重復應用，有效性指算法能夠被有效執(zhí)行，有窮性指算法計算步驟有限，確定性指算法指示應明確③張銘、王騰蛟、趙海燕：《數據結構與算法》，北京：高等教育出版社2008年版，第11-12頁。。以上特征為算法的可操作性及易操作性提供了保障，再加之算法能夠突破人類計算能力的局限，幫助人類進行科學、高效決策，基于此頗受青睞，甚至有一部分人盲目認為算法可以“包治百病”，能為社會事務的決策提供最優(yōu)方案。但可以肯定的是，算法是柄雙刃劍，其在一定程度上可以放大人類的歧視，進而危及市場經濟、民主政治、平權文化、和諧社會、綠色生態(tài)的協(xié)調發(fā)展。

歧視是道德與法律層面均明確禁止的范疇，算法歧視亦不例外。早在1996年，美國學者巴蒂亞·弗里德曼、海倫·尼森鮑姆就對算法歧視進行過相應研究，將計算機系統(tǒng)的偏見分為先行存在性偏見、技術性偏見和突發(fā)性偏差。國際頂尖刊物《自然》《科學》均刊載過相關研究成果，論證了計算機能夠產生偏見，尤其是當計算機向人類學習時，類似情形則更為突出。例如，谷歌公司的照片軟件曾將黑人照片標為大猩猩，其在線廣告系統(tǒng)向男性推送高收入工作的頻率要遠遠高于女性。非盈利新聞機構ProPublica于2016年公布的一項調查報告顯示，通過計算機對犯罪進行預測，黑人的預測犯罪率要遠高于白人①李本：《美國司法實踐中的人工智能問題與挑戰(zhàn)》，《中國法律評論》2018年第2期，第54-56頁。。結合算法與歧視的意涵，算法歧視宜定義為：算法在運用復合控制結構所設置的規(guī)則進行計算的過程中，基于性別、種族、國家、信仰、年齡、受教育程度所產生的偏見現象。

（二）算法歧視的類型劃分

綜合分析算法歧視的諸多類型，從所侵害利益的主體與屬性出發(fā)，可以將算法歧視劃分為侵害公民基本權利的算法歧視、侵害競爭性利益的算法歧視、侵害個人民事權益的算法歧視等②劉友華：《算法偏見及其規(guī)制路徑研究》，《法學雜志》2019年第6期，第55-66頁。。其中，侵害公民基本權利的算法歧視主要表現在性別歧視、種族歧視、信仰歧視、教育歧視、勞動歧視等方面；常見的侵害競爭性利益的算法歧視主要指算法共謀，即經營者之間利用算法形成某種合謀，以實現操縱市場的壟斷目的；侵害個人民事權益的算法歧視最常見的就是大數據“殺熟”，商家通過算法對消費者的身份、消費喜好、消費記錄、消費能力等進行綜合評判，并在此基礎上做出不同的營銷策略，打破了“同物同價”的傳統(tǒng)銷售模式。

再者，從運作特征或模式出發(fā)，可以將算法歧視劃分為偏見代理型、特征選擇型、大數據“殺熟”型等。其中，偏見代理型算法歧視呈現出“中立進—偏見出”的運行特征，即決策者在算法機器中輸入了中立的數據，卻得出了帶有歧視性的結果。例如，在犯罪預測算法中對郵政編碼過分強調，容易導致犯罪預測高發(fā)區(qū)與黑人居住區(qū)產生關聯(lián)，進而構成種族歧視。特征選擇型算法歧視采取了“偏見進—偏見出”的運行模式，即決策者在算法機器中直接輸入諸如種族、性別等帶有偏見的信息，以求得出帶有偏見的計算結果。例如，當人們利用谷歌引擎搜索黑人名稱時，頁面彈出來的多是關于犯罪的信息。大數據“殺熟”型算法歧視主要表現為通過對計算機過往數據不斷進行學習，然后采取價格歧視、特定推送等手段，實現“同物不同價”目的。

（三）算法的運行機理及其歧視的觸發(fā)機制

1.算法運行機理的分解。傳統(tǒng)意義上，人類在解決某種問題之前，大腦中會進行相應的思維活動，然后根據該思維活動的結果做出某種決策，以實現問題的解決。在當下人工智能時代，算法將人的抽象思維轉換成計算機能夠理解的源代碼形式，以確保人的抽象思維能夠被計算機所感知③胡小偉：《人工智能時代算法風險的法律治理》，《湖北大學學報（哲學社會科學版）》2021年第2期，第120-131頁。。簡而言之，人類將解決某種問題的思維通過代碼編輯的形式予以固化，然后在基于該代碼編輯所形成的計算機程序中輸入相應數據并予以驅動，為問題的解決提供某種策略，此即算法運行的一般機理。

經過對算法運行機理分解可知，算法可劃分為算法設計、算法開發(fā)、算法應用三個發(fā)展階段（圖1）。其中，算法設計是人的邏輯思維的語言描述，算法設計者想要運用算法解決某種問題，首先需要將解決該問題的邏輯思維通過語言形式予以描述，然后交由算法開發(fā)者運用諸如BASIC、C++、HTML、JAVA等計算機語言編輯代碼的形式轉化為源代碼（又稱源程序）。算法應用是驅動源代碼進行算法決策的程序，一般呈現出“數據輸入→計算→決策輸出”（圖1中A→B→C）的運行模式。但是，隨著算法技術的演化，部分算法機器具備了學習功能，算法機器能夠通過快速分析數據以實現模型“優(yōu)”化，接下來便由“優(yōu)”化后的機器對數據進行計算，以作出決策，該種應用呈現出“數據輸入→計算→計算+→決策輸出”（圖1中A→B→B+→C）的運行模式?？偠灾惴M跨邏輯實現與代碼實現兩大領域，實現了人類世界與程序世界的無縫對接。

圖1 算法運行機理圖示

2.算法歧視的觸發(fā)機制。受巴蒂亞·弗里德曼、海倫·尼森鮑姆對計算機偏見分類的啟示，本文從先行性、技術性、突發(fā)性三個層面對算法歧視的觸發(fā)機制進行探究。其中，先行性層面的觸發(fā)機制主要由于算法被人為嵌入某種偏見或者某種文化體制、政治制度等參數。鑒于算法開發(fā)者是按照算法設計者的指示行事，因此，先行性層面的觸發(fā)機制一般發(fā)生在算法設計階段（圖1）。技術性層面的觸發(fā)機制主要是因技術瓶頸引發(fā)的程序運行受限所致，其根源在于算法開發(fā)階段，結果產生于算法應用階段（圖1）。突發(fā)性層面的觸發(fā)機制多是由于程序運行發(fā)生意外或者新知識的習得等原因所致，其發(fā)生于算法應用階段（圖1），尤其是隨著算法學習能力的增強，這種突發(fā)性觸發(fā)機制導致的算法歧視正不斷增加，且其透明度較低，不易監(jiān)管。

三、平等權的憲法規(guī)范內涵

（一）中國憲法關于平等權的規(guī)定

平等為憲法的發(fā)展奠定了基礎，經歷了從道德形態(tài)向權利形態(tài)演變的歷史過程。平等最初是人的樸素情感及尊嚴感派生的道德準則。伴隨著資產階級革命的爆發(fā)，法國《人權宣言》以法律的形式明確規(guī)定了平等權，標志著平等開始由道德向基本權利過渡①阿部照哉、池田政章、初宿正典、中松秀曲：《憲法——基本權利篇（下冊）》，周宗憲譯，北京：中國政法大學出版社2006年版，第41頁。。受社會歷史條件的影響，平等權經歷了由強調形式平等向實質平等的觀念轉變。法國大革命時期的平等權注重機會平等，直至1919年《魏瑪憲法》問世，平等權才被賦予了實質平等的內涵，開始關注結果上的平等。目前來看，基本上所有的國家都以憲法或法律的形式對平等權作出了規(guī)定，一些國際公約及文件對平等權作出的規(guī)定更是推動平等權成為全球公認的基本權利。

除《憲法》第33條第2款（法律面前人人平等）之外，我國《憲法》第4條第1款（民族平等）、第5條第5款（反對特權）、第33條第4款（平等享有權利和履行義務）、第34條（選舉平等）、第36條第2款（信仰平等）、第48條第1款（性別平等）等條款亦對平等作出了規(guī)定。平等已經完成了由道德形態(tài)向權利形態(tài)過渡，其作為基本權利已經被絕大多數國家通過憲法或法律確認，我國簽署及加入的國際公約也均將其規(guī)定為基本權利，為了與國際接軌以及履行國際公約，有必要將平等視為基本權利。再者，《憲法》第33條第2款位于我國現行《憲法》“基本權利與義務”章節(jié)，說明國家也有意將其作為基本權利。至于論證平等是否為憲法原則，有必要從陳征教授就平等權的分類談起，其將平等權分為一般平等權（法律面前一律平等）與特別平等權（民族平等、信仰平等、男女平等）①陳征：《我國憲法中的平等權》，《中共中央黨校學報》2010年第5期，第87-90頁。。然而，陳征教授就平等權的分類有待商榷。民族平等條款位于憲法總綱部分，盲目將其視為基本權利，可能會混淆總綱和基本權利與義務的邊界。信仰平等是宗教信仰自由的組成部分，將其獨立出來可能會割裂宗教信仰自由的完整性。男女平等條款的著力點在婦女權利上，該條款的最終目的是保護婦女權利，平等僅是噱頭。筆者認為，與其作這種劃分，我們不妨肯定平等之憲法原則屬性，如此恰可以實現其對民族平等、信仰平等、男女平等的指引功能。也就是說，平等相對于民族平等、信仰平等、男女平等是一項憲法原則，為后者的踐行提供了原則性指引。總而言之，平等兼具憲法原則與基本權利雙重屬性；只將平等權歸為憲法原則，無視其基本權利屬性，不利于平等權價值的實現；只將平等權歸為基本權利，無視其憲法原則特性，將導致其功能不完整。

綜合我國簽署及加入的上述國際公約和現行憲法平等條款的有關規(guī)定，平等權的內容主要包括以下四個方面：（1）法律面前人人平等。即所有公民在法律執(zhí)行、適用、遵守方面一律平等，強調的是法律范圍內的平等。（2）禁止歧視。綜合國際公約的規(guī)定，歧視可被定義為被法律所禁止的，以種族、性別、信仰、民族、財產等為理由，對特定主體實施的旨在限制或剝奪其權利的行為。當前歧視禁止已經成為全球共識。（3）反對特權。特權就是某人或群體基于其某種優(yōu)勢在經濟、政治、社會等層面所享有的特殊權利或權力。文明社會不應有特權存在的空間，特權理應被禁止。（4）合理差別。合理性的差別是符合我國憲法精神實質的，無差別的絕對平等容易導致實質的不平等。因此，有必要采用合理差別原則，彌補某些人或群體因自然或其他正當原因造就的劣勢，促成實質平等。

（二）憲法上平等權的性質與功能

德國憲法理論認為，基本權利具有“主觀權利”與“客觀法”雙重性質，該理論為憲法上平等權性質與功能的探究具有重要的指引意義。

1.作為主觀權利的平等權。作為主觀權利，平等權是指公民基于憲法上的平等權要求公權力機關為或不為某種行為的權利。防御權功能是憲法平等權的首要功能，即防止公權力機關對平等權的行使不正當干預（圖2）。防御權功能最早提出于德國聯(lián)邦憲法法院的呂特案中，現已成為憲法學界較為流行的概念。我國憲法中的平等權也具有防御權功能，即公民個人可以與其他人平等地進行一系列活動，公權力機關不得非正當干涉。同時，平等權還具有受益權功能（圖2）。受益權功能是指公民基于某種利益的享受要求公權力機關為某種行為的功能。那么，我國憲法中平等權的受益權功能表現為公民基于某種利益的平等享受而要求公權力機關為某種行為的功能。比如，婦女、身高矮的公民、有乙肝病史的公民要求公權力機關采取某種措施，保障其平等地獲得就業(yè)機會。一般而言，憲法具有抽象性，無法為公民某種利益的平等享受提供具體的救濟路徑，這就需要國家通過立法予以保障。但是，當所依據的立法存在滯后或者缺失時，此時應對公民依據平等權請求公權力機關為某種行為的積極意義予以肯定。

2.作為客觀法的平等權。作為客觀法的平等權向公權力機關提供了相應的客觀價值秩序行為準則，為平等權的實現奠定了物質性基礎。平等權的客觀秩序價值功能又可以進一步細分為以下功能（圖2）：

圖2 平等權的雙重性質及其相應功能圖示

（1）制度性保障功能。德國學者卡爾·施密特最早提出制度性保障的目的是界分“制度”與基本權利，彼時基本權利要么被視為一種純粹的綱領，要么被置于法律保留之下，其對立法機關的約束力有限，后者甚至可以通過立法將其架空。施密特為了規(guī)避基本權利的這種困境，對一些重要事項提出了制度性保障，以求為其提供憲法層面的特殊保護①《魏瑪憲法》第105條關于禁止設置例外法院的規(guī)定；第119條關于婚姻是家庭生活的基礎的規(guī)定；第139條關于星期日為休息日的規(guī)定；第103條關于職業(yè)公務員隊伍保障機制的規(guī)定；第142條對科學研究自由的憲法法律保障的規(guī)定等等。參見卡爾·施密特：《憲法學說》，劉鋒譯，上海：上海人民出版社2005年版，第182頁。。但是，當下的制度性保障與施密特所提出的制度性保障完全不同，其依附于基本權利并成為基本權利客觀價值秩序功能的一部分，強調立法機關就基本權利功能的實現進行積極立法。就平等權的制度性保障功能而言，基于平等權具有高度抽象性，為了確保其實現，立法機關應當積極開展相應立法工作，以明確平等權的具體內涵。

（2）組織和程序保障功能。組織和程序保障功能為基本權利的實現提供了便利條件，其與制度性保障功能的聯(lián)系甚為緊密?？梢哉f，二者之間高度重合，組織和程序保障功能在一定程度上可以劃歸于制度性保障功能范疇，只是前者規(guī)定得更為具體罷了①張翔：《基本權利的規(guī)范建構》，北京：法律出版社2017年版，第233頁。。其中，組織保障強調國家在建立某種制度時應附帶對實施該制度的組織（產生、運行等）作出規(guī)定，例如，國家建立科研自由、勞動保障等制度時，就應附帶著對高校學術委員會、教授委員會以及工會等組織作出規(guī)定。程序保障是基本權利深受美國憲法“正當程序”原則影響下續(xù)造的結果，其強調立法機關應設計相應的程序以保證基本權利的實現，在此其還強調應避免繁瑣的程序本身制約基本權利的實現。就平等權的組織和程序保障而言，國家在就平等權的實現建立某種制度時必須構建相應的組織，以及設計特定的運行程序。

（3）保護義務功能。廣義的保護義務包括制度性保障、組織與程序保障以及其他保障義務；狹義的保護義務強調國家有義務保障公民免受第三人侵害。狹義的保護義務在當下占據主流地位，主要有刑法上的保護②陳新民：《憲法基本權利之基本理論（上）》，臺北：元照出版公司1999年版，第3頁。、警察法上的保護③李惠宗：《憲法要義》，臺北：元照出版公司2002年版，第94頁。、外交保護、基本權利第三人效力等類型，以上類型的保護義務均意在要求國家公權力機關保護公民免受公權力機關以外主體的侵犯。就平等權的保護義務功能而言，當公民平等權受到國家公權力機關以外的主體侵犯時，國家公權力機關應采取相應制裁措施，以保障平等權的實現。

四、算法歧視挑戰(zhàn)下平等權面臨的現實危機

（一）算法歧視固化了社會不平等

如圖1所示，算法設計、開發(fā)、應用階段均可能產生歧視。值得一提的是，除了算法設計階段人工注入偏見、算法開發(fā)階段遭遇技術瓶頸、算法應用階段輸入偏見數據以及算法通過自主學習產生偏見等因素導致算法歧視外，還存在著一種更為隱秘的因素，更是固化了社會的不平等：社會本身所內含的歧視可無形中借助算法決策得以外化，甚至算法設計者對此都難以察覺及把控。例如，《英國人工智能發(fā)展的計劃、能力與指向》就曾指出，如果數據庫本身對社會的不平等予以準確反映，可能同樣會產生歧視。也就是說，社會運行過程中充斥著諸如對婦女、種族等歧視的成分，算法的設計原理莫過于社會運行方式的模型重塑，如此看來，產生算法歧視則不足為奇。再者，算法基于對其設計之時以及之前經驗的歸納，但其面向的卻是未來④洪丹娜：《算法歧視的憲法價值調適：基于人的尊嚴》，《政治與法律》2020年第8期，第27-37頁。。我們應當清楚認識到，社會是不斷進化的，靠基于歷史經驗的算法去預測未來，將無法完全跳出歷史偏見的局限。那么，這種帶有偏見成分的算法將幫助人們重復作出著一個個帶有偏見的決策。此外，算法歧視對平等權的侵害具有范圍廣、持續(xù)時間長的特點。算法可以借助互聯(lián)網渠道使其面向更多的應用者，隨著算法應用者的不斷增加，算法歧視的侵害范圍將不斷擴張。而且算法能夠在網絡系統(tǒng)中長久儲存，何時想要使用，何時便可拿出來使用，這無疑間接延長了算法歧視的持續(xù)時間。

（二）算法歧視識別困難

平等強調人類社會的多元化發(fā)展，兼顧個人價值與群體價值。隨著社會文明程度的不斷提升，平等觀念日漸深入人心，平等被廣泛吸納進多部國際公約以及世界各國憲法中，已衍化為一種全球共識。尤其近幾十年來，各國幾乎都在致力于消除國內的不平等現象，如美國在反性別歧視、種族歧視方面付出了諸多努力，我國通過少數民族加分政策維護教育平等，還通過立法規(guī)定男女平等享有繼承權等。整體來看，當下社會中顯性的不平等正逐漸改善，但隱性的不平等卻呈現一種愈演愈烈的態(tài)勢，其中以算法歧視最具代表性。隨著算法的發(fā)展，我們的生活越來越被算法所形成的“擬態(tài)環(huán)境”包圍，算法所產生的歧視正在無形中充斥著我們的生活。具而言之，算法為我們提供某種決策，其通過這種隱蔽的方式決定我們的行為，進而形成對某類群體的歧視。更可怕的是，隨著人工智能技術的飛速發(fā)展，網絡已經實現了去中心化，導致很難在算法空間中識別歧視因素的關鍵節(jié)點。再加之算法學習能力的不斷增強，一來強化了其歧視的隱秘性，二來強化了其對歧視監(jiān)管的反制能力①吳喜、梁阿敏：《新媒體視域下的平等權保護——對網絡仇恨言論的反思》，《河北法學》2020年第7期，第24-38頁。。

（三）算法歧視沖擊平等權的法律保護模式

縱覽當今世界各國政治體制，對立法、行政、司法等機關均作出相應的建構，與之相對應，就基本權利則形成了包含立法、行政、司法在內的法律保護模式，針對平等權同樣如此。平等權保障原本是一個老生常談的話題，我國對其已經形成了較為成熟的理論，且在相應理論指引下建構了對應的法律保護模式。平等權的法律保護模式本可以有序運行、“相安無事”，可惜因算法歧視的擴散導致這份“沉寂”被打破了并掀起了“驚濤駭浪”，具體表現在如下方面：

1.平等權保護立法凸顯滯后性。法律的穩(wěn)定性與滯后性是一對矛盾體。法律需要穩(wěn)定，但這樣會導致法律落后于社會發(fā)展；法律需要消除滯后，但這樣會動搖法律的穩(wěn)定。協(xié)調好法律穩(wěn)定與法律滯后的關系，是確保法律發(fā)揮其調節(jié)社會關系價值的關鍵所在，在針對不同時機、不同事項等具體情況，應將適時調整維護法律穩(wěn)定與消除法律滯后的優(yōu)位。

法律滯后是人工智能時代平等權保護傳統(tǒng)立法面臨挑戰(zhàn)的癥結所在，消弭法律滯后相較維護法律穩(wěn)定應被置于優(yōu)先地位。隨著算法科技的飛速發(fā)展，算法歧視在廣度及深度上取得了迅速擴展，立法者應把握住時機，制定配套的立法策略，采取高效應時性的立法技術，以確保公民遭受算法歧視時得到及時的法律救濟。值得強調的是，法律滯后性的人為因素相較天然因素更值得關注。我國傳統(tǒng)立法往往傾向于法律糾紛的調節(jié)，進而忽視了風險的防控，尤其是算法技術的更迭比較頻繁，算法歧視治理的立法時機難以把握。如果算法歧視治理立法忽視風險的防控，就會陷入“不成熟不立法，不立法更不成熟”的魔障。再者，根據我國全國人大常委會三次審議立法的相關規(guī)定來看，一部法律的立法周期需要2～5年，而根據“摩爾定律”，算法等人工智能技術的更新周期是一般為2年。也就是說，算法技術2年便可能更新?lián)Q代，現有全國人大常委會的三次審議立法程序的規(guī)定或許不能夠及時回應算法歧視治理的需要，很容易陷入“新的立法的生效意味著其實質意義上的過時”的困境。

2.平等權保護執(zhí)法監(jiān)管不力。隨著國家治理體系與治理能力現代化的穩(wěn)步推進，我國私力救濟與公力救濟相結合的權利救濟模式整體上已日趨成熟，針對平等權的算法侵害同樣應采取該種模式。但是，公民算法歧視識別能力的增強仍跟不上算法升級進化的節(jié)奏，算法黑箱的運作更促使算法以一種極為隱蔽的形式侵害公民的平等權，公民對此卻可能毫無察覺，也毫無辦法，因此，算法歧視的私力救濟在當下尚不存在現實基礎。其次，算法領域的行業(yè)自律機制尚未形成，主要是因為算法應用主體“重私利、輕公益”，缺乏動力驅使其自我治理。再次，司法機關具有謙抑性，僅能提供事后救濟，無法就算法歧視予以事先預防。相較于以上三種保護路徑，行政執(zhí)法監(jiān)管更能為算法侵害的平等權提供全方位、多層次、寬領域的保護。

但是，我國當下針對算法歧視執(zhí)法監(jiān)管不力。首先，監(jiān)管目標帶有嚴重的傾向性。我國就算法歧視的治理依據分散在單行法或部門法中，這些立法往往明確將公共利益置于優(yōu)先保護的地位，公民個人平等權的保護則被置于從屬地位，嚴重削弱了算法歧視監(jiān)管的實效。例如，《消費者權益保護法》對社會經濟秩序維護的價值預設要優(yōu)于消費者合法權益的保護，針對大數據“殺熟”的執(zhí)法監(jiān)管，執(zhí)法者最先考慮的是維護社會經濟秩序，消費者合法權益的維護往往被置于從屬地位，這必將影響算法歧視監(jiān)管的實效。其次，缺乏專門性的監(jiān)管機構。受條塊結合行政體制的影響，我國分散執(zhí)法、重復執(zhí)法問題仍然較為突出。就算法歧視而言，國家網信、電信、公安、工商、文化、民政、征信、勞動等部門基于其單位性質均具有一定的監(jiān)管職責，這要么導致以上部門在算法歧視監(jiān)管中互相推諉，要么導致多頭監(jiān)管，造成行政資源的浪費。而且算法歧視監(jiān)管的職責主要被下沉至基層，基層人員素質參差不齊、配置不合理、財政資源緊張等問題均制約著算法歧視執(zhí)法監(jiān)管的實效①鄧輝：《我國個人信息保護行政監(jiān)管的立法選擇》，《交大法學》2020年第2期，第140-152頁。。再次，技術監(jiān)管的傾向性使然。技術監(jiān)管傾向于效率、分權和自律，而法律治理傾向于權利、集權和他律，這樣容易導致技術監(jiān)管與法律治理脫耦與耦合的現象循環(huán)出現②鄭智航：《網絡社會法律治理與技術治理的二元共治》，《中國法學》2018年第2期，第108-130頁。，嚴重制約著算法歧視執(zhí)法監(jiān)管的實效。最后，監(jiān)管措施不夠細致及合理。我國算法歧視的事前防范性立法仍不夠成熟，相對應的監(jiān)管機制尚未形成，事中監(jiān)督采取大量行政約談措施，事后采取處罰措施較輕，這些對算法歧視的震懾力度極為有限。

3.平等權保護的司法具有局限性。針對算法歧視對公民平等權的侵害，司法機關在權利救濟上多少表現得有些力不從心。首先，法律的滯后為算法歧視形成了一定的法律真空地帶，目前我國針對算法歧視的治理依據散見于民法、刑法、《網絡安全法》《消費者權益保障法》《婦女權益保障法》等部門法或個別法中，司法機關在面對一些算法歧視無從找尋審判依據在所難免。其次，算法歧視責任的認定為司法機關帶來了難題。算法設計者、應用者對算法歧視造成的平等權侵害應承擔相應的責任，這是毋庸置疑的。但是，算法除了根據上述主體的指示實施侵害行為外，還可通過深度學習，對公民平等權產生連算法設計者、應用者都不可預測和不可控的侵害，該類責任如何認定，司法機關恐難定論。例如，微軟曾推出的人工智能聊天機器人Tay通過深度學習，不到24小時便曝出大量反猶太人、性別歧視、種族歧視的言論。再次，倘若算法歧視對平等權的侵害已經嚴重至犯罪程度，司法機關通過法律解釋予以定罪量刑，容易陷入有罪類推之嫌。再次，算法歧視對平等權侵害的司法管轄問題容易產生爭議。算法以計算機為載體，計算機通過互聯(lián)網為算法歧視對平等權的侵害突破了空間的限制，擴展了算法歧視的侵害面，此時應如何確定司法管轄，值得深思。再次，算法歧視所侵害平等權的主體一般不特定。男女歧視、種族歧視、競爭利益侵害、大數據“殺熟”等類型中平等權的侵害主體均不特定，如何啟動司法救濟程序，同樣值得深思。再次，由于算法治理立法內容上整體呈現“重刑輕民”的現象，而日常生活中存在很多算法歧視并不能達到觸犯刑法的程度，導致司法機關在處理此類平等權算法侵害案件中無法可依。最后，由于國別、地區(qū)、群體等因素的差異，不同國家、不同地區(qū)、不同群體對平等的認知可能存在差異，這些國家、地區(qū)、群體中的個體對算法歧視所導致平等權侵害的認知也就存在差異，司法機關在審判相應案件時還應將以上因素考量進去，這無形中增加了審判的難度。例如，算法設計者設計的某種算法在國人眼里并未侵害其平等權，但在來華留學的非洲留學生眼里就是內含種族歧視，司法機關對此應如何評判是個難題。

五、平等權對算法歧視治理的憲法功能實現

（一）國家消極義務的切實履行

平等權的防御權功能強調國家不得對平等權造成侵害。伴隨著人工智能技術的飛速發(fā)展，“算力即權力”，平等權正不斷遭受著算法權力的技術侵蝕，算法權力正從不同方面向公權力嵌入，并助推公權力形成權力濫用，導致平等權受到此迭加權力的嚴重侵害。因此，公權力機關對待算法技術應當擦亮“雙眸”，并保持足夠的克制，切勿被其所鉗制，鑄成對平等權造成侵害的大錯。鑒于算法技術本身存在較高的歧視性風險，公權力機關的重大決策往往與社會公眾的切身利益息息相關，當公權力機關利用算法作重大決策時，勢必應對算法技術的應用保持高度謹慎的態(tài)度，這也是算法時代平等權防御功能的應有之義。例如，2019年5月14日，舊金山市政府通過了《停止秘密監(jiān)視條例》，禁止警察、交管等部門使用人臉識別，因為該算法技術的運用往往會加劇種族不平等。

（二）國家積極義務的切實履行

1.制度性保障功能的實現。平等權的制度性保障功能要求國家立法機關就治理算法歧視建構系統(tǒng)的法律制度。在制度建構過程中，我們應積極推動算法歧視治理立法的智能化，利用算法及時發(fā)現歧視問題并提供最優(yōu)立法方案；還應積極推動算法技術標準的法律化，從“代碼即法律”轉向“法律即代碼”，解決算法技術標準的弊端，減少算法治理立法的滯后性①邢鴻飛、呂漢東：《智能互聯(lián)網的法律風險及其立法應對》，《科技與法律（中英文）》2021年第1期，第10-18頁。。在整體立法思路上，應該推動從過去的結果導向立法思路向以風險防范為特征的預防性立法思路逐步過渡。再者，應當在算法歧視治理立法中注重引入倫理規(guī)范與框架宣示性規(guī)范。倫理規(guī)范能夠及時對已經或者可能產生變化的社會關系迅速予以回應；框架宣示性規(guī)范更富有彈性，這確保其能夠將更多社會新情況囊括進治理范圍。再者，在算法歧視治理立法中還應注重“數字福祉”的嵌入。受盲目逐利思想的迷惑，算法的設計與開發(fā)往往傾向于迎合算法使用者的偏好，容易忽略“數字福祉”①數字福祉主要包括以下兩大內涵：一方面是人人都可享受到數字技術帶來的紅利，最大化地實現普惠和賦能；另一方面是促進個人對數字技術和網絡服務的高質量使用，減小、防止數字技術對個人的負面影響。參見曹建峰：《人工智能倫理的深入研究迫在眉睫》，《互聯(lián)網經濟》2019年第4期，第36-41頁。，這無疑與社會對算法的整體期待相背離，長此以往，算法必將遭受來自社會的口誅筆伐。此外，算法歧視治理立法目前呈現“重刑輕民”的現狀，而社會中多數算法歧視往往夠不到入刑程度，這容易形成算法歧視治理的法律真空問題，該問題亟待通過立法解決。

針對算法歧視治理法律制度的具體建構，應當涵蓋以下內容：（1）強調依憲立法。算法歧視導致憲法中的平等權受到侵害，平等權的制度性保障功能要求立法機關予以立法治理，合乎憲法規(guī)定。（2）行政法基本原則的嵌入。算法歧視治理立法從整體上來看屬于行政法范疇，行政法基本原則嵌入其中理所當然，此舉能夠確保算法治理立法兼顧公平與效率、公共利益與私人利益。（3）目的明確與限定原則的全面貫徹。即通過立法要求算法設計、開發(fā)與應用的目的應當特定、明確及正當，從根上抑制算法作出帶有歧視的決策。（4）算法歧視的審查主體。我國就算法歧視尚未形成強有力的專門性審查部門，立法機關應當對專門性審查部門的建構及職能予以明確。（5）算法歧視的審查標準。法律既禁止不合理的區(qū)別對待措施，也認可基于合法目的的正當區(qū)別②韓鑠：《算法如何平等：算法歧視審查機制的建立》，《南海法學》2020年第2期，第114-124頁。。隨著算法技術的不斷升級，其對平等權進行侵害的手段愈發(fā)隱蔽，再加之算法學習功能還導致其產生不可測的歧視。因此，我們對算法歧視的審查可采雙重審查標準，即審查目的歧視與效果歧視，先對算法設計目的進行審查，如果目的審查中未發(fā)現偏見，再進行算法應用效果審查。（6）算法的設計應向有關行政機關備案。之所以采備案審查方式而不采行政許可方式，主要是因為行政許可的審查期限可能較長，算法技術更新?lián)Q代周期較短，采行政許可方式可能會耽誤算法及時地投入使用。（7）算法解釋權的規(guī)定。即當某算法決策對其相對人的權利義務產生實質性影響時，該相對人有權請求算法設計者或應用者就算法運行作出相應解釋。（8）侵權責任的劃分。算法設計者、開發(fā)者、應用者就算法歧視是否均應承擔責任，應承擔民事責任還是行政責任抑或刑事責任，各主體承擔責任的比重如何劃分，算法通過自主學習產生歧視的責任應由誰承擔等，以上責任劃分問題均應通過立法予以明確。再者，算法設計者、開發(fā)者、應用者基于算法的設計、開發(fā)、應用均在不同程度上獲得一定利益，因此，筆者建議在算法歧視歸責原則上采無過錯原則，即不論對算法歧視是否具有過錯，均應當承擔連帶責任，另對各主體間的追索權應予以明確。（9）建立算法歧視風險的保險機制。倘若讓算法設計者、開發(fā)者、應用者承擔無過錯責任，可能會加大產品的生產成本，阻礙算法技術的發(fā)展③鄭智航：《人工智能算法的倫理危機與法律治理》，《法律科學》2021年第1期，第14-26頁。。因此，筆者主張建立算法歧視風險的保險機制，即由算法設計者、開發(fā)者、應用者購買一定份額的保險，以分擔算法引發(fā)的歧視風險。

2.組織與程序保障功能的實現。算法歧視的有效治理應由行政機關與行業(yè)組織共同來實現。傳統(tǒng)的以“公權力—私權利”為特征的二元結構已經被以“公權力—社會權力—私權利”為特征的三元結構所取代，三元結構中的政府權力不是專斷性的權力，其在社會治理層面傾向于謀求與社會組織之間形成合作，在算法歧視治理層面同樣應當如此。算法行業(yè)組織通過出臺平臺規(guī)范、協(xié)調平臺爭議、行使平臺監(jiān)督權等實際被賦予了“準行政權”①馬長山：《智慧社會背景下的“第四代人權”及其保障》，《中國法學》2019年第5期，第5-24頁。，其在算法歧視治理層面的作用不可小覷，政府加強與之在算法歧視治理層面的合作實為明智之舉。

針對平等權算法侵害的治理，我們有必要建構專門的算法監(jiān)管機關。伴隨著算法應用領域的不斷擴展，算法歧視的類型日趨多樣化，如果將不同類型的算法歧視交由不同的執(zhí)法機關予以監(jiān)管，將出現效率低下、行政成本高、專業(yè)性不強等問題。在我國，“網信辦”負責統(tǒng)籌有關部門強化互聯(lián)網信息監(jiān)管，可以賦予其算法監(jiān)管職能，由其統(tǒng)籌民政、工信、公安、郵政、銀行、市場監(jiān)督等部門進行算法監(jiān)管，并在“網信辦”中設立算法審查委員會專門負責該項工作。該算法審查委員會人員配給上應由行政機關人員、專家、業(yè)界代表組成，共同行使備案、調查、調解、支持訴訟等職能，以確保實質解決算法歧視爭議。另外，還需在地方設立與中央算法審查委員會相配套的下級機關，并為其提供充足的“人、財、物”保障，以形成中央與地方在算法歧視治理上的聯(lián)動機制。此外，國家還應支持鼓勵行業(yè)組織的建設，必要時為其提供一定的援助，還應尊重及適當吸納行業(yè)組織的意見。算法監(jiān)管機構應當協(xié)同行業(yè)組織審查企業(yè)的算法是否合規(guī)運行以及產生不良后果，并將審查結果向公眾披露，提升行業(yè)協(xié)會審查結果的權威性。

在憲法理論上，國家程序保障已經從傳統(tǒng)上的司法救濟程序擴展至行政程序，并在德國、日本還與英國的“正當法律程序”交互運用②李震山：《程序基本權》，《月旦法學教室》2004年第19期，第32-36頁。。根據德國基本權利之“主觀權利客觀法”理論，基本權利作為客觀法具有制度性保障、組織和程序保障、保護義務等功能，其中，程序保障功能要求國家進行程序方面的建構，以保障公民基本權利。英國“正當法律程序”理論要求公權力機關應當履行公開、公正、參與等程序義務。兩種理論交互運用，充實了基本權利程序保障的內涵，即國家先是應當圍繞公開、公正、參與等程序義務進行相應程序性建構，然后是應當嚴格履行上述程序義務，以充分保障公民基本權利。針對平等權的算法侵害，程序保障的內涵包括以下方面：（1）國家利用算法作出決策對公民平等權產生侵害時，公民能夠獲得公平公正的程序保障。（2）非國家公權力主體利用算法作出決策對公民平等權產生侵害時，國家應當提供相應的程序保障。首先，公民的平等權受到算法侵害時，應當有訴訟途徑可以要求侵害者停止侵害、消除影響、賠償。其次，公民應當有途徑委托相應組織提起集體訴訟。最后，公民應當有途徑要求監(jiān)管機關就平等權的算法侵害進行查處，當監(jiān)管機關不作為時，應當有途徑提起行政不作為訴訟。

3.保護義務功能的實現。單一部門法提供的法律責任保護機制無法滿足對平等權全面保護的需要。平等權的基本權利地位確保其能夠打破各部門法的壁壘，匯聚各部門法規(guī)定的法律責任保護機制，以形成協(xié)同性的多元法律責任保護機制。簡而言之，民法、刑法、行政法、《消費者權益保障法》《婦女權益保障法》等法律均可對平等權提供相對應的法律責任保護機制，但每一種法律責任保護機制都局限于特定情形，因此，惟有根據具體情況有針對性地采取相應的法律責任保護機制，才能實現平等權的保護。首先，民事法律責任保護機制的運用。目前來看，公民個人針對算法歧視采取私力救濟的情形少之又少，還面臨著舉證、訴訟成本等問題，筆者建議國家對公民應采取傾向保護原則。例如，在賠償數額與范圍的確定存在爭議時，司法機關應盡可能作有利于公民個人的解釋；在歸責原則上盡可能讓算法設計者、開發(fā)者、應用者承擔無過錯連帶賠償責任，以避免公民經歷昂貴而漫長的訴訟；在舉證責任上規(guī)定舉證責任倒置；通過立法明確精神損害賠償責任等。其次，行政法律責任保護機制的運用。算法監(jiān)管部門可以采用責令停止侵害、消除影響、限期改正、賠禮道歉以及列入信用檔案、罰款、吊銷營業(yè)執(zhí)照、行政約談、行政拘留等多種措施，履行平等權保護義務。值得強調的是，監(jiān)管機關在采取以上措施時應適機引入比例原則以及謀取與民事法律責任保護機制的協(xié)同，切勿因社會輿論壓力、政治壓力、執(zhí)法能力不足等情形造成“治理過度”。最后，刑事法律責任保護機制的運用。值得強調的是，刑事法律責任保護機制的運用必須是為了保護平等權方面“重大且根本性的法益”免于受到侵害情形下，才可為之。

六、結語

算法正潛移默化地影響著人類的生活，但該項技術并非秉持完全的價值中立。盡管其為便利人類的生活功不可沒，但還需要明確其對人類基本權利的侵犯以及提供憲法功能性的應對路徑。我們應當對算法的應用時刻保持著警醒，同時對平等權的算法侵害予以反思。與傳統(tǒng)的歧視相異，由算法產生的歧視造成了固化社會不平等、歧視識別困難和平等權法律保護模式滯后等危機，這增加了平等權的保護難度，也為平等權的憲法功能展開提供了“用武之地”。

論文在理論方面釋明了憲法中平等權的內涵、屬性、性質以及功能，并在此基礎上證成了國家立法、行政、司法機關針對平等權具有相應的積極義務與消極義務。實踐方面探明了算法歧視所引發(fā)的危機，并針對上述危機提出立法、行政、司法等層面的行權建議。雖筆者盡力對憲法平等權進行多角度研讀，但仍不能使其擺脫抽象性樣態(tài)，加之算法歧視類型多樣以及所引發(fā)危機復雜，在鉚合平等權與算法歧視方面仍難免有所遺漏，在此就教于方家。