侯玲玲 王超

[摘要] 人工智能參與就業(yè)市場(chǎng)可以防止用人單位對(duì)勞動(dòng)者的就業(yè)歧視，但也有可能加劇既有的歧視現(xiàn)象。美國、英國、歐盟等法域在傳統(tǒng)反歧視成文法的基礎(chǔ)上已經(jīng)形成了成熟的司法裁判經(jīng)驗(yàn)和規(guī)則體系。本文從用人單位依賴人工智能招聘時(shí)所可能產(chǎn)生的歧視風(fēng)險(xiǎn)出發(fā)，分析了算法招聘對(duì)我國現(xiàn)有勞動(dòng)法律中反歧視規(guī)則的挑戰(zhàn)以及我國法院在就業(yè)歧視司法裁判中存在的各種問題，在借鑒域外經(jīng)驗(yàn)的基礎(chǔ)上，提出了針對(duì)我國反就業(yè)歧視法律制度構(gòu)建的建議。

[關(guān)鍵詞] 人工智能? 就業(yè)歧視? 算法? 大數(shù)據(jù)? 比較法? 舉證責(zé)任

一、 問題的提出

國務(wù)院于2017年7月印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，對(duì)我國人工智能（artificial intelligence，AI）的發(fā)展規(guī)劃和風(fēng)險(xiǎn)防控進(jìn)行了戰(zhàn)略性指引。2019年，《國務(wù)院關(guān)于進(jìn)一步做好穩(wěn)就業(yè)工作的意見》提出，要加強(qiáng)人工智能、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域基礎(chǔ)設(shè)施投資和產(chǎn)業(yè)布局。為了應(yīng)對(duì)人工智能高速發(fā)展可能帶來的負(fù)面影響，2019年中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于促進(jìn)勞動(dòng)力和人才社會(huì)性流動(dòng)體制機(jī)制改革的意見》，提出要研究機(jī)器人、人工智能等技術(shù)對(duì)就業(yè)影響的應(yīng)對(duì)辦法。人工智能發(fā)展的不確定性所帶來的新挑戰(zhàn)和就業(yè)結(jié)構(gòu)改變等問題，將對(duì)經(jīng)濟(jì)安全和社會(huì)穩(wěn)定產(chǎn)生深遠(yuǎn)影響。①在人工智能時(shí)代，計(jì)算機(jī)算法深度參與了就業(yè)市場(chǎng)的各個(gè)環(huán)節(jié)，包括勞動(dòng)者招聘、晉升等。②以算法為核心的招聘網(wǎng)站和社交平臺(tái)——智聯(lián)招聘網(wǎng)、前程無憂網(wǎng)、領(lǐng)英等——成為企業(yè)人才招聘的主要渠道之一。將數(shù)據(jù)系統(tǒng)和自動(dòng)化決策作為監(jiān)測(cè)、分配、評(píng)估與管理勞動(dòng)力的方式日益成為當(dāng)代就業(yè)市場(chǎng)的特點(diǎn)。自動(dòng)化招聘系統(tǒng)（automated hiring systems）通過使用數(shù)據(jù)驅(qū)動(dòng)技術(shù)轉(zhuǎn)變了人力資源管理和員工招聘的方式。③用人單位在人事決策中對(duì)大數(shù)據(jù)和人工智能的依賴程度越來越高，而這種技術(shù)的應(yīng)用可能產(chǎn)生就業(yè)歧視的后果。人工智能技術(shù)應(yīng)用引發(fā)的就業(yè)歧視相對(duì)于傳統(tǒng)就業(yè)歧視而言更為隱蔽，實(shí)踐中可能將婦女、殘疾人、老年人等弱勢(shì)群體置于更加不利的就業(yè)地位。

雖然目前還沒收集到算法和大數(shù)據(jù)技術(shù)應(yīng)用導(dǎo)致的國內(nèi)就業(yè)歧視案例，但隨著大數(shù)據(jù)、人工智能技術(shù)的研發(fā)和應(yīng)用，我們不難預(yù)測(cè)，技術(shù)會(huì)改變我國傳統(tǒng)的雇用模式，人力資源部門將會(huì)依賴大數(shù)據(jù)招聘并留住最優(yōu)員工。本文從用人單位依賴人工智能解決招聘等難題時(shí)可能產(chǎn)生的歧視性風(fēng)險(xiǎn)出發(fā)，分析這些風(fēng)險(xiǎn)產(chǎn)生的原因、特殊性以及對(duì)現(xiàn)有反歧視法律構(gòu)成的挑戰(zhàn)。在此基礎(chǔ)上，本文對(duì)人工智能技術(shù)應(yīng)用造成的就業(yè)歧視法律規(guī)制需求進(jìn)行深入分析，借鑒域外立法和司法經(jīng)驗(yàn)，反思我國現(xiàn)有反歧視法律之不足，并提出有關(guān)立法建議。

二、 我國就業(yè)歧視法律規(guī)制實(shí)施效果及凸顯的問題

（一） 我國就業(yè)歧視法律規(guī)制實(shí)施效果分析

我國勞動(dòng)者工作平等權(quán)的主要法律依據(jù)是《中華人民共和國勞動(dòng)法》（簡稱《勞動(dòng)法》）和《中華人民共和國就業(yè)促進(jìn)法》（簡稱《就業(yè)促進(jìn)法》），規(guī)定了受保護(hù)的勞動(dòng)者屬性包括民族、種族、性別、宗教信仰、殘疾人、傳染病病原攜帶者和農(nóng)村勞動(dòng)者，且強(qiáng)調(diào)了在反就業(yè)歧視和企業(yè)用工自由兩個(gè)法律目標(biāo)之間必須取得平衡?！毒蜆I(yè)促進(jìn)法》對(duì)《勞動(dòng)法》反就業(yè)歧視法律規(guī)定的完善，標(biāo)志著我國對(duì)于工作平等權(quán)保護(hù)的重視力度逐步加大。《就業(yè)促進(jìn)法》在《勞動(dòng)法》列舉的法定歧視類型中增加了殘疾歧視、傳染病歧視、農(nóng)村歧視，通過“等”字確立了兜底式的立法體例，擴(kuò)展了法院裁定就業(yè)歧視范圍的自由裁量權(quán)，可以囊括法律條文未規(guī)定但實(shí)踐中常見的歧視類型（例如對(duì)乙肝病毒攜帶者的健康歧視）。

本文以“就業(yè)促進(jìn)法”“招聘”“歧視”等關(guān)鍵詞搜索北大法寶等權(quán)威數(shù)據(jù)庫，將焦點(diǎn)放在招聘階段的就業(yè)歧視現(xiàn)象上。收集整理的案例集排除了用人單位簽訂勞動(dòng)合同之后違規(guī)解除勞動(dòng)合同的案例，只關(guān)注應(yīng)聘人員和用人單位之間尚未形成勞動(dòng)關(guān)系的案例，并且排除了尚未生效的一審裁決等案例。經(jīng)過篩選，本文共收集了42個(gè)與招聘歧視相關(guān)的案例。我國的就業(yè)市場(chǎng)規(guī)模龐大，受到歧視的求職者往往不愿意提起就業(yè)歧視訴訟，這是因?yàn)樵V訟的時(shí)間成本高、就業(yè)歧視缺乏明確定義標(biāo)準(zhǔn)、舉證困難、獲得賠償金額不高。由于歷史的原因，我國長期以來的立案審核制度使得一些具有敏感性的招聘歧視案件未能進(jìn)入審判程序。2015年，我國法院從立案審查制變?yōu)榱傅怯浿?，此后招聘歧視案件?shù)量呈現(xiàn)迅速上升趨勢(shì)。①

從招聘歧視案件所涉及的糾紛類型來看，數(shù)量占據(jù)多數(shù)的是侵權(quán)糾紛類案件（共23個(gè)案例，包括人格權(quán)糾紛、締約過失糾紛、平等就業(yè)權(quán)糾紛和其他侵權(quán)糾紛）。由于應(yīng)聘人員和用人單位在招聘階段未簽訂勞動(dòng)合同，因此應(yīng)聘人只能追究用人單位的侵權(quán)責(zé)任，這印證了學(xué)者的觀點(diǎn)，即我國已確立了反就業(yè)歧視法的侵權(quán)法模式。②其次是行政糾紛類案件（共16個(gè)案例）。這主要包括應(yīng)聘者在應(yīng)聘政府機(jī)構(gòu)、事業(yè)單位等設(shè)置的工作崗位時(shí)發(fā)生的糾紛。勞動(dòng)糾紛類案件的數(shù)量最少（共3個(gè)案例），這是由大多數(shù)招聘歧視案件中雙方當(dāng)事人未簽訂勞動(dòng)合同而造成的。③

從作為被告的用人單位的類型來看，最多的是企業(yè)被告，涉及20個(gè)案例;其次是政府部門，涉及17個(gè)案例;最后是事業(yè)單位，涉及5個(gè)案例。值得注意的是，政府部門和事業(yè)單位等作為被告的案例總數(shù)超過了企業(yè)被告案例數(shù)。這一現(xiàn)象引發(fā)了學(xué)者對(duì)我國就業(yè)歧視現(xiàn)象的擔(dān)憂，即發(fā)生在政府部門的就業(yè)歧視往往會(huì)對(duì)整個(gè)就業(yè)市場(chǎng)產(chǎn)生不利的輻射影響。④

現(xiàn)實(shí)中，我國的招聘歧視類型復(fù)雜多樣，包含了健康歧視、性別歧視、學(xué)歷歧視等11種類型，超出了法定歧視種類范圍。⑤健康歧視是我國最嚴(yán)重的招聘歧視類型，包含了18個(gè)案例。盡管《就業(yè)促進(jìn)法》等法律法規(guī)明確保護(hù)乙肝等病毒攜帶者的就業(yè)權(quán)利，法院系統(tǒng)也出過指導(dǎo)案例，但現(xiàn)實(shí)中大多數(shù)地方法院并沒有判決原告勝訴。⑥這是因?yàn)橛萌藛挝坏捏w檢制度符合政府有關(guān)部門制定的體檢規(guī)定，使得健康歧視有了制度合法性基礎(chǔ)。性別歧視只有4個(gè)案例，說明我國對(duì)女性勞動(dòng)者的保護(hù)水平有所提升，然而隱藏的性別歧視仍然是不可忽視的嚴(yán)重社會(huì)問題。學(xué)歷歧視同樣具有深刻的社會(huì)基礎(chǔ)。我國教育資源的人均稀缺性加劇了用人單位對(duì)于學(xué)歷的追求，就業(yè)市場(chǎng)的激烈競爭促使用人單位普遍提高了學(xué)歷要求。

從勝訴率來看，原告勞動(dòng)者在17個(gè)案例中獲得了勝訴，勝訴率低于50%。不同地區(qū)和層級(jí)的法院在實(shí)踐中的裁判尺度明顯不一且適用法律并不一致。部分法院援引了《就業(yè)促進(jìn)法》進(jìn)行裁判，而其他法院則采用了傳統(tǒng)裁判思路（例如援引《侵權(quán)責(zé)任法》）。裁判尺度的不一致違反了法律平等原則，使當(dāng)事人的行為抉擇具有不確定性風(fēng)險(xiǎn)。①在勝訴的案件中，法院給予被歧視應(yīng)聘人員的救濟(jì)方式整體上包括確認(rèn)被告行為違法、賠償應(yīng)聘人員經(jīng)濟(jì)損失、精神損害賠償、賠禮道歉。對(duì)受到招聘單位歧視的應(yīng)聘人員的司法救濟(jì)極為有限，其局限性具體體現(xiàn)為：救濟(jì)方式不包括錄用應(yīng)聘人員和建立勞動(dòng)關(guān)系，經(jīng)濟(jì)損失賠償數(shù)額極為有限（最高經(jīng)濟(jì)損失賠償金額案例是17572.75元）。應(yīng)聘人員敗訴的原因主要是證據(jù)不足（10個(gè)案例），另一個(gè)重要原因是，法院認(rèn)為招聘單位的做法符合現(xiàn)行法律法規(guī)。面向社會(huì)公開招聘的事業(yè)單位在應(yīng)聘人員體檢之后以其攜帶病毒為由拒絕錄用的，聲稱自己的根據(jù)是政府部門制定的入職體檢標(biāo)準(zhǔn)，而法院也往往因?yàn)楸桓娴男袨橛姓募谋硶С直桓娴目罐q。

（二） 我國就業(yè)歧視法律規(guī)制凸顯的問題

《就業(yè)促進(jìn)法》第三條規(guī)定的勞動(dòng)者平等就業(yè)權(quán)和第八條規(guī)定的用人單位自主用人權(quán)理論上應(yīng)該互相補(bǔ)充和平衡，然而在實(shí)踐中，由于勞資力量嚴(yán)重不平衡和舉證困難等原因，立法和司法實(shí)踐都傾向于維護(hù)用人單位的自主用人權(quán)利，而往往忽視了對(duì)勞動(dòng)者平等就業(yè)權(quán)利的保護(hù)。②

首先，法院對(duì)案由歸類的不確定性極大地影響著當(dāng)事人的舉證責(zé)任、法律責(zé)任承擔(dān)方式等。當(dāng)事人選擇提起侵權(quán)訴訟還是提起勞動(dòng)訴訟存在許多重大差別。例如，侵權(quán)賠償范圍包括承擔(dān)精神損害賠償費(fèi)、誤工費(fèi)、體檢費(fèi)，賠禮道歉等，而勞動(dòng)法律責(zé)任包括恢復(fù)勞動(dòng)關(guān)系，支付經(jīng)濟(jì)補(bǔ)償金、賠償金、工資差額等。③

其次，反就業(yè)歧視類型過于狹窄。不僅禁止傳統(tǒng)就業(yè)歧視的法律法規(guī)沒有得到有效執(zhí)行，年齡歧視等侵犯一般人格權(quán)的就業(yè)歧視現(xiàn)象也沒有得到立法層面的重視。究其原因，一方面，在于禁止年齡歧視等法律列舉外歧視類型的法律規(guī)制缺位。我國勞動(dòng)法律法規(guī)中所列舉的禁止歧視的事由只包括有限的幾項(xiàng)，沒有包括年齡歧視等具有較大社會(huì)危害性的其他重要歧視類型。另一方面，我國勞動(dòng)力市場(chǎng)還存在過度飽和、行業(yè)內(nèi)卷等現(xiàn)象。一些產(chǎn)業(yè)部門勞動(dòng)力供大于求的現(xiàn)狀助長了用人單位濫用用工自主權(quán)和縱容各種歧視的不良風(fēng)氣。

再次，現(xiàn)行的舉證責(zé)任制度不利于保護(hù)勞動(dòng)者。目前法院處理的招聘歧視案件主要是侵權(quán)糾紛。按照傳統(tǒng)的“誰主張誰舉證”證明規(guī)則，被侵權(quán)人一旦無法舉證則需承擔(dān)敗訴風(fēng)險(xiǎn)?！蹲罡呷嗣穹ㄔ宏P(guān)于民事訴訟證據(jù)的若干規(guī)定》第六條僅包含對(duì)于勞動(dòng)關(guān)系存續(xù)期間勞動(dòng)爭議案件證明責(zé)任的特殊規(guī)定，但沒有明確就業(yè)歧視案件適用該特殊證明規(guī)定。除非應(yīng)聘人員有明顯證據(jù)證明用人單位在招聘過程中有歧視行為，否則不可能勝訴?，F(xiàn)有證明責(zé)任制度無法滿足就業(yè)歧視糾紛處理的需求。

最后，政府部門規(guī)章制度中隱含的就業(yè)歧視難以救濟(jì)。政府部門發(fā)布具有一般約束力的規(guī)章制度的行為屬于抽象行政行為。根據(jù)《中華人民共和國行政訴訟法》第十三條，抽象行政行為是不可訴的。應(yīng)聘人員即使證明了用人單位存在歧視行為，只要用人單位的做法符合政府部門規(guī)章制度的規(guī)定，法院也很難追究用人單位的法律責(zé)任。我國法院系統(tǒng)早些年發(fā)布的典型指導(dǎo)案例也采取了支持政府頒布的有關(guān)用人規(guī)章制度的立場(chǎng)。2008年，北京市朝陽區(qū)人民法院在審理高軼明案時(shí)認(rèn)為，除國家法律、行政法規(guī)和衛(wèi)計(jì)委規(guī)定禁止從事的易使乙肝病毒擴(kuò)散的工作外，用人單位不得以勞動(dòng)者攜帶乙肝表面抗原為理由拒絕招錄或者辭退乙肝表面抗原攜帶者。這說明了法院系統(tǒng)行使自由裁量權(quán)時(shí)采取了尊重政府標(biāo)準(zhǔn)的裁判思路，國家法律、行政法規(guī)和衛(wèi)計(jì)委等部委的規(guī)定似乎成了健康歧視的豁免事由。①政府部門頒布的一些有關(guān)人員招錄的規(guī)章制度對(duì)整個(gè)就業(yè)市場(chǎng)將會(huì)產(chǎn)生效果不同的輻射影響。

三、 人工智能技術(shù)在就業(yè)招聘中的應(yīng)用及其歧視性風(fēng)險(xiǎn)

（一） 人工智能技術(shù)在就業(yè)招聘中的應(yīng)用

人工智能被定義為“計(jì)算機(jī)科學(xué)的一個(gè)分支，用于模擬計(jì)算機(jī)中的智能行為”。②人工智能是一個(gè)很大的類別，包括機(jī)器學(xué)習(xí)、模式識(shí)別、問題解決和適應(yīng)不斷變化的環(huán)境。③依賴大數(shù)據(jù)和算法做出最優(yōu)人事決策會(huì)成為越來越多的用人單位的選擇。人工智能主要通過定向推送招聘廣告、審查匹配求職者等方式對(duì)就業(yè)市場(chǎng)進(jìn)行重塑。

首先，招聘廣告的定向推送。隨著我國互聯(lián)網(wǎng)的快速發(fā)展，互聯(lián)網(wǎng)購物平臺(tái)、社交媒體軟件的用戶數(shù)量增長迅猛。每個(gè)用戶的瀏覽、使用數(shù)據(jù)痕跡都被存儲(chǔ)起來，企業(yè)通過計(jì)算機(jī)進(jìn)行大數(shù)據(jù)統(tǒng)計(jì)就可以預(yù)測(cè)用戶的消費(fèi)偏好等信息。根據(jù)這些數(shù)據(jù)，企業(yè)就可能推斷出用戶“屬性”，確定特定受眾人群并定向精準(zhǔn)推送廣告。例如，天貓購物針對(duì)用戶信息瀏覽的大數(shù)據(jù)來預(yù)測(cè)用戶的消費(fèi)偏好，定向推送相關(guān)商品廣告。④人工智能技術(shù)越來越多地被運(yùn)用在招聘領(lǐng)域中，用人單位可以向平臺(tái)提供現(xiàn)有員工信息，通過分析這些員工數(shù)據(jù)來確定招聘市場(chǎng)的“酷似受眾群體”，極大地提高招聘廣告送達(dá)人群的準(zhǔn)確性和有效性。

其次，審查和匹配求職者。相對(duì)于人工審查和篩選求職申請(qǐng)簡歷來說，人工智能技術(shù)應(yīng)用具有絕對(duì)優(yōu)勢(shì)。人工智能技術(shù)的應(yīng)用有助于用人單位對(duì)簡歷進(jìn)行掃描，通過關(guān)鍵詞搜索對(duì)不合適的簡歷進(jìn)行篩除，從而有效縮小選擇范圍，大大提高招聘審查的效率。此外，人工智能技術(shù)也可以通過算法對(duì)求職者未來工作表現(xiàn)進(jìn)行一定程度的預(yù)測(cè)。利用人工智能技術(shù)，商家還可以根據(jù)某位女性在購物平臺(tái)上購買過葉酸補(bǔ)充劑等孕產(chǎn)期特殊商品的行為，預(yù)測(cè)出該女性懷孕的可能性很大，從而為她定向推送母嬰商品的廣告。這種預(yù)測(cè)行為一旦被用在招聘上，人工智能系統(tǒng)會(huì)通過大數(shù)據(jù)預(yù)測(cè)求職者可能“懷孕”。還有學(xué)者開發(fā)了深度學(xué)習(xí)算法，通過人臉來評(píng)估預(yù)測(cè)測(cè)試對(duì)象罹患心臟病的風(fēng)險(xiǎn)。①根據(jù)預(yù)測(cè)，企業(yè)能夠判斷該求職者目前和未來健康狀況是否適合現(xiàn)有崗位需求。

最后，面試和評(píng)估求職者。大數(shù)據(jù)和人工智能技術(shù)應(yīng)用能夠改變傳統(tǒng)的求職評(píng)估方式。受限于信息獲取、面試經(jīng)驗(yàn)及個(gè)人偏見，專員面試可能缺乏對(duì)求職者準(zhǔn)確、客觀公正的評(píng)價(jià)。人工智能技術(shù)可以通過數(shù)據(jù)分析，對(duì)求職者作出客觀評(píng)價(jià)，消除自然人常有的個(gè)人偏見。人工智能軟件系統(tǒng)通過分析求職者錄像視頻中的面試表現(xiàn)（包括面部表情、語速等）來評(píng)估求職者的工作風(fēng)格、勤勉忠誠度等，以確定其與崗位是否匹配。

（二） 人工智能技術(shù)在就業(yè)招聘中的歧視風(fēng)險(xiǎn)

招聘算法對(duì)就業(yè)歧視現(xiàn)象的影響具有兩面性。一方面，招聘算法通過消除人力資源經(jīng)理的主觀偏見和個(gè)人偏好來達(dá)到減少就業(yè)歧視的目標(biāo)，可以用中立無偏見的數(shù)據(jù)代替人類的錯(cuò)誤判斷從而提高決策能力。另一方面，招聘算法不會(huì)抵消工作場(chǎng)所偏見的結(jié)構(gòu)性形式。這種就業(yè)歧視不僅是由自然人的認(rèn)知過程造成的，也是由為不同類型的人創(chuàng)造不同機(jī)會(huì)的社會(huì)結(jié)構(gòu)性力量造成的。②

招聘算法可能包含著直接歧視，也可能包含著隱性歧視，即偏見代理的算法歧視。③用人單位采用的算法依賴某種受保護(hù)的個(gè)人屬性（protected characteristics），從而將某些群體排除在招聘廣告的接收對(duì)象之外。例如，算法設(shè)定的招聘廣告投放對(duì)象很可能只包括招聘平臺(tái)的女性用戶（涉嫌性別歧視），或者某個(gè)年齡段的人（涉嫌年齡歧視）。在這種直接歧視中，投放招聘廣告的用人單位往往具有主觀故意，而招聘平臺(tái)的算法規(guī)則愈發(fā)強(qiáng)化了用人單位的歧視行為。用人單位設(shè)計(jì)的算法依賴看似中立的個(gè)人屬性信息來投放廣告，而這些所謂中立信息實(shí)際上與受保護(hù)的個(gè)人屬性有著緊密聯(lián)系。例如，人們用Google搜索非洲裔美國人名稱時(shí)往往顯示犯罪信息，從而構(gòu)成種族歧視。①

招聘算法還可能根據(jù)深度學(xué)習(xí)獲得的數(shù)據(jù)進(jìn)行“大數(shù)據(jù)殺熟”。線上交易過程往往形成瀏覽記錄，交易平臺(tái)對(duì)這些記錄進(jìn)行積累，形成交易大數(shù)據(jù)。算法對(duì)這些大數(shù)據(jù)的不當(dāng)應(yīng)用可能會(huì)給就業(yè)市場(chǎng)帶來不利影響，例如通過購物平臺(tái)交易記錄來預(yù)測(cè)用戶的性格、身體狀況等。對(duì)于購買與孕產(chǎn)有關(guān)的保健品和用品的女性消費(fèi)者來說，算法可以預(yù)測(cè)該女性已懷孕或正在積極備孕。當(dāng)這位女性消費(fèi)者求職時(shí)，用人單位如果通過算法分析獲取了這些信息，預(yù)測(cè)到該求職者可能已經(jīng)懷孕或近期有懷孕計(jì)劃，那么該求職者很有可能不會(huì)被用人單位錄用，從而產(chǎn)生事實(shí)上的性別歧視。

招聘算法也會(huì)帶來圈子歧視，即可能只在某種特定同質(zhì)性人群中進(jìn)行招聘活動(dòng)。通過Facebook等平臺(tái)的相似群體工具，算法只在某個(gè)社會(huì)人群或階層圈子內(nèi)投放招聘廣告。這個(gè)具有同質(zhì)性的人群圈子可能是企業(yè)的現(xiàn)有員工圈，也可能是名校校友圈等具有相似種族、年齡背景的人群。圈子人群屬性往往隱藏了地點(diǎn)、性別、年齡等個(gè)人敏感信息，而算法的相似群體標(biāo)簽本身已經(jīng)對(duì)這些個(gè)人特征進(jìn)行了篩選。招聘算法反映了現(xiàn)有的招聘實(shí)踐的情況，然而這些做法卻最終導(dǎo)致了性別歧視等就業(yè)歧視現(xiàn)象。②

（三） 人工智能技術(shù)對(duì)就業(yè)歧視法律規(guī)制的挑戰(zhàn)

以算法為核心建立的人力資源招聘決策體系必然會(huì)產(chǎn)生新的算法歧視風(fēng)險(xiǎn)，在我國現(xiàn)有就業(yè)歧視法律規(guī)制缺陷的基礎(chǔ)上進(jìn)一步擴(kuò)大了工作平等權(quán)保護(hù)的不足，從而挑戰(zhàn)我國現(xiàn)有的反就業(yè)歧視法。雖然我國現(xiàn)階段尚未出現(xiàn)大規(guī)模的人工智能算法歧視案件，但隨著科技進(jìn)步和社會(huì)發(fā)展，我國法院將面臨越來越多的算法歧視規(guī)制方面的問題和挑戰(zhàn)。

人工智能技術(shù)增加了就業(yè)歧視司法認(rèn)定的難度。首先，招聘廣告的定向推送很難被認(rèn)定為就業(yè)歧視。在線定向招聘廣告并沒有出現(xiàn)對(duì)任何群體偏好或歧視的字眼，但在定向推送的背后，是深度算法對(duì)大數(shù)據(jù)分析后的自動(dòng)決策，只推送給特定人群從而產(chǎn)生歧視性后果（例如僅向男性適齡人群推送招聘廣告）。未被推送到的群體實(shí)際上被剝奪了知悉就業(yè)信息的機(jī)會(huì)。其次，通過以算法為核心的人力資源自動(dòng)決策系統(tǒng)對(duì)求職者簡歷的審核，似乎是依賴于這種中立性軟件工具運(yùn)用大數(shù)據(jù)的深度算法對(duì)求職者工作能力等做出的客觀評(píng)估。從表面上看，最終做出是否錄取的決策并不是用人單位主觀偏好的結(jié)果，因此用人單位很容易以“工作相關(guān)性”和“與崗位職責(zé)一致性”為理由予以抗辯。最后，人工智能是算法“黑箱”（Black box）。人工智能通過對(duì)大數(shù)據(jù)的深度學(xué)習(xí)，通過算法產(chǎn)生預(yù)測(cè)和決策，可能連算法設(shè)計(jì)者都不知道算法會(huì)如何決策。在招聘過程中，通過對(duì)大量簡歷、人體特征等數(shù)據(jù)進(jìn)行深度學(xué)習(xí)，算法最終可能自動(dòng)做出歧視性招聘決策。這并非自動(dòng)化系統(tǒng)開發(fā)商和使用方的故意行為，因此很難清晰地追究責(zé)任。

人工智能技術(shù)的應(yīng)用使得勞動(dòng)者證明企業(yè)存在就業(yè)歧視行為的難度大大增加。人工智能自動(dòng)化決策系統(tǒng)是基于對(duì)大數(shù)據(jù)的深度學(xué)習(xí)通過算法做出的決策，是一個(gè)“輸入數(shù)據(jù)、輸出決策”的過程。算法設(shè)計(jì)者通常會(huì)讓計(jì)算機(jī)在學(xué)習(xí)用人單位或招聘崗位歷史數(shù)據(jù)的基礎(chǔ)上，運(yùn)用算法對(duì)大數(shù)據(jù)進(jìn)行分析而輸出決策。原有的雇用數(shù)據(jù)對(duì)輸出的決策有著重要影響，從而導(dǎo)致分類差別的事實(shí)。例如，計(jì)算機(jī)軟件開發(fā)崗位以男性勞動(dòng)者為主，在此數(shù)據(jù)基礎(chǔ)上算法通過分析會(huì)得出男性勞動(dòng)者比女性勞動(dòng)者更適合計(jì)算機(jī)軟件開發(fā)崗位的結(jié)論，從而在篩選在線簡歷時(shí)更偏向男性。

綜上所述，我們可以得出如下結(jié)論：一方面，由于技術(shù)壁壘和信息不對(duì)稱，求職者難以證明人工智能自動(dòng)化決策系統(tǒng)做出的差別化招聘決策是用人單位的就業(yè)歧視行為。 求職者并非計(jì)算機(jī)專業(yè)技術(shù)人員，無法證明這種基于大數(shù)據(jù)算法分析出的決策是嵌入偏見的代碼所致。在算法“黑箱”下，求職者更沒有辦法證明用人單位有就業(yè)歧視的主觀故意。另一方面，對(duì)于用人單位提出的工作相關(guān)性和商業(yè)必要性，人工智能可以通過大數(shù)據(jù)分析予以證明，而求職者很難對(duì)人工智能這種算法決策提出反證。

四、 人工智能技術(shù)應(yīng)用中就業(yè)歧視法律規(guī)制域外經(jīng)驗(yàn)

（一） 美國

美國平等就業(yè)的憲法依據(jù)是第十四修正案的平等保護(hù)條款。1964年《民權(quán)法》第七章（Title VII of the Civil Rights Act of 1964）和《防止就業(yè)年齡歧視法》（Age Discrimination in Employment Act）構(gòu)建了美國的反歧視成文法律制度框架。①這些既有法規(guī)在人工智能技術(shù)造成的算法歧視問題上依然具有可適用性。為了更有效地消除就業(yè)歧視現(xiàn)象，美國建立了完善的訴訟發(fā)起機(jī)制。平等就業(yè)機(jī)會(huì)委員會(huì)（Equal Employment Opportunity Commission）以及某些州的公平就業(yè)實(shí)踐機(jī)構(gòu)（Fair Employment Practices Agencies）負(fù)責(zé)執(zhí)行《民權(quán)法》第七章，有權(quán)調(diào)查、調(diào)解并可代表雇員提起歧視訴訟。除阿肯色州和密西西比州外，其余各州都有一個(gè)州公平就業(yè)實(shí)踐機(jī)構(gòu)。平等就業(yè)機(jī)會(huì)委員會(huì)制定的《員工選拔程序統(tǒng)一指南》（Uniform Guidelines on Employee Selection Procedures）規(guī)定了五分之四規(guī)則，即如果任何種族、性別或民族群體的選拔率低于選擇率最高群體的五分之四，就可以被認(rèn)定為群體的選拔率具有實(shí)質(zhì)性差異，該種族、性別或民族群體受到了歧視。這條實(shí)用經(jīng)驗(yàn)法則可以讓執(zhí)法機(jī)構(gòu)注意到招聘率、晉升率和其他選拔決定的嚴(yán)重差異，可以作為重要的執(zhí)法參考。②

美國法律規(guī)制的就業(yè)歧視可以分為“差別對(duì)待歧視”和“差別影響歧視”，并且分別發(fā)展出了各自的監(jiān)管理論體系。一方面，基于差別對(duì)待（disparate treatment）理論，《民權(quán)法》第七章等聯(lián)邦法律主要通過成文法的明文禁止來規(guī)制“差別對(duì)待歧視”。另一方面，聯(lián)邦法院則通過判例確立了以差別影響（disparate impact）理論來界定就業(yè)歧視的具體認(rèn)定標(biāo)準(zhǔn)，規(guī)制“差別影響歧視”。①差別對(duì)待歧視和差別影響歧視分別對(duì)應(yīng)了英國反歧視法中的直接歧視和間接歧視。在司法裁決過程中，美國聯(lián)邦法院確立了以差別影響理論來規(guī)制成文法難以認(rèn)定的各種間接就業(yè)歧視類型，從而確立了就業(yè)歧視的具體認(rèn)定標(biāo)準(zhǔn)。在美國就業(yè)歧視案件中使用統(tǒng)計(jì)證據(jù)在很大程度上源于1971年的格里格斯訴杜克電力公司（Griggs v. Duke Power Company）一案②，最高法院在該案中確立了將差別影響理論作為起訴就業(yè)歧視行為的依據(jù)。自此之后，差別影響理論成為美國反歧視法律制度的重要基石。類似于傳統(tǒng)歧視類型，對(duì)人工智能算法造成的就業(yè)歧視的認(rèn)定需要運(yùn)用差別影響理論進(jìn)行分析。

關(guān)于算法就業(yè)歧視行為的客觀構(gòu)成要件，法院會(huì)對(duì)三個(gè)核心問題進(jìn)行審查：（1）差別影響。假如一項(xiàng)算法對(duì)原告產(chǎn)生的不利影響大于對(duì)其他社會(huì)公眾的影響時(shí)，這項(xiàng)算法決策就存在著歧視的可能性。在美國聯(lián)邦最高法院1982年裁決的康涅狄格州訴迪爾（Connecticut v. Teal）案中③，法院認(rèn)為雇主使用的就業(yè)與晉升測(cè)試算法導(dǎo)致黑人雇員遭受了禁止晉升的結(jié)果。該算法應(yīng)當(dāng)受到差別影響理論的審查，以保護(hù)算法決策對(duì)象的利益。（2）商業(yè)必要性。在1971年的格里格斯訴杜克電力公司案中，雇主使用的招聘考試方式使得黑人應(yīng)聘者的通過率大大低于白人應(yīng)聘者。法院判定該招聘考試方式違法，除非雇主能證明使用該考試方式具有商業(yè)上的必要性。④ （3）可替代的算法決策。在1975年的阿爾伯馬爾紙業(yè)公司訴穆迪（Albemarle Paper Co. v. Moody）案中⑤，聯(lián)邦最高法院認(rèn)為雇主雖然證明了就業(yè)能力測(cè)試算法與工作有關(guān)，但是還存在使用不會(huì)導(dǎo)致種族歧視的其他測(cè)試程序替代的可能性。關(guān)于算法就業(yè)歧視行為的主觀構(gòu)成要件，美國法律對(duì)直接歧視行為實(shí)行過錯(cuò)責(zé)任，而對(duì)間接歧視行為實(shí)行嚴(yán)格責(zé)任。法院要求勞動(dòng)者舉證證明實(shí)施差別對(duì)待歧視的雇主具有歧視的故意（intent），而無須證明實(shí)施差別影響歧視的雇主具有主觀故意。⑥

關(guān)于就業(yè)歧視的證明責(zé)任，格里格斯案的判決表明美國法院實(shí)行了舉證責(zé)任倒置，雇主對(duì)其未實(shí)行招聘歧視行為負(fù)有舉證責(zé)任。1973年，在麥克唐納-道格拉斯公司訴格林案（McDonnell Douglas Corp. v. Green）中，聯(lián)邦最高法院確立了舉證責(zé)任倒置的一般規(guī)則。在一個(gè)就業(yè)歧視案件中，原告雇員必須首先提供歧視的初步證據(jù)，被告雇主必須為其行為提供合法的非歧視性理由的證據(jù)以推翻歧視的假設(shè)，原告必須有公平的機(jī)會(huì)陳述事實(shí)以證明存在歧視。①

關(guān)于就業(yè)歧視因果關(guān)系的證明標(biāo)準(zhǔn)，法院根據(jù)不同成文法采取了不同嚴(yán)格程度的裁判標(biāo)準(zhǔn)。首先，《民權(quán)法》第七章中的一般就業(yè)歧視證明標(biāo)準(zhǔn)是證明受保護(hù)的個(gè)人特征是就業(yè)歧視行為中的“激勵(lì)因素”（motivating factor）。②在1989年普賴斯·沃特豪斯訴霍普金斯（Price Waterhouse v. Hopkins）案的判決中，聯(lián)邦最高法院法官認(rèn)為，當(dāng)原告證明性別（或其他受保護(hù)的個(gè)人特征）是就業(yè)決定中的“激勵(lì)因素”時(shí)，就已經(jīng)達(dá)到了《民權(quán)法》第七章的證明標(biāo)準(zhǔn)。③其次，《防止就業(yè)年齡歧視法》的訴訟采取了更嚴(yán)格的標(biāo)準(zhǔn)——“如果不是”（but for）因果關(guān)系規(guī)則。在2014年的克拉姆布萊特訴麥克休案（Cramblett v. McHugh）中，美國第九巡回法庭遵循了格羅斯訴FBL金融服務(wù)公司（Gross v. FBL Financial Services）案的“如果不是”因果關(guān)系規(guī)則。④法院認(rèn)為，原告雖然證明了自己的年齡是算法招聘考慮的一個(gè)重要因素（substantial factor），但這不足以達(dá)到年齡歧視的證明標(biāo)準(zhǔn)。原告被要求證明，如果不是因?yàn)樗哪挲g，他早就被錄用了。⑤就業(yè)歧視中的差別影響必須產(chǎn)生統(tǒng)計(jì)學(xué)上的顯著性才能被認(rèn)定為歧視行為。聯(lián)邦最高法院從1977年哈澤爾伍德學(xué)區(qū)訴美國（Hazelwood School Dist. v. United States）案⑥以來，越來越多地將統(tǒng)計(jì)顯著性檢驗(yàn)（test of statistical significance）用于審理就業(yè)歧視案件。

為了促進(jìn)平臺(tái)經(jīng)濟(jì)的發(fā)展，美國法律規(guī)定了平臺(tái)就業(yè)歧視責(zé)任的豁免制度。算法平臺(tái)幫助第三方招聘公司發(fā)布的招聘廣告經(jīng)常會(huì)造成就業(yè)歧視后果。Facebook平臺(tái)使得非裔、拉丁裔和亞裔美國人無法接收各種經(jīng)濟(jì)類廣告，包括住房和就業(yè)廣告。⑦針對(duì)Facebook的行為，一些集體訴訟揭示了就業(yè)歧視與招聘平臺(tái)廣告投放方式間的因果關(guān)系。⑧ 2017年，美國加州北區(qū)地方法院審判了美國通信工作者協(xié)會(huì)（Communications Workers of America）針對(duì)T-Mobile等公司提起的集團(tuán)訴訟。⑨原告指控被告公司通過Facebook的廣告平臺(tái)專門針對(duì)年輕人發(fā)布招聘廣告，屏蔽了年老人士，使之無法收到招聘廣告。T-Mobile通過Facebook發(fā)布了招聘廣告，將收到廣告的人群限制在18歲至38歲之間。①不僅是第三方招聘廣告，F(xiàn)acebook也經(jīng)常使用同樣的歧視性年齡過濾器，將年紀(jì)較大的員工排除在自己的職位招聘廣告之外。②然而，根據(jù)《通信規(guī)范法》（Communications Decency Act）的規(guī)定，F(xiàn)acebook等服務(wù)提供商對(duì)用戶生成的內(nèi)容不承擔(dān)責(zé)任，因?yàn)榉?wù)提供商沒有創(chuàng)建或開發(fā)有爭議的內(nèi)容。③2017年的科恩訴Facebook案（Cohen v. Facebook）探討了服務(wù)提供商的《通信規(guī)范法》潛在豁免情形④，學(xué)者也認(rèn)為Facebook的機(jī)器學(xué)習(xí)算法有能力選擇顯示個(gè)性化內(nèi)容，因而屬于內(nèi)容的共同開發(fā)者。⑤算法平臺(tái)是否豁免法律責(zé)任這一領(lǐng)域?qū)⑹俏磥碓V訟中互聯(lián)網(wǎng)企業(yè)與勞動(dòng)者之間攻防的重要陣地，決定了算法平臺(tái)是否應(yīng)對(duì)用戶生成的內(nèi)容承擔(dān)連帶責(zé)任。

（二） 英國

為了提高效率和節(jié)約成本，英國公司在招聘過程中越來越多地使用某種類型的求職者跟蹤系統(tǒng)或自動(dòng)化招聘系統(tǒng)。⑥盡管不如美國發(fā)展迅速，但是英國算法招聘也有了很大進(jìn)步，發(fā)展出了Applied和Thrivemap等自動(dòng)化招聘系統(tǒng)。⑦英國反歧視立法框架主要是2006年《平等法》（Equality Act），類似的法律還包括《同酬法》（Equal Pay Act）、《性別歧視法》（Sex Discrimination Act）等?！镀降确ā返牧⒎康闹皇怯煤w性別、種族和殘疾等所有主流歧視類型的統(tǒng)一法律來取代零散的既有法規(guī)。該法律不僅保護(hù)勞動(dòng)者免受由人類主觀意識(shí)造成的就業(yè)歧視，也保護(hù)勞動(dòng)者免受自動(dòng)決策系統(tǒng)產(chǎn)生的就業(yè)歧視。2006年《平等法》定義了免受歧視的九個(gè)“受保護(hù)特征”，包括年齡、殘疾、變性、婚姻和民事合伙、懷孕分娩、種族、宗教信仰、性別、性取向。在某些情況下，歧視存在例外豁免情況。例如，如果工作崗位要求某人具有特定的信仰（例如拉比或牧師），那么可以考慮列明宗教信仰的招聘條件。⑧

《性別歧視法》設(shè)立了平等機(jī)會(huì)委員會(huì)（Equal Opportunities Commission），后來被根據(jù)《平等法》設(shè)立的平等和人權(quán)委員會(huì)（Equality and Human Rights Commission）所取代，由平等和人權(quán)委員會(huì)處理種族、宗教、性別等各種歧視 。作為非政府部門公共機(jī)構(gòu)，平等和人權(quán)委員會(huì)是獨(dú)立運(yùn)作的專業(yè)權(quán)威機(jī)構(gòu)，已經(jīng)成為決策者、公共機(jī)構(gòu)和企業(yè)的重要聯(lián)絡(luò)點(diǎn)。①平等和人權(quán)委員會(huì)重申了《平等法》定義的九個(gè)“受保護(hù)特征”，并提供了防止歧視的具體指引。②

與美國的法律一樣，英國法律規(guī)制的就業(yè)歧視可以被分為直接歧視和間接歧視。英國勞動(dòng)力市場(chǎng)的直接就業(yè)歧視相對(duì)于間接就業(yè)歧視來說較為罕見，這與美國的案例情況正好相反，美國差別對(duì)待歧視（直接歧視）案件遠(yuǎn)遠(yuǎn)多于差別影響歧視（間接歧視）案件。③類似于美國的差別影響理論，《平等法》第十九條將間接歧視定義為“對(duì)受保護(hù)特征具有歧視性的規(guī)定、標(biāo)準(zhǔn)或做法”。當(dāng)一項(xiàng)勞動(dòng)政策以同樣的方式適用于所有人，其效果使具有受保護(hù)特征的人處于尤其不利地位時(shí)，就可以被認(rèn)定為構(gòu)成了間接就業(yè)歧視。伴隨《平等法》出臺(tái)的《實(shí)踐守則》（Code of Practice）進(jìn)一步細(xì)化了就業(yè)歧視的認(rèn)定標(biāo)準(zhǔn)。《實(shí)踐守則》規(guī)定了必須對(duì)具備受保護(hù)特征的勞動(dòng)者和不具備受保護(hù)特征的勞動(dòng)者進(jìn)行比較。兩組的情況必須足夠相似以便進(jìn)行比較，并且在情況上不得有任何實(shí)質(zhì)性差別。④

在證明標(biāo)準(zhǔn)上，英國法院運(yùn)用了“如果不是”（but for）方法來認(rèn)定歧視行為。在1990年的詹姆斯訴伊斯特利區(qū)議會(huì)（James v. Eastleigh Borough Council）案件中，市議會(huì)推出一項(xiàng)優(yōu)惠活動(dòng)，允許享受養(yǎng)老金者免費(fèi)進(jìn)入游泳池，而無須交35便士入浴費(fèi)。詹姆斯夫婦都是61歲，但詹姆斯女士可以免費(fèi)進(jìn)入游泳池，而詹姆斯先生則不能免費(fèi)入浴。這是因?yàn)榕詮?0歲起可以領(lǐng)取養(yǎng)老金，而男性只有到65歲以后才可以領(lǐng)取。法院認(rèn)為如果不是因?yàn)檎材匪瓜壬悄行裕粫?huì)受到不利的待遇，因此認(rèn)定直接歧視行為存在。⑤

英國法律只關(guān)注被告是否實(shí)施了歧視的客觀行為，而不管其是否具有歧視的主觀動(dòng)機(jī)，因此是否具有歧視的意圖或動(dòng)機(jī)不是承擔(dān)法律責(zé)任的必要條件。在1989年的R訴伯明翰（R v. Birmingham City Council ex parte Equal Opportunities Commission）案中， 伯明翰市議會(huì)為八所男女分校里的11歲學(xué)生提供了600個(gè)去自愿資助的文法學(xué)校就讀的機(jī)會(huì)，在12歲時(shí)男、女生可獲得同等數(shù)量的名額。然而，甄選程序?yàn)?1歲的男孩和女孩分別分配了390個(gè)、210個(gè)名額。平等機(jī)會(huì)委員會(huì)要求法院宣布伯明翰市議會(huì)的政策違反了1975年《性別歧視法》第二十三條第一款，因?yàn)檫@些政策歧視女生。法院裁定平等機(jī)會(huì)委員會(huì)勝訴，并認(rèn)定了伯明翰市議會(huì)違反1975年《性別歧視法》第二十三條第一款。法院實(shí)施了嚴(yán)格責(zé)任，只關(guān)注被告是否實(shí)施了歧視的客觀行為，而不管其是否具有歧視的主觀動(dòng)機(jī)。因此，被告是否具有歧視意圖或動(dòng)機(jī)不是其承擔(dān)法律責(zé)任的必要條件。①

（三） 歐盟

《歐盟基本權(quán)利憲章》（Charter of Fundamental Rights）第二十一條禁止基于以下幾種理由的歧視：性別、種族、膚色、族裔或社會(huì)出身、遺傳特征、語言、宗教或信仰、政治或任何其他見解、少數(shù)民族成員身份、財(cái)產(chǎn)、殘疾、年齡、性取向和國籍。這些特征種類比英國的九種特征更為全面。與這些屬性相關(guān)的信息一旦被作為數(shù)據(jù)處理后，就會(huì)受到數(shù)據(jù)保護(hù)法律框架的保護(hù)。《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation）不僅引入了隱私限制以減輕算法歧視現(xiàn)象，對(duì)于算法招聘歧視具有一定的適用性，還引入了專門保護(hù)數(shù)據(jù)主體在處理個(gè)人數(shù)據(jù)時(shí)的“基本權(quán)利和自由”的條款（包括不受歧視的權(quán)利）。《通用數(shù)據(jù)保護(hù)條例》中規(guī)定了獲得解釋權(quán)（right to an explanation）等權(quán)利，使算法更負(fù)責(zé)、更可解釋、更以人為中心。數(shù)據(jù)處理應(yīng)向數(shù)據(jù)主體提供具體信息，使主體具有對(duì)所做決定解釋的權(quán)利和質(zhì)疑決定的權(quán)利。②

為了確保能夠公正、透明地處理數(shù)據(jù)主體，控制者應(yīng)使用適當(dāng)?shù)臄?shù)學(xué)或統(tǒng)計(jì)程序進(jìn)行分析，以識(shí)別涉及數(shù)據(jù)主體利益和權(quán)利的潛在風(fēng)險(xiǎn)，進(jìn)而保護(hù)個(gè)人數(shù)據(jù)，并防止對(duì)自然人產(chǎn)生歧視性影響。③為了更好地執(zhí)行反歧視規(guī)則，歐盟建立了歐洲數(shù)據(jù)保護(hù)委員會(huì) （European Data Protection Board） ④，對(duì)所有處理和使用可能會(huì)對(duì)自然人的權(quán)利和自由帶來高風(fēng)險(xiǎn)的新技術(shù)，都必須進(jìn)行數(shù)據(jù)保護(hù)影響評(píng)估。⑤

五、 人工智能技術(shù)應(yīng)用下我國就業(yè)歧視法律規(guī)制重構(gòu)

如果人工智能參與就業(yè)市場(chǎng)的活動(dòng)被合理規(guī)制，那么計(jì)算機(jī)算法將有助于發(fā)現(xiàn)現(xiàn)實(shí)社會(huì)中存在的就業(yè)歧視現(xiàn)象。⑥算法的使用提高了決策構(gòu)成和動(dòng)機(jī)的清晰度與透明度，從而大大增加了發(fā)現(xiàn)歧視現(xiàn)象的可能性。當(dāng)涉及算法歧視時(shí)，法律可以通過規(guī)范算法設(shè)計(jì)過程、編寫構(gòu)建機(jī)器學(xué)習(xí)分類算法和設(shè)立詳細(xì)的記錄保存制度，使勞動(dòng)者的舉證過程變得更容易。①我國在人工智能發(fā)展規(guī)劃中明確了建立人工智能安全監(jiān)管和評(píng)估體系的計(jì)劃，重點(diǎn)關(guān)注對(duì)就業(yè)的影響，確保人工智能的發(fā)展安全可控。②在借鑒美國、英國等發(fā)達(dá)國家和地區(qū)的算法歧視規(guī)制經(jīng)驗(yàn)時(shí)，我國政策制定者需要考慮國內(nèi)就業(yè)市場(chǎng)的自身情況，避免法律移植可能帶來的規(guī)則水土不服問題。③美國的算法規(guī)制模式不可避免地帶有本國對(duì)就業(yè)歧視的社會(huì)認(rèn)知，如果法律移植、經(jīng)驗(yàn)借鑒不考慮國情差異和社會(huì)文化觀念差異，就可能導(dǎo)致勞動(dòng)者的權(quán)利得不到有效保障。④

（一） 擴(kuò)展歧視類型、明確歧視認(rèn)定和豁免標(biāo)準(zhǔn)

在我國，學(xué)歷歧視、健康歧視、身高歧視、前科歧視等社會(huì)中廣泛存在的歧視現(xiàn)象并沒有被全國人大及其常委會(huì)列入基本勞動(dòng)法律之中，僅被抽象地涵蓋在“等”字中，作為歧視類型的兜底條款。這些主流歧視形態(tài)只出現(xiàn)在政府部門的規(guī)章和地方性法規(guī)等較低層級(jí)的文件中，難以達(dá)到保護(hù)勞動(dòng)者和威懾歧視行為的功效。美國和英國的就業(yè)歧視類型非常廣泛，法院系統(tǒng)隨時(shí)受理訴訟并靈活認(rèn)定潛在的歧視類型。本文建議我國立法機(jī)關(guān)應(yīng)通過修改勞動(dòng)法律，擴(kuò)展就業(yè)歧視的類型范圍，全面規(guī)定國內(nèi)和國際社會(huì)普遍存在的歧視類型，例如年齡歧視、身高歧視等。在人工智能技術(shù)應(yīng)用造成的歧視方面，我國法律應(yīng)明確地將算法歧視作為法定歧視類型之一。為了消除各種“合法”就業(yè)歧視，我國應(yīng)清理涉嫌帶有就業(yè)歧視色彩的政府規(guī)章制度和規(guī)范性文件，建立中央層面的規(guī)范性文件定期審查機(jī)制。

美國通過法院的經(jīng)典判例形成了招聘歧視行為認(rèn)定的一般原則和認(rèn)定標(biāo)準(zhǔn)。其聯(lián)邦最高法院在該案中確立了將差別對(duì)待理論和差別影響理論分別作為認(rèn)定直接和間接就業(yè)歧視行為的依據(jù)。法院會(huì)對(duì)差別影響、商業(yè)必要性和可替代算法決策等三個(gè)核心問題進(jìn)行審查或認(rèn)定。英國《平等法》和《實(shí)踐守則》也明確細(xì)化了就業(yè)歧視的認(rèn)定標(biāo)準(zhǔn)。雖然我國反歧視法律條文使用“等”字作為歧視類型的兜底條款，但難以為保護(hù)勞動(dòng)者免受歧視提供具有確定性的法律標(biāo)準(zhǔn)。為平衡勞動(dòng)者平等就業(yè)權(quán)利和用人單位的用人自主權(quán)利，《勞動(dòng)法》和《就業(yè)促進(jìn)法》等法律法規(guī)和最高法院的司法解釋應(yīng)在借鑒域外法律經(jīng)驗(yàn)的基礎(chǔ)上，明確和細(xì)化就業(yè)歧視的構(gòu)成要件與認(rèn)定標(biāo)準(zhǔn)，引進(jìn)差別對(duì)待理論和差別影響理論。為了鼓勵(lì)平臺(tái)經(jīng)濟(jì)的發(fā)展，我國應(yīng)借鑒美國《通信規(guī)范法》增加法定的歧視豁免情形。

美國、英國司法實(shí)踐中的“激勵(lì)因素”和“如果不是”證明標(biāo)準(zhǔn)對(duì)我國法院具有重要啟示作用。①“如果不是”證明標(biāo)準(zhǔn)對(duì)于勞動(dòng)者的證明責(zé)任要求過高，且人工智能存在技術(shù)壁壘和黑箱操作，因而“激勵(lì)因素”應(yīng)是我國立法者和法院優(yōu)先采取的證明標(biāo)準(zhǔn)。由于勞動(dòng)者很難證明算法平臺(tái)具有就業(yè)歧視的故意或意圖，且算法本身屬于人工智能運(yùn)行機(jī)制，因此我國應(yīng)規(guī)定算法平臺(tái)的無過錯(cuò)責(zé)任。

（二） 明確算法開發(fā)主體和運(yùn)營主體的法律義務(wù)

我國法律應(yīng)明確規(guī)定算法平臺(tái)開發(fā)和運(yùn)營人員對(duì)于算法招聘決策的法律義務(wù)與責(zé)任。一方面，在算法開發(fā)主體和算法運(yùn)營主體是同一主體的情況下，該主體應(yīng)對(duì)受歧視的勞動(dòng)者承擔(dān)注意義務(wù)。違反法定義務(wù)的，侵權(quán)人應(yīng)承擔(dān)人格權(quán)侵權(quán)法律責(zé)任。在對(duì)《勞動(dòng)法》和《就業(yè)促進(jìn)法》進(jìn)行修訂時(shí)，有關(guān)方面也可以考慮規(guī)定額外的法律責(zé)任，例如懲罰性賠償。另一方面，在算法開發(fā)主體和算法運(yùn)營主體不一致的情況下（例如用人單位作為運(yùn)營主體從開發(fā)主體那里購買了算法軟件），雇主作為算法運(yùn)營主體，有義務(wù)對(duì)算法造成的就業(yè)歧視現(xiàn)象進(jìn)行調(diào)查追蹤，對(duì)算法的運(yùn)營負(fù)有注意義務(wù)。我國法律應(yīng)類推適用產(chǎn)品質(zhì)量侵權(quán)責(zé)任規(guī)則，明確規(guī)定開發(fā)主體和運(yùn)營主體承擔(dān)連帶責(zé)任：算法運(yùn)營主體沒有過錯(cuò)的，受歧視的勞動(dòng)者可以向算法開發(fā)主體進(jìn)行事后追償。

算法開發(fā)主體的義務(wù)包括對(duì)算法的跟蹤、記錄和評(píng)估。國家人工智能規(guī)劃明確了建立人工智能評(píng)估體系的計(jì)劃②，算法開發(fā)人員也應(yīng)該在微觀層面上對(duì)算法招聘過程和結(jié)果進(jìn)行跟蹤記錄和風(fēng)險(xiǎn)評(píng)估。可能造成“設(shè)計(jì)歧視”的算法程序的開發(fā)人員必須關(guān)注算法如何造成了勞動(dòng)者的差別待遇，有法律義務(wù)對(duì)其進(jìn)行科學(xué)記錄、風(fēng)險(xiǎn)評(píng)估和善后處理。鑒于人工智能的評(píng)分（scoring）系統(tǒng)與歧視之間的聯(lián)系，法律應(yīng)嚴(yán)格限制用人單位采取人工智能技術(shù)對(duì)勞動(dòng)者進(jìn)行評(píng)分的方式。③Pymetrics公司執(zhí)行了嚴(yán)格的統(tǒng)計(jì)測(cè)試，對(duì)不同年齡、性別、種族的勞動(dòng)者的得分進(jìn)行比較和評(píng)估，以保證數(shù)據(jù)決策的公平性。④算法開發(fā)主體應(yīng)承擔(dān)對(duì)算法運(yùn)行程序的解釋義務(wù)。法律應(yīng)引入第三方數(shù)據(jù)監(jiān)督機(jī)制，以提高算法招聘決策的透明性，建立責(zé)任追究機(jī)制。⑤

（三） 確立舉證責(zé)任倒置規(guī)則

美國和英國存在舉證責(zé)任倒置的規(guī)定，在應(yīng)聘人員提供初步證據(jù)的情況下，雇主需要舉證，證明自己沒有就業(yè)歧視行為。這對(duì)于保護(hù)應(yīng)聘人員具有極大的正面作用。我國勞動(dòng)者面對(duì)人工智能技術(shù)應(yīng)用下的就業(yè)歧視不可能比美國等國家和地區(qū)的勞動(dòng)者更具有信息與技術(shù)知識(shí)優(yōu)勢(shì)，因此我國法律的“誰主張誰舉證”的傳統(tǒng)舉證責(zé)任規(guī)則具有很大的局限性，不能有效地保護(hù)被歧視的勞動(dòng)者。①在由算法引發(fā)的就業(yè)歧視糾紛中，我國反就業(yè)歧視法律應(yīng)建立舉證責(zé)任倒置的分配規(guī)則，即受歧視的勞動(dòng)者完成初步證據(jù)提供義務(wù)即可，所列舉的事實(shí)足夠使法院相信發(fā)生了歧視和有證據(jù)表明可能發(fā)生了歧視，就業(yè)歧視假設(shè)就確立了。一旦勞動(dòng)者提供了初步證據(jù)，舉證責(zé)任就應(yīng)該轉(zhuǎn)移到用人單位方，用人單位必須提供合法的非歧視性理由的證據(jù)以推翻歧視的假設(shè)，即必須提供證據(jù)，以證明本單位所做出的是否聘用的決定并非因?yàn)槠缫曉?，而是有合理的市?chǎng)性理由。

（四） 設(shè)立訴訟專門機(jī)構(gòu)、便利集體訴訟

美國除了受歧視的勞動(dòng)者個(gè)人可以提起訴訟之外，平等就業(yè)委員會(huì)和州公平就業(yè)實(shí)踐機(jī)構(gòu)也有權(quán)針對(duì)實(shí)施就業(yè)歧視的雇主向法院提起訴訟。英國有平等和人權(quán)委員會(huì)負(fù)責(zé)執(zhí)行《平等法》的反歧視規(guī)定，歐盟則有歐洲數(shù)據(jù)保護(hù)委員會(huì)。這些組織發(fā)揮著類似于金融糾紛領(lǐng)域的投資者服務(wù)機(jī)構(gòu)的功能。投資者服務(wù)機(jī)構(gòu)代表廣大投資者提起集體訴訟，具有節(jié)約集體訴訟成本和提高就業(yè)市場(chǎng)監(jiān)督水平的作用。

為了保障勞動(dòng)者的訴訟權(quán)利，我國應(yīng)借鑒美國平等就業(yè)委員會(huì)的經(jīng)驗(yàn)，設(shè)立代表勞動(dòng)者進(jìn)行集體訴訟的專門機(jī)構(gòu)。這一機(jī)構(gòu)將類似于代表投資者提起欺詐訴訟的投資者服務(wù)中心，具有收集證據(jù)的專業(yè)優(yōu)勢(shì)和技術(shù)支持，同時(shí)能夠節(jié)約勞動(dòng)者的訴訟成本，減輕其心理負(fù)擔(dān)。我國證監(jiān)會(huì)設(shè)立的中小投資者服務(wù)中心通過持有上市公司股票，自行或者聯(lián)合上市公司其他股東共同行使股東權(quán)利，解決了中小投資者的集體行動(dòng)難題，提升了投資者保護(hù)水平。②受到就業(yè)歧視的勞動(dòng)者的地位與被上市公司管理層欺壓的中小投資者非常相似，兩者都面臨著信息不對(duì)稱、舉證困難、集體行動(dòng)難、訴訟成本過高、勝訴率過低等問題。專門委員會(huì)的設(shè)立將有助于促進(jìn)勞動(dòng)者對(duì)實(shí)施就業(yè)歧視的用人單位提起訴訟，并提高勞動(dòng)者的勝訴率和獲得賠償?shù)母怕省?/p>

六、 結(jié)論

隨著人工智能技術(shù)的應(yīng)用，算法技術(shù)正在逐漸改變我國傳統(tǒng)的雇用模式。人工智能對(duì)勞動(dòng)力就業(yè)市場(chǎng)的影響是一把雙刃劍，既可以防止也可能加劇企業(yè)和政府部門等用人單位對(duì)（下轉(zhuǎn)第33頁）（上接第16頁）勞動(dòng)者的就業(yè)歧視。本文以此為議題，從用人單位依賴人工智能招聘時(shí)可能產(chǎn)生的歧視風(fēng)險(xiǎn)出發(fā)，分析了算法招聘對(duì)我國現(xiàn)有反歧視法律構(gòu)成的挑戰(zhàn)。在算法革命方興未艾而反歧視法律又過于抽象籠統(tǒng)的背景下，我國法院尚未審理過關(guān)于算法招聘造成的就業(yè)歧視案例，而在傳統(tǒng)就業(yè)歧視司法裁判中存在案由歸類不確定、就業(yè)歧視類型狹窄、舉證責(zé)任制度不利于勞動(dòng)者、政府部門規(guī)章無法有效禁止就業(yè)歧視等問題。人工智能技術(shù)的應(yīng)用增加了就業(yè)歧視法律責(zé)任的司法認(rèn)定難度和證明難度，向我國反就業(yè)歧視和勞動(dòng)者保護(hù)法律體系建設(shè)提出了更大的挑戰(zhàn)。

美國、英國、歐盟等法域在傳統(tǒng)成文法的基礎(chǔ)上，形成了較為成熟穩(wěn)健的算法就業(yè)歧視司法判例體系。美國聯(lián)邦法院在《民權(quán)法》第七章的抽象條文基礎(chǔ)上形成了完善的就業(yè)歧視認(rèn)定標(biāo)準(zhǔn)和舉證責(zé)任倒置規(guī)則。英國《平等法》和《實(shí)踐守則》明確細(xì)化了就業(yè)歧視的認(rèn)定標(biāo)準(zhǔn)。歐盟《通用數(shù)據(jù)保護(hù)條例》規(guī)定了獲得解釋權(quán)等權(quán)利。為了保障勞動(dòng)者權(quán)益，美國和英國設(shè)立了起訴就業(yè)歧視行為的專門機(jī)構(gòu)。在借鑒域外成熟經(jīng)驗(yàn)的基礎(chǔ)上，本文提出了人工智能時(shí)代下我國就業(yè)歧視法律制度的構(gòu)建建議：擴(kuò)展歧視類型、明確歧視認(rèn)定和豁免標(biāo)準(zhǔn);明確算法開發(fā)主體和運(yùn)營主體的法律義務(wù);確立舉證責(zé)任倒置規(guī)則;設(shè)立訴訟專門機(jī)構(gòu)、便利集體訴訟。

（責(zé)任編輯：亞立）