李文志

摘 要：隨著信息技術的快速發(fā)展，算法的應用越來越廣泛。然而，算法技術的應用在帶來便利的同時也產生了算法歧視，主要表現為算法價格歧視、算法推送歧視、算法就業(yè)歧視與算法性別歧視等?；诖耍疚姆治隽怂惴ㄆ缫暤某梢?，研究了算法歧視消費者的相關侵權行為與后果，并提出了有針對性的侵權責任救濟路徑，旨在對算法歧視進行規(guī)制，從而保護消費者的合法權益。

關鍵詞：算法歧視；侵權責任；救濟路徑

隨著數字經濟的發(fā)展，算法作為一種數據運算與數據分析技術，已被廣泛應用于消費、金融、醫(yī)療等領域，給人們的生活帶來了諸多便利。然而，近年來社會上出現了一些算法歧視現象，損害了消費者的合法權益，引發(fā)了各界的廣泛關注?；诖耍訌妼λ惴ㄆ缫曄M者的侵權責任與救濟的研究具有重要的現實意義。

一、算法歧視的成因

在算法應用領域內，算法歧視體現在人們的出行、購物、食宿等方方面面。算法歧視的成因可歸結為以下幾點。

（一）開發(fā)人員的主觀意識

開發(fā)人員的主觀意識是算法歧視問題產生的根源。雖然算法自身不會歧視消費者，但算法開發(fā)者可能在開發(fā)算法時有意或無意地嵌入主觀意識，導致算法歧視問題出現。此外，由于算法運行的動力來自對海量數據的處理，因此，如果開發(fā)者將帶有主觀意識的數據上傳至網絡，算法系統(tǒng)就會自動處理這類數據，并輸出歧視性的結論。

（二）算法的不透明性與不可解釋性

通常，人們在應用算法時只是簡單地輸入指令，而不清楚算法是如何處理這些指令并輸出結果的。因此，算法處理指令輸入與結果輸出的過程具有不透明性、不可解釋性，從而導致算法歧視問題出現。

二、算法歧視消費者的侵權行為與后果

（一）侵權行為

1.算法價格歧視消費者

算法價格歧視是指經營者以算法技術為依托，根據消費者的消費水平、習慣及偏好等因素定制個性化的消費畫像，并對不同消費者實施差異定價，以實現利潤最大化，即所謂的“大數據殺熟”。算法價格歧視行為通常表現在超過平均收費標準收取額外費用和給予低于正常標準的報酬或獎勵兩方面。這種行為不僅會導致社會不公平和資源分配不合理，還會妨礙市場公平競爭，給消費者帶來損失。此外，經營者根據個人歷史購買記錄來設定差異化的價格，嚴重侵犯了消費者的隱私權。

2.算法推送歧視消費者

算法推送歧視是指電商平臺收集和利用消費者的個人信息，并向其推送個性化的內容。然而，這種“千人千面”的個性化推薦在提高供需匹配效率的同時，也可能會不公平地對待某些用戶，例如：對特定群體的信息推送不精確；基于用戶的性別、年齡、地域等進行差異化的內容推送。這種歧視性推送不僅會影響用戶獲取信息和做出決策，還容易擾亂市場競爭秩序。例如，當消費者使用短視頻軟件時，算法會記錄消費者的瀏覽過程、瀏覽內容、觀看時長、點贊及評論情況等，并利用這些數據繪制消費者畫像，演算出消費者的喜好，并在后續(xù)視頻中優(yōu)先推送符合其喜好的內容。甚至同一條視頻下的評論也會被差別對待，算法會優(yōu)先展示符合消費者個人價值觀的評論。

3.算法就業(yè)歧視與算法性別歧視

算法就業(yè)歧視是指當招聘方使用算法來篩選求職者時，可能會出現由算法決策而導致的對特定群體的不公正對待現象。也就是說，在用人單位利用算法對應聘者進行篩選的過程中，由于算法本身可能會存在偏見或錯誤，因此，某些應聘者會被不公平地排除或受到不公正待遇。算法性別歧視是一種基于性別的歧視，可能會在算法的開發(fā)、訓練或使用過程中發(fā)生。算法性別歧視并非算法和性別歧視的簡單堆疊，而是一種新的歧視和偏見，其主要表現為對某一性別群體的不公平對待。這種歧視行為會損害社會公平正義，固化性別歧視觀念，擴大性別數字鴻溝。

算法就業(yè)歧視與算法性別歧視密切相關，雖然二者在社會生活中引起的爭議不如算法價格歧視與算法推送歧視廣泛，但損害后果不容小覷。相比較而言，算法價格歧視與算法推送歧視消費者的侵權行為主要是對消費者權益的短效損害，從侵害時間與效果上看不具有持續(xù)性。而算法就業(yè)歧視與算法性別歧視的侵權行為，可能會使被侵權人失去工作機會，其損害結果具有一定的持續(xù)性，甚至可能會改變被侵權人的人生軌跡。例如，澳大利亞的某算法招聘系統(tǒng)承諾為雇主節(jié)省時間和成本，提高招聘質量，并致力于消除招聘過程中的主觀性和人為偏見。然而，人工智能專家將該招聘系統(tǒng)描述為給雇主頒發(fā)的“歧視許可證”。其原因在于該系統(tǒng)不重視對“消費者”——算法軟件使用相對人的權益保護，并實施了更加隱蔽的歧視侵權行為。在這種情況下，智能招聘系統(tǒng)不但不會消除歧視，而且可能會延續(xù)和加劇歧視，并對社會和消費者造成重大損害。

（二）算法歧視消費者的后果

算法歧視消費者的侵權行為會導致法益侵害、消費者剩余減少、信息繭房等多種損害后果。

1.法益侵害

當消費者在電商平臺購買商品或服務時，平臺算法會根據其喜好與消費習慣繪制個人畫像，并計算和推送其能接受的最高價位。因此，消費者無法公平地獲得同一商品的其他報價，其公平交易權被嚴重侵害。另外，算法還會在消費者不知情的情況下，收集個人信息與消費習慣。目前，主流觀點認為，算法未經消費者許可擅自收集其個人喜好、消費習慣和聊天記錄，侵犯了消費者的知情權和隱私權。

2.消費者剩余減少

消費者剩余是指消費者愿意為某種商品或服務支付的最高價格與該商品或服務的實際市場價格之間的差額。它代表了消費者通過購買行為所獲得的滿足感，這種滿足感來源于他們最終支付的價格低于其愿意支付的最高價格。消費者剩余概念與一級價格歧視概念緊密相關。一級價格歧視又稱為完全價格歧視，它是一種定價策略。在該策略下，對于每一單位產品，賣方都會按照消費者所愿意支付的最高價格出售。也就是說，在完全價格歧視的情況下，網絡平臺可以準確了解每個消費者對產品的支付意愿，并據此為不同消費者制定不同的價格，從而最大限度地壓榨消費者剩余，獲取巨額利潤。

3.出現“信息繭房”現象

算法推送技術會精準推送消費者感興趣的內容，自動為消費者屏蔽其他信息，使消費者陷入“信息繭房”，難以接收到其他多方面信息，從而嚴重損害了消費者的利益。

（三）算法歧視消費者行為的過錯原則

過錯原則是指以過錯作為歸責的構成要件和歸責的最終要件，同時以過錯作為確定行為人責任范圍的重要依據；無過錯原則是指在損害發(fā)生后，既不考慮加害人的過失，也不考慮受害人的過失的一種法定責任形式，其目的在于補償受害人的損失。對于算法歧視消費者行為是適用過錯原則還是無過錯原則，學者們持有不同觀點。

站在消費者一方的學者往往持過錯原則觀點。他們認為在強大的資本面前，消費者往往處于弱勢地位，其合法權益應當受到保護。他們還建議，算法開發(fā)者與使用者應承擔更高的注意義務，以減少算法歧視。另外，當面對算法黑箱、算法自動化決策等問題時，消費者無法論證其過錯，容易引發(fā)舉證不能，導致自身合法權益受到侵害。[1]

持無過錯原則觀點的學者認為，在算法歧視廣泛存在的前提下，如果算法歧視消費者行為采用過錯原則，那么不僅會產生大量的侵權訴訟，還會加重算法開發(fā)者與使用者的注意義務，對社會經濟發(fā)展產生負面影響。[2]因此，他們認為算法歧視消費者行為適用無過錯原則。還有學者認為，現階段的侵權之訴，還未達到必須施行無過錯原則的程度，過錯原則足以澄清事實真相，得出令人信服的結果。[3]

三、算法歧視消費者的侵權責任救濟路徑

針對算法歧視消費者的侵權責任救濟路徑，筆者建議相關部門應從算法歧視標準認定與立法的角度為侵權責任救濟提供事前幫助；設立適用我國本土的算法解釋權，為侵權責任救濟提供事中幫助；明確相關法律邊界，為侵權責任救濟提供事后幫助。

（一）明確算法歧視消費者的認定標準

隨著算法技術的快速發(fā)展，算法歧視消費者行為的認定標準也應不斷更新，否則將無法給合法權益受到侵害的消費者提供合理救濟。明確哪些行為構成歧視消費者、哪些行為應被規(guī)制，以及如何界定歧視消費者的標準等，對研究侵權責任救濟路徑至關重要。例如，在基于算法的招聘中，體力勞動強度大的崗位往往對男性要求較低而對女性要求較高，雖然這屬于性別差別對待，但這不能被認定為算法就業(yè)歧視與算法性別歧視。因此，當出現疑似對消費者差別對待的情況時，我們不能以傳統(tǒng)的歧視標準來判斷該行為是否屬于算法歧視。由此可見，明確算法歧視消費者的認定標準對后續(xù)的侵權責任救濟路徑研究起著關鍵作用。

（二）設立算法解釋權

賦予消費者算法解釋權能夠在一定程度上減少算法歧視行為。我國可以借鑒歐盟經驗設立算法解釋權。歐盟在《通用數據保護條例》（以下簡稱“GDPR”）中多次體現了算法解釋權，如算法控制者的“事前解釋義務”、算法自動化決策的“事后解釋權”，以及與算法解釋權配套的算法異議權等。可以說，GDPR對算法歧視消費者問題做出了較為合理的規(guī)定。此外，《中華人民共和國個人信息保護法》第四十八條規(guī)定，個人有權要求個人信息處理者對其個人信息處理規(guī)則進行解釋說明。簡而言之，賦予消費者算法解釋權對減輕消費者的舉證責任，制約算法黑箱、算法自動化決策具有積極作用。

（三）完善相關法律邊界

有學者認為，針對算法歧視消費者的侵權行為，算法開發(fā)者與使用者不能為了逃避責任而將侵權行為歸咎于事先已獲得知情權與同意權、算法黑箱或算法自動化決策等。他們建議突破技術中立原則，運用“紅旗原則”。[4]“紅旗原則”是“避風港原則”的例外適用，它是指如果侵權事實顯而易見，像紅旗一樣飄揚，算法的開發(fā)者與使用者就不能視而不見，或以不知道侵權為理由來推脫責任。因此，筆者建議相關部門可從以下兩個方面提出完善方案：一方面，判斷算法自動化決策的結果，初步認定開發(fā)者與使用者是否需要承擔法律責任；另一方面，對算法進行第三方技術審查，并結合侵權責任原則，確定責任歸屬。只有做好以上兩方面工作，相關部門才可以明確并完善相關法律邊界。

四、結語

綜上所述，為減少算法歧視行為，相關部門應加快人工智能與算法應用領域的專項立法工作，以規(guī)范智能算法的應用。同時，相關部門可以通過明確算法歧視消費者的認定標準、設立算法解釋權、完善相關法律邊界等策略，明確算法歧視消費者的侵權責任救濟路徑，以保護消費者合法權益，促進數字經濟健康發(fā)展。

參考文獻：

[1] 李丹.論算法歧視消費者的侵權責任認定——基于司法裁判的實證考察[J].當代法學，2023，37（06）：75-85.

[2] 袁文全.算法歧視的侵權責任治理[J].蘭州大學學報（社會科學版），2023，51（02）：89-99.

[3] 孟勤國.治理算法歧視侵害消費者權益的關鍵問題——以大數據殺熟為視角[J].法律適用，2023（03）：37-47.

[4] 陳兵.平臺算法規(guī)制的多維思考：從個案侵權裁判到算法綜合治理[J].蘭州學刊，2023（03）：91-94.

（作者單位：青島科技大學法學院）