算法歧視對金融消費權益的損害與保護

程峰 劉暢

平臺經(jīng)濟下的算法歧視問題

平臺經(jīng)濟方興未艾

自2012年以來，我國陸續(xù)實施“互聯(lián)網(wǎng)+”行動和“國家大數(shù)據(jù)”等國家戰(zhàn)略，有力推動了互聯(lián)網(wǎng)平臺經(jīng)濟蓬勃發(fā)展。尤其是2020年以來，雖然實體經(jīng)濟受到新冠肺炎疫情的影響和沖擊，但平臺經(jīng)濟逆勢而上，仍然呈現(xiàn)持續(xù)高速增長的態(tài)勢。中國信息通信研究院發(fā)布的數(shù)據(jù)顯示，截至2020年底，我國市場價值超10億美元的數(shù)字平臺企業(yè)達197家，較2019年增加23家;價值規(guī)模達3.5萬億美元，同比增長56.3%。在推動平臺經(jīng)濟高速發(fā)展壯大的過程中，大數(shù)據(jù)無疑起到了巨大的驅(qū)動作用，甚至扮演著關鍵生產(chǎn)要素的角色。對于普通受眾而言，在享受大數(shù)據(jù)帶來的便利的同時，也不可避免地面臨著“大數(shù)據(jù)殺熟”、個人信息濫用、數(shù)據(jù)壟斷等問題。

平臺金融消費領域特殊性

根據(jù)中國互聯(lián)網(wǎng)絡信息中心發(fā)布的《第47次中國互聯(lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》，截至2020年末，我國網(wǎng)民規(guī)模達9.89億，其中使用過網(wǎng)絡支付等金融服務的用戶規(guī)模已達8.54億，占網(wǎng)民整體數(shù)量的86.4%，我國通過網(wǎng)絡進行金融消費的群體數(shù)量巨大。借助平臺經(jīng)濟發(fā)展的東風，加之馬太效應的影響，大型互聯(lián)網(wǎng)平臺對市場份額的占有越發(fā)集中，對于消費者的影響也越來越大。與其他消費領域略有差別，大型互聯(lián)網(wǎng)平臺金融消費領域總結(jié)起來具有以下特點：一是涉及金額較大。尤其是網(wǎng)絡借貸、資產(chǎn)管理等業(yè)務，所涉金額遠遠高于生活類消費。二是消費應具備專業(yè)知識較多。由于金融業(yè)務的專業(yè)性，提供金融產(chǎn)品或服務的機構往往以消費者同意簽訂相關知情書、協(xié)議為前提而進行交易，但通過網(wǎng)絡進行金融消費的群體，金融知識良莠不齊，很難對文書范本進行充分閱讀和理解，對點擊“我同意”選項后所確認的權利義務關系一知半解。三是將對消費者生活產(chǎn)生持續(xù)性影響。絕大多數(shù)金融消費并非一次性交易，特別是當對消費者個人征信產(chǎn)生影響時，不良記錄將持續(xù)困擾消費者生活的方方面面，引發(fā)重重矛盾。四是相關業(yè)務屬于金融監(jiān)管范疇。通過大型互聯(lián)網(wǎng)平臺開展金融業(yè)務，沒有改變金融的本質(zhì)，亦即仍然需要防范相關金融風險，需要實施金融監(jiān)管。也正是基于以上這些特點，該領域的消費者保護工作顯得尤為重要。

算法歧視的表現(xiàn)及多發(fā)領域

參考《國務院反壟斷委員會關于平臺經(jīng)濟領域的反壟斷指南》相關內(nèi)容，可將算法歧視簡單描述為，設定特定的數(shù)據(jù)管理方式，在無正當理由的情況下對交易條件相同的對象實施差別待遇，侵害消費者合法權益的行為。這種不公平的差別待遇一般體現(xiàn)在排序策略、交易條件、差別定價等方面。在金融消費權益保護領域，大型互聯(lián)網(wǎng)平臺實施算法歧視侵害消費者權益的情況近年來逐漸引起重視，應進一步關注并加以規(guī)制。

平臺利用算法歧視侵害金融消費者權益的重災區(qū)，集中在互聯(lián)網(wǎng)金融尤其是平臺金融領域。究其原因：一方面是互聯(lián)網(wǎng)金融企業(yè)急需大型互聯(lián)網(wǎng)平臺客戶資源拓展業(yè)務，并且事實上多數(shù)大型互聯(lián)網(wǎng)平臺爭先拓展出金融業(yè)務以充分挖掘并利用客戶資源，泛金融化趨勢加劇，如阿里旗下的螞蟻集團、百度旗下的度小滿金融、京東旗下的京東金融等;另一方面，出于風險和成本控制等方面的考慮，商業(yè)銀行等傳統(tǒng)金融機構主要通過專屬手機App、網(wǎng)站等提供網(wǎng)絡金融產(chǎn)品和服務，較少以大型互聯(lián)網(wǎng)平臺充當業(yè)務媒介。

算法歧視侵害金融消費者權益情況

針對消費者本身的算法歧視。此類行為主要表現(xiàn)為價格歧視，即沒有正當理由而對交易條件相同的消費者提供差別定價，據(jù)以設定差別定價的數(shù)據(jù)可能是個體消費者的網(wǎng)絡活動歷史軌跡、交易習慣、聯(lián)網(wǎng)設備等信息，甚至還可能是性別、種族等敏感信息。此類現(xiàn)象大多出現(xiàn)在大型互聯(lián)網(wǎng)平臺的關聯(lián)金融業(yè)務中，例如，2019年11月，戴維·海涅邁爾·漢森（David Heinemeier Hansson）在推特（Twitter）上宣稱，蘋果公司與高盛集團推出的Apple Card信用卡服務算法歧視了他的妻子，因為雖然他和妻子結(jié)婚多年且共用銀行和其他信用卡賬戶，但Apple Card給他的信用額度是妻子的十倍多。此舉引發(fā)了許多用戶的共鳴，抱怨女性的Apple Card信用額度低于男性。盡管2021年3月紐約州金融服務局發(fā)布報告稱Apple Card不存在非法歧視，但同時也承認信貸系統(tǒng)本身仍存在歧視現(xiàn)象（美國信用評分系統(tǒng)對白人男性給予優(yōu)待）。在我國，“大數(shù)據(jù)殺熟”近年來持續(xù)引發(fā)熱議，投訴集中在網(wǎng)絡購票、游戲抽獎、打車等領域，在金融消費方面也不鮮見。例如，2018年小米公司接到429起關于P2P的投訴，投訴人稱小米在其各類平臺上以“米粉專享”“米粉任務”形式針對VIP用戶推薦P2P產(chǎn)品并造成用戶損失，涉及總金額約4億元。

針對第三方的算法歧視。該種行為主要表現(xiàn)為不公平的排序、限定交易等，是平臺針對提供金融服務和產(chǎn)品的機構實施算法歧視而間接減損了消費者權益的情況。相對于直接針對消費者個體的算法歧視，該種行為不區(qū)分具體受眾，顯然會產(chǎn)生更大的影響力和不良后果。比如，2015年2月媒體報道的微信封殺支付寶紅包事件，許多用戶反映通過微信公眾平臺開設的店鋪無法繼續(xù)使用支付寶收付款，即被受眾質(zhì)疑平臺涉嫌限定支付方式。另外，在排序策略方面飽受爭議的百度競價排名業(yè)務，自“魏澤西事件”后曝光于公眾視野，并在互聯(lián)網(wǎng)金融高速發(fā)展后被許多P2P機構所用。例如，媒體曾報道在百度搜索某中等規(guī)模的P2P平臺時，搜索結(jié)果的前8條全部是其他P2P平臺的推廣信息，并且有5條信息雖然在鏈接文字上標注某中等規(guī)模的P2P平臺字樣，但點擊進去卻跳轉(zhuǎn)到其他P2P平臺。上述行為在被質(zhì)疑不正當競爭、壟斷的同時，也涉嫌侵害了金融消費者的知悉真情權以及自主選擇權。

保護金融消費權益的路徑探索

在法律規(guī)制方面，除普適性維護消費者權益的民法典、消費者權益保護法等法律外，近年來我國網(wǎng)絡法治的專門立法不斷完善，尤其在較高法律層級對消費者個人信息數(shù)據(jù)安全加強規(guī)制。涉及到的立法有網(wǎng)絡安全法、數(shù)據(jù)安全法以及已經(jīng)進入立法程序的個人信息保護法（草案）。具體到金融消費權益領域，主要的規(guī)章有《中國人民銀行金融消費權益保護實施辦法》《銀行業(yè)保險業(yè)消費投訴處理管理辦法》等，且《中國人民銀行金融消費權益保護實施辦法》第四十條明確將“通過電子商務、網(wǎng)絡交易購買、使用金融產(chǎn)品或者服務的”金融消費者納入保護范圍。

在監(jiān)管互聯(lián)網(wǎng)平臺行為方面，除適用反壟斷法、反不正當競爭法、價格法等法律外，2021年2月7日，國務院反壟斷委員會印發(fā)了《國務院反壟斷委員會關于平臺經(jīng)濟領域的反壟斷指南》（以下簡稱《指南》），雖然不屬于立法文件，但對平臺經(jīng)濟下的壟斷行為明確了執(zhí)法規(guī)則，是實施監(jiān)管的重要依據(jù)。《指南》中對平臺相關概念的界定、濫用市場支配地位的認定、不公平價格行為的認定、差別待遇的認定等內(nèi)容，都與金融消費者的切身利益密切相關，在一定程度上有利于消費者免受平臺算法歧視之害。

總體來說，可以看到我國立法對網(wǎng)絡安全、個人信息安全、平臺經(jīng)濟監(jiān)管方面關注度較高，法治進程明顯加快，已在逐步落實《法治社會建設實施綱要（2020～2025年）》提出的“建立健全網(wǎng)絡綜合治理體系”要求。不過，由于相關立法實施時間尚短或還處于立法程序中，其應用情況和執(zhí)法效果仍有待在實踐中接受檢驗。為進一步探索行之有效的算法歧視治理方式，充分保護金融消費者合法權益，建議綜合考慮從以下幾個方面強化規(guī)制。

加強立法保障。與其他領域一樣，立法保障是最根本的保障。雖然當前我國在網(wǎng)絡安全、個人信息安全、平臺經(jīng)濟監(jiān)管方面立法進程較快，但其中涉及算法歧視問題的極少。算法具有技術性和隱蔽性，許多情況下還屬于被依法保護的知識產(chǎn)權，其屬性決定了不宜對算法本身進行過度審查。因此，建議立法從算法設計應遵循的公平原則、算法應用不得產(chǎn)生的損害后果兩方面來預防和糾正算法歧視問題，從立法層面明確遏制算法歧視。

開展綜合監(jiān)管。在大型互聯(lián)網(wǎng)平臺泛金融化的當下，傳統(tǒng)的監(jiān)管模式也面臨變革，有學者將其概括為“傳統(tǒng)的以中心化和實體化為主的金融監(jiān)管秩序面臨著以去中心化和數(shù)字虛擬化為表征的金融業(yè)務的挑戰(zhàn)”。此種情況下，單純的行業(yè)監(jiān)管在執(zhí)法力度和效果上都顯得較為乏力。為有效保護金融消費者權益，建議建立金融監(jiān)管與反壟斷監(jiān)管相補充、相結(jié)合的綜合監(jiān)管模式，從維護金融穩(wěn)定和良好的市場競爭秩序兩方面共同規(guī)制算法歧視問題。

實行行業(yè)自律。隨著平臺經(jīng)濟的發(fā)展，頭部平臺資源聚集加劇，大型互聯(lián)網(wǎng)平臺的壟斷問題越來越受到重視，而壟斷行為則是滋生算法歧視的溫床。創(chuàng)新賦予了平臺經(jīng)濟發(fā)展的強大活力，因此行政機關在進行監(jiān)管時往往面臨著矯枉過正的風險，僅依賴強監(jiān)管手段難免會造成過多的束縛，并且許多平臺的技術壁壘也造成了監(jiān)管的失效。因此，實施行業(yè)自律是互聯(lián)網(wǎng)平臺的必要治理措施。在多部門共同行政指導推動下，截至2021年4月，已有百度、京東、字節(jié)跳動、拼多多、美團、騰訊、滴滴、快手、嗶哩嗶哩等20多家平臺企業(yè)發(fā)布了合規(guī)經(jīng)營承諾，承諾書中將個人信息保護、反壟斷、反不正當競爭作為重點，其中明確提到算法問題的僅有4家，這也表明平臺企業(yè)尚未充分意識到或尚未承認算法歧視的危害性，應結(jié)合實際進一步擴充行業(yè)自律的內(nèi)容，自發(fā)規(guī)范行業(yè)秩序。

（作者單位：中國人民銀行佳木斯市中心支行）