李晶

【關(guān)鍵詞】人工智能；算法歧視；憲法平等；挑戰(zhàn)及應(yīng)對

引言

在計算機(jī)領(lǐng)域中，算法是一種利用復(fù)雜的控制架構(gòu)實現(xiàn)運算的方式。簡而言之，就是對某個特定的對象，將特定的指令錄入軟件中，再由該指令進(jìn)行計算，得出最終的結(jié)果。它具有通用性、有效性、有窮性、確切性等特點，通用性是指可反復(fù)使用的，有效性是指可實現(xiàn)，有窮性是指算法的運算步驟是有限制的，而確切性是指算法的每一步驟都有確切的意義。這些特點保證了該方法的可用性和易用性，而且該方法可以突破人類的計算量限制，做出科學(xué)、高效的決策，因此受到了很多人的歡迎，一些人甚至相信，這種方法可以“包治百病”，給人類做出最好的決策。

“算法”無疑是一柄“雙刃劍”，其在一定程度上放大了人類的歧視，損害了民主政治、平等文化、和諧社會與綠色生態(tài)、市場經(jīng)濟(jì)和諧發(fā)展。無論是在道德和法制方面，都有嚴(yán)格的規(guī)定禁止歧視，包括算法上的歧視。由于存在于資本內(nèi)部的算法歧視，破壞了市場的穩(wěn)定，因此必須對此加以規(guī)范，政府也對此情況尤為重視，進(jìn)行了有力的監(jiān)管。例如，在2021年4月16日，阿里巴巴被處以182億元的行政罰款，而在2021年的4月26日，美團(tuán)以“二選一”等壟斷方式被發(fā)起訴訟，唯品會、百度、騰訊等網(wǎng)絡(luò)公司，都因為壟斷而遭到了懲罰。就我國現(xiàn)行的反算法歧視而言，雖然已有不少學(xué)者對其進(jìn)行過相關(guān)的探討，但其在立法層面上的指導(dǎo)作用并不顯著。我國《憲法》在平等原則上為規(guī)制算法歧視提供了憲法的依據(jù)，平等原則作為憲法的基本內(nèi)涵，[1]充分利用其憲法功能，為我國的反歧視制度與國家治理體系的建設(shè)和管理水平的現(xiàn)代化，提出了具有憲法意義的價值導(dǎo)向，從而推動反算法歧視問題的治理有效性。

一、偏見代理的算法歧視對憲法平等的影響

偏見代理的算法歧視，就是利用個體識別數(shù)據(jù)的延伸，利用各種相關(guān)性和特征的關(guān)聯(lián)性，從而實現(xiàn)了對個體的歧視，甚至造成不公正的結(jié)果。算法出現(xiàn)歧視性后果，并非是算法制定者的故意而為，而是由于他們在設(shè)定算法時邏輯有很大的缺陷，從而使得理性和感性因素的混合造成了歧視性的結(jié)果。

算法的決策與預(yù)測都是以基本的數(shù)據(jù)的客觀性和中立性為依據(jù)的。但是，實際情況中也出現(xiàn)了行為與當(dāng)事人沒有對應(yīng)的情形，從而導(dǎo)致在這種情形下進(jìn)行算法實際上是不公平也不正確的。針對因數(shù)據(jù)偽造而造成的算法歧視，其關(guān)鍵是要對其進(jìn)行嚴(yán)格的數(shù)據(jù)審核。面對大量的信息，應(yīng)該讓那些使用算法篩選的人來負(fù)責(zé)，基于他們自己的構(gòu)建基礎(chǔ)增加找出差錯的可能性。[2]

因為大多數(shù)情況下，雖然有人愿意去維護(hù)自己的權(quán)益尋求法律對個人信息保護(hù)的救濟(jì)，但個人的訴訟成本、提供證據(jù)還是證明因果關(guān)系，都很難向法院提起侵權(quán)之訴，[3]付出的成本與收益并不相符，很多人可能更傾向于放棄，這使得算法決策者懷有很強(qiáng)烈的僥幸心理。哪怕有一小部分維權(quán)者，也能用大多數(shù)人的虧損來彌補(bǔ)?！秱€人信息保護(hù)法》第8條明確指出，審查機(jī)構(gòu)必須保證信息的安全性，但并未明確規(guī)定是否僅限于使用算法進(jìn)行信息的加工，同時由于很多公司將信息處理分包給別的公司，導(dǎo)致了信息保障是由兩方共同承擔(dān)或僅由一方承擔(dān)也不甚明確。但從保護(hù)個人信息和隱私的角度，個人信息一經(jīng)傳遞至其他公司，無論它是否要對信息進(jìn)行處理，都負(fù)有保障信息不外泄的安全責(zé)任。

原本人類在對各項事務(wù)擁有決策權(quán)，算法產(chǎn)生以后大數(shù)據(jù)的收集使得一些信息內(nèi)部存在著邏輯關(guān)系，數(shù)據(jù)來源于社會，社會差異化的背景下反映社會特征的數(shù)據(jù)本身是有差異的，例如美國刑事犯罪預(yù)測算法，可能更會將黑人或黑人聚集地區(qū)劃分為犯罪風(fēng)險更高的地區(qū)，[4]所以在社會本身就是存在歧視和偏見的。偏見代理算法歧視中更是夾雜了算法設(shè)計者自身的特點，如其個人的喜好，價值觀念和固有邏輯都會在算法編輯中呈現(xiàn)，他所關(guān)注和收納的大數(shù)據(jù)本身的偏見和歧視夾雜著自身的邏輯體系，在算法的運作中將展現(xiàn)的淋漓盡致，這就大大增加了被決策對象的質(zhì)疑。

基于偏見代理的算法歧視，算法決策者并不會主動將主觀的價值植入算法中，之所以會有歧視性的產(chǎn)生，很大程度上是因為算法不透明或者審查問題。偏見代理型算法歧視呈現(xiàn)出“中立進(jìn)—偏見出”的運行特征，即決策者在算法機(jī)器中輸入了中立的數(shù)據(jù)，卻得出了帶有歧視性的結(jié)果。所以，僅對社會和經(jīng)濟(jì)利益作出決策，其方式和目的如果都是合理的，屬于差異化的合理范圍；但在涉及公民各項基本權(quán)利的情況下，對偏見代理的算法歧視應(yīng)進(jìn)行嚴(yán)格的審核，加強(qiáng)數(shù)據(jù)更新的監(jiān)督體系，國務(wù)院也在2017年制定了《新一代人工智能發(fā)展規(guī)劃》，其中就強(qiáng)調(diào)在人工智能快速發(fā)展的時期，要用好人工智能這把“雙刃劍”，高度重視人工智能可能帶來的風(fēng)險，確保人工智能安全、可靠、可控發(fā)展。

二、特征選擇的算法歧視對憲法平等的影響

特征選擇型算法歧視采取了“偏見進(jìn)—偏見出”的運行模式，即決策者在算法機(jī)器中直接輸入諸如種族、性別等帶有偏見的信息，以求得出帶有偏見的計算結(jié)果。特征選擇算法歧視的決策是以海量的數(shù)據(jù)為基礎(chǔ)的，由于它的分析標(biāo)準(zhǔn)的選取、分類、賦值等都是人為地設(shè)定的，并且摻雜了人的主觀意志，所以造成了算法上的歧視。[5]特征選取的歧視將具有歧視含義的敏感性信息直接導(dǎo)入系統(tǒng)中，這是傳統(tǒng)的歧視方式在互聯(lián)網(wǎng)上的體現(xiàn)，與以往的歧視相比，僅僅介入了大數(shù)據(jù)、算法等因素。

算法的預(yù)測就是利用過去對將來進(jìn)行預(yù)言，算法預(yù)測模型看似是對將來的，實際上也是對過去的。[6]例如，用不同所有者不同品牌的手機(jī)打開某購物APP搜索關(guān)鍵詞“電飯鍋”，就會發(fā)現(xiàn)后臺推送的“電飯鍋”數(shù)據(jù)和排名不盡相同，綜合分析在此購物網(wǎng)站消費等級越高的手機(jī)所有者，其搜索“電飯鍋”結(jié)果的前幾名價格越高，消費等級越低或者沒有在此網(wǎng)站消費過的手機(jī)所有者則被推送的是價格平價的“電飯鍋”產(chǎn)品。不難看出，簡單的產(chǎn)品搜索行為也會因為消費者的消費等級、消費習(xí)慣或消費偏好而不同，后臺推送時會加強(qiáng)對被納入該類別的個體的調(diào)查與研究，有時也會收集其負(fù)面訊息。例如，在谷歌搜索引擎搜索黑人姓名時，除了出現(xiàn)馬丁·路德·金的介紹外，出現(xiàn)的大多是關(guān)于黑人犯罪的新聞條目，這正是基于算法偏見的導(dǎo)向性而得出的結(jié)果。出現(xiàn)馬丁·路德·金的介紹也很難消除由這些算法造成的歧視，他們只會把這些杰出的個人看作是一個意外，而不會考慮個體積極因素的影響，這一事件展現(xiàn)出谷歌對黑人群眾平等權(quán)的侵害。

特征選擇算法只有在基于特定人考慮的情況下做出選擇，才符合合理差別待遇，而其他特征選擇算法則明顯違背了憲法規(guī)定的平等內(nèi)涵。所以對于算法的管控，還是要先從算法決策者的角度進(jìn)行規(guī)制，畢竟收集大量的數(shù)據(jù)最后還是要進(jìn)行算法的處理，算法歸根結(jié)底還是人類的智慧，[7]2019年我國實施的《電子商務(wù)法》第二章通過規(guī)定電子商務(wù)經(jīng)營者的權(quán)利義務(wù)來實現(xiàn)對算法運用行為的監(jiān)管。 針對算法歧視，首先，我們依然可以遵循“用規(guī)制人的思路來規(guī)制算法”，建構(gòu)針對性的抑制算法偏見的監(jiān)管機(jī)制，要求監(jiān)管機(jī)關(guān)對平等權(quán)的算法侵害進(jìn)行嚴(yán)查，其次，當(dāng)公民的平等權(quán)受到算法侵害時，應(yīng)當(dāng)有訴訟途徑可以要求侵害者停止侵害、消除影響、賠償。

三、大數(shù)據(jù)“殺熟”對憲法平等的影響

大數(shù)據(jù)“殺熟”是一種典型的算法偏見。大數(shù)據(jù)“殺熟”型算法歧視主要表現(xiàn)在通過對計算機(jī)過往數(shù)據(jù)不斷進(jìn)行學(xué)習(xí)，然后采取價格歧視、特定推送等手段，實現(xiàn)“同物不同價”目的。例如，兩個人使用不同品牌手機(jī)在同一款旅游APP搜索同一家酒店，手機(jī)顯示出的價格大不相同，不常使用這款A(yù)PP的消費者搜索到的房間價格要比經(jīng)常使用此款A(yù)PP的消費者的價格要低，這是因為平臺根據(jù)消費者的使用習(xí)慣，故意利用“大數(shù)據(jù)”殺熟；此外，兩個不同品牌手機(jī)在某APP會員的收費也不相同，高級手機(jī)要支付更多的費用。

價格歧視分為三級，一級價格歧視在現(xiàn)實中比較少見，有觀點認(rèn)為基于大數(shù)據(jù)和算法，平臺可以根據(jù)每個消費者的習(xí)慣、偏好、購買歷史等進(jìn)行用戶畫像，實現(xiàn)“一人一價”，“大數(shù)據(jù)殺熟”接近于一級價格歧視。[8]當(dāng)消費者在日常討論自己的商品喜好或者購買意向時，經(jīng)常會出現(xiàn)打開手機(jī)購物軟件就會出現(xiàn)剛談?wù)撨^的商品或廣告，從而引起人們的注意，這很大程度上屬于商家通過監(jiān)聽獲取到的相關(guān)數(shù)據(jù)，這種商業(yè)競爭行為這種貌似合情合理，但其實已經(jīng)嚴(yán)重違反了憲法的平等原則，也嚴(yán)重侵犯了公民的隱私權(quán)。價格歧視，這種不特定人群付出比其他人更多代價的價格歧視，實則與《憲法》中規(guī)定的平等內(nèi)容相違背，并且它違背了同品同價、同質(zhì)同價的市場交易的普遍規(guī)律。

通常我們在醫(yī)院因為取藥處不提供塑料袋，不得不向旁邊自助免費取袋機(jī)求助，掃過二維碼之后的一番操作看似簡單，雖然滿足了用戶的需求，但在不知不覺間用戶的個人信息已經(jīng)被采集，這些信息對于用戶而言并無太多價值，但對于采集平臺而言卻是極具價值。用戶的信息在不斷采集中，后臺也逐步完成了用戶的畫像，平臺利于日趨完善的用戶畫像精準(zhǔn)推送各類廣告信息，從而產(chǎn)生巨大經(jīng)濟(jì)價值。

算法歧視具有潛在性，即高價購買者不會意識到存在低價購買者的真實情況。在這些消費者來看，低價格是不存在的，其實這就等于剝奪了知情的權(quán)利和選擇的權(quán)利，這不是一種合理的差別對待，而是一種不公平的待遇。類似的，特定推送其實是根據(jù)人們的搜索、聊天等自身的活動進(jìn)行推送，但也不能完全排除了算法決策者利用一些關(guān)聯(lián)來進(jìn)行歧視。所以，當(dāng)特定推送僅僅是為了定制化服務(wù)，就應(yīng)該給用戶一個明確的提示，告知用戶這個特定推送是一種普通的技術(shù)，不會違背平等原則。對于用戶而言，因為信息的采集較為隱秘，所以導(dǎo)致用戶無從得知自己授權(quán)的個人信息是否超過了必要的限度，用戶也無法知曉個人信息的實際用途及其利用是否合理。[9]

越來越多學(xué)者認(rèn)為對應(yīng)大數(shù)據(jù)“殺熟”應(yīng)主要從算法規(guī)制和個人信息保護(hù)兩方面著手，我國在信息保護(hù)方面也制定了相關(guān)的法律，《個人信息保護(hù)法》13-18條規(guī)定，在處理個人信息時，個人信息處理者方必須征求信息所有者的同意。2020年10月正式施行的《在線旅游經(jīng)營服務(wù)管理暫行規(guī)定》第十五條中也有明確要求：“在線旅游經(jīng)營者不得濫用大數(shù)據(jù)分析等技術(shù)手段，基于旅游者消費記錄、偏好等設(shè)置不公平的交易條件，侵犯旅游者合法權(quán)益”。與此同時，加強(qiáng)個人信息的保護(hù)，避免平臺對信息的濫用也尤為重要，宣傳消費者享有的各項數(shù)據(jù)信息權(quán)利，加大自身對個人信息的保護(hù)重視程度，勸導(dǎo)消費者在網(wǎng)上下單前多進(jìn)行比較，擇最優(yōu)價格購買。如發(fā)現(xiàn)大數(shù)據(jù)“殺熟”現(xiàn)象已經(jīng)存在，可以采用反向用戶畫像的方法，如卸載相關(guān)“殺熟”軟件；搜索不相關(guān)的信息；換其他用戶名重新登錄等方式，增強(qiáng)自身權(quán)益保護(hù)意識，主動打破算法歧視帶來的不平等。

結(jié)語

雖然算法在不知不覺間已經(jīng)對人們的生活產(chǎn)生了深遠(yuǎn)的影響，但是這項技術(shù)卻不能絕對地保持價值中立。雖然它對于便利人們的生活起到了至關(guān)重要的作用，但是也必須闡明它有可能會侵犯人的基本權(quán)利。偏見代理、特征選擇以及數(shù)據(jù)“殺熟”的三種形式的算法歧視，對憲法中的平等原則提出了挑戰(zhàn)。由于算法的歧視確實存在，而且其隱藏程度很高，因此必須明確判斷的標(biāo)準(zhǔn)，隨時關(guān)注它是否屬于合理差別對待范疇，還是對平等權(quán)構(gòu)成了威脅。算法歧視問題使算法無法充分發(fā)揮其積極效用，損害了用戶之間的平等權(quán)與商家的利益，給下一步人工智能發(fā)展中的算法進(jìn)步帶來了阻力。

針對由算法歧視引起的公平問題，首先要規(guī)范平臺和平臺內(nèi)商家的定價行為，監(jiān)督平臺制定透明的價格規(guī)則，讓消費者自由選擇，保障消費者的知情權(quán)。二是重視對現(xiàn)有平臺經(jīng)營行為的監(jiān)督，實現(xiàn)政府、媒體等對平臺的第三方聯(lián)合監(jiān)管；三是要加強(qiáng)對大數(shù)據(jù)的監(jiān)管，督促算法決策者對大數(shù)據(jù)的不斷更新和優(yōu)化，以客觀公正的態(tài)度維護(hù)市場競爭的良好秩序；四是提高用戶防范意識，嚴(yán)格把控手機(jī)的相關(guān)權(quán)限，提高警惕性和維權(quán)的意識。五是進(jìn)行算法歧視治理法律制度的具體建構(gòu)，公平作為算法的核心價值，應(yīng)該要求主管機(jī)關(guān)出臺相應(yīng)政策予以規(guī)制。