廖建凱
摘要:“大數(shù)據(jù)殺熟”侵害了消費(fèi)者的權(quán)利,但依據(jù)現(xiàn)行法律很難認(rèn)定其法律性質(zhì)。“大數(shù)據(jù)殺熟”具有很強(qiáng)的技術(shù)特征,實(shí)質(zhì)上是經(jīng)營者濫用算法權(quán)力的結(jié)果。從傳統(tǒng)消費(fèi)者權(quán)利保護(hù)路徑,運(yùn)用合同法、侵權(quán)法、消保法、價(jià)格法、反壟斷法等規(guī)制“大數(shù)據(jù)殺熟”面臨著諸多困難。從根源上看,“大數(shù)據(jù)殺熟”并非單純的法律規(guī)制問題,而是算法權(quán)力的治理問題。治理算法權(quán)力應(yīng)遵循技術(shù)發(fā)展與權(quán)利保護(hù)相平衡、內(nèi)部監(jiān)督與外部監(jiān)管相結(jié)合以及事前管控與事后追責(zé)相并重等原則。通過經(jīng)營者自律、行業(yè)協(xié)會引導(dǎo)、公權(quán)機(jī)構(gòu)監(jiān)管、消費(fèi)者自我保護(hù)、公眾廣泛參與等途徑治理算法權(quán)力,才可能有效保護(hù)人工智能時(shí)代消費(fèi)者的合法權(quán)益。
關(guān)鍵詞:大數(shù)據(jù)殺熟;算法;消費(fèi)者的權(quán)利;經(jīng)營者;算法權(quán)力
中圖分類號:DF523
文獻(xiàn)標(biāo)志碼:A
DOI:10.3969/j.issn.1008-4355.2020.01.07
互聯(lián)網(wǎng)的普及與電子商務(wù)的發(fā)展給人們生活提供了諸多便利,同時(shí)也帶來個(gè)人信息被濫用、消費(fèi)者權(quán)益被侵害的風(fēng)險(xiǎn)。近期,不斷有媒體爆出消費(fèi)者在網(wǎng)絡(luò)打車出行、酒店預(yù)訂和購票購物等領(lǐng)域遭遇“大數(shù)據(jù)殺熟”。據(jù)北京市消費(fèi)者協(xié)會2019年3月公布的“大數(shù)據(jù)殺熟”問題調(diào)查報(bào)告,88.32%的被調(diào)查者認(rèn)為大數(shù)據(jù)“殺熟”現(xiàn)象普遍或者很普遍,56.92%的被調(diào)查者表示有過被“大數(shù)據(jù)殺熟”的經(jīng)歷?!按髷?shù)據(jù)殺熟”的法律性質(zhì)如何、其實(shí)質(zhì)是什么?現(xiàn)行法律能否有效規(guī)制“大數(shù)據(jù)殺熟”?如果不能,又應(yīng)該怎樣應(yīng)對“大數(shù)據(jù)殺熟”?這些問題,不僅關(guān)系到消費(fèi)者權(quán)利保護(hù)和市場公平競爭,還涉及到個(gè)人信息保護(hù)和算法權(quán)力治理。
一、“大數(shù)據(jù)殺熟”之表象:消費(fèi)者的權(quán)利被侵害
普通消費(fèi)者直觀地認(rèn)為“大數(shù)據(jù)殺熟”侵害了消費(fèi)者的權(quán)利,而此類觀點(diǎn)成立與否有賴于對“大數(shù)據(jù)殺熟”法律性質(zhì)的認(rèn)定。
(一)侵害消費(fèi)者權(quán)利之表象
根據(jù)《中華人民共和國消費(fèi)者權(quán)益保護(hù)法》(以下簡稱《消保法》)的規(guī)定,消費(fèi)者享有公平交易權(quán)、知悉真情權(quán)、自主選擇權(quán)和個(gè)人信息權(quán)等權(quán)利。北京市消費(fèi)者協(xié)會2019年3月公布的“大數(shù)據(jù)殺熟”問題調(diào)查結(jié)果顯示:超過八成的被調(diào)查者認(rèn)為“大數(shù)據(jù)殺熟”侵害了消費(fèi)者的公平交易權(quán)。將近一半的被調(diào)查者認(rèn)為“大數(shù)據(jù)殺熟”侵害了消費(fèi)者的知情權(quán),超過四成的被調(diào)查者認(rèn)為“大數(shù)據(jù)殺熟”侵害了消費(fèi)者的選擇權(quán)。
對于“大數(shù)據(jù)殺熟”是如何具體侵害消費(fèi)者的權(quán)利的,不少專家學(xué)者進(jìn)行了論證。同一時(shí)間不同的消費(fèi)者購買相同的商品和服務(wù),被經(jīng)營者收取了不同的價(jià)款,這種對人不對物、同物不同價(jià)的行為被認(rèn)為侵害了消費(fèi)者的公平交易權(quán)。電商經(jīng)營者利用大數(shù)據(jù)技術(shù)對“熟客”提高價(jià)格的行為,看似“明碼標(biāo)價(jià)”,實(shí)際上隱瞞了商品或服務(wù)的真實(shí)價(jià)格,侵害了消費(fèi)者的知情權(quán)。電商經(jīng)營者根據(jù)消費(fèi)者的消費(fèi)習(xí)慣和消費(fèi)需求,向消費(fèi)者精準(zhǔn)推送商品和服務(wù)的行為,限制了消費(fèi)者比較和挑選商品和服務(wù)的范圍,使消費(fèi)者受困于經(jīng)營者為其編織的“信息繭房”,侵害了消費(fèi)者的選擇權(quán)。此外,電商經(jīng)營者將之前為完成交易而收集到的消費(fèi)者個(gè)人信息,用于對消費(fèi)者精準(zhǔn)“畫像”以區(qū)別定價(jià),突破了個(gè)人信息利用的場景限制,侵害了消費(fèi)者的個(gè)人信息權(quán)。
(二)“大數(shù)據(jù)殺熟”法律性質(zhì)之爭
盡管“大數(shù)據(jù)殺熟”已潛入網(wǎng)絡(luò)消費(fèi)的各個(gè)領(lǐng)域,但在遭遇“大數(shù)據(jù)殺熟”后,很少有消費(fèi)者拿起法律武器維護(hù)自身的合法權(quán)益。這既有維權(quán)成本太高的原因,也與“大數(shù)據(jù)殺熟”的法律性質(zhì)不明有關(guān)。
1.差別定價(jià)
有人認(rèn)為商家運(yùn)用收集到的信息準(zhǔn)確為“熟人”畫像,并對其進(jìn)行差別定價(jià)就是“大數(shù)據(jù)殺熟”。也有人認(rèn)為“大數(shù)據(jù)殺熟”,是指網(wǎng)絡(luò)商家利用大數(shù)據(jù)技術(shù),分類處理和分析收集到的用戶信息,并對老客戶實(shí)行隱蔽式抬價(jià),以此實(shí)現(xiàn)利益最大化的差別化價(jià)格策略。此類觀點(diǎn)將“大數(shù)據(jù)殺熟”定性為差別定價(jià)的價(jià)格策略。實(shí)際上,在沒有電商的年代也存在“差別定價(jià)”的情形。比如,消費(fèi)者去商場購買衣服,營業(yè)員通常會根據(jù)消費(fèi)者的年齡體貌、穿著打扮和言談舉止等特征推薦不同款式和價(jià)位的衣服、給予不同的折扣和價(jià)格。因此,經(jīng)營者“看人下菜”的差別定價(jià)行為是一種價(jià)格策略,符合市場規(guī)律,并且法律并不禁止差別定價(jià)。
2.價(jià)格歧視
有人認(rèn)為“大數(shù)據(jù)殺熟”是指電商憑借大數(shù)據(jù)技術(shù)對用戶進(jìn)行精準(zhǔn)分析,對同樣的商品或服務(wù)對不同用戶標(biāo)定不同的價(jià)格。也有人認(rèn)為大數(shù)據(jù)“殺熟”就是以用戶數(shù)據(jù)為基礎(chǔ),利用算法技術(shù)實(shí)現(xiàn)的一級價(jià)格歧視(或稱“完全價(jià)格歧視”)。此類觀點(diǎn)將“大數(shù)據(jù)殺熟”定性為同物不同價(jià)的“價(jià)格歧視”。任何商品或者服務(wù)都不可能滿足所有消費(fèi)者的需求,不同消費(fèi)者對同樣商品或者服務(wù)有著不同的需求彈性?;诖?,在銷售相同的商品或者提供相同的服務(wù)時(shí),經(jīng)營者給予不同消費(fèi)者不同的價(jià)格并無不妥。只不過站在消費(fèi)者的角度,此類同物不同價(jià)的行為很容易被當(dāng)成“價(jià)格歧視”。
3.價(jià)格欺詐
有專家表示,在“大數(shù)據(jù)殺熟”中經(jīng)營者利用大數(shù)據(jù)技術(shù)故意對“熟客”提高價(jià)格,使“熟客”對商品價(jià)格陷入誤解而作出購買選擇,涉嫌價(jià)格欺詐。也有人認(rèn)為,在“大數(shù)據(jù)殺熟”中經(jīng)營者主觀上具有欺詐的直接故意、客觀上實(shí)施了隱瞞真情的區(qū)別定價(jià)行為、結(jié)果上使消費(fèi)者遭受財(cái)產(chǎn)損失,構(gòu)成法律意義上的價(jià)格欺詐,同時(shí)也侵害了消費(fèi)者的合法權(quán)益。根據(jù)《禁止價(jià)格欺詐行為的規(guī)定》,經(jīng)營者只有在“通過標(biāo)價(jià)形式或者價(jià)格手段虛構(gòu)事實(shí)、隱瞞真實(shí)情況”下,才可能被認(rèn)定為價(jià)格欺詐。而在“大數(shù)據(jù)殺熟”中,經(jīng)營者沒有虛構(gòu)事實(shí),沒有告知其他消費(fèi)者的交易價(jià)格也談不上隱瞞真實(shí)情況,因此“大數(shù)據(jù)殺熟”夠不成法律意義上的價(jià)格欺詐。
綜上可見,“大數(shù)據(jù)殺熟”作為一種新的社會現(xiàn)象,專家學(xué)者對其法律性質(zhì)的認(rèn)識還存在比較大的爭議。實(shí)際上,根據(jù)現(xiàn)行法律很難對“大數(shù)據(jù)殺熟”的法律性質(zhì)進(jìn)行認(rèn)定,認(rèn)為其侵害消費(fèi)者的權(quán)利的觀點(diǎn)僅停留在對相關(guān)法律規(guī)范的表象認(rèn)識之上。
二、“大數(shù)據(jù)殺熟”之實(shí)質(zhì):經(jīng)營者濫用算法權(quán)力
電子商務(wù)中大數(shù)據(jù)和算法的廣泛運(yùn)用,給消費(fèi)者帶來便利的同時(shí),也為經(jīng)營者濫用算法權(quán)力提供了可能。
(一)“大數(shù)據(jù)殺熟”的技術(shù)特征
雖然“殺熟”一般都由“信息收集——用戶畫像——區(qū)別定價(jià)”三個(gè)步驟構(gòu)成,但與“傳統(tǒng)殺熟”相比,“大數(shù)據(jù)殺熟”具有突出的技術(shù)特征?!皞鹘y(tǒng)殺熟”中經(jīng)營者主要通過日常交往和交易了解客戶,由此掌握的客戶信息相對有限,對熟人區(qū)別定價(jià)也主要依靠腦力的個(gè)別分析與判斷,其精準(zhǔn)度不高、影響范圍有限。而電子商務(wù)經(jīng)營者通過算法的設(shè)計(jì)、運(yùn)用,收集消費(fèi)者年齡、性別、消費(fèi)習(xí)慣和支付能力等各個(gè)方面的信息,并運(yùn)用計(jì)算機(jī)對獲得的數(shù)據(jù)進(jìn)行分析和處理,從而給消費(fèi)者精準(zhǔn)畫像,做到“千人千面”最終實(shí)現(xiàn)“千人千價(jià)”?!按髷?shù)據(jù)殺熟”相較于“傳統(tǒng)殺熟”,準(zhǔn)確度更高、隱蔽性更強(qiáng)、涉及面更廣、規(guī)制難度更大。
(二)經(jīng)營者算法權(quán)力之濫用
1.算法與算法權(quán)力
算法“是一系列解決問題的指令,只要給定初始條件,這一系列指令就會自動給出相應(yīng)的答案”。算法不僅僅是計(jì)算機(jī)中的代碼,更是網(wǎng)絡(luò)世界的行為規(guī)則,正如萊辛格教授所說“代碼即法律”。對算法設(shè)計(jì)者和運(yùn)行者而言,算法是解決問題、實(shí)現(xiàn)目標(biāo)的手段;對算法的目標(biāo)對象而言,它是必須遵守的網(wǎng)絡(luò)世界的“法律”。只不過這種“法律”不是立法機(jī)關(guān)制定的,沒有反映全體公民的整體意志和公共利益,它體現(xiàn)的只是算法設(shè)計(jì)者和運(yùn)行者的個(gè)體意志和私人利益。
可以說,算法權(quán)力是算法對目標(biāo)對象的影響力和控制力。算法作為網(wǎng)絡(luò)世界法律具有非常強(qiáng)的剛性,目標(biāo)對象必須嚴(yán)格按照它要求的步驟或方式才能進(jìn)入和參與算法構(gòu)筑的網(wǎng)絡(luò)世界。例如,很多手機(jī)APP都要求用戶準(zhǔn)許其使用某些權(quán)限,否則該APP就無法使用,即使能夠使用也必須嚴(yán)格按照APP的流程進(jìn)行操作。在算法構(gòu)筑的網(wǎng)絡(luò)世界里,算法設(shè)計(jì)者和運(yùn)行者還可以通過采取獎勵和懲罰措施,進(jìn)一步影響目標(biāo)對象的判斷和行為。由此,算法設(shè)計(jì)者和運(yùn)行者成為手握算法權(quán)力,掌控網(wǎng)絡(luò)世界的實(shí)際主宰者。
2.濫用算法權(quán)力之領(lǐng)域
技術(shù)本應(yīng)是中性的,但由于算法體現(xiàn)的是設(shè)計(jì)者與運(yùn)行者的意志與利益,電子商務(wù)經(jīng)營者既可以運(yùn)用算法權(quán)力為消費(fèi)者提供更好的商品與服務(wù),也可能用來侵害消費(fèi)者的權(quán)利?!按髷?shù)據(jù)殺熟”即是電子商務(wù)經(jīng)營者濫用算法權(quán)力,謀取不正當(dāng)利益的典型表現(xiàn)。具體而言,電子商務(wù)經(jīng)營者在信息收集、搜索推薦和差別定價(jià)等方面存在算法權(quán)力濫用。
理論上電子商務(wù)經(jīng)營者獲取了消費(fèi)者的用戶名或姓名、選定的商品或服務(wù)、聯(lián)系方式、地址或者定位、支付方式等信息就可以完成交易。但在現(xiàn)實(shí)的電子商務(wù)交易過程中,經(jīng)營者往往運(yùn)用算法大規(guī)模地收集非必要性的消費(fèi)者信息,例如消費(fèi)者的性別、年齡、職業(yè)、收入、通信錄、通話記錄、設(shè)備信息等等,甚至要求消費(fèi)者必須給與調(diào)用攝像頭、使用麥克風(fēng)的權(quán)限等等。表面上電子商務(wù)經(jīng)營者收集上述信息、獲取設(shè)備權(quán)限獲得了消費(fèi)者的同意,實(shí)際上消費(fèi)者沒有選擇的余地,必須“同意”,否則就無法進(jìn)行交易。電子商務(wù)經(jīng)營者通過濫用算法權(quán)力,使消費(fèi)者淪為其信息獲取鏈條上的一環(huán),成為“電子痕跡的匯總”。
電商平臺上有著巨量的商家和海量的商品。消費(fèi)者借助平臺的搜索引擎才可能找到自己青睞的商品,商家往往需要平臺推薦才能有效的將商品展示給潛在消費(fèi)者。電商平臺的搜索推薦算法直接將消費(fèi)者與商家聯(lián)系起來,并最終影響消費(fèi)者的購買和商家的銷售?!皞€(gè)性化”是搜索推薦算法的核心考量因素,基于消費(fèi)者個(gè)人信息的個(gè)性化推薦一方面可以提高消費(fèi)者的搜索效率,另一方面消費(fèi)者也可能被最有益于平臺的推薦商品或服務(wù)所包圍。掌握算法權(quán)力、追求個(gè)體利益的電子商務(wù)經(jīng)營者傾向于發(fā)揮搜索推薦算法的后一種功能,提高消費(fèi)者搜索效率淪為平臺追求自身利益最大化的附帶功能。
相同的商品或者服務(wù)在同樣的時(shí)間和地域針對不同消費(fèi)者的定價(jià)本應(yīng)相同,但掌握了算法權(quán)力的電子商務(wù)經(jīng)營者可以利用其與消費(fèi)之間信息不對稱的絕對優(yōu)勢。對消費(fèi)者精準(zhǔn)畫像并差別定價(jià)。近期新聞媒體報(bào)道出來的“大數(shù)據(jù)殺熟”現(xiàn)象,最突出的表現(xiàn)就是差別定價(jià),尤其是對老用戶、熟客的高定價(jià)。有研究顯示,2015年動態(tài)定價(jià)算法為優(yōu)步創(chuàng)造了68億美元的利潤。電子商務(wù)經(jīng)營者濫用算法權(quán)力,以低價(jià)吸引新用戶、以高價(jià)收割老用戶的營銷策略和逐利模式,顛覆了基于成本與合理利潤的定價(jià)規(guī)則,使得“價(jià)格歧視”成為常態(tài)。在此過程中,消費(fèi)者被算法權(quán)力客體化,淪為商家掠奪的對象。
可見,消費(fèi)者的權(quán)利被侵害只是“大數(shù)據(jù)殺熟”的表象和結(jié)果,算法權(quán)力被經(jīng)營者濫用才是“大數(shù)據(jù)殺熟”的實(shí)質(zhì)與根源。
三、“大數(shù)據(jù)殺熟”消費(fèi)者權(quán)利保護(hù)路徑之困境
一般認(rèn)為,“大數(shù)據(jù)殺熟”侵害了消費(fèi)者的權(quán)利,通過保護(hù)消費(fèi)者的權(quán)利約束經(jīng)營者的行為,被視為規(guī)制“大數(shù)據(jù)殺熟”的首選路徑。然而,此路徑面臨諸多法律上的困境。
(一)消費(fèi)者權(quán)利私法保護(hù)路徑之局限
1.合同法路徑
通過網(wǎng)絡(luò)購買商品或者服務(wù),消費(fèi)者與電子商務(wù)經(jīng)營者之間形成了電子商務(wù)合同,適用《合同法》的一般規(guī)定?!吨腥A人民共和國合同法》第六條規(guī)定“當(dāng)事人行使權(quán)利、履行義務(wù)應(yīng)當(dāng)遵循誠實(shí)信用原則?!庇胁簧賹<艺J(rèn)為,“大數(shù)據(jù)殺熟”中電子商務(wù)經(jīng)營者對“熟客”隱瞞商品或者服務(wù)真實(shí)價(jià)格并故意提高成交價(jià)格的行為,違反了誠實(shí)信用原則。但消費(fèi)者以經(jīng)營者違反誠實(shí)信用原則,主張撤銷合同而要求經(jīng)營者退款甚至承擔(dān)賠償責(zé)任,通常不會得到法院的支持。因?yàn)檎\實(shí)信用原則的適用具有補(bǔ)充性,除非適用具體法律規(guī)定將導(dǎo)致明顯不公平的裁判,否則法官不會將誠實(shí)信用原則作為裁判的直接依據(jù)。
《中華人民共和國合同法》第五十四條規(guī)定了當(dāng)事人變更或者撤銷合同的五種情形,即重大誤解、顯失公平、欺詐、脅迫和乘人之危。“大數(shù)據(jù)殺熟”中,作為“熟客”的消費(fèi)者對自己所購買的商品或服務(wù)通常不存在認(rèn)識上的錯(cuò)誤,其所支付的對價(jià)一般也不會過分高于其他消費(fèi)者而明顯違反等價(jià)有償原則,基本上也不存在經(jīng)營者脅迫和乘人之危的情形,存在爭議的是經(jīng)營者是否欺詐“熟客”?!吨腥A人民共和國合同法釋義》對欺詐界定為,“故意隱瞞真實(shí)情況或者故意告知對方虛假的情況,欺騙對方,誘使對方作出錯(cuò)誤的意思表示而與之訂立合同?!苯?jīng)營者未將其他消費(fèi)者購買同種商品或者服務(wù)的價(jià)格告知“熟客”,很難說是隱瞞了真實(shí)情況;“熟客”認(rèn)可經(jīng)營者給出的價(jià)格才會選購其青睞的商品或者服務(wù),因而也談不上被對方欺騙而“作出錯(cuò)誤的意思表示”。因此,消費(fèi)者以《合同法》第五十四條規(guī)定的五種情形為理由,請求人民法院或者仲裁機(jī)構(gòu)變更或者撤銷電子商務(wù)合同非常困難。
2.侵權(quán)法路徑
電子商務(wù)經(jīng)營者“殺熟”的前提是掌握消費(fèi)者個(gè)人特征信息,而收集、使用這些信息有可能侵害消費(fèi)者個(gè)人信息權(quán)利。《消保法》第十四條規(guī)定消費(fèi)者“享有個(gè)人信息依法得到保護(hù)的權(quán)利”,第二十九條規(guī)定了“經(jīng)營者收集、使用消費(fèi)者個(gè)人信息”的義務(wù),第五十條規(guī)定了經(jīng)營者“侵害消費(fèi)者個(gè)人信息依法得到保護(hù)的權(quán)利”的民事責(zé)任。這些條款搭建起消費(fèi)者個(gè)人信息權(quán)利私法保護(hù)的特別法框架?!肚謾?quán)責(zé)任法》第三十六條規(guī)定的網(wǎng)絡(luò)信息侵權(quán)條款及其司法解釋、《民法總則》第一百一十一條規(guī)定的個(gè)人信息保護(hù)條款,則為消費(fèi)者個(gè)人信息保護(hù)提供了一般法律依據(jù)。
目前,我國法律對個(gè)人信息權(quán)利的內(nèi)涵與性質(zhì)沒有明確規(guī)定,個(gè)人信息權(quán)利是一般人格權(quán)、隱私權(quán)、財(cái)產(chǎn)權(quán)、新型權(quán)利,還是獨(dú)立人格權(quán)在學(xué)界存在爭議。根據(jù)侵權(quán)法的一般理論,“殺熟”的電子商務(wù)經(jīng)營者承擔(dān)侵害消費(fèi)者個(gè)人信息權(quán)利的侵權(quán)責(zé)任,需要存在過錯(cuò)、造成了消費(fèi)者損害或者有損害之虞,并且二者之間存在因果關(guān)系。《消保法》并不禁止電子商務(wù)經(jīng)營者收集、使用消費(fèi)者的個(gè)人信息。如果經(jīng)營者事先獲得消費(fèi)者的“知情同意”,且履行了保密義務(wù),其收集和使用消費(fèi)者個(gè)人信息的行為就符合《消保法》的規(guī)定,就不存在表現(xiàn)為違法的過錯(cuò)。在法律沒有明確個(gè)人信息權(quán)利為一般人格權(quán)前,經(jīng)營者通過“知情同意”收集、使用消費(fèi)者個(gè)人信息,對消費(fèi)者進(jìn)行“社會分選和歧視”,使消費(fèi)者處于“數(shù)據(jù)監(jiān)控下的不安”和“消費(fèi)操縱和關(guān)系控制”狀態(tài),難以被認(rèn)定為傳統(tǒng)侵權(quán)法下的損害。至于被“殺熟”消費(fèi)者額外支付的價(jià)款所構(gòu)成的財(cái)產(chǎn)損失,屬于“后續(xù)損害”,不能將信息侵害等同于后續(xù)損害?!肚謾?quán)責(zé)任法》的網(wǎng)絡(luò)信息侵權(quán)條款及相關(guān)司法解釋,規(guī)范的是侵害信息的后續(xù)損害問題,并且也沒有將被“殺熟”消費(fèi)者額外支付的價(jià)款納入其中。經(jīng)營者沒有表現(xiàn)為違法的過錯(cuò)、消費(fèi)者的損害難以認(rèn)定,“大數(shù)據(jù)殺熟”的侵權(quán)法路徑由此陷入困境。
(二)消費(fèi)者權(quán)利公法保護(hù)路徑之不足
1.個(gè)人信息保護(hù)路徑
《消保法》第五十六條規(guī)定了“侵害消費(fèi)者個(gè)人信息依法得到保護(hù)的權(quán)利”的行政責(zé)任。該法第二十九條規(guī)定了經(jīng)營者侵害消費(fèi)者個(gè)人信息權(quán)利的三種情形:未經(jīng)消費(fèi)者同意擅自收集、使用消費(fèi)者的個(gè)人信息;泄露、出售或者非法向他人提供消費(fèi)者的個(gè)人信息;未經(jīng)消費(fèi)者同意或者請求,或者消費(fèi)者明確表示拒絕,向其發(fā)送商業(yè)信息。在“大數(shù)據(jù)殺熟”中,經(jīng)營者收集、使用消費(fèi)者個(gè)人信息通常取得了其同意,經(jīng)營者不存在泄露、出售或者非法向他人提供消費(fèi)者個(gè)人信息的行為,也不是向消費(fèi)者發(fā)送商業(yè)信息??梢?,“大數(shù)據(jù)殺熟”不符合《消保法》第二十九條規(guī)定的經(jīng)營者侵害消費(fèi)者個(gè)人信息權(quán)利的任一情形,《消保法》規(guī)定的個(gè)人信息行政保護(hù)條款無法適用于“大數(shù)據(jù)殺熟”。
《中華人民共和國網(wǎng)絡(luò)安全法》第二十二條第三款、第四十一條至第四十三條規(guī)定了網(wǎng)絡(luò)運(yùn)營者、網(wǎng)絡(luò)產(chǎn)品或者服務(wù)提供者收集、使用個(gè)人信息的行政義務(wù),第六十四條規(guī)定了違反個(gè)人信息保護(hù)義務(wù)的行政責(zé)任。通過《網(wǎng)絡(luò)安全法》個(gè)人信息保護(hù)條款規(guī)制“大數(shù)據(jù)殺熟”,將面臨《消保法》中消費(fèi)者個(gè)人信息保護(hù)條款類似的適用難題。
2.反價(jià)格歧視路徑
有部分人將“大數(shù)據(jù)殺熟”定性為“價(jià)格歧視”。我國有關(guān)反價(jià)格歧視的條款主要規(guī)定在《中華人民共和國價(jià)格法》和《價(jià)格違法行為行政處罰規(guī)定》中?!秲r(jià)格法》第十四條規(guī)定經(jīng)營者不得“提供相同商品或者服務(wù),對具有同等交易條件的其他經(jīng)營者實(shí)行價(jià)格歧視”,《價(jià)格違法行為行政處罰規(guī)定》對價(jià)格歧視作出了同樣的規(guī)定,只是細(xì)化了價(jià)格歧視的處罰要求。顯而易見,上述兩個(gè)法律規(guī)范的反價(jià)格歧視條款,針對是“其他經(jīng)營者”而非“消費(fèi)者”?!按髷?shù)據(jù)殺熟”中,經(jīng)營者對具有同等交易條件的不同消費(fèi)者實(shí)行不同的價(jià)格,不能適用上述反價(jià)格歧視條款。
價(jià)格歧視還與公平交易有關(guān)?!断7ā返谑畻l規(guī)定“消費(fèi)者享有公平交易的權(quán)利”,“消費(fèi)者在購買商品或者接受服務(wù)時(shí),有權(quán)獲得質(zhì)量保障、價(jià)格合理、計(jì)量正確等公平交易條件”?!笆炜汀眱r(jià)格高于新用戶價(jià)格對“熟客”來說似乎不合理、不公平,但法律并不禁止差別定價(jià),針對所有用戶的價(jià)格都一樣并不一定公平?!叭巳诵睦锒加袟U秤”,何為“公平”難有定論。不能單憑“熟客”價(jià)格高于新用戶價(jià)格,就認(rèn)為經(jīng)營者侵害了“熟客”的公平交易權(quán),而應(yīng)受到《消保法》相關(guān)規(guī)定的懲處。
3.反價(jià)格欺詐路徑
有些專家將“大數(shù)據(jù)殺熟”定性為“價(jià)格欺詐”,認(rèn)為其符合《禁止價(jià)格欺詐行為的規(guī)定》中“價(jià)格欺詐行為”的特征?!督箖r(jià)格欺詐行為的規(guī)定》第三條對“價(jià)格欺詐行為”進(jìn)行了界定,2015年6月國家發(fā)展改革委“關(guān)于《禁止價(jià)格欺詐行為的規(guī)定》有關(guān)條款解釋的通知”進(jìn)一步明確了“價(jià)格欺詐行為”,即“經(jīng)營者通過標(biāo)價(jià)形式或者價(jià)格手段虛構(gòu)事實(shí)、隱瞞真實(shí)情況,欺騙、誘導(dǎo)消費(fèi)者或者其他經(jīng)營者與其進(jìn)行交易;無論是否形成交易結(jié)果,均構(gòu)成價(jià)格欺詐行為”。可見,經(jīng)營者“虛構(gòu)事實(shí)、隱瞞真實(shí)情況”是構(gòu)成價(jià)格欺詐的核心要件。
“大數(shù)據(jù)殺熟”中,經(jīng)營者向消費(fèi)者提供的商品或者服務(wù)信息都是真實(shí)的,沒有“虛構(gòu)事實(shí)”;至于經(jīng)營者是否對消費(fèi)者“隱瞞真實(shí)情況”,需要具體考察《消保法》所規(guī)定的知情權(quán)條款?!断7ā返诎藯l第二款明確了消費(fèi)者知情權(quán)的范圍,即“商品的價(jià)格、產(chǎn)地、生產(chǎn)者、用途、性能、規(guī)格、等級、主要成份、生產(chǎn)日期、有效期限、檢驗(yàn)合格證明、使用方法說明書、售后服務(wù),或者服務(wù)的內(nèi)容、規(guī)格、費(fèi)用等有關(guān)情況?!彪m然消費(fèi)者知情的范圍非常寬泛,但并不包括經(jīng)營者與其他消費(fèi)者交易的信息。實(shí)際上,此類信息,特別是其中的交易價(jià)格、數(shù)量信息屬于經(jīng)營者的商業(yè)秘密,經(jīng)營者沒有告知消費(fèi)者的義務(wù),也就談不上隱瞞有關(guān)價(jià)格的真實(shí)情況。因此,“大數(shù)據(jù)殺熟”不符合價(jià)格欺詐行為的構(gòu)成,監(jiān)管部門不能適用價(jià)格欺詐條款對經(jīng)營者進(jìn)行懲處。
4.反壟斷路徑
《中華人民共和國反壟斷法》中與“大數(shù)據(jù)殺熟”最相關(guān)的條款是第十七條第一款。該款第六項(xiàng)規(guī)定,“沒有正當(dāng)理由,對條件相同的交易相對人在交易價(jià)格等交易條件上實(shí)行差別待遇”屬于“濫用市場支配地位的行為”,應(yīng)予禁止。從媒體報(bào)道來看,“大數(shù)據(jù)殺熟”通常發(fā)生在市場份額高、影響力大的電子商務(wù)平臺,且表現(xiàn)為交易條件相同的新老客戶價(jià)格上存在差別待遇?!按髷?shù)據(jù)殺熟”似乎符合“具有市場支配地位的經(jīng)營者”“濫用市場支配地位行為”的構(gòu)成要件,可以適用《反壟斷法》濫用市場支配條款進(jìn)行規(guī)制。
實(shí)際上,將“大數(shù)據(jù)殺熟”認(rèn)定為“具有市場支配地位的經(jīng)營者”“濫用市場支配地位的行為”非常困難。首先,電子商務(wù)平臺“市場份額高、影響力大”并不等于“具有市場支配地位”,且其是否具有市場支配地位需由司法機(jī)關(guān)認(rèn)定,而非由消費(fèi)者的主觀感受決定。其次,新老客戶價(jià)格上存在的差別待遇需“沒有正當(dāng)理由”,電子商務(wù)經(jīng)營者通??梢杂脤?shí)時(shí)供求關(guān)系、季節(jié)性變化以及商品自身特性等理由予以抗辯,而不構(gòu)成濫用。因此,《反壟斷法》的濫用市場支配地位條款,難以直接規(guī)制“大數(shù)據(jù)殺熟”。
除實(shí)體法困境之外,規(guī)制“大數(shù)據(jù)殺熟”的消費(fèi)者權(quán)利保護(hù)路徑,還面臨程序法上的諸多障礙,例如消費(fèi)者司法維權(quán)激勵不足、舉證困難等等。
四、“大數(shù)據(jù)殺熟”經(jīng)營者算法權(quán)力治理路徑之構(gòu)建
“大數(shù)據(jù)殺熟”表面上看近似價(jià)格歧視,侵害了“消費(fèi)者的權(quán)利”;實(shí)質(zhì)上是算法歧視,是電子商務(wù)經(jīng)營者濫用數(shù)據(jù)優(yōu)勢和算法權(quán)力的結(jié)果。從根源上看,“大數(shù)據(jù)殺熟”并非單純的法律規(guī)制問題,而是算法權(quán)力的多元共治問題。通過算法權(quán)力治理,才可能有效保護(hù)人工智能時(shí)代消費(fèi)者的權(quán)益。
(一)經(jīng)營者算法權(quán)力治理之原則
1.技術(shù)發(fā)展與權(quán)利保護(hù)相平衡
未來已來,大數(shù)據(jù)、人工智能的深入發(fā)展和廣泛運(yùn)用已是不可阻擋的大趨勢。無論是商品的生產(chǎn),還是網(wǎng)絡(luò)交易的撮合、網(wǎng)購商品的配送,大數(shù)據(jù)、人工智能背后的算法正影響甚至改變?nèi)藗兊纳a(chǎn)生活方式。同時(shí),無孔不入、無處不在的數(shù)據(jù)收集和數(shù)字監(jiān)控使公眾成為毫無隱私的透明人,極易被掌握算法權(quán)力的主體所侵害。算法權(quán)力的形成既是技術(shù)發(fā)展的結(jié)果,也要需要規(guī)則與制度的約束。“大數(shù)據(jù)殺熟”是經(jīng)營者算法權(quán)力與消費(fèi)者權(quán)利較量中處于明顯優(yōu)勢地位的必然結(jié)果,應(yīng)對“大數(shù)據(jù)殺熟”需要扭轉(zhuǎn)這種局面,使算法權(quán)力與消費(fèi)者權(quán)利在法律上大致平衡。平衡好技術(shù)發(fā)展與權(quán)利保護(hù)之間的關(guān)系,才可能避免因權(quán)利過度保護(hù)而阻礙算法技術(shù)發(fā)展,同時(shí)又防止算法權(quán)力的濫用侵害消費(fèi)者的合法權(quán)利。
2.內(nèi)部監(jiān)督與外部監(jiān)管相結(jié)合
算法是指令的代碼表達(dá),體現(xiàn)設(shè)計(jì)者與運(yùn)行者的意志與利益。算法形式多樣、結(jié)構(gòu)各異,對于普通消費(fèi)者來說,算法就是一個(gè)難以捉摸、無法理解黑箱。甚至算法的設(shè)計(jì)者、運(yùn)行者,對算法將產(chǎn)生何種結(jié)果亦無法準(zhǔn)確預(yù)測和解釋。算法透明化被認(rèn)為是算法規(guī)制的重要途徑,但對很多經(jīng)營者而言,算法是其商業(yè)秘密和核心競爭力所在。算法強(qiáng)制公開路徑,有悖知識產(chǎn)權(quán)制度。算法的技術(shù)特征給外部監(jiān)管帶來了巨大的技術(shù)挑戰(zhàn),而算法的法律屬性又為外部監(jiān)管增添了新的法律難題,單純的外部監(jiān)管無法勝任算法權(quán)力治理的重任。有效應(yīng)對“大數(shù)據(jù)殺熟”,促使經(jīng)營者合理合法運(yùn)用算法權(quán)力,需要將經(jīng)營者內(nèi)部的監(jiān)督與外部力量的監(jiān)管相結(jié)合。
3.事前管控與事后追責(zé)相并重
對濫用算法權(quán)力造成損害的行為進(jìn)行事后追責(zé),是法律規(guī)制的傳統(tǒng)模式。事后追責(zé)模式可以避免公權(quán)機(jī)關(guān)介入其并不熟悉的技術(shù)領(lǐng)域,而專注于法律問題。但人工智能時(shí)代,法律問題與技術(shù)問題交織得更為緊密,算法技術(shù)的發(fā)展和運(yùn)用給事后追責(zé)模式帶來新的挑戰(zhàn)。自認(rèn)為合法權(quán)利受到“大數(shù)據(jù)殺熟”侵害的消費(fèi)者,不愿或者難以通過司法途徑獲得救濟(jì),即是例證。在算法設(shè)計(jì)、運(yùn)行之初就要求經(jīng)營者遵循一定的程序和規(guī)則,是算法權(quán)力治理的首要環(huán)節(jié)。算法以數(shù)據(jù)為基礎(chǔ),加強(qiáng)對個(gè)人信息的保護(hù),明確經(jīng)營者收集、使用個(gè)人信息的范圍與目的,也應(yīng)成為事前管控的重要內(nèi)容?!按髷?shù)據(jù)殺熟”的技術(shù)特征,決定了算法權(quán)力治理必須將事前管控與事后追責(zé)相并重。
(二)經(jīng)營者算法權(quán)力治理之面向
1.經(jīng)營者自律
電子商務(wù)經(jīng)營者熟悉自己設(shè)計(jì)或者運(yùn)行的算法,若其能建立算法的內(nèi)部管控機(jī)制,無疑是治理算法權(quán)力最為簡單有效的方式。
(1)進(jìn)行算法驗(yàn)證
算法是計(jì)算機(jī)代碼,其運(yùn)行帶來的結(jié)果是否如經(jīng)營者預(yù)期的一樣有效、合法,需要進(jìn)行驗(yàn)證。經(jīng)營者可以像檢驗(yàn)商品一樣驗(yàn)證自己設(shè)計(jì)或者運(yùn)行的算法,以保證算法的有效性和合法性。對算法進(jìn)行測試和驗(yàn)證已經(jīng)成為計(jì)算機(jī)科學(xué)的一個(gè)新興領(lǐng)域,不少企業(yè)設(shè)置了專門的算法驗(yàn)證崗位。算法驗(yàn)證主要有靜態(tài)驗(yàn)證和動態(tài)驗(yàn)證兩種路徑,靜態(tài)驗(yàn)證是對算法進(jìn)行靜態(tài)回溯檢查,以發(fā)現(xiàn)設(shè)計(jì)上的缺陷和不足;動態(tài)驗(yàn)證則是通過算法的試運(yùn)行,檢查算法程序運(yùn)行的實(shí)際結(jié)果。未經(jīng)充分驗(yàn)證就將算法投入應(yīng)用,經(jīng)營者應(yīng)對可能產(chǎn)生的不利后果負(fù)責(zé)。
(2)設(shè)置算法監(jiān)督員
美國很多有著海量用戶信息的大企業(yè),如微軟、臉書、花旗集團(tuán)等,都設(shè)立了首席隱私官。首席隱私官領(lǐng)導(dǎo)企業(yè)遵守個(gè)人信息保護(hù)的各類政策與法律、處理企業(yè)內(nèi)外與個(gè)人信息保護(hù)相關(guān)的各種問題?!兜聡?lián)邦數(shù)據(jù)保護(hù)法》要求符合一定條件的企業(yè)設(shè)立數(shù)據(jù)保護(hù)顧問,負(fù)責(zé)檢查企業(yè)內(nèi)部隱私事務(wù)、登記數(shù)據(jù)信息、監(jiān)督數(shù)據(jù)處理等。運(yùn)用算法大量收集、使用消費(fèi)者個(gè)人信息的電商平臺,可以設(shè)置類似于隱私保護(hù)官和數(shù)據(jù)保護(hù)顧問的算法監(jiān)督員,負(fù)責(zé)企業(yè)算法設(shè)計(jì)、運(yùn)行合規(guī)合法的內(nèi)部監(jiān)督。
2.行業(yè)協(xié)會引導(dǎo)
電子商務(wù)經(jīng)營者尤其是電商平臺,是算法設(shè)計(jì)、運(yùn)行領(lǐng)域的技術(shù)行家,應(yīng)接受相關(guān)技術(shù)行業(yè)協(xié)會的引導(dǎo)。
(1)促成算法倫理
2017年1月。美國計(jì)算機(jī)協(xié)會公共政策委員會提出了算法治理的七條原則:算法利益相關(guān)者應(yīng)認(rèn)識到算法偏見可能對個(gè)體與社會帶來的損害、建立算法損害的救濟(jì)機(jī)制、算法使用者應(yīng)對算法決策擔(dān)責(zé)、鼓勵對算法決策的解釋、加強(qiáng)數(shù)據(jù)治理、留存算法痕跡以備審查、嚴(yán)格驗(yàn)證及定期測試算法。這七條準(zhǔn)則涵蓋算法治理的方方面面,指導(dǎo)與約束算法的所有者、設(shè)計(jì)者、生成者和運(yùn)行者等利益相關(guān)者的行為。2019年4月8日,歐盟委員會發(fā)布《可信賴人工智能倫理準(zhǔn)則》,提出了可信賴人工智能的四項(xiàng)原則,即尊重人的自治原則、防止對人(造成)損害原則、(開發(fā)、部署、使用人工智能)公平原則、可解釋原則。算法是人工智能的核心。我國算法和人工智能領(lǐng)域的協(xié)會/學(xué)會應(yīng)盡快制定相關(guān)倫理準(zhǔn)則,以引導(dǎo)和規(guī)范算法設(shè)計(jì)者、使用者等主體的行為。
(2)制定認(rèn)證準(zhǔn)則
算法驗(yàn)證是企業(yè)內(nèi)部的算法管控措施,算法認(rèn)證則是企業(yè)之外的主體對算法是否符合相關(guān)要求進(jìn)行的檢測認(rèn)證。對算法的管控不能完全依賴經(jīng)營者的自律,畢竟作為商業(yè)公司盈利是其首要目的,而外部認(rèn)證相較于經(jīng)營者的內(nèi)部驗(yàn)證更具客觀性和公正性。算法和人工智能領(lǐng)域的協(xié)會/學(xué)會,應(yīng)當(dāng)充分發(fā)揮自己的技術(shù)實(shí)力和行業(yè)影響力制定算法認(rèn)證準(zhǔn)則,確保算法的設(shè)計(jì)、運(yùn)用符合特定要求。歐盟《可信賴人工智能倫理準(zhǔn)則》提出了可信賴人工智能的七項(xiàng)關(guān)鍵要求,即人的自治和監(jiān)督,技術(shù)的穩(wěn)定與安全,隱私和數(shù)據(jù)治理,透明度,多樣、非歧視和公平,(關(guān)注)社會和環(huán)境福祉,可追責(zé)性。我國算法和人工智能領(lǐng)域的協(xié)會/學(xué)會,可以參考這七項(xiàng)要求制定算法的認(rèn)證準(zhǔn)則,推動算法外部認(rèn)證的發(fā)展。
3.公權(quán)機(jī)關(guān)監(jiān)管
經(jīng)營者的內(nèi)部管控和行業(yè)協(xié)會的外部引導(dǎo)都不具有法律上的強(qiáng)制力,掌握公權(quán)力的機(jī)關(guān)應(yīng)在算法治理中發(fā)揮主導(dǎo)作用。
(1)加強(qiáng)個(gè)人信息保護(hù)
大數(shù)據(jù)是算法設(shè)計(jì)與運(yùn)行的基礎(chǔ)。加強(qiáng)消費(fèi)者個(gè)人信息保護(hù)是防止經(jīng)營者濫用算法權(quán)力的前端監(jiān)管措施。經(jīng)營者收集消費(fèi)者個(gè)人信息必須遵循必要性原則,不得以收集非必要性信息作為消費(fèi)者購買商品和接受服務(wù)的前提。除非獲得消費(fèi)者可選擇的明確授權(quán),經(jīng)營者使用消費(fèi)者個(gè)人信息應(yīng)當(dāng)遵循場景限制原則,不得將此場景收集的信息用于彼場景,例如不得將促成交易收集的信息用于差別定價(jià),不得將搜索場景獲得的信息用于推送定向廣告,等等。立法機(jī)關(guān)應(yīng)盡快通過立法,建立和完善個(gè)人的數(shù)據(jù)權(quán)利體系和救濟(jì)機(jī)制。
(2)提高算法透明度
要求經(jīng)營者完全披露算法及相關(guān)信息。面臨知識產(chǎn)權(quán)保護(hù)的法律障礙和公權(quán)機(jī)關(guān)監(jiān)管能力有限的技術(shù)壁壘。要求經(jīng)營者提高算法透明度,可以在避開上述法律障礙和技術(shù)壁壘的同時(shí),一定程度上打開“算法黑箱”,將其置于政府和公眾的監(jiān)督之下。具體而言提高算法透明度,要求經(jīng)營者披露算法設(shè)計(jì)與運(yùn)行的目的及算法決策的考量因素;要求經(jīng)營者如實(shí)記錄算法運(yùn)行的痕跡,包括數(shù)據(jù)收集、數(shù)據(jù)標(biāo)記、決策運(yùn)算等;要求經(jīng)營者定期公開內(nèi)部算法驗(yàn)證和外部算法認(rèn)證的結(jié)果,等等。
(3)嚴(yán)格算法責(zé)任
對于違反監(jiān)管要求,濫用算法權(quán)力的經(jīng)營者要嚴(yán)格追責(zé)。首先,要明確算法責(zé)任主體及責(zé)任承擔(dān)機(jī)制。算法責(zé)任的主體涉及算法的所有者、設(shè)計(jì)者、生成者和運(yùn)行者等,在電子商務(wù)中經(jīng)營者可能集一個(gè)或幾個(gè)身份于一身。對于濫用算法權(quán)力的行為,究竟由誰、具體如何承擔(dān)責(zé)任,需要根據(jù)算法的技術(shù)特征和電子商務(wù)的特點(diǎn),通過法律予以明確。其次,政府要提高算法監(jiān)管的技術(shù)能力,否則監(jiān)管要求和法律責(zé)任就成為具文。政府可以通過設(shè)立算法監(jiān)管的專門機(jī)構(gòu)、培養(yǎng)引進(jìn)技術(shù)人才或者借助外部技術(shù)力量等方式,提高算法監(jiān)管的技術(shù)能力。此外,立法機(jī)關(guān)還應(yīng)通過立法,提高濫用算法權(quán)力損害消費(fèi)者合法權(quán)益行為的懲處力度。
4.消費(fèi)者自我保護(hù)
提高自我防范和救濟(jì)能力,是消費(fèi)者維護(hù)自身合法權(quán)益以及算法權(quán)力治理的重要方面。
(1)推進(jìn)算法相關(guān)認(rèn)知教育
算法具體的設(shè)計(jì)、運(yùn)行對普通消費(fèi)者來說高深莫測、無法企及,但算法運(yùn)行的基本過程并不難理解。例如,“大數(shù)據(jù)殺熟”中算法運(yùn)行的基本過程就是“信息收集——用戶畫像——區(qū)別定價(jià)”。了解“大數(shù)據(jù)殺熟”的基本過程,消費(fèi)者就可以從保護(hù)個(gè)人信息、貨比三家等方面,防范經(jīng)營者殺熟。推進(jìn)算法、人工智能領(lǐng)域基礎(chǔ)知識的宣傳教育,提高普通消費(fèi)者對算法、人工智能應(yīng)用過程和潛在風(fēng)險(xiǎn)的認(rèn)知,應(yīng)成為經(jīng)營者算法權(quán)力治理的重要內(nèi)容。
(2)完善權(quán)利體系和救濟(jì)機(jī)制
有權(quán)利才有救濟(jì)?!按髷?shù)據(jù)殺熟”表面上侵害了消費(fèi)者依據(jù)《消保法》享有的權(quán)利,實(shí)質(zhì)上是對消費(fèi)者數(shù)據(jù)權(quán)利的侵害。2018年5月生效的歐盟《一般數(shù)據(jù)保護(hù)條例》規(guī)定了數(shù)據(jù)主體對個(gè)人信息享有的系列權(quán)利,包括信息收集的知情同意權(quán)、個(gè)人數(shù)據(jù)的訪問權(quán)、修改權(quán)、擦除權(quán)、限制處理權(quán)、攜帶權(quán)和反自動化決策權(quán)。該條例還規(guī)定數(shù)據(jù)控制者不得要求數(shù)據(jù)主體放棄上述權(quán)利以換取服務(wù),并詳細(xì)規(guī)定了數(shù)據(jù)主體向監(jiān)管機(jī)構(gòu)和司法機(jī)關(guān)尋求救濟(jì)的程序。參考借鑒歐盟的《一般數(shù)據(jù)保護(hù)條例》,應(yīng)完善我國個(gè)人數(shù)據(jù)權(quán)利體系和救濟(jì)機(jī)制,使消費(fèi)者能夠更好地通過個(gè)人數(shù)據(jù)權(quán)利的行使和救濟(jì)參與算法權(quán)力治理。與此同時(shí),也要完善《消保法》和《價(jià)格法》中有關(guān)消費(fèi)者權(quán)利及其救濟(jì)的條款,使消費(fèi)者能夠從消費(fèi)者權(quán)利的角度進(jìn)一步約束經(jīng)營者的算法權(quán)力。
5.公眾參與
算法及其影響遍及生產(chǎn)生活的方方面面,算法權(quán)力治理需要公眾的廣泛參與。
(1)推進(jìn)第三方認(rèn)證
算法的合規(guī)合法不能完全依賴于經(jīng)營者內(nèi)部的算法驗(yàn)證。算法的外部監(jiān)管也不可能單憑公權(quán)機(jī)關(guān)的力量實(shí)現(xiàn)。具備相關(guān)技術(shù)能力的企業(yè)和非政府組織,可以通過算法第三方認(rèn)證制度參與算法權(quán)力的治理。經(jīng)營者與監(jiān)管機(jī)關(guān)之外的第三方,相對于經(jīng)營者更為獨(dú)立客觀,相對于公權(quán)機(jī)關(guān)技術(shù)能力更強(qiáng),可以彌補(bǔ)經(jīng)營者和監(jiān)管機(jī)關(guān)在算法管控上的不足。推進(jìn)第三方算法認(rèn)證,首先要明確須進(jìn)行第三方認(rèn)證的算法的范圍,其次要用確定提供第三方認(rèn)證服務(wù)機(jī)構(gòu)的資質(zhì)條件,最后要規(guī)定第三方認(rèn)證機(jī)構(gòu)的認(rèn)證責(zé)任,避免其被經(jīng)營者俘獲而使第三方認(rèn)證流于形式。
(2)開展公益訴訟
《中華人民共和國民事訴訟法》第五十五條第一款規(guī)定,“對污染環(huán)境、侵害眾多消費(fèi)者合法權(quán)益等損害社會公共利益的行為,法律規(guī)定的機(jī)關(guān)和有關(guān)組織可以向人民法院提起訴訟”?!按髷?shù)據(jù)殺熟”侵害了眾多消費(fèi)者的合法權(quán)益、損害了社會公共利益,作為公眾利益代表的相關(guān)協(xié)會和民間組織,可以提起民事公益訴訟,追究濫用算法權(quán)力的經(jīng)營者的民事責(zé)任。當(dāng)然算法公益訴訟的開展,還需要像環(huán)境公益訴訟一樣,在舉證責(zé)任分配、因果關(guān)系證明、訴訟費(fèi)用負(fù)擔(dān)等方面作出有利于原告的程序性規(guī)定,使相關(guān)協(xié)會和民間組織能夠也愿意通過公益訴訟參與到算法權(quán)力的治理中來。