○ 曲天明，陳慧婷

（青島科技大學(xué) 法學(xué)院，山東 青島 266061）

一、問(wèn)題的提出

隨著大數(shù)據(jù)和人工智能技術(shù)的廣泛應(yīng)用，算法正以一種悄然又迅速的方式滲透到人們的日常生活之中，甚至是無(wú)處不在。在商業(yè)領(lǐng)域里，企業(yè)可憑借其掌握的數(shù)據(jù)和算法技術(shù)優(yōu)勢(shì)既可對(duì)消費(fèi)者提供個(gè)性化服務(wù)及信息推送，也可借助大數(shù)據(jù)及算法及時(shí)調(diào)整經(jīng)營(yíng)戰(zhàn)略方式，在避免自身受到損失的同時(shí)促進(jìn)市場(chǎng)經(jīng)濟(jì)的良好發(fā)展。例如，新冠肺炎疫情防控期間，淘寶、京東、美團(tuán)等平臺(tái)與超市合作，為用戶提供個(gè)人用品和蔬菜水果等上門送貨服務(wù)，解決了菜農(nóng)的銷售困難和超市經(jīng)營(yíng)不善的問(wèn)題，對(duì)我國(guó)經(jīng)濟(jì)在此期間的發(fā)展有所助益。在公權(quán)力領(lǐng)域，算法通過(guò)對(duì)居民信息的合理收集使用，不但能夠?yàn)檎茖W(xué)制定相關(guān)政策提供技術(shù)支持，還能夠在重大公共事件發(fā)生時(shí)利用算法助力公共秩序的維護(hù)。例如，政府在新冠肺炎疫情防控期間利用算法查詢患者的運(yùn)行軌跡，從而確認(rèn)傳染源和傳染范圍，為疫情防治提供了保障?？梢姡瑹o(wú)處不在的算法具有便利生活、提高效率、促進(jìn)經(jīng)濟(jì)發(fā)展、維護(hù)社會(huì)秩序的積極功能。

算法代表著影響和控制。從技術(shù)層面上看，算法被認(rèn)為是中立、公正的，但隨著算法技術(shù)的不斷發(fā)展，越來(lái)越多的學(xué)者意識(shí)到，算法蘊(yùn)含價(jià)值判斷和價(jià)值立場(chǎng)[1]。實(shí)際上，算法設(shè)計(jì)者和使用者會(huì)將其自身的價(jià)值理念和目的代入算法之中，使算法成為符合其要求的工具，進(jìn)而通過(guò)算法加強(qiáng)對(duì)其他主體的影響和控制。從法學(xué)視角看，算法由此形成了 “算法權(quán)力” 一說(shuō)。持此觀點(diǎn)的學(xué)者認(rèn)為算法權(quán)力未脫離傳統(tǒng)權(quán)力的概念，代表的是一種社會(huì)關(guān)系，是某個(gè)主體憑借自身?yè)碛械馁Y源對(duì)他人形成一種強(qiáng)制性的控制力[2]。但學(xué)術(shù)界也有種觀點(diǎn)認(rèn)為，算法不是權(quán)力，而是在社會(huì)運(yùn)行中發(fā)揮作用的工具[3]。誠(chéng)然，從技術(shù)層面看，算法不能產(chǎn)生 “權(quán)力” 。但在社會(huì)關(guān)系中，權(quán)力是通過(guò)支配受體實(shí)現(xiàn)主體意志而形成的，具有天然的 “支配力” ，而算法就是借助其技術(shù)優(yōu)勢(shì)并在社會(huì)各個(gè)領(lǐng)域行使其支配力。正如有學(xué)者所言，算法 “在微觀層面上引導(dǎo)、支配著人的認(rèn)知模式和行為方式，在宏觀層面上控制著社會(huì)運(yùn)行方式?！盵4]因此，只要具備數(shù)據(jù)信息和算法技術(shù)優(yōu)勢(shì)地位的主體都有可能成為算法權(quán)力的主體。算法權(quán)力主體可分為公權(quán)力主體和私權(quán)利主體。其中，公權(quán)力主體除了可以利用算法權(quán)力進(jìn)行社會(huì)治理外，還可能會(huì)出現(xiàn)過(guò)度收集使用個(gè)人數(shù)據(jù)信息、侵犯公民隱私權(quán)以及借算法推卸自身責(zé)任等情形。同理，作為私權(quán)利主體的企業(yè)，在使算法便利消費(fèi)者的同時(shí)，也會(huì)出現(xiàn)故意制造信息繭房、數(shù)據(jù)殺熟等現(xiàn)象，侵犯公民個(gè)人數(shù)據(jù)權(quán)力。因而，算法權(quán)力若被濫用會(huì)帶來(lái)一系列危害后果，算法權(quán)力需要被規(guī)制。目前我國(guó)尚不存在兼具針對(duì)性和可操作性的算法規(guī)制法律，企業(yè)也未形成算法行業(yè)自律，需要公權(quán)力對(duì)算法權(quán)力進(jìn)行監(jiān)管。對(duì)此，有學(xué)者提出個(gè)人數(shù)據(jù)賦權(quán)、算法公開等一系列規(guī)制措施[5]，然而，這些措施存在規(guī)制層次單一的問(wèn)題。因此，本文擬通過(guò)對(duì)算法權(quán)力的表現(xiàn)形式及其在應(yīng)用中異化現(xiàn)象的分析和闡釋，探討我國(guó)算法規(guī)制的現(xiàn)狀和不足，以及算法權(quán)力規(guī)制的可能進(jìn)路，希望在利用好 “算法紅利” 的同時(shí)，能夠防止算法權(quán)力異化帶來(lái)的風(fēng)險(xiǎn)，為引導(dǎo)并促進(jìn)算法技術(shù)的有序發(fā)展提供參考。

二、算法權(quán)力應(yīng)用中的異化

權(quán)力雖在政治學(xué)中被解釋為是一種關(guān)系，但卻是以一種單方行為而影響他人的一種能力。超級(jí)智能算法技術(shù)被深度嵌入社會(huì)的運(yùn)行之中，并對(duì)個(gè)人產(chǎn)生影響，因而具有了權(quán)力的效果。算法權(quán)力同樣具備傳統(tǒng)權(quán)力的強(qiáng)制性、穩(wěn)定性特征。兩者不同的是，傳統(tǒng)權(quán)力具有顯性特征，而算法權(quán)力具有隱蔽性特征。算法權(quán)力的隱蔽性是通過(guò)算法應(yīng)用而表現(xiàn)出來(lái)的，具體為計(jì)算機(jī)代碼，另外就是企業(yè)基于營(yíng)利目的對(duì)算法所進(jìn)行的加密處理。由此衍生出算法權(quán)力還具有預(yù)測(cè)性和歧視性的特點(diǎn)。算法技術(shù)的目的就是通過(guò)大數(shù)據(jù)的分析，前瞻性地預(yù)判被動(dòng)主體的選擇，且這種預(yù)測(cè)極其精準(zhǔn)。而企業(yè)正是通過(guò)利用算法權(quán)力，反向?qū)€(gè)人數(shù)據(jù)信息進(jìn)行篩選而產(chǎn)生歧視性。因此，如果算法權(quán)力被異化，就會(huì)不同程度地?fù)p害公眾權(quán)益，違背公平、正義等法律原則。

（一）算法權(quán)力的隱蔽性侵害了公眾的知情權(quán)和自主選擇權(quán)

算法權(quán)力作為一種新型權(quán)力形態(tài)，具有復(fù)雜的技術(shù)性表象，此表象會(huì)使權(quán)力的強(qiáng)制性特征得以隱藏[6]。在私權(quán)利領(lǐng)域，算法權(quán)力逐漸成為企業(yè)自身商業(yè)秘密的一部分，誰(shuí)擁有更先進(jìn)和精準(zhǔn)的算法技術(shù)，誰(shuí)就能夠?qū)崿F(xiàn)利益最大化，換言之，誰(shuí)就具有了同業(yè)競(jìng)爭(zhēng)的顯著優(yōu)勢(shì)?；诖耍鳛橐誀I(yíng)利為目的的企業(yè)，披露算法不但不利于其自身利益的實(shí)現(xiàn)，甚至?xí)?dǎo)致商業(yè)秘密的泄露而喪失競(jìng)爭(zhēng)優(yōu)勢(shì)，披露成本和所獲利益不成正比，因此披露算法不會(huì)成為企業(yè)的主動(dòng)追求；即使企業(yè)出于某些原因披露算法，也會(huì)因披露方式的不正確以及相對(duì)人對(duì)算法知識(shí)儲(chǔ)備的不足，而致使相對(duì)人無(wú)法識(shí)別有損害自身權(quán)益的行為，算法黑洞便由此形成，并會(huì)成為企業(yè)規(guī)避法律責(zé)任的借口。因此，算法權(quán)力主體和相對(duì)人存在極大的信息不對(duì)稱，而企業(yè)也正是憑借這種信息不對(duì)稱的優(yōu)勢(shì)損害了公眾的知情權(quán)和自主選擇權(quán)。例如，近些年出現(xiàn)的大數(shù)據(jù) “殺熟” 現(xiàn)象，就是企業(yè)針對(duì)不同消費(fèi)者采取不同定價(jià)，即通過(guò)表面上的明碼標(biāo)價(jià)，但實(shí)際并非是真實(shí)價(jià)格的做法侵犯了消費(fèi)者的知情權(quán)。在自主選擇權(quán)方面，即便人是決策的主體，但很多時(shí)候，算法本身也存在不為人所控制且無(wú)法解釋的邏輯黑洞。此時(shí)，機(jī)器往往會(huì)取代人成為決策的主體，潛在地侵犯人們的自主選擇權(quán)，從而強(qiáng)化算法相對(duì)人的弱勢(shì)地位，加劇算法控制者和相對(duì)方利益格局的失衡。

（二）算法權(quán)力的預(yù)測(cè)性妨礙了自由正義的實(shí)現(xiàn)

算法權(quán)力的預(yù)測(cè)性主要體現(xiàn)在以下三個(gè)方面：一是體現(xiàn)在社會(huì)公共領(lǐng)域。算法是以數(shù)據(jù)為依托而進(jìn)行個(gè)體的喜好預(yù)測(cè)。當(dāng)它用于用戶搜索時(shí)，會(huì)針對(duì)不同個(gè)體而采取不同的推送內(nèi)容，雖美其名曰是進(jìn)行個(gè)性化推薦，但實(shí)際上卻是將用戶限制在一個(gè)巨大的 “信息繭房” 中。因此，用戶所能搜索到的 “信息” ，不過(guò)是經(jīng)過(guò)算法 “精心挑選” 后而呈現(xiàn)出來(lái)的。而不具有中立性、廣泛性和隨機(jī)性的信息，會(huì)使公眾接受的信息渠道變窄，長(zhǎng)此下去，用戶會(huì)喪失獨(dú)立思考和反思自身的能力，個(gè)體自由也就難以得到真正的實(shí)現(xiàn)。具體到外賣行業(yè)，例如美團(tuán)餓了么等企業(yè)會(huì)利用算法對(duì)外賣小哥的送餐時(shí)間進(jìn)行預(yù)測(cè)調(diào)整，以提高送餐效率。但實(shí)際上，送餐人員為了縮短送餐時(shí)間可能會(huì)采取闖紅燈、逆行等錯(cuò)誤方式，這就使得算法所收集到的路程時(shí)間變短，而算法就會(huì)默認(rèn)此時(shí)間是充裕的，進(jìn)而將送餐時(shí)間逐步壓縮。而根據(jù)外賣行業(yè)的行業(yè)規(guī)律，送餐人員往往會(huì)形成一種極力縮短送餐時(shí)間的不良競(jìng)爭(zhēng)，無(wú)形中會(huì)加速形成一種惡性循環(huán)，嚴(yán)重威脅送餐人員的生命安全，從而違背社會(huì)保障人權(quán)的正義理念。二是體現(xiàn)在司法領(lǐng)域。算法權(quán)力的預(yù)測(cè)性同樣也存在違背正義價(jià)值的表現(xiàn)。如美國(guó)部分法院在司法審判過(guò)程中所采用的犯罪風(fēng)險(xiǎn)智能評(píng)估系統(tǒng)COMPAS，將黑人具有高犯罪風(fēng)險(xiǎn)的概率錯(cuò)誤地評(píng)估為是白人的兩倍，因此在犯罪情節(jié)相似的情況下，黑人罪犯更有可能因系統(tǒng)的預(yù)測(cè)而被法官判處更重的刑罰[7]，嚴(yán)重地違背法律的正義價(jià)值。三是在案件預(yù)測(cè)應(yīng)用中發(fā)揮著重要作用。目前，我國(guó)各地法院開展 “類案類判” 的改革試點(diǎn)，就是依賴于算法權(quán)力來(lái)實(shí)現(xiàn)的。但是，算法權(quán)力只能機(jī)械地通過(guò)前期的 “要素” 提取后的 “認(rèn)知” ，對(duì)已上網(wǎng)的裁判文書進(jìn)行歸類，形成 “類案” 判決的相對(duì)一致。因?yàn)榇嬖?“數(shù)字孤島” 或者 “數(shù)字鴻溝” ，有些 “類案” 中影響判決結(jié)果的關(guān)鍵要素被忽略，所以算法權(quán)力對(duì)案件的預(yù)測(cè)不可避免地出現(xiàn)缺乏公平的現(xiàn)象?？梢娝惴?quán)力的預(yù)測(cè)性在實(shí)際應(yīng)用中因受到數(shù)據(jù)以及算法本身漏洞的影響，而使得預(yù)測(cè)結(jié)果并不具有科學(xué)性，甚至?xí)恋K自由正義的實(shí)現(xiàn)。

（三）算法權(quán)力的歧視性違背了平等和公平原則

有人認(rèn)為，算法的技術(shù)特征使得算法始終處于中立地位，算法能夠最大限度地維護(hù)公正，但實(shí)際上，算法暗含偏見，甚至?xí)糯笃奫8]。一方面，算法是由人設(shè)計(jì)的，設(shè)計(jì)者在算法設(shè)計(jì)時(shí)必然會(huì)將自身價(jià)值取向帶入。例如，商業(yè)算法的任務(wù)是最大限度地促進(jìn)交易的達(dá)成以追求企業(yè)利益最大化，而不是為用戶提供更好的服務(wù)產(chǎn)品[9]。因此，在企業(yè)和消費(fèi)者的天平上，企業(yè)算法必定是傾向企業(yè)一方而非保持中立，絕對(duì)的公平是無(wú)法實(shí)現(xiàn)的。但企業(yè)的某些做法實(shí)質(zhì)上會(huì)違反平等和公平原則。例如，企業(yè)為了收集個(gè)人數(shù)據(jù)，向用戶提供用戶協(xié)議等格式合同，使得消費(fèi)者被迫接受算法的規(guī)制而承擔(dān)不利后果，出現(xiàn)消費(fèi)者被大數(shù)據(jù) “殺熟” 的現(xiàn)象，而此現(xiàn)象就是算法權(quán)力歧視性的一種表現(xiàn)。算法歧視在除了商業(yè)領(lǐng)域外的其他領(lǐng)域均有體現(xiàn)，前文提到的COMPAS系統(tǒng)，是司法領(lǐng)域中歧視的表現(xiàn)，而某些企業(yè)設(shè)置的不符合《中華人民共和國(guó)勞動(dòng)法》標(biāo)準(zhǔn)的錄用門檻，就是就業(yè)領(lǐng)域中算法權(quán)力歧視性的體現(xiàn)。

平等的內(nèi)涵隨著時(shí)代的變遷而不斷變化?，F(xiàn)代社會(huì)的平等指的是一種全面的、綜合的平等，既強(qiáng)調(diào)基于民主權(quán)利的政治平等，也強(qiáng)調(diào)經(jīng)濟(jì)資源和社會(huì)福利的平等，還包括機(jī)會(huì)平等和能力平等[10]。而算法權(quán)力則產(chǎn)生了一種新的基于知識(shí)獲取的不平等，即 “信息不對(duì)稱” ，進(jìn)而導(dǎo)致了信息地位上的不平等，這不但會(huì)影響處于信息弱勢(shì)地位者的認(rèn)知能力，使之判斷能力出現(xiàn)偏差或降低，而且會(huì)不斷加劇這種不平等，違背了平等公平等價(jià)值理念。因此，為使使算法技術(shù)服務(wù)于社會(huì)，規(guī)制算法權(quán)力勢(shì)在必行。

三、我國(guó)現(xiàn)行法律對(duì)算法權(quán)力的規(guī)制

（一）現(xiàn)存法律規(guī)制缺乏針對(duì)性和可操作性

我國(guó)目前涉及算法和數(shù)據(jù)規(guī)制問(wèn)題的法律總結(jié)見表1。

表1 我國(guó)算法和數(shù)據(jù)信息法律規(guī)制現(xiàn)狀

由表1可以看出，我國(guó)針對(duì)個(gè)人信息保護(hù)問(wèn)題作出了較大努力，對(duì)算法權(quán)力也起到了一定的規(guī)制作用，但還是存在針對(duì)性和操作性不強(qiáng)的問(wèn)題。首先，原則性規(guī)定較多。例如在數(shù)據(jù)收集上，法律規(guī)定了合目的性、最小范圍等原則，但如何準(zhǔn)確界定范圍和合目的性是實(shí)踐中需要面對(duì)的問(wèn)題。其次，涵蓋的范圍極為廣泛。算法權(quán)力涉及個(gè)人信息收集、價(jià)格定價(jià)以及算法技術(shù)設(shè)計(jì)等眾多方面，目前我國(guó)雖針對(duì)個(gè)人信息以及價(jià)格定價(jià)設(shè)置了專門法律加以規(guī)制，但依舊存在法條表述模糊、適用性不強(qiáng)等問(wèn)題。例如，《中華人民共和國(guó)價(jià)格法》看似可以針對(duì)大數(shù)據(jù) “殺熟” 問(wèn)題進(jìn)行規(guī)制，但所描述的價(jià)格歧視行為對(duì)象為 “經(jīng)營(yíng)者” ，因此消費(fèi)者是否可以納入保護(hù)對(duì)象不得而知；企業(yè)的算法權(quán)力可能涉及行業(yè)壟斷，但《中華人民共和國(guó)反壟斷法》規(guī)定壟斷行為成立的前提是企業(yè)具有市場(chǎng)支配地位，這在實(shí)務(wù)中的判定十分復(fù)雜，且某些小企業(yè)在不成立壟斷的前提下其行為依然會(huì)損害消費(fèi)者的利益，無(wú)法用《中華人民共和國(guó)反壟斷法》進(jìn)行規(guī)制?？梢姮F(xiàn)存法律針對(duì)算法權(quán)力規(guī)制的可操作性不強(qiáng)。再次，針對(duì)算法的立法規(guī)制缺乏。我國(guó)雖然針對(duì)個(gè)人信息保護(hù)制定了較為完善的法律，但針對(duì)算法問(wèn)題專門性的法律法規(guī)卻鮮有涉及，這會(huì)導(dǎo)致算法憑借其本身的技術(shù)性優(yōu)勢(shì)逃避法律規(guī)制，無(wú)法起到正確引導(dǎo)算法行業(yè)發(fā)展的作用。而一部專門性的法律法規(guī)，不僅能夠?yàn)樗惴?quán)力的規(guī)制提供法律依據(jù)，最重要的還能通過(guò)立法體現(xiàn)國(guó)家意志在此問(wèn)題上的傾向性[11]。最后，相關(guān)立法涉及法律部門眾多。當(dāng)發(fā)生算法權(quán)力主體利用算法侵害相對(duì)人權(quán)益的行為時(shí)，常常因?yàn)榉晌浑A、監(jiān)管主體混雜，而出現(xiàn)責(zé)任分工不明確，部門之間產(chǎn)生相互推諉的 “踢皮球” 現(xiàn)象。

（二）新方式規(guī)制層次單一

針對(duì)算法權(quán)力的規(guī)制問(wèn)題，學(xué)者們提出了算法公開、個(gè)人數(shù)據(jù)賦權(quán)、反算法歧視等措施[12]，雖能夠?qū)λ惴?quán)力起到一定程度的規(guī)制作用，但總體上存在規(guī)制層次單一的問(wèn)題，即沒有將具體的情形進(jìn)行區(qū)分，而是一概而論進(jìn)行規(guī)制，從而導(dǎo)致算法優(yōu)勢(shì)無(wú)法得到充分發(fā)揮。

首先，主張算法公開的學(xué)者認(rèn)為，應(yīng)當(dāng)將算法的架構(gòu)及運(yùn)行機(jī)理向公眾公開，以防止 “算法黑箱” 的出現(xiàn)。但 “算法黑箱” 并非是人為因素導(dǎo)致，而是由算法的技術(shù)性特征所導(dǎo)致[13]。因?yàn)楣_算法的源代碼或架構(gòu)并不能起到規(guī)制作用，且算法技術(shù)具有極強(qiáng)的復(fù)雜性，專業(yè)人員對(duì)算法的邏輯運(yùn)行尚存在不理解之處，普通人受制于專業(yè)知識(shí)水平的制約，更加無(wú)法對(duì)算法加以理解。所以，單純的算法公開對(duì)算法權(quán)力的規(guī)制無(wú)實(shí)際意義，而且不加區(qū)分的算法公開還會(huì)導(dǎo)致知識(shí)產(chǎn)權(quán)侵權(quán)和算法抄襲的問(wèn)題而妨礙算法行業(yè)的健康發(fā)展。其次，持個(gè)人數(shù)據(jù)賦權(quán)、反算法歧視的研究者認(rèn)為，應(yīng)當(dāng)禁止利用算法中的身份因素，以消除一切身份偏見。但實(shí)際上，禁止運(yùn)用身份因素，不一定會(huì)實(shí)現(xiàn)身份平等，因?yàn)槟承┣闆r下歧視的發(fā)生不只是算法本身的原因，而是普遍隱含在社會(huì)規(guī)范之中。此外，很多帶有身份因素的 “歧視” 并不是真正意義上的歧視，而是一種信息的統(tǒng)計(jì)區(qū)分，是面對(duì)信息匱乏情況下的一種理性篩選。這種群體區(qū)分對(duì)市場(chǎng)正常運(yùn)行與社會(huì)規(guī)范建構(gòu)具有一定意義[14]。因此，帶有身份因素的數(shù)據(jù)作為一種篩選依據(jù)，不但能夠?yàn)橄嚓P(guān)決策者提供參考，還能提高決策的科學(xué)性和效率性，從而避免無(wú)依據(jù)篩選所帶來(lái)的不公。

由此可見，算法應(yīng)用的不同領(lǐng)域、架構(gòu)和場(chǎng)景需要不同層次的規(guī)制力度與個(gè)性化的制度設(shè)計(jì)[15]，而不是將所有規(guī)制手段一概而論地適用所有場(chǎng)景。

四、算法權(quán)力規(guī)制的可能進(jìn)路

（一）從個(gè)人信息保護(hù)角度規(guī)制算法權(quán)力

1.個(gè)人信息賦權(quán)區(qū)分場(chǎng)景和對(duì)象

個(gè)人信息的收集利用存在于不同領(lǐng)域之中，不同領(lǐng)域的個(gè)人信息收集有著不同的功能和弊端，因此對(duì)個(gè)人信息賦權(quán)的類型與強(qiáng)度要區(qū)分不同的場(chǎng)景與對(duì)象。具體來(lái)說(shuō)，如果數(shù)據(jù)信息的收集利用有利于個(gè)體或者公共利益，那么就應(yīng)當(dāng)放松對(duì)相關(guān)數(shù)據(jù)收集者權(quán)力的限制；反之，如果數(shù)據(jù)的收集利用是單純用于對(duì)個(gè)體的支配，則應(yīng)當(dāng)對(duì)數(shù)據(jù)收集者的權(quán)力作出嚴(yán)格限制[14]。例如，新冠肺炎疫情期間政府部門根據(jù)所收集的民眾的行動(dòng)軌跡和身體健康數(shù)據(jù)制定疫情防控措施，目的是維護(hù)公共利益。在國(guó)家扶貧實(shí)踐中，扶貧主體利用相關(guān)數(shù)據(jù)對(duì)真正貧困人群實(shí)施精準(zhǔn)扶貧，同樣也是維護(hù)個(gè)體和公共利益。因此，此種情況就要放寬甚至免除信息收集者的權(quán)力限制。但如果是某些網(wǎng)絡(luò)平臺(tái)利用用戶信息向用戶推送低俗信息或者進(jìn)行數(shù)據(jù) “殺熟” 等行為，則應(yīng)當(dāng)最大限度賦予用戶信息權(quán)，限制數(shù)據(jù)收集者不合理利用數(shù)據(jù)的行為。這就要求相關(guān)部門加強(qiáng)對(duì)大數(shù)據(jù) “殺熟” 行為的監(jiān)管，使之與個(gè)人信息保護(hù)相協(xié)調(diào)。

2.信息保護(hù)和算法規(guī)制相結(jié)合

個(gè)人信息實(shí)際上是數(shù)據(jù)的來(lái)源，保障個(gè)人信息權(quán)力在一定程度上能夠控制對(duì)數(shù)據(jù)的收集利用。數(shù)據(jù)又是算法的一大支撐，因此，從規(guī)制數(shù)據(jù)作為規(guī)制算法的出發(fā)點(diǎn)不失為一種良策。我國(guó)近幾年對(duì)于個(gè)人信息保護(hù)問(wèn)題關(guān)注密切，在2021年8月20日表決通過(guò)的《中華人民共和國(guó)個(gè)人信息保護(hù)法》將《中華人民共和國(guó)民法典》《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)刑法》等法律中關(guān)于個(gè)人信息保護(hù)的規(guī)定銜接起來(lái)，形成了民事、行政和刑事三個(gè)層次的法律責(zé)任配置，是我國(guó)在個(gè)人信息保護(hù)上邁出的具有重大意義的一步。筆者認(rèn)為，在個(gè)人數(shù)據(jù)保護(hù)的基礎(chǔ)上要注重個(gè)人數(shù)據(jù)與算法權(quán)力規(guī)制相結(jié)合，因?yàn)閱渭兊臄?shù)據(jù)信息不會(huì)導(dǎo)致個(gè)人權(quán)利的侵害，只有數(shù)據(jù)結(jié)合算法才會(huì)產(chǎn)生相應(yīng)的風(fēng)險(xiǎn)，所以不僅要針對(duì)數(shù)據(jù)收集進(jìn)行規(guī)制，還要更加關(guān)注數(shù)據(jù)的利用，將規(guī)制方向朝數(shù)據(jù)利用偏移。具體來(lái)說(shuō)，要加強(qiáng)算法在數(shù)據(jù)利用方面的限制，在總體上需遵循公平正義自由、維護(hù)公民基本權(quán)利的價(jià)值理念，并在此基礎(chǔ)上設(shè)置專門針對(duì)算法程序的法律法規(guī)，使數(shù)據(jù)的利用合法化、合理化和科學(xué)化。

3.完善數(shù)據(jù)退出機(jī)制

《中華人民共和國(guó)個(gè)人信息保護(hù)法》中規(guī)定了信息處理者必須在取得個(gè)人同意的前提下處理個(gè)人信息，個(gè)人有權(quán)限制或者拒絕他人對(duì)自己的信息進(jìn)行處理。此條文對(duì)應(yīng)了實(shí)踐中的 “知情同意” 原則。比如應(yīng)用軟件使用前會(huì)和用戶簽訂服務(wù)協(xié)議，并向用戶征求各種應(yīng)用的使用權(quán)限，若用戶同意，軟件可以正常使用，同時(shí)系統(tǒng)也會(huì)默認(rèn)用戶知情并同意記錄搜集本人的相關(guān)數(shù)據(jù)信息；若用戶不同意，此軟件則無(wú)法使用。這實(shí)際上是企業(yè)利用算法權(quán)力對(duì)知情同意原則的一種架空，違背了自愿公平原則。因此，在算法權(quán)力如此盛行的今天，必須要對(duì)公民個(gè)人的信息權(quán)力和信息處理者的義務(wù)進(jìn)行細(xì)化，要完善數(shù)據(jù)的退出機(jī)制。例如，個(gè)人有權(quán)決定選擇無(wú)數(shù)據(jù)服務(wù)，法律可以要求搜索引擎明確告知其用戶要受算法約束，并向用戶解釋算法如何過(guò)濾搜索結(jié)果，指定算法考慮的數(shù)據(jù)點(diǎn)及其意義，并通過(guò)設(shè)置數(shù)據(jù)使用和拒絕數(shù)據(jù)使用兩個(gè)模塊供用戶自我選擇，允許用戶可以隨時(shí)切換。其中，選擇和切換的行為就代表用戶的知情同意。同時(shí)，在搜索主頁(yè)和結(jié)果頁(yè)面上增加顯示搜索過(guò)濾選項(xiàng)[14]。

（二）從完善算法責(zé)任角度規(guī)制算法權(quán)力

1.嚴(yán)格限制算法應(yīng)用場(chǎng)景和范圍

算法憑借其技術(shù)和邏輯的嚴(yán)密性，能夠?qū)Ａ繑?shù)據(jù)進(jìn)行篩選提取，在保證效率的同時(shí)得到主體想要的數(shù)據(jù)或達(dá)到自身追求的價(jià)值目的。但實(shí)際上，算法在某些領(lǐng)域中的任意應(yīng)用極易出現(xiàn)嚴(yán)重?fù)p害人權(quán)等無(wú)法挽回的后果。例如，在法律領(lǐng)域，若憑借算法對(duì)罪犯進(jìn)行風(fēng)險(xiǎn)預(yù)測(cè)而決定對(duì)其量刑幅度，則無(wú)疑違背了罪刑法定原則。因此，算法應(yīng)用的場(chǎng)景范圍需要進(jìn)行嚴(yán)格限定，在法律以及其他關(guān)涉人身權(quán)益的重大領(lǐng)域中，必須保證人作為實(shí)質(zhì)決策的主體和地位。雖然算法權(quán)力具有預(yù)測(cè)性，可以憑借已有的數(shù)據(jù)進(jìn)行行為的預(yù)測(cè)，并制定規(guī)制方案，但此預(yù)測(cè)性算法決策需要被限制。因?yàn)轭A(yù)測(cè)性算法的決策過(guò)程只依賴數(shù)據(jù)與推斷結(jié)果之間的相關(guān)性，而這種相關(guān)性本身就是一種人為構(gòu)建的認(rèn)知模式，而且僅為認(rèn)知方法中的一種，整個(gè)預(yù)測(cè)過(guò)程可能會(huì)忽略其他眾多社會(huì)、文化及偶然性的因素，從而會(huì)造成用實(shí)然推斷應(yīng)然，以過(guò)去判斷未來(lái)的謬誤[16]。

2.堅(jiān)持算法正當(dāng)程序原則

算法需要正當(dāng)程序加以規(guī)制，才能防止算法濫用。首先，正當(dāng)程序的核心要求就是 “公開” ，因此堅(jiān)持算法正當(dāng)程序也就要求算法的公開，這也是增加算法透明度的要求。但公開必須是有意義和有特定指向的公開，即以信息主體為中心，盡可能采取普通人可以理解的方式，注重解釋算法的運(yùn)行、改變，以及如何對(duì)信息主體產(chǎn)生影響、會(huì)產(chǎn)生怎樣的影響[17]。其次，要針對(duì)不同情形實(shí)施不同程度的算法公開要求，注重靈活性與科學(xué)性。例如，公權(quán)力機(jī)關(guān)利用算法實(shí)施的行為關(guān)涉公民以及社會(huì)重大利益，因此應(yīng)當(dāng)以公開為原則，不公開為例外。商業(yè)領(lǐng)域中企業(yè)的算法因牽扯到知識(shí)產(chǎn)權(quán)保護(hù)等問(wèn)題，可以不采取主動(dòng)公開原則，但相關(guān)部門應(yīng)當(dāng)加大對(duì)企業(yè)的算法監(jiān)管審查，一旦出現(xiàn)濫用算法權(quán)力問(wèn)題要及時(shí)進(jìn)行懲處；當(dāng)消費(fèi)者發(fā)現(xiàn)企業(yè)實(shí)施數(shù)據(jù) “殺熟” 行為時(shí)，也可要求企業(yè)進(jìn)行算法公開以保護(hù)自身利益。此外， “算法黑箱” 可能會(huì)導(dǎo)致算法無(wú)法按照傳統(tǒng)正當(dāng)程序公開的要求進(jìn)行公開，此時(shí)，應(yīng)采用結(jié)果倒推過(guò)程的辦法，若結(jié)果違反了大多數(shù)人的公平正義價(jià)值理念，則代表其程序是不正當(dāng)?shù)?。因此在算法領(lǐng)域，應(yīng)當(dāng)將公平正義、人類尊嚴(yán)等基本價(jià)值理念作為檢驗(yàn)算法權(quán)力是否正當(dāng)?shù)牡拙€標(biāo)準(zhǔn)，不能讓 “算法黑箱” 成為危害社會(huì)的 “擋箭牌” 。

3.實(shí)施多元治理，注重算法問(wèn)責(zé)

算法的應(yīng)用涉及算法制定、實(shí)施、驗(yàn)證修改以及監(jiān)督等眾多領(lǐng)域。因此，要實(shí)現(xiàn)算法的可持續(xù)發(fā)展需要整合社會(huì)多方力量，以形成立體的協(xié)同合作體系來(lái)助力算法的演進(jìn)[18]。具體來(lái)說(shuō)，政府、專家、企業(yè)和社會(huì)公眾應(yīng)當(dāng)共同參與到算法權(quán)力治理中來(lái)，政府要起引領(lǐng)帶頭作用，創(chuàng)建研究算法相關(guān)的咨詢機(jī)構(gòu)或處理人工智能問(wèn)題的專業(yè)組織[8]，設(shè)置專業(yè)監(jiān)管部門，并通過(guò)專業(yè)力量打破技術(shù)不平衡現(xiàn)象，助力對(duì)算法權(quán)力的規(guī)制；專家學(xué)者可以從技術(shù)領(lǐng)域改進(jìn)算法，增強(qiáng)算法邏輯嚴(yán)密性，減少 “算法黑洞” 的發(fā)生；企業(yè)應(yīng)當(dāng)堅(jiān)守底線原則，杜絕利用算法侵犯消費(fèi)者權(quán)益；社會(huì)公眾可通過(guò)多種途徑學(xué)習(xí)基本算法常識(shí)，當(dāng)發(fā)現(xiàn)相關(guān)主體有濫用算法權(quán)力的行為時(shí)，及時(shí)向監(jiān)管部門反映。另外，也可以通過(guò)行業(yè)協(xié)會(huì)制定相關(guān)倫理規(guī)則以及設(shè)置第三方獨(dú)立監(jiān)管機(jī)構(gòu)等方式加強(qiáng)對(duì)算法權(quán)力的監(jiān)管。

算法權(quán)力具有強(qiáng)大的控制力和影響力，算法的權(quán)力應(yīng)當(dāng)與責(zé)任相匹配，權(quán)力大則責(zé)任重。因此，應(yīng)通過(guò)針對(duì)算法規(guī)制的相關(guān)法律的制定，將算法責(zé)任的主體、問(wèn)責(zé)標(biāo)準(zhǔn)以及責(zé)任承擔(dān)等問(wèn)題通過(guò)法律的形式規(guī)定出來(lái)，為算法權(quán)力的規(guī)制提供科學(xué)、具體，又具備可操作性的依據(jù)。