賦能與均衡：算法權(quán)力秩序的合法性風(fēng)險(xiǎn)及其治理

文／楊華鋒

有史記載的人類(lèi)社會(huì)，毫無(wú)例外都期待有序的政治生活，這種對(duì)秩序的追求，事實(shí)上塑造著對(duì)權(quán)力秩序的期待。權(quán)力秩序本質(zhì)上意味著權(quán)力關(guān)系和權(quán)力結(jié)構(gòu)的相對(duì)穩(wěn)定性和規(guī)范性。權(quán)力秩序關(guān)乎權(quán)力關(guān)系、權(quán)力格局以及權(quán)力效能等內(nèi)容。就靜態(tài)而言，權(quán)力秩序意味著權(quán)力結(jié)構(gòu)的平衡性，就動(dòng)態(tài)而言，權(quán)力秩序意味著不同權(quán)力之間功能的協(xié)調(diào)性。[1]回顧歷史，權(quán)力秩序歷經(jīng)基于暴力壓迫的壓制型、基于民主協(xié)商的協(xié)調(diào)型以及基于信息網(wǎng)絡(luò)的合作型三種類(lèi)型。隨著信息社會(huì)邁向“數(shù)智社會(huì)”，一種基于智能算法的新型權(quán)力秩序正漸次成型。

一 賦能：算法權(quán)力的問(wèn)世

技術(shù)的發(fā)展會(huì)帶來(lái)社會(huì)的變化，盡管這種變化未必都是“進(jìn)步”性的。就像互聯(lián)網(wǎng)政治的發(fā)展一樣，起初不論是學(xué)界還是坊間，都賦予其網(wǎng)絡(luò)化結(jié)構(gòu)以極大期許，認(rèn)為其是構(gòu)建去中心化、非等級(jí)化，推進(jìn)更好民主的不二法門(mén)。然而，互聯(lián)網(wǎng)與生俱來(lái)的商業(yè)性和政治性，決定了它的發(fā)展與應(yīng)用毫不例外，受到大型企業(yè)（跨國(guó)公司）及其他政治實(shí)體的引導(dǎo)與控制。所以，技術(shù)進(jìn)步與社會(huì)進(jìn)步并不是簡(jiǎn)單正向線性關(guān)系。算法作為當(dāng)前“數(shù)智時(shí)代”最為活躍的生產(chǎn)要素與技術(shù)稟賦，自然也不例外。

一方面，作為數(shù)字時(shí)代的技術(shù)核心，算法的應(yīng)用為人類(lèi)社會(huì)的生產(chǎn)、生活和公共管理提供了高效、便捷的方式、方法與路徑。公共領(lǐng)域、私人領(lǐng)域都不時(shí)閃現(xiàn)算法的身影，從個(gè)人的衣食住用行到企業(yè)的生產(chǎn)經(jīng)營(yíng)流通以及政府的高效、回應(yīng)與前瞻性治理，無(wú)不受益于算法的助力?？梢哉f(shuō)“智能社會(huì)”“社會(huì)5.0”“數(shù)字政府”“智慧政務(wù)”等均是對(duì)此的積極回應(yīng)。另一方面，“困在算法里”“沉默的螺旋”“信息繭房”“大數(shù)據(jù)殺熟”等也屢見(jiàn)報(bào)端，讓人不由自主地感覺(jué)生活在“被計(jì)算”與“被算計(jì)”的社會(huì)之中。

在數(shù)字社會(huì)迅猛發(fā)展的檔口，討論算法，容易讓人誤以為算法是步入大數(shù)據(jù)社會(huì)以后才出現(xiàn)的。其實(shí)不然，算法并非新鮮事，其來(lái)源于公元九世紀(jì)的波斯數(shù)學(xué)家花剌子密。20 世紀(jì)初，經(jīng)典行政范式所討論的管理主義和泰勒制模式，是相對(duì)晚近的運(yùn)用算法理性進(jìn)行組織管理的設(shè)計(jì)與規(guī)劃。20 世紀(jì)30 年代，香農(nóng)在萊布尼茨二進(jìn)制和布爾運(yùn)算符的基礎(chǔ)上發(fā)展出現(xiàn)代計(jì)算機(jī)語(yǔ)言。后來(lái)，圖靈發(fā)明圖靈機(jī)，二戰(zhàn)期間成功破譯德國(guó)密碼。[2]由此觀之，算法誕生之初主要以“技術(shù)”的面貌流傳于世。及至近幾十年，算法已被運(yùn)用到政治、經(jīng)濟(jì)、社會(huì)的方方面面，已在很多方面深刻地影響與塑造著社會(huì)結(jié)構(gòu)與產(chǎn)業(yè)模式。

隨著算法嵌入經(jīng)濟(jì)社會(huì)的領(lǐng)域不斷擴(kuò)展，特別是在移動(dòng)互聯(lián)、物聯(lián)網(wǎng)、“人聯(lián)網(wǎng)”、自媒體、新媒體大行其道，代碼無(wú)處不在的社會(huì)之中，權(quán)力越來(lái)越多地嵌套于算法之中。那些被精心設(shè)計(jì)過(guò)的算法就像黑洞一樣，肆無(wú)忌憚地收集其能夠收集到的一切。數(shù)字技術(shù)在與人類(lèi)的互動(dòng)過(guò)程中，通過(guò)定義人類(lèi)可以做或不可以做的事情來(lái)監(jiān)控人類(lèi)，通過(guò)控制人類(lèi)對(duì)外界事物的感知來(lái)向人施加權(quán)力。[3]控制此類(lèi)技術(shù)的人也就通過(guò)它獲得巨大的權(quán)力。在政治領(lǐng)域、市場(chǎng)領(lǐng)域以及社會(huì)生活領(lǐng)域，算法正扮演著越來(lái)越多的影響力、控制力角色。當(dāng)越來(lái)越多的人開(kāi)始意識(shí)到自己的生活被算法改變抑或重塑時(shí)，作為一種復(fù)合型的權(quán)力生產(chǎn)模式，算法權(quán)力應(yīng)運(yùn)而生。

就其行為特征而言，一是技術(shù)驅(qū)動(dòng)性。作為一種技術(shù)性權(quán)力，其來(lái)源于技術(shù)的迭代與應(yīng)用。通過(guò)持續(xù)不斷地?cái)?shù)據(jù)收集和分析，輸出決策和預(yù)測(cè)，從而對(duì)社會(huì)個(gè)體行為進(jìn)行無(wú)處不在、無(wú)孔不入的引導(dǎo)、控制。由于其濫觴于技術(shù)的發(fā)展與應(yīng)用，本質(zhì)上是技術(shù)驅(qū)動(dòng)型的權(quán)力。二是場(chǎng)景虛擬性。算法權(quán)力得益于數(shù)字空間的存在，是以虛擬空間與物理空間相互交融建構(gòu)為作用場(chǎng)域、以海量信息數(shù)據(jù)為原料、以強(qiáng)大的算力為保障，依附于有形的權(quán)力主體，隱蔽于社會(huì)主體的互動(dòng)過(guò)程中。三是數(shù)據(jù)資源性。與工業(yè)時(shí)代主要依靠資本要素投入來(lái)提升社會(huì)生產(chǎn)力不同，數(shù)字時(shí)代主要依靠數(shù)據(jù)要素的挖掘。數(shù)據(jù)資源的交互與累積是算法權(quán)力增量的核心部件。四是動(dòng)態(tài)擴(kuò)散性。數(shù)字時(shí)代呈現(xiàn)出高度的交互性、實(shí)時(shí)性、共享性等網(wǎng)絡(luò)特征，信息資源的流動(dòng)與配置從科層化逐漸轉(zhuǎn)向平臺(tái)化，隨著信息資源的流動(dòng)，權(quán)力也實(shí)現(xiàn)動(dòng)態(tài)性的擴(kuò)散，不同程度上也呈現(xiàn)“去中心化”的結(jié)構(gòu)性特征。

二 算法權(quán)力秩序的特性

與以往的社會(huì)形態(tài)并無(wú)二致，算法權(quán)力秩序的合法性即其正當(dāng)性，是由生產(chǎn)、擁有、操持、運(yùn)用算法的組織或個(gè)人所決定的。這種合法性意味著人們對(duì)算法權(quán)力的普遍性承認(rèn)、接受和認(rèn)同的程度，同時(shí)也包括人們?yōu)榫S護(hù)這種權(quán)力秩序所呈現(xiàn)的支付意愿與支付能力。一般而言，權(quán)力秩序的構(gòu)成包括權(quán)力結(jié)構(gòu)的均衡化配置以及權(quán)力運(yùn)行中的功能協(xié)調(diào)。

首先，從算法權(quán)力的結(jié)構(gòu)來(lái)源來(lái)看，算法權(quán)力是一種復(fù)合型權(quán)力結(jié)構(gòu)。技術(shù)發(fā)展對(duì)人類(lèi)社會(huì)發(fā)展而言，是一把雙刃劍，其本身并無(wú)好壞善惡之分，區(qū)別在于技術(shù)由誰(shuí)掌控、以何價(jià)值為目標(biāo)、以何方式行使。在活躍的資本權(quán)力的誘導(dǎo)下，特別是在政治權(quán)力、市場(chǎng)權(quán)力持續(xù)擴(kuò)張的情勢(shì)之下，技術(shù)具有突破既有領(lǐng)域擁抱權(quán)力屬性的理性沖動(dòng)。也就是說(shuō)，算法在政治、經(jīng)濟(jì)、社會(huì)、國(guó)際議題等領(lǐng)域的不斷延伸，不僅實(shí)現(xiàn)了其技術(shù)性目標(biāo)與利益性回報(bào)，還逐步建構(gòu)出具有約束與規(guī)范意義的復(fù)雜權(quán)力關(guān)系。在該權(quán)力關(guān)系中，不僅關(guān)涉技術(shù)應(yīng)用，也關(guān)乎資本收益，同時(shí)也受到政府權(quán)力的俘獲與誘導(dǎo)。因此算法權(quán)力兼具政治權(quán)力、市場(chǎng)權(quán)力與技術(shù)權(quán)力等綜合權(quán)力特征，在不確定性時(shí)代具有復(fù)雜系統(tǒng)的適應(yīng)性，在權(quán)力結(jié)構(gòu)上呈現(xiàn)出群體差異、產(chǎn)業(yè)差異、層級(jí)差異等復(fù)雜性，以及政府誘致、市場(chǎng)激勵(lì)與自主創(chuàng)新等混合交融的復(fù)合性。

其次，從算法權(quán)力的主體構(gòu)成來(lái)看，算法權(quán)力主體是多元化的。掌握算法技術(shù)的個(gè)體以其技術(shù)優(yōu)勢(shì)成為權(quán)力主體，有意無(wú)意地將自身偏好融入代碼中，影響算法輸出結(jié)果；擁有豐裕資本的大型科技公司、擁有先進(jìn)的技術(shù)人才團(tuán)隊(duì)，具備獲取海量數(shù)據(jù)資源以支撐智能算法運(yùn)行的能力；采用算法治理方式的政府或許是算法應(yīng)用的新手，但因其往往是社會(huì)大數(shù)據(jù)的管理者與調(diào)閱者，擁有裁決、仲裁與使用權(quán)，在權(quán)力體系的運(yùn)行中扮演“超級(jí)權(quán)力者”。盡管權(quán)力的主體是多元的，但權(quán)力的配置是不均等的。因政治生態(tài)、經(jīng)濟(jì)模式以及社會(huì)條件等限制，多元權(quán)力主體的權(quán)力配置與影響力稟賦，因時(shí)因地存在巨大差異，其中政府權(quán)力往往具有主導(dǎo)性、創(chuàng)設(shè)性以及終結(jié)性，因而其他權(quán)力主體存在依附于或嵌套于行政權(quán)力的傾向。

再者，從算法權(quán)力的效能邊界來(lái)看，具有跨界性、靈活性與衍變性。就技術(shù)層面來(lái)說(shuō)，算法權(quán)力具有技術(shù)理性與功能理性，是以技術(shù)理性為核心價(jià)值的科技型權(quán)力，追求效率、效能是其本質(zhì)屬性。技術(shù)進(jìn)步與數(shù)字時(shí)代的發(fā)展是交互建構(gòu)的“螺旋上升”。算法在不斷的更新迭代與領(lǐng)域應(yīng)用中，隨著適用性的演變，其不斷突破既有技術(shù)框架、形塑新型服務(wù)模式。在此過(guò)程中，算法權(quán)力如影隨形，其影響與誘致能力自然延伸至各議題領(lǐng)域。就市場(chǎng)層面而言，數(shù)字經(jīng)濟(jì)、算法經(jīng)濟(jì)已經(jīng)成為數(shù)字時(shí)代的主要經(jīng)濟(jì)業(yè)態(tài)，基于算法的平臺(tái)經(jīng)濟(jì)、共享經(jīng)濟(jì)等新型經(jīng)濟(jì)模式方興未艾，圍繞以數(shù)據(jù)為核心、以算法為驅(qū)動(dòng)、以計(jì)算資源為保障的各種產(chǎn)品和服務(wù)不斷推陳出新，極大滿足與改善著人們生產(chǎn)生活的各種需求。與資本聯(lián)姻的算法權(quán)力輕而易舉地滲透進(jìn)每個(gè)人的生活工作中，人們不知不覺(jué)成為算法權(quán)力的作用對(duì)象。就治理維度來(lái)說(shuō)，算法對(duì)公共權(quán)力的嵌入，持續(xù)地影響著公共權(quán)力的運(yùn)作，傳統(tǒng)的權(quán)力體系正以一種“全景式監(jiān)控”的方式，將權(quán)力觸角延伸至過(guò)去鮮有涉及的諸多社會(huì)事務(wù)之中，傳統(tǒng)權(quán)力的形態(tài)與功能發(fā)生技術(shù)型衍變，權(quán)力效用邊界覆蓋范圍發(fā)生重大調(diào)整，公私邊界也隨著技術(shù)邊界的模糊，而出現(xiàn)不同程度的動(dòng)態(tài)波動(dòng)，權(quán)力秩序的彈性、靈活性凸顯。

三 算法權(quán)力秩序的合法性風(fēng)險(xiǎn)

算法權(quán)力秩序的合法性是維系與保障數(shù)字經(jīng)濟(jì)、數(shù)字產(chǎn)業(yè)、數(shù)字治理、智能社會(huì)和諧有序發(fā)展的必要條件。其風(fēng)險(xiǎn)主要源于非對(duì)稱權(quán)力格局下的算法壟斷、權(quán)力運(yùn)行體系中的濫權(quán)與侵權(quán)以及權(quán)力功能性失衡下的倫理缺位。

（一）非對(duì)稱權(quán)力格局下的算法壟斷

大多情況下，數(shù)字技術(shù)基本都是按照掌權(quán)者和特權(quán)者的立場(chǎng)與價(jià)值觀來(lái)進(jìn)行設(shè)計(jì)的，因此壟斷是其天然屬性。同時(shí)算法本身又具有高度的專(zhuān)業(yè)性，其計(jì)算與優(yōu)選過(guò)程，往往涉及大規(guī)模的數(shù)據(jù)和紛繁復(fù)雜的計(jì)算方法，一般民眾難以獲取或掌握算法透明所需的對(duì)稱信息。這種技術(shù)本身的“不可解釋性”造就了算法“黑箱”，形成權(quán)力行使與監(jiān)督之間的技術(shù)鴻溝，為利用算法缺陷、算法漏洞實(shí)施權(quán)力設(shè)租尋租，提供了擋箭牌與遮羞布，為算法獨(dú)裁、算法統(tǒng)治提供了技術(shù)條件。

一是行業(yè)壁壘中的“算法共謀”。數(shù)字時(shí)代，只要企業(yè)之間憑借相同或相似的算法，就能便捷地達(dá)成算法共謀，利用算法權(quán)力壓榨消費(fèi)者而不被察覺(jué)，甚至逃避法律制裁。平臺(tái)企業(yè)對(duì)內(nèi)利用算法優(yōu)勢(shì)實(shí)現(xiàn)對(duì)其“平臺(tái)帝國(guó)”的全面控制，對(duì)外通過(guò)數(shù)據(jù)壟斷實(shí)現(xiàn)流量與信息控制。將破壞市場(chǎng)主體的平等地位和市場(chǎng)公平競(jìng)爭(zhēng)的自由秩序，削弱行業(yè)創(chuàng)新活力，既不能更好地滿足社會(huì)需求與期待，也不利于數(shù)字產(chǎn)業(yè)健康可持續(xù)發(fā)展。

二是算法競(jìng)爭(zhēng)中的“算法鴻溝”。算法權(quán)力離不開(kāi)海量數(shù)據(jù)資源、充足人才儲(chǔ)備、大量資金投入以及持續(xù)創(chuàng)新能力。具備上述條件的企業(yè)和國(guó)家將在算法競(jìng)爭(zhēng)中處于有利地位，成為全球算法規(guī)則和算法產(chǎn)品的制定者、提供者乃至壟斷者。算法競(jìng)爭(zhēng)中處于弱勢(shì)的個(gè)人、企業(yè)和國(guó)家，只能被動(dòng)接受相應(yīng)的標(biāo)準(zhǔn)規(guī)范及算法產(chǎn)品，二者間存在巨大的“算法鴻溝”。這種權(quán)力的不對(duì)稱性，疊加馬太效應(yīng)后，會(huì)愈演愈烈，易將算法權(quán)力結(jié)構(gòu)的差異演化為實(shí)體權(quán)力結(jié)構(gòu)的巨大差別，繼而形成權(quán)力役使與附庸關(guān)系。

三是數(shù)據(jù)挖掘中的“算法安全”。算法權(quán)力對(duì)經(jīng)濟(jì)社會(huì)及個(gè)體數(shù)據(jù)的大量采集，威脅個(gè)人隱私與國(guó)家安全。隱私方面，平臺(tái)公司大部分利潤(rùn)來(lái)源于廣告，而這些廣告是建立在對(duì)用戶數(shù)據(jù)的收集和分析之上的，公眾的日常數(shù)據(jù)在這些平臺(tái)企業(yè)面前暴露無(wú)遺。[4]安全方面，數(shù)字社會(huì)中越來(lái)越多的信息以數(shù)據(jù)的形式儲(chǔ)存，那些單個(gè)數(shù)據(jù)點(diǎn)無(wú)法提供的信息或許能夠從龐大的數(shù)據(jù)庫(kù)中找到。比如，滴滴所擁有的數(shù)據(jù)包括乘客主動(dòng)產(chǎn)生的數(shù)據(jù)和被動(dòng)留下的數(shù)據(jù)，在收集、存儲(chǔ)、使用數(shù)據(jù)的過(guò)程中，滴滴不斷收集來(lái)自城市交通、教育、醫(yī)療、行政資源分布的核心數(shù)據(jù)，除了擁有基礎(chǔ)的出行數(shù)據(jù)和使用記錄，還通過(guò)數(shù)據(jù)分析進(jìn)一步研判中國(guó)的大政方針、重大措施，一旦這些數(shù)據(jù)遭到泄露，將直接影響國(guó)家安全、公共利益和社會(huì)穩(wěn)定。[5]

（二）權(quán)力運(yùn)行過(guò)程中的算法濫權(quán)

算法權(quán)力的核心原則是把效率和效益放在首位，盡管平臺(tái)為了實(shí)現(xiàn)自身責(zé)任目標(biāo)需要獲得部分準(zhǔn)公共權(quán)力，但平臺(tái)對(duì)算法權(quán)力的濫用，扭曲了其提供公平公正基礎(chǔ)公共服務(wù)的責(zé)任。[6]同時(shí)，算法權(quán)力滲透于社會(huì)生活的廣度和深度遠(yuǎn)超前智能時(shí)代的政治技術(shù)，其顯著影響是算法社會(huì)超越公民社會(huì)，導(dǎo)致的后果是公共領(lǐng)域與私人領(lǐng)域的邊界消弭，公民權(quán)利讓渡給算法權(quán)力，對(duì)算法權(quán)力的制約平衡機(jī)制闕如。[7]

一是算法濫權(quán)侵蝕公民自主選擇權(quán)。算法“權(quán)威”的濫用，通過(guò)算法評(píng)分、競(jìng)價(jià)排序，影響人們的自主判斷力和決策力，侵蝕人們的自主選擇權(quán)。算法權(quán)力的正向效應(yīng)，可以讓人們充分了解數(shù)據(jù)、信息。但算法也可用來(lái)創(chuàng)造一個(gè)對(duì)特定想法充滿敵意的環(huán)境，從公眾意識(shí)中消除或降低某些問(wèn)題的聲量，從而導(dǎo)致規(guī)避公眾利益的規(guī)范和習(xí)俗的形成。如果一個(gè)算法顯著地扭曲了我們對(duì)世界的看法，導(dǎo)致我們持有原本可能沒(méi)有的信念、擁有原本可能沒(méi)有的感覺(jué)、去做原本未預(yù)期的事，那么我們很難覺(jué)察到施加在我們身上的權(quán)力本質(zhì)。這也意味著基于算法的過(guò)濾器，濾掉了對(duì)強(qiáng)權(quán)者進(jìn)行必要審視的技術(shù)視角。正如，以協(xié)同過(guò)濾推薦為技術(shù)原理的算法搜索排序，雖然解決了市場(chǎng)信息過(guò)度泛濫和選擇困難等問(wèn)題。但同時(shí)也將平臺(tái)企業(yè)的商業(yè)意圖滲入其中，其普遍應(yīng)用抑制了消費(fèi)者的自由選擇權(quán)，破壞了平等自由的市場(chǎng)環(huán)境，使自由交易演變成算法操控下的“服從實(shí)驗(yàn)”。在可預(yù)見(jiàn)的未來(lái)，當(dāng)集結(jié)算法推薦功能的智能私人管家一出現(xiàn)，人們自覺(jué)不自覺(jué)地會(huì)依賴，也更愿意被算法推薦套牢，以享受更加便捷效率的生活模式。這種看似個(gè)性化、便捷化的生活方式，不斷侵蝕著個(gè)人選擇權(quán)。即使算法在未來(lái)能更好地實(shí)現(xiàn)內(nèi)容推送的多樣性、個(gè)性化，但只要人們把對(duì)信息的選擇權(quán)交給算法，讓算法替我們做決定，必將失去自主性與判斷力。[8]也就意味著未來(lái)我們感知世界將越來(lái)越多地由數(shù)字系統(tǒng)所揭示或隱藏的東西所決定，有時(shí)還受制于公共機(jī)構(gòu)，當(dāng)政治思想和個(gè)體感受交由技術(shù)構(gòu)建和塑造的時(shí)候，很難說(shuō)我們依然在“自主”“理性”地行動(dòng)。

二是算法權(quán)力的技術(shù)驅(qū)動(dòng)性對(duì)人的主體性異化。隨著算法技術(shù)結(jié)構(gòu)的深化，“技術(shù)+資本”的無(wú)序擴(kuò)張會(huì)將資本收益、技術(shù)發(fā)展作為主體目標(biāo)，而忽視或輕視人作為技術(shù)發(fā)展的終極目標(biāo)的價(jià)值，算法權(quán)力對(duì)人的主體性異化成為自然結(jié)果。數(shù)字時(shí)代，資本與技術(shù)的交融，強(qiáng)化了勞動(dòng)者對(duì)平臺(tái)化組織的人身依附，以及強(qiáng)化了對(duì)勞動(dòng)者的“技術(shù)性剝削”。如在外賣(mài)環(huán)節(jié)，平臺(tái)企業(yè)為了滿足消費(fèi)者對(duì)服務(wù)速度的要求，追求收益最大化，有意無(wú)意地運(yùn)用算法控制外賣(mài)騎手接單后的行為。[9]事實(shí)上建構(gòu)出“困在算法里”的勞動(dòng)者，在這種權(quán)力運(yùn)行的結(jié)構(gòu)化體系中，外賣(mài)騎士并不具備相應(yīng)的權(quán)益保障機(jī)制，自然也就無(wú)法有力抵制算法權(quán)力帶來(lái)的壓力，大多只能選擇服從，以自我盤(pán)剝的方式成為算法的“玩偶”，以適配算法權(quán)力“非人性”化的“理性”設(shè)計(jì)。

三是算法權(quán)力使用不當(dāng)沖擊價(jià)值秩序。技術(shù)內(nèi)嵌著特殊價(jià)值，亦如互聯(lián)網(wǎng)技術(shù)就在內(nèi)嵌自由、平等、民主等價(jià)值的同時(shí)，也內(nèi)嵌著等級(jí)、紀(jì)律和社會(huì)控制。[10]算法的個(gè)性化推薦、營(yíng)銷(xiāo)、推送也涉及到隱含的經(jīng)濟(jì)與價(jià)值導(dǎo)向，這些包含著算法設(shè)計(jì)者和擁有者價(jià)值觀的具體設(shè)計(jì)，潛移默化地影響著人們的思想觀念和價(jià)值偏好，塑造著人們的世界觀、價(jià)值觀、人生觀。一旦算法權(quán)力被組織或個(gè)人視為操縱意識(shí)形態(tài)的工具，那么將會(huì)引發(fā)意識(shí)形態(tài)失序。算法權(quán)力可以通過(guò)分析用戶的行為獲取其行為偏好，繼而迎合用戶偏好，造就因人而異因事而設(shè)的“信息繭房”，倘若該繭房意在構(gòu)建或沖擊某種意識(shí)流，將構(gòu)成對(duì)既有意識(shí)形態(tài)秩序的沖擊與挑戰(zhàn)。

（三）功能性失衡下的算法倫理困境

首先，算法權(quán)力逃離技術(shù)邏輯約束沖擊科技倫理。技術(shù)的應(yīng)用始終離不開(kāi)技術(shù)倫理的約束。誠(chéng)如，轉(zhuǎn)基因食品的培育以及基因編輯嬰兒一樣，前者一定程度上有助于糧食安全，但從其誕生之日起始終環(huán)繞著安全性質(zhì)疑。后者通過(guò)對(duì)人類(lèi)基因數(shù)據(jù)的靶向干預(yù)，以追求所謂的善意。但其不僅擾亂醫(yī)療衛(wèi)生秩序，又嚴(yán)重違背科研、醫(yī)學(xué)倫理。作為技術(shù)的算法，當(dāng)其權(quán)力被當(dāng)作實(shí)現(xiàn)利潤(rùn)或達(dá)成特定目的的手段的時(shí)候，其迭代更新將面臨“逃離”技術(shù)邏輯而失控的風(fēng)險(xiǎn)。當(dāng)算法權(quán)力在資本的催化下，被扭曲成為企業(yè)不正當(dāng)競(jìng)爭(zhēng)的工具，這種行為就放大了算法本身蘊(yùn)含的安全風(fēng)險(xiǎn)。

其次，算法歧視與偏見(jiàn)弱化了大型科技公司的社會(huì)責(zé)任。從算法的設(shè)計(jì)來(lái)看，算法權(quán)力中立是個(gè)偽命題。若某算法被選為最佳或最有效，其設(shè)計(jì)和功能就反映設(shè)計(jì)者的價(jià)值偏好，算法設(shè)計(jì)者所持價(jià)值觀不經(jīng)意地凝結(jié)于代碼中，并被算法權(quán)力擁有者有效制度化。[11]由私人企業(yè)操控的軟件，自動(dòng)攜帶了許多不為人知的決斷和準(zhǔn)則。這些未經(jīng)檢驗(yàn)的個(gè)人決斷和準(zhǔn)則成為算法編寫(xiě)的基礎(chǔ)，而這些原則的實(shí)踐又反過(guò)來(lái)影響價(jià)值觀和決策過(guò)程。應(yīng)注意的是，那些由商業(yè)公司編寫(xiě)的算法，其背后也符合公司追逐私利、創(chuàng)造商業(yè)利潤(rùn)的邏輯和要求。[12]在這種追逐利益的邏輯之下，大數(shù)據(jù)殺熟、個(gè)人隱私泄露等現(xiàn)象頻頻出現(xiàn)，大型科技公司的社會(huì)責(zé)任會(huì)因算法權(quán)力功能性的失衡而處于相對(duì)真空狀態(tài)。

再者，政府決策對(duì)算法權(quán)力的依賴誘致問(wèn)責(zé)困境。政府對(duì)算法權(quán)力的依賴有可能導(dǎo)致公共責(zé)任主體的模糊化。在數(shù)字社會(huì)，行政人員對(duì)算法權(quán)力的依賴日益加深，他們甚至不需要思考如何決策，而只需等待算法給予“最優(yōu)決策”。但算法只能按照指令代碼行事，尚不能理解其行為將帶來(lái)何種后果，也無(wú)法保證其“最優(yōu)決策”始終向善，而一旦出現(xiàn)破壞性后果，算法自主決策易導(dǎo)致行政人員利用權(quán)力轉(zhuǎn)移之機(jī)擺脫責(zé)任追究。同時(shí)又無(wú)法追究相關(guān)責(zé)任主體的責(zé)任，因?yàn)樗惴ㄖ皇谴a，此時(shí)責(zé)任主體變得模糊不清，追究相關(guān)責(zé)任以維護(hù)公共利益面臨困境。[13]如英國(guó)女性乳腺癌篩查漏檢丑聞。由于名為“公共衛(wèi)生英格蘭”的醫(yī)療機(jī)構(gòu)的計(jì)算機(jī)算法出現(xiàn)故障，導(dǎo)致從2009 年至2018 年，大約45 萬(wàn)名英格蘭女性未能受邀接受乳腺癌篩查。受這一故障影響，估計(jì)有135 名至270 名女性因未能及早發(fā)現(xiàn)乳腺癌而死于該種疾病。關(guān)于此次“算法錯(cuò)誤”究竟是怎么產(chǎn)生的，國(guó)家衛(wèi)生醫(yī)療系統(tǒng)、公共衛(wèi)生局以及負(fù)責(zé)維護(hù)軟件的日立咨詢公司三方互相“踢皮球”，造成問(wèn)責(zé)困境。[14]

四 均衡：算法權(quán)力秩序風(fēng)險(xiǎn)的治理

所有的政治秩序、權(quán)力秩序都是建立在協(xié)調(diào)、合作和控制的基礎(chǔ)之上的，缺少任一板塊，組織化的集體生活都是無(wú)法想象的。誠(chéng)然，有序的權(quán)力關(guān)系是實(shí)現(xiàn)政治有序的基礎(chǔ)，而有效的權(quán)力制約是實(shí)現(xiàn)權(quán)力秩序的保障。[15]只是一般說(shuō)來(lái)，算法太迅速、太復(fù)雜，也因其適應(yīng)性、專(zhuān)業(yè)性太強(qiáng)而不易受到人們監(jiān)督，由此算法權(quán)力的秩序風(fēng)險(xiǎn)才逐漸累積?；诩夹g(shù)邏輯生長(zhǎng)培育出的復(fù)合型權(quán)力機(jī)制，不同于以往農(nóng)業(yè)時(shí)代、工業(yè)時(shí)代，甚至信息時(shí)代的權(quán)力結(jié)構(gòu)與功能體系，其權(quán)力結(jié)構(gòu)中的主客體角色具有轉(zhuǎn)換性，算法權(quán)力的資源稟賦也因算法鴻溝的存在，而呈現(xiàn)極度的不平衡不均衡。另外，在權(quán)力運(yùn)行的過(guò)程之中也存在“技術(shù)逃逸”的自然沖動(dòng)，事實(shí)上也會(huì)造成權(quán)責(zé)體系的不平衡、責(zé)任倫理的不均衡。由此，如何有效地識(shí)別與規(guī)避算法權(quán)力秩序的合法性風(fēng)險(xiǎn)，賴于有效整合與統(tǒng)籌上述諸端不平衡不均衡的環(huán)節(jié)。

一是統(tǒng)籌發(fā)展與安全，提升算法技術(shù)安全發(fā)展的均衡性。純粹的技術(shù)在現(xiàn)實(shí)中并不存在，所謂技術(shù)理性往往也是嵌套在特定的社會(huì)理性與政治理性的結(jié)構(gòu)之上的。算法作為一種技術(shù)，其在權(quán)力關(guān)系與權(quán)力結(jié)構(gòu)體系中的準(zhǔn)公共權(quán)力屬性，決定著它的發(fā)展要考慮安全性需求。一方面，就發(fā)展應(yīng)用而言，發(fā)展產(chǎn)生的問(wèn)題需要可持續(xù)的發(fā)展來(lái)解決?？v覽技術(shù)發(fā)展史，每一次技術(shù)的發(fā)展都伴隨著新的風(fēng)險(xiǎn)和不確定性。算法黑箱、算法誤差、算法歧視等問(wèn)題，需要技術(shù)的持續(xù)演進(jìn)與不斷創(chuàng)新來(lái)解決，以盡可能降低由技術(shù)缺陷而導(dǎo)致的負(fù)面影響。同時(shí)，著力培育與塑造人的主體性意識(shí)，增強(qiáng)抵御“算法霸權(quán)”的能力。面對(duì)數(shù)字時(shí)代的算法權(quán)力，我們既不可盲目接受，也不宜簡(jiǎn)單否定。技術(shù)進(jìn)步對(duì)人類(lèi)社會(huì)究竟會(huì)產(chǎn)生何種影響，技術(shù)權(quán)力將會(huì)在何種程度上改變傳統(tǒng)的權(quán)力關(guān)系體系，歸根結(jié)底，取決于人們?nèi)绾慰创褪褂眠@種技術(shù)，以及怎樣應(yīng)對(duì)由此衍生的收益與風(fēng)險(xiǎn)。因而在算法權(quán)力面前，應(yīng)著力提升公眾主體性的自覺(jué)意識(shí)、提高識(shí)別算法陷阱、抵御算法霸權(quán)的能力，避免在算法權(quán)力運(yùn)行體系中迷失自我。

另一方面，就安全保障而言，通過(guò)算法倫理的構(gòu)建，明確算法權(quán)力的“紅線”，健全算法權(quán)責(zé)體系。構(gòu)建相對(duì)完備的算法倫理體系，并將之嵌入到算法設(shè)計(jì)和算法權(quán)力運(yùn)行的全過(guò)程之中，以此明確算法權(quán)力的倫理底線，明確算法應(yīng)用領(lǐng)域、應(yīng)用程度，以及當(dāng)出現(xiàn)濫用誤用錯(cuò)用時(shí)，如何限制、如何規(guī)范、如何追責(zé)。

二是正視算法的逐權(quán)謀利，明確企業(yè)與行業(yè)責(zé)任擔(dān)當(dāng)。一方面，尊重商業(yè)利益，鼓勵(lì)企業(yè)責(zé)任自律。企業(yè)是算法技術(shù)的主要設(shè)計(jì)者和擁有者，掌握著技術(shù)主動(dòng)權(quán)，相較政府和公眾而言，“算法黑箱”對(duì)企業(yè)影響較小。基于這種技術(shù)便利，企業(yè)應(yīng)加強(qiáng)自律，主動(dòng)承擔(dān)或促進(jìn)算法透明與算法審查的進(jìn)程。算法權(quán)力是數(shù)字時(shí)代平臺(tái)企業(yè)獲取利潤(rùn)的強(qiáng)有力工具，它在資本加持下，成為市場(chǎng)“點(diǎn)金石”。這一過(guò)程中，算法權(quán)力的運(yùn)作離不開(kāi)數(shù)據(jù)的“喂養(yǎng)”，龐大的數(shù)據(jù)來(lái)源于無(wú)數(shù)數(shù)據(jù)主體對(duì)個(gè)人信息權(quán)利的有限讓渡。由此，企業(yè)不應(yīng)忘記算法權(quán)力的本源，應(yīng)兼顧商業(yè)利益與企業(yè)責(zé)任，保護(hù)消費(fèi)者權(quán)益，在不觸及商業(yè)機(jī)密的前提下，推動(dòng)算法公開(kāi)透明，或者研發(fā)可解釋算法，主動(dòng)破解“算法黑箱”難題，承擔(dān)社會(huì)責(zé)任，防止算法權(quán)力濫用和壟斷帶來(lái)的潛在風(fēng)險(xiǎn)。

另一方面，規(guī)范行業(yè)秩序，引入第三方監(jiān)督。當(dāng)單一企業(yè)自律動(dòng)機(jī)不足時(shí)，應(yīng)發(fā)揮行業(yè)協(xié)會(huì)作用。由行業(yè)協(xié)會(huì)組織制定的算法行業(yè)標(biāo)準(zhǔn)，能夠擺脫特定產(chǎn)業(yè)集團(tuán)、利益集團(tuán)或大型科技公司的利益糾纏，實(shí)現(xiàn)研發(fā)者、生產(chǎn)者、消費(fèi)者、使用者、監(jiān)督者以及其他社會(huì)各方權(quán)力與權(quán)益之間的相對(duì)平衡。2019 年中國(guó)互聯(lián)網(wǎng)金融協(xié)會(huì)向會(huì)員單位發(fā)布《關(guān)于增強(qiáng)個(gè)人信息保護(hù)意識(shí)依法開(kāi)展業(yè)務(wù)的通知》，事實(shí)上就是通過(guò)行業(yè)規(guī)范的制定與頒布，對(duì)算法權(quán)力結(jié)構(gòu)與功能體系之間的失衡進(jìn)行規(guī)范與調(diào)節(jié)，提升算法客體在面對(duì)算法主體時(shí)所享有的權(quán)力稟賦，以此制約與制衡潛在算法暴力的發(fā)生。另外，行業(yè)協(xié)會(huì)不僅可以吸納壟斷算法權(quán)力的龍頭或頭部公司，也可以團(tuán)結(jié)算法競(jìng)爭(zhēng)中處于相對(duì)弱勢(shì)的中小企業(yè)。中小型科技公司，往往具備技術(shù)創(chuàng)新的潛力，但不具備與大型科技跨國(guó)公司相抗衡的能力與條件，憑其自身力量難以打破市場(chǎng)既有格局的壟斷性、寡頭性。此時(shí)，行業(yè)協(xié)會(huì)所具有的監(jiān)督、協(xié)調(diào)功能，則可以通過(guò)對(duì)全行業(yè)的整合與規(guī)范引導(dǎo)，促成對(duì)算法寡頭的約束與規(guī)制。

三是促進(jìn)算法權(quán)力監(jiān)管的同時(shí)，構(gòu)建算法共治體系的權(quán)責(zé)平衡。一方面，推進(jìn)算法權(quán)力的政府監(jiān)管。在算法運(yùn)用前中后實(shí)施全過(guò)程監(jiān)管，監(jiān)管內(nèi)容應(yīng)包括但不局限于數(shù)據(jù)收集與挖掘、算法設(shè)計(jì)與應(yīng)用、算法倫理與規(guī)范等。政府的有效監(jiān)管是構(gòu)建穩(wěn)定權(quán)力秩序的必要條件，當(dāng)代法律秩序正在向著以算法為中心的智能社會(huì)法律秩序轉(zhuǎn)型，原有的法律秩序逐漸無(wú)法應(yīng)對(duì)算法權(quán)力帶來(lái)的治理赤字。[16]算法治理赤字的不斷攀升，致使算法濫用監(jiān)督乏力、算法技術(shù)合規(guī)滯后、算法約束機(jī)制缺失?，F(xiàn)實(shí)中，政府監(jiān)管部門(mén)在面對(duì)算法難題時(shí)，普遍采取部門(mén)約談、罰款罰沒(méi)、算法下架、停用推薦等手段進(jìn)行規(guī)制，難免給予人們一種頭痛醫(yī)頭、腳痛醫(yī)腳的回應(yīng)性監(jiān)管之感，其治理效能具有短期性與周期性，難言可持續(xù)性治理。因此，應(yīng)在轉(zhuǎn)變觀念，特別是改變對(duì)確定性治理方略、對(duì)簡(jiǎn)單性思維方式的偏好，要擁有匹配數(shù)字時(shí)代的復(fù)雜性治理思維，扭轉(zhuǎn)對(duì)不確定性風(fēng)險(xiǎn)的恐懼。未來(lái)技術(shù)的發(fā)展與迭代必然是幾何指數(shù)的，其復(fù)雜性與不確定是社會(huì)常態(tài)，由此衍生與滋生的治理困頓，自然也兼具復(fù)雜性與不確定性，故而革新治理觀念首當(dāng)其沖。

另一方面，在持續(xù)推進(jìn)監(jiān)管型政府建設(shè)的同時(shí)，也應(yīng)關(guān)注算法共治體系的必要性與可行性。技術(shù)的發(fā)展、企業(yè)的自律、個(gè)人的自覺(jué)、行業(yè)協(xié)會(huì)的引導(dǎo)、政府的監(jiān)管等在算法權(quán)力體系的構(gòu)成、運(yùn)行過(guò)程之中，分處不同環(huán)節(jié)、扮演不同角色，單一理性、單一層級(jí)、單一主體的治理都難言善治，需要構(gòu)建基于自治、德治與法治三位一體融合的權(quán)力規(guī)制體系，推進(jìn)算法共治。在技術(shù)理性的關(guān)照下規(guī)范算法權(quán)力運(yùn)行的基礎(chǔ)，以行業(yè)自律、企業(yè)自治方式消解其潛藏的技術(shù)倫理風(fēng)險(xiǎn)。在市場(chǎng)理性的視角下謀劃算法權(quán)力的企業(yè)道德責(zé)任與倫理路徑，在監(jiān)視資本主義興起的背景下以德治的方式規(guī)范算法權(quán)力的使用。進(jìn)而在政府治理的視角中構(gòu)建與算法權(quán)力發(fā)展與應(yīng)用相匹配的權(quán)力結(jié)構(gòu)體系與監(jiān)督約束機(jī)制，實(shí)現(xiàn)權(quán)力結(jié)構(gòu)與權(quán)力功能的均衡發(fā)展。以最大限度地發(fā)揮算法權(quán)力帶來(lái)的效率、效能與便捷，規(guī)避算法壟斷、算法濫權(quán)以及算法倫理缺位等權(quán)力秩序的合法性風(fēng)險(xiǎn)。