摘 要:人工智能時(shí)代,算法依托技術(shù)優(yōu)勢(shì)與資本邏輯耦合,實(shí)現(xiàn)了權(quán)力的再生產(chǎn),并作為一種新的權(quán)力形態(tài),成為現(xiàn)實(shí)社會(huì)權(quán)力運(yùn)行中的重要變量。在實(shí)際運(yùn)行中,算法以“賦魅”的方式獲取受眾的依賴與追隨,并以難以感知的實(shí)踐形式再現(xiàn)權(quán)力“魅影”,引發(fā)了新的現(xiàn)實(shí)困境。以算法權(quán)力實(shí)踐的“賦魅—祛魅—返魅”為線索,基于算法權(quán)力“賦魅”的邏輯理路,可從量化、剝削、規(guī)訓(xùn)三個(gè)內(nèi)在機(jī)制對(duì)算法權(quán)力進(jìn)行“祛魅”,以消解其實(shí)踐“神話”,并在算法權(quán)力的“返魅”中,實(shí)現(xiàn)對(duì)算法權(quán)力的馴化、規(guī)制與引領(lǐng)。
關(guān)鍵詞:人工智能;算法權(quán)力;算法空間;權(quán)力主體
中圖分類號(hào):D03 文獻(xiàn)標(biāo)志碼:A 文章編號(hào):1002-7408(2024)07-0109-07
伴隨人工智能技術(shù)的不斷發(fā)展,算法得以廣泛應(yīng)用于生產(chǎn)生活和社會(huì)實(shí)踐的各個(gè)方面,成為社會(huì)權(quán)力運(yùn)行的重要變量。憑借其天然的技術(shù)優(yōu)勢(shì)以及與資本邏輯的耦合,算法逐漸淡化了其“工具”角色,實(shí)現(xiàn)了“權(quán)力”角色的高位進(jìn)階,逐漸演變?yōu)橐环N新的權(quán)力形態(tài),在無形中影響著受眾的思維認(rèn)知與行為方式,在推動(dòng)社會(huì)高效發(fā)展的同時(shí),也引發(fā)了新的現(xiàn)實(shí)困境。困境源自于算法權(quán)力的擴(kuò)散,盡管逆轉(zhuǎn)的算法權(quán)力不斷反馴于現(xiàn)實(shí)主體,規(guī)訓(xùn)主流意識(shí)形態(tài)的生存空間,卻仍然受到受眾的深度依賴與狂熱追隨。因此,需要對(duì)算法權(quán)力的實(shí)踐進(jìn)行審思與分析,以其運(yùn)yNBIHhHbdyv6WjJ+ueOudxdtXKTyMFdl37oXmH5C3vc=行的內(nèi)在機(jī)制探討算法權(quán)力“賦魅”的原因,“祛魅”算法權(quán)力的實(shí)踐神話,有效推動(dòng)技術(shù)進(jìn)步、人的發(fā)展與價(jià)值引領(lǐng)的耦合共進(jìn)。
一、“賦魅”:以邏輯理路闡明算法權(quán)力的實(shí)踐“魅影”
算法權(quán)力之“魅”,本質(zhì)是“蒙蔽之魅”,作為一種自然生成的需求,“魅”兼具“神秘性”與“鼓動(dòng)性”雙重意味?!百x魅”可分為被動(dòng)賦魅與主動(dòng)賦魅兩種,其中,被動(dòng)賦魅即人在面對(duì)未知世界時(shí),易將其“神秘化”,以引發(fā)崇拜或恐懼的共同性情感來獲取安全感,以“距離”凸顯“崇高”,以“崇高”贏得信仰;主動(dòng)賦魅則是為了獲取權(quán)益或資本而有意營造“神秘感”,以求得關(guān)注與追隨。唯有先闡明算法權(quán)力的實(shí)踐“魅影”,才能實(shí)現(xiàn)算法權(quán)力的“祛魅”與“返魅”。
(一)權(quán)力建構(gòu)邏輯:算法權(quán)力在空間轉(zhuǎn)向中再現(xiàn)“利維坦”之魅
20世紀(jì)以前,“空間”概念在哲學(xué)范疇中一直處于沉寂狀態(tài),通常以時(shí)間的依附性概念而存在。直至20世紀(jì)70年代,隨著新技術(shù)帶來嶄新的生產(chǎn)生活方式,學(xué)者們開始重新審視人文生活中的空間性,空間轉(zhuǎn)向及其縱深發(fā)展趨勢(shì)研究自此受到學(xué)界青睞并長盛不衰,進(jìn)而引申出一種全新的以空間性為價(jià)值基準(zhǔn)的認(rèn)知判斷體系。此外,數(shù)字技術(shù)的應(yīng)用對(duì)社會(huì)發(fā)展產(chǎn)生了較大影響,空間已然不完全是地理學(xué)層面的概念,固態(tài)空間逐漸被流動(dòng)空間所取代。對(duì)于權(quán)力的實(shí)現(xiàn)而言,“越來越有可能繞開人類的理性意識(shí),在感性層面重新發(fā)揮作用,給權(quán)力的隱身帶來更大的可能性”[1]。因此,基于空間轉(zhuǎn)向?qū)徦紮?quán)力實(shí)踐逐漸成為學(xué)界重視的研究方向。
相較于傳統(tǒng)的實(shí)體空間,算法空間是人類生活中獨(dú)特的物質(zhì)性與符合具體情境的社會(huì)性計(jì)算,是形式與內(nèi)容、靜止與運(yùn)動(dòng)的統(tǒng)一。算法技術(shù)通過勾勒“數(shù)字輪廓”,重構(gòu)了一種社會(huì)的“數(shù)字秩序”,使得世界萬物成為權(quán)力主體可觀測(cè)、分析、解釋、預(yù)言與調(diào)控的對(duì)象,權(quán)力生態(tài)得以重塑。同時(shí),在算法空間中,任何行為主體擁有技術(shù)和戰(zhàn)術(shù)之后,都可以成為權(quán)力掌控者。伴隨技術(shù)自主性的凸顯,算法嵌入政治體系中,對(duì)政治權(quán)力和價(jià)值的影響引致算法空間下的新政治風(fēng)險(xiǎn),即“利維坦”的智能形態(tài)——“算法利維坦”?;舨妓沟膰依碚撜J(rèn)為,“利維坦”是為避免“每個(gè)人對(duì)每個(gè)人的戰(zhàn)爭(zhēng)”這一自然狀態(tài),由人類締約建立的為人類提供安全和秩序的強(qiáng)大機(jī)構(gòu)[2]。人們因其安全性和秩序性,極度依賴“利維坦”,又因其缺乏制約而深受其約束。算法技術(shù)亦是如此,人們?cè)讷@取算法便利時(shí)又深受其束縛,甚至?xí)龀鲎尣健R蚨?,在人們?duì)算法的依賴程度逐漸加深的同時(shí),又無法阻止算法權(quán)力的膨脹,極有可能使其演化為權(quán)力的巨靈“利維坦”,其中交錯(cuò)著權(quán)利讓渡的半契約邏輯和工具理性至上的絕對(duì)權(quán)威邏輯。
在權(quán)利讓渡的半契約邏輯中,算法空間秩序只用于普通公民的參與,而主權(quán)者締約闕如。一方面,技術(shù)越來越成為政治發(fā)聲的工具,社會(huì)公民基于國家對(duì)算法賦權(quán)產(chǎn)生的認(rèn)同,將算法空間的秩序視為國家治理的合理部分;另一方面,公民利用算法理性賦予的高福利功能,以自身的信息數(shù)據(jù)進(jìn)行交換,致使其以一種更加隱性的物化方式自我持存。因而,公民被置于算法空間的監(jiān)控體系之下,卻無法通過權(quán)利行使制衡算法監(jiān)控。絕對(duì)權(quán)威邏輯則是由前者發(fā)展所致,半契約邏輯便決定了除權(quán)力主體之外的普通公民所締結(jié)的權(quán)力契約是絕對(duì)權(quán)威的,且不受約束。在國家治理賦權(quán)算法技術(shù)的同時(shí),公民權(quán)利讓渡算法,當(dāng)算法的工具理性逐漸取代人的政治理性時(shí),算法就具備了權(quán)力屬性,算法空間的權(quán)力秩序便開始異化。政治權(quán)力意識(shí)的表達(dá)由傳統(tǒng)灌輸式的話語秩序轉(zhuǎn)向?yàn)闈撘颇降臄?shù)據(jù)秩序,權(quán)力算法成為占據(jù)絕對(duì)地位的“算法利維坦”,漸具吞噬“權(quán)力制約權(quán)力”方式和“權(quán)利制約權(quán)力”方式的二重可能,“權(quán)力”與“權(quán)利”主體間性的關(guān)系也隨之異化。
(二)權(quán)力表征邏輯:算法權(quán)力在符號(hào)表征中展現(xiàn)“隱身術(shù)”之魅
算法時(shí)代,人類社會(huì)權(quán)力的實(shí)踐方式,逐漸從強(qiáng)制性轉(zhuǎn)向合作性,權(quán)力的運(yùn)行正在越來越多地建立在同意而非強(qiáng)制的基礎(chǔ)上。強(qiáng)制性權(quán)力的淡化可詮釋權(quán)力的“隱身術(shù)”這一概念,其并不意味著強(qiáng)制力的逝去,恰恰相反,強(qiáng)制一直存在,只是沒有被社會(huì)個(gè)體的意識(shí)所觸及,而作為算法空間的一種重要權(quán)力實(shí)現(xiàn)技術(shù)而存在。符號(hào)化、隱喻化是算法權(quán)力隱身的重要條件之一,“如果以一種修辭形容社會(huì)運(yùn)行狀況,可知,不僅是權(quán)力,社會(huì)的諸多方面,都正在從實(shí)體向符號(hào),從沉重向輕靈,從有形向無形而變”[3]。如果說,前網(wǎng)絡(luò)時(shí)代的感性權(quán)力是基于崇拜、儀式等形式而建立,那么算法時(shí)代的感性權(quán)力,則是通過算法傳播的視聽符號(hào)等感性中介,重新建構(gòu)受眾認(rèn)知外界的基本意識(shí)框架,加固了“人—符號(hào)—外界”的認(rèn)知結(jié)構(gòu),符號(hào)獲得了人與外界之間的解釋權(quán)。
符號(hào)是權(quán)力的重要象征,包括語言、行為、儀式等“象征之林”,人類憑借符號(hào)進(jìn)行交互,權(quán)力主體借此進(jìn)行自我維護(hù)。借助符號(hào)系統(tǒng),權(quán)力主體與客體之間的既定關(guān)系進(jìn)一步被界定,權(quán)力客體通過符號(hào)接受其中特定的價(jià)值意義并服從權(quán)力主體的意志和導(dǎo)向。由于算法傳播技術(shù)的飛躍發(fā)展,當(dāng)今算法權(quán)力符號(hào)的生產(chǎn)和傳播成本較低,在無限量的符號(hào)加載過程中,人與現(xiàn)實(shí)的直接聯(lián)系被切斷,所接觸的社會(huì)環(huán)境更多是算法權(quán)力通過符號(hào)建構(gòu)出來的擬象呈現(xiàn)。算法空間中權(quán)力主體通過優(yōu)劣制衡,在不斷更新符號(hào)生產(chǎn)與賦意策略的過程中形成激烈角逐。此外,智能空間的全方位建構(gòu),使得信息表達(dá)形式從二維平面升級(jí)至三維空間,也為權(quán)力符號(hào)的深入滲透提供了極大的便利條件。
算法空間中權(quán)力的隱身不僅是結(jié)構(gòu)的符號(hào)化,還在缺場(chǎng)效應(yīng)中帶來權(quán)力符號(hào)的“致幻”之魅,使受眾在無意識(shí)的盲目跟風(fēng)中陷入“他者欲望的欲望”的偽“我要”狀態(tài)[4]。算法空間中的權(quán)力符號(hào)生產(chǎn)是一種雙向合謀的儀式,以算法空間中的直播互動(dòng)行為為例,受眾可以通過點(diǎn)贊或刷禮物的形式與主播進(jìn)行互動(dòng),以滿足自身的感官需求,主播也會(huì)并尋求受眾的興趣點(diǎn)并制造話題,以自身的言行舉止誘導(dǎo)受眾為他們的符號(hào)活動(dòng)買單。在整個(gè)過程中,主播利用受眾偏好的符號(hào)進(jìn)行消費(fèi)誘導(dǎo),而受眾也以商品化行為生產(chǎn)自我偏好的權(quán)力符號(hào),最終雙方在交換中達(dá)成共識(shí)。而在此過程中,算法恰恰發(fā)揮了其“計(jì)算”功能,找到受眾的偏好點(diǎn),表面上是權(quán)力對(duì)象或規(guī)訓(xùn)對(duì)象占據(jù)了主導(dǎo)地位,實(shí)際上則是算法將“他者”的欲望附加于權(quán)力對(duì)象,進(jìn)而呈現(xiàn)出一種偽“我要”狀態(tài),使“我”的欲望成為了他者的欲望之欲望。
(三)權(quán)力運(yùn)行邏輯:算法權(quán)力在視覺控制中呈現(xiàn)“無視野”的“凝視”之魅
算法權(quán)力的空間表達(dá)借助現(xiàn)實(shí)與虛擬空間的算法化營造算法空間,其本質(zhì)是不同層次的利益集團(tuán)、組織通過算法權(quán)力的意向?qū)臻g載體的博弈計(jì)算過程。隨著算法技術(shù)的發(fā)展,權(quán)力運(yùn)行更加順暢,以更加靈活的運(yùn)行方式逐漸取代實(shí)體空間中傳統(tǒng)權(quán)力的規(guī)訓(xùn)模式。權(quán)力的運(yùn)行必然會(huì)產(chǎn)生博弈關(guān)系,進(jìn)而出現(xiàn)不同的權(quán)力指向和權(quán)力后果。一方面,權(quán)力主體借由虛擬平臺(tái)和電子屏幕等算法空間基礎(chǔ)設(shè)施,將本隸屬于不同空間中的群體重新融入原有關(guān)系網(wǎng)絡(luò),并實(shí)現(xiàn)現(xiàn)實(shí)關(guān)聯(lián);另一方面,權(quán)力主體據(jù)此重新規(guī)定算法空間的行動(dòng)準(zhǔn)則,并借由技術(shù)控制實(shí)現(xiàn)霸權(quán),以此彰顯既有權(quán)力關(guān)系和運(yùn)行機(jī)制。
“認(rèn)識(shí)世界的基礎(chǔ)是具有經(jīng)驗(yàn)性的直接的知覺,其中視覺在全部知覺中占有主導(dǎo)性的地位?!保?]基于人的生理性基礎(chǔ),在算法空間的視覺化傾向中,群體的視覺崇拜在無形中建構(gòu)了視覺化的認(rèn)知法則,致使受眾邏輯逐漸構(gòu)筑于視覺圖景之上,進(jìn)而催生了算法權(quán)力的視覺化統(tǒng)治。同時(shí),算法技術(shù)的突破式發(fā)展延伸了人體感官,再一次將視覺實(shí)踐推向高潮,“觀看”方式催生了多樣的視覺圖景,并使之成為受眾認(rèn)知社會(huì)文化的中介,為算法權(quán)力提供了棲息的“溫床”。在技術(shù)與資本雙重邏輯交織下,算法空間中“看什么”“能看見什么”“看不見什么”等“可見”與“遮蔽”的問題無不涉及權(quán)力的運(yùn)行與博弈,算法權(quán)力的具象化再次浮現(xiàn)眼前。如此,受眾觀看的不再是真理性的對(duì)象,而僅僅是根據(jù)算法權(quán)力主體的意愿所構(gòu)建的“幻象”,此刻,“眼睛”與“凝視”發(fā)生分裂。當(dāng)受眾面對(duì)權(quán)力主體營造的“幻象”之時(shí),意味著受眾正在被算法所“觀看”,其通過眼睛觀看視覺內(nèi)容的同時(shí)也接受了來自視覺內(nèi)容的“凝視”,這種“凝視”因算法技術(shù)的“計(jì)算”契合了受眾的內(nèi)心需求,因而,“凝視戰(zhàn)勝了眼睛”[6]。正如拉康所言的“鏡像之看”,我們以為自己在感受漫威電影帶來的心潮澎湃的體驗(yàn),實(shí)則已經(jīng)被美國式個(gè)人英雄主義所錨定,“受眾在發(fā)出‘觀看’之前,就受到了發(fā)生在‘他者場(chǎng)域’中的象征之看的‘染指’”[7]。
在算法圖像化和景觀化呈現(xiàn)視覺內(nèi)容背后,是權(quán)力的柔性嵌入,可視化圖景之下的權(quán)力意識(shí)形態(tài)之手正在塑造著“精美”的可視化景觀,通過合理化的算法空間秩序加以呈現(xiàn),視覺圖景成為算法景觀控制之下“被觀看”群體的牢籠。此外,還孕育出一大批失去判斷力和行動(dòng)力且依附于算法權(quán)力主體的“看客”,算法權(quán)力成為一種“注意力政治”[8],因而,“注意力”也被視為權(quán)力貨幣,是實(shí)現(xiàn)權(quán)力轉(zhuǎn)化的有效機(jī)制。在算法空間中,受眾的需求已被權(quán)力主體轉(zhuǎn)化為“喂養(yǎng)”算法權(quán)力的“養(yǎng)料”,為進(jìn)行更深入的“能見度的遮蔽”貯備“燃料”。
二、“祛魅”:以內(nèi)在機(jī)制解構(gòu)算法權(quán)力的實(shí)踐“神話”
“祛魅”即去神秘,是排除神秘力量,趨向于理性化的過程,本質(zhì)上是一種對(duì)“魅”的解構(gòu)。在智能算法空間中,算法權(quán)力的“祛魅”意味著人們不再把算法權(quán)力視作“神秘魔法”而盲目膜拜,而是要突破算法合理性的技術(shù)外衣以防算法霸權(quán),從而打破算法權(quán)力無所不能的實(shí)踐“神話”。
(一)從“全景敞視”到“獨(dú)景窺視”:揭露算法權(quán)力量化主體的隱匿機(jī)制
空間如何與社會(huì)實(shí)踐相互作用,鋪陳于20世紀(jì)中期眾多的空間轉(zhuǎn)向研究中,為學(xué)術(shù)界所高度關(guān)注??臻g性研究的介入,使空間成為與互動(dòng)系統(tǒng)共同參考的重要因素?;诖耍軐W(xué)家??略凇兑?guī)訓(xùn)與懲罰》中提出的“全景敞視”被視為理解“現(xiàn)代空間—權(quán)力機(jī)制”關(guān)聯(lián)性的典型模型。不同于傳統(tǒng)意義上的暴力征服,全景敞視憑借特殊的空間建筑模式,使權(quán)力能夠以增強(qiáng)自身力量的形式增強(qiáng)社會(huì)力量。法國當(dāng)代哲學(xué)家布魯諾·拉圖爾基于“全景敞視”,提出了“獨(dú)景窺視”這一概念,區(qū)別于??率娇臻g—權(quán)力分析模型,其強(qiáng)調(diào)“行動(dòng)的空間”,而非“表征的空間”,在表征功能的基礎(chǔ)上,完成了空間和時(shí)間的“嫁接”?!耙浴畷r(shí)空折疊’的方式將隸屬于不同時(shí)間、空間情境中的行動(dòng)者‘征召’入自身的行動(dòng)者網(wǎng)絡(luò)來建構(gòu)社會(huì)化的空間?!保?]作為算法時(shí)代的“獨(dú)景窺視”工具,電子屏幕由網(wǎng)絡(luò)基礎(chǔ)設(shè)備支持,通過自身的算法機(jī)制來鼓勵(lì)受眾建立社交網(wǎng)絡(luò),在擴(kuò)展交互對(duì)象的基礎(chǔ)上,為受眾提供行動(dòng)空間。隨著算法空間的發(fā)展,??滤缘挠行未嬖谙碌囊?guī)訓(xùn)權(quán)力轉(zhuǎn)向了無形窺視中的被動(dòng)馴化,隱匿于電子屏幕之下的算法憑借“天然優(yōu)勢(shì)”形成對(duì)公眾精準(zhǔn)量化的“權(quán)力凝視”。
在算法空間無形的窺視下,權(quán)力主體憑借技術(shù)優(yōu)勢(shì)收集并量化受眾的數(shù)據(jù)痕跡,以此更加隱蔽地進(jìn)行算法規(guī)訓(xùn)。一方面,受眾被算法權(quán)力主體所構(gòu)建的數(shù)據(jù)庫分解為一般的生物性數(shù)據(jù),在技術(shù)追蹤中塑造數(shù)字身份,生活被轉(zhuǎn)化為數(shù)字符碼,以備算法精準(zhǔn)刻畫用戶圖像。另一方面,算法會(huì)根據(jù)數(shù)據(jù)分析規(guī)訓(xùn)人們的認(rèn)知行為,以這種隱匿的方式進(jìn)行精神層面的滲透與入侵,實(shí)現(xiàn)權(quán)力指向。在權(quán)力主體的包裝下,“知情—同意”協(xié)議設(shè)置早已形同虛設(shè),刻意采用晦澀冗長的語言表達(dá)隱私政策等操作方式,算法權(quán)力主體獲取信息更為便利,在一定程度上,甚至推動(dòng)了“自我量化”的潮流趨勢(shì),公眾在自我監(jiān)測(cè)中生活與作息,無需強(qiáng)迫,自愿以數(shù)字化的行為習(xí)慣建立算法空間中的自我監(jiān)視裝置。
因此,從量化主體層面來看,算法空間下的權(quán)力對(duì)象不僅是“數(shù)字人”,更是“透明人”,被空間中的同質(zhì)化力量裹挾進(jìn)算法秩序中。韓炳哲指出,“‘透明’是一種系統(tǒng)性的強(qiáng)制行為,它席卷所有社會(huì)進(jìn)程,并使之發(fā)生深刻的變化”[10],在智能傳播時(shí)代,控制“透明”的力量恰恰來自于算法權(quán)力。換言之,受眾對(duì)于算法權(quán)力建構(gòu)的“全景透明監(jiān)獄”無從感知,置身于其中無所遁形。
(二)從“數(shù)字零工”到“數(shù)字靈工”:批判算法權(quán)力剝削主體的勞動(dòng)機(jī)制
得益于算法技術(shù)的精準(zhǔn)量化,算法權(quán)力吸納與剝削主體勞動(dòng)的方式一直在發(fā)生改變,隨著越來越多“數(shù)字勞工”的涌入,算法空間以技術(shù)權(quán)力構(gòu)建起隱蔽的勞動(dòng)空間,形成新興的勞動(dòng)場(chǎng)域。憑借天然優(yōu)勢(shì),算法權(quán)力主體通過塑造權(quán)力對(duì)象的勞動(dòng)機(jī)制和勞動(dòng)秩序,成為勞動(dòng)管理的“中軸”,在勞動(dòng)剝削中不斷加強(qiáng)算法權(quán)力?;诖耍惴?quán)力主體逐步建立起從勞動(dòng)指揮、勞動(dòng)評(píng)價(jià)到勞動(dòng)規(guī)訓(xùn)的全流程勞動(dòng)機(jī)制,從“數(shù)字零工”到“數(shù)字靈工”,勞動(dòng)愈發(fā)隱匿于機(jī)器之下,深藏于屏幕之后,消解于娛樂之中,在沉浸式的無意識(shí)體驗(yàn)中,表面上的自主勞動(dòng)實(shí)則是“‘他主’中的‘自主’”[11],“他者剝削”也逐漸轉(zhuǎn)向“自我剝削”。
算法空間的時(shí)空屬性,使得數(shù)字零工表面上可以自主決定接單時(shí)機(jī)、工作時(shí)限與地點(diǎn),實(shí)際上卻進(jìn)一步加深了勞工對(duì)算法權(quán)力主體的實(shí)際依附。首先,從數(shù)字零工付諸勞動(dòng)開始,權(quán)力主體就通過“信息繭房”與算法推薦進(jìn)行勞動(dòng)指揮,故意制造數(shù)字零工信息的不對(duì)稱性,并將預(yù)設(shè)的可選范圍嵌入系統(tǒng),結(jié)果是處于信息劣勢(shì)的數(shù)字零工難以自主選擇理想的工作,不得不淪為依賴算法提示的機(jī)械“點(diǎn)屏工具”。例如,網(wǎng)約車司機(jī)需先確認(rèn)接單,才能查看乘客的目的地信息,如果在算法程序規(guī)定時(shí)間內(nèi),司機(jī)沒有點(diǎn)擊算法推薦訂單的“接受”或“拒絕”按鍵,系統(tǒng)將默認(rèn)其“接受”;如果司機(jī)頻繁拒單,其信譽(yù)度和服務(wù)資格將受到影響。其次,服務(wù)對(duì)象評(píng)分性質(zhì)的算法記錄,被權(quán)力主體收集以建構(gòu)數(shù)字聲譽(yù)機(jī)制,對(duì)數(shù)字零工的勞動(dòng)進(jìn)行評(píng)價(jià),算法空間中眾多用戶自愿在“共創(chuàng)”“共享”等說辭鼓動(dòng)下為算法權(quán)力建構(gòu)的勞動(dòng)創(chuàng)收機(jī)制無酬勞動(dòng)。最后,根據(jù)數(shù)字零工在算法評(píng)價(jià)中的表現(xiàn),算法權(quán)力主體通過不斷評(píng)估對(duì)之進(jìn)行隱性規(guī)訓(xùn),如網(wǎng)約車司機(jī)為獲取來自算法空間的信息優(yōu)勢(shì)——派單優(yōu)先,對(duì)算法權(quán)力無意識(shí)地服從。
區(qū)別于以重復(fù)性勞動(dòng)為主的數(shù)字零工,“數(shù)字靈工”特指“依托算法空間從事知識(shí)技能型工作的勞動(dòng)者”[12],該群體以更加靈活的工作機(jī)制、更注重靈感的創(chuàng)作以及更具算法素養(yǎng)為主要特征,他們的出現(xiàn)更是加深了算法權(quán)力剝削的遮蔽性。數(shù)字靈工不僅需要生產(chǎn)內(nèi)容吸引用戶關(guān)注,還要付出不可見的情感勞動(dòng)維系數(shù)字流量與聲譽(yù),而這種非物質(zhì)性勞動(dòng)往往會(huì)被算法機(jī)制所遮蔽,得不到相應(yīng)的報(bào)酬與認(rèn)可。對(duì)于雖未違反算法權(quán)力秩序但績(jī)效平平的數(shù)字靈工,權(quán)力主體會(huì)通過隱性的排名系統(tǒng)降低其算法曝光度,在悄無聲息中最大限度地吸納勞工的休閑時(shí)間和剩余生產(chǎn)力,從而實(shí)現(xiàn)對(duì)勞工的自由掌控。結(jié)果是數(shù)字勞工在這種不穩(wěn)定的工作中疲于奔命,心甘情愿地服從于算法權(quán)力建構(gòu)的勞動(dòng)剝削機(jī)制而不能自拔。
(三)從“強(qiáng)硬暴力”到“溫和暴力”:探明算法權(quán)力規(guī)訓(xùn)主體的符號(hào)機(jī)制
“依賴暴力手段的權(quán)力并不是最高級(jí)的權(quán)力,精明且友好的權(quán)力應(yīng)當(dāng)不會(huì)正面反對(duì)屈從性主體的意志,而是試圖制造積極情感并對(duì)其加以利用。”[13]算法空間的權(quán)力實(shí)踐正是如此,權(quán)力符號(hào)生成機(jī)制為算法權(quán)力實(shí)踐打破了時(shí)空限制,并形成新的表征方式,使其以非矛盾性的方式摒棄否定性。在算法權(quán)力塑造的符號(hào)機(jī)制中,物品的實(shí)際價(jià)值被消解為抽象的符號(hào),受眾消費(fèi)的實(shí)際是商品背后的符號(hào)意義。一方面,各種權(quán)力符號(hào)交織起來共同形塑權(quán)力對(duì)象的認(rèn)知方式,使其忽略現(xiàn)實(shí)真相,成為算法權(quán)力的“接收機(jī)器”;另一方面,權(quán)力符號(hào)能指—所指結(jié)構(gòu)之間發(fā)生斷裂,權(quán)力符號(hào)無需按照真相建立框架,“營銷”征召權(quán)力的生成邏輯成為主流,現(xiàn)實(shí)事物被吞噬于仿真之中,不再根源于任何“現(xiàn)實(shí)”。
法國哲學(xué)家皮埃爾·布爾迪厄提出的“符號(hào)暴力”與算法權(quán)力符號(hào)作用機(jī)制相契合,這一概念意指統(tǒng)治階級(jí)與受眾自身進(jìn)行合謀,通過符號(hào)權(quán)力施加暴力,這種暴力源于隨時(shí)間累積而形成的習(xí)慣性的社會(huì)存在模式[14]。權(quán)力主體先利用算法技術(shù)在空間中獲得生產(chǎn)前提,而后通過符號(hào)權(quán)力進(jìn)行意義建構(gòu),使受眾的價(jià)值看法受到習(xí)慣性的社會(huì)存在模式的影響,而該模式恰恰是根據(jù)生產(chǎn)者的價(jià)值觀構(gòu)建而成的。符號(hào)暴力并非訴諸如軍事、經(jīng)濟(jì)等強(qiáng)制手段的赤裸裸的強(qiáng)硬暴力,而是一種“溫和的暴力”[15],符號(hào)的掌握與運(yùn)用是算法空間權(quán)力主體實(shí)施文化和意識(shí)形態(tài)影響的重要表征。
算法空間中的流量邏輯亦是如此,算法權(quán)力本身蘊(yùn)含的資本邏輯和技術(shù)邏輯會(huì)不斷放大算法空間中的流量崇拜,長期在以流量和熱度為導(dǎo)向的“投喂”之下,受眾的能動(dòng)性和主體性遭到侵蝕,價(jià)值選擇和認(rèn)知受到算法權(quán)力的干預(yù),會(huì)在自覺或不自覺中接受來自權(quán)力符號(hào)的規(guī)訓(xùn),甚至在符號(hào)暴力的圍困中變?yōu)槭r(jià)值判斷的“工具人”。其中,大量用戶在主觀上并不認(rèn)為這是來自流量符號(hào)的暴力,反而為其合理性進(jìn)行聲張與辯護(hù),從而強(qiáng)化了符號(hào)暴力的威力。如此,在算法空間內(nèi)符號(hào)暴力借“信息繭房”之勢(shì),不斷封閉循環(huán),對(duì)現(xiàn)實(shí)社會(huì)的主流意識(shí)形態(tài)構(gòu)成內(nèi)源性挑戰(zhàn)。當(dāng)受眾沉溺于權(quán)力形塑的符號(hào)景觀之中,便喪失了對(duì)現(xiàn)實(shí)本真的追尋動(dòng)力,而掌控權(quán)力符號(hào)的主體不費(fèi)吹灰之力便獲得了控制社會(huì)空間的能力。因此,算法權(quán)力符號(hào)通常隱藏著權(quán)力指向,其原真性在信息流通過程中不斷被消解,人們?cè)絹碓缴钤谒惴?quán)力塑造的符號(hào)統(tǒng)一體中,現(xiàn)實(shí)世界呈現(xiàn)的也不過是諸多符號(hào)的表象。
三、“返魅”:以踐履路徑實(shí)現(xiàn)對(duì)算法權(quán)力的實(shí)踐突圍
基于上文對(duì)“祛魅”的分析,需以三重內(nèi)在機(jī)制對(duì)算法權(quán)力之“魅”進(jìn)行解構(gòu),實(shí)現(xiàn)對(duì)算法權(quán)力的“返魅”。智能化時(shí)代,人類依然需要借助和使用算法技術(shù),對(duì)算法權(quán)力的“返魅”有著內(nèi)生需求。但是,這種“返魅”是建立在“目的—手段”“權(quán)力—權(quán)利”“路徑—?dú)w旨”三重辯證關(guān)系基礎(chǔ)上的“返魅”,旨在實(shí)現(xiàn)對(duì)算法權(quán)力的馴化、規(guī)制與引領(lǐng)。
(一)技術(shù)“返魅”:基于“目的—手段”的辯證關(guān)系,馴化算法權(quán)力
算法技術(shù)不僅改變了人類對(duì)世界的認(rèn)知方式與行為方式,也重塑了自我認(rèn)知。在某種層面上,技術(shù)的進(jìn)步往往意味著人類的退步,這種退步是人類感官、意識(shí)等多方面的萎縮,是一種新的欺騙形式,是“祛魅”之后的“返魅”,是主奴辯證法的新型權(quán)力關(guān)系[16]。權(quán)力秩序在算法工具理性的支配下被重新定義,算法儼然成為支配人與分配資源的主宰,在這種屈從與支配的關(guān)系中,算法權(quán)力應(yīng)運(yùn)而生。由于算法權(quán)力缺乏可視性,算法空間中的每一個(gè)人都在“享受”算法權(quán)力支配帶來的便利與自由,這是一種比“朝施暮戮”更致命的“自由的感覺”。因而,理應(yīng)反思身處算法權(quán)力支配下人的處境以及其與技術(shù)的關(guān)系,以馴化算法權(quán)力。
算法時(shí)代,人們對(duì)于算法技術(shù)的崇拜已經(jīng)使其從實(shí)現(xiàn)目的的手段轉(zhuǎn)變?yōu)橐环N目的存在,原本作為解放雙手的技術(shù),逐漸變?yōu)榻y(tǒng)治世界的工具。基于此,算法的意義逐漸呈現(xiàn)出“從手段趨于目的”的意味。不僅如此,在算法權(quán)力的崛起與籠罩下,其量化機(jī)制在對(duì)人的特殊性進(jìn)行消解的同時(shí),精準(zhǔn)投喂機(jī)制又使得人在無意識(shí)層面產(chǎn)生與算法之間相互認(rèn)可的快感,算法依賴日益加深,后果便是算法權(quán)力對(duì)生產(chǎn)、分配、交換和消費(fèi)等全方位的統(tǒng)治。而原本作為主體的人喪失了自身的獨(dú)立性和自主性,看似體現(xiàn)主體能動(dòng)性的受眾選擇,實(shí)則卻是主體自主性意志的喪失,個(gè)性化人格變成一種“被召喚”的主體人格,使在“信息繭房”自我回聲中不斷放大個(gè)性的主體,淪為算法權(quán)力實(shí)現(xiàn)目的的手段,“目的—手段”的辯證關(guān)系發(fā)生根本性顛倒。
海德格爾認(rèn)為,“算法技術(shù)首先是作為一種經(jīng)由人的行為創(chuàng)造和利用的合目的的工具出現(xiàn)的”,是數(shù)字時(shí)代的人們?yōu)樘岣邤?shù)據(jù)的使用效率這一目的而創(chuàng)制的工具和手段。國內(nèi)學(xué)者荊學(xué)民也曾指出,“讓‘人是目的’成為偉大的政治信仰”[17]。算法技術(shù)作為“人的延伸”,關(guān)注人的主體性應(yīng)當(dāng)始終是其發(fā)展的出發(fā)點(diǎn)和落腳點(diǎn),人類推動(dòng)算法技術(shù)的發(fā)展是對(duì)象化的勞動(dòng),應(yīng)該防止算法權(quán)力膨脹超越人類自身,以致忘記自身的物質(zhì)存在,要防止馬克思曾提及的“使物質(zhì)力量具有理智生命,而人的生命則化為愚鈍的物質(zhì)力量”這一現(xiàn)象發(fā)生[18]。因此,馴化算法權(quán)力,務(wù)必要意識(shí)到算法權(quán)力的出現(xiàn)是技術(shù)實(shí)踐發(fā)展的歷史必然,而推動(dòng)和承接這一發(fā)展的是“人”這一主體。同時(shí),受眾個(gè)體應(yīng)該積極提升相應(yīng)的算法素養(yǎng),預(yù)防技術(shù)可能帶來的潛在危害,這樣才能更好地融入算法空間并獲取良性資源,防止被算法權(quán)力牽著鼻子走。
(二)權(quán)力“返魅”:基于“權(quán)力—權(quán)利”的辯證關(guān)系,規(guī)制算法權(quán)力
技術(shù)賦魅致使算法權(quán)力脫離了受眾掌控,權(quán)力主體的價(jià)值得以植入其中,帶來了諸多潛在風(fēng)險(xiǎn)。算法權(quán)力的崛起對(duì)既有的權(quán)力與權(quán)利秩序均構(gòu)成了挑戰(zhàn),算法“客觀”“中立”的技術(shù)光環(huán)所掩蓋的是一種極度的不公正。算法程序是權(quán)力主體單方面設(shè)定的產(chǎn)物,對(duì)于其中的不盡合理之處,受眾只能被動(dòng)接受,“信息繭房”、算法歧視等問題均對(duì)受眾的知情權(quán)、隱私權(quán)等基本權(quán)利構(gòu)成挑戰(zhàn)。算法權(quán)力主體和受眾地位平等,其中任意一方都不能凌駕于對(duì)方之上,當(dāng)算法權(quán)力主體駕凌于受眾之上時(shí),就應(yīng)當(dāng)實(shí)現(xiàn)雙方平等地位的復(fù)歸,以權(quán)利規(guī)制算法權(quán)力。
“權(quán)力”是單向度的控制,而“權(quán)利”卻是雙向度的制約。美國社會(huì)學(xué)家丹尼斯·朗對(duì)權(quán)力進(jìn)行了系統(tǒng)研究,認(rèn)為“權(quán)力是某些人對(duì)他人產(chǎn)生預(yù)期效果的能力”,權(quán)力彰顯于一方對(duì)另一方的控制和支配。而“權(quán)利”則體現(xiàn)的是權(quán)利雙方的平等關(guān)系,“權(quán)利是指特定主體為實(shí)現(xiàn)一定的利益,依法直接擁有或依法為他人設(shè)定的做一定行為或不做一定行為的可能性”[19],而且,權(quán)利和義務(wù)是彼此依存的。算法的運(yùn)行應(yīng)當(dāng)始終堅(jiān)持“人是目的”這一根本價(jià)值,算法權(quán)力的規(guī)制應(yīng)建立在維護(hù)受眾權(quán)利的基礎(chǔ)之上。以權(quán)利約束算法權(quán)力,在于堅(jiān)持算法的正義尺度,從編制程序、數(shù)據(jù)汲取到精準(zhǔn)推薦均應(yīng)確保最大限度減少算法歧視和最大多數(shù)人的平等參與,以切實(shí)維護(hù)算法受眾的基本權(quán)利。
此外,在權(quán)利與權(quán)力的邊界關(guān)系問題上,任何一方的運(yùn)行都不能越界。當(dāng)權(quán)力過大時(shí),會(huì)出現(xiàn)干預(yù)過多的問題,進(jìn)而侵害私人權(quán)利;當(dāng)權(quán)力過小時(shí),則存在干預(yù)不足的現(xiàn)象,致使權(quán)利無法正常行使。因而,要維持權(quán)利邊界與權(quán)力邊界之間的平衡。算法權(quán)力在對(duì)主體進(jìn)行干預(yù)時(shí),應(yīng)將受眾的權(quán)利置于優(yōu)先考量地位,同時(shí)行使算法權(quán)力時(shí)務(wù)必遵守“群己權(quán)界”原則,從而達(dá)成算法主體權(quán)力與受眾權(quán)利邊界的平衡。權(quán)利讓渡后權(quán)力被生產(chǎn)出來,而算法權(quán)力作為技術(shù)的延伸也應(yīng)以權(quán)利為界。在維護(hù)受眾權(quán)益的同時(shí),要積極完善適用于算法空間的權(quán)利保障體系,突出保障受眾權(quán)利在算法權(quán)力治理制度建構(gòu)中的優(yōu)先性原則[20],使算法服務(wù)于受眾權(quán)利的確立、行使和保障。要以制度化建設(shè)規(guī)制算法權(quán)力的無序擴(kuò)張,保障受眾的平等權(quán)、自由權(quán)、財(cái)產(chǎn)權(quán)和信息權(quán),不斷夯實(shí)算法權(quán)力治理的合法性基礎(chǔ)。
(三)價(jià)值“返魅”:基于“路徑—?dú)w旨”的辯證關(guān)系,引領(lǐng)算法權(quán)力
算法在社會(huì)實(shí)踐中的普遍應(yīng)用,改變了以往傳統(tǒng)的意識(shí)形態(tài)生成路徑,作為新技術(shù)路徑,其以“過濾氣泡”“信息繭房”等傳播策略以及特定的符號(hào)表征逐漸生成了具有算法特征的新型意識(shí)形態(tài)。算法技術(shù)具備顯著的主觀意識(shí),在海量的數(shù)據(jù)中找尋底層結(jié)構(gòu),不斷生成對(duì)關(guān)聯(lián)性的評(píng)判標(biāo)準(zhǔn)。因此,算法空間也逐漸成為新時(shí)代意識(shí)形態(tài)工作主陣地,算法權(quán)力主體成為賽博空間意識(shí)形態(tài)代言人。習(xí)近平明確指出:“要用主流價(jià)值導(dǎo)向駕馭‘算法’,全面提高輿論引導(dǎo)能力?!保?1]作為形塑意識(shí)形態(tài)的軟性權(quán)力,離開主流價(jià)值的引領(lǐng),算法權(quán)力就會(huì)如脫韁的野馬,給意識(shí)形態(tài)安全帶來風(fēng)險(xiǎn)。因而,在馴化和規(guī)制算法權(quán)力的基礎(chǔ)上,還需以主流價(jià)值觀引領(lǐng)算法權(quán)力,避免其帶來的意識(shí)形態(tài)負(fù)效應(yīng),爭(zhēng)取為主流意識(shí)形態(tài)的傳播和認(rèn)同拓展更大的空間。
算法權(quán)力并非洪水猛獸,在算法空間中,存在多元的價(jià)值譜系,應(yīng)以高勢(shì)位的價(jià)值導(dǎo)向?qū)ζ溥M(jìn)行技術(shù)糾偏,引導(dǎo)算法和權(quán)力運(yùn)用“向善”。一方面,助推主流價(jià)值不斷融入算法技術(shù),營造風(fēng)清氣正的算法空間價(jià)值生態(tài)。從源頭上,實(shí)現(xiàn)價(jià)值理性對(duì)技術(shù)理性的超越和引領(lǐng),積極引導(dǎo)算法程序設(shè)計(jì)者和傳播媒介平臺(tái)樹立正確的價(jià)值觀念,努力協(xié)調(diào)技術(shù)、利益與社會(huì)責(zé)任三者關(guān)系,實(shí)現(xiàn)動(dòng)態(tài)平衡,以“價(jià)值含量”駕馭“信息流量”。此外,除了從源頭介入加強(qiáng)權(quán)力主體的倫理自律,還需增強(qiáng)對(duì)受眾算法素養(yǎng)的培育力度,在算法與受眾交互中不斷重塑算法空間的價(jià)值鏈,全方位提升受眾在沉浸式算法機(jī)制中的信息生產(chǎn)、選擇、甄別及整合素養(yǎng),培養(yǎng)受眾對(duì)算法權(quán)力的理性認(rèn)知和批判意識(shí),使其能夠知曉算法權(quán)力生成、運(yùn)行背后的技術(shù)邏輯和衍生出的意識(shí)形態(tài)風(fēng)險(xiǎn)作用機(jī)理,讓算法成為切實(shí)服務(wù)于人全面發(fā)展的助推器。
另一方面,以主流價(jià)值引領(lǐng)算法權(quán)力,做好對(duì)算法技術(shù)的價(jià)值把關(guān)。在算法技術(shù)社會(huì)化運(yùn)用的今天,算法已然無法做到“無涉價(jià)值”,因而,在人機(jī)協(xié)同的基礎(chǔ)上構(gòu)筑以主流意識(shí)形態(tài)為導(dǎo)向的算法把關(guān)機(jī)制就顯得尤為重要。在價(jià)值把關(guān)過程中,應(yīng)將高效能的算法審核和高品質(zhì)的人工審核有機(jī)結(jié)合,在算法把關(guān)上堅(jiān)持人機(jī)協(xié)同原則,以主流價(jià)值觀念引領(lǐng)算法權(quán)力。同時(shí),還要從頂層設(shè)計(jì)出發(fā),多層次、多場(chǎng)景、多維度地增加主流意識(shí)形態(tài)內(nèi)容在算法空間中的占比,從而實(shí)現(xiàn)多元主體協(xié)同發(fā)力,推動(dòng)人與算法權(quán)力關(guān)系的革新。
參考文獻(xiàn):
[1]陳氚.權(quán)力的隱身術(shù):互聯(lián)網(wǎng)時(shí)代的權(quán)力技術(shù)隱喻[J].福建論壇(人文社會(huì)科學(xué)版),2015(12):67-72.
[2]張愛軍.“算法利維坦”的風(fēng)險(xiǎn)及其規(guī)制[J].探索與爭(zhēng)鳴,2021(1):95-102+179.
[3]齊格蒙特·鮑曼.流動(dòng)的現(xiàn)代性[M].歐陽景根,譯.北京:中國人民大學(xué)出版社,2018:23-43.
[4]張一兵.偽“我要”:他者欲望的欲望[J].學(xué)習(xí)與探索,2005(3):50-54.
[5]王梅芳,劉華魚.景觀社會(huì):一種視覺傳播化的統(tǒng)治[J].當(dāng)代傳播,2017(3):30-32+61.
[6]湯擁華.??逻€是拉康:一個(gè)有關(guān)凝視的考察[J].文藝研究,2020(12):5-19.
[7]吳瓊.他者的凝視:拉康的“凝視”理論[J].文藝研究,2010(4):33-42.
[8]余紅,余夢(mèng)瓏.算法嵌入傳播:平臺(tái)媒體的權(quán)力轉(zhuǎn)移與風(fēng)險(xiǎn)規(guī)避[J].中州學(xué)刊,2022(9):162-168.
[9]戴宇辰.從“全景敞視”到“獨(dú)景窺視”:福柯、拉圖爾與社會(huì)化媒體時(shí)代的空間[J].國際新聞界,2021,43(7):6-24.
[10]韓炳哲.透明社會(huì)[M].吳瓊,譯.北京:中信出版社,2019:9.
[11]王蔚.數(shù)字資本主義勞動(dòng)過程及其情緒剝削[J].經(jīng)濟(jì)學(xué)家,2021(2):15-22.
[12]未來工作研究院.2022中國數(shù)字靈工市場(chǎng)發(fā)展研究報(bào)告[EB/OL].(2022-03-18)[2023-01-05].https://wwwsgpjbgcom/info/31581html.
[13]鄭鵬. 流動(dòng)空間中的權(quán)力實(shí)踐機(jī)制[D].武漢:華中師范大學(xué),2022:33.
[14]尚帥.傳播的興趣偏向和渾然不覺的符號(hào)暴力:基于《今日頭條》的算法控制研究[J].現(xiàn)代傳播(中國傳媒大學(xué)學(xué)報(bào)),2018,40(10):58-62.
[15]戴維·斯沃茨.文化與權(quán)力[M].陶東風(fēng),譯.上海:上海譯文出版社,2006:103.
[16]劉煜洲,藍(lán)江.數(shù)字時(shí)代下的算法理性與算法權(quán)力:對(duì)算法權(quán)力中人的處境的再思考[J].內(nèi)蒙古社會(huì)科學(xué),2024,45(1):107-114.
[17]荊學(xué)民,劉元頓.讓“人是目的”成為偉大的政治信仰:關(guān)于人工智能與政治傳播關(guān)系的省思[J].現(xiàn)代出版,2024(2):45-54+7.
[18]馬克思恩格斯全集:第12卷[M].北京:人民出版社,1962:3-4.
[19]呂世倫,寧光明.權(quán)利與權(quán)力關(guān)系研究[J].學(xué)習(xí)與探索,2007(4):99-106.
[20]李軍剛.中國算法權(quán)力治理的主體結(jié)構(gòu)、異化風(fēng)險(xiǎn)及協(xié)同規(guī)制[J].理論導(dǎo)刊,2024(1):73-79+94.
[21]習(xí)近平.加快推動(dòng)媒體融合發(fā)展 構(gòu)建全媒體傳播格局[J].求是,2019(6):4-7.
【責(zé)任編輯:張曉妍】
基金項(xiàng)目:國家社會(huì)科學(xué)基金高校思想政治理論課研究專項(xiàng)“‘新時(shí)代中國特色社會(huì)主義理論與實(shí)踐’課實(shí)踐教學(xué)與理論教學(xué)良性互動(dòng)研究”(23VSZ063);山西省哲學(xué)社會(huì)科學(xué)規(guī)劃課題“延安時(shí)期文化發(fā)展活力的生成與實(shí)現(xiàn)機(jī)制研究”(2022YJ029)。
作者簡(jiǎn)介:孫文琪(1998—),女,山西壽陽人,太原理工大學(xué)馬克思主義學(xué)院碩士研究生,研究方向:媒介發(fā)展與意識(shí)形態(tài)建設(shè);姚建軍(1970—),男,山西夏縣人,太原理工大學(xué)馬克思主義學(xué)院副院長,教授,碩士生導(dǎo)師,法學(xué)博士,研究方向:媒介發(fā)展與意識(shí)形態(tài)建設(shè);王志超(1998—),男,山西陽城人,太原理工大學(xué)馬克思主義學(xué)院碩士研究生,研究方向:媒介發(fā)展與意識(shí)形態(tài)建設(shè)。