陳文勝

(西南科技大學(xué) 馬克思主義學(xué)院， 四川 綿陽(yáng) 621010)

一、引 言

如今，隨著數(shù)據(jù)化和智媒化時(shí)代的到來(lái)，人工智能算法越來(lái)越多地應(yīng)用于現(xiàn)實(shí)世界，成為主導(dǎo)我們?nèi)粘Ｉ钪杏螒?、消費(fèi)、工作、旅行、通信、家務(wù)、健康、安全等領(lǐng)域信息選擇和傳播的新興權(quán)力。正如迪科普洛斯(Diakopoulos)所言，“我們生活在一個(gè)由算法來(lái)裁決我們生活中越來(lái)越重要的決定的世界里。……由大量數(shù)據(jù)驅(qū)動(dòng)的算法是社會(huì)中新的權(quán)力掮客”。〔1〕搜索引擎幫助用戶瀏覽海量信息數(shù)據(jù)庫(kù)，而智能算法則成為支配和控制人們所依賴的信息流的關(guān)鍵邏輯，不僅管理用戶對(duì)信息的感知和獲取方式，還具有調(diào)節(jié)、生產(chǎn)、分配價(jià)值意義的能力。算法的權(quán)力性質(zhì)及在社會(huì)過(guò)程中的潛在作用，使其在很大程度上是一種強(qiáng)大的社交存在和一種通過(guò)多重關(guān)系編織而成的力量，不僅給信息傳播帶來(lái)革命性作用，也不斷重塑著社會(huì)、文化以及人的思想價(jià)值觀念。對(duì)此，比爾(Beer)指出，算法“有能力塑造社會(huì)和文化形態(tài)，并直接影響個(gè)人生活”?！?〕

事實(shí)上，人工智能時(shí)代，算法技術(shù)不僅塑造生活習(xí)慣，“而且塑造思維模式和價(jià)值”?！?〕它表征著“新的做事方式、新的社會(huì)和經(jīng)濟(jì)關(guān)系形式、新的文化活動(dòng)模式，以及交流信息和創(chuàng)造知識(shí)的新方式”。〔4〕算法可以以多種方式來(lái)構(gòu)思，體現(xiàn)在技術(shù)、計(jì)算、數(shù)學(xué)、政治、文化、經(jīng)濟(jì)、環(huán)境、物質(zhì)、哲學(xué)、倫理等各個(gè)領(lǐng)域上，并嵌入廣泛的社會(huì)技術(shù)集合之中。從價(jià)值觀構(gòu)建角度來(lái)思考，算法不僅被賦予價(jià)值，還是構(gòu)建和實(shí)現(xiàn)權(quán)力和知識(shí)的制度，它們的使用具有規(guī)范性含義。算法被用來(lái)引導(dǎo)、脅迫、約束、調(diào)節(jié)、控制和重塑人們?cè)诟鞣N社會(huì)系統(tǒng)中的行為。算法在為價(jià)值觀構(gòu)建帶來(lái)轉(zhuǎn)型契機(jī)的同時(shí)，其內(nèi)在的缺陷及其不當(dāng)使用產(chǎn)生的算法偏見(jiàn)、“信息繭房”“黑箱”、假新聞泛濫等也會(huì)給價(jià)值觀構(gòu)建帶來(lái)諸多隱憂。鑒于此，迫切需要學(xué)界從認(rèn)識(shí)論和實(shí)踐上關(guān)注和探討算法的價(jià)值觀及其運(yùn)行邏輯，使馴服后的算法技術(shù)為主流價(jià)值觀的重塑和構(gòu)建服務(wù)。

二、智能算法嵌入主流價(jià)值觀的理論邏輯

在多元價(jià)值觀念相互作用中形成的主流價(jià)值觀是主流民眾認(rèn)可、信奉的共通的價(jià)值觀念體系、價(jià)值導(dǎo)向和行動(dòng)規(guī)范。作為技術(shù)和資本權(quán)力的隱喻，智能算法已成為影響主流價(jià)值觀構(gòu)建的重要技術(shù)因素，因?yàn)樗惴ū旧硖N(yùn)含著價(jià)值判斷和道德選擇，“體現(xiàn)了價(jià)值觀，能夠通過(guò)提供和阻礙某些實(shí)踐、行為和活動(dòng)來(lái)組織和強(qiáng)加社會(huì)秩序”?！?〕這種隱蔽在軟件代碼運(yùn)行之中的價(jià)值觀有其特殊的發(fā)生邏輯和重要的價(jià)值意蘊(yùn)，這也使得主流價(jià)值觀嵌入算法成為可能。

(一)算法概念的界定與厘清

算法通常被理解為計(jì)算機(jī)應(yīng)該如何完成特定任務(wù)的一組指令，用來(lái)描述系統(tǒng)化的計(jì)算代碼、人類實(shí)踐和規(guī)范邏輯的集合。根據(jù)定義，算法“包括人類或計(jì)算機(jī)可以遵循的任何規(guī)則”，〔6〕是“將輸入轉(zhuǎn)換為輸出的指令序列”。〔7〕因此，基本上，該術(shù)語(yǔ)通常表示“計(jì)算過(guò)程的抽象、形式化描述”，〔8〕該過(guò)程基于統(tǒng)計(jì)模型或決策規(guī)則自主決策。從計(jì)算和程序設(shè)計(jì)的角度來(lái)看，“算法=邏輯+控制”，即用邏輯條件(關(guān)于問(wèn)題的知識(shí))和控制結(jié)構(gòu)(解決問(wèn)題的策略)來(lái)表達(dá)計(jì)算解決方案。對(duì)于程序員來(lái)說(shuō)，算法體現(xiàn)了一種命令結(jié)構(gòu)，而對(duì)于用戶來(lái)說(shuō)，算法主要是助手，例如檢索者、排序者、過(guò)濾者、推薦者、決定者等。因此，它們是“解決問(wèn)題的機(jī)制”以及把關(guān)和選擇的工具，其任務(wù)是“自動(dòng)分配某些選定信息的相關(guān)性”，并使其“有意義地可見(jiàn)”?！?〕算法可以用多種符號(hào)表示，包括自然語(yǔ)言、算術(shù)語(yǔ)言或計(jì)算機(jī)語(yǔ)言；常用的有窮舉搜索法、遞歸法、回溯法、貪婪法、分治法等；具有有窮性、確切性、可行性、輸入、輸出五個(gè)重要特征。算法是計(jì)算系統(tǒng)力量和潛力的一種簡(jiǎn)寫(xiě)，可以比人類更快、更全面、更準(zhǔn)確地思考。

智能算法權(quán)力首先是一種技術(shù)權(quán)力。依據(jù)?？碌闹卫砝碚摚瑢?quán)力關(guān)系設(shè)想為兩個(gè)基本組成部分。第一種是理性主義，或“使現(xiàn)實(shí)變得可思考的方式，使其能夠接受計(jì)算和編程”。第二種是權(quán)力技術(shù)，即“充滿希望的塑造行為，以期產(chǎn)生某些預(yù)期效果和避免某些不希望發(fā)生的事件”的技術(shù)和戰(zhàn)略?！?0〕算法隱形性的結(jié)構(gòu)化能力代表了一種新形式的霸權(quán)力量，這種霸權(quán)力量是基于生成性規(guī)則運(yùn)作的，或者是生成各種各樣的實(shí)際情況的虛擬現(xiàn)實(shí)。嵌入算法中的代碼邏輯充當(dāng)資本權(quán)力的管道，使權(quán)力日益嵌入算法中，并形成一種新型的權(quán)力形態(tài)：算法權(quán)力，它成為支配我們的社會(huì)決策和集體命運(yùn)的權(quán)力。作為數(shù)字媒體和信息技術(shù)權(quán)力的固有核心部分，算法在構(gòu)建日常在線交流、組織和推薦媒體內(nèi)容或在公共管理等領(lǐng)域的決策中顯得愈加重要。正如基欽(Kitchin)所指出的，“我們現(xiàn)在正進(jìn)入一個(gè)廣泛應(yīng)用算法治理的時(shí)代，其中，算法將在權(quán)力的行使中扮演越來(lái)越重要的角色，這是一種自動(dòng)化社會(huì)紀(jì)律和控制的手段”?！?1〕

智能算法的背后是資本權(quán)力。包括機(jī)器學(xué)習(xí)系統(tǒng)在內(nèi)的所有算法系統(tǒng)都是非中性的，都是復(fù)雜的、動(dòng)態(tài)的人員和代碼安排，它們作為社會(huì)技術(shù)系統(tǒng)運(yùn)行。開(kāi)放的互聯(lián)網(wǎng)在很大程度上被少數(shù)資本驅(qū)動(dòng)的商業(yè)運(yùn)營(yíng)平臺(tái)所包圍，這些平臺(tái)是商業(yè)資本和企業(yè)權(quán)力所控制的場(chǎng)所。正如卡爾波克(Kalpokas)所言，“今天的算法治理制度具有明顯的私人性質(zhì)，成為越來(lái)越多被稱為平臺(tái)經(jīng)濟(jì)或平臺(tái)資本主義或‘?dāng)?shù)字資本主義、大數(shù)據(jù)資本主義’的一部分”?！?2〕對(duì)此，帕索斯(Passoth)也指出：“平臺(tái)、數(shù)據(jù)和算法這三個(gè)層面的技術(shù)政治并不是數(shù)字技術(shù)的固有政治，而是由我們數(shù)字產(chǎn)業(yè)的大玩家——谷歌、Facebook、蘋(píng)果——所賦予的，現(xiàn)在正塑造和決定著我們當(dāng)代算法文化的輪廓和細(xì)節(jié)?！薄?3〕在算法的實(shí)際運(yùn)作中，它的優(yōu)先事項(xiàng)通常是資本性的：增長(zhǎng)、規(guī)模和利潤(rùn)；算法甚至將人物化和商品化，使人變成數(shù)據(jù)生成器。結(jié)果出現(xiàn)“技術(shù)原教旨主義的意識(shí)形態(tài)越來(lái)越與資本主義意識(shí)形態(tài)結(jié)盟”?！?4〕在與傳統(tǒng)媒體相比中，算法現(xiàn)實(shí)構(gòu)建更傾向于增加個(gè)性化、商業(yè)化、不平等和威懾性，卻降低了透明度、可控性和可預(yù)測(cè)性。

(二)智能算法的價(jià)值觀維度

計(jì)算機(jī)語(yǔ)言和開(kāi)發(fā)平臺(tái)日新月異，但萬(wàn)變不離其宗的是那些算法理論，而這些算法“將社會(huì)價(jià)值觀和商業(yè)模式結(jié)合起來(lái)，并預(yù)先確定人和組織的價(jià)值觀”?！?5〕不管是人工智能還是機(jī)器人學(xué)習(xí)，都是由在意識(shí)形態(tài)領(lǐng)域具有某種價(jià)值觀的人所操縱的。他們參與算法規(guī)制的制定，利用搜索引擎、社交媒體、商業(yè)公司收集人們網(wǎng)上留下的痕跡，作出種種決定，并推送千人千面的精準(zhǔn)信息，影響著人們的思想和價(jià)值觀。從這個(gè)維度講，算法包含潛在的道德判斷，又可以產(chǎn)生與倫理相關(guān)的結(jié)果，其決策和選擇過(guò)程都會(huì)揭示價(jià)值觀。人類的技術(shù)從來(lái)不是中立的，它都包含著人類的思想和價(jià)值觀。正所謂我們塑造了工具，此后工具又塑造了我們。技術(shù)，比如算法，被設(shè)計(jì)來(lái)執(zhí)行一項(xiàng)任務(wù)，并考慮到特定的價(jià)值觀。智能算法一直被理解為手段領(lǐng)域的一部分，而價(jià)值觀則被認(rèn)為是目的領(lǐng)域的一部分?！八惴梢詻Q定價(jià)值、相關(guān)性和可見(jiàn)性，建立和分配特權(quán)”，〔16〕因此，只要確定結(jié)果的效用，就可以構(gòu)建出一種倫理價(jià)值觀上最為理想的決策。

算法是社會(huì)性的，因?yàn)樗鼈冊(cè)谠O(shè)計(jì)和學(xué)習(xí)階段都受到人類價(jià)值結(jié)構(gòu)的影響，并且產(chǎn)生了價(jià)值和道德后果。另外，“算法不是公正的、客觀的和價(jià)值中立的，相反，它們是不可避免地充滿價(jià)值的”，〔17〕因?yàn)樗鼈兊牟僮鲄?shù)由開(kāi)發(fā)人員指定，由用戶配置，并考慮到期望的結(jié)果，通常使某些值和興趣優(yōu)先于其他算法，至少在選擇許多可能的設(shè)計(jì)選項(xiàng)、變量及其值等方面是這樣的。正如澤里利(Zerilli)所言，“算法開(kāi)發(fā)從來(lái)都不是一個(gè)完全客觀的、沒(méi)有價(jià)值的努力：它將受到一系列社會(huì)和制度規(guī)范、實(shí)踐和態(tài)度的影響，這些規(guī)范、實(shí)踐和態(tài)度很可能在設(shè)計(jì)中形成偏見(jiàn)”。〔18〕對(duì)此，格林菲爾德(Greenfield)也強(qiáng)調(diào)，算法功能和設(shè)計(jì)反映了“設(shè)計(jì)者的價(jià)值和預(yù)期用途”?！?9〕理魯?shù)录{(Rudner)在論及科學(xué)過(guò)程中的價(jià)值決定時(shí)還強(qiáng)調(diào)，“如果直覺(jué)地、無(wú)意識(shí)地、隨意地去作出決定，卻忽視必須作出的價(jià)值決定，就會(huì)讓科學(xué)方法的一個(gè)重要方面失去控制”?！?0〕

(三)主流價(jià)值觀嵌入智能算法的邏輯意蘊(yùn)

算法是信息技術(shù)的核心部分，是一組隱含價(jià)值的系統(tǒng)化的代碼、實(shí)踐和規(guī)范，它們通過(guò)半自主的行為來(lái)創(chuàng)建、維持和表示人與數(shù)據(jù)之間的關(guān)系。算法意義上的我們被塞滿了各種數(shù)據(jù)，并要按照數(shù)據(jù)的邏輯去理解世界。從算法的技術(shù)邏輯來(lái)看，算法通過(guò)對(duì)內(nèi)容信息的獲取、分詞、特征分析與內(nèi)容挖掘、在線監(jiān)測(cè)與社會(huì)情感評(píng)價(jià)等相關(guān)技術(shù)來(lái)實(shí)現(xiàn)對(duì)用戶內(nèi)容的分析應(yīng)用，將特定的價(jià)值觀植入算法后臺(tái)程序，并運(yùn)用技術(shù)特有功能和程序設(shè)定的特定方向作出意義“轉(zhuǎn)碼”和“解碼”。算法可以用來(lái)計(jì)算人們的情感偏好、價(jià)值取向、政治情感，篩選、優(yōu)化信息資源，配送有價(jià)值的信息資源和知識(shí)，管理個(gè)性化內(nèi)容，驅(qū)動(dòng)推薦和過(guò)濾系統(tǒng)，創(chuàng)建預(yù)測(cè)模型等。基于這些技術(shù)特點(diǎn)和優(yōu)勢(shì)，算法可以通過(guò)密集、高效、精準(zhǔn)、個(gè)性的傳播效應(yīng)，幫助受眾在數(shù)據(jù)資源的使用過(guò)程中，形成技術(shù)與價(jià)值互構(gòu)的傳播模式，尤其是對(duì)用戶進(jìn)行個(gè)性化培養(yǎng)和價(jià)值觀引導(dǎo)。

近年來(lái)，隨著大數(shù)據(jù)、社交網(wǎng)絡(luò)、云計(jì)算的發(fā)展，我們見(jiàn)證了社會(huì)算法的興起。正如桑斯坦(Sunstein)所言，我們生活在一個(gè)算法的時(shí)代?！?1〕這些算法“調(diào)整我們的規(guī)模，評(píng)估我們想要的，并提供定制的體驗(yàn)”，“可以用來(lái)推動(dòng)用戶并影響個(gè)人和群體的動(dòng)機(jī)、行為和決策”。〔22〕在算法營(yíng)造的擬態(tài)環(huán)境中，用戶的價(jià)值觀也面臨著重塑、改造。但是由資本邏輯驅(qū)動(dòng)的算法帶來(lái)的精神荒蕪、“信息繭房”造成的價(jià)值偏見(jiàn)、工具理性導(dǎo)致的價(jià)值無(wú)涉和失序等風(fēng)險(xiǎn)已嚴(yán)重影響到意識(shí)形態(tài)安全。因此，亟需發(fā)揮主流價(jià)值觀的引領(lǐng)、導(dǎo)向、凝聚、激勵(lì)、調(diào)節(jié)、轉(zhuǎn)化功能，從而形成算法與主流價(jià)值觀深度融合的智能閉環(huán)。同時(shí)，算法代碼反映了制度邏輯，代表了設(shè)計(jì)者和決策者的觀點(diǎn)。作為算法技術(shù)的設(shè)計(jì)師、發(fā)明者或運(yùn)用者，必須自覺(jué)地以主流價(jià)值為導(dǎo)向駕馭算法，創(chuàng)造一個(gè)更加美好的社會(huì)。

三、智能算法時(shí)代主流價(jià)值觀構(gòu)建面臨的現(xiàn)實(shí)困境

隨著新的數(shù)字、智能算法技術(shù)的出現(xiàn)，人們的日常生活已經(jīng)被媒體全面“重新格式化”。算法是當(dāng)今數(shù)字世界的核心，算法代碼控制著所有的數(shù)字活動(dòng)。算法被理解為特殊的代理模式或新的社會(huì)秩序形式，它可能挑戰(zhàn)根深蒂固的哲學(xué)范疇，同時(shí)引發(fā)新的倫理困境。在缺乏政策干預(yù)和對(duì)創(chuàng)新進(jìn)行充分管理的情況下，算法也可能給現(xiàn)實(shí)的價(jià)值觀構(gòu)建帶來(lái)諸多隱憂，如操縱、偏見(jiàn)、監(jiān)視、污染、侵犯隱私、不透明、“信息繭房”和不良信息泛濫等風(fēng)險(xiǎn)。

(一)“受眾本位”解構(gòu)主流價(jià)值觀的權(quán)威地位

算法技術(shù)的運(yùn)用全面地影響著人際傳播的模式。從20世紀(jì)70年代的“布告欄系統(tǒng)”到21世紀(jì)初的“Web2.0”平臺(tái)，信息通信技術(shù)的民主化潛力使得算法被集成到越來(lái)越多的基于互聯(lián)網(wǎng)的應(yīng)用程序中，從而將受眾的需求置于分發(fā)邏輯首位，去關(guān)注受眾、聽(tīng)眾或用戶，根據(jù)受眾對(duì)象進(jìn)行“人群定向”和“聚類”分析，以便精準(zhǔn)地分配相關(guān)信息，這樣既可以防止用戶淹沒(méi)在信息洪流和冗余信息之中，也可以改變以往“人找信息”的單向傳播模式，實(shí)現(xiàn)人與信息的精準(zhǔn)匹配。算法這種依托受眾，以滿足用戶個(gè)性需求和遵循用戶本位的價(jià)值觀，沖破了信息把關(guān)權(quán)的禁錮，實(shí)現(xiàn)了信息基礎(chǔ)設(shè)施的下沉和信息傳播權(quán)力的轉(zhuǎn)移，體現(xiàn)了去中心化、個(gè)性化、定制化、開(kāi)放性、創(chuàng)造性、自下而上的傳播新模式。這種以受眾為中心的思想將成為影響算法分析和設(shè)計(jì)的重要因素。

基于“受眾本位”的算法推送使算法成為“迎合者”，不僅容易造成把關(guān)人的缺失和把關(guān)標(biāo)準(zhǔn)的降低，而且造成主流價(jià)值觀信息資源增量的不足和配置不平衡等問(wèn)題。如果信息把關(guān)權(quán)和議程設(shè)置權(quán)以增加“粉絲”量、提升用戶黏性和關(guān)注力為鵠的的話，很容易尊奉流量為王，造成媚俗、淺薄、虛假、惡搞、侵權(quán)等有害信息以及與主流意識(shí)形態(tài)相悖的觀點(diǎn)大行其道，理性的辨析和優(yōu)質(zhì)的內(nèi)容則可能被邊緣化，用戶則往往會(huì)陷入價(jià)值集體迷失的困局。在這種“用戶驅(qū)動(dòng)”的算法傳播模式主導(dǎo)下，一方面分發(fā)機(jī)制缺少應(yīng)有的把關(guān)和監(jiān)督，對(duì)信息把關(guān)能力下降，會(huì)造成主流價(jià)值觀話語(yǔ)權(quán)被削弱，議程設(shè)置能力轉(zhuǎn)移。另一方面，傳播受眾的細(xì)分化也削弱了主流媒體信息壟斷優(yōu)勢(shì)，使其面臨著其他信息的巨大競(jìng)爭(zhēng)壓力。這些最終會(huì)導(dǎo)致主流價(jià)值觀的統(tǒng)攝力與聚合力的流失。

(二)“信息繭房”削弱主流價(jià)值觀的整合效果

“信息繭房”(Information Cocoons)的概念肇始于美國(guó)學(xué)者凱斯·桑斯坦在《信息烏托邦——眾人如何生產(chǎn)知識(shí)》一書(shū)中所提出的信息系統(tǒng)理論。即人們?cè)谛畔㈩I(lǐng)域習(xí)慣性地被興趣和悅己的主題引導(dǎo)，從而將自己桎梏并沉浸于似繭房般的“每日日?qǐng)?bào)式”的信息系統(tǒng)之中，進(jìn)而排斥或無(wú)視其他觀點(diǎn)與內(nèi)容。長(zhǎng)此以往，這將窄化用戶信息獲取的范圍，形成所謂“過(guò)濾氣泡”效應(yīng)?！霸谶@些泡沫中，用戶面對(duì)的內(nèi)容與他們預(yù)先確定的興趣和態(tài)度相對(duì)應(yīng)，從而加強(qiáng)了志同道合者之間的社會(huì)兩極分化。”〔23〕“過(guò)濾氣泡”提出者帕里澤(Pariser)指出，算法技術(shù)通常只提供與我們對(duì)世界已有的了解和感受相一致的信息。“信息繭房”和“過(guò)濾泡沫”將產(chǎn)生一種自我強(qiáng)化的“偏見(jiàn)入內(nèi)，偏見(jiàn)出來(lái)”的非理性結(jié)果，〔24〕不僅磨損了理性認(rèn)知與價(jià)值判斷能力，也解構(gòu)了社會(huì)價(jià)值共識(shí)。當(dāng)算法技術(shù)成熟之后，“信息繭房”似乎能很好地描述算法給價(jià)值觀所帶來(lái)的影響。

智能算法在核心價(jià)值觀構(gòu)建中利用受眾信息、社交網(wǎng)絡(luò)等方面的數(shù)據(jù)挖掘預(yù)測(cè)偏好，然后為其量身打造信息，推送契合他們旨趣的專屬消息，固化著這樣的信息傳播的閉環(huán)。這個(gè)閉環(huán)將異質(zhì)性信息阻隔在外，極易形成與世隔絕的“回聲室”和“過(guò)濾氣泡”效應(yīng)，造成既有的價(jià)值的偏執(zhí)和價(jià)值格局的分裂。這種沉浸式的信息轟炸潛移默化地影響著受眾的認(rèn)知結(jié)構(gòu)，使得形式邏輯戰(zhàn)勝抽象邏輯，標(biāo)簽替代思考，偏見(jiàn)盛行，結(jié)果受眾只愿意相信自己感興趣的信息，而那些具有權(quán)威性、理論性、公共性、價(jià)值性的信息被屏蔽或被排斥。智能算法雖然實(shí)現(xiàn)了信息“精準(zhǔn)滴灌”，提升了信息分發(fā)效率，自動(dòng)實(shí)現(xiàn)人格化的場(chǎng)景適配，但桎梏于“信息繭房”的受教育者的價(jià)值觀卻很容易固化、激化和“巴爾干化”，導(dǎo)致社會(huì)黏性的降低、整體價(jià)值共識(shí)的撕裂、離散和群體的迷失。

(三)“算法黑箱”惡化了主流價(jià)值觀的傳遞環(huán)境

在人們沒(méi)有直接參與、不知情，也沒(méi)有默許的情況下，算法決定了人們所處世界的輪廓，“可以統(tǒng)治、分類、管理、塑造或以其他方式控制我們的生活”?！?5〕正如帕斯奎爾所說(shuō)，“算法規(guī)則所執(zhí)行的價(jià)值觀念和賦權(quán)方式隱匿在暗箱里”。〔26〕在網(wǎng)絡(luò)監(jiān)控的圖式中，算法隱匿在暗箱背后，內(nèi)部工作原理被屏蔽在公眾視線之外?！霸谒惴ü芾淼恼Z(yǔ)境下，個(gè)體的主體特征、他們自己的心理動(dòng)機(jī)或者意圖不再重要。”〔27〕算法一方面為人們提供服務(wù)，另一方面為人們的生活預(yù)設(shè)條件，操縱社會(huì)規(guī)范。個(gè)體變成了“云個(gè)體”，大眾已經(jīng)變成了樣本、數(shù)據(jù)、市場(chǎng)或者“各種數(shù)據(jù)庫(kù)”。主體的“人”成為可計(jì)算、可預(yù)測(cè)、可控制的“客體”。正如普魯?shù)?Proudhon)所言，“被管理就是被監(jiān)視、檢查、刺探、指導(dǎo)、法律約束、編號(hào)、調(diào)控、登記、灌輸信仰、教育、控制、核驗(yàn)、評(píng)估、審查、命令”?！?8〕大眾的日常生活通常在這種算法調(diào)控和規(guī)訓(xùn)中而變得無(wú)能為力。

算法的技術(shù)架構(gòu)、代碼和界面等都隱含著價(jià)值風(fēng)險(xiǎn)。算法及其背后的權(quán)力構(gòu)成了支撐社會(huì)生活結(jié)構(gòu)的“技術(shù)無(wú)意識(shí)”，而其邏輯通常被稱為“黑匣子”，呈現(xiàn)出不透明且難以追蹤或難以質(zhì)疑的風(fēng)險(xiǎn)特征。同樣，算法的價(jià)值觀滲透具有很強(qiáng)的隱蔽性，特定的意識(shí)形態(tài)和價(jià)值觀被嵌入其中，當(dāng)“算法的數(shù)據(jù)，如果被巨魔毒害，被粉絲操縱，或受到新的、隱蔽的營(yíng)銷形式的影響，價(jià)值就會(huì)迅速降低”?！?9〕大數(shù)據(jù)、智能算法、人機(jī)交互以及虛擬現(xiàn)實(shí)技術(shù)革新織就的“數(shù)字牢籠”使各種非主流社會(huì)思潮嵌入了代碼中，在數(shù)字空間中彌漫，不斷削弱著社會(huì)主義價(jià)值信念，也損害著主流價(jià)值觀的傳遞生態(tài)?！八惴ê谙洹被颉八惴ɡ位\”現(xiàn)象極易成為美國(guó)等西方國(guó)家進(jìn)行技術(shù)控制、價(jià)值預(yù)設(shè)、規(guī)則制定、話語(yǔ)操縱、文化輸出的隱身衣。西方價(jià)值觀的侵入和泛濫，嚴(yán)重惡化了我國(guó)主流價(jià)值觀的傳遞環(huán)境，造成主流價(jià)值觀傳播過(guò)程中的信息傳播價(jià)值和教育價(jià)值失效。

(四)“后真相”傳播侵蝕了主流價(jià)值觀的影響力

“后真相”通常被描述為故意扭曲現(xiàn)實(shí)，操縱信仰和情感，目的是影響公眾輿論和社會(huì)態(tài)度的這種現(xiàn)象。“后真相”也被視為一種政治手段，一種權(quán)力結(jié)構(gòu)，一種能夠把黑視為白，把白視為黑的影響者。也就是說(shuō)，“后真相”的內(nèi)容并不反映現(xiàn)實(shí)，相反，它模糊、歪曲或掩蓋了現(xiàn)實(shí)，并且通過(guò)故意傳播無(wú)知，以滿足強(qiáng)大的經(jīng)濟(jì)利益對(duì)特定現(xiàn)狀的偏見(jiàn)。在“后真相時(shí)代”，謠言、謊言、惡作劇、陰謀論、假新聞等是由互聯(lián)網(wǎng)的使用以及社交網(wǎng)絡(luò)的盛行所培育和推動(dòng)的。社會(huì)網(wǎng)絡(luò)則“創(chuàng)造、指導(dǎo)、影響、決定、改變、破壞、建構(gòu)和提升新的價(jià)值觀和觀念”。〔30〕事實(shí)上，“后真相”建立在修辭、感知的基礎(chǔ)上，而不是建立在真實(shí)的基礎(chǔ)上，也正是基于這種情感和話語(yǔ)說(shuō)服力體系，假新聞才得以確立，其結(jié)果是情感和信仰勝過(guò)基于證據(jù)的論據(jù)，在那里，真理和謊言之間的區(qū)別變得越來(lái)越模糊。

算法在“后真相”傳播中扮演著重要角色。算法推薦系統(tǒng)容易受到用戶確認(rèn)偏差的影響。用戶對(duì)錯(cuò)誤信息的單個(gè)主題越感興趣，推薦系統(tǒng)就越會(huì)提供這種錯(cuò)誤信息。英國(guó)脫歐公投后，《衛(wèi)報(bào)》編輯凱瑟琳·維納發(fā)表了一篇題為《科技如何破壞真相》的文章，她指責(zé)Facebook算法和與其共生的媒體點(diǎn)擊誘餌(Media Clickbait)引導(dǎo)人們遠(yuǎn)離真相，逃避現(xiàn)實(shí)調(diào)查性新聞。〔31〕事實(shí)上，在2016年美國(guó)大選中，正是由于媒體操縱和算法推薦的影響導(dǎo)致了虛假信息和新聞的泛濫。對(duì)此，瓦爾迪茲(Valdez)指出：“算法是傳播錯(cuò)誤信息的罪魁禍?zhǔn)??！薄?2〕算法以不斷符合用戶自我指涉的方式建構(gòu)“超真實(shí)”，改變了信息與人的本真關(guān)系。資本邏輯裹挾下的算法為迎合受眾的需求，往往不加辨別地將虛假性新聞推薦給受眾，不僅遮蔽了真相，促成了意識(shí)形態(tài)回音室，導(dǎo)致了輿論兩極分化，而且侵蝕了受眾的價(jià)值觀，加深受眾對(duì)主流價(jià)值觀公信力的質(zhì)疑。

四、智能算法時(shí)代主流價(jià)值觀構(gòu)建的解困之思

智能算法已被廣泛地嵌入到人們的日常生活之中。在這種時(shí)代場(chǎng)域下，如果缺少正確的價(jià)值觀的引導(dǎo)，智能算法就會(huì)被錯(cuò)誤的價(jià)值觀所俘獲。因此，我們應(yīng)強(qiáng)調(diào)和重視智能算法的價(jià)值觀，并堅(jiān)持將正確的價(jià)值理念貫穿和融入算法全流程，從設(shè)計(jì)、平臺(tái)、公眾、法規(guī)等方面給算法套上價(jià)值觀的“韁繩”，以規(guī)避算法風(fēng)險(xiǎn)，彌合“價(jià)值理性”與“工具理性”之間的鴻溝，實(shí)現(xiàn)價(jià)值觀的可控傳遞和重塑，確保算法朝著有益于人們福祉的方向發(fā)展。

(一)優(yōu)化智能算法設(shè)計(jì)，營(yíng)造主流價(jià)值觀構(gòu)建的技術(shù)環(huán)境

算法從設(shè)計(jì)開(kāi)始就必然內(nèi)嵌著價(jià)值觀，存在著價(jià)值負(fù)荷，并且具有正向價(jià)值和負(fù)向價(jià)值雙重屬性。算法在提高效能、尊重個(gè)性、拓寬眼界和幫助人類作出合理選擇的同時(shí)，由于受到權(quán)力操縱、資本驅(qū)動(dòng)、“算法黑箱”、數(shù)據(jù)污染等問(wèn)題的影響，也可能對(duì)人類產(chǎn)生消極影響，甚至帶來(lái)道德的喪失、文化的墮落、隱私的侵犯、社會(huì)的分歧等消極后果。海耶斯(Hayes)等曾指出，“如果對(duì)算法的設(shè)計(jì)、實(shí)施或部署不當(dāng)，或者對(duì)它們的價(jià)值影響沒(méi)有充分考慮，那么價(jià)值就容易貶值，這可能會(huì)導(dǎo)致包括歧視和自主權(quán)受到限制的問(wèn)題”，并且“濫用一種算法可能會(huì)破壞價(jià)值觀，并對(duì)我們的自由造成巨大損失”?！?3〕因此，在加強(qiáng)算法程序的選擇與構(gòu)建的風(fēng)險(xiǎn)防控中，應(yīng)充分考慮系統(tǒng)的公平性、安全性、透明性、穩(wěn)定性、包容性、預(yù)防性和友好性等價(jià)值原則，并“通過(guò)某種方式滲透它，嵌入現(xiàn)有的紀(jì)律性技術(shù)來(lái)使用它”，〔34〕推進(jìn)智能算法設(shè)計(jì)的優(yōu)化與技術(shù)進(jìn)步。尤其重要的是在工具主義和程序主義之間，要加強(qiáng)算法的價(jià)值賦予，將主流價(jià)值觀作為算法系統(tǒng)的準(zhǔn)則融入算法推薦全流程，以主流價(jià)值觀來(lái)駕馭智能算法。

事實(shí)上，算法內(nèi)嵌“人設(shè)”價(jià)值因素，滲透著設(shè)計(jì)者的價(jià)值判斷、情感取向和利益選擇。對(duì)此，克雷默(Kraemer)指出：“算法是有價(jià)值的，兩個(gè)或兩個(gè)以上接受不同價(jià)值判斷的人可能有合理的理由設(shè)計(jì)不同的算法?！薄?5〕但在趨利的本性驅(qū)使下，算法的價(jià)值邏輯更偏向于市場(chǎng)和用戶體驗(yàn)。另外，在“代碼編寫(xiě)者越來(lái)越多地成為立法者”〔36〕的背景下，必須從源頭上加強(qiáng)對(duì)算法設(shè)計(jì)和信息把關(guān)責(zé)任人的道德要求。李彥宏曾建議明確人工智能在安全、隱私、公平等方面的倫理原則，并強(qiáng)調(diào)要“靠算法的頂層設(shè)計(jì)來(lái)防止消極”?！?7〕為規(guī)避算法風(fēng)險(xiǎn)，一方面要加強(qiáng)算法從業(yè)人員的倫理和價(jià)值觀教育，提高算法設(shè)計(jì)的道德標(biāo)準(zhǔn)；另一方面還要構(gòu)筑弘揚(yáng)和傳播主流價(jià)值觀的算法發(fā)展戰(zhàn)略，制定出滲透著主流價(jià)值觀的算法服務(wù)與沉浸式產(chǎn)品的價(jià)值指南，營(yíng)造有利于主流價(jià)值觀構(gòu)建的“擬態(tài)環(huán)境”，將主流價(jià)值觀貫穿到算法推薦的所有程序和邏輯之中，實(shí)現(xiàn)“道德算術(shù)”。

(二)強(qiáng)化智能算法平臺(tái)責(zé)任，搭建主流價(jià)值觀構(gòu)建的有效載體

算法邏輯是平臺(tái)化的核心原則，因?yàn)椤皟?nèi)容開(kāi)發(fā)者正在逐步將其生產(chǎn)和流通策略定向于主要平臺(tái)的推薦、排名和其他面向最終用戶的算法”?！?8〕積極培育社會(huì)道德和主流價(jià)值觀，決定著算法平臺(tái)的品性及其未來(lái)。從早期“千人一面”的信息門(mén)戶網(wǎng)站到今天沉浸式的信息流投喂，智能算法平臺(tái)對(duì)于人們獲取信息的影響顯著。基于硬件和軟件的基礎(chǔ)設(shè)施的智能算法平臺(tái)能夠借助于大數(shù)據(jù)人工智能技術(shù)，形成數(shù)據(jù)挖掘、主動(dòng)預(yù)測(cè)、實(shí)時(shí)推送、結(jié)果研判、方案調(diào)整等智能閉環(huán)。而算法內(nèi)容選擇不僅取決于用戶偏好和新聞把關(guān)過(guò)程，還取決于這些平臺(tái)本身。正如阿納尼(Ananny)所言，“發(fā)展算法倫理不僅需要考慮代碼行或其設(shè)計(jì)者，還需要檢查更廣泛的算法集合，包括形成算法系統(tǒng)條件和結(jié)果的代碼、人類實(shí)踐和邏輯”?！?9〕也就是說(shuō)，算法設(shè)計(jì)者及各種算法平臺(tái)在創(chuàng)建算法的過(guò)程中都面臨著價(jià)值觀的考量，因此，算法平臺(tái)在倫理問(wèn)題上應(yīng)“表達(dá)一種觀點(diǎn)，即事物應(yīng)該是什么樣的，什么是好的或壞的，什么是可取的或不可取的”?！?0〕

為更好地將算法平臺(tái)打造成弘揚(yáng)主流價(jià)值觀的平臺(tái)，重點(diǎn)可以從以下幾個(gè)方面著手：一是要破除“技術(shù)拜物教”的迷思，不能以算法中立為說(shuō)詞，試圖強(qiáng)調(diào)“技術(shù)理性”，造成工具理性對(duì)價(jià)值理性的僭越。二是要突破算法狹隘的功利驅(qū)動(dòng)。當(dāng)今，在資本和利益的驅(qū)動(dòng)下，算法平臺(tái)越來(lái)越多被稱為平臺(tái)經(jīng)濟(jì)或平臺(tái)資本主義。要改變平臺(tái)的“流量至上”模式和以“流量為王”的價(jià)值觀，對(duì)這些平臺(tái)引入社會(huì)價(jià)值觀考量標(biāo)準(zhǔn)，強(qiáng)化社會(huì)責(zé)任意識(shí)。三是加強(qiáng)平臺(tái)的人工審核，突出核心價(jià)值觀的信息內(nèi)容。算法推薦與人工把關(guān)必須相輔相成。面對(duì)算法推薦這種內(nèi)容分發(fā)和信息投喂技術(shù)，傳統(tǒng)職業(yè)“把關(guān)人”的責(zé)任不能弱化，必須建立全天候人工審核機(jī)制，屏蔽一切不良信息，嚴(yán)格保障信息內(nèi)容安全。四是規(guī)范媒體的平臺(tái)責(zé)任，做到信息內(nèi)容的精準(zhǔn)推送。各融媒體平臺(tái)不僅要推薦個(gè)性化內(nèi)容，更應(yīng)推薦反映社會(huì)主流價(jià)值觀的內(nèi)容，打造符合主流價(jià)值觀的平臺(tái)算法，自覺(jué)擔(dān)負(fù)起嚴(yán)格信息把關(guān)和加強(qiáng)輿論引導(dǎo)的主體責(zé)任、社會(huì)責(zé)任，構(gòu)建集體價(jià)值認(rèn)同。

(三)提高公眾智能算法素養(yǎng)，夯實(shí)主流價(jià)值觀構(gòu)建的人文基礎(chǔ)

智能算法植入人們的工作和生活之中，它在創(chuàng)造眾多不可思議的可能性的同時(shí)，也侵蝕著人的主體性，弱化了對(duì)主流價(jià)值的引導(dǎo)和基本價(jià)值的守望。作為信息時(shí)代的公民亟待提高自身的算法素養(yǎng)，樹(shù)立正確的網(wǎng)絡(luò)媒介使用觀念，避免被假新聞?dòng)夼?，避免被困在不斷?qiáng)化偏見(jiàn)的“過(guò)濾氣泡”中難以脫身。另外，“公民缺乏計(jì)算或數(shù)據(jù)素養(yǎng)，使得算法透明度難以概括，責(zé)任制難以評(píng)估”?！?1〕事實(shí)上，“不管是精英群體中還是在更易接近但自我意識(shí)稍弱的普通民眾中，過(guò)濾氣泡、膚淺的排序機(jī)制和算法推薦的毒害都是有跡可循的”?！?2〕佐勒(Zoller)指出，一項(xiàng)有意義的科學(xué)技術(shù)要在社會(huì)過(guò)程中發(fā)揮主導(dǎo)作用，“則需要我們的思維、行為和行動(dòng)的指導(dǎo)思想、理論基礎(chǔ)和模式發(fā)生革命性的變化，需要有能力的問(wèn)題解決者在復(fù)雜現(xiàn)實(shí)中作出明智和合理的決定”?！?3〕因此，發(fā)揚(yáng)算法技術(shù)的向上之力，營(yíng)造良好的算法環(huán)境，提升人們的算法素養(yǎng)也就成為必由之途。

一是提高公眾的算法思維能力，保持對(duì)算法文化的理解?！八惴ㄋ季S一詞不僅可以用來(lái)指代人們思考算法的方式，也可以用來(lái)指我們與算法技術(shù)的相互作用如何改變思維的性質(zhì)本身。”〔44〕在以色列、英國(guó)、美國(guó)和法國(guó)，算法思維已經(jīng)成為許多學(xué)校課程文件的一部分，并被視為21世紀(jì)成功生活的一項(xiàng)核心技能。此外，還應(yīng)培養(yǎng)公眾數(shù)據(jù)素養(yǎng)，即以不同的方式獲取、處理、使用、解釋和呈現(xiàn)數(shù)據(jù)的能力；培養(yǎng)公眾媒體和信息素養(yǎng)，即識(shí)別和表達(dá)媒體信息需求的能力；為特定目的定位、批判性評(píng)估和組織信息的能力；識(shí)別和反思信息的道德使用的能力等。〔45〕二是必須重視人的主體性，突出算法中人的作用。要堅(jiān)持以人為本和人學(xué)的價(jià)值理想，擺脫技術(shù)的迷思和依賴。如強(qiáng)調(diào)個(gè)人在智能化分發(fā)技術(shù)中的把關(guān)作用，或?qū)r(jià)值觀轉(zhuǎn)化為程序代碼融入算法推薦過(guò)程之中。三是加大對(duì)算法實(shí)質(zhì)、危害性等問(wèn)題的闡釋。在提高人們對(duì)信息價(jià)值取向的辨識(shí)、分析能力的同時(shí)，引導(dǎo)人們樹(shù)立科學(xué)理性的思維，營(yíng)造良好的主流價(jià)值傳播生態(tài)。

(四)完善智能算法的法律規(guī)制，筑牢主流價(jià)值觀構(gòu)建的法治之基

針對(duì)智能算法這一技術(shù)衍生出來(lái)的系列問(wèn)題，除了培養(yǎng)技術(shù)道德加以規(guī)約之外，還必須健全和完善相關(guān)的法律法規(guī)。但目前，法律框架還落后于技術(shù)發(fā)展。世界上還沒(méi)有一個(gè)國(guó)家的立法明確考慮到算法系統(tǒng)的問(wèn)題特征。2018年5月25日歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》是第一部解決算法歧視的立法。此外，一些國(guó)家頒布了基于算法的自動(dòng)行政決策規(guī)則，如加拿大的《自動(dòng)化決策指令》。在法國(guó)，2016年10月發(fā)布的《數(shù)字共和國(guó)法案》規(guī)定：在國(guó)家行為者“根據(jù)算法”作出決定的情況下，個(gè)人有權(quán)了解決策系統(tǒng)的“主要特征”?！?6〕然而，所有這些規(guī)則只涉及算法的個(gè)別方面，而沒(méi)有對(duì)算法問(wèn)題作出令人滿意的答復(fù)。在我國(guó)，僅有《網(wǎng)絡(luò)安全法》《電子商務(wù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等幾部關(guān)涉信息安全的法律，還沒(méi)有制定專門(mén)規(guī)范智能算法技術(shù)的法律。隨著令人眩暈的計(jì)算機(jī)科學(xué)技術(shù)的日益進(jìn)化，及早出臺(tái)算法相關(guān)法律成為必然。

事實(shí)上，正如托多羅娃(Todorova)在談到算法的立法時(shí)所言，“立法本質(zhì)上是普遍接受的價(jià)值觀的產(chǎn)物，這種價(jià)值觀為可操作化規(guī)范”?！?7〕基于立法、算法技術(shù)和價(jià)值三者的相關(guān)性，為了規(guī)避智能算法帶來(lái)的系列危害，可以建立起一套行之有效的監(jiān)管機(jī)制、運(yùn)營(yíng)機(jī)制、評(píng)價(jià)機(jī)制，確保算法設(shè)計(jì)者、操作者以積極健康、符合公序良俗的價(jià)值觀規(guī)劃算法的設(shè)計(jì)和應(yīng)用，實(shí)現(xiàn)算法的民主、平等、公平、透明和分配正義。一是將主流價(jià)值觀嵌入數(shù)據(jù)收集、算法決策、算法推薦機(jī)制之中，算法公開(kāi)、個(gè)人數(shù)據(jù)賦權(quán)、反算法歧視等制度建構(gòu)都必須以此為指引，確保其恪守基本倫理規(guī)則和主流價(jià)值導(dǎo)向。二是在對(duì)算法設(shè)計(jì)平臺(tái)的標(biāo)準(zhǔn)制定、信息收集和監(jiān)測(cè)、自動(dòng)或推薦系統(tǒng)等方面進(jìn)行法律規(guī)制過(guò)程中，用主流價(jià)值觀來(lái)統(tǒng)領(lǐng)各平臺(tái)算法，使其在價(jià)值觀、方向和操作上更加平等和進(jìn)步。三是加強(qiáng)立法者、監(jiān)管者、算法設(shè)計(jì)者、用戶等之間的任務(wù)協(xié)同和責(zé)任共擔(dān)，共同營(yíng)造有助于主流價(jià)值觀傳播的風(fēng)清氣正、有序監(jiān)督的算法“擬態(tài)環(huán)境”。

五、結(jié) 語(yǔ)

主流價(jià)值觀嵌入智能算法既是一個(gè)哲學(xué)和倫理問(wèn)題，也是一個(gè)經(jīng)驗(yàn)和規(guī)范問(wèn)題。在一個(gè)高度信息化、智能化、個(gè)性化的時(shí)代，“用越來(lái)越復(fù)雜和強(qiáng)大的計(jì)算機(jī)算法來(lái)改變或取代人類個(gè)人的判斷和專長(zhǎng)的趨勢(shì)似乎是不可抗拒的”?！?8〕以色列學(xué)者尤瓦爾·赫拉利(Yuval Noah Harari)曾在《未來(lái)簡(jiǎn)史》中預(yù)言機(jī)器算法將成為我們的主宰者。〔49〕但作為一種技術(shù)，算法旨在產(chǎn)生價(jià)值和資本，不僅在權(quán)力實(shí)踐中發(fā)揮著重要作用，而且在價(jià)值體系中，“算法被視為負(fù)荷著價(jià)值的，而不是中立的，因?yàn)樗惴〞?huì)產(chǎn)生道德后果，強(qiáng)化或削弱道德原則，促進(jìn)或減少利益相關(guān)者的權(quán)利和尊嚴(yán)”?！?0〕另外，算法本身還具有不完善性與迭代要求，它通常是復(fù)雜的、變化的、不可預(yù)測(cè)的和模棱兩可的，充滿諸多未知風(fēng)險(xiǎn)。

對(duì)此，美國(guó)學(xué)者利波爾德(Lippold)指出：“世界不再以我們能夠理解的方式來(lái)表達(dá)，它已經(jīng)被數(shù)據(jù)化了，任由算法闡釋，按照控制論的方法重新配置?！薄?1〕面對(duì)算法的潛能及其挑戰(zhàn)，“不能把算法想象成抽象的技術(shù)成就，而必須揭示隱藏在這些冰冷機(jī)制背后的人性和制度選擇”?！?2〕我們要順應(yīng)智能算法時(shí)代的潮流，加強(qiáng)對(duì)算法的馴化和規(guī)制，“把技術(shù)的獵犬綁回籠子里”，〔53〕大力釋放算法技術(shù)的正向功能，糾正其價(jià)值偏向，尤其是將主流價(jià)值觀以算法驅(qū)動(dòng)的個(gè)性化技術(shù)的形式植入到現(xiàn)代信息工具之中，并根據(jù)特定的輸入來(lái)指導(dǎo)預(yù)定義的輸出，編程“價(jià)值系統(tǒng)”，以引領(lǐng)多元價(jià)值譜系，規(guī)范社會(huì)和集體行為，凝聚社會(huì)共識(shí)，謀求所有人的福祉。正如托多羅娃所言，“關(guān)于算法技術(shù)的未來(lái)唯一可以肯定地是它永遠(yuǎn)是開(kāi)放的，我們的機(jī)會(huì)是試圖預(yù)測(cè)和塑造它”?！?4〕

注釋：

〔1〕Diakopoulos and Nicholas,“Algorithmic Accountability Reporting:On the Investigation of Black Boxes”,A Tow/Knight Brief,Tow Center for Digital Journalism,Columbia Journalism School,Retrieved August 21,2014,from http://towcenter.org/algorithmic-accountability-2/.

〔2〕David Beer,“Power Through the Algorithm ？Participatory Web Cultures and the Technological Unconscious”,New Media & Society,2009,11(6),pp.985-1002.

〔3〕Carolyn Pedwell,“Digital Tendencies:Intuition,Algorithmic Thought and New Social Movements”,Culture,Theory and Critique,2019,60(2),pp.123-138.

〔4〕Ben Williamson,“Moulding Student Emotions through Computational Psychology:Affective Learning Technologies and Algorithmic Governance”,Education Media International,2017,54(4),pp.267-288.

〔5〕Natascha Just and Michael Latzer,“Governance by Algorithms:Reality Construction by Algorithmic Selection in the Internet”,Media,Culture and Society,2017,39(2),pp.238-258.

〔6〕Min Kyung Lee,“Understanding Perception of Algorithmic Decisions:Fairness,Trust,and Emotion in Response to Algorithmic Management”,Big Data & Society,2018,5(1),pp.1-16.

〔7〕Ethem Alpaydin,Machine Learning:The New AI，Cambridge,MA and London:The MIT Press,2016,p.16.

〔8〕Paul Dourish,“Algorithms and Their Others:Algorithmic Culture in Context”,Big Data & Society,2016,3(2),pp.1-11.

〔9〕Taina Bucher,If…Then:Algorithmic Power and Politics,Oxford and New York:Oxford University Press,2018,p.3.

〔10〕Foucault,M.,“About the Beginning of the Hermeneutics of the Self:Two Lectures at Dartmouth”,Political Theory,1993,21(2),pp.198-227.

〔11〕Kitchin,R.,“Thinking Critically about and Researching Algorithms”,Information,Communication & Society,2016,20(1),pp.1-16.

〔12〕〔19〕Ignas Kalpokas,Algorithmic Governance:Politics and Law in the Post-Human Era,Switzerland:Springer Nature Switzerland AG,Cham,2019,pp.3,31.

〔13〕Jan-H.Passoth,“Music,Recommender Systems and the Techno-Politics of Platforms,Data,and Algorithms”,in S.Maasen et al.(eds.),Techno Science Society,Switzerland:Springer Nature Switzerland AG,pp.157-173.

〔14〕Astrid Mager,“Algorithmic Ideology:How Capitalist Society Shapes Search Engines”,Information,Communication & Society,2012,15(5),pp.769-787.

〔15〕Nela Mircic, “Restoring Public Trust in Digital Platform Operations:Machine Learning Algorithmic Structuring of Social Media Content”,Review of Contemporary Philosophy,2020,19(1),pp.85-91.

〔16〕Cotter,K.,“Playing the Visibility Game:How Digital Infuencers and Algorithms Negotiate Infuence on Instagram”,New Media & Society,2018,21(1),pp.1-30.

〔17〕Brent Daniel Mittelstadt,“The Ethics of Algorithms:Mapping the Debate”,Big Data & Society,2016,3(2),pp.1-21.

〔18〕John Zerilli and Alistair Knott,“Transparency in Algorithmic and Human Decision-Making:Is There a Double Standard?”,Philosophy & Technology,2019,32(8),pp.661-683.

〔20〕〔50〕Kirsten Martin,“Ethical Implications and Accountability of Algorithms”,Journal of Business Ethics,2019,160(1),pp.835-850.

〔21〕Sunstein,C.R.,#Republic:Divided Democracy in the Age of Social Media,Princeton and Oxford:Princeton University Press,2018,p.3.

〔22〕Marijn Janssen and George Kuk,“The Challenges and Limits of Big Data Algorithms in Technocratic Governance”,Government Information Quarterly,2016,33(3),pp.371-377.

〔23〕Sarah Widmer,“Foams of Togetherness in the Digital Age:Sloterdijk,Software Sorting and Foursquare”,Geographica Helvetica,2020,75(3),pp.259-269.

〔24〕Ana S.Cardenal,“Digital Technologies and Selective Exposure:How Choice and Filter Bubbles Shape News Media Exposure”,The International Journal of Press/Politics,2019,24(4),pp.465-486.

〔25〕Ziewitz,M.,“Governing Algorithms:Myth,Mess,and Methods”,Science,Technology & Human Values,2015,41(1),pp.3-16.

〔26〕Frank Pasquale,Black Box Society:The Secret Algorithms That Contral Money and Information,Cambridge,MA:Harvard University Press,2015,p.8.

〔27〕Mireille Hildebrandt and Katia de Vries,Privacy,Due process,and the Computational Turn:The Philosogy of Law Meets the Philosophy of Technology,London:Routledge,2013,p.157.

〔28〕〔51〕〔美〕約翰·切尼-利波爾德：《數(shù)據(jù)失控：算法時(shí)代的個(gè)體危機(jī)》，張昌宏譯，北京：電子工業(yè)出版社，2019年，第89、229頁(yè)。

〔29〕Robert Hunt and Fenwick McKelvey,“Algorithmic Regulation in Media and Cultural Policy:A Framework to Evaluate Barriersto Accountability”,Journal of Information Policy,2019,9(3),pp.307-335.

〔30〕〔31〕Michael A.Peters,“Fake News and Post-Truth”,in M.A.Peters (ed.),Encyclopedia of Teacher Education,Singapore:Springer Nature Singapore Pte Ltd,2019,pp.1-4.

〔32〕Andre Calero Valdez,Human and Algorithmic Contributions to Misinformation Online-Identifying the Culprit,Switzerland:Springer Nature Switzerland AG 2020,in C.Grimme et al.(Eds.),MISDOOM 2019,LNCS 12021,2020,pp.3-15.

〔33〕Paul Hayes,“Algorithms and Values in Justice and Security”,AI & Society,2020,35(3),pp.533-555.

〔34〕Matthias Leese,“The New Profiling:Algorithms,Black Boxes,and the Failure of Anti-discriminatory Safeguards in the European Union”,Security Dialogue,2014,45(5),pp.494-511.

〔35〕〔40〕Kraemer,F.and Van Overveld,M.,“Is There an Ethics of Algorithms?”,Ethics and Information Technology,2011,13(3),pp.251-260.

〔36〕Lessig,L.,Code:Version 2.0,New York:Basic Books,2006,p.79.

〔37〕李彥宏等：《智能革命：迎接人工智能時(shí)代的社會(huì)、經(jīng)濟(jì)與文化變革》，北京：中信出版社，2017年，第312頁(yè)。

〔38〕Nieborg,D.B.and Poell,T.,“The Platformization of Cultural Production:Theorizing the Contingent Cultural Commodity”,New Media & Society,2018,20(1),pp.4275-4292.

〔39〕Ananny M,“Toward an Ethics of Algorithms:Convening,Observation,Probability,and Timeliness”,Science,Technology,& Human Values,2015,41(1),pp.93-117.

〔41〕Bruno Lepri,“Fair,Transparent,and Accountable Algorithmic Decision-making Processes:The Premise,the Proposed Solutions,and the Open Challenges”,Philosophy & Technology,2018,31(3),pp.611-627.

〔42〕〔瑞典〕大衛(wèi)·薩普特：《被算法操控的生活》，易文波譯，長(zhǎng)沙：湖南科學(xué)技術(shù)出版社，2020年，第7頁(yè)。

〔43〕Zoller,U.,“Science Education for Global Sustainability:What is Necessary for Teaching,Learning and Assessment Strategies?”,Journal of Chemical Education,2012,89(3),pp.297-300.

〔44〕Carolyn Pedwell,“Digital tendencies:Intuition,Algorithmic Thought and New Social Movements”,Culture,Theory and Critique,2019,60(2),pp.123-138.

〔45〕S.Kurbanolu,ECIL 2013,CCIS 397,Switzerland:Springer International Publishing,2013,p.135.

〔46〕Marta Cantero Gamito,“Algorithmic Governance and Governance of Algorithms:An Introduction”,in M.Ebers and M.Cantero Gamito (eds.),Algorithmic Governance and Governance of Algorithms,Switzerland:Springer Nature Switzerland AG,2021,pp.1-22.

〔47〕〔54〕Mariana Todorova,“Philosophical,Moral,and Ethical Rationalization of Artificial Intelligence”,in N.Lee (ed.),The Transhumanism Handbook,Switzerland:Springer Nature Switzerland AG,2019,pp.263-270.

〔48〕William Hasselberger,“Ethics beyond Computation:Why We Can’t (and Shouldn’t) Replace Human Moral Judgment with Algorithms”,Social Research,2019,86(4),pp.977-999.

〔49〕〔以色列〕尤瓦爾·赫拉利：《未來(lái)簡(jiǎn)史：從智人到神人》，林俊宏譯，北京：中信出版社，2017年，第313、317頁(yè)。

〔52〕Jan-H.Passoth,“Music,Recommender Systems and the Techno-Politics of Platforms,Data,and Algorithms”,in S.Maasen et al.(eds.),Techno Science Society,Switzerland:Springer Nature Switzerland AG,2020,pp.157-174,

〔53〕Bruno Latour,“Morality and Technology:The End of the Means”,Theory,Culture & Society,2002,19(5-6),pp.247-260.