大數(shù)據(jù)時(shí)代算法偏見與數(shù)字魔咒*
——兼談“信息繭房”的破局

□文│范紅霞 孫金波

當(dāng)前，大數(shù)據(jù)技術(shù)在新聞傳播領(lǐng)域的應(yīng)用催生了算法新聞。算法技術(shù)不僅越來越多地貫穿于新聞和信息生產(chǎn)與分發(fā)過程中，并在用戶認(rèn)知和價(jià)值理性層面也日益凸顯其建構(gòu)作用。但是算法技術(shù)也造成了一個(gè)悖論：一方面，它有助于推進(jìn)數(shù)據(jù)開放運(yùn)動(dòng)，形成“魚缸效應(yīng)”，降低了人們獲取信息的成本，加快建設(shè)透明型政府、透明型社會(huì)的進(jìn)程；但另一方面，因?yàn)樗惴ㄊ占⒑Y選和過濾機(jī)制的運(yùn)用，也有可能形成 “信息繭房”效應(yīng)，最終與我們所希冀的開放、包容、分享、融合的信息化初衷背道而馳，進(jìn)而成為阻礙民主、鉗制理性、喪失互信的淵藪。本文試圖就這一悖論現(xiàn)象進(jìn)行深度剖析，并尋求“破繭”之道。

一、“信息繭房”的倫理風(fēng)險(xiǎn)和社會(huì)反思

“信息繭房”概念的提出，其理論依據(jù)就是公眾個(gè)體的信息選擇以及據(jù)此進(jìn)行的信息推薦和“信息定制”，在主客觀兩個(gè)方面造成了用戶自身的信息封閉。再把目光放到更加宏觀的層面，“信息繭房”效應(yīng)，可能會(huì)走向崇尚開放、互動(dòng)、多元的互聯(lián)網(wǎng)精神的反面——即信息封閉、信息偏見和算法專制。

首先，對(duì)個(gè)人與社會(huì)兩方面的影響。對(duì)個(gè)人而言，“信息繭房”雖然迎合了用戶的需求，但是，它將用戶的注意力與時(shí)間局限于虛擬空間，使其沉溺于個(gè)人趣味和信息選擇，以至于出現(xiàn)更多“孤獨(dú)的自我”。這可能會(huì)加深用戶固有的偏見，導(dǎo)致個(gè)人的自我認(rèn)知偏差和非理性的膨脹，以至于容易形成偏激與極端的觀點(diǎn)、言論或行為。對(duì)社會(huì)而言，“信息繭房”在滿足個(gè)人信息需求的同時(shí)，也限制了公眾的交往理性，甚至容易制造群體極化現(xiàn)象。公民虛高的自我認(rèn)同度降低了其對(duì)于不同觀點(diǎn)的包容度，也在一定程度上堵塞了社會(huì)信息流通，不利于社會(huì)和諧和穩(wěn)定?！盵1］此外，它也不利于推進(jìn)集體協(xié)商和社會(huì)協(xié)作體系的形成，由此加深了社會(huì)的分裂而非實(shí)現(xiàn)社會(huì)整合。

其次，搜索引擎催生新的社會(huì)規(guī)范。我們依靠它提供事實(shí)——卻從不懷疑為什么是這些事實(shí)而不是那些事實(shí)。2016年魏則西事件，后來雖然歸結(jié)為百度搜索的競價(jià)排名規(guī)則的惡果，但是這也從另外一方面說明算法對(duì)我們的判斷所施加的影響。“過濾氣泡”的搜索算法，一方面取悅于我們的個(gè)人主義觀念，另一方面也加強(qiáng)我們對(duì)某些問題的“既有看法”；排斥那些與我們“格格不入”的觀點(diǎn)和問題，最終加深了社會(huì)中隱蔽的歧視行為。而且，算法專制也使我們無法擺脫算法設(shè)定中的各種偏見和意識(shí)形態(tài)的影響。“正如議程設(shè)置帶有濃厚的政治意味和意識(shí)形態(tài)色彩一樣，新聞挖掘和分析算法在回答特定問題時(shí)，也會(huì)帶有某種偏見。當(dāng)我們搜索某個(gè)人的信息時(shí)，如果算法提供不友善的搜索項(xiàng)后，本來對(duì)他不了解的用戶在搜索他的信息時(shí)可能會(huì)被引到某個(gè)特定方向。因此，算法不僅僅是在預(yù)測，還有助于控制用戶的行為?！盵2］它將特定選項(xiàng)呈現(xiàn)于用戶面前，用戶只能從中做出選擇，從而影響到其決策行為和后果。

最后，算法還能夠被賦予輿論引導(dǎo)的作用。伴隨傳播權(quán)的下放和公眾參與程度的提高、網(wǎng)絡(luò)社群的聚集、信息體量的巨量增長、社會(huì)化媒體的高度市場化等原因，以往深受大眾媒體新聞選擇原則所影響的議程環(huán)境，不僅其主導(dǎo)權(quán)受到制衡，而且將受到更多復(fù)雜因素的干擾。比如，社交媒體的話題和熱搜榜取代了傳統(tǒng)的議程設(shè)置。輿論中心由媒體轉(zhuǎn)移到了社交平臺(tái)上，話題的引爆和引流，其“開關(guān)”操縱在算法的程序設(shè)定里，而非用戶想當(dāng)然地自主“投票”。如新浪微博基于單向投票的排序算法，優(yōu)點(diǎn)在于充分釋放用戶的傳播權(quán)，信息的價(jià)值高度依賴于用戶的態(tài)度和行為來塑造，提高了用戶的主動(dòng)性和自組織性；但單項(xiàng)投票機(jī)制的弊端也同樣明顯，即反對(duì)者的態(tài)度和意見在單向投票的排序機(jī)制中難以體現(xiàn)和表達(dá)。導(dǎo)致微博上明星八卦、娛樂類信息、各類段子長期占據(jù)熱門排行榜，甚至“標(biāo)題黨”橫行以博取用戶眼球。

二、數(shù)字圓形監(jiān)獄與算法魔咒

另一個(gè)值得關(guān)注的問題，即算法專制可能形成的“數(shù)字圓形監(jiān)獄”。圓形監(jiān)獄由英國哲學(xué)家杰里米·本瑟姆（Bentham，也譯作邊沁）于1785年提出，他認(rèn)為這種建筑構(gòu)想可以為實(shí)現(xiàn)權(quán)力提供一種簡單而有效的手段。[3］而在福柯看來，到19世紀(jì)中期，圓形監(jiān)獄機(jī)制擴(kuò)散到整個(gè)社會(huì)，社會(huì)中遍布“圓形監(jiān)獄”，整個(gè)社會(huì)成了某種程度的監(jiān)獄社會(huì)。?？略研侣劷绲淖饔妹枋鰹椤坝^看的政治”。[4］在監(jiān)獄社會(huì)中，所有人都落入了規(guī)訓(xùn)的技術(shù)網(wǎng)絡(luò)不可自拔，所有人都不可避免地成為現(xiàn)代監(jiān)獄社會(huì)的一部分。

媒介技術(shù)淪為社會(huì)監(jiān)控的工具。比如有線電視或閉路電視，以及衛(wèi)星定位手段等，都可以讓我們體驗(yàn)到那種控制與監(jiān)督的關(guān)系。隨著互聯(lián)網(wǎng)和大數(shù)據(jù)技術(shù)的廣泛運(yùn)用，圓形監(jiān)獄模型或隱喻體現(xiàn)在更多方面，如無處不在的監(jiān)控探頭、麥克風(fēng)、GPS、LBS、傳感器設(shè)備、手機(jī)鏡頭、針孔攝像機(jī)等，將我們的一舉一動(dòng)盡收眼底，甚至包括我們在浴室和臥室里的私密情形；只要我們使用網(wǎng)絡(luò)和智能手機(jī)，后臺(tái)設(shè)定的數(shù)據(jù)收集技術(shù)，可以不經(jīng)過我們允許，在我們毫不知情或者有意降低風(fēng)險(xiǎn)性而讓我們樂意配合的情況下，收集我們的地理地位、IP地址、瀏覽習(xí)慣和歷史記錄，等等，甚至能準(zhǔn)確定位，預(yù)測我們的購物清單和生活事件，對(duì)我們的戀愛和婚姻、包括孩子的長相、血型等進(jìn)行速配和分析，其結(jié)果也往往準(zhǔn)確得可怕。我們身陷于數(shù)字化網(wǎng)絡(luò)，受到嚴(yán)密監(jiān)控而不自知，也可以說無能為力；我們的個(gè)人信息和隱私在監(jiān)控者眼中一覽無余，毫無秘密可言……種種情形，我們可以稱之為“數(shù)字圓形監(jiān)獄”。我們被算法支配和統(tǒng)治，作為用戶的知識(shí)興趣、網(wǎng)頁瀏覽習(xí)慣和歷史記錄、購物數(shù)據(jù)、社交網(wǎng)絡(luò)、情緒喜好等數(shù)據(jù)，都在后臺(tái)被記錄、收集和分析，并用于政治和商業(yè)化目的。每個(gè)用戶都會(huì)不知不覺間落入“規(guī)訓(xùn)”的技術(shù)網(wǎng)絡(luò)，可能面臨隱私泄露和信息攻擊的風(fēng)險(xiǎn)，個(gè)人自由、信息權(quán)利和社會(huì)秩序?qū)⑹艿絿?yán)重沖擊。

“信息繭房”“圓形監(jiān)獄”等名詞，代表著一種空間政治的隱喻。事實(shí)上，空間也是一種權(quán)力形式，而上述這些“想象的空間”更是實(shí)施權(quán)力的一種途徑和模式。借用?？碌恼f法，它們表達(dá)了“權(quán)力與知識(shí)之間的關(guān)系。而知識(shí)權(quán)力在具體運(yùn)作中，可以借助空間技術(shù)加以支配和實(shí)現(xiàn)?！靶畔⒗O房”和“圓形監(jiān)獄”表達(dá)了一種隱喻：即信息傳播技術(shù)加強(qiáng)了對(duì)個(gè)人的控制，個(gè)人主義的崛起導(dǎo)致社會(huì)的碎片化；與此同時(shí)，資本和權(quán)力借助技術(shù)手段強(qiáng)化了少數(shù)人對(duì)多數(shù)人的監(jiān)視，個(gè)體已經(jīng)喪失了個(gè)人隱私和個(gè)人自由（比如說信息選擇的自由）。而且權(quán)力的實(shí)現(xiàn)只需要花費(fèi)最小代價(jià)，只需要“一種監(jiān)視的目光，每一個(gè)人都在這種目光的壓力之下，都會(huì)逐漸自覺地變成自己的監(jiān)視者，這樣就可以實(shí)現(xiàn)自我監(jiān)禁”。[5］技術(shù)強(qiáng)權(quán)帶來的封閉與專制，對(duì)于我們所倡導(dǎo)建立公民自治的開放型社會(huì)來說會(huì)造成極大破壞。

三、繭房突圍——精準(zhǔn)匹配、深度學(xué)習(xí)與自我的重塑

“信息繭房”的困境是由算法技術(shù)造成的，而其“突圍”也要從技術(shù)結(jié)構(gòu)本身來進(jìn)行突破。比如“在線新聞”強(qiáng)調(diào)信息的精準(zhǔn)匹配，“深度學(xué)習(xí)”的概念不僅適用于人工智能，也同樣適用于個(gè)人，在“連接一切”的互聯(lián)網(wǎng)精神指引下突破窠臼、實(shí)現(xiàn)創(chuàng)新。

1.下一代新聞：匹配比供給重要

在信息爆炸的時(shí)代，碎片化的時(shí)間和被割裂的注意力，以及對(duì)于速度和效率的極致追求，如何在最短時(shí)間內(nèi)獲得自身需要的信息，不僅僅是個(gè)人能力的體現(xiàn)，更是未來媒體的使命。仇勇提出了“在線時(shí)代的新聞”這一概念，并據(jù)此給出“在線新聞”的定義：“在線時(shí)代，新聞是你看到的、與你相關(guān)的被傳播事實(shí)的呈現(xiàn)。”[6］在這個(gè)定義里，突出和強(qiáng)調(diào)的是“你”——也就是受眾所關(guān)注到的、所認(rèn)知的事實(shí)。而且，這一事實(shí)也顛覆了所謂新聞“客觀性”的原則，因?yàn)槭鼙婈P(guān)注到的，僅僅是“事實(shí)的呈現(xiàn)”而已，它可以是文字、圖像、聲音，甚至是虛擬場景或者一串密碼等。如此一來，新聞可能不一定要由記者編輯來報(bào)道，個(gè)人也能成為新聞/信息的發(fā)布者。這就使得個(gè)人間的信息交換與共享變得十分方便和快捷，并且成本低廉，而信息價(jià)值則隨著“個(gè)性化新聞”潮流興起而實(shí)現(xiàn)增值。另外，隨著信息公開程度與執(zhí)法透明度不斷增加，過去由政府部門和大眾媒介所壟斷的信息資源/權(quán)力逐漸貶值。當(dāng)新聞?dòng)蓧艛嘧呦蜷_放，對(duì)于個(gè)人的意義而言，信息的匹配性在重要性程度上遠(yuǎn)遠(yuǎn)超過了信息的供給。

最重要的是，新聞“與你相關(guān)”。隨著個(gè)性化新聞潮流的出現(xiàn)，互聯(lián)網(wǎng)重新讓新聞變得與每個(gè)人相關(guān)。我們更傾向于選擇與自己相關(guān)的那些信息。因此，在崇尚個(gè)性化和精確匹配的算法時(shí)代，我們對(duì)于新聞的需求和判斷標(biāo)準(zhǔn)，正在走向“匹配比供給更重要”。與其說我們擔(dān)心“信息繭房”對(duì)個(gè)人造成的封閉，毋寧說，今天的受眾，更需要與自己興趣和需求相匹配的新聞信息，而主動(dòng)過濾掉與己無關(guān)、占據(jù)精力和時(shí)間的無效信息，從而大大提高獲取信息的效率。

2.深度學(xué)習(xí)和“連接一切”

在筆者看來，關(guān)于“信息繭房”的預(yù)言，僅僅說明了“信息定制”的一種可能性后果，而它可能忽略了人作為“社會(huì)行動(dòng)者”的主動(dòng)性。這種主動(dòng)性至少體現(xiàn)在三個(gè)方面：①個(gè)人主義的抬頭，以及社會(huì)流動(dòng)性增加帶來的多樣化興趣。今天，我們更多地強(qiáng)調(diào)“跨界”這個(gè)詞語。所謂跨界，就是不斷打破自己的“舒適區(qū)”，去探索未知領(lǐng)域，尋找新的興趣、知識(shí)、工作機(jī)會(huì)、人脈資源和事業(yè)空間。而要做到這一點(diǎn)，必須要打破信息封閉，以開放心態(tài)擁抱外部世界，以海納百川的精神，以及深度學(xué)習(xí)、終身學(xué)習(xí)的理念，不斷強(qiáng)化和豐富個(gè)人的知識(shí)儲(chǔ)備和信息倉庫。②“連接一切”的互聯(lián)網(wǎng)精神旨在打破封閉，擴(kuò)大個(gè)體參與，也有助于實(shí)現(xiàn)“自我的重塑”。吉登斯認(rèn)為，現(xiàn)代社會(huì)對(duì)個(gè)體自我認(rèn)同造成的兩難困境之一就是“統(tǒng)一與破碎”，但是他也樂觀地指出，“在后傳統(tǒng)秩序中，無限多的可能性不僅體現(xiàn)了行為選擇的多樣性，而且也體現(xiàn)了世界對(duì)于個(gè)體的‘開放性’”。[7］這種開放性正好處于封閉的對(duì)立面。互聯(lián)網(wǎng)的本質(zhì)是“連接一切”，在技術(shù)上實(shí)現(xiàn)萬物連接，同時(shí)實(shí)現(xiàn)信息在最大范圍上的流通與交互。這種網(wǎng)絡(luò)關(guān)系與現(xiàn)實(shí)生活中人們的社會(huì)關(guān)系以及社會(huì)行動(dòng)也會(huì)彼此投射，個(gè)體會(huì)積極投身于社會(huì)變化，通過努力學(xué)習(xí)和行為調(diào)適以適應(yīng)環(huán)境，實(shí)現(xiàn)“自我的重塑”。③互動(dòng)場景多元化和社會(huì)分工3.0模式出現(xiàn)，造就個(gè)體多元的身份認(rèn)同和身兼數(shù)職、實(shí)時(shí)協(xié)作的“斜杠青年”潮流。伯杰強(qiáng)調(diào)過現(xiàn)代社會(huì)的一個(gè)突出特征是“互動(dòng)場景的多元化”?！霸谠S多現(xiàn)代情境中，個(gè)體會(huì)卷入各種不同的困境和環(huán)境中，而每一種具體的環(huán)境都會(huì)要求有不同的‘得體行為’與之相適應(yīng)?！盵8］數(shù)字化時(shí)代賦予人們不同的數(shù)字身份，而場景的多元化則有可能促進(jìn)“自我的整合”，即為了消除差異和適應(yīng)環(huán)境變化的需要，人們更有可能發(fā)揮個(gè)人的積極性和主動(dòng)性，從不同場景中獲取信息、知識(shí)和力量，利用這種多元化創(chuàng)造獨(dú)特的自我身份認(rèn)同——即“斜杠青年”的興起。

所謂“斜杠青年”，是指在以互聯(lián)網(wǎng)為代表的信息技術(shù)推動(dòng)下，過去的專業(yè)化分工現(xiàn)在可以通過眾建、眾包、眾創(chuàng)等方式完成，其中，個(gè)人的職業(yè)身份由過去的固定和單一的契約化身份，逐漸疊加了更多身份，一個(gè)人可以身兼數(shù)職，擁有多種身份和職業(yè)，如程序員/鋼琴師/健身教練/創(chuàng)業(yè)講師，等等，我們形象化地稱之為“斜杠青年”。[9］互聯(lián)網(wǎng)讓人和組織的關(guān)系變得更加自由而靈活，個(gè)人獲得了極大的自由和時(shí)間自主權(quán)，個(gè)體也能夠成為新的、獨(dú)立的經(jīng)濟(jì)單元。這就是社會(huì)分工3.0范式。它的本質(zhì)是去雇傭化，旨在建立更加平等和自由的關(guān)系模式。如此一來，出于社會(huì)分工和職業(yè)需要，人們會(huì)更加主動(dòng)地尋求新信息、新知識(shí)，學(xué)習(xí)新技能，重塑新觀念，如此一來，就更不可能將自我封閉在狹隘的“繭房”中。

3.技術(shù)結(jié)構(gòu)不等于社會(huì)系統(tǒng)

麥克盧漢認(rèn)為，“媒介即信息”。在他看來，能夠改變世界和觀念方式，是媒介的形式而不是傳播的內(nèi)容。從本質(zhì)上來說，這也是“技術(shù)決定論”的表現(xiàn)之一。此外，技術(shù)決定論的線性思維，不僅僅體現(xiàn)在技術(shù)樂觀主義者身上，也同樣體現(xiàn)在技術(shù)悲觀論者的論調(diào)中。無論是過分溢美技術(shù)帶來的變革和進(jìn)步，還是憂心于技術(shù)給社會(huì)秩序和傳統(tǒng)文化、觀念造成的顛覆與破壞，它們都只看到了技術(shù)的單面作用。事實(shí)上，社會(huì)變化（進(jìn)步或倒退）都是各種復(fù)雜因素和過程疊加的后果，包括社會(huì)的整體環(huán)境、政治與經(jīng)濟(jì)生活。一個(gè)單獨(dú)的技術(shù)不能創(chuàng)造或破壞社會(huì)，而是取決于技術(shù)的使用者如何利用技術(shù)，以適應(yīng)社會(huì)與時(shí)代的需要?！懊浇樘峁┝艘粋€(gè)信息傳播的技術(shù)條件，但不能決定什么信息是應(yīng)該被傳播的。媒介本身并不能禁錮人的思想或者使社會(huì)文化自動(dòng)走向民主，而是整個(gè)社會(huì)、政治和經(jīng)濟(jì)生態(tài)中的一部分。技術(shù)工具和社會(huì)應(yīng)用的關(guān)系是一個(gè)適應(yīng)關(guān)系，體現(xiàn)了社會(huì)和政治的選擇。”[10］互聯(lián)網(wǎng)、社交網(wǎng)絡(luò)和算法技術(shù)的推廣普及，讓信息生產(chǎn)、篩選、共享和推薦變得方便快捷，它們?yōu)槿藗兲峁┝艘粋€(gè)數(shù)字化、即時(shí)性、多元交互和精準(zhǔn)匹配的信息交流平臺(tái)，所有人都潛在地與所有人產(chǎn)生聯(lián)系，跨越時(shí)空和身份的無限連接，使個(gè)人的身體、心智、想象力和行動(dòng)力在連續(xù)延伸中產(chǎn)生了一種新的社會(huì)中介?；ヂ?lián)網(wǎng)正是提供了這種“連接一切”的工具，成為打通各個(gè)領(lǐng)域的信息平臺(tái)，蜂擁而至的信息資源和個(gè)性化、共享式的用戶經(jīng)濟(jì)，其目的和效果是解放人、增加個(gè)人的選擇，而不是減少或限制用戶選擇。每一位個(gè)體從技術(shù)革新和社會(huì)系統(tǒng)中吸收養(yǎng)分，反過來又給系統(tǒng)輸送養(yǎng)分，從而在個(gè)人-社會(huì)之間形成一個(gè)以社會(huì)關(guān)系網(wǎng)絡(luò)為特征的循環(huán)系統(tǒng)。如此一來，在這個(gè)系統(tǒng)內(nèi)外，信息和資源都處于流動(dòng)、交換和循環(huán)的狀態(tài)之中，所謂的“信息繭房”也就不攻自破了。

未來在大數(shù)據(jù)樣本不斷累積的情況下，人工智能在新聞生產(chǎn)以及分發(fā)推送中會(huì)扮演更加重要的角色，給用戶的畫像也會(huì)更加精準(zhǔn)。與此同時(shí)，為克服機(jī)器學(xué)習(xí)過程中的過分機(jī)械、單一和信息推送的高度同質(zhì)化，在媒體內(nèi)部的數(shù)字新聞中心和各個(gè)內(nèi)容平臺(tái)都在努力探索和改進(jìn)人工智能深度學(xué)習(xí)的開發(fā)框架，同時(shí)輔之以人工干預(yù)，由人工進(jìn)行內(nèi)容審查、內(nèi)容過濾和信息核查，力求在“傳統(tǒng)新聞價(jià)值觀”與“算法推送”之間加以矯正和平衡，以降低算法專制的風(fēng)險(xiǎn)。而在新的經(jīng)濟(jì)關(guān)系中，“社會(huì)分工3.0模式能夠激活每一位個(gè)體，使其自身成為一個(gè)具有價(jià)值轉(zhuǎn)換能力的專業(yè)生產(chǎn)單位，更多地參與到越來越細(xì)化的社會(huì)分工中去?！盵11］它讓人與人之間的聯(lián)系變得更加緊密，互動(dòng)更為頻繁，那種畫地為牢、自我隔離的局面是不太可能出現(xiàn)的。因此，無論是從技術(shù)理念上還是它造成的實(shí)際結(jié)果來看，算法偏見、信息繭房和數(shù)字化監(jiān)獄有可能造成的“創(chuàng)新性破壞”，都可以在人工干預(yù)和自主調(diào)整的情況下得到改觀和規(guī)避，我們也不必為此過于憂心，以至于矯枉過正。