■ 許天穎 顧理平

一、問(wèn)題的提出

從物聯(lián)網(wǎng)、大數(shù)據(jù)到人工智能、5G,加速演進(jìn)的信息技術(shù)以更快的速度、更大的規(guī)模催生了更為深刻的社會(huì)革命?！翱茖W(xué)與技術(shù)的推進(jìn),使得世界的‘可預(yù)測(cè)性’增強(qiáng),同時(shí)也造成了新的‘不確定性’”①,數(shù)字化記憶以及由此帶來(lái)的“凝視”讓人們處在前所未有的數(shù)據(jù)收集和監(jiān)控之中,個(gè)人信息作為全新的權(quán)力載體,經(jīng)過(guò)數(shù)據(jù)聚合、代碼設(shè)計(jì)、算法挖掘等一系列后臺(tái)“催化”,對(duì)信息主體進(jìn)行規(guī)訓(xùn)與控制,構(gòu)成獨(dú)具智能時(shí)代標(biāo)簽的監(jiān)控范式與權(quán)力滲透路徑。

監(jiān)控的技術(shù)產(chǎn)生權(quán)力的效應(yīng),這是米歇爾·?？?Michel Foucault)微觀權(quán)力理論的重要觀點(diǎn)。20世紀(jì)70年代,?？略凇皥A形監(jiān)獄”理論基礎(chǔ)上提出了“全景敞視主義”,在他看來(lái),監(jiān)控與權(quán)力之間有著密切的關(guān)系,“圓形監(jiān)獄”是一個(gè)神奇的權(quán)力機(jī)器,在“毫不喧嘩”中產(chǎn)生效果,采用了時(shí)間、空間、光線(xiàn)等權(quán)力物理學(xué)技術(shù),在被囚禁者身上造成一種有意識(shí)的、持續(xù)可見(jiàn)的狀態(tài),造成其“被監(jiān)視”“被孤立”的心理,從而實(shí)現(xiàn)了自我管理與規(guī)訓(xùn),監(jiān)視者可見(jiàn)又不可確定的權(quán)力局勢(shì)帶來(lái)了監(jiān)視效果的持續(xù)性,這就是所謂的“全景敞視主義”。

“全景敞視建筑”構(gòu)筑的是一套話(huà)語(yǔ)理論,揭示作為權(quán)力的話(huà)語(yǔ)以何種方式發(fā)揮作用、并凸顯主體的構(gòu)建②,它的實(shí)質(zhì)并不僅僅是塔樓上的那個(gè)獄卒,而是施加于囚犯、使他或她成為一個(gè)罪犯的整個(gè)話(huà)語(yǔ)/實(shí)踐和權(quán)力結(jié)構(gòu)③,這套結(jié)構(gòu)規(guī)定、質(zhì)詢(xún)和確定了主體的位置、身份、立場(chǎng)④。

當(dāng)代技術(shù)的發(fā)展與更迭早已突破了?？玛P(guān)于監(jiān)控技術(shù)的想象,但依舊沒(méi)有擺脫“監(jiān)視技術(shù)產(chǎn)生權(quán)力效應(yīng)”的實(shí)質(zhì)。數(shù)據(jù)、算力、算法構(gòu)成了全新信息方式的內(nèi)核,人、物、場(chǎng)景無(wú)時(shí)無(wú)刻不在進(jìn)行著信息輸出,多元數(shù)據(jù)庫(kù)的關(guān)聯(lián)以及精準(zhǔn)智能的價(jià)值匹配,將現(xiàn)實(shí)世界與虛擬世界的關(guān)系全面升級(jí),監(jiān)控借助更為隱蔽、更加廣泛的方式,將權(quán)力滲透到社會(huì)的各個(gè)細(xì)節(jié)與人們的日常行為之中,通過(guò)對(duì)人、物、場(chǎng)景的存在、屬性以及關(guān)系進(jìn)行標(biāo)識(shí)與再現(xiàn),成為當(dāng)代社會(huì)的“圓形監(jiān)獄”“透光窗戶(hù)”和“中心塔樓”,構(gòu)成全新的社會(huì)控制與權(quán)力樣態(tài)。

本研究試圖探尋全新的信息方式下監(jiān)控范式如何流變,其規(guī)訓(xùn)形態(tài)、主體身份與社會(huì)行為、監(jiān)視主體,發(fā)生了哪些新的變化；作為信息方式內(nèi)核的算法,到底通過(guò)什么途徑完成了權(quán)力的滲透,通過(guò)對(duì)監(jiān)控表象的梳理抵達(dá)權(quán)力建構(gòu)的內(nèi)核,觸及技術(shù)發(fā)展如何撬動(dòng)了現(xiàn)有的權(quán)力結(jié)構(gòu)和社會(huì)秩序,并且設(shè)想在機(jī)器智能占據(jù)主導(dǎo)的世界,監(jiān)控與權(quán)力的未來(lái)圖景。

二、人工智能時(shí)代監(jiān)控范式的流變

數(shù)據(jù)與算法的聯(lián)姻讓“全景監(jiān)視”變得隱蔽而日常,規(guī)訓(xùn)形態(tài)從原先的“中心瞭望塔”變成遍布在社會(huì)有機(jī)體周遭的“毛細(xì)血管”；各類(lèi)傳感設(shè)備具身模糊了公私邊界,生物特征信息、思維活動(dòng)、心理狀態(tài),以及動(dòng)態(tài)的場(chǎng)景化信息變得可感可測(cè),不斷豐富和提升著智能系統(tǒng)的數(shù)據(jù)和算力；在中心塔樓熟練掌握操作盤(pán)的是一群看似中立的代碼設(shè)計(jì)者、程序員,他們通過(guò)高門(mén)檻的技術(shù)知識(shí),在技術(shù)后臺(tái)借助流動(dòng)與延拓的時(shí)空建構(gòu)權(quán)力。

1.新的監(jiān)控形態(tài):從“瞭望塔”到“毛細(xì)血管”

以個(gè)人信息的監(jiān)控為例,各類(lèi)信息技術(shù)形成了不同的監(jiān)控形態(tài)。數(shù)據(jù)聚合與挖掘技術(shù),將瑣碎的個(gè)人信息迅速匯聚起來(lái),個(gè)人的習(xí)慣、偏好、關(guān)系和社交網(wǎng)絡(luò)等不同的數(shù)據(jù)庫(kù)被相互連接與分析,構(gòu)成了主體現(xiàn)實(shí)與未來(lái)行動(dòng)的重要線(xiàn)索,大數(shù)據(jù)“基于歷史的數(shù)據(jù)去形成新的可視性”的邏輯,成為其建構(gòu)權(quán)力的來(lái)源。物聯(lián)網(wǎng)技術(shù)把人或各種物品通過(guò)射頻識(shí)別(RFID)、紅外感應(yīng)器、全球定位系統(tǒng)、激光掃描器等信息傳感設(shè)備與互聯(lián)網(wǎng)連接起來(lái),通過(guò)信息交換和通信,實(shí)現(xiàn)智能化識(shí)別、定位、跟蹤、監(jiān)控和管理⑤,通過(guò)構(gòu)建人與物的共生關(guān)系,進(jìn)一步加劇了權(quán)力的延伸。人工智能技術(shù)將使人與智能機(jī)器(包括軟件)變成人機(jī)合一的關(guān)系⑥,人與機(jī)器可以構(gòu)成同一個(gè)系統(tǒng),包括“人體”這個(gè)系統(tǒng)。人體上將有越來(lái)越多的“機(jī)器”,它們以可穿戴設(shè)備、傳感器和其他芯片形式存在,芯片可以植入人體,無(wú)限細(xì)密的監(jiān)視之網(wǎng)不僅嵌入了人們的日常生活,權(quán)力效應(yīng)還獲得了潛入人類(lèi)意識(shí)的可能。

伴隨著各類(lèi)技術(shù)監(jiān)控觸角的深入,對(duì)“所有地方的所有信息”⑦進(jìn)行監(jiān)視變得可能。所謂“所有地方”,是指監(jiān)控的發(fā)生正從固定的場(chǎng)所變得流動(dòng)和液態(tài),技術(shù)的日益精密與隱形,其強(qiáng)大的時(shí)空消弭能力、廣闊的時(shí)空延伸能力、實(shí)時(shí)的多層次人機(jī)交互能力,使得“囚犯居民”無(wú)須關(guān)在任何建筑物中居住,只須照常進(jìn)行日常生活⑧。所謂“所有信息”,是指監(jiān)控的形態(tài)正從“皮上監(jiān)控”走向“皮下監(jiān)控”⑨,新技術(shù)以暗流涌動(dòng)的方式,將這種“感知”與“警覺(jué)”延伸至身體所處觸達(dá)的時(shí)空,同時(shí)開(kāi)辟了通向人類(lèi)中樞神經(jīng)系統(tǒng)的“電筒”,讓原本蝸居于人腦人心的思維活動(dòng)、心理狀態(tài)變得具體可感,監(jiān)控幾乎逼近至私人空間的極限。

因此,福柯論述的監(jiān)控是在一個(gè)相對(duì)固定的特殊場(chǎng)所內(nèi)進(jìn)行,在這個(gè)獨(dú)特的場(chǎng)所中,通過(guò)重構(gòu)的空間、持久的注視、充足的光線(xiàn),使得被監(jiān)視者處于一種被隔絕、被觀察、被控制的狀態(tài),權(quán)力的實(shí)施成為可能。人工智能時(shí)代的監(jiān)控,不再只是附著于固定場(chǎng)所的“中心塔樓”,而是如同空氣和水一樣,呈現(xiàn)“24×7”的毛細(xì)血管式的全覆蓋；不再是“主干+枝杈”的一棵樹(shù),而是四處蔓延、能夠觸及任何一處細(xì)微角落的爬行植物。⑩

2.新的主體建構(gòu):去中心、多重化的“數(shù)字人”

在監(jiān)控技術(shù)所誘發(fā)的權(quán)力效應(yīng)中,主體建構(gòu)方式的變化是其中的重要內(nèi)容。馬克·波斯特在?？乱?guī)訓(xùn)機(jī)制的基礎(chǔ)上,通過(guò)對(duì)數(shù)據(jù)庫(kù)話(huà)語(yǔ)的觀察,認(rèn)為“只要通過(guò)數(shù)據(jù)庫(kù),主體就被多重化、去中心化,電腦能從許多社會(huì)場(chǎng)合對(duì)主體產(chǎn)生作用,而所涉及的個(gè)體卻毫不知情”。

以個(gè)人信息的收集與處理為例,在普通個(gè)體看不見(jiàn)的“后臺(tái)”,“數(shù)據(jù)庫(kù)通常是通過(guò)對(duì)現(xiàn)實(shí)的‘?dāng)M仿’發(fā)揮功能的”,這種擬仿可以理解為數(shù)據(jù)庫(kù)信息方式下“被殖入的自我”,每變換一種情境和場(chǎng)景,就會(huì)殖入一種新的自我。在現(xiàn)實(shí)自我與多個(gè)“被殖入的自我”,亦即現(xiàn)實(shí)人格與數(shù)字人格之間,仿佛是“1”與無(wú)限大數(shù)量之間的“不對(duì)稱(chēng)耦合”,“1”在對(duì)應(yīng)無(wú)數(shù)種關(guān)聯(lián)的過(guò)程中,極易導(dǎo)致自我的斷裂,“主體不可能認(rèn)為自己還占據(jù)著自我理性的、自律的主體性的中心,也不可能認(rèn)為還是被一個(gè)界定明晰的自我所限定著,自我變成了分裂的、多重的、消散于社會(huì)空間之中”。

隨著技術(shù)與人的融合日益加深、人的身體與日常生活細(xì)節(jié)越來(lái)越精密地被縫合在了比特網(wǎng)絡(luò)之中,人類(lèi)開(kāi)始變成一種“電子存在物”。各類(lèi)可穿戴設(shè)備與自我追蹤裝置,引發(fā)了量化自我運(yùn)動(dòng)。技術(shù)具身的身體,使得主體的各項(xiàng)行為被數(shù)字化,變成了行走的“數(shù)字人”,從每天睜開(kāi)雙眼的一瞬間,就被鑲嵌在了現(xiàn)實(shí)與虛擬、多維時(shí)間與異質(zhì)空間之間,游走在私人領(lǐng)域與公共領(lǐng)域之間。一方面,人本身成為計(jì)算機(jī)數(shù)據(jù)的重要來(lái)源,各類(lèi)感知、行動(dòng)都可以被技術(shù)、算法所利用并“再現(xiàn)”；另一方面,這些基于技術(shù)邏輯的數(shù)據(jù)又規(guī)約著賽博人主體性的內(nèi)涵及實(shí)踐。在這一過(guò)程中,數(shù)據(jù)智能通過(guò)“表征”而非“還原”的方式再現(xiàn)主體,同時(shí)能動(dòng)地介入了主體的行動(dòng)與社會(huì)現(xiàn)實(shí)的構(gòu)建。

作為身體與技術(shù)的互嵌體,“數(shù)字人”最大的特征就是突破了人與機(jī)器的邊界,技術(shù)可以創(chuàng)造虛擬身體并且把它與人類(lèi)的肉身之軀分離開(kāi)來(lái),而且化身的形態(tài)各異,可以在同一個(gè)時(shí)間出現(xiàn)在不同的空間里,也可以在同一個(gè)空間中獲得時(shí)間性的延續(xù),“化身”的多樣形態(tài)直接導(dǎo)致了主體建構(gòu)的多重化,使得“自然主體”與“數(shù)字主體”錯(cuò)綜交疊。

3.誰(shuí)來(lái)操控瞭望塔:代碼控制者

當(dāng)社會(huì)從有形的物質(zhì)創(chuàng)造價(jià)值轉(zhuǎn)向無(wú)形的信息創(chuàng)造價(jià)值,整個(gè)社會(huì)對(duì)信息資源的依賴(lài)和利用不斷加強(qiáng),來(lái)到中心瞭望塔的匿名的、臨時(shí)的監(jiān)視者也越來(lái)越多。傳統(tǒng)權(quán)力機(jī)構(gòu)不再只是超然的法律規(guī)則制定者和執(zhí)行者,同時(shí)也是個(gè)人信息最大的收集、處理、儲(chǔ)存和利用者；商業(yè)結(jié)構(gòu)因?yàn)橘Y本逐利的天性,對(duì)信息這一“新資源”的需求甚過(guò)以往；信息機(jī)構(gòu),即專(zhuān)門(mén)從事個(gè)人信息收集、處理、儲(chǔ)存、傳輸和利用等相關(guān)活動(dòng)的法人和其他組織,開(kāi)始作為獨(dú)立的利益相關(guān)者出現(xiàn)。

?？略谄湮⒂^權(quán)力理論體系中,基于傳播實(shí)踐,提出知識(shí)生產(chǎn)權(quán)力,權(quán)力通過(guò)知識(shí)話(huà)語(yǔ)表現(xiàn)出來(lái),“知識(shí)的形成與權(quán)力的增強(qiáng)有規(guī)律地相互促進(jìn):一方面,通過(guò)對(duì)權(quán)力關(guān)系的加工,實(shí)現(xiàn)一種認(rèn)識(shí)‘解凍’,另一方面,通過(guò)新型知識(shí)的形成與積累,使權(quán)力效應(yīng)擴(kuò)大?！?。面對(duì)個(gè)人信息的監(jiān)控,在多個(gè)匿名監(jiān)視者之中,占據(jù)技術(shù)話(huà)語(yǔ)的是代碼控制者,即信息機(jī)構(gòu)中的程序編寫(xiě)人員,是他們決定了如何對(duì)代碼進(jìn)行編譯,決定了代碼應(yīng)當(dāng)是怎樣運(yùn)行,決定了網(wǎng)絡(luò)的缺省設(shè)置應(yīng)當(dāng)是什么,個(gè)人信息是否應(yīng)當(dāng)受到保護(hù)、所允許的匿名程度、所保證的連接范圍等。程序編寫(xiě)人員借助對(duì)代碼的控制獲得了所謂的“知識(shí)話(huà)語(yǔ)”,坐上了瞭望塔中心操作盤(pán)的交椅。

但是,代碼的運(yùn)行鑲嵌在社會(huì)結(jié)構(gòu)之中,“它不僅僅是一個(gè)技術(shù)架構(gòu)的控制,同時(shí)還是一套社會(huì)控制機(jī)制；它反映的不單純是技術(shù)人員對(duì)于網(wǎng)絡(luò)結(jié)構(gòu)的自我認(rèn)識(shí),同時(shí)反映了在社會(huì)治理過(guò)程中,對(duì)技術(shù)變革的可控制性所蘊(yùn)涵的政治意義和商業(yè)價(jià)值的關(guān)注”。也就是說(shuō),代碼控制者還必然包含了在社會(huì)運(yùn)行結(jié)構(gòu)中的傳統(tǒng)權(quán)力機(jī)構(gòu)和商業(yè)結(jié)構(gòu),它們喚醒了附著在技術(shù)變革之上更為強(qiáng)烈的控制意識(shí)。政治權(quán)威和商業(yè)資本,可以通過(guò)架設(shè)另一套準(zhǔn)則,將代碼運(yùn)行規(guī)則予以根本改變,從而控制政治資源的流向或者找到最佳的營(yíng)銷(xiāo)方案。

伴隨著智能技術(shù)的發(fā)展,代碼運(yùn)行規(guī)則還可能被另外一套準(zhǔn)則所控制——機(jī)器準(zhǔn)則,人類(lèi)智慧可能被機(jī)器智能反超、人類(lèi)準(zhǔn)則可能被機(jī)器準(zhǔn)則所僭越。在人工智能的初始階段,看不見(jiàn)的“后臺(tái)”,或許仍然被傳統(tǒng)權(quán)力機(jī)構(gòu)、商業(yè)機(jī)構(gòu)、信息機(jī)構(gòu)等把持,“后臺(tái)”運(yùn)行的權(quán)力邏輯仍然與政治控制或者商業(yè)逐利有關(guān)。但在不斷深度學(xué)習(xí)和算法迭代之后,機(jī)器智能就會(huì)超過(guò)人類(lèi)智能,機(jī)器完全逾越了后臺(tái)指令,代碼便落入了真正的“黑箱”。

三、人工智能時(shí)代算法權(quán)力的滲透

在福柯的論述中,“全景監(jiān)獄”不僅是通過(guò)監(jiān)控的技術(shù)誘發(fā)權(quán)力效應(yīng)的“神奇機(jī)器”,同時(shí)也是進(jìn)行試驗(yàn)、改造行為、規(guī)訓(xùn)人的“實(shí)驗(yàn)室”；不僅通過(guò)對(duì)于肉體、表面、光線(xiàn)、目光的某種統(tǒng)一安排和內(nèi)在機(jī)制產(chǎn)生制約個(gè)人的關(guān)系,誘發(fā)了不對(duì)稱(chēng)、不平衡、有差異的權(quán)力效應(yīng),同時(shí)還獲得了深入人們行為的效能,能使權(quán)力在任何時(shí)刻進(jìn)行干預(yù),甚至在過(guò)失、錯(cuò)誤或者罪行發(fā)生之前就不斷施加壓力。人工智能時(shí)代,監(jiān)控依然是權(quán)力實(shí)施的話(huà)語(yǔ)/實(shí)踐,只是在流變的監(jiān)控范式下,權(quán)力到底是通過(guò)怎樣的方式滲透與嵌入,由算法構(gòu)建起的權(quán)力是如何與政治經(jīng)濟(jì)系統(tǒng)的職能相互嵌合,構(gòu)建起權(quán)力機(jī)制與職能結(jié)合的交匯點(diǎn),從而具備了重塑社會(huì)權(quán)力結(jié)構(gòu)的可能。

1.細(xì)小日常的規(guī)訓(xùn)機(jī)制:如影隨形的權(quán)力座駕

在?？驴磥?lái),全景敞視機(jī)制的發(fā)展和普遍化是由細(xì)小的、日常的物理機(jī)制來(lái)維持的,細(xì)小的規(guī)訓(xùn)技術(shù),規(guī)訓(xùn)所發(fā)明的表面上微不足道的技巧,乃至那些使規(guī)訓(xùn)披上體面外衣的“科學(xué)”,都受到了重視,人們十分擔(dān)心如果拋棄了它們,會(huì)找不到其他替代物。

這樣的描述十分逼近人們?nèi)缃竦闹悄芑?一方面,用戶(hù)通過(guò)手機(jī)使用,順利實(shí)現(xiàn)了跨屏觸達(dá)、場(chǎng)景滲透、互動(dòng)參與和內(nèi)容生產(chǎn),全新的信息方式帶來(lái)了多層次交往的體驗(yàn)；另一方面,多終端、沉浸式、場(chǎng)景化的媒介體驗(yàn)也導(dǎo)致了用戶(hù)的工具依賴(lài),手機(jī)全天候不能離身,各類(lèi)工具類(lèi)App內(nèi)置了多個(gè)虛擬身份,全面嵌入人們的日常生活。

伴隨著“24×7”的毛細(xì)血管式的監(jiān)控形態(tài),無(wú)孔不入的監(jiān)控技術(shù)不僅慢慢擴(kuò)展到個(gè)人生活無(wú)限細(xì)小的層面,同時(shí)還激活了沉寂已久的“身體”,許多原先只有微弱影響力的與身體隱私有關(guān)的領(lǐng)域,開(kāi)始被賦予意想不到的挖掘價(jià)值,比如伴隨身體的移動(dòng)而產(chǎn)生的位置信息；身體的某個(gè)細(xì)小部件(眼睛、耳朵)、基因(DNA)、運(yùn)動(dòng)(心跳、脈搏)或者全身掃描成像圖景等構(gòu)成的生物特征信息；穿透身體皮膚直達(dá)內(nèi)心的意識(shí)信息等?！胺祱?chǎng)”后的身體不再只是被光線(xiàn)照亮的“輪廓”,而是主體介入環(huán)境、置身場(chǎng)景、連結(jié)社會(huì)關(guān)系,使權(quán)力關(guān)系得以擴(kuò)展的重要“介質(zhì)”,“對(duì)身體的監(jiān)控從依靠身體的物理邊界和身體活動(dòng)的有限時(shí)空,變?yōu)檠由斓?、沒(méi)有疆域的時(shí)空”。

隨著數(shù)據(jù)的積累與算法的升級(jí),蘋(píng)果的Siri系統(tǒng)、阿里開(kāi)發(fā)的“天貓精靈”等開(kāi)始搶灘“虛擬助手市場(chǎng)”,試圖為用戶(hù)構(gòu)建平行世界里的另一個(gè)自己,從而蓄積定向支配用戶(hù)認(rèn)知與行為的巨大能量。如今,中國(guó)的互聯(lián)網(wǎng)用戶(hù)越來(lái)越習(xí)慣讓今日頭條來(lái)推送各類(lèi)資訊、讓豆瓣列出書(shū)單、讓百度地圖帶領(lǐng)從而抵達(dá)目的地、讓大眾點(diǎn)評(píng)推薦一款附近的且價(jià)格合理的餐廳,因此,當(dāng)一個(gè)集結(jié)了上述功能的“智能私人管家”出現(xiàn),人們一定會(huì)越發(fā)依賴(lài)、更加愿意被“套牢”,并且自愿放棄其他選擇的機(jī)會(huì)。

如果這款“私人管家”被默認(rèn)設(shè)置在用戶(hù)手機(jī),能夠與其他應(yīng)用配合默契,那么,人們就會(huì)逐漸將更多原先的自行搜索與個(gè)人決策省略,“私人管家”由此獲得了在推薦產(chǎn)品和解決方案之間自由發(fā)揮的特權(quán)。在這一過(guò)程中,后臺(tái)獲得的用戶(hù)個(gè)人信息不僅呈現(xiàn)幾何級(jí)的增長(zhǎng),而且還會(huì)在數(shù)據(jù)信息不斷的“投喂”與“校驗(yàn)”下,拉動(dòng)算法智能的提檔升級(jí),讓這位管家變得越來(lái)越聰明、可靠,直至人們放心地將選擇的權(quán)力完全移交。

因此,當(dāng)個(gè)體被置于“觀察”之下,當(dāng)規(guī)訓(xùn)變得細(xì)小而日常,權(quán)力便如同籠罩上空的巨型“座架”,如影隨形、無(wú)處逃離,身處其中的人們?cè)谙硎苤悄?、便捷、充分給予的便利服務(wù)的同時(shí),也被牢牢限定在“數(shù)據(jù)+算法”的規(guī)訓(xùn)之中。

2.單向透明的主體建構(gòu):千人千面的算法畫(huà)像

全景敞視監(jiān)獄通過(guò)獨(dú)特的空間構(gòu)造保證了秩序的運(yùn)行——囚室的房間被安排成正對(duì)著中心瞭望塔,具備了“向心的可見(jiàn)性”；但是環(huán)形建筑被分割的囚室,則意味著一種“橫向的不可見(jiàn)性”,正是這種不可見(jiàn)性,成為一種秩序的保證,這種秩序維持了監(jiān)視者隨時(shí)可以計(jì)算和監(jiān)控的權(quán)力,而被監(jiān)視者則處于被隔絕、被觀察的狀態(tài)。

人工智能時(shí)代,數(shù)據(jù)痕跡的延伸生成一個(gè)更為透明的社會(huì)空間。然而,這種透明并非無(wú)差別的雙向透明,而是數(shù)據(jù)持有者、算法控制者相對(duì)于互聯(lián)網(wǎng)接入者的單向透明。在這個(gè)虛擬空間,“主體是漂浮著的,懸置于客觀性的種種不同位置之間。不同的構(gòu)型使主體隨著偶然情境的不確定而相應(yīng)地被一再重新構(gòu)建”,“主體被電腦化的信息傳遞以及意義協(xié)商所消散,被重新制定身份,在符號(hào)的電子化傳輸中被持續(xù)分解和物質(zhì)化”,之后根據(jù)具體情況按照程序化的方法被區(qū)分與對(duì)待,構(gòu)成了“千人千面”的算法畫(huà)像。

事實(shí)上,淘寶等電商平臺(tái)很早就推廣了“千人千面”的購(gòu)買(mǎi)界面,即根據(jù)用戶(hù)的商品檢索記錄,迅速調(diào)整和定制動(dòng)態(tài)界面,更好地呈現(xiàn)與用戶(hù)搜索記錄更為接近的相關(guān)商品。在用戶(hù)點(diǎn)開(kāi)網(wǎng)頁(yè)的幾秒之內(nèi),數(shù)據(jù)后臺(tái)便根據(jù)其掌握的用戶(hù)數(shù)據(jù),主要包括搜索記錄、購(gòu)買(mǎi)歷史、瀏覽痕跡、停留時(shí)間等信息,快速計(jì)算出用戶(hù)最有可能購(gòu)買(mǎi)的商品,并在顯著位置呈現(xiàn)出來(lái)。

“千人千面”的硬件基礎(chǔ)是手機(jī)運(yùn)用所帶來(lái)的“一人一屏”,正是因?yàn)槊總€(gè)人的手機(jī)屏幕上可以顯示不同的內(nèi)容,價(jià)格才可以變成“千人千價(jià)”,通過(guò)數(shù)據(jù)對(duì)用戶(hù)進(jìn)行區(qū)分和畫(huà)像。例如在手機(jī)上購(gòu)買(mǎi)機(jī)票,算法可以通過(guò)大數(shù)據(jù)判斷用戶(hù)是否為白領(lǐng)階層,當(dāng)用戶(hù)進(jìn)入購(gòu)買(mǎi)界面時(shí),高端白領(lǐng)看到的都是商務(wù)艙機(jī)票,而在校大學(xué)生看到的則是打折機(jī)票?？梢哉J(rèn)為,手機(jī)上顯示的票價(jià)反映的是電商對(duì)用戶(hù)愿意為這件商品所支付的最高價(jià)格的估算,差別化定價(jià)反映出的是電商根據(jù)用戶(hù)的購(gòu)買(mǎi)意愿與支付能力,將其歸入不同的分組,并且對(duì)每一位用戶(hù)或者某一類(lèi)消費(fèi)群體的需求彈性做出合理判斷的能力。

個(gè)人信息和算法的結(jié)合,開(kāi)始取代傳統(tǒng)的市場(chǎng)調(diào)節(jié),成為幕后價(jià)格操縱的那只看不見(jiàn)的手。商家和用戶(hù)之間不再是一對(duì)多的關(guān)系,而是變成了一對(duì)一的關(guān)系,價(jià)格是根據(jù)活躍在中心瞭望塔的技術(shù)“大腦”們分類(lèi)計(jì)算得出的,每一條價(jià)格都是隱秘的、單行的,用戶(hù)被安置在彼此割裂的“囚室”,等待著價(jià)格的差異化分配,同時(shí)被誘導(dǎo)對(duì)那些并非自己所需的產(chǎn)品支付更高的價(jià)格。

被后臺(tái)計(jì)算出的“數(shù)字人格”在很大程度上取決于算法控制者對(duì)數(shù)據(jù)的處理原則,這樣的原則為每個(gè)主體建構(gòu)了額外的社會(huì)身份。比如,銀行會(huì)根據(jù)你的信用記錄判斷你的“信用人格”,從而決定是否給你發(fā)放貸款；工作單位會(huì)根據(jù)你以往的業(yè)績(jī)與表現(xiàn)審定你的“工作人格”,從而確定是否接受你的求職；保險(xiǎn)公司會(huì)根據(jù)你的醫(yī)療記錄評(píng)估你的“健康人格”,從而決定給你匹配什么樣的保險(xiǎn)品種……個(gè)人信息由此變成了一道劃分社會(huì)階層、區(qū)隔不同群體的鴻溝,通過(guò)隱蔽且匿名的方式,嚴(yán)密地進(jìn)行著登記、評(píng)估和分類(lèi)。

3.無(wú)形的囚室之墻:技術(shù)知識(shí)豎起權(quán)力高墻

“知識(shí)和信息一直是生產(chǎn)力和權(quán)力的重要源泉”,按照“數(shù)據(jù)—信息—知識(shí)”的層次結(jié)構(gòu),數(shù)據(jù)是離散的實(shí)體或符號(hào),信息是結(jié)構(gòu)化的數(shù)據(jù),知識(shí)則是信息的積累和整合。人工智能時(shí)代,“大數(shù)據(jù)以一種前所未有的海量形式泉涌出來(lái),并從多種維度上持續(xù)不斷地對(duì)于人的種種屬性、狀態(tài)和外部關(guān)系進(jìn)行實(shí)時(shí)的描述和呈現(xiàn)；而算法技術(shù)則通過(guò)建模實(shí)現(xiàn)對(duì)人的認(rèn)識(shí)感知能力、分析處理能力和決策判斷能力進(jìn)行‘模擬仿真’以及在此基礎(chǔ)上的超越”。

不同于現(xiàn)實(shí)世界,虛擬世界的游戲規(guī)則必須借助一定的技術(shù)工具才得以實(shí)現(xiàn)。對(duì)技術(shù)工具掌握水平的高低,將會(huì)直接影響相應(yīng)主體在網(wǎng)絡(luò)空間行為能力的大小,這里所說(shuō)的能力包括了對(duì)技術(shù)工具的占有、對(duì)技術(shù)知識(shí)的掌握以及對(duì)技術(shù)架構(gòu)的支配。在技術(shù)空間,架構(gòu)主要由代碼控制,“控制了代碼就決定了整個(gè)網(wǎng)絡(luò)應(yīng)用背后架構(gòu)的模式,對(duì)相關(guān)的網(wǎng)絡(luò)應(yīng)用行為也就構(gòu)成了約束”。

在網(wǎng)絡(luò)的交易市集,網(wǎng)絡(luò)平臺(tái)商、應(yīng)用軟件開(kāi)發(fā)商、網(wǎng)絡(luò)用戶(hù)之間共同形成了交易的主體,市集創(chuàng)收主要來(lái)源于用戶(hù)點(diǎn)擊與廣告分成,面對(duì)個(gè)人信息這一財(cái)富與資本積累的源頭,網(wǎng)絡(luò)平臺(tái)商、應(yīng)用軟件開(kāi)發(fā)商同樣如饑似渴,只要用戶(hù)打開(kāi)手機(jī)、將手機(jī)聯(lián)網(wǎng),便開(kāi)始合力追蹤和解讀用戶(hù)的個(gè)人信息。用戶(hù)只要在某處網(wǎng)站或是某個(gè)應(yīng)用程序上稍作停留,便無(wú)償支出了大量的數(shù)據(jù)“原油”。

然而在代碼支撐起的架構(gòu)平臺(tái),由于占據(jù)的信息和技術(shù)資源不對(duì)等、支配技術(shù)的能力不均衡,網(wǎng)絡(luò)平臺(tái)商與應(yīng)用軟件開(kāi)發(fā)商之間,呈現(xiàn)出不平衡的權(quán)力樣態(tài)。應(yīng)用軟件開(kāi)發(fā)商必須借助于平臺(tái)控制者所提供的技術(shù)手段以及所設(shè)定的交易規(guī)則實(shí)現(xiàn)數(shù)字交易,因此,雖然平臺(tái)商不直接對(duì)接用戶(hù),但在個(gè)人信息的占有和調(diào)度上處于核心和支配地位,在由算法權(quán)力支配的瞭望塔中,由此坐上了“第一把交椅”。

此外,由于占據(jù)著海量的個(gè)人信息,平臺(tái)商就有更大可能根據(jù)既有的數(shù)據(jù)信息推測(cè)出用戶(hù)的消費(fèi)傾向,在信息資源的挖掘利用上,仿佛擁有了“上帝視角”,可以更快地找到整張版圖中缺失的、最為關(guān)鍵的一塊拼圖,也就更加清楚地知道將在哪塊地表鉆取數(shù)據(jù)“原油”。除此之外,面對(duì)更有價(jià)值的個(gè)人信息,平臺(tái)商甚至可以直接要求調(diào)取應(yīng)用軟件開(kāi)發(fā)商的數(shù)據(jù)庫(kù),或是直接出動(dòng)自己的鉆機(jī)來(lái)訪問(wèn)。

以代碼為代表的技術(shù)資源,通過(guò)對(duì)海量信息的占有、對(duì)技術(shù)知識(shí)的掌握、以及對(duì)技術(shù)規(guī)則的支配,將優(yōu)勢(shì)資源轉(zhuǎn)化為對(duì)個(gè)體行為的支配、控制與影響,但是這樣的權(quán)力運(yùn)行也可能跳脫架構(gòu)師們的控制,落入算法黑箱。這是因?yàn)?各種與個(gè)人生活息息相關(guān)的選擇、評(píng)價(jià)和決策,一旦被編碼并封裝到復(fù)雜而不可思議的算法之中,就可能因?yàn)楹罄m(xù)的錯(cuò)誤修復(fù)與調(diào)整而多次迭代,致使作為代碼控制者的架構(gòu)師們也往往很難理解其中的價(jià)值內(nèi)涵,從而陷入了某種“技術(shù)無(wú)意識(shí)”的狀態(tài),算法本身就化作了一股影響人和社會(huì)的不可思議的神秘力量,被運(yùn)用到現(xiàn)實(shí)實(shí)踐之中,對(duì)主體形成規(guī)訓(xùn)。

4.虛擬關(guān)系的精神控制:主體的馴化與異化

全景敞視建筑之所以能夠產(chǎn)生“精神對(duì)精神的作用”,不是依靠“鐵柵、鐵鐐與大鎖”,而是來(lái)自中心瞭望塔的“可見(jiàn)而又無(wú)法確知”的監(jiān)視,這種匿名的、虛擬的關(guān)系自動(dòng)地產(chǎn)生出一種真實(shí)的征服,使得被監(jiān)控者逐漸放棄了“越軌”的念頭。

基于“日常生活信息構(gòu)建的虛擬后臺(tái)”的運(yùn)作方式,不僅“能夠減少行使權(quán)力的人數(shù),同時(shí)增加受權(quán)力支配的人數(shù),權(quán)力在任何時(shí)刻進(jìn)行干預(yù),甚至在過(guò)失、錯(cuò)誤或者罪行發(fā)生之前就不斷施加壓力”。算法和數(shù)據(jù)能夠基于用戶(hù)已經(jīng)公開(kāi)的碎片信息中推測(cè)出未經(jīng)用戶(hù)同意公開(kāi)的意愿與傾向,對(duì)個(gè)人進(jìn)行所謂“畫(huà)像”,這其中包括基于既有行為對(duì)未來(lái)罪責(zé)的預(yù)測(cè)與懲罰?！白锓冈趯?shí)施犯罪前就已受到了懲罰,人們不是因?yàn)樗龆艿綉土P,而是因?yàn)閷⒆?即使他們事實(shí)上并沒(méi)有犯罪”。這會(huì)使未來(lái)社會(huì)處于看似“防患于未然”,實(shí)則極其危險(xiǎn)的境地,因?yàn)椤盎谖磥?lái)可能行為之上的懲罰是對(duì)公平正義的褻瀆”,“也將會(huì)讓人們惶恐不安,因?yàn)檫@否認(rèn)了自由意志,并傷害了人類(lèi)尊嚴(yán)”。

隨著數(shù)據(jù)的日益累積、算法設(shè)計(jì)的不斷升級(jí),人的身體逐漸被技術(shù)所穿透、被數(shù)據(jù)所型構(gòu),人的行為甚至意識(shí)能夠被算法所“窺視”,這其中甚至包括依賴(lài)激情、欲望、感覺(jué)等抽象觀念來(lái)決定的情感地帶。有報(bào)道稱(chēng),如今在美國(guó),每6對(duì)決定結(jié)婚的夫婦中,就有一對(duì)是通過(guò)OkCupid等約會(huì)網(wǎng)站或App認(rèn)識(shí)的,他們的會(huì)員平均會(huì)回答大約300個(gè)問(wèn)題,算法被運(yùn)用到這數(shù)百個(gè)問(wèn)題和千百萬(wàn)用戶(hù)中,這款軟件的創(chuàng)建者們認(rèn)為,算法,而不是宿命,能夠幫人們找到真正的靈魂伴侶。除了讓用戶(hù)填寫(xiě)大量的個(gè)人信息,約會(huì)軟件的算法正在向更加智能的方向發(fā)展——當(dāng)用戶(hù)覺(jué)得對(duì)方合眼緣,就會(huì)點(diǎn)贊或者往右滑動(dòng)照片,沒(méi)有興趣則往左滑,如何兩個(gè)人恰好彼此一致地完成了上述操作的話(huà),就能夠搭話(huà)了；或者用視頻交流取代簡(jiǎn)單的照片,如果軟件能夠識(shí)別你和談話(huà)對(duì)象的手勢(shì)、表情、某個(gè)口頭禪或是某個(gè)小動(dòng)作,它可能能夠通過(guò)一次短暫的交談,幫助用戶(hù)識(shí)別出合適的約會(huì)對(duì)象。

如果說(shuō),用戶(hù)的照片、簡(jiǎn)介里的文字這些屬于傳統(tǒng)意義的個(gè)人信息,那么,兩人同時(shí)做出的滑動(dòng)屏幕的行為,這幾乎就是個(gè)人在“無(wú)意識(shí)狀態(tài)”下自動(dòng)發(fā)出的“生物信號(hào)”了,在這樣的背景下,算法通過(guò)捕捉這些生物特征信息,擁有了深入探測(cè)用戶(hù)思維活動(dòng)和心理狀態(tài)的可能。這意味著,意識(shí)可以從身體中抽離,被算法拿去計(jì)算與實(shí)驗(yàn),進(jìn)而實(shí)現(xiàn)控制。因此,當(dāng)越來(lái)越多的個(gè)人信息失去控制,意識(shí)與主體相抽離,并被算法重新建構(gòu)之時(shí),“算法真的比我更懂我？”“我如何成為我？”所指向的,是新一輪信息技術(shù)浪潮下,數(shù)據(jù)庫(kù)話(huà)語(yǔ)構(gòu)筑的全新控制范式之中,人們?nèi)找婕由畹漠惢Ь场?/p>

四、結(jié)語(yǔ)

“任何一次技術(shù)革命的背后,實(shí)際上都是一種主體性質(zhì)的觀念革命,在這個(gè)過(guò)程當(dāng)中也一定會(huì)產(chǎn)生新的社會(huì)呼喚”。以個(gè)人信息為載體,人工智能時(shí)代的監(jiān)控與權(quán)力呈現(xiàn)出不同以往的形態(tài)與路徑,這些差異涉及我們?nèi)绾蝿澏ㄐ畔⑦吔?、如何確立權(quán)力秩序、如何進(jìn)行主體建構(gòu)。如果我們將現(xiàn)在歸于人工智能的發(fā)展初期,代碼規(guī)制依然嵌套于現(xiàn)實(shí)世界的游戲法則,防止這種新型權(quán)力的肆意擴(kuò)張、逾越邊界,必須對(duì)其進(jìn)行“可追責(zé)、可驗(yàn)證、可訪問(wèn)”的規(guī)制；必須為弱勢(shì)個(gè)體賦權(quán)、賦能,讓其不僅僅是這張網(wǎng)格中經(jīng)受權(quán)力的節(jié)點(diǎn),同時(shí)也是能夠運(yùn)用權(quán)力的節(jié)點(diǎn)。

再往前一步,倘若未來(lái)機(jī)器算法通過(guò)基于深度學(xué)習(xí)與自我訓(xùn)練,完成參數(shù)調(diào)整與模型構(gòu)建,進(jìn)而在一定程度上能夠?qū)崿F(xiàn)自我生產(chǎn),意識(shí)、想法、信念等個(gè)人信息可以完全脫離身體,或者寄居于某個(gè)“虛擬身體”時(shí),權(quán)力規(guī)制以及主體建構(gòu)的議題或許就該變成:這些來(lái)自于主體、卻又不受主體控制的數(shù)據(jù)、信息和算法,作為某種客觀存在,如何在多維時(shí)空與宇宙萬(wàn)物間進(jìn)行權(quán)衡較量、如何維持能量守恒的問(wèn)題。

注釋:

① [英]安東尼·吉登斯:《現(xiàn)代性的后果》,田禾譯,譯林出版社2011版,第115頁(yè)。

⑤⑥ 彭蘭:《萬(wàn)物皆媒:新一輪技術(shù)驅(qū)動(dòng)的泛媒化趨勢(shì)》,《編輯之友》,2016年第3期,第5、9—10頁(yè)。

⑨ 《〈人類(lèi)簡(jiǎn)史〉作者新作〈冠狀病毒之后的世界〉(中英雙語(yǔ))》,CambCC微信公眾號(hào),https://mp.weixin.qq.com/s/Axn97GVmBqtMm4nclqaWeQ,2020年4月2日。