□袁 媛 李 娜 王燦發(fā)

互聯(lián)網(wǎng)時(shí)代，信息資源呈爆炸式增長(zhǎng)，算法推薦技術(shù)的出現(xiàn)為用戶獲取信息提供了極大便利，有效緩解了用戶對(duì)“信息過(guò)載”的焦慮。新興媒介公司通過(guò)技術(shù)賦能，建構(gòu)了以用戶為中心的開放式信息生產(chǎn)發(fā)布模式，并將能否滿足用戶的個(gè)性化信息訴求作為爭(zhēng)奪注意力市場(chǎng)的關(guān)鍵。因此，用戶在一定程度上居于主體地位，個(gè)性化需求得以被重視和滿足。隨著傳媒產(chǎn)業(yè)市場(chǎng)化程度的不斷加深，算法技術(shù)逐漸深入用戶生活，并通過(guò)長(zhǎng)期對(duì)用戶數(shù)據(jù)的收集、分析與利用不斷增強(qiáng)自身的技術(shù)權(quán)力。于是，算法技術(shù)與用戶的地位關(guān)系發(fā)生了深刻變化，算法技術(shù)的地位不斷上升，用戶地位不斷下降，用戶“自主的”主體性逐漸成為一種幻覺(jué)，算法技術(shù)權(quán)力的規(guī)訓(xùn)嚴(yán)重危害了用戶的主體性。同時(shí)，“大數(shù)據(jù)殺熟”“信息繭房”“算法黑箱”等大數(shù)據(jù)技術(shù)漏洞不但破壞了公共信息傳播系統(tǒng)，也侵害了用戶自主選擇、自主分享的權(quán)利，并對(duì)用戶的隱私權(quán)等造成威脅。

一、算法技術(shù)規(guī)訓(xùn)下用戶主體性的弱化

（一）用戶自身要素的異化

馬克思提出，異化是指人的物質(zhì)與精神生產(chǎn)及其產(chǎn)品變成異己或與人對(duì)立的力量反過(guò)來(lái)統(tǒng)治人的社會(huì)現(xiàn)象。[1]權(quán)力不斷增大的算法推薦技術(shù)將用戶異化成為可以交易的商品，極大地削弱了用戶的主體性。用戶自身要素異化的過(guò)程體現(xiàn)為，算法平臺(tái)將媒介、用戶、廣告商緊密聯(lián)系在一起，用戶在休閑時(shí)間自愿觀看算法推薦內(nèi)容的同時(shí)，也完成了消費(fèi)欲望的刺激甚至是消費(fèi)行為的實(shí)現(xiàn)?；诖耍惴夹g(shù)對(duì)于用戶的控制演化為三個(gè)要素的異化。

第一，用戶自由時(shí)間的異化。傳統(tǒng)媒體時(shí)代，媒體通過(guò)提供免費(fèi)的信息來(lái)獲得用戶的注意，再將用戶的注意力販賣給廣告商進(jìn)行變現(xiàn)，以此來(lái)維持其自身運(yùn)營(yíng)。此時(shí)，媒體出售的是受眾較容易感知的觀看廣告的時(shí)間。算法推薦時(shí)代，個(gè)性化推薦技術(shù)貼心地根據(jù)用戶畫像為用戶定制專屬內(nèi)容，在幫助用戶節(jié)省尋找信息的時(shí)間的同時(shí)，也加深了用戶對(duì)于推薦內(nèi)容的依賴，模糊了用戶的時(shí)間界限，令用戶深陷“信息喂養(yǎng)”形式下的商業(yè)陷阱，不可控地消耗了大量的個(gè)人可以自由支配的時(shí)間。隨著對(duì)用戶碎片化時(shí)間控制的加劇，憑借算法對(duì)用戶的精準(zhǔn)分析，媒介資本對(duì)用戶展開全天候的廣告推薦，加劇用戶日常生活的殖民化，導(dǎo)致原來(lái)的“特定時(shí)間剝削”轉(zhuǎn)變?yōu)椤叭珗?chǎng)景剝削”。

第二，用戶情感勞動(dòng)的異化。作為一種技術(shù)權(quán)力，算法權(quán)力不具有實(shí)質(zhì)性的存在，其對(duì)用戶進(jìn)行規(guī)訓(xùn)甚至懲罰的過(guò)程是隱匿化的，很難被辨別、指認(rèn)或是界定。在?？抡撌龅摹皺?quán)力的去中心化”的過(guò)程中，算法技術(shù)利用“算法黑箱”等隱藏起了權(quán)力運(yùn)作的過(guò)程，甚至將其幻化成用戶自由意志的狂歡。因此，算法技術(shù)對(duì)用戶的控制手段主要是通過(guò)用戶 “心甘情愿”的參與來(lái)實(shí)現(xiàn)的。在算法推薦技術(shù)的誘惑下，用戶主動(dòng)地觀看、閱讀算法篩選過(guò)的信息，信息偏向帶來(lái)的舒適感和價(jià)值認(rèn)同帶來(lái)的滿足感等使用戶不斷放松警惕，逐漸沉浸在這種“偏食投喂”帶來(lái)的正向刺激和快感之中。在快感—?jiǎng)趧?dòng)—快感的循環(huán)中，用戶不停地在情感的驅(qū)動(dòng)下“愉快地勞動(dòng)”，使自己所有的活動(dòng)行為和情感投入都異化為算法技術(shù)了解、控制、規(guī)訓(xùn)自身的有力工具。這種由用戶自身驅(qū)動(dòng)、不知不覺(jué)進(jìn)行的“自我剝削”式勞動(dòng)，使用戶一步步淪為算法技術(shù)的免費(fèi)勞動(dòng)力，最終難逃數(shù)字勞動(dòng)的枷鎖。

第三，用戶生產(chǎn)數(shù)據(jù)的異化。算法推薦時(shí)代，用戶生產(chǎn)的數(shù)據(jù)分為主動(dòng)生產(chǎn)數(shù)據(jù)、被動(dòng)生產(chǎn)數(shù)據(jù)和介于主動(dòng)與被動(dòng)之間的數(shù)據(jù)三種。其中用戶主動(dòng)生產(chǎn)的數(shù)據(jù)包括用戶主動(dòng)發(fā)布、分享、評(píng)論的信息等。用戶被動(dòng)生產(chǎn)的數(shù)據(jù)主要是指用戶在媒介平臺(tái) “不同意即放棄使用”的注冊(cè)條款制約下不得不提供給平臺(tái)的數(shù)據(jù)獲取權(quán)和使用權(quán)。而日益普及的各類智能可穿戴設(shè)備也成為介于用戶主動(dòng)與被動(dòng)之間的數(shù)據(jù)的主要來(lái)源。這三種類型的數(shù)據(jù)雖然來(lái)源不同，卻同樣具有經(jīng)濟(jì)價(jià)值，對(duì)其進(jìn)行記錄、存儲(chǔ)、計(jì)算和分析，能夠?yàn)樗惴ㄆ脚_(tái)贏得巨大的商業(yè)利益，這使得依靠數(shù)據(jù)“喂養(yǎng)”的算法平臺(tái)對(duì)用戶數(shù)據(jù)趨之若鶩。再加上部分用戶對(duì)個(gè)人信息重視程度不足，缺少相應(yīng)的法律常識(shí)等，致使個(gè)人數(shù)據(jù)被濫用的現(xiàn)象不斷增多。算法技術(shù)站在用戶的對(duì)立面，成為利用數(shù)據(jù)優(yōu)勢(shì)剝削用戶的異化力量，整個(gè)過(guò)程雖然隱匿但卻劇烈。

（二）用戶自主權(quán)利的損失

第一，算法壟斷侵害用戶的選擇權(quán)。嚴(yán)格意義上說(shuō)，用戶接受算法平臺(tái)的信息推送就是其選擇權(quán)，即信息自由獲取權(quán)被侵害的開始。算法推薦技術(shù)在為用戶提供定制化信息推送服務(wù)的同時(shí)，不斷強(qiáng)化用戶的“信息偏向”，滿足用戶心理上既成的“閱讀期待”，很容易讓用戶產(chǎn)生信息獲取的渠道依賴，受困于算法推薦精心織就的“信息繭房”之中。再加上算法推薦規(guī)則的不透明性和權(quán)重計(jì)算的復(fù)雜性等包含算法平臺(tái)利益價(jià)值判斷的算法設(shè)計(jì)因素，用戶的個(gè)人信息視域范圍不斷縮小，并逐漸喪失閱讀選擇的主體意識(shí)。與此同時(shí)，居于信息壟斷地位的算法平臺(tái)一方面借機(jī)售賣熱點(diǎn)和植入廣告，實(shí)現(xiàn)流量變現(xiàn)。另一方面借助個(gè)性化推薦技術(shù)，推送媒介內(nèi)容形塑用戶，依據(jù)用戶標(biāo)簽向其推送精心美化的“合適”內(nèi)容以誘發(fā)用戶的消費(fèi)欲望，促成用戶的消費(fèi)行為，并最終“教育”用戶形成及時(shí)享樂(lè)的生活方式，規(guī)訓(xùn)用戶踐行物質(zhì)至上的人生價(jià)值。和居于主導(dǎo)地位的算法技術(shù)相比，處于弱勢(shì)的用戶在長(zhǎng)期的 “信息偏向喂食”中產(chǎn)生“媒介多巴胺”成癮，出于對(duì)戒斷反應(yīng)的恐懼，只能被迫接受平臺(tái)夾帶的私貨，并在這種精心設(shè)置的“服務(wù)”中，一步步淪陷為算法技術(shù)規(guī)訓(xùn)與控制的對(duì)象。

第二，算法機(jī)制限制用戶的分享權(quán)。網(wǎng)絡(luò)用戶的分享權(quán)即網(wǎng)絡(luò)用戶進(jìn)行信息發(fā)布與傳播的權(quán)利。算法機(jī)制對(duì)用戶分享權(quán)的限制進(jìn)一步削弱了用戶在信息傳播活動(dòng)中的主體地位。當(dāng)前以算法為核心的媒體平臺(tái)對(duì)內(nèi)容的傳播有著近乎絕對(duì)的控制，內(nèi)容傳播的速度和范圍往往并不取決于傳播者發(fā)布內(nèi)容的質(zhì)量或接收者對(duì)信息的關(guān)注與需求程度，而是取決于以下三種平臺(tái)算法機(jī)制：一是頭部推送機(jī)制。即算法不以內(nèi)容質(zhì)量的優(yōu)劣作為推送標(biāo)準(zhǔn)，而是以信息發(fā)布者粉絲數(shù)量的多少作為推送標(biāo)準(zhǔn)，因此擁有大量粉絲的頭部用戶能夠擁有更多優(yōu)先推送的機(jī)會(huì)，新用戶和粉絲數(shù)量較少的用戶，其內(nèi)容被推薦的機(jī)會(huì)很低，很難得到其他用戶的關(guān)注。二是推廣收費(fèi)機(jī)制。算法平臺(tái)通過(guò)推廣收費(fèi)機(jī)制對(duì)付費(fèi)主體的內(nèi)容優(yōu)先傳播，使其能夠被更多的用戶關(guān)注借助算法技術(shù)打造的“深后臺(tái)”，實(shí)現(xiàn)對(duì)非付費(fèi)用戶的權(quán)利收繳和為付費(fèi)用戶賦權(quán)的過(guò)程，進(jìn)一步加劇了用戶的權(quán)利結(jié)構(gòu)不等。三是內(nèi)容審查機(jī)制。用戶生產(chǎn)和傳播的內(nèi)容越是符合平臺(tái)對(duì)流行度的要求，越是能夠迎合平臺(tái)流量變現(xiàn)的目的，越有可能獲得優(yōu)先傳播。平臺(tái)在用戶內(nèi)容審查中的強(qiáng)大權(quán)力慢慢滲透進(jìn)用戶分享信息的常規(guī)行為之中，形成超越主體反思的慣習(xí)，用戶開始主動(dòng)迎合平臺(tái)取向，成為自我規(guī)訓(xùn)和控制的根源。

第三，算法推薦傷害用戶隱私權(quán)。在以算法為核心的平臺(tái)中，用戶的一切信息和行為都是算法抓取和分析的對(duì)象。無(wú)論何時(shí)何地，只要用戶進(jìn)入數(shù)字空間，其所有瀏覽、搜索以及消費(fèi)等記錄都會(huì)被算法實(shí)時(shí)抓取，用于演算、標(biāo)記和勾勒用戶畫像。再加上智能媒體技術(shù)的不斷進(jìn)步，將圖像等非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)化為結(jié)構(gòu)化數(shù)據(jù)已經(jīng)并非難事，呈幾何級(jí)數(shù)增長(zhǎng)的攝像頭數(shù)量將用戶的更多隱私暴露出來(lái)。強(qiáng)大的算法技術(shù)權(quán)力導(dǎo)致用戶隱私的控制主體發(fā)生了改變，擁有隱私的隱私主體不再是唯一的隱私控制主體，掌握算法技術(shù)的平臺(tái)替代隱私主體成為控制用戶隱私的關(guān)鍵主體。由于隱私主體和隱私控制主體分離，當(dāng)雙方發(fā)生利益沖突時(shí)，就不可避免地出現(xiàn)隱私侵害的情形。首先，平臺(tái)制定的“用戶須知”“用戶條例”要求用戶必須讓渡自身的數(shù)據(jù)存儲(chǔ)權(quán)和使用權(quán)等來(lái)?yè)Q取使用平臺(tái)并獲得良好體驗(yàn)的機(jī)會(huì)。智能算法通過(guò)對(duì)用戶讓渡數(shù)據(jù)的篩選過(guò)濾與排列組合來(lái)為用戶畫像。對(duì)用戶的精準(zhǔn)畫像可能會(huì)帶來(lái)對(duì)用戶的新型隱私，即整合型隱私的侵犯。所謂的整合型隱私是指利用數(shù)據(jù)挖掘技術(shù)將用戶在網(wǎng)絡(luò)中留存的數(shù)字化痕跡進(jìn)行有規(guī)律的整合而形成的隱私。整合型隱私在整合前往往是普通的個(gè)人信息，在數(shù)據(jù)挖掘過(guò)程中，通過(guò)對(duì)數(shù)據(jù)的排列組合，整合型隱私才得以產(chǎn)生。由于數(shù)據(jù)整合的主體、時(shí)間、方式、目的和用途等往往無(wú)法提前確定，導(dǎo)致整合型隱私具有極大的偶然性和隱蔽性，用戶很難察覺(jué)。其次，用戶數(shù)據(jù)的巨大商業(yè)價(jià)值不斷刺激算法平臺(tái)加大對(duì)用戶數(shù)據(jù)的控制力度。算法平臺(tái)記錄、存儲(chǔ)和分析用戶數(shù)據(jù)，不僅為了向用戶精準(zhǔn)地推送信息，還為了建立用戶數(shù)據(jù)庫(kù)，精準(zhǔn)預(yù)測(cè)用戶的消費(fèi)需求，并在此基礎(chǔ)上加大相關(guān)內(nèi)容尤其是商品廣告的推薦，以賺取商業(yè)利益。用戶數(shù)據(jù)的讓渡是媒介資本不斷積累的前提，在逐利本質(zhì)的驅(qū)動(dòng)下，算法平臺(tái)對(duì)用戶隱私數(shù)據(jù)的獲取永無(wú)止境，并且未來(lái)將更加隱蔽和智能。

二、算法推薦時(shí)代的價(jià)值重塑

人類的主體性是人類實(shí)現(xiàn)自由而全面的發(fā)展的前提和基礎(chǔ)。算法技術(shù)高效的信息分發(fā)機(jī)制優(yōu)化了信息的配置效率，但弱化了人的主體性并產(chǎn)生了一系列的權(quán)利侵害。因此，政府、平臺(tái)和用戶等多方主體應(yīng)當(dāng)在對(duì)算法技術(shù)進(jìn)行反思的基礎(chǔ)上，共同構(gòu)建有效的約束機(jī)制，對(duì)算法推薦技術(shù)進(jìn)行優(yōu)化和規(guī)范，糾正算法推薦技術(shù)重工具理性輕價(jià)值理性的偏向，使技術(shù)的高效性、便捷性與人的主體性、價(jià)值性相協(xié)調(diào)，重塑正確的價(jià)值導(dǎo)向。[2]

第一，政府層面加速立法，加強(qiáng)監(jiān)督。政府的及時(shí)立法和有效監(jiān)督是保證信息傳播健康有序發(fā)展的剛性約束力量，目前已經(jīng)出臺(tái)的與算法技術(shù)應(yīng)用密切相關(guān)的法案主要包括《個(gè)人信息保護(hù)法》和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等。前者從立法層面明確了一般個(gè)人信息、敏感個(gè)人信息的收集、存儲(chǔ)、使用、加工、傳輸、公開、刪除如何在法律允許的范圍內(nèi)進(jìn)行，后者為規(guī)范算法推薦服務(wù)提出了科學(xué)化、系統(tǒng)化、精細(xì)化的合規(guī)要求，明確并確立了算法治理的對(duì)象和基本原則。然而，隨著對(duì)算法推薦技術(shù)各類主體在信息保護(hù)中權(quán)利和義務(wù)界定的逐漸清晰，對(duì)于算法推薦技術(shù)的公開、算法平臺(tái)治理和算法數(shù)據(jù)安全等問(wèn)題的解決變得更加迫切。算法“黑箱”對(duì)工具理性的包庇引發(fā)了算法偏見、新聞公共性受損以及人的主體意識(shí)削弱等一系列問(wèn)題。只有增強(qiáng)算法的透明度和可解釋性，有效治理以算法技術(shù)為核心的互聯(lián)網(wǎng)平臺(tái)，切實(shí)保護(hù)用戶的算法數(shù)據(jù)安全，才能夠堅(jiān)守住人類的主體地位，防范權(quán)益被侵害的情形產(chǎn)生。

第二，平臺(tái)層面優(yōu)化技術(shù)，以人為本。首先，在算法推薦技術(shù)設(shè)計(jì)之初，對(duì)設(shè)計(jì)主體需加強(qiáng)倫理道德教育，使其認(rèn)識(shí)到目的至上的工具理性的缺陷，回歸到以人為本的正確價(jià)值導(dǎo)向，以科技倫理引導(dǎo)算法設(shè)計(jì)，使代碼在生成之初就蘊(yùn)含更多價(jià)值理性。具體而言，可利用“價(jià)值敏感設(shè)計(jì)”方法，將價(jià)值觀、道德規(guī)范等嵌入到技術(shù)設(shè)計(jì)系統(tǒng)中[3]。例如，通過(guò)權(quán)重強(qiáng)化技術(shù)，為主流價(jià)值觀等應(yīng)知信息打開綠色通道，并在算法生成之后，對(duì)規(guī)則設(shè)計(jì)、數(shù)據(jù)處理、結(jié)果呈現(xiàn)等環(huán)節(jié)進(jìn)行價(jià)值檢視，糾正價(jià)值偏差，讓人工智能更多地體現(xiàn)人的主導(dǎo)性和價(jià)值觀。其次，在算法推薦技術(shù)的應(yīng)用過(guò)程中，平臺(tái)需認(rèn)識(shí)到技術(shù)發(fā)展的目的是為人類服務(wù)，利益的實(shí)現(xiàn)不能違背人的意愿和價(jià)值觀，即算法的運(yùn)用應(yīng)遵循自主性、公正性原則，促進(jìn)算法推薦服務(wù)向有益于人類社會(huì)的方向發(fā)展。同時(shí)，平臺(tái)還可以運(yùn)用區(qū)塊鏈等技術(shù)加強(qiáng)算法的可解釋性和透明度，推動(dòng)算法推薦流程的規(guī)范透明。建立完善人工干預(yù)和用戶自主選擇機(jī)制，充分尊重人機(jī)互動(dòng)中人的自主性等。

第三，用戶層面提升算法素養(yǎng)。提升用戶的算法素養(yǎng)主要應(yīng)從兩方面入手：一是要培養(yǎng)用戶的算法思維。算法思維是用戶理解算法運(yùn)行機(jī)制的基礎(chǔ)，也是用戶規(guī)避算法風(fēng)險(xiǎn)的認(rèn)識(shí)來(lái)源。二是要提高用戶防范和對(duì)抗算法風(fēng)險(xiǎn)的能力，深刻認(rèn)識(shí)算法推薦平臺(tái)中數(shù)據(jù)泄露的途徑與方式，在與算法共存的數(shù)字世界中，學(xué)會(huì)駕馭和使用算法，重塑人的精神價(jià)值。[4]

三、結(jié)語(yǔ)

算法推薦時(shí)代，智能化、個(gè)性化的信息供給機(jī)制在滿足用戶多元需求的同時(shí)，也帶來(lái)了用戶自身要素的異化和自主權(quán)利的損失，算法技術(shù)為用戶創(chuàng)造了新世界，但也抹去了諸多其他的可能性。因此，對(duì)于算法的發(fā)展不能聽之任之，必須重新厘清用戶與算法間的關(guān)系，使用與治理雙管齊下，如此才能在未來(lái)的實(shí)踐中重塑算法邏輯，幫助用戶重新獲得主體性。