網(wǎng)絡(luò)推薦算法中的意識(shí)形態(tài)安全風(fēng)險(xiǎn)研究

摘要：隨著社會(huì)信息化的加速推進(jìn)以及網(wǎng)絡(luò)技術(shù)的深刻變革，網(wǎng)絡(luò)安全與國(guó)家安全和現(xiàn)代化建設(shè)產(chǎn)生深刻聯(lián)系。當(dāng)前，互聯(lián)網(wǎng)的意識(shí)形態(tài)安全面臨著全新的挑戰(zhàn)和風(fēng)險(xiǎn)，并且互聯(lián)網(wǎng)在意識(shí)形態(tài)安全層面走在了工作的前沿。隨著我國(guó)網(wǎng)絡(luò)進(jìn)入全面信息化、智能化時(shí)代，網(wǎng)絡(luò)推薦算法不斷更新和應(yīng)用，在為人類提供便利的同時(shí)也帶來了網(wǎng)絡(luò)意識(shí)形態(tài)安全風(fēng)險(xiǎn)，可能產(chǎn)生價(jià)值分化、技術(shù)黑箱、主流意識(shí)形態(tài)話語(yǔ)權(quán)被削弱以及信息繭房等問題。文章研究網(wǎng)絡(luò)推薦算法中的意識(shí)形態(tài)安全風(fēng)險(xiǎn)，以推進(jìn)網(wǎng)絡(luò)安全與國(guó)家安全得到保障。

關(guān)鍵詞：意識(shí)形態(tài);推薦算法;互聯(lián)網(wǎng)

中圖分類號(hào)：G641 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1004-9436（2021）22-00-03

意識(shí)形態(tài)關(guān)乎旗幟，關(guān)乎道路，關(guān)乎國(guó)家政治安全?！霸谛碌臍v史條件下，互聯(lián)網(wǎng)已成為輿論斗爭(zhēng)的主戰(zhàn)場(chǎng)。”[1]習(xí)近平總書記多次提到，過不了互聯(lián)網(wǎng)這一關(guān)，就過不了長(zhǎng)期執(zhí)政這一關(guān)。據(jù)統(tǒng)計(jì)，截至2021年初，中國(guó)互聯(lián)網(wǎng)用戶的數(shù)量接近10億，每個(gè)星期人均使用互聯(lián)網(wǎng)的時(shí)間長(zhǎng)達(dá)26.2個(gè)小時(shí)，而移動(dòng)終端的使用者比例為99.7%，社交平臺(tái)對(duì)全球信息傳播具有極為重要的作用[2]。由此可以看出，互聯(lián)網(wǎng)，特別是移動(dòng)互聯(lián)網(wǎng)的快速發(fā)展和傳播，在人們的生活中起著關(guān)鍵的作用，其快速傳播歸功于算法推薦的普及和使用。但隨著網(wǎng)絡(luò)推薦算法在移動(dòng)網(wǎng)絡(luò)平臺(tái)的大規(guī)模應(yīng)用，網(wǎng)絡(luò)意識(shí)形態(tài)領(lǐng)域也面臨著新的風(fēng)險(xiǎn)。

1 基于網(wǎng)絡(luò)推薦算法的信息推送導(dǎo)致價(jià)值分化

在信息化快速推進(jìn)的網(wǎng)絡(luò)時(shí)代，相當(dāng)一部分人獲取信息的渠道主要是社交媒體，而其中由新聞算法主導(dǎo)的新聞媒體發(fā)布的信息受眾更為廣泛。但是各個(gè)行業(yè)的壟斷者、資本家，能夠依靠先進(jìn)的算法技術(shù)促使人們獲取的信息更多源于其瀏覽習(xí)慣和興趣，而很難獲取到更加全面、多樣的信息。長(zhǎng)此以往，受眾的思維會(huì)受到限制，獲取的信息類別也會(huì)相對(duì)固定，從而導(dǎo)致他們的思維方式單一固定[3]。這部分被束縛在固定信息之中的人，不但思想意識(shí)會(huì)受到影響，其在群體決策中的思想還會(huì)出現(xiàn)極端化的傾向。智能化新聞算法為受眾提供的信息展現(xiàn)出的是商業(yè)模式下的需求。在以商業(yè)利益為主導(dǎo)的形勢(shì)下，公眾更傾向于瀏覽娛樂信息，其意識(shí)經(jīng)常被一些有意引導(dǎo)的文案左右，而嚴(yán)肅的信息話題往往不受重視。在這種算法定制化模式下，人們的思想會(huì)被推薦的信息影響，不利于公共話題的傳播和參與，長(zhǎng)期下來還會(huì)危害到社會(huì)秩序。

馬克思·韋伯（Max Weber）采用理性二分法將理性分解為價(jià)值（合）理性和工具（合）理性兩種類別，并使其具有能夠解釋社會(huì)現(xiàn)象的能力。價(jià)值理性強(qiáng)調(diào)行為不計(jì)后果地遵從某些價(jià)值信念，如“義務(wù)、尊嚴(yán)訓(xùn)示、孝順，或者某一件‘事’的重要性的信念”;工具理性更關(guān)注如何通過更加合理有效的方式取得更大的效用。算法推送的技術(shù)核心是快速獲取用戶的喜好并且為其推薦感興趣的信息，這種方式能夠有效推送能夠滿足用戶喜好的信息。但是因?yàn)橛脩舾信d趣的信息各有差異，其信息鑒別能力也有很大差別，尤其是在當(dāng)前的社會(huì)環(huán)境下，拜金主義、功利主義等盛行，單單根據(jù)用戶的喜好推送信息，往往會(huì)導(dǎo)致含有負(fù)面傾向的信息被大量推送給特定用戶。這有可能給用戶留下“很多人都有這種價(jià)值取向”的印象。

在信息飛速傳播的網(wǎng)絡(luò)時(shí)代，個(gè)性化的定制信息以及固定類別信息的推送會(huì)讓有相同喜好、價(jià)值觀的用戶聚合到一起，并且他們的思想和思維方式會(huì)越來越統(tǒng)一，最后形成多個(gè)不同類別的網(wǎng)絡(luò)部族。在這些部族中，一些極端的信息會(huì)得到前所未有的推崇，這些人也更加認(rèn)可自己的思想和觀念，甚至將一些具有明顯負(fù)面傾向的信息當(dāng)作真理。在這種形勢(shì)下，能夠體現(xiàn)正確價(jià)值觀的信息反而很難進(jìn)入這類群體之中，這不利于良性社會(huì)秩序的維護(hù)和建立。而這些擁有算法技術(shù)優(yōu)勢(shì)的公司大都會(huì)開放用戶注冊(cè)權(quán)限，從而讓用戶都可以發(fā)布信息。在算法公司和信息發(fā)布者的聯(lián)合作用下，一些特定的價(jià)值觀會(huì)在一定的范圍內(nèi)得到廣泛傳播。

2 網(wǎng)絡(luò)推薦算法下的技術(shù)黑箱存在意識(shí)形態(tài)安全隱患

算法推薦技術(shù)的進(jìn)步和應(yīng)用推動(dòng)了價(jià)值共識(shí)的形成。在信息化飛速發(fā)展的形勢(shì)下，網(wǎng)絡(luò)推薦算法在人們的生活中被廣泛運(yùn)用，且這一技術(shù)在各大平臺(tái)中被普遍使用，具有個(gè)性化信息定制、智能信息推薦、信息傳播等功能。網(wǎng)絡(luò)推薦算法的傾向會(huì)在一定程度上影響人們的價(jià)值觀，這是因?yàn)樗惴ū旧砭筒皇墙^對(duì)中立的，對(duì)算法技術(shù)進(jìn)行操作的程序員會(huì)進(jìn)行相關(guān)的控制，并且每條信息都含有發(fā)布者的個(gè)人主觀色彩。程序員在設(shè)定網(wǎng)絡(luò)推薦算法的時(shí)候，就在其中融入了主流價(jià)值觀的內(nèi)容，因此算法在推薦信息的時(shí)候，會(huì)持續(xù)推送含有主流價(jià)值的信息，而用戶就會(huì)接收和瀏覽主流價(jià)值的信息。根據(jù)算法原理，后臺(tái)會(huì)對(duì)用戶接收信息的情況進(jìn)行整理和反饋，從而重復(fù)推薦具有正向價(jià)值觀的信息，這能使用戶傾向獲取的信息始終含有主流價(jià)值，避免這一類信息因?yàn)橥扑]機(jī)制被屏蔽。另外，隨著算法技術(shù)的不斷進(jìn)步，再加上平臺(tái)對(duì)信息推薦比例的平衡，用戶能夠根據(jù)自己的喜好獲取推薦的信息。含有主流價(jià)值的信息數(shù)量有所欠缺時(shí)，系統(tǒng)就會(huì)自動(dòng)進(jìn)行補(bǔ)充推薦，這能夠有效加強(qiáng)主流價(jià)值信息的傳播，從而推動(dòng)正確的社會(huì)價(jià)值觀的形成。

圓形監(jiān)獄是邊沁（Jeremy Bentham）為監(jiān)管和改造犯人而設(shè)計(jì)的一種新型監(jiān)獄，由外圍環(huán)形建筑和中心瞭望塔兩部分組成。這種特殊的建筑結(jié)構(gòu)能讓處于中心瞭望塔的獄警將所有犯人所有的行動(dòng)都收入眼中，所以，在這種建筑中的犯人毫無隱私可言。從這個(gè)角度來看，算法推薦技術(shù)也與這種圓形建筑有相似的地方，算法可以看作是中心瞭望塔，用戶是環(huán)形建筑中的囚犯。之所以這么說，是因?yàn)槿绻脩粝胍@取某個(gè)方面的信息，首先就要暴露自身的信息，如年齡、位置、通訊錄、朋友關(guān)系、閱讀興趣等。系統(tǒng)只有獲取這些個(gè)人信息之后，才能夠?qū)τ脩舻南埠眠M(jìn)行精準(zhǔn)定位，從而根據(jù)其喜好向其推薦需要的信息。

3 網(wǎng)絡(luò)推薦算法削弱主流意識(shí)形態(tài)的話語(yǔ)權(quán)

在國(guó)內(nèi)外文化思潮的沖擊下，社會(huì)總體價(jià)值觀多元化現(xiàn)象加劇，主流價(jià)值觀在互聯(lián)網(wǎng)中的話語(yǔ)權(quán)和影響力日益弱化，特別是隨著移動(dòng)互聯(lián)的飛速發(fā)展，自媒體、短視頻等平臺(tái)不斷推陳出新。現(xiàn)階段，對(duì)于國(guó)內(nèi)互聯(lián)網(wǎng)輿論場(chǎng)而言，針對(duì)熱點(diǎn)事件的評(píng)議、討論等多維交流方式日漸替代了以往單一的新聞播報(bào)的傳播模式。比如當(dāng)前微信平臺(tái)的公眾號(hào)數(shù)量接近30萬個(gè)，而其中與“中國(guó)特色社會(huì)主義”相關(guān)的公眾號(hào)數(shù)量不足10個(gè)，數(shù)量極少、話語(yǔ)權(quán)極弱，成為主流宣傳不得不盡快破解的難題。

因?yàn)榛ヂ?lián)網(wǎng)具有開放、共享、隱蔽、即時(shí)、動(dòng)態(tài)等屬性，其可以融合種類繁多的意識(shí)形態(tài)觀點(diǎn)，讓它們?cè)谕粋€(gè)輿論陣地中相互碰撞，導(dǎo)致多樣化的意識(shí)形態(tài)碰撞和摩擦變成不可忽視的現(xiàn)實(shí)。同時(shí)，各類網(wǎng)絡(luò)思潮均深刻意識(shí)到了互聯(lián)網(wǎng)中的話語(yǔ)權(quán)本身便是一類極為重要的政治資源，因此其把互聯(lián)網(wǎng)當(dāng)作宣傳自身理念的“跑馬場(chǎng)”，并在陣地中展開了極為激烈的、爭(zhēng)奪政治人心的“角逐賽”。在此過程中，互聯(lián)網(wǎng)中意識(shí)形態(tài)論爭(zhēng)的激烈程度、復(fù)雜程度日漸提升。因?yàn)樯婕暗膮⑴c方、熱點(diǎn)內(nèi)容、表達(dá)方式均表現(xiàn)出多樣化屬性，學(xué)術(shù)辯論同意識(shí)形態(tài)論爭(zhēng)相互滲透，而某些意圖挑起紛爭(zhēng)、別有用心的群體以學(xué)術(shù)討論為掩蓋手段，公然挑釁社會(huì)主義意識(shí)形態(tài)。

參與討論的群體中不僅有普通的網(wǎng)友、公民，還有很多境外敵對(duì)分子及其選擇的代理人，這部分群體依托我國(guó)開放的互聯(lián)網(wǎng)輿論場(chǎng)開展各類政治活動(dòng)。熱點(diǎn)的內(nèi)容范圍極廣，其中有帶有政治色彩的方面，如圍繞我國(guó)近代史和革命先烈的評(píng)價(jià)、圍繞改革開放以來取得成就的評(píng)價(jià)、國(guó)家大政方針、圍繞社會(huì)道德層面進(jìn)行的討論等，這均為現(xiàn)階段互聯(lián)網(wǎng)意識(shí)形態(tài)領(lǐng)域討論得極為激烈的內(nèi)容。而在討論的形式層面，不僅有從理性層面開展的心平氣和的探討，也有為了發(fā)泄情緒進(jìn)行的謾罵和攻訐，其不僅涉及互聯(lián)網(wǎng)平臺(tái)虛擬世界的論爭(zhēng)，還發(fā)展成線下的“人肉搜索”等網(wǎng)絡(luò)內(nèi)外相互滲透的意識(shí)形態(tài)論爭(zhēng)。

在互聯(lián)網(wǎng)平臺(tái)中，特別是微博、微信等具備很多匿名使用者的平臺(tái)中，擁有一定話語(yǔ)權(quán)的“意見領(lǐng)袖”可以依托互聯(lián)網(wǎng)使用者的從眾想法，構(gòu)筑起能夠促使自身觀念更好地?cái)U(kuò)散的“沉默的螺旋”。在這種背景下，互聯(lián)網(wǎng)中的論爭(zhēng)時(shí)常會(huì)構(gòu)筑起輿論風(fēng)暴，可以在短時(shí)間內(nèi)聚集起規(guī)模巨大的響應(yīng)者和跟風(fēng)網(wǎng)友在其中推波助瀾，讓網(wǎng)絡(luò)輿論按照其預(yù)設(shè)和引導(dǎo)的方向推進(jìn)。

4 網(wǎng)絡(luò)推薦算法導(dǎo)致信息繭房

現(xiàn)階段，中國(guó)互聯(lián)網(wǎng)使用者的數(shù)量突破了8.5億，然而部分使用者的網(wǎng)絡(luò)素養(yǎng)仍然不高。部分網(wǎng)絡(luò)媒體使用者仍熱衷于追逐八卦、謠言，熱衷于挖掘和泄露他人信息等。現(xiàn)階段，部分地區(qū)，如鄉(xiāng)鎮(zhèn)、縣級(jí)網(wǎng)絡(luò)媒體的宣傳模式、載體以及話題引導(dǎo)水平仍然有較大的提升空間，輿情掌控和處置水平不高。為了能夠在較短的時(shí)間內(nèi)得到較多的關(guān)注和較高的點(diǎn)擊率，部分APP借助智能算法向外界傳遞大批低級(jí)但能夠吸引眼球的內(nèi)容，使用戶受困于大量低劣內(nèi)容形成的信息繭房中。

“信息繭房”最早由美國(guó)學(xué)者桑斯坦提出，他還對(duì)此進(jìn)行了說明，指出其是“我們只聽我們選擇的東西和愉悅我們的東西的通信領(lǐng)域”。按照上述解釋，處于繭房?jī)?nèi)的群體無法進(jìn)行周密和理性的思考，這是由于該群體已經(jīng)有了先入為主的觀點(diǎn)?；ヂ?lián)網(wǎng)中根據(jù)智能算法為使用者推送的具有針對(duì)性的內(nèi)容，指的便是桑斯坦提出的“我的日?qǐng)?bào)”。該智能算法融合了使用者的歷史瀏覽數(shù)據(jù)、點(diǎn)擊記錄等，對(duì)相關(guān)數(shù)據(jù)進(jìn)行匯總、剖析、挖掘、計(jì)算，歸納出該使用者的個(gè)性化偏好，并為其推送其可能感興趣的內(nèi)容，而長(zhǎng)時(shí)間被這樣的內(nèi)容浸潤(rùn)，會(huì)使用戶的思想固化、視野狹窄。因此，個(gè)性化推薦算法模式如同蠶蛹吐絲，利用不同的過濾機(jī)制篩選出固定類型的信息，如同絲線一樣把用戶包裹其中，最終導(dǎo)致用戶被關(guān)閉在思想扭曲以及異化的模式之中。當(dāng)前，大量的新聞?lì)怉PP內(nèi)容低劣，其中包含著各類標(biāo)題黨信息，很多內(nèi)容主觀色彩鮮明，甚至還會(huì)用低俗的模式編寫。

上述情況在心理學(xué)中能被納入“尖叫效應(yīng)”的范疇。此處所說的“尖叫效應(yīng)”可以解釋為馬路上的人群里有一個(gè)個(gè)體，在安靜的環(huán)境里突然尖叫，那么這個(gè)個(gè)體便可以聚焦周圍群體的目光。而此概念可以較好地描述紛繁復(fù)雜的新媒體傳播渠道。現(xiàn)階段，在移動(dòng)互聯(lián)蓬勃發(fā)展的環(huán)境中，大量自媒體或作者依托剪裁、拼接、夸大、胡編亂造的手段制造大量博人眼球的內(nèi)容，上述信息可以在短時(shí)間內(nèi)獲得較多的關(guān)注和較高的點(diǎn)擊率。但是用戶之所以可以觀看到這些內(nèi)容，智能推薦算法發(fā)揮了根本性作用。算法把此類滿足“尖叫效應(yīng)”的內(nèi)容推送給相應(yīng)的群體，使得用戶時(shí)刻被低俗的內(nèi)容包圍。在傳統(tǒng)媒體的話語(yǔ)權(quán)逐漸被削弱的背景下，用戶特別是中老年群體、青少年群體很難明晰信息的真假。在這樣的背景下，用戶能夠依托自身所接觸的互聯(lián)網(wǎng)中的圈子分享內(nèi)心的想法、表達(dá)情緒，也會(huì)極為草率地在內(nèi)心形成傾向性觀點(diǎn)[4]。上述問題均為推薦算法影響下的新聞傳播帶來的不良后果。

互聯(lián)網(wǎng)平臺(tái)中輿論的非理性宣泄會(huì)造成極大的混亂，同時(shí)會(huì)產(chǎn)生溢出效應(yīng)并引發(fā)連鎖反應(yīng)，其后果為互聯(lián)網(wǎng)用戶在篩選內(nèi)容時(shí)出于個(gè)人喜好，更傾向于選擇同內(nèi)心想法一致的內(nèi)容，而內(nèi)嵌智能推薦算法的網(wǎng)站能夠按照用戶偏好推送個(gè)性化內(nèi)容，由此構(gòu)成了“回音壁”效果。另外，在瀏覽的過程中，用戶會(huì)隨著時(shí)間推移持續(xù)固化內(nèi)心的觀點(diǎn)[5]。本質(zhì)上，“回音壁”不但將讀者困于某個(gè)范圍內(nèi)，而且壟斷了“事實(shí)”和“價(jià)值共識(shí)”，讓讀者不斷強(qiáng)化對(duì)與自身價(jià)值觀趨同的內(nèi)容的認(rèn)同感。

5 結(jié)語(yǔ)

網(wǎng)絡(luò)推薦算法被社交媒體廣泛應(yīng)用，在給人們社會(huì)生活帶來便利的同時(shí)也帶來了意識(shí)形態(tài)安全風(fēng)險(xiǎn)。正確、全面、客觀地認(rèn)識(shí)網(wǎng)絡(luò)推薦算法會(huì)引發(fā)的意識(shí)形態(tài)安全風(fēng)險(xiǎn)，有利于我們?nèi)蘸笥行б?guī)避風(fēng)險(xiǎn)，促使網(wǎng)絡(luò)推薦算法更加安全、更加科學(xué)地被應(yīng)用。

參考文獻(xiàn)：

[1] 習(xí)近平新聞思想講義[M].北京：人民出版社，2018：44.

[2] 第47次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》[EB/OL].中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心，http：//cnnic.cn/gywm/xwzx/rdxw/20172017_7084/202102/t20210203_71364.htm，2021-02-03.

[3] 喻國(guó)明，曲慧.“信息繭房”的誤讀與算法推送的必要：兼論內(nèi)容分發(fā)中社會(huì)倫理困境的解決之道[J].新疆師范大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2020（1）：127-133.

[4] 陳昌鳳，霍婕.權(quán)力遷移與人本精神：算法式新聞分發(fā)的技術(shù)倫理[J].新聞與寫作，2018（1）：63-66.

[5] 尼爾·波茲曼.娛樂至死[M].章艷，譯.北京：中信出版社，2015：4.

作者簡(jiǎn)介：王玉婷（1981—），女，湖北武漢人，博士，副教授，研究方向：高校意識(shí)形態(tài)安全。

3644501908278