◎陳 長

人類社會正在進入全面數(shù)字化時代。 新技術的發(fā)展深刻影響著各方面， 新興技術在政治領域的顛覆性影響尤為深遠。 數(shù)據(jù)和算法結(jié)合， 實現(xiàn)對人類行為進行的計算和預測， 算法政治通過個性化、 靶向式的思想和行為誘導，具有了強大的輿論影響和塑造能力。 借助于新技術的超級“計算” 能力， 人的“算計” 能力也在上升， 即技術影響民意， “計算” 為 “算計” 服務。 智能算法的精準度使得大規(guī)模的社會控制成為可能， 制造了諸多現(xiàn)象級的事件。 2016年美國總統(tǒng)大選中體現(xiàn)的算法技術操縱是重要實踐樣本。 并且在2020 年美國大選和2024 年競選備戰(zhàn)， 左右翼繼續(xù)深化算法技術在政治中的作用。 在其他政治事件中也發(fā)現(xiàn)有算法技術操縱輿論的痕跡， 如英國脫歐。 技術影響民意，導致社會共識撕裂， 更會產(chǎn)生“民粹主義” 的外溢效應， 既是數(shù)字時代公共治理的重要內(nèi)容， 也是我國在新發(fā)展格局下面臨的重要外部挑戰(zhàn)， 對其成因的討論有助于對潛在風險進行準確研判和應對。

一、 數(shù)字社會中民意操縱的風險和手段

公共輿論是政治學和公共管理學的重要議題， 公共管理的目標是公共利益最大化， 公共輿論是抽象公共利益的具象化。 操縱公共輿論被認為危害政治穩(wěn)定和公共安全， 甚至帶來“災難性” 的“否決政治” 和政治僵局。 技術操縱民意是數(shù)字時代的公共文化和公共理性所面臨的嚴峻挑戰(zhàn)， 這種操縱會促進社會風險的放大， 帶來的公共危機事件， 影響公共決策和公共管理績效， 帶來國家治理的難題。

1.算法與政治日益結(jié)合， 擾亂正常的輿論生態(tài)

隨著人類社會逐步向智能化進化， 人工智能技術是當前科技和信息革命的關鍵技術， 是新一輪科技革命的主導技術。 “數(shù)字社會” 正成為人類社會發(fā)展的重要階段。 在數(shù)字社會中， 數(shù)據(jù)和算法是重要決定因素， 關系著公民的信息獲取、 資源分配、政治表決和社會公平正義等。 如果數(shù)字技術和算法被操縱， 會嚴重威脅社會公平正義。 同時， 算法和政治的結(jié)合正在成為影響政治生態(tài)的重要變量。 算法的有益方面是為信息獲取和溝通帶來便利， 但是其有害方面也較為突出， 例如算法偏見、 算法操縱， 這些負面影響會影響公平正義，為治理帶來風險。 這些風險主要包括算法失靈帶來的決策失靈和系統(tǒng)紊亂， 也包括算法濫用帶來的深層安全風險和社會風險， 所以算法政治成為一個不容忽視的議題。

2.信息計算能力飛速提升， “加速” 社會動員

“云計算”、 “量子計算” 和“5G” 等新一代技術的出現(xiàn)， 有效提升人類社會的信息處理與傳輸能力。 社會進入一種動員“加速” 和觀念“極化”狀態(tài)， 數(shù)據(jù)、 算法和算力正在建構(gòu)數(shù)字社會的新規(guī)則， 深刻地改變?nèi)蛘巍?經(jīng)濟和社會運行的發(fā)展模式。 數(shù)字社會中， 社交媒體徹底顛覆了公民對政治信息的獲取方式和對特定政治議題的在線討論。社交媒體逐步成為公民日常生活不可缺少的部分，從全球范圍來看， 個體花費在社交媒體的時間不斷增加， 并可能影響到群體的社會聯(lián)系和集體行動。因此， 社交媒體上成為輿論宣傳的重要陣地， 各種利益相關方都將重心轉(zhuǎn)移到社交媒體， 以期掌握重要的民意塑造渠道。

3.出現(xiàn)計算宣傳新范式， 精準化推送信息

借助新技術操縱民意的現(xiàn)象被學者提煉為“計算宣傳” （Computational Propaganda）。 計算宣傳是最新的宣傳范式， 以社交媒體網(wǎng)絡為載體， 通過算法進行大數(shù)據(jù)分析， 傳播帶有特定信息， 以操縱公眾輿論為目的的新型宣傳方式。 “計算宣傳” 技術被稱為“以工業(yè)規(guī)模操縱民意”， 數(shù)字社會的智能算法的精準度使得大規(guī)模的社會控制成為可能。“計算宣傳” 通過技術劫持民意， 改變或干預政治運行規(guī)則， 徹底變革了過去的低效率模式。 通過技術手段與大數(shù)據(jù)分析， 分析群體和個人的心理人格、 興趣愛好、 信息偏好和行為特征， 其優(yōu)勢在于克服了傳統(tǒng) “大水漫灌式” 宣傳的不精準和低效率。 通過推送策略提高用戶數(shù)據(jù)和算法模型的預測力， 在精準分類的基礎上， 將用戶分割， 用戶收到的是“千人千面” 的信息， 從而能對選民個體施加針對性的政治影響。

二、 數(shù)字化操縱政治輿論的運行要素和影響機制

智能算法所帶來的精準推送， 高效迅速地作用于人對公共事務的觀念， 使得技術手段影響民意的現(xiàn)象在程度和影響上超過歷史任何時候。 厘清計算宣傳對政治輿論的影響機制是公共治理在數(shù)字社會的重要內(nèi)容， 主要分為運行要素和影響機制兩個重要部分。

1.運行要素： “數(shù)據(jù)+算法+策略”

（1） 數(shù)據(jù)集： 全面化的數(shù)據(jù)搜集。 構(gòu)建數(shù)據(jù)集是指對用戶微觀行為數(shù)據(jù)進行多維度的與搜集、 提取和挖掘（Data Mining）， 從大范圍和多渠道的數(shù)據(jù)資料中挖掘深度信息， 對可延展的數(shù)據(jù)進行儲存和匹配。 在云服務器上儲存多樣化的數(shù)據(jù)， 數(shù)據(jù)結(jié)構(gòu)包括文本形式數(shù)據(jù)、 多媒體形式數(shù)據(jù)、 時序格式數(shù)據(jù)、 空間格式數(shù)據(jù)、 交互關系數(shù)據(jù)等。 數(shù)據(jù)來源可以是從數(shù)據(jù)公司購買， 也可以在公共數(shù)據(jù)庫中爬取， 通過實時動態(tài)跟蹤和自動化爬取來挖掘目標信息。

（2） 算法集： 場景化的用戶畫像。 搜集數(shù)據(jù)的目的是進行分析和歸納， 智能化的分析模型使得用戶被置于不同的場景中進行畫像， 并將這種人像標簽編碼數(shù)字化和人格分類建模。 人物畫像主要基于心理測量學的人格模型， 通過建立理論模型， 結(jié)合機器學習反復驗證模型有效性。 根據(jù)詳細的指標體系對用戶的人格特診和心理結(jié)構(gòu)進行分類（例如可通過社交媒體的點贊數(shù)判斷人格特質(zhì)， 可通過消費記錄判斷性別教育性取向， 可通過社交平臺發(fā)文的情感詞判斷實時心理狀態(tài)）， 通過上千個數(shù)據(jù)點的采集， 為某個用戶建立完整的多層次的性格檔案， 詳細記錄其人格特質(zhì)、 興趣點、 日常生活軌跡、 社交圈特點等。 這些人格特質(zhì)的用戶檔案再與長期的行為數(shù)據(jù)對比， 就可以對用戶的行為作出預測。 這些基于心理特征的算法預測模型不斷地與最新搜集的數(shù)據(jù)進行匹配和測試， 使得模型的精準度和預測力不斷提升。

（3） 策略集： 個性化的動員過程。 在前兩個步驟的基礎上， 計算宣傳的最終目的是進行個性化的動員， 數(shù)據(jù)集與算法集能有效壓縮用戶的反饋周期。 通過推送策略提高用戶數(shù)據(jù)和算法模型的預測力， 能對選民個體施加針對性的政治影響。 這與過去的信息推送方式完全不同， 過去的信息動員是簡單分類， 所有用戶獲取的是同質(zhì)化的信息； 而計算宣傳在精準分類的基礎上， 將用戶分割， 用戶收到的是“千人千面” 的信息。

2.影響機制： 受眾注意力的 “嵌入—分層—同步”

計算宣傳作用于輿論的機制就是利用算法技術的推薦機制、 趨勢機制和過濾機制， 在社交媒體上傳播誤導性政治模因或者煽動性信息， 通過控制政治討論方向和塑造心理空間來進行輿論操縱。 具體分為如下三個機制：

（1） 算法通過推薦機制影響受眾注意力的嵌入。 注意力嵌入作為公共輿論塑造的重要開啟階段， 指公眾對于特定的公共事務的注意力被吸引和關注的過程。 算法的推薦機制指算法在社交媒體空間為公眾營造符合個人心理特質(zhì)和興趣點的擬態(tài)環(huán)境， 使“模因” 和信息能夠敏捷而精準地引起公眾響應， 使其注意力被吸引到特定議題上。

（2） 算法通過趨勢機制影響受眾注意力的分層。 注意的分層是承接階段， 指對嵌入的注意力進行重要性和匹配度的排序， 揭示某種觀點的受重視程度和受眾注意力集中程度。 注意力分層強調(diào)算法影響輿論的聚焦強度。 算法的趨勢機制利用其可見性放大或者擴散含有政治模因的話題標簽， 引導討論方向， 使得某種政治模因成為趨勢話題。 這種分層機制利用算法的“可見性” （Visibility） 和“不可見性” （Invisibility）， 為己方提供優(yōu)勢。

（3） 算法通過過濾機制影響受眾注意力的同步。 注意力的同步指利用過濾機制引導受眾進行有效的注意力分配投入， 通過相互依賴和同步壓力實現(xiàn)一定范圍的注意力協(xié)同。 借助社交媒體平臺和同步壓力， 使得特定的政治模因被淹沒，實現(xiàn)瓦解政治討論和屏蔽、 稀釋特定政治信息的目的。 注意力的同步是強化階段， 以保持注意力的持續(xù)性。

三、 數(shù)字社會中計算宣傳的風險治理

數(shù)字社會是國家利維坦和技術巨頭并存的時代， 治理數(shù)字社會中的數(shù)字技術是一個動態(tài)變化的政策響應過程。 伴隨社交媒體在信息生成、 傳播過程中重要性的不斷提升， 人工智能技術的廣泛應用所引發(fā)的治理風險也隨之增加， 全球范圍內(nèi)不斷涌現(xiàn)的相關案例體現(xiàn)了推進治理創(chuàng)新、 加強監(jiān)管政策緊迫性和必要性， 對其治理主要體現(xiàn)在對智能算法的風險治理上。 對于人工智能的治理已經(jīng)將“集中治理” 向“敏捷治理” 模式發(fā)展，在治理中要注意創(chuàng)新發(fā)展和規(guī)制治理同步推進。

1.轉(zhuǎn)變監(jiān)管思路， 成立專門機構(gòu)進行治理

人類社會已經(jīng)進入深度數(shù)字化轉(zhuǎn)型時期， 信息技術的發(fā)展與應用不僅在工具層面帶來了產(chǎn)業(yè)變革， 其更是推動人類社會加速進入數(shù)字社會形態(tài)。 社交媒體機器人等計算宣傳技術在當前的興起與發(fā)展可被視為在此大背景下的必然結(jié)果。 與數(shù)字化變革進程相伴隨的， 是不斷涌現(xiàn)的治理挑戰(zhàn)。 正如前文實證研究所指出， 社交媒體機器人在很短時間 （往往超出人類反應時間） 內(nèi)的大規(guī)模涌現(xiàn)以及永不停息的信息生產(chǎn)與傳播過程， 注定了傳統(tǒng)監(jiān)管模式 （例如撤熱搜） 的局限性。 傳統(tǒng)治理機制革新與調(diào)整并不能很好應對規(guī)模大、范圍廣、 速度快的業(yè)態(tài)新特征， 當前有必要改變傳統(tǒng)的硬性監(jiān)管模式 （撤熱搜、 刪帖等）， 推動社交媒體平臺數(shù)據(jù)合理、 規(guī)范開放， 在兼顧平臺商業(yè)秘密、 用戶隱私保護的同時， 調(diào)動多方積極性實現(xiàn)協(xié)同治理。 考慮到監(jiān)管本身的專業(yè)性以及傳統(tǒng)政府變革的漸進性， 建議成立專門部門或獨立機構(gòu)以提供技術支撐和最佳治理實踐作為參考， 使傳統(tǒng)政府部門仍然能夠在較短時間內(nèi)有效應用監(jiān)管提升治理績效。

2.加速推進監(jiān)管科技的研究與應用， 適應計算宣傳的治理挑戰(zhàn)

監(jiān)管科技的研究與應用由此成為政府改革的必然選擇。 尤其是監(jiān)管機構(gòu)要建立與主流社交媒體平臺的常態(tài)化風險信息交流機制， 既主動發(fā)展立足于監(jiān)管需求的監(jiān)管科技， 也推動社交媒體平臺積極探索動態(tài)創(chuàng)新的監(jiān)管科技。 2020 年美國大選所體現(xiàn)出的人工智能應用的新特點， 表明了技術發(fā)展步伐已經(jīng)遠遠超過治理制度的反應速度。社交媒體機器人的影響已經(jīng)深入到微觀層面， 甚至已經(jīng)融入了人類社會之中。 面對此種挑戰(zhàn)， 借助不斷發(fā)展的人工智能技術， 同步更新對于社交媒體機器人行為規(guī)律的總結(jié)， 進而實現(xiàn)精準識別、 有效治理， 幾乎成為監(jiān)管機構(gòu)的唯一選擇?？紤]到社交媒體平臺具有數(shù)據(jù)優(yōu)勢和技術優(yōu)勢，要求社交媒體積極探索、 發(fā)展監(jiān)管科技， 仍然是監(jiān)管機構(gòu)必須要重視的治理手段。 雖然此舉可能加重平臺負擔， 但伴隨社交媒體平臺影響力的不斷擴大， 其公共屬性不斷增強， 進一步落實平臺治理責任仍然是應對治理需求的重要方面。

3.加強虛假新聞內(nèi)容治理， 把好關鍵 “入口”以盡量減少其不利影響

導致社會觀點極化的還不僅僅是智能推送算法， 人工智能技術推動下的社交媒體機器人， 同樣可能與極化觀點相結(jié)合并最終影響微觀層面的個體觀點與行為。 鑒于此， 應在已有規(guī)范的基礎上， 重點關注帶有強烈政治傾向的極端內(nèi)容的擴散與傳播， 特別是在社交媒體機器人的推動下而可能影響輿論走向的極端內(nèi)容， 盡早發(fā)現(xiàn)、 盡早引導， 以確保清朗網(wǎng)絡空間建設。 所以應重視人工智能技術應用可能推動社會觀點極化的可能性， 重點關注帶有強烈政治傾向的極端主義內(nèi)容的擴散與傳播， 以確保清朗網(wǎng)絡空間建設， 我們有必要進一步加強社交媒體平臺的虛假新聞治理， 落實公眾人物、 網(wǎng)紅大咖的言論責任， 通過內(nèi)容源頭的治理以減少不良內(nèi)容的傳播， 進而減少社交媒體機器人的 “放大” 效應。 內(nèi)容治理方面， 當前更應該重視人工智能技術應用帶來的新挑戰(zhàn)， 在新環(huán)境考驗歷史經(jīng)驗的有效性、 推進歷史經(jīng)驗的與時俱進。

4.重視公民教育， 加強公眾認知教育， 提高公民的算法素養(yǎng)

應盡可能提升公眾對于計算宣傳和假新聞的認知水平和識別能力， 以最大限度減少負面影響。 計算宣傳的最終影響者是公眾， 因此加強公眾認知教育使之能夠識別輿論誘導行為從而主動避免其誤導影響， 便成為了更為長遠的政策需求。 當前普遍應用的社交媒體機器人大都未使用特別復雜的算法模型， 從賬號注冊時間、 微博發(fā)布頻率與時間、 微博內(nèi)容的相關性等方面均可較為容易地識別出機器人賬號， 因此加強公眾認知教育并不意味著每個人都應成為計算機專家， 而是更多強調(diào)培養(yǎng)公眾批判意識， 提高公民的算法素養(yǎng)， 形成自主的判斷和反思， 從而最大限度減少負面影響。