□胡宏超 謝新洲

互聯(lián)網(wǎng)的騰飛推動(dòng)了數(shù)字化的廣泛普及以及計(jì)算能力的突破提高，人工智能時(shí)代悄然來(lái)臨。在“加快建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)、數(shù)字中國(guó)”的背景下，我國(guó)在數(shù)字基礎(chǔ)設(shè)施規(guī)模能級(jí)、數(shù)據(jù)資源體系、數(shù)字技術(shù)創(chuàng)新、數(shù)字治理等方面均取得了可觀的成效，其中，5G已實(shí)現(xiàn)技術(shù)、產(chǎn)業(yè)、網(wǎng)絡(luò)、應(yīng)用的全面領(lǐng)先，人工智能芯片和開(kāi)發(fā)框架加速發(fā)展，已基本形成人工智能基礎(chǔ)軟硬件支撐能力。[1]在數(shù)字化與智能化的邏輯推演下，人們的日常生活及信息生產(chǎn)、傳播和消費(fèi)均呈現(xiàn)出與以往大眾傳播時(shí)代不同的形式和特點(diǎn)，并在前期網(wǎng)絡(luò)傳播的基礎(chǔ)上，融入人工智能元素，人類與機(jī)器的“合作共生”關(guān)系愈加明顯。在此背景下，新聞生產(chǎn)與傳播也頗受影響。隨著人工智能技術(shù)對(duì)新聞業(yè)的融入和滲透，新聞內(nèi)容在生產(chǎn)、分發(fā)和消費(fèi)各個(gè)環(huán)節(jié)中均呈現(xiàn)出自動(dòng)化與智能化趨勢(shì)，依次經(jīng)歷了新聞寫(xiě)作機(jī)器人階段、智能算法推送階段、元宇宙新聞階段、AIGC（Artificial Intelligence Generated Content，人工智能生成內(nèi)容）新聞階段，[2]可以看到，隨著人工智能技術(shù)的創(chuàng)新迭代，其對(duì)新聞生產(chǎn)與傳播的影響也不斷加深。如今，在人工智能技術(shù)的輔助下，智能采訪、自動(dòng)化內(nèi)容生成、智能編輯、智能主播、個(gè)性化推薦、大數(shù)據(jù)分析和可視化都已成為現(xiàn)實(shí)。

與此同時(shí)，隨著媒介技術(shù)的發(fā)展及社會(huì)生態(tài)的變遷，作為伴隨大眾傳播而來(lái)的產(chǎn)物，在一定程度上必然存在的虛假新聞在網(wǎng)絡(luò)傳播甚至是智能傳播時(shí)代背景下呈現(xiàn)出了新的特征與趨勢(shì)。這里所言“虛假新聞”，是一個(gè)廣義上的總概念，用來(lái)描述和反映各種失實(shí)新聞、假新聞事件、假新聞報(bào)道、新聞炒作以及公關(guān)新聞（涉及公關(guān)事實(shí)和公關(guān)事件、制造新聞、策劃新聞等）等現(xiàn)象[3]，既包含對(duì)真實(shí)發(fā)生事件的虛假再現(xiàn)，也包括子虛烏有的捏造和虛構(gòu)。作為一種新聞工作的伴生現(xiàn)象，虛假新聞對(duì)新聞媒體和社會(huì)公眾均具有一定的負(fù)面影響，治理虛假新聞也是當(dāng)下維護(hù)網(wǎng)絡(luò)內(nèi)容生態(tài)不可避免的一項(xiàng)重要任務(wù)。在由國(guó)家互聯(lián)網(wǎng)信息辦公室部署開(kāi)展的“2023年‘清朗’系列專項(xiàng)行動(dòng)”中，各網(wǎng)站平臺(tái)在一個(gè)多月的時(shí)間內(nèi)集中清理了仿冒新聞單位、新聞主播賬號(hào)10.7萬(wàn)個(gè)，以及虛假新聞信息83.5萬(wàn)條。[4]從數(shù)量上不難看出，網(wǎng)絡(luò)虛假新聞泛濫之勢(shì)已不容忽視。從形式上看，有的通過(guò)偽造新聞演播室場(chǎng)景、模仿專業(yè)主持人播報(bào)、濫用人工智能虛擬主播等手段，偽裝權(quán)威新聞媒體，以假亂真，或是以剪貼、拼湊等手段，炮制涉社會(huì)案事件、國(guó)際時(shí)政等熱點(diǎn)議題相關(guān)虛假新聞。造假手段的不斷翻新，也體現(xiàn)了人工智能技術(shù)應(yīng)用背景之下，虛假新聞在表現(xiàn)形式、傳播模式、識(shí)別難度等方面產(chǎn)生的新變化，進(jìn)而對(duì)治理網(wǎng)絡(luò)虛假新聞提出了更高的要求和挑戰(zhàn)。鑒于此，本文立足于人工智能時(shí)代背景，解析當(dāng)前虛假新聞在生產(chǎn)與傳播方面的演變趨勢(shì)，在問(wèn)題層面總結(jié)治理挑戰(zhàn)，在對(duì)策層面提出治理方式，通過(guò)結(jié)合國(guó)內(nèi)外相關(guān)實(shí)踐經(jīng)驗(yàn)，為理解人工智能與虛假新聞的結(jié)合與沖突提供思路，也為虛假新聞治理工作的與時(shí)俱進(jìn)提供理論與實(shí)踐基礎(chǔ)。

一、虛假新聞生產(chǎn)與傳播的演變趨勢(shì)

隨著技術(shù)更新與媒介演進(jìn)，虛假新聞的環(huán)境與載體都與此前相比發(fā)生了明顯的變化。在人工智能應(yīng)用日益普遍的今天，虛假新聞在認(rèn)知、生產(chǎn)、傳播、權(quán)力等各個(gè)維度表現(xiàn)出了新的演變趨勢(shì)。

（一）認(rèn)知觀念多元化：“真實(shí)”的消解與“虛假”的再建

虛假新聞最重要的特征即為虛假性，也就是非真實(shí)性，隨著信息技術(shù)的更迭與虛假新聞的演變，“真實(shí)”與“虛假”的邊界和標(biāo)準(zhǔn)也呈現(xiàn)出動(dòng)態(tài)的變化過(guò)程。從有限真實(shí)到過(guò)程真實(shí)，再到有機(jī)真實(shí)，新聞?wù)鎸?shí)的內(nèi)涵在認(rèn)識(shí)論層面隨著時(shí)間和媒介變遷不斷更新，而在人工智能技術(shù)的驅(qū)動(dòng)和背景下，對(duì)新聞“真實(shí)”與“虛假”的認(rèn)知觀念變得更加多元。

一方面，人工智能時(shí)代新聞?wù)鎸?shí)受到了消解?！昂笳嫦唷闭Z(yǔ)境在人工智能技術(shù)的催化下更加突出，信息過(guò)載已然對(duì)公眾尋求真相提出了考驗(yàn)，而大數(shù)據(jù)、算法等智能技術(shù)則加劇了公眾對(duì)外力的依賴。盡管智能技術(shù)為新聞生產(chǎn)、傳播和消費(fèi)帶來(lái)了極大的便利和機(jī)遇，但同時(shí)，人們?cè)絹?lái)越傾向于依賴技術(shù)帶來(lái)的表面線索來(lái)審視新聞，順從觀點(diǎn)和情緒，簡(jiǎn)化認(rèn)知過(guò)程，匆忙得出結(jié)論，深入思考成為越來(lái)越稀缺的能力，真相在這個(gè)過(guò)程中變得次要了。同時(shí)，人工智能技術(shù)帶來(lái)新的新聞形態(tài)，也對(duì)新聞?wù)鎸?shí)產(chǎn)生了一定的消解威脅，比如對(duì)于 VR（virtualreality）新聞，其對(duì)現(xiàn)實(shí)的建構(gòu)源于用戶體驗(yàn)到的感受真實(shí)，[5]而非客觀真實(shí)，一旦用戶習(xí)慣于把VR新聞塑造的沉浸式感受真實(shí)等同于客觀真實(shí)，那么真實(shí)和虛擬的界限便隨之模糊甚至消失，社會(huì)將被重塑為一個(gè)符號(hào)和意義急速內(nèi)爆的超真實(shí)世界。[6]以深度偽造為代表的人工智能圖像技術(shù)則促進(jìn)了超真實(shí)虛擬圖像的大規(guī)模生產(chǎn)，讓我們不得不重新思考新聞圖像的視覺(jué)真相本質(zhì)特征。[7]

另一方面，與“真實(shí)”相對(duì)應(yīng)的，對(duì)“虛假”的認(rèn)知結(jié)構(gòu)在人工智能時(shí)代實(shí)現(xiàn)了再建。傳統(tǒng)意義上，“虛假”是“真實(shí)”的對(duì)立面，非“真”為“假”、非“實(shí)”為“虛”，也就是說(shuō)，只要與客觀真實(shí)不符的情況均為虛假，包括偽造、虛構(gòu)、篡改等手段。然而在人工智能時(shí)代，虛假與真實(shí)的沖突絕對(duì)性被減弱，以VR新聞為例，其建構(gòu)出的虛擬場(chǎng)景并非屬于客觀真實(shí)，而是客觀真實(shí)的模擬和表征，甚至是合理的想象與關(guān)聯(lián)，但VR新聞也并非是虛假的。再以大數(shù)據(jù)新聞為例，大數(shù)據(jù)實(shí)際上是一種集合無(wú)數(shù)個(gè)體行為的表象事實(shí)，比如真實(shí)數(shù)據(jù)表明某城市居民的日均上網(wǎng)購(gòu)物時(shí)間為X小時(shí)，但實(shí)際上其中某個(gè)體的數(shù)據(jù)上傳有誤，嚴(yán)格來(lái)講，基于該數(shù)據(jù)而生成的新聞?wù)撌雠c客觀真實(shí)并不相符，但實(shí)踐中由于很難對(duì)每條數(shù)據(jù)進(jìn)行一一核驗(yàn)，這類“虛假”一般在大數(shù)據(jù)新聞的誤差容許范圍之內(nèi)。

（二）生產(chǎn)工具智能化：機(jī)器的規(guī)模應(yīng)用

一直以來(lái)，虛假新聞?dòng)伞叭恕鄙a(chǎn)，盡管互聯(lián)網(wǎng)的崛起擴(kuò)充了虛假新聞的生產(chǎn)群體，越來(lái)越多的社會(huì)角色獲得生產(chǎn)新聞的機(jī)會(huì)，虛假新聞的生產(chǎn)主體不再局限于專業(yè)新聞從業(yè)者，而是逐漸形成了包含專業(yè)新聞從業(yè)者、行政部門(mén)、普通互聯(lián)網(wǎng)用戶等多元主體的混合模式，虛假新聞生產(chǎn)主體的角色始終依附于“人”。到了人工智能時(shí)代，人對(duì)機(jī)器的開(kāi)發(fā)和利用進(jìn)入一個(gè)顛覆性的階段，盡管虛假信息的生產(chǎn)主體依然是人，但是機(jī)器的角色日益凸顯，在“人”的主導(dǎo)下，“機(jī)器”成為虛假新聞生產(chǎn)與傳播中的重要工具。目前，AIGC已經(jīng)成為信息市場(chǎng)中一股不可小視的新生力量，尤其是2022年底ChatGPT的問(wèn)世讓人們看到，人工智能發(fā)展已進(jìn)入了新階段，AIGC將對(duì)新聞內(nèi)容生產(chǎn)模式和新聞產(chǎn)業(yè)帶來(lái)顛覆性的影響。在此基礎(chǔ)上，借助人工智能技術(shù)的新聞生產(chǎn)整合了自然語(yǔ)言處理以及數(shù)據(jù)庫(kù)知識(shí)發(fā)現(xiàn)，甚至使虛假新聞生產(chǎn)成為一種機(jī)器寫(xiě)作的自動(dòng)化模式，且可以實(shí)現(xiàn)機(jī)器自動(dòng)鏈接新聞，以及智能化進(jìn)行語(yǔ)音合成和視頻編輯。[8]人工智能技術(shù)將機(jī)器推向虛假新聞的生產(chǎn)前端，并大大強(qiáng)化了機(jī)器在虛假新聞生產(chǎn)中的工具地位，使虛假新聞生產(chǎn)由“機(jī)器少量輔助”的傳統(tǒng)模式轉(zhuǎn)向“機(jī)器規(guī)模應(yīng)用”的智能模式。

（三）傳播場(chǎng)景復(fù)雜化：虛假新聞的樣態(tài)更新

人工智能技術(shù)延伸了物與機(jī)器在新聞生產(chǎn)和傳播過(guò)程中的觸角，創(chuàng)造出更復(fù)雜多變的場(chǎng)景，即新聞生產(chǎn)和新聞傳播的空間環(huán)境更加多樣，由此帶來(lái)虛假新聞的新變化。第一，從信息源來(lái)看，大數(shù)據(jù)為新聞生產(chǎn)提供了海量的信息基礎(chǔ)，結(jié)合不斷發(fā)展的數(shù)據(jù)挖掘技術(shù)，采集并分析大數(shù)據(jù)已成為一些新聞報(bào)道獲取信息常用的手段，特別是當(dāng)新聞內(nèi)容主要為反映整體行為情況、普遍態(tài)度或情感傾向時(shí)，數(shù)據(jù)的不完整或是誤用則容易導(dǎo)致虛假新聞的產(chǎn)生；同時(shí)，除了通過(guò)計(jì)算機(jī)數(shù)據(jù)挖掘技術(shù)獲取信息，智能設(shè)備與物聯(lián)網(wǎng)的聯(lián)動(dòng)拓展了信息采集渠道，利用智能設(shè)備延伸人的知覺(jué)、情緒和行為以獲取數(shù)據(jù)，即傳感器成為新信息源，[9]從而也可能成為造假源頭。第二，從造假手段來(lái)看，對(duì)于傳統(tǒng)的虛假新聞而言，虛假性主要是人工操作的結(jié)果，無(wú)論是故意編造內(nèi)容，還是無(wú)意報(bào)道失實(shí)，都是人對(duì)新聞內(nèi)容的直接影響結(jié)果，比如編輯、刪改、捏造新聞內(nèi)容；而在人工智能時(shí)代，隨著機(jī)器生產(chǎn)的深入介入以及人與機(jī)器協(xié)作關(guān)系的建立，機(jī)器成為重要的虛假新聞生產(chǎn)工具，扮演輔助角色，比如利用深度偽造技術(shù)制作虛假視頻，利用社交機(jī)器人生產(chǎn)并散布虛假新聞。第三，從媒介形態(tài)來(lái)看，人工智能技術(shù)無(wú)疑豐富了新聞媒介的表現(xiàn)形態(tài)，從文字到圖片再到視頻，從二維到三維再到虛擬空間，虛假新聞不再局限于簡(jiǎn)單的文字謊言、圖片編輯或視頻剪接，而是以更多樣的表現(xiàn)形式迷惑公眾，比如用肉眼很難辨別真假的深度偽造視頻，以AR或VR等技術(shù)疊加的現(xiàn)實(shí)與虛擬之間的錯(cuò)位虛假，甚至基于物聯(lián)網(wǎng)，以萬(wàn)物為媒，呈現(xiàn)各式各樣的虛假新聞。

（四）資本權(quán)力擴(kuò)張化：技術(shù)與商業(yè)的合謀

新技術(shù)的發(fā)明和應(yīng)用需要經(jīng)歷一個(gè)從點(diǎn)到面、由淺入深的擴(kuò)散過(guò)程，人工智能技術(shù)的發(fā)展過(guò)程也不外乎此。人工智能技術(shù)實(shí)際上是一種計(jì)算機(jī)技術(shù)，技術(shù)的專業(yè)壁壘決定了其與新聞業(yè)的關(guān)系是接入和融合，而不是內(nèi)生，這就容易導(dǎo)致技術(shù)對(duì)傳統(tǒng)新聞業(yè)的干預(yù)與控制，再加上商業(yè)運(yùn)作的逐利特性，擁有技術(shù)和數(shù)據(jù)的公司反而比專業(yè)新聞媒體和公共機(jī)構(gòu)擁有更多權(quán)力，甚至壟斷傳播資源，由此資本權(quán)力可以繞過(guò)公共力量的監(jiān)督進(jìn)行虛假新聞的采集、生產(chǎn)、擴(kuò)散和營(yíng)銷(xiāo)。[10]同時(shí)，技術(shù)內(nèi)部也存在權(quán)力的競(jìng)爭(zhēng)關(guān)系，比如具有主導(dǎo)地位的組織制定的算法能夠影響其他組織的合法性從而引起整個(gè)行業(yè)的效仿。[11]一方面，在市場(chǎng)經(jīng)濟(jì)中，資本實(shí)力對(duì)人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用具有重要的影響作用，資本在一定程度上決定了人工智能行業(yè)內(nèi)部的話語(yǔ)權(quán)；另一方面，在流量經(jīng)濟(jì)的驅(qū)動(dòng)下，資本也更容易聚集在具有話語(yǔ)權(quán)和一定地位的組織中，權(quán)力得到進(jìn)一步的鞏固。綜上所述，在技術(shù)與商業(yè)的合謀下，資本對(duì)虛假新聞的控制權(quán)力日益擴(kuò)張，這對(duì)人工智能時(shí)代的新聞業(yè)而言是一個(gè)不可避免的挑戰(zhàn)，也促使我們反思審視新聞與技術(shù)、資本之間的互動(dòng)關(guān)系。

二、人工智能背景下虛假新聞的治理挑戰(zhàn)

人工智能技術(shù)的迅猛發(fā)展，使得虛假新聞的生產(chǎn)、傳播變得更加復(fù)雜和智能化且影響力擴(kuò)大。同時(shí)，與之相關(guān)的社會(huì)觀念與資本市場(chǎng)等作用條件也為虛假新聞的生產(chǎn)傳播提供了實(shí)現(xiàn)基礎(chǔ)。這給現(xiàn)有的治理機(jī)制帶來(lái)了新的困難和挑戰(zhàn)，具體體現(xiàn)在虛假新聞的流通速度、甄別成本以及傳播路徑與圈層等方面。

（一）虛假新聞的生產(chǎn)流通加速

5G通信技術(shù)的基本數(shù)據(jù)傳輸能力為虛假新聞的生產(chǎn)流通提供了更快捷的信息通道，除此之外，5G通信技術(shù)還可通過(guò)推動(dòng)物聯(lián)網(wǎng)和社交媒體平臺(tái)的發(fā)展而加速虛假新聞的生產(chǎn)流通。一方面，5G技術(shù)將助力物聯(lián)網(wǎng)的編織更加高效，5G時(shí)代 “數(shù)字在場(chǎng)”（digital present）的特點(diǎn)使虛假新聞的生產(chǎn)場(chǎng)景在和物聯(lián)網(wǎng)相融合的基礎(chǔ)上得到擴(kuò)展[12]，同一條虛假新聞可以同時(shí)在多重?cái)?shù)字空間中生成，并在多重網(wǎng)絡(luò)中同時(shí)流通。另一方面，5G技術(shù)還為線上社交提供了更加堅(jiān)實(shí)的基礎(chǔ)保障，促進(jìn)和鞏固社交網(wǎng)絡(luò)的建構(gòu)，而更加廣闊和復(fù)雜的社交網(wǎng)絡(luò)為虛假新聞的生成提供了更多隱蔽的角落和空間，其實(shí)現(xiàn)的“增強(qiáng)協(xié)同”也為“集體造假”帶來(lái)了更多的可能性。

（二）虛假新聞的甄別成本提高

隨著數(shù)字編輯技術(shù)的革新，虛假新聞已不再局限于文本和圖片，而越來(lái)越多地出現(xiàn)在視頻內(nèi)容中，變得更加難以識(shí)別。比如深度偽造（或“深度造假”“深度擬真”“深度合成”，英文表達(dá)包括“deepfake”“deepfake”“deepfakes”“deepfakes”）可以將圖像和視頻片段合并、替換和疊加，從而創(chuàng)建出看起來(lái)像是真實(shí)的假視頻。具體而言，深度偽造是 “深度學(xué)習(xí)”（deep learning）和“虛假”（fake）的結(jié)合[13]，它的產(chǎn)生依賴于機(jī)器學(xué)習(xí)的兩大進(jìn)步：神經(jīng)網(wǎng)絡(luò)（neural networks）和生成式對(duì)抗網(wǎng)絡(luò) （generative adversarial networks，簡(jiǎn)稱GANs）。依靠神經(jīng)網(wǎng)絡(luò)分析大量的數(shù)據(jù)樣本，學(xué)習(xí)模仿一個(gè)人的面部表情、舉止、聲音和變化，深度偽造可以制造超逼真的視頻，用來(lái)描繪人們說(shuō)過(guò)和做過(guò)的事情，然而這些事情卻從未真正發(fā)生過(guò)。早期的深度偽造技術(shù)主要被集中應(yīng)用于色情視頻，但隨著該技術(shù)的日益大眾化，深度偽造被應(yīng)用于虛假新聞的可能性和操作空間越來(lái)越大，比如2018年4月，一段“奧巴馬惡意辱罵特朗普”的視頻在全世界范圍的社交網(wǎng)絡(luò)上流傳，2020年10月，一段“特朗普高唱《我愛(ài)你中國(guó)》”的視頻在微信平臺(tái)擴(kuò)散，而這些視頻的背后均有著深度偽造技術(shù)的強(qiáng)大支撐。

在人工智能超速發(fā)展的今天，基于深度偽造技術(shù)制作生產(chǎn)的虛假新聞比“傳統(tǒng)”虛假新聞的威脅更大，因?yàn)樗鼈兏y被發(fā)現(xiàn)，其所涉及的技術(shù)范圍、規(guī)模和復(fù)雜程度均大大改變了虛假新聞，尤其是曾經(jīng)可信度普遍較高的視頻新聞。2023年6月，浙江首例利用AI炮制虛假信息案告破，網(wǎng)安民警在網(wǎng)上巡查時(shí)發(fā)現(xiàn)，一條關(guān)于紹興上虞工業(yè)園區(qū)發(fā)生火災(zāi)的視頻在短時(shí)間內(nèi)瀏覽量迅速上升，實(shí)際上這條視頻是不法分子通過(guò)在網(wǎng)上搜集熱門(mén)話題并使用AI合成的視頻，以此牟利。[14]一方面，應(yīng)用深度偽造技術(shù)而生產(chǎn)的虛假新聞在視覺(jué)接受范圍內(nèi)與“真實(shí)”無(wú)異，天然地提升了虛假的甄別成本。另一方面，用于制作高質(zhì)量的深度偽造視頻的開(kāi)源軟件越來(lái)越多，這使得沒(méi)有任何技術(shù)技能和專業(yè)知識(shí)的用戶也可以近乎完美地編輯視頻、交換面孔、改變表情和合成語(yǔ)音，成為制造生產(chǎn)虛假新聞的主體。

（三）虛假新聞的傳播路徑擴(kuò)增

社交機(jī)器人（social robots）是一種運(yùn)行在社交媒體平臺(tái)上的無(wú)實(shí)體、自動(dòng)化的智能編程代理，其能夠自動(dòng)生成內(nèi)容，且可以模仿并模擬人類真實(shí)用戶在社交媒體中的狀態(tài)和行為，參與社會(huì)互動(dòng)，本質(zhì)是線上社交媒體中的計(jì)算機(jī)算法，其中扮演負(fù)面的迷惑角色多為在人的協(xié)同下開(kāi)展行動(dòng)的機(jī)器人。比如高度組織化、規(guī)?；摹皺C(jī)器人水軍”等，[15]這些社交機(jī)器人與虛假新聞的生產(chǎn)、傳播與消費(fèi)密切相關(guān)。現(xiàn)今國(guó)內(nèi)外均存在專門(mén)在社交網(wǎng)絡(luò)上制造和販賣(mài) “機(jī)器人水軍”的公司，通過(guò)這些“機(jī)器人水軍”傳播虛假信息，可以影響廣告受眾、破壞企業(yè)聲譽(yù)、左右民眾決策。隨著人工智能技術(shù)的不斷成熟，社交機(jī)器人能夠通過(guò)更多圖靈（turing）測(cè)試，辨別區(qū)分機(jī)器人賬戶與人類賬戶將變得越來(lái)越困難。[16]還有學(xué)者統(tǒng)計(jì)分析發(fā)現(xiàn)，社交機(jī)器人擅長(zhǎng)使用標(biāo)簽制造影響力，且完全可以模仿真實(shí)人類賬號(hào)的培養(yǎng)模式，同時(shí)借助人工智能技術(shù)加快“影響力”積累的過(guò)程。[17]

相比于普通人類用戶，社交機(jī)器人的造假能力更強(qiáng)、復(fù)制速度更快，搭配5G技術(shù)對(duì)信息傳輸障礙的消除，通過(guò)社交機(jī)器人批量生產(chǎn)虛假新聞并不困難，使機(jī)器自主循環(huán)制造虛假信息并發(fā)布到各個(gè)社交媒體平臺(tái)和應(yīng)用場(chǎng)景中，也只需幾段代碼而已。同時(shí)，社交機(jī)器人不受人類生活作息自然規(guī)律的影響，可以24小時(shí)不間斷地完成生產(chǎn)傳播虛假新聞的高飽和工作量，由此成為人工智能背景下重要的虛假新聞生產(chǎn)者。有學(xué)者表示，虛假新聞制造者在一定程度上依賴于一個(gè)在線機(jī)器人網(wǎng)絡(luò)，這些機(jī)器人為虛假新聞網(wǎng)站提供支持。[18]社交機(jī)器人不僅作為虛假新聞的生產(chǎn)者，此外還作為傳播者與消費(fèi)者與真實(shí)用戶共同編織虛假新聞的傳播網(wǎng)絡(luò)，甚至社交機(jī)器人是互聯(lián)網(wǎng)社群中最活躍的傳播虛假新聞的社交媒體賬戶之一，社交機(jī)器人“可通過(guò)人工智能驅(qū)動(dòng)模式改變社交網(wǎng)絡(luò)動(dòng)態(tài)結(jié)構(gòu)以提升傳播效率”[19]，操縱社交機(jī)器人的人類使社交機(jī)器人集群成為社交網(wǎng)絡(luò)中的多個(gè)虛假新聞傳染源，其他社交機(jī)器人與真實(shí)社交媒體用戶以獲取和分享虛假新聞的方式成為被感染者，進(jìn)而轉(zhuǎn)化為底層傳染源參與擴(kuò)增虛假新聞的傳播路徑。

（四）虛假新聞的傳播圈層固化

算法滲透進(jìn)入新聞業(yè)已十年有余，作為計(jì)算機(jī)技術(shù)在新聞生產(chǎn)與消費(fèi)方面的較早期應(yīng)用實(shí)踐，算法推薦技術(shù)深刻地改變了新聞篩選與分發(fā)模式，將“個(gè)性化”“定制化”引入傳統(tǒng)的大眾傳播模式，成為新聞生產(chǎn)者與新聞消費(fèi)者之間的中介。算法，即“基于流程規(guī)律、已經(jīng)發(fā)生的情況或根據(jù)海量數(shù)據(jù)”[20]進(jìn)行計(jì)算而形成的自動(dòng)化的決策過(guò)程，其信息篩選的功能重點(diǎn)體現(xiàn)在根據(jù)特定的程序安排信息的優(yōu)先級(jí)和類別劃分，即能夠在充分搜集用戶的新聞喜好、消費(fèi)經(jīng)驗(yàn)、使用習(xí)慣等因素后，利用算法自動(dòng)向用戶推送匹配用戶需求的“精準(zhǔn)”信息，這決定了算法很難依托社會(huì)價(jià)值與客觀立場(chǎng)對(duì)信息的真?zhèn)芜M(jìn)行辨認(rèn)，并依此進(jìn)行信息篩查和取舍。也就是說(shuō)，虛假新聞在算法推薦技術(shù)中可能不會(huì)被過(guò)濾篩除，反而有針對(duì)性地向某些群體反復(fù)推送，虛假新聞的傳播受眾存在被固化的潛在風(fēng)險(xiǎn)。

如今，算法推薦已經(jīng)成為中國(guó)互聯(lián)網(wǎng)用戶獲取網(wǎng)絡(luò)新聞最主要的技術(shù)基礎(chǔ)與分發(fā)方式。隨著算法智能化趨勢(shì)的加深，在算法的協(xié)同過(guò)濾模式下，定向精準(zhǔn)分發(fā)容易帶來(lái)“過(guò)濾氣泡”（filter bubble）問(wèn)題，即算法根據(jù)用戶的特征、行為和社會(huì)關(guān)系而進(jìn)行過(guò)濾，從而創(chuàng)造出一種所謂“量身定制”的氣泡將用戶裹在其中，形成一種隔絕狀態(tài)，減少用戶與其他信息的接觸機(jī)會(huì)。由此，在算法推薦技術(shù)的加持下，新聞受眾的圈層化趨勢(shì)得到鞏固和加強(qiáng)，擁有相似特征、行為和社會(huì)關(guān)系的互聯(lián)網(wǎng)用戶可以使用基于人工智能的自然語(yǔ)言和社交網(wǎng)絡(luò)技術(shù)來(lái)識(shí)別和標(biāo)記，并針對(duì)大數(shù)據(jù)規(guī)律推送符合該社群圈層需求和喜好的新聞，虛假新聞亦是同理，尤其對(duì)于某一議題的虛假新聞，比如健康醫(yī)療新聞，當(dāng)某用戶閱讀過(guò)一條虛假新聞后，算法可能向其推送同議題下的第二條虛假新聞，該用戶便逐漸成為被算法推薦技術(shù)固定的虛假新聞受眾。

三、人工智能背景下虛假新聞的治理方式

在人工智能背景下，虛假新聞的治理問(wèn)題變得更加復(fù)雜而關(guān)鍵。對(duì)于虛假新聞在新時(shí)代環(huán)境中表現(xiàn)出的趨勢(shì)與特征，如何破解技術(shù)對(duì)虛假新聞生產(chǎn)與傳播的助推作用以及由此帶來(lái)的治理挑戰(zhàn)，是虛假新聞治理工作面對(duì)的重要問(wèn)題。結(jié)合國(guó)內(nèi)外相關(guān)經(jīng)驗(yàn)，可從以下五方面著手。

（一）與時(shí)俱進(jìn)的技術(shù)應(yīng)用

“解鈴還須系鈴人”。人工智能技術(shù)驅(qū)動(dòng)虛假新聞形成新特點(diǎn)、新變化，同時(shí)，解決虛假新聞也離不開(kāi)相應(yīng)的技術(shù)應(yīng)用。

虛假新聞的流行程度和潛在影響強(qiáng)調(diào)了識(shí)別虛假新聞的必要性，識(shí)別虛假新聞是治理虛假新聞的重要前提和基礎(chǔ)。事實(shí)核查（fact-checking）是一項(xiàng)具體且常見(jiàn)的識(shí)別虛假新聞的手段，通過(guò)對(duì)新聞內(nèi)容進(jìn)行核查、把關(guān)和管理，從而克服虛假內(nèi)容的潛在有害后果。隨著算法與人工智能技術(shù)的發(fā)展，結(jié)合智能技術(shù)，核查的方式和形式煥發(fā)出新生機(jī)，比如通過(guò)計(jì)算預(yù)測(cè)新聞文本真實(shí)準(zhǔn)確的概率，智能化的虛假新聞探測(cè)系統(tǒng)（fake news detection system）可以評(píng)估虛假新聞的風(fēng)險(xiǎn)，自動(dòng)檢測(cè)和過(guò)濾虛假新聞，降低事實(shí)核查的時(shí)間成本和人力成本；[21]通過(guò)對(duì)基于新聞文本中獲取的新聞內(nèi)容信息和從回音室中獲取的社會(huì)背景信息的深度神經(jīng)網(wǎng)絡(luò)進(jìn)行建模，獲得比機(jī)器學(xué)習(xí)方法（XGBoost分類器）具有更高精度、召回率和準(zhǔn)確性的虛假新聞分類結(jié)果；[22]利用Keras卷積神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行圖像識(shí)別，使用隨機(jī)的權(quán)重來(lái)提高深度偽造視頻的分類精度，[23]并且，將依賴各種自然語(yǔ)言處理技術(shù)和機(jī)器學(xué)習(xí)算法的“fake-news-detection-withdeep-learning”①“Fake-News-Detection”②“FakeBuster”③等開(kāi)源代碼開(kāi)放，供用戶下載使用，可以在更大范圍內(nèi)將人工智能技術(shù)應(yīng)用于虛假新聞識(shí)別中。

除了對(duì)虛假新聞內(nèi)容進(jìn)行檢測(cè)識(shí)別外，治理虛假新聞還可以從新聞分發(fā)維度進(jìn)行優(yōu)化。新聞分發(fā)主要涉及算法技術(shù)，如前文所述，算法被應(yīng)用于新聞的個(gè)性化、定制化分發(fā)，對(duì)虛假新聞傳播圈層的固化具有一定的影響力，反過(guò)來(lái)，算法也可以被應(yīng)用于對(duì)低可信度的信源“降權(quán)”，即在檢測(cè)識(shí)別低可信度、高虛假性的信源基礎(chǔ)上，利用算法降低該信源發(fā)出的新聞在推送系統(tǒng)中的比重，從而整體降低虛假新聞的推送概率。[24]社交機(jī)器人是低可信度信源的重要組成部分，利用智能技術(shù)識(shí)別確定社交機(jī)器人賬號(hào)也有利于降低虛假新聞的推送概率，進(jìn)而達(dá)到治理虛假新聞傳播的目的。

在智能化新聞推送方面，社交媒體平臺(tái)紛紛開(kāi)始反思算法在虛假新聞傳播中的催化作用并采取行動(dòng)。比如Facebook從評(píng)論入手，開(kāi)始優(yōu)先推送含有“假”字的用戶評(píng)論，即結(jié)合社會(huì)糾錯(cuò)機(jī)制與算法技術(shù)，將用戶的糾錯(cuò)評(píng)論置于評(píng)論區(qū)的頂部，以提醒其他新聞受眾提高警惕；[25]而后，F(xiàn)acebook還宣布調(diào)整信息流（News Feed）呈現(xiàn)規(guī)則，優(yōu)先展示與家人、朋友相關(guān)的分享和評(píng)論內(nèi)容，減弱新聞和廣告的內(nèi)容，并通過(guò)對(duì)用戶進(jìn)行調(diào)查，對(duì)新聞來(lái)源的可信度進(jìn)行評(píng)級(jí)。如此，用戶對(duì)某個(gè)新聞源越信任，那么該新聞源在算法中就占有更大的推送概率，而對(duì)于那些低可信度的新聞源，系統(tǒng)將自動(dòng)置于推送欄底部，從而有效降低虛假新聞的閱讀量。[26]針對(duì)此方面，我國(guó)媒體平臺(tái)也有相似的舉措，比如今日頭條也通過(guò)機(jī)器算法+用戶反饋的方式識(shí)別虛假新聞，機(jī)器可自動(dòng)識(shí)別評(píng)論區(qū)密集出現(xiàn)“假新聞”“虛假”等類似關(guān)鍵詞的新聞內(nèi)容，將其提交至審核團(tuán)隊(duì)進(jìn)行高優(yōu)先級(jí)的復(fù)審，其中機(jī)器識(shí)別準(zhǔn)確率可達(dá)60%，結(jié)合人工復(fù)審可進(jìn)一步提升到90%。[27]

（二）透明開(kāi)放的公共平臺(tái)

在人工智能技術(shù)與商業(yè)市場(chǎng)規(guī)則的合力作用下，資本對(duì)虛假新聞的生產(chǎn)和傳播具有越來(lái)越強(qiáng)大的控制力，權(quán)力從公共機(jī)構(gòu)遷移到掌握資本驅(qū)動(dòng)的技術(shù)公司和媒體平臺(tái)，為了避免這種情況帶來(lái)的虛假新聞風(fēng)險(xiǎn)，需要建立透明開(kāi)放的公共平臺(tái)，增強(qiáng)公共監(jiān)督力量。

首先，社交媒體和互聯(lián)網(wǎng)新聞平臺(tái)應(yīng)更加負(fù)責(zé)透明。社交媒體和互聯(lián)網(wǎng)新聞平臺(tái)是虛假新聞的重要傳播空間，隨著人工智能技術(shù)的進(jìn)場(chǎng)，算法和虛假信息識(shí)別等技術(shù)被廣泛應(yīng)用于社交媒體和互聯(lián)網(wǎng)新聞平臺(tái)。增加算法透明度有利于避免因算法黑箱加劇虛假新聞的生產(chǎn)、傳播和消費(fèi)，也有利于促使用戶釋放對(duì)平臺(tái)和互聯(lián)網(wǎng)新聞的信任度。其次，急需建立獨(dú)立于新聞生產(chǎn)方（包括傳統(tǒng)新聞媒體、社交媒體和互聯(lián)網(wǎng)新聞平臺(tái)）和技術(shù)公司的第三方公共平臺(tái)，其可以由政府主導(dǎo)，或是非營(yíng)利組織主導(dǎo)。通過(guò)引入第三方力量，可以有效平衡新聞生產(chǎn)方與技術(shù)公司之間的博弈與共謀，比如官方政府建立綜合新聞核查網(wǎng)站，以更加透明的公權(quán)力制約虛假新聞的傳播。

（三）健康和諧的網(wǎng)絡(luò)生態(tài)

虛假新聞的傳播離不開(kāi)互聯(lián)網(wǎng)用戶的參與，在以網(wǎng)絡(luò)連接關(guān)系為基礎(chǔ)而編織的社會(huì)網(wǎng)絡(luò)中，用戶行為搭建構(gòu)造了互聯(lián)網(wǎng)社會(huì)生態(tài)。同時(shí)，個(gè)體用戶又受到社會(huì)其他成員和互聯(lián)網(wǎng)社會(huì)本身的影響。在人工智能背景下，虛假新聞逐漸呈現(xiàn)出人機(jī)協(xié)作、真假難辨、場(chǎng)景復(fù)雜等趨勢(shì)，而這些趨勢(shì)與當(dāng)下以“后真相”與“流量經(jīng)濟(jì)”為主要特點(diǎn)的網(wǎng)絡(luò)社會(huì)接壤后，虛假新聞的潛在危害性得到了加強(qiáng)。智能化的虛假新聞在一定程度上革新了公眾對(duì)“真”與“假”的認(rèn)知邊界，機(jī)器技術(shù)帶來(lái)的信息過(guò)載與智能推送令真相的傳輸多了重重阻礙，并加劇了公眾對(duì)情緒、態(tài)度、意見(jiàn)、技術(shù)等外力的依賴，而非自主思考，由此產(chǎn)生的后果便是在人工智能技術(shù)的裹挾下，虛假新聞更加隱蔽，也更容易在社交網(wǎng)絡(luò)中大范圍傳播，因此，治理虛假新聞需要從網(wǎng)絡(luò)生態(tài)入手。

健康和諧的網(wǎng)絡(luò)生態(tài)更有利于減少虛假新聞的傳播。如何減少后真相與流量經(jīng)濟(jì)的負(fù)面影響是當(dāng)前網(wǎng)絡(luò)生態(tài)面臨的重要議題，重拾社會(huì)對(duì)新聞?wù)鎸?shí)的期待與要求，既能構(gòu)建一種拒絕虛假新聞的網(wǎng)絡(luò)社會(huì)氛圍，同時(shí)也能讓人工智能技術(shù)更好地為新聞?wù)鎸?shí)服務(wù)，而非向生產(chǎn)虛假新聞靠攏。2020年3月1日開(kāi)始施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》為網(wǎng)絡(luò)生態(tài)的健康發(fā)展提供了指導(dǎo)方案和制度框架。針對(duì)虛假新聞，在具體實(shí)踐上，首先，減少“爆款”“10萬(wàn)+”等對(duì)新聞生產(chǎn)者的吸引力，這些流量經(jīng)濟(jì)下的產(chǎn)物更容易滋生“標(biāo)題黨”等各種形式的虛假新聞，它們以吸引流量、獲取利益為目標(biāo)，而忽略了新聞?wù)鎸?shí)的重要性。其次，深度識(shí)別并清理“機(jī)器人水軍”賬號(hào)，避免其擾亂輿論生態(tài)、加劇虛假新聞傳播。最后，提升公眾的新媒介素養(yǎng)是當(dāng)務(wù)之急，隨著互聯(lián)網(wǎng)以及人工智能技術(shù)的突破發(fā)展，社會(huì)生態(tài)發(fā)生了快速變化，對(duì)公眾的媒介素養(yǎng)也不斷提出了更高的要求，包括新聞獲取與新聞消費(fèi)的能力。因此，構(gòu)建健康和諧的網(wǎng)絡(luò)生態(tài)，需要公眾在新聞消費(fèi)中普遍具有追求真實(shí)的共識(shí)與辨別虛假的能力，并隨著人工智能技術(shù)的發(fā)展而具備相應(yīng)的技術(shù)應(yīng)用能力。

（四）積極有效的社會(huì)糾錯(cuò)

移動(dòng)互聯(lián)網(wǎng)的興起，使基于社交媒體構(gòu)建的以人為節(jié)點(diǎn)的關(guān)系網(wǎng)絡(luò)越來(lái)越明顯，而5G技術(shù)與人工智能技術(shù)為線上社交提供了更加堅(jiān)實(shí)的基礎(chǔ)保障，而更加廣闊和復(fù)雜的社交網(wǎng)絡(luò)為虛假新聞的生成提供了更多隱蔽的角落和空間，其實(shí)現(xiàn)的增強(qiáng)協(xié)同也為集體造假帶來(lái)了更多的可能性。因此，虛假新聞的治理工作不能僅依靠政府與媒體平臺(tái)，同時(shí)也需借助社會(huì)公眾的糾錯(cuò)參與。

首先，促進(jìn)互聯(lián)網(wǎng)用戶積極參與虛假新聞的糾錯(cuò)，需要建立完善的虛假新聞舉報(bào)機(jī)制，對(duì)于新聞媒體與社交媒體平臺(tái)而言，不僅要搭建用戶舉報(bào)虛假新聞的渠道，而且要保證舉報(bào)渠道順暢、易發(fā)現(xiàn)、易操作，而非形同虛設(shè)；對(duì)于互聯(lián)網(wǎng)用戶而言，則需要善用舉報(bào)機(jī)制，基于社會(huì)責(zé)任感對(duì)確定的虛假新聞進(jìn)行舉報(bào)糾錯(cuò)，而非出于私欲或利益利用虛假新聞糾錯(cuò)機(jī)制擾亂新聞市場(chǎng)秩序。其次，提高社會(huì)糾錯(cuò)的有效性，需要縮短用戶舉報(bào)產(chǎn)生效用的時(shí)間和流程，這就要求政府與媒體平臺(tái)應(yīng)對(duì)用戶舉報(bào)的虛假新聞進(jìn)行快速回應(yīng)和處理，并可利用算法技術(shù)降低被舉報(bào)的虛假新聞以及其發(fā)布賬號(hào)的被推送權(quán)重，減少次生傳播。值得注意的是，一般當(dāng)虛假新聞被貼上潛在的虛假標(biāo)簽或被實(shí)際舉報(bào)時(shí)，虛假新聞通常已經(jīng)在一定范圍內(nèi)傳播并造成了負(fù)面影響，因此，如何在虛假新聞大范圍擴(kuò)散之前使社會(huì)糾錯(cuò)積極介入，并加速效果輸出，是下一步需要解決的問(wèn)題。

（五）及時(shí)嚴(yán)格的問(wèn)責(zé)機(jī)制

通過(guò)建立及時(shí)嚴(yán)格的問(wèn)責(zé)機(jī)制以增加虛假新聞的生產(chǎn)傳播成本是治理虛假新聞的另一條路徑。人工智能時(shí)代，各項(xiàng)計(jì)算機(jī)技術(shù)飛速發(fā)展，虛假新聞的生產(chǎn)手段和傳播樣態(tài)日益豐富多元，為虛假新聞的治理工作帶來(lái)了新的挑戰(zhàn)，如果沒(méi)有及時(shí)嚴(yán)格的問(wèn)責(zé)機(jī)制，對(duì)于那些不透明的技術(shù)黑箱操作以及由此引發(fā)的虛假新聞泛濫等亂象，將缺失重要的監(jiān)管環(huán)節(jié)。

第一，從政府監(jiān)管角度來(lái)講，嚴(yán)謹(jǐn)?shù)姆杀Ｕ象w系至關(guān)重要。人工智能技術(shù)的飛速發(fā)展與虛假新聞的歷史頑固性令人工智能時(shí)代的虛假新聞披上了一層更加堅(jiān)硬的外殼，這個(gè)外殼既具有以假亂真的功能，令虛假新聞更加隱蔽，還可以減少阻力，令虛假新聞擴(kuò)散得更快、更廣，虛假新聞成為人與機(jī)器、技術(shù)與商業(yè)、媒體與公眾的合謀產(chǎn)物。在如此背景下，對(duì)可能并且已經(jīng)造成危害的虛假新聞生產(chǎn)者進(jìn)行監(jiān)管審查并進(jìn)行處罰的法律機(jī)制是制衡虛假新聞多元生產(chǎn)主體的重要公共權(quán)力。2020年8月，我國(guó)五部委聯(lián)合印發(fā) 《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，從國(guó)家頂層設(shè)計(jì)維度推動(dòng)了人工智能產(chǎn)業(yè)技術(shù)研發(fā)和標(biāo)準(zhǔn)制定。2023年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室公布的《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn)，以對(duì)AIGC進(jìn)行框架性規(guī)范。第二，從內(nèi)部監(jiān)管角度來(lái)講，透明監(jiān)管和問(wèn)責(zé)機(jī)制是人工智能及互聯(lián)網(wǎng)新聞業(yè)健康發(fā)展的有力保護(hù)。對(duì)于整體人工智能技術(shù)產(chǎn)業(yè)以及技術(shù)背景下的互聯(lián)網(wǎng)新聞業(yè)而言，創(chuàng)建科學(xué)恰當(dāng)?shù)膬?nèi)部行業(yè)標(biāo)準(zhǔn)和透明度要求，并結(jié)合外部獨(dú)立的第三方監(jiān)督機(jī)構(gòu)，可以利用行業(yè)自律從而治理虛假新聞。

四、結(jié)語(yǔ)

作為新聞信息的承載體，信息技術(shù)改變著新聞的生產(chǎn)方式；作為新聞信息的傳播體，信息技術(shù)還改變著新聞的接受與消費(fèi)方式，進(jìn)而深刻作用于人的生活方式以及社會(huì)、世界的結(jié)構(gòu)。虛假新聞對(duì)現(xiàn)代社會(huì)的危害不言而喻，隨著人工智能的不斷推進(jìn)和發(fā)展，數(shù)字技術(shù)與虛假新聞的有機(jī)融合值得關(guān)注，虛假新聞在生產(chǎn)與傳播方面呈現(xiàn)出了認(rèn)知觀念多元化、生產(chǎn)工具智能化、傳播場(chǎng)景復(fù)雜化、資本權(quán)力擴(kuò)張化等演變趨勢(shì)，并在5G、深度偽造、社交機(jī)器人和算法推薦等技術(shù)的驅(qū)動(dòng)中對(duì)治理工作提出了新的挑戰(zhàn)。隨著人工智能時(shí)代的發(fā)展，無(wú)論是在微觀上利用人工智能技術(shù)反制虛假新聞，抑或是在宏觀上完善對(duì)虛假新聞的監(jiān)管體系，虛假新聞的治理措施也應(yīng)與時(shí)俱進(jìn)，在人工智能的背景下融合既有思路并探索新的可能性。

注 釋：

①詳見(jiàn) https：//github.com/nguyenvo09/fake_news_detection_deep_l earning。

②詳見(jiàn) https：//github.com/nishitpatel01/FakeNewsDetection。

③詳見(jiàn) https：//github.com/Fake News Detection/Fake Buster。