陳 曦
(科技日報(bào)社 北京 100038)
自從1956年達(dá)特茅斯會議正式提出人工智能(Artificial Intelligence)這一概念以來,人與非人之間的界限開始變得模糊。憑借著智能技術(shù)的不斷注入,人機(jī)互動的效率和質(zhì)量在短時(shí)間內(nèi)獲得了巨大的飛躍。面對這場廣度和深度甚至遠(yuǎn)超工業(yè)革命的新技術(shù)革命,當(dāng)今科學(xué)界急需一種全新的思想資源和理論體系來回應(yīng)這場狂飆突進(jìn)的新技術(shù)革命。然而有學(xué)者指出,面對這場新技術(shù)革命,人類“完全未經(jīng)抵抗,幾乎不曾討論”[1]。直到2016年AlphaGO戰(zhàn)勝人類圍棋冠軍李世石之后,人類才終于意識到在這場人類與機(jī)器的智力比拼中,機(jī)器在逐漸超越著人的認(rèn)知、挑戰(zhàn)著人類的極限。一場關(guān)于人類主體性滯后的討論開始在世界范圍內(nèi)進(jìn)行。在大數(shù)據(jù)、深度學(xué)習(xí)、機(jī)器識別、社交機(jī)器人等技術(shù)重構(gòu)社會的今天,人工智能技術(shù)已經(jīng)十分接近庫茲韋爾所言的“技術(shù)奇點(diǎn)”:當(dāng)越過奇點(diǎn)之后,人工智能將迎來指數(shù)型的增長,其進(jìn)化程度將遠(yuǎn)超人類的控制能力,人與非人之間的界限被打破,人類也無可避免地成為“后人類”。
人工智能技術(shù)的應(yīng)用正在重構(gòu)新聞業(yè)的底層邏輯,推動新聞生產(chǎn)的后工業(yè)化轉(zhuǎn)型[2]。自Buzzfeed、今日頭條等新聞聚合類平臺問世以來,新聞業(yè)正在被一種由各類人工智能技術(shù)驅(qū)動的后工業(yè)化生產(chǎn)模式所侵蝕。為傳統(tǒng)媒體所熟稔的“采寫-編輯-出版”專業(yè)化新聞生產(chǎn)流程受到了新媒體、流媒體入局的大幅沖擊。長久以來,人們將這種從傳統(tǒng)媒體到新媒體的轉(zhuǎn)型描述為“媒介融合”。但是這種將“新媒體化”看作是傳統(tǒng)媒體的發(fā)展路徑的線性進(jìn)化邏輯實(shí)際上是以舊視角看待新問題,無法把握二者之間的本質(zhì)變化。人工智能技術(shù)應(yīng)用于新聞業(yè)產(chǎn)生的影響,不僅僅是行業(yè)內(nèi)部的技術(shù)變化,而是整個行業(yè)在組織結(jié)構(gòu)上的流程轉(zhuǎn)變,甚至是權(quán)利的轉(zhuǎn)移與媒介生態(tài)的變化。從長遠(yuǎn)的視角來看,這不是傳統(tǒng)媒體在新媒體時(shí)代以新的生產(chǎn)模式的延續(xù),而是從微觀的新聞生產(chǎn)到宏觀的媒介生態(tài)全方位的范式革新。只有意識到這一點(diǎn),我們才能防止陷入“從后視鏡觀看現(xiàn)在,倒退著走向未來”(麥克盧漢語)的視線盲區(qū)。
作為人工智能技術(shù)的一種,社交機(jī)器人(Social Bot)對新聞業(yè)的影響可以從很多方面進(jìn)行討論。一方面,在新聞聚合類平臺上,社交機(jī)器人作為內(nèi)容生產(chǎn)者,能夠以較低的成本生產(chǎn)大量的新聞內(nèi)容。它在信息擴(kuò)散中扮演著關(guān)鍵角色,也勢必會對新聞生態(tài)造成沖擊。另一方面,社交機(jī)器人作為普通的用戶,卻是以非人的狀態(tài)出現(xiàn),并不具有人的情感和判斷力,因而造成了諸多倫理上的困境。社交機(jī)器人在美國大選[3]、中美貿(mào)易談判[4]、俄烏戰(zhàn)爭[5]、新冠肺炎疫情[6]等公共事件中都通過在短時(shí)間內(nèi)大量發(fā)表、轉(zhuǎn)發(fā)、點(diǎn)贊等手段,擾亂了公共輿論秩序、破壞了互聯(lián)網(wǎng)生態(tài)。在新冠肺炎疫情背景下,社交機(jī)器人還能在互聯(lián)網(wǎng)平臺上迅速擴(kuò)散未經(jīng)證實(shí)的健康信息,這將對公共健康造成嚴(yán)重危害[7]。已有研究多集中在社交機(jī)器人在具體新聞事件中的媒體表現(xiàn),聚焦于其是如何通過自我復(fù)制與互動導(dǎo)致信息擴(kuò)散、謠言泛濫的,仍然處于實(shí)然層面,而較少將社交機(jī)器人當(dāng)作一個行動者來探討其對于整個互聯(lián)網(wǎng)生態(tài)的影響,更少從應(yīng)然層面反思技術(shù)如今是如何作為的,未來需要何以有為。因此,將社交機(jī)器人與新聞業(yè)互動的認(rèn)知,借由倫理反思提升至技術(shù)哲學(xué)層面,不失為從紛繁事件中撥云見月、看到其底層邏輯、推演未來發(fā)展路徑的有效嘗試。
社交機(jī)器人,又被稱為“僵尸用戶”,是指“一種在社交網(wǎng)絡(luò)中自主運(yùn)行社交賬號并且有能力自動發(fā)送信息和鏈接請求的智能程序”[8]。這些賬戶可以基于特定的腳本模仿人類的行為,然后進(jìn)行信息內(nèi)容的生產(chǎn)與擴(kuò)散。此外,社交機(jī)器人還可以通過互相關(guān)注進(jìn)行自我推廣,以構(gòu)成看似真實(shí)的社交網(wǎng)絡(luò),改變既有的信息交互結(jié)構(gòu)。
已有的研究按照人機(jī)關(guān)系、實(shí)際功能、社會影響等方面對社交機(jī)器人進(jìn)行了分類。就人際關(guān)系而言,社交機(jī)器人可分為2類:一類是機(jī)器輔助人類(botassisted humans),為普通用戶提供交互服務(wù);另一類是人類輔助機(jī)器人(human-assisted bots),可以協(xié)同人類展開行動,但常常由于操縱和編程服務(wù)于特殊的目的,多數(shù)情況會引發(fā)負(fù)面影響[9]。就實(shí)際功能而言,社交機(jī)器人可分為4類,分別是惡意僵尸機(jī)器人(malicious botments)、編輯機(jī)器人(editing bots)、聊天機(jī)器人(chat bots)、調(diào)研機(jī)器人(research bots)[10]。就社會效益而言,Clark等則直接把社交機(jī)器人應(yīng)用后的社會效果分為“善”與“惡”兩大類[11]。一些社交機(jī)器人向在線用戶傳遞新聞資訊、進(jìn)行天氣預(yù)警、分發(fā)具有時(shí)效性的信息等;一些機(jī)器人傳播虛假新聞、滲透政治話語、擾亂股市秩序、制造信息煙霧彈等?,F(xiàn)有研究多關(guān)注具體應(yīng)用場景中的社交機(jī)器人,尤其是其應(yīng)用后的負(fù)面影響,而較少從技術(shù)哲學(xué)的角度探討社交機(jī)器人現(xiàn)在如何作為、未來如何有為的整體 框架。
2017年,全國“兩會”首次將“人工智能”寫入政府工作報(bào)告[12],這標(biāo)志著“人工智能”上升為國家戰(zhàn)略并且在中國各行業(yè)獲得了政治合法性。在接下來的幾年時(shí)間里,人工智能技術(shù)伴隨著互聯(lián)網(wǎng)行業(yè)的井噴式發(fā)展,在全社會范圍內(nèi)獲得了快速的普及和應(yīng)用,新聞業(yè)也不例外。在媒介融合的背景下,人工智能技術(shù)已滲入到新聞生產(chǎn)的各環(huán)節(jié)中。盡管媒介融合提倡的是傳統(tǒng)媒體與新媒體的融合,但新聞業(yè)應(yīng)用人工智能技術(shù)后的社會效果仍然顯現(xiàn)出兩種不同的效果。這一方面與傳統(tǒng)媒體與新媒體的媒介屬性有關(guān),在另一方面也更加將技術(shù)背后的社會意識形態(tài)體現(xiàn)出來。因此,考察人工智能技術(shù)應(yīng)用于新聞業(yè)后的社會價(jià)值更應(yīng)該采取辯證思維,更應(yīng)看到傳統(tǒng)媒體和新媒體對該技術(shù)應(yīng)用的不同之處。
新聞生產(chǎn)是新聞業(yè)的初始環(huán)節(jié)。傳統(tǒng)媒體和新媒體的最大不同之處就在于傳統(tǒng)媒體擁有新聞采編權(quán),可以采集一手新聞素材,而新媒體,如今日頭條、騰訊新聞等新聞聚合類平臺,則無法通過采集新聞素材來保證內(nèi)容增量,在多數(shù)情況下,它們依靠用戶發(fā)布的內(nèi)容來維持平臺的內(nèi)容再生產(chǎn)。
對于傳統(tǒng)媒體來說,一方面,社交機(jī)器人的應(yīng)用在很大程度上幫助新聞生產(chǎn)達(dá)到了更好的社會效果,是媒介融合下的有效產(chǎn)物。如當(dāng)?shù)卣?、火?zāi)等大型突發(fā)事件發(fā)生時(shí),傳感器、無人機(jī)、自然語言處理等可以深入到人類所不能抵達(dá)的現(xiàn)場進(jìn)行報(bào)道。該類傳感器新聞(Sensor Journalism)的出現(xiàn)極大地拓寬了新聞采集的邊界,最大程度上發(fā)揮了新聞采編權(quán)的效果。在此類新聞中,新聞源不再是普通的個體、群體或機(jī)構(gòu)組織,傳感器作為信息采集工具,成為新聞工作者的感官延伸,賦予了報(bào)道更多的可能性。另一方面,傳感器新聞是跨界復(fù)合的產(chǎn)物[13],不僅需要新聞從業(yè)者進(jìn)行維護(hù),更需要統(tǒng)計(jì)師、數(shù)據(jù)分析師、技術(shù)工程師、交互設(shè)計(jì)師等多方人員的共同努力。除此之外,中國地震臺網(wǎng)的地震信息播報(bào)機(jī)器人也是社交機(jī)器人應(yīng)用于新聞業(yè)的成功案例。地震這一大型自然災(zāi)害,因其發(fā)生時(shí)間快、波及范圍廣等特點(diǎn),對新聞報(bào)道的時(shí)效性提出了更高的要求。中國地震臺網(wǎng)的社交媒體賬號已應(yīng)用社交機(jī)器人進(jìn)行地震速報(bào)多年,其時(shí)效性和準(zhǔn)確度一直為提高應(yīng)急報(bào)道機(jī)制助力。
對于新媒體來說,社交機(jī)器人產(chǎn)生的大量信息冗余對互聯(lián)網(wǎng)生態(tài)造成了一定程度的干擾。尤其是在重要的政治事件中,社交機(jī)器人通過短時(shí)間內(nèi)的大量復(fù)制、自我轉(zhuǎn)發(fā)促使難辨真假的信息大量傳播,混淆了視聽。已有大量研究表明,2012年特朗普在美國大選中當(dāng)選與社交機(jī)器人的推動有直接相關(guān)性[14]。社交機(jī)器人采用自動化的新聞生產(chǎn)方式只需進(jìn)行特定的程序輸入,不僅可以批量產(chǎn)生賬號、模仿普通用戶的媒介使用行為,而且可以通過輸入文本和圖片自動生產(chǎn)視頻。這樣低成本的信息生產(chǎn)方式,使得社交機(jī)器人充斥在國內(nèi)的新聞聚合類平臺上。這對于依靠用戶內(nèi)容生產(chǎn)的新聞聚合類平臺來說,很難分辨社交機(jī)器人與真實(shí)用戶,因而導(dǎo)致了虛假內(nèi)容在平臺上肆意快速傳播。正是通過與人類進(jìn)行媒介互動,社交機(jī)器人得以成功融入社交網(wǎng)絡(luò),其在Facebook上的滲透率已經(jīng)高達(dá)80%,模糊了平臺上人與非人之間的界限[15]。
新聞審核是保證新聞質(zhì)量的重要一步。傳統(tǒng)媒體的新聞審核往往進(jìn)行事前審查,在發(fā)出時(shí)已經(jīng)可以對新聞的質(zhì)量作出保證,而新聞聚合類平臺往往因?yàn)榛鶖?shù)大、信息量大而采取事后審查的方式。然而在新舊媒體融合已成趨勢的今天,在社交機(jī)器人的影響下,傳統(tǒng)媒體和新媒體卻在新聞審核上呈現(xiàn)出完全不同的趨勢。
對于新媒體來說,社交機(jī)器人很難在既有的審核體系中進(jìn)行準(zhǔn)確定位。它以普通用戶的形態(tài)出現(xiàn)在平臺中,看似從事著與人類相近的媒介行為,實(shí)際上卻是由特定的程序操控。這樣一種介于人與非人之間的定位,使得社交機(jī)器人在面對新聞審核時(shí)具有天然的規(guī)避傾向。在新聞審核時(shí),雖然可以把社交機(jī)器人當(dāng)作普通賬號進(jìn)行審核,甚至對相關(guān)違禁賬號進(jìn)行限流、封查或禁用,但是卻無法對操縱程序背后的政治目的與意識形態(tài)進(jìn)行審查。為了應(yīng)對該問題,近年來國內(nèi)外多位學(xué)者提出要區(qū)分謬訊(disinformation)和誤訊(misinformation)。前者是指因?yàn)樾畔⒑瞬榈臏笮远鴮?dǎo)致的流言,其往往不具有特殊的傳播目的;后者則是后真相時(shí)代,因?yàn)樘囟ǖ恼文康亩幙椀膸в袃A向性的信息,以服務(wù)于互聯(lián)網(wǎng)輿論戰(zhàn)。但是如何在審核中區(qū)分意識形態(tài)與極端情緒,仍然是全球平臺治理共同面對的難題。
對于傳統(tǒng)媒體來說,由主流媒體主導(dǎo)的事實(shí)核查在本質(zhì)上仍然是新聞專業(yè)主義的延續(xù),是一直恪守新聞客觀性的嚴(yán)肅媒體在社交媒體時(shí)代的嘗試[16]。其事前審查機(jī)制不僅保證了新聞內(nèi)容的質(zhì)量,更保證了新聞內(nèi)容的導(dǎo)向。但是在社交媒體時(shí)代,人人都有麥克風(fēng),人們輕而易舉地便可在平臺上發(fā)布對內(nèi)容的質(zhì)疑和新聞的質(zhì)問。在兩極分化的輿論場中,自上而下與自下而上往往加大了事實(shí)核查的難度,也在無形中加劇了對主流媒體的不信任[17]。由事前審查保證的新聞輿論場與事后審查的平臺輿論場出現(xiàn)了撕裂,新聞審查急需以一種新的形式展開,以回應(yīng)媒體面臨的社會信任危機(jī)。
新聞分發(fā)是新聞傳播的最后一公里。社交媒體時(shí)代,算法、平臺、用戶已經(jīng)成為新聞分發(fā)的重要“把關(guān)人”。值得注意的是,社交機(jī)器人以普通用戶的身份依靠算法在平臺上運(yùn)轉(zhuǎn),已經(jīng)體現(xiàn)了社交機(jī)器人在新聞分發(fā)中不可忽視的地位。由于社交機(jī)器人基數(shù)大、媒介互動便捷的特征,已經(jīng)在多個重大社會事件中扮演了重要的角色。有研究發(fā)現(xiàn)埃爾南德斯總統(tǒng)在Facebook上的帖子出現(xiàn)了異乎尋常的點(diǎn)贊行為,從2018年6月到7月,他收獲的59 100個贊中,78%都不是來自于真人。類似的事情仍然大量發(fā)生在美國大選、俄烏戰(zhàn)爭中。如自俄烏戰(zhàn)爭2022年2月24日爆發(fā)以來,“今日頭條”等新聞聚合類平臺上就涌現(xiàn)出了大量社交機(jī)器人,它們的名字往往由簡單的鍵盤亂碼加上數(shù)字編號組成,發(fā)布的信息都為簡單配圖和機(jī)械音播報(bào)的文字稿,文字多為戰(zhàn)況播報(bào)、鼓吹俄軍戰(zhàn)況和編造“大魚”的虛假信息等內(nèi)容。這些社交機(jī)器人的大量涌現(xiàn)使平臺充斥著真假難辨的信息,極易引起民族主義情緒,而且還為互聯(lián)網(wǎng)審核人員增加了額外的負(fù)擔(dān)。社交機(jī)器人的存在一方面提高了平臺的信息增量,但在另一方面,當(dāng)大量的信息開始由程序操縱流轉(zhuǎn)時(shí),一個特定的信息繭房就在無形中被創(chuàng)造了出來。它干擾了普通用戶的正常判斷,將互聯(lián)網(wǎng)的高贊、高轉(zhuǎn)內(nèi)容誤認(rèn)為是有價(jià)值的信息,同時(shí)造成了對真正值得關(guān)注的新聞的忽視。
通過以上對社交機(jī)器人在新聞業(yè)的使用狀況及其效果的闡述,會發(fā)現(xiàn)社交機(jī)器人的應(yīng)用效果并不能用單一的“好與壞”“利與弊”來評判,而是受到多種因素的影響。在新聞生產(chǎn)環(huán)節(jié),可能會受到使用主體,也就是媒體的用途影響;在新聞審核環(huán)節(jié),往往與具體技術(shù)的善與惡無關(guān),而與操縱技術(shù)、編寫代碼的目的有關(guān);在新聞分發(fā)環(huán)節(jié),平臺、用戶和算法構(gòu)成了社交機(jī)器人應(yīng)用的3個重要支點(diǎn)?;蛟S,社交機(jī)器人作為一項(xiàng)技術(shù),只是一種媒介工具,真正對其應(yīng)用后的社會效果負(fù)責(zé)的是背后的人,而人類常常會面臨復(fù)雜的道德倫理困境[18]。我們需要更新既有的認(rèn)知框架來回應(yīng)這種復(fù)雜的倫理困境。
沃德和沃斯曼曾經(jīng)區(qū)分了“封閉倫理”和“開放倫理”(Open Ethics)這對概念,主要區(qū)分了如何運(yùn)用、分析和批判性地使用倫理規(guī)則和使用的人群[19]。封閉倫理常常被應(yīng)用于較少的人群,并劃清了可進(jìn)行討論范圍的邊界和人群參與者;開放倫理則容納進(jìn)了更多元的利益攸關(guān)方參與到討論之中,也并未設(shè)置過多的實(shí)質(zhì)性限制。在人工智能技術(shù)將人與非人行動者都納入到媒介網(wǎng)絡(luò)運(yùn)行規(guī)則的狀況下,推動封閉倫理走向開放倫理,不僅關(guān)注人在其中的倫理行為,更需要關(guān)注非人行動者在其中的倫理行為。具體而言,對于社交機(jī)器人的倫理探討需要在人與非人的互動下進(jìn)行探討,不僅需要關(guān)注技術(shù)變革對其產(chǎn)生的促進(jìn)作用,更需要看到技術(shù)作為一種工具如何執(zhí)行了人的意志。
技術(shù)中立性常常作為技術(shù)作惡的托詞,技術(shù)服務(wù)的社會建構(gòu)則與技術(shù)所代表的個人、組織、機(jī)構(gòu)密切相關(guān),但技術(shù)絕非任何社會問題的替罪羊。面對社交機(jī)器人應(yīng)用于新聞業(yè)產(chǎn)生的種種問題,我們需要從工具理性走向價(jià)值理性,關(guān)注平臺在其中的社會治理作用,并提倡平臺承擔(dān)更多的社會責(zé)任。如由于2016年社交機(jī)器人曾嚴(yán)重影響了美國大選,2020年再次進(jìn)行美國大選時(shí),硅谷的互聯(lián)網(wǎng)巨頭則出臺了一系列的措施應(yīng)對可能出現(xiàn)的虛假信息。如Twitter在含有不實(shí)消息的推文中加上了藍(lán)色的感嘆號,以提醒瀏覽到的人這是未經(jīng)證實(shí)的消息等。就國內(nèi)而言,今日頭條的產(chǎn)品定位也從“你關(guān)心的才是頭條”,變成“信息創(chuàng)造價(jià)值”再到“看見更大的世界”,這代表我國受眾范圍最廣的新聞聚合類平臺開始從關(guān)注用戶個人的需求轉(zhuǎn)向到如何提升內(nèi)容質(zhì)量來幫助個人擴(kuò)展視野的發(fā)展方向。當(dāng)然,全球平臺的互聯(lián)網(wǎng)治理是世界各國共同面對的難題,現(xiàn)在還只是剛剛開始,未來還有很長的路要走。
在人工智能技術(shù)已經(jīng)具有重構(gòu)社會力量的今天,如果僅僅討論技術(shù)的影響就會“只見樹木不見樹林”。技術(shù)的應(yīng)用不是一個單純意義上的物質(zhì)轉(zhuǎn)化、能量傳遞、信息傳遞的物理過程,更體現(xiàn)了其深刻的社會化內(nèi)涵,并帶來了技術(shù)的社會化[20]。在倫理學(xué)的層面上探討技術(shù)哲學(xué),為在社交機(jī)器人已經(jīng)與真人真假難辨的今天提供了新的視角。
人類所發(fā)明的技術(shù)并非天生存在善惡價(jià)值觀,技術(shù)的工具性也并非人類倫理的對立面,對社交機(jī)器人技術(shù)哲學(xué)的探討可以跳出狹隘的工具理性思維,并且破除人與非人之間的界限,將人類與社交機(jī)器人同時(shí)看作媒介網(wǎng)絡(luò)中的行動者,從而平衡人機(jī)關(guān)系之間的矛盾。
盡管社交機(jī)器人在新聞業(yè)中的應(yīng)用產(chǎn)生了一體兩面的社會效果,但是人工智能技術(shù)對人類而言,不一定處于人類倫理的對立面,也可以不必是利益最大化和資本逐利的工具。它也可以擁有人類對尊嚴(yán)、價(jià)值的尊重和思考,可以傳遞善良、正義、誠實(shí)、守信的人性之光。在人類與非人的博弈中,人類始終要記得自己的主體責(zé)任,是人有目的地使用技術(shù)作為工具導(dǎo)致了技術(shù)應(yīng)用后完全不同的社會效果,而不是技術(shù)本身存在善惡。因此,人類首先需要端正心態(tài)、揚(yáng)善除惡,建設(shè)和維護(hù)技術(shù)倫理的價(jià)值體系。