周葆華 江丹婷

【內容摘要】本文運用計算傳播研究方法，基于推特（X）上與中國相關的新冠疫情的英文討論，分析社交機器人的規(guī)模與特征。研究共包括947559個賬戶、2040036條推文。經(jīng)采用更保守但更準確的TweetBotOrNot2檢測賬號并結合人工校驗后發(fā)現(xiàn)，社交機器人賬號數(shù)占比9.3%，發(fā)布推文數(shù)占比13.4%。社交機器人注冊時間在近期的比例顯著高于人類用戶，其主動型社交特征（如發(fā)帖量、關注數(shù)、點贊數(shù)）顯著高于人類用戶，而被動型社交特征（如粉絲數(shù)）則顯著低于人類用戶。在發(fā)帖行為上，社交機器人賬號會大量發(fā)布重復內容，包含更高比例的負面標簽，更多引用低可信度的超鏈接。在此分析基礎上，本文強調了運用多元方法研究社交機器人的重要性。

【關鍵詞】國際傳播；社交機器人；涉華輿論；計算傳播

社交媒體是國際傳播的重要平臺，因此了解社交平臺上的多元行動者非常重要。①作為人工智能時代國際傳播的重要表征，社交機器人（social bots）已經(jīng)成為社交平臺上除了人類用戶之外不可忽視的行動者，因此實證分析其分布規(guī)模與行動特征具有重要意義。在過往針對社交機器人的計算傳播分析中，比較多地運用Botmeter識別和確定機器賬號，本研究運用另一種TweetBotOrNot2算法工具，選擇海外最大的社交平臺之一的推特（Twitter，現(xiàn)名X），識別并分析其中參與疫情涉華輿論英文討論的社交機器人賬號，以期豐富該領域的實證研究。

一、文獻綜述與研究問題

（一）社交機器人的界定與分類

隨著人工智能（AI）的發(fā)展，機器人技術開始被廣泛應用于社交媒體。早在2009年，一份來自Sysomos咨詢公司的報告就指出，在推特上大約有24%的推文由社交機器人產(chǎn)生。2012年臉書（Facebook）也曾公開宣稱社交機器人占其所有賬號的8.7%。②2017年的另一項研究指出，推特上所有英文活躍用戶中，9%—15%表現(xiàn)出類似機器人的行為。③由此可見，社交機器人已經(jīng)成為社交媒體的有機組成部分，社交媒體生態(tài)呈現(xiàn)出人類與機器人共生的新格局。

關于社交機器人的定義：有的側重技術特征，如認為社交機器人就是自動化軟件代理④；有的強調社交互動，指出模仿人類行為、生產(chǎn)內容，并與真人用戶互動是社交機器人的關鍵特征⑤；社會科學研究則更多指涉機器人的社會與政治意涵，如將社交機器人聚焦于“政治機器人”，強調社交機器人模仿人類用戶行為并試圖操縱公眾觀點，具有政治議程。⑥

Morstatter等將廣義的社交機器人從人機關系角度分為兩類：第一類是為人類用戶提供服務的功能性機器人，如氣象預報機器人、聊天機器人（如微軟小冰）等；第二類則是受人類特定目的驅使工作的機器人，如政治性社交機器人、社交媒體中的機器“水軍”等。⑦在此基礎上，Stieglitz等從“意圖是否友好”與“模仿人的行為程度”兩個維度，構建了一個社交機器人的六分類系統(tǒng)（表1）。⑧

因此，本研究所關注的社交機器人是社交媒體上高度模仿人類（行為）的（半）自動化的計算機程序，它們通過發(fā)布內容參與公共議題討論，成為影響輿論的重要行動者。

（二）社交機器人的輿論角色與涉華輿論中的社交機器人

政治議題相關的輿論場是社交機器人展開行動的主要領域之一，其操縱者通常使用自動化算法注冊大量社交媒體賬號并對其進行運營，通過與盡可能多的目標用戶建立聯(lián)絡傳播特定內容并試圖影響輿論走向。過往研究重點關注西方國家政治選舉中的社交機器人。如2016年的美國選舉中，被認為存在大量的政治機器人，削弱了傳統(tǒng)主體（媒體精英與專家）的影響，干擾真實人類用戶間的政治溝通。⑨另有研究分析了2017年德國七個政黨在競選期間的社交機器人，發(fā)現(xiàn)社交機器人的比例在競選期間有明顯上升，從之前的7.1%上升到9.9%。⑩另一項對日本首相選舉前后推特文章的分析也發(fā)現(xiàn)，存在大量由機器人發(fā)布或轉發(fā)的重復信息內容，而安倍之所以勝出，也得益于強大的機器人支持。在其他重大社會政治議題的討論中，研究發(fā)現(xiàn)，在英國脫歐公投前的兩周里，機器人推特賬戶在脫歐相關議題辯論中極為活躍，而在投票后活躍度急速下降。

隨著中國的快速發(fā)展和國際影響力與日俱增，海外社交媒體上關于中國議題的機器人開始引起學界的關注。有研究曾對比分析中國新浪微博和推特中有關中國政治的發(fā)帖及其評論，發(fā)現(xiàn)與微博不同，在推特中存在社交機器人操縱輿論的痕跡，并且這些機器人賬號大多以簡體中文發(fā)布反華內容。有學者通過在海外媒體上常被用于指代中國及中國政府的8個標簽作為檢索關鍵詞，在推特上獲取了為期9天的35萬多條推文，發(fā)現(xiàn)其中超過20%的推文由疑似社交機器人的用戶產(chǎn)生。另一項針對中美貿易戰(zhàn)的輿論研究，基于2019年5月推特上關于該議題的21萬多條推文，發(fā)現(xiàn)其中社交機器人占比13%，發(fā)帖占比接近20%。

（三）社交機器人的規(guī)模與特征

1.社交媒體上社交機器人的規(guī)模

表2總結了近年來部分基于推特平臺進行的涉華輿論中的社交機器人的研究發(fā)現(xiàn)。

由此可見，目前推特涉華輿論機器人的實證研究主要以短時間內的數(shù)據(jù)采集為主，均使用Botometer檢測方法，所發(fā)現(xiàn)的社交機器人用戶規(guī)模比例為12.92%—19.47%，發(fā)帖規(guī)模比例為17.04%—28.69%。總的來看，目前對涉華輿論機器人的實證研究數(shù)量還不多，另外可以嘗試使用其他的社交機器人識別方法，以及探索更長的時段分析等。

基于此，本文提出第一組研究問題：

RQ1a：推特新冠疫情涉華議題討論中社交機器人賬戶以及推文的總體規(guī)模（比例）如何？

RQ1b：推特新冠疫情涉華輿論中的機器人在時間序列上具有怎樣的分布特征？

2.社交機器人的基本特征

社交媒體賬戶在網(wǎng)絡中公開的賬戶信息主要包括個人資料（昵稱、頭像、注冊時間、性別、簡介等）以及社交影響力（關注數(shù)、粉絲數(shù)、發(fā)帖量、閱讀數(shù)以及互動數(shù)等）。研究發(fā)現(xiàn)，大多數(shù)社交機器人的用戶名有自動化生成的痕跡，用戶頭像或為空，或可以在網(wǎng)絡數(shù)據(jù)集中找到。在敘利亞戰(zhàn)爭討論中，大多數(shù)社交機器人均采用推特系統(tǒng)默認的頭像——蛋殼圖案。社交機器人賬戶與正常人類賬戶在社交關系部分也具有明顯區(qū)別。如關于2018年法國大選前夕“馬克龍泄密”事件中的社交機器人研究發(fā)現(xiàn)，社交機器人賬戶的關注數(shù)（Friends）、粉絲數(shù)（Follower）、發(fā)推量（Tweets）、點贊數(shù)（Favorite）、所屬用戶群組數(shù)（listed）都低于人類用戶。這一點在針對推特中參與中美貿易談判議題的社交機器人研究中也得到證實，粉絲數(shù)量在100及以下的社交機器人賬號數(shù)量明顯多于人類用戶，而當粉絲數(shù)量高于5000后，社交機器人賬號數(shù)量則明顯少于人類用戶。

因此，本文提出第二個研究問題：

RQ2：推特新冠疫情涉華議題討論中的社交機器人的基本賬戶特征（昵稱、簡介、注冊時間和地域分布）以及社交影響力特征（粉絲數(shù)、關注數(shù)、點贊數(shù)、被加入列表數(shù)、創(chuàng)立以來發(fā)帖數(shù)）分別如何？

有研究證明，執(zhí)行同一任務的社交機器人通常在文本內容上會表現(xiàn)出一定的一致性。這在關于英國脫歐公投和日本大選中的社交機器人的活動研究中得到了證實，社交機器人主要通過大量轉發(fā)或直接復制與其任務觀點相同的人類用戶的文本內容達到放大擴散某種觀點的目的。機器人在推文中使用的標簽數(shù)、鏈接數(shù)、標點符號數(shù)等，也都與正常人類用戶存在一定差異。其發(fā)出信息時會采用提及（@）知名用戶的形式，以使其發(fā)布的信息具有更大的可見度。在推特上共享鏈接時，自動賬戶比人類用戶多產(chǎn)。

因此，本文提出第三個研究問題：

RQ3：推特新冠疫情涉華議題討論中的社交機器人的發(fā)帖文本是否具有重復性？發(fā)帖內容中@、話題標簽（##）、鏈接的使用情況如何？

二、研究方法

（一）數(shù)據(jù)采集與清洗

本文使用的新冠疫情（COVID-19）相關的推特數(shù)據(jù)集是基于Lopez等通過跟蹤與COVID-19相關的關鍵字以及綜合Chen等人的數(shù)據(jù)集構成（對兩個數(shù)據(jù)集進行了去重匹配）。基于數(shù)據(jù)集給出的Tweet ID，本研究使用Twitter API獲取了其中2020年1月22日至6月30日發(fā)布的英文推文，在10%隨機抽樣的前提下，使用一組與中國相關的關鍵詞（包括China，Chinese，CCP，以及全部省份、武漢、雷神山、火神山等的英文詞）對其進行過濾，在刪掉重復推文后，共發(fā)現(xiàn)947559個獨立用戶（不含被轉發(fā)、回復、引用、提及的賬戶）的2040036條推文在新冠疫情相關討論中提及中國。由此可見，本研究所基于的數(shù)據(jù)集包含相對較長的時間段和較大的數(shù)據(jù)量。

（二）社交機器人檢測：基于TweetBotOrNot2

社交機器人檢測方面最具代表性的是基于有監(jiān)督的機器學習識別方法。它通過對具有概念標記的訓練樣本進行學習建立一個基于預測特征（通常包括機器人內容與行為特征）的分類模型，然后通過給定預測特征的值，使用分類模型為未標記的數(shù)據(jù)預測類標簽。在這類方法中，目前存在多種不同的開源工具，如基于python開發(fā)的Botmeter和基于R語言開發(fā)的TweetBotOrNot2，它們均是基于有監(jiān)督機器學習方法，綜合網(wǎng)絡、時間、朋友、內容等多個維度來進行分析。只要待檢測賬號未開啟隱私權限，并且有足夠多的信息供分析，它們便會依據(jù)賬號的公開推文內容和賬號信息，計算出一個介于0到1之間的數(shù)值，該值越接近0則有越大概率表明該賬號是人類用戶賬號，若該值越接近1則有越大的概率表明該賬號是社交機器人賬號。

如前所述，目前不少關于推特涉華輿論的分析中均使用Botmeter作為社交機器人檢測方法。但依據(jù)開發(fā)者基于一些公開數(shù)據(jù)集上進行的測試，TweetBotOrNot2相比于Botmeter具有更高的準確性（圖1）。其他研究者也指出TweetBotOrNot2相比于Botmeter是一個更保守的機器人檢測工具，傾向于只標記真正自動化的機器人賬戶，而不包括其他由人類控制的“噴子”用戶或混合賬戶等，因此往往發(fā)現(xiàn)更準確但數(shù)量更少的機器人賬戶。

為了更好地探究兩類工具的效果，本研究使用部分知名媒體與公眾人物賬戶以及已知為真人的親友賬戶（共28個），對比分析了Botmeter和TweetBotOrNot2的檢測結果（表3）。結果發(fā)現(xiàn)Botmeter的確會將較多的人類賬戶判定為機器人賬戶（即便以0.5為標準），而TweetBotOrNot2對這些人類用戶的判斷相對更準確。

基于上述分析，本文選擇TweetBotOrNot2作為機器人檢測工具，同時加入人工校驗的部分，將具有身份認證的賬戶從社交機器人集合中移動到人類用戶集合。最終，在數(shù)據(jù)集涉及的全部947559個獨立賬戶中檢測出社交機器人賬號88353個。筆者從中抽取了60個賬號進行人工校驗，發(fā)現(xiàn)其中一部分賬號已經(jīng)被平臺封禁，剩余賬號的發(fā)帖行為也的確具有一定自動化痕跡（僅活躍了很短的時間或發(fā)帖內容具有高重復性）。

三、研究發(fā)現(xiàn)

（一）社交機器人規(guī)模

1.社交機器人賬號及發(fā)帖數(shù)量分析

本文使用TweetBotOrNot2檢測所有賬號后，以0.5作為閾值劃分社交機器人賬號與人類賬戶，并且依據(jù)賬號是否通過認證的修正檢測結果后，顯示947559個獨立賬號中社交機器人賬號有88353個，占比為9.3%。

接著對推文數(shù)量進行統(tǒng)計分析，發(fā)現(xiàn)這些機器人賬號一共生產(chǎn)了273437條推文，占總推文數(shù)量的13.4%。每個社交機器人賬號平均生產(chǎn)3條涉華推文，人類用戶平均產(chǎn)生2條涉華推文；發(fā)布3條及以上推文數(shù)量的社交機器人賬號占比25.5%，而人類用戶不到15%。

由此可見：推特新冠疫情的涉華輿論中，存在社交機器人的活躍身影，占全部用戶9.3%的社交機器人發(fā)布了占比13.4%的推文。與之前的推特涉華輿論研究相比，可能由于采取更為保守和準確的檢測方法，本研究發(fā)現(xiàn)了稍低一些的社交機器人和發(fā)帖量比例。

2.社交機器人發(fā)布推文的時間序列

從社交機器人與人類用戶發(fā)帖的時間序列上來看，輿論高峰發(fā)生在1月下旬、2月中上旬、3月中上旬及5月中旬，兩者最高峰均出現(xiàn)在2020年1月31日，時間序列間存在強相關性（Spearman相關系數(shù)=0.840，p<.001）。大多數(shù)時候，社交機器人發(fā)帖高峰出現(xiàn)時間會略晚于人類用戶；也有部分時間段，社交機器人峰值出現(xiàn)時間早于人類用戶，如3月12日前后的小峰值，以及5月連續(xù)出現(xiàn)幾次峰值。由此推測，新冠疫情涉華議題的相關討論中，社交機器人可能通常選擇緊跟人類用戶進行發(fā)帖，當人類用戶討論達到一定程度后開始加入，起到一種放大信息、擴大輿論的作用；但在特定情境下，也試圖預先發(fā)帖，影響人類用戶的發(fā)帖行為。

（二）社交機器人的賬號特征

1.社交機器人的基本賬號特征

（1）賬號昵稱

本研究發(fā)現(xiàn)社交機器人的賬號昵稱存在一定的自動化生成痕跡。較為明顯的一個例子是，在人類用戶數(shù)（N=859206）與機器人用戶數(shù)（N=88353）存在10倍數(shù)量差的情況下，社交機器人群體中大量賬號（295個）昵稱中含有“Trump”，而在人類群體中僅有28個賬號含有“Trump”。

（2）賬號描述

本研究發(fā)現(xiàn)社交機器人描述文本長度均值高于人類用戶，且描述極長的賬戶和描述極短的賬戶分布較為均勻，而人類用戶則更多偏向于短文本描述。獨立樣本K-S檢驗（因樣本不服從正態(tài)分布）發(fā)現(xiàn)（表4），社交機器人和人類用戶的描述文本長度特征分布上存在顯著差異（p<0.001）。

（3）地域分布

本研究發(fā)現(xiàn)：無論社交機器人還是人類用戶，最多出現(xiàn)的注冊地區(qū)是美國，其次為印度、中國香港、英國、加拿大等。不過，在社交機器人群體內，其注冊地域在美國具體地區(qū)的排名高于印度、中國香港等地。這可能是社交機器人偽裝自己的一種手段，更詳細的注冊地址能使其包裝得更類似一個人類用戶以躲避平臺的查封。

（4）注冊時間

研究發(fā)現(xiàn)：近9%的社交機器人賬號注冊時長不超過6個月，也就是正值議題發(fā)生前后創(chuàng)建，且注冊時長在6—12個月區(qū)間的機器人用戶也有將近9%，社交機器人注冊時長近一半分布在48個月以內（占比49.9%），平均注冊時長為58個月。而人類用戶中注冊時長在48個月以內的比例僅為33.9%，平均注冊時長為69個月。獨立樣本K-S檢驗發(fā)現(xiàn)兩群體間該屬性存在明顯差異（p<0.001）。由此推測，社交機器人賬號可能因特定議題而被特意注冊。

2.社交機器人的社交影響力特征

（1）社交機器人與人類用戶社交影響力特征分布比較

本文從5個維度對比分析社交機器人與人類用戶賬號的社交影響力特征：發(fā)推總數(shù)、粉絲數(shù)、關注數(shù)、點贊數(shù)、所屬的公開用戶組個數(shù)。結果顯示（表6）：社交機器人群體的主動型社交特征如發(fā)帖總量、關注數(shù)、點贊數(shù)顯著高于人類用戶，而被動型社交特征如粉絲數(shù)以及所屬的公開用戶組個數(shù)則明顯小于人類用戶。

（2）社交機器人與人類用戶社交影響力特征的相關性分析

圖2使用熱力圖形式展示了5種屬性之間的斯皮爾曼相關系數(shù)。對比兩張圖可以發(fā)現(xiàn)：無論人類用戶還是社交機器人用戶，最強的相關性均出現(xiàn)在粉絲數(shù)以及關注數(shù)之間（斯皮爾曼ρ機=0.80，ρ人=0.74），不過在社交機器人群體中，這種關聯(lián)性表現(xiàn)得更明顯一些，這從側面說明社交機器人相比人類用戶可能會通過大量關注其他用戶來增強自身被人類用戶關注的可能性。雖然兩類用戶間所有相關性均成正向關系，但社交機器人群體間的相關性大都略高于人類群體，如點贊數(shù)與關注數(shù)（ρ機=0.55，ρ人=0.47）、所屬公開群組數(shù)和關注數(shù)（ρ機=0.48，ρ人=0.36）以及粉絲數(shù)和群組數(shù)（ρ機=0.67，ρ人=0.56）、發(fā)帖數(shù)和群組數(shù)（ρ機=0.54，ρ人=0.51）等。說明社交機器人可能通過大量發(fā)推、點贊、關注的主動社交行為，來提升自己被其他用戶關注或加入用戶群組的可能性，從而增強展示在人類用戶面前的機會。

（三）社交機器人的推文發(fā)布特征

1.社交機器人的發(fā)帖重復性

社交機器人會通過復制相似甚至完全相同的內容達到增強某一言論的作用。本研究發(fā)現(xiàn)其主要表現(xiàn)包括兩種方式。

第一，同一社交機器人賬號發(fā)布多條相似內容。例如，viriya（@viriyabot）是本議題中發(fā)推量最大的社交機器人賬號，一共發(fā)布了4488條推文，其會在不同時間段發(fā)布內容極為相似的推文，有時可能只是語法的變化或者同義單詞的替換，比如“American Airlines has also suspended all flights to and from mainland China， effective immediately”和“American Airlines will suspend all U. S. -China flights effective immediately”。甚至文本一模一樣，僅是分享的鏈接不同，而這些鏈接都指向同一網(wǎng)站的同一篇新聞報道。我們進一步使用每條推文的前10個單詞進行匹配，如果兩條推文開頭連續(xù)10個單詞內容一致，則將其視為相似內容，以此對4488條推文進行操作后，推文量減少235條（占比5.23%）。發(fā)帖量排名第二的社交機器人賬號POST Online Media（@poandpo）更為明顯：采用前10個單詞匹配的方法對其發(fā)布的636條推文進行操作，發(fā)現(xiàn)推文量減少400條（占比62.9%）。

第二，不同社交機器人賬號發(fā)布相似內容。在社交機器人用戶中，不同賬號在短時間間隔中發(fā)布大量內容相似甚至完全一致的情況也很常見。社交機器人共發(fā)帖273437條，以前10個單詞進行匹配去重后，發(fā)帖量僅為139571條，損失率高達57.3%。比如2020年5月20日12：35—12：36短短一分鐘內，28個不同的社交機器人賬號發(fā)布了一條一模一樣的內容。

2.社交機器人發(fā)布推文中特殊字符使用策略

（1）特殊字符使用頻次比較

表7報告了社交機器人賬號與人類用戶使用標簽、提及、超鏈接的頻次分布對比，發(fā)現(xiàn)機器人用戶相比人類用戶更少提及（@），或者使用標題標簽（##），但會更多使用超鏈接。

（2）特殊字符指向內容比較

社交機器人賬號和人類用戶均會采用新聞類話題標簽快速傳遞信息，對比兩者使用頻率最高的前20個話題標簽，發(fā)現(xiàn)大多數(shù)是與“新冠病毒”相關的標簽，如#coronavirus、#COVID19、#CoronavirusOutbreak、#WuhanCoronavirus等。但可以發(fā)現(xiàn)帶有“中國病毒”“武漢病毒”含義的標簽在社交機器人群體使用頻次排名前20中出現(xiàn)了4次（分別為第7、12、14、16名），而在人類群體中只出現(xiàn)了3次（分別為7、14、15名），且其對應百分比也均高于人類用戶，這說明其相比人類用戶會更高頻地使用此類負面標簽。

兩者均會采用通過@媒體或者熱點人物的方式擴大影響力，觀察社交機器人賬號與人類用戶提及用戶前20，社交機器人賬號會更多地提及熱點人物（如@realDonaldTrump、@JoeBiden）以擴大影響力。社交機器人@的前20個中有10個為熱點人物賬號，而人類用戶則是8個。

社交機器人賬號使用鏈接的來源可信度低且有部分內容與新冠疫情無關。我們對社交機器人賬號以及人類用戶使用頻次分別排名前20的鏈接進行了逐一搜索，發(fā)現(xiàn)社交機器人賬號使用頻次排名前20的鏈接中有5個其原帖已被刪除或發(fā)布賬號已被凍結，此外還有2個鏈接指向內容與新冠疫情無關。而人類用戶使用的鏈接中則未觀察到此現(xiàn)象。

四、小結與討論

本文對推特新冠疫情涉華輿論中的社交機器人進行計算傳播分析發(fā)現(xiàn)：第一，在社交機器人規(guī)模方面，用戶占比9.3%，發(fā)帖數(shù)量占比為13.4%。社交機器人的發(fā)文高峰大多時候晚于人類用戶，印證了社交機器人在輿論場中主要起放大信息、擴大輿論的目的。第二，社交機器人賬號的平均注冊時長明顯低于人類用戶，有部分可能是為了參與新冠話題討論而在短期內被特意注冊。社交機器人的賬號昵稱描述文本長度顯著長于人類用戶，相比人類用戶會帶有更加具體詳細的地域信息。第三，社交機器人的主動型社交特征（如發(fā)帖總量、關注數(shù)、點贊數(shù)）顯著高于人類用戶，而被動型社交特征（如粉絲數(shù)）明顯小于人類用戶。社交機器人的各類社交行為之間相比人類用戶存在更明顯的相關性。第四，社交機器人發(fā)送推文的重復率極高，一是不同機器人賬號會在非常接近的時間段發(fā)布內容相似甚至完全一致的推文，另一種則是同一賬號會在不同的時間發(fā)布內容完全一致或者相似的推文。相比人類用戶，社交機器人在發(fā)帖中包含負面標簽的比重比人類用戶更高，會更頻繁@熱點人物以擴大言論的可見性，更多引用低可信度的超鏈接。

本文在計算方法上采用新的識別方法并采取與人工校驗相結合的方式，所發(fā)現(xiàn)的社交機器人規(guī)模比例和特征表現(xiàn)可能更為準確，同時也說明社交機器人識別思路的復雜性與概率性（即任何檢測方法只是關于特定賬號“類人”或“類機”的概率分數(shù)，并非絕對）。因此，未來研究可在如下方面繼續(xù)深入：第一，超越過往高度集中的單一方法（如Botmeter工具），探索多元方法的運用；第二，超越“二元對立”的“識別結果”思路，根據(jù)計算方法的“識別概率”在特定情境中深度理解“（類）社交機器人”賬號的行動；第三，重視社交機器人發(fā)展的生態(tài)性與動態(tài)性，包括在大語言模型（LLM）影響下，社交機器人會如何更新和演化，值得更多經(jīng)驗考察。

參考文獻：

①喻國明：《學術視域下的新傳播、新趨勢與新思考》，《教育傳媒研究》2022年第3期。

②Wasserman，T.（2012，August2）. 83 million Facebook accounts are fake. http：//mashable.com/2012/08/02/fake-facebook-accounts/#_ daGF3AAxqqg.

③Varol， O.， Ferrara， E.， Davis， C.， Menczer， F.， & Flammini， A. （2017）. Online human-bot interactions： Detection， estimation， and characterization. Proceedings of the International AAAI Conference on Web and Social Media， 11（1）， 280-289.

④Geiger， R. S. （2016）. Bot-based collective blocklists in Twitter. Social Science Electronic Publishing， 19（5-6）， 787-803.

⑤Kollanyi， B. （2016）. Where do bots come from？ An analysis of bot codes shared on GitHub. International Journal of Communication， 10， 20. Woolley， S. C.， & Howard， P. N. （2016）. Social media， revolution， and the rise of the political bot. Routledge Handbook of Media， Conflict， and Security （pp. 282-292）. New York， NY： Routledge.

⑥Woolley， S. C. （2016）. Automating power： Social bot interference in global politics. First Monday， 21（4）. https：//doi.org/10.5210/fm.v21i4.6161.

⑦Morstatter， F.， Carley， K. M.， & Liu， H. （2015）. Bot detection in social media： networks， behavior， and evaluation. Asonam 2015. Paris， France， August 25-28， 2015.

⑧Stieglitz， S.， Brachten， F.， Ross， B.， & Jung， A. K. （2017）. Do social bots dream of electric sheep？ A categorisation of social media bot accounts. arXiv：1710.04044.

⑨Keller， T. R.， & Klinger， U. （2019）. Social bots in election campaigns： Theoretical， empirical， and methodological implications. Political Communication， 36（1）， 171-189. Howard， P. N.， Woolley， S.， Calo， R. （2018）. Algorithms， bots， and political communication in the US 2016 election. Journal of Information Technology & Politics， 15（7）， 1-13.

⑩Hagen， L.， Neely， S.， Keller， T. E.， Scharf， R.， & Vasquez， F. E. （2020）. Rise of the machines？ Examining the influence of social bots on a political discussion network. Social Science Computer Review. doi： 10.1177/0894439320908190.

Sch?fer， F.， Evert， S.， & Heinrich， P. （2017）. Japans 2014 general election： Political bots， right-wing internet activism， and Prime Minister Shinzō Abes Hidden Nationalist Agenda. Big data， 5（4）， 294-309.

Bastos， M.， & Mercea， D. （2018）. The public accountability of social platforms： Lessons from a study on bots and trolls in the Brexit campaign. Philosophical Transactions of the Royal Society A， 376（2128）： 20180003.

Bolsover， G.， & Howard， P. （2019）. Chinese computational propaganda： automation， algorithms and the manipulation of information about Chinese politics on Twitter and Weibo. Information， Communication & Society， 22（14）， 2063-2080.

師文、陳昌鳳，《分布與互動模式：社交機器人操縱Twitter上的中國議題研究》，《國際新聞界》2020年第5期。

張洪忠、趙蓓、石韋穎，《社交機器人在Twitter參與中美貿易談判議題的行為分析》，《新聞界》2020年第2期。

師文、陳昌鳳，《社交機器人在新聞擴散中的角色和行為模式研究》，《新聞與傳播研究》2020年第5期。

Subrahmanian， V. S.， Azaria， A.， Durst， S.， Kagan， V.， Galstyan， A.， Lerman， K.， & Menczer， F. （2016）. The DARPA Twitter bot challenge. Computer， 49（6）， 38-46.

Forelle， M.， Howard， P.， Monroy-Hernández， A.， & Savage， S. （2015）. Political bots and the manipulation of public opinion in Venezuela. arXiv：1507.07109.

Ferrara， E.， Varol， O.， Davis， C.， Menczer， F.， & Flammini， A. （2016）. The rise of social bots. Communications of the ACM， 59（7）， 96-104.

Wang Y.， Wu C.， Zheng K.， Wang X. （2018）. Social Bot Detection Using Tweets Similarity. In International conference on security and privacy in communication systems （pp. 63-78）. Cham： Springer.

Bastos M T， Mercea D. The Brexit botnet and user-generated hyperpartisan news. Social Science Computer Review， 2019， 37（1）： 38-54.

Dickerson， J. P.， Kagan， V.， & Subrahmanian， V. S. （2014）. Using sentiment to detect bots on twitter： Are humans more opinionated than bots？ Asonam 2014. IEEE， 620-627.

Shao， C.， Ciampaglia， G. L.， Varol， O.， Yang， K. C.， Flammini， A.， & Menczer， F. （2018）. The spread of low-credibility content by social bots. Nature Communications， 9（1）， 1-9.

Wojcik， S. （2018）. 5 things to know about bots on Twitter. https：//www.pewresearch.org/fact-tank/2018/04/09/5-things-to-know-about-bots-on-twitter.

Lopez， C. E.， & Gallemore， C. （2020）. An augmented multilingual Twitter dataset for studying the COVID-19 infodemic. https：//assets.researchsquare.com/files/rs-95721/v1_stamped.pdf ， 2020. Chen， E.， Lerman， K.， & Ferrara， E. （2020）. Covid-19： The first public coronavirus twitter dataset. arXiv：2003.07372.

Davis， C. A.， Varol， O.， Ferrara， E.， Flammini， A.， & Menczer， F. （2016）. Bot or not： A system to evaluate social bots. Proceedings of the 25th international conference companion on world wide web， 273-274.

Kearney， M. Tweet Bot Or Not 2. https：//tweetbotornot2.mikewk.com.

Graham， T.， Bruns， A.， Zhu， G.， & Campbell， R. （2020）. Like a virus： The coordinated spread of Coronavirus disinformation. https：//eprints.qut.edu.au/202960/1/P904_Like_a_virus_COVID19_disinformation_Web_.pdf.

（作者周葆華系復旦大學新聞學院教授、博士生導師；江丹婷系復旦大學新聞學院碩士研究生）

【責任編輯：謝敏】

*本文系國家社科基金人才項目“基于計算傳播的新媒體輿論過程研究”（項目編號：22VRC186）、復旦大學文科先導和創(chuàng)新團隊項目“面向媒介深度融合的智能媒體創(chuàng)新研究與應用”（項目編號：IDH3353070）的階段性成果。