賈焰，李愛平，李欲曉，李樹棟，田志宏，韓毅，時金橋，林彬

（1.中國人民解放軍國防科學(xué)技術(shù)大學(xué)計算機(jī)學(xué)院，長沙 410073；2.中國網(wǎng)絡(luò)空間研究院，北京 100010；3. 中國工程物理研究院計算機(jī)應(yīng)用研究所，四川綿陽 621900；4.中國科學(xué)院信息工程研究所，北京 100093）

國外網(wǎng)絡(luò)空間不良信息管理與趨勢

賈焰1，李愛平1，李欲曉2，李樹棟1，田志宏3，韓毅4，時金橋4，林彬1

（1.中國人民解放軍國防科學(xué)技術(shù)大學(xué)計算機(jī)學(xué)院，長沙 410073；2.中國網(wǎng)絡(luò)空間研究院，北京 100010；3. 中國工程物理研究院計算機(jī)應(yīng)用研究所，四川綿陽 621900；4.中國科學(xué)院信息工程研究所，北京 100093）

針對網(wǎng)絡(luò)空間內(nèi)容安全中各種不良信息（包括恐怖、謠言、詐騙、暴力、色情和顛覆等）的治理需求，本文綜述了國外網(wǎng)絡(luò)空間不良信息的管理情況。首先，對國外網(wǎng)絡(luò)空間不良信息進(jìn)行了定義和分類；其次，梳理了國外網(wǎng)絡(luò)空間不良信息監(jiān)管的法律法規(guī)，闡述了一些國家在立法中普遍采取的做法；再次，從網(wǎng)絡(luò)數(shù)據(jù)監(jiān)聽、網(wǎng)絡(luò)不良信息過濾與輿論對抗入手，著重介紹了世界主要國家對網(wǎng)絡(luò)不良信息的治理技術(shù)與手段；最后，總結(jié)了近年來全球范圍內(nèi)部分互聯(lián)網(wǎng)不良信息治理專項行動等。

網(wǎng)絡(luò)空間；不良信息；信息監(jiān)管；信息過濾；輿論對抗

DOI 10.15302/J-SSCAE-2016.06.019

一、前言

網(wǎng)絡(luò)空間不良信息的產(chǎn)生和傳播有著多重的因素。首先，世界各國對互聯(lián)網(wǎng)不良信息的認(rèn)識和監(jiān)管水平參差不齊，互聯(lián)網(wǎng)的無國界性、開放性、接入方式多樣化等特性讓不良信息泛濫、傳播迅速；其次，網(wǎng)民低齡化、網(wǎng)民素質(zhì)良莠不齊增大了產(chǎn)生和傳播不良信息的主體；最后，隨著物理世界（現(xiàn)實生活中的人類世界）不斷向網(wǎng)絡(luò)空間拓展，利用互聯(lián)網(wǎng)非法牟利、制造混亂等現(xiàn)象層出不窮，致使不良信息充斥著網(wǎng)絡(luò)空間。如何監(jiān)管控制網(wǎng)絡(luò)空間不良信息的產(chǎn)生和傳播，使之不會對國家和社會造成危害，成為世界各國面臨的重要課題。目前，各個國家對網(wǎng)絡(luò)不良信息的監(jiān)管基本上都采用了立法監(jiān)管、特別專項行動、運(yùn)用多種技術(shù)手段等綜合管理模式，取得了良好的效果。

二、不良信息的定義與分類

由于世界各國的國情和法律制度等不盡相同，因此在對互聯(lián)網(wǎng)不良信息的稱謂和定義上也存在差異，國際上也尚無統(tǒng)一的標(biāo)準(zhǔn)進(jìn)行界定。一些國家或國際組織使用“互聯(lián)網(wǎng)不良信息”“互聯(lián)網(wǎng)違法信息”“互聯(lián)網(wǎng)不健康信息”“互聯(lián)網(wǎng)垃圾信息”“互聯(lián)網(wǎng)不正當(dāng)和不良信息”等來稱呼相關(guān)信息，雖然稱謂不一，但有一點(diǎn)卻是共同的，即這些不良信息對國家安全、社會秩序穩(wěn)定和個人利益構(gòu)成了威脅或造成了現(xiàn)實的危害。

我們將“網(wǎng)絡(luò)空間不良信息”定義為：通過互聯(lián)網(wǎng)傳播的違反憲法和法律法規(guī)規(guī)定，違背社會公共利益或道德，對國家、社會或個人產(chǎn)生有害影響的信息?；ヂ?lián)網(wǎng)不良信息具有兩個特征：第一，以數(shù)字化的形式存在于信息系統(tǒng)并通過互聯(lián)網(wǎng)進(jìn)行傳播；第二，具有危害性。這些信息包括視頻、音頻、圖片、文字、計算機(jī)程序等多種表現(xiàn)形式，并涉及危害國家安全、破壞種族（或民族）尊嚴(yán)或團(tuán)結(jié)、顛覆國家政權(quán)、實施或宣傳恐怖主義活動、危害社會秩序、傳播淫穢色情內(nèi)容、宣揚(yáng)邪教迷信、詐騙公私財物、侵犯他人名譽(yù)隱私和權(quán)益等多方面的內(nèi)容。

美國將互聯(lián)網(wǎng)不良信息分為如下幾類：①散布有關(guān)政治煽動，恐怖主義，挑動民族對立情緒、民族仇恨和種族歧視等危害國家安全和民族尊嚴(yán)的信息；②在網(wǎng)絡(luò)中傳播的淫穢、色情和猥褻信息；③對未成年人濫用市場營銷手段的信息；④侵犯公民隱私權(quán)、名譽(yù)權(quán)、肖像權(quán)的信息，包括散布他人隱私、惡意丑化他人肖像；⑤網(wǎng)絡(luò)暴力信息，對他人進(jìn)行網(wǎng)絡(luò)誹謗和人身攻擊等；⑥網(wǎng)絡(luò)欺詐信息，包括網(wǎng)絡(luò)賭博等[1]。

英國將互聯(lián)網(wǎng)不良信息分為三類：①非法信息，指危害國家安全等國家法律明令禁止的信息，如兒童色情、網(wǎng)絡(luò)詐騙等；②不良信息，如煽動宗教或種族仇恨、鼓勵或教唆自殺的信息；③令人厭惡的信息，如網(wǎng)絡(luò)暴力信息[2]。

德國主要將互聯(lián)網(wǎng)不良信息分為納粹極端思想、種族主義信息、暴力信息、網(wǎng)絡(luò)欺詐和兒童色情信息等[3]。

通過梳理世界部分主要國家對不良信息的定義，綜合其中的共性部分和各自的側(cè)重點(diǎn)，本文將互聯(lián)網(wǎng)不良信息分為以下六類：①危害國家安全和民族尊嚴(yán)；②網(wǎng)絡(luò)色情和暴力；③網(wǎng)絡(luò)邪教和迷信；④網(wǎng)絡(luò)謠言和誹謗；⑤網(wǎng)絡(luò)欺詐與非法交易；⑥侵犯隱私和個人權(quán)益。

三、各國互聯(lián)網(wǎng)不良信息監(jiān)管法律

（一）關(guān)于危害國家安全和民族尊嚴(yán)的監(jiān)管法律

美國已先后出臺《經(jīng)濟(jì)間諜法》以監(jiān)管“可能危害政府利益”的信息，《國土安全法案》和《愛國者法案》以管理敏感信息，阻止恐怖活動；《2009年仇恨犯罪防治法》將煽動仇恨言論的范圍界定為涉及種族、膚色、宗教、國籍、性別、性取向或殘障的信息，尤其將那些由于他人的性取向、性別意識或殘障而對其加以暴力攻擊列為犯罪，并允許在某些情況下對仇恨犯罪人適用死刑。

2003年1月23日，歐盟在斯特拉斯堡通過了《網(wǎng)絡(luò)犯罪公約》的《關(guān)于將通過計算機(jī)系統(tǒng)從事種族歧視和仇外行為犯罪化的附加議定書》，監(jiān)管種族歧視及仇外信息。其主要成員國法國與英國分別出臺了《反恐法》和《反恐怖主義法》，以監(jiān)管恐怖主義信息。

為防止恐怖主義通過互聯(lián)網(wǎng)傳播，俄羅斯出臺了《WiFi實名制認(rèn)證》《知名博主新規(guī)則法》《大眾傳媒法》；澳大利亞頒布了《1995年聯(lián)邦出版物、電影和電腦游戲分級法》。而為監(jiān)管危害國家安全和民族利益的信息，韓國出臺了《信息通信網(wǎng)絡(luò)促進(jìn)法》；新加坡頒布了《互聯(lián)網(wǎng)實務(wù)法則》，并輔以《煽動法》監(jiān)管煽動民族仇恨的信息。

（二）關(guān)于網(wǎng)絡(luò)色情和暴力信息的監(jiān)管法律

為保護(hù)青少年，各國出臺相關(guān)措施與立法以監(jiān)管網(wǎng)絡(luò)色情和暴力信息。在整體規(guī)定對青少年有害的信息傳播方面，英國兒童互聯(lián)網(wǎng)安全議會的《兒童網(wǎng)絡(luò)安全建議》，新加坡的《網(wǎng)絡(luò)行為法》和《互聯(lián)網(wǎng)操作規(guī)程》，韓國的《信息通信網(wǎng)絡(luò)利用及信息保護(hù)法》和《青少年保護(hù)法》，以及日本的《保證青少年安全安心上網(wǎng)的整頓法》皆明確了不良信息的范圍。而在管制方面，德國的《公共場所青少年保護(hù)法》和《青少年媒體保護(hù)州協(xié)議》，俄羅斯的《保護(hù)青少年免受對其健康和發(fā)展有害的信息干擾法》皆限制了不良信息的干擾。

為監(jiān)管網(wǎng)絡(luò)兒童色情信息，美國出臺《兒童互聯(lián)網(wǎng)保護(hù)法》，英國頒布《諒解協(xié)議：2003年性侵犯法》與《R3網(wǎng)絡(luò)安全協(xié)議》，歐盟提出“電子歐洲”行動計劃，法國頒布了《未成年人保護(hù)法》。而為進(jìn)一步限制未成年人接觸到相應(yīng)色情信息，美國出臺了《保護(hù)法案》，并輔以內(nèi)容分級制度；韓國與澳大利亞亦以分級制度限制；德國則以《阻礙網(wǎng)頁登錄法》封鎖相關(guān)兒童色情網(wǎng)頁。

（三）關(guān)于網(wǎng)絡(luò)欺詐和非法交易的監(jiān)管法律

美國在1986年率先出臺了《計算機(jī)欺詐與濫用法案》給予聯(lián)邦政府經(jīng)濟(jì)情報局偵查互聯(lián)網(wǎng)犯罪的權(quán)力，也將保護(hù)公民私有財產(chǎn)不受侵害的準(zhǔn)則擴(kuò)大到互聯(lián)網(wǎng)領(lǐng)域，后該法案經(jīng)過多次修訂，編入《美國法典》。該法案為世界其他國家制定相關(guān)法律法規(guī)起到了引導(dǎo)作用。

2000年俄羅斯在《大眾傳媒法》上增補(bǔ)了有關(guān)互聯(lián)網(wǎng)上非法交易的內(nèi)容，2001年澳大利亞頒布《互動賭博法》禁止互聯(lián)網(wǎng)賭博，2006年英國的《詐騙法》修改了對“詐騙”的界定?？傊?，各國出臺的互聯(lián)網(wǎng)法律證明了互聯(lián)網(wǎng)對現(xiàn)實社會的金融經(jīng)濟(jì)的影響也越來越大，各國政府對互聯(lián)網(wǎng)的控制管理也越來越重視。

此外，針對網(wǎng)絡(luò)謠言和誹謗、侵犯隱私和個人權(quán)益、垃圾郵件等，世界各國也都有相關(guān)的法律法規(guī)進(jìn)行管理。

四、各國網(wǎng)絡(luò)治理技術(shù)及手段

按照網(wǎng)絡(luò)不良信息的發(fā)現(xiàn)、處置、事后取證過程，網(wǎng)絡(luò)不良信息治理技術(shù)手段包括：網(wǎng)絡(luò)數(shù)據(jù)監(jiān)聽、有害信息過濾、輿情對抗三類。

（一）網(wǎng)絡(luò)數(shù)據(jù)監(jiān)聽系統(tǒng)

在2001年的“9·11”恐怖襲擊發(fā)生后，美國政府秘密開展了大規(guī)模的搜集情報監(jiān)控計劃。如美國國家安全局的眾多監(jiān)聽項目，包括被斯諾登揭露的棱鏡計劃。除此，還有上游計劃（Upstream）、Fairview、無界線人和Xkeyscore等監(jiān)聽計劃。上游計劃是美國情報機(jī)構(gòu)對外進(jìn)行監(jiān)控的項目之一，作為監(jiān)控計劃之一的上游項目，從海底光纜等基礎(chǔ)設(shè)施收集數(shù)據(jù)。此外，美國聯(lián)邦調(diào)查局的監(jiān)聽項目還有MainCore、DCSNet、幻燈等。

顳颥項目是英國自2012年初由英國政府通信總部（GCHQ）負(fù)責(zé)實施的情報監(jiān)視項目。在從北美洲來的跨大西洋光纜的英國上岸處裝設(shè)攔截器，主要目的是獲取國際電話和網(wǎng)絡(luò)信息、將數(shù)據(jù)轉(zhuǎn)移并進(jìn)行分析。

Frenchelon是法國自20世紀(jì)90年代初柏林墻倒塌以后開始實施的、由法國外部安全總局（法國的對外情報機(jī)構(gòu)）運(yùn)作的情報收集和分析網(wǎng)絡(luò)信息的“法國梯隊”，目的是監(jiān)視電話、郵件和傳真，破譯、解讀衛(wèi)星密碼等。

（二）有害信息過濾系統(tǒng)

Net Nanny[4]是由美國的ContentWatch公司于1995年研發(fā)的一款內(nèi)容過濾軟件。目的是過濾掉網(wǎng)上的一切不良信息，保證互聯(lián)網(wǎng)用戶訪問安全、健康的網(wǎng)頁。網(wǎng)絡(luò)巡邏（Cyber Patrol）[5]是由美國的SurfControl公司于1995開發(fā)的一款用于家長控制和企業(yè)內(nèi)部上網(wǎng)控制的軟件系統(tǒng)。

網(wǎng)絡(luò)聊天暗語詞典[6]由英國的In Loco Parentis公司開發(fā)，目的是幫助家長們破譯孩子在網(wǎng)絡(luò)聊天室中使用的縮寫詞語甚至密碼，以防止孩子們掉入網(wǎng)絡(luò)色情陷阱。反色情軟件(Anti-Porn parental controls ）[7]是Tueagles公司開發(fā)的一款專門針對未成年人設(shè)計的家長控制軟件，目的是保護(hù)兒童避免接觸色情網(wǎng)頁。

Wedge Web Filter App[8]是由加拿大Webroot公司開發(fā)的一款Web過濾軟件。該軟件使用網(wǎng)頁分類數(shù)據(jù)庫提供最全面的類別，可以通過人工審核提高分類的準(zhǔn)確性。i-FILTER 商業(yè)版是由日本信息安全公司Digital Arts開發(fā)的基于服務(wù)器的網(wǎng)頁過濾軟件。

（三）輿論對抗手段

誠摯之聲行動（Operation Earnest Voice）歸美國中央司令部負(fù)責(zé)，開始時間為2010年。該行動目的是為了在網(wǎng)絡(luò)上打擊基地組織的支持者以及其他與美國領(lǐng)導(dǎo)的盟軍作對的組織。

“今日俄羅斯”電視臺網(wǎng)站2014年2月25日報道，“棱鏡門”曝光者愛德華?斯諾登提供的一份文件顯示，網(wǎng)絡(luò)魔術(shù)師項目是一個由美國、英國、加拿大、澳大利亞和新西蘭五國的間諜機(jī)構(gòu)組成的“五只眼”間諜聯(lián)盟負(fù)責(zé)的一個間諜項目。該項目的目的是在互聯(lián)網(wǎng)上發(fā)布虛假信息來操縱網(wǎng)絡(luò)言論，從而控制網(wǎng)民的思想并得到政府機(jī)構(gòu)想要的結(jié)果。

聯(lián)合威脅研究情報小組（JTRIG）是英國情報機(jī)構(gòu)政府通信總部的一個秘密間諜機(jī)構(gòu)。該小組專門負(fù)責(zé)摧毀、抹黑、分裂敵人，包括從伊朗到黑客組織“無名氏”等。該機(jī)構(gòu)開發(fā)了多種工具來操縱網(wǎng)絡(luò)民意，包括操縱在線調(diào)查結(jié)果、創(chuàng)造虛假流量、過濾“極端”信息等。

五、全球互聯(lián)網(wǎng)不良信息治理專項行動

（一）網(wǎng)絡(luò)淫穢色情專項治理行動

1995年，美國聯(lián)邦調(diào)查局（FBI）發(fā)起了名為“無辜影像國家行動”（Innocent Images National Initiative） 的專項行動。該行動是一個情報驅(qū)動的、主動的且多部門合作的致力于打擊互聯(lián)網(wǎng)上兒童色情信息和兒童色情犯罪的專項行動。

2002年5月，英國展開了名為“礦石行動”（Operation Ore）的專項行動 ，行動內(nèi)容主要是針對美國FBI提供的使用Landslide Productions公司網(wǎng)站兒童色情服務(wù)的7 272名英國用戶進(jìn)行調(diào)查和起訴。

2003年1月，媒體曝光了加拿大針對兒童色情的專項調(diào)查行動“雪球行動”（Operation Snowball）的細(xì)節(jié)。該行動的主要內(nèi)容是針對美國“雪崩行動”中查獲的使用Landslide Productions公司網(wǎng)站兒童色情服務(wù)的2 329名加拿大用戶進(jìn)行調(diào)查。

（二）網(wǎng)絡(luò)極端恐怖專項治理行動

2011年6月，歐盟各國開始創(chuàng)立一個致力于減少和過濾互聯(lián)網(wǎng)上的非法信息尤其是暴力恐怖內(nèi)容的項目，稱為“凈網(wǎng)工程”（Clean IT Project）。凈網(wǎng)工程的主要目的是形成共識文件，驅(qū)動互聯(lián)網(wǎng)產(chǎn)業(yè)來幫助政府發(fā)現(xiàn)網(wǎng)絡(luò)上有關(guān)煽動暴力恐怖的視頻、圖片和文字等。

2014年1月，歐盟委員會通過了一項防止暴力極端主義行為的行動計劃 ，并在其成員國內(nèi)推行。該計劃總結(jié)了10個反對暴力極端主義的工作領(lǐng)域，要求成員國在這些領(lǐng)域中強(qiáng)化相關(guān)舉措，防止所有可能導(dǎo)致暴力行動的極端主義行為。

2015年2月，美國白宮宣布啟動一項與科技公司密切合作打擊基地組織和伊斯蘭國網(wǎng)絡(luò)活動的專項行動，并推出應(yīng)對極端恐怖組織在互聯(lián)網(wǎng)上發(fā)布信息的計劃。

（三）網(wǎng)絡(luò)謠言誹謗專項治理行動

2008年，韓國政府開始了治理互聯(lián)網(wǎng)上不良信息的行動，其中謠言和誹謗信息是重點(diǎn)的治理內(nèi)容。該行動由韓國警方開展，主要對網(wǎng)絡(luò)傳聞和惡意回帖定期進(jìn)行集中治理，對經(jīng)常性、惡意性回帖發(fā)布者實施拘捕調(diào)查。

2011年4月，針對日本大地震后網(wǎng)絡(luò)上流傳的關(guān)于地震和核輻射的謠言，日本總務(wù)?。∕IC）發(fā)布通知要求電信相關(guān)行業(yè)協(xié)會采取妥善的專項治理措施，在保障言論自由的同時消除謠言的危害。

2015年5月3日，新加坡媒體管理局（MDA）關(guān)停了Ai Takagi和Yang Kaiheng運(yùn)營的“真實新加坡”網(wǎng)站（TRS），及其該網(wǎng)站上的Facebook、Twitter等社交媒體主頁和移動應(yīng)用。

六、結(jié)語

隨著網(wǎng)絡(luò)承載的信息迅猛增長，網(wǎng)絡(luò)接入手段越發(fā)多樣化，如何避免遭受網(wǎng)絡(luò)上的不良有害信息的污染是世界各國面臨的急迫問題。有害、不良的信息小則影響人們的身心健康，大則影響社會穩(wěn)定、民族團(tuán)結(jié)，甚至破環(huán)國家安全。本文綜述了世界主要國家通過法律法規(guī)、技術(shù)手段和專項行動實現(xiàn)對網(wǎng)絡(luò)空間不良信息進(jìn)行管理的現(xiàn)狀和趨勢。

[1]王軍.網(wǎng)絡(luò)傳播法律問題研究[M].北京:群眾出版社, 2006. Wang J. Research on legal issues of network communication[M]. Beijing: Mass Press, 2006.

[2]東鳥. 網(wǎng)絡(luò)戰(zhàn)爭[M]. 北京:九州出版社, 2009. Dong N. Cyber war[M]. Beijing: Jiuzhou Press, 2009.

[3]鄭啟航. 德國互聯(lián)網(wǎng)監(jiān)管有法可依有法必依 [EB/OL]. (2010-02-01) [2016-05-18]. http://news.xinhuanet.com/world/2010-02/01/ content_12912508.htm. Zheng Q H. The German Internet supervision be laws [EB/ OL]. (2010-02-01) [2016-05-18]. http://news.xinhuanet.com/ world/2010-02/01/content_12912508.htm.

[4]Net Nanny[EB/OL]. (2015-05-18) [2016-08-15]. http://www. netnanny.com/.

[5]Cyber Patrol[EB/OL]. (2015-05-18) [2016-08-15]. http://www. cyberpatrol.com/.

[6]網(wǎng)絡(luò)聊天暗語詞典[EB/OL]. (2015-05-18) [2016-08-15]. http:// www.demos.co.uk/publications/inlocoparentis.

[7]Anti-Porn parental controls[EB/OL]. (2015-05-18) [2016-08-15]. http://www.parental-controls.net/.

[8]Wedge Web Filter App[EB/OL]. (2015-05-18) [2016-08-15]. http://www.webroot.com/gb/en/home/products/expired-offer.

Trends and Management of Harmful Information around the World

Jia Yan1, Li Aiping1, Li Yuxiao2, Li Shudong1, Tian Zhihong3, Han Yi4, Shi Jinqiao4, Lin Bin1
(1. Computer School of National University of Defense Technology, Changsha 410073, China; 2. Chinese Academy of Cyberspace studies, Beijing 100010, China; 3. Institute of Computer Application, China Academy of Engineering Physics, Mianyang 621900, Sichuan, China; 4. Institute of Information Engineering, Chinese Academy of Sciences, Beijing 100093, China)

In view of the management needs of all kinds of harmful information (including terrorism, rumor, fraud, violence, pornography, and subversion) in cyberspace, this paper summarizes the management situation of harmful information around the world. The paper first introduces the definition and classification of harmful information. It then proposes laws and regulations for the supervision of harmful information, and expounds the regulations that countries generally adopt in their legislative practice. Next, starting from network data monitoring, information filtering, and public opinion against network management, this paper introduces the technology and means of network governance over harmful information. Finally, this paper describes recent global internal Internet governance special action, and so forth.

cyberspace; harmful information; information censorship; information filtering; confrontation of public opinion

C911

A

2016-10-12；

2016-10-20

賈焰，中國人民解放軍國防科學(xué)技術(shù)大學(xué)計算機(jī)學(xué)院，研究員，主要研究方向為網(wǎng)絡(luò)與信息安全、在線社交網(wǎng)絡(luò)分析；E-mail: jiayanjy@vip.sina.com

中國工程院重大咨詢項目“網(wǎng)絡(luò)空間安全戰(zhàn)略研究”(2015-ZD-10)

本刊網(wǎng)址：www.enginsci.cn