摘 要：面對(duì)愈演愈烈的網(wǎng)絡(luò)暴力，我國(guó)社交媒體平臺(tái)采取了一系列治理措施。本文以國(guó)內(nèi)15個(gè)主要社交媒體平臺(tái)作為研究對(duì)象，對(duì)其涉及網(wǎng)絡(luò)暴力的209份文件做內(nèi)容分析，并對(duì)實(shí)際效果進(jìn)行審計(jì)。研究發(fā)現(xiàn)，絕大多數(shù)平臺(tái)未能清晰界定網(wǎng)絡(luò)暴力；盡管所有平臺(tái)都在事前、事中和事后三個(gè)環(huán)節(jié)采取了舉措，但實(shí)際治理尺度各不相同，治理效力仍有較大提升空間，具體表現(xiàn)為：對(duì)違規(guī)內(nèi)容的甄別和警示力度不足，一鍵防護(hù)設(shè)置路徑復(fù)雜，處理舉報(bào)的精度和速度需提升，以及關(guān)懷救助環(huán)節(jié)較薄弱。最后，提出平臺(tái)完善治理舉措的具體方式，并指出，治理網(wǎng)絡(luò)暴力需要超越平臺(tái)，建立多元主體參與的責(zé)任共同體和治理共同體。

關(guān)鍵詞：網(wǎng)絡(luò)暴力；社交媒體；互聯(lián)網(wǎng)治理；平臺(tái)政策；看門(mén)人

作者簡(jiǎn)介：胡岑岑，北京體育大學(xué)新聞與傳播學(xué)院講師，主要從事新媒體與青年文化、視聽(tīng)傳播研究；黃雅蘭，暨南大學(xué)新聞與傳播學(xué)院副教授，主要從事女性主義媒介、數(shù)字新聞學(xué)研究。

基金項(xiàng)目：國(guó)家社會(huì)科學(xué)基金項(xiàng)目“粉絲文化視域下青少年的社會(huì)參與及其引導(dǎo)研究”（項(xiàng)目編號(hào)：20CXW030）、教育部人文社會(huì)科學(xué)研究青年基金“自媒體中性別暴力的傳播機(jī)制與協(xié)同治理研究”（項(xiàng)目編號(hào)：20YJC86013）的階段性成果。

中圖分類(lèi)號(hào)：G206 ""文獻(xiàn)標(biāo)識(shí)碼：A ""文章編號(hào)：1001-4403（2024）04-0172-09

DOI：10.19563/j.cnki.sdzs.2024.04.017

近年來(lái)，網(wǎng)絡(luò)暴力在我國(guó)愈演愈烈?！吨袊?guó)青年報(bào)》的調(diào)查顯示，65.3%的受訪(fǎng)青年表示自己或周?chē)嗽庥鲞^(guò)網(wǎng)絡(luò)暴力，71.9%的受訪(fǎng)青年覺(jué)得網(wǎng)絡(luò)暴力越來(lái)越頻繁。①" ①吳欣宇、王品芝、楊萬(wàn)淑等：《65.3%受訪(fǎng)青年表示自己或周?chē)嗽庥鲞^(guò)網(wǎng)絡(luò)暴力》，2023-06-20，http：//zqb.cyol.com/html/2023-06/20/nw.D110000zgqnb_20230620_2-07.htm.河北尋親男孩遭網(wǎng)暴后留書(shū)自殺，上海姑娘因打賞外賣(mài)員200元被網(wǎng)暴后跳樓，杭州女孩因粉色頭發(fā)被網(wǎng)暴后自殺……網(wǎng)絡(luò)暴力導(dǎo)致的悲劇不斷上演，治理迫在眉睫。社交媒體平臺(tái)是網(wǎng)絡(luò)暴力的主要發(fā)生場(chǎng)所，中央網(wǎng)信辦、國(guó)信辦等印發(fā)的《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》和《網(wǎng)絡(luò)暴力信息治理規(guī)定（征求意見(jiàn)稿）》等文件，都強(qiáng)調(diào)平臺(tái)在網(wǎng)絡(luò)暴力治理中的主體責(zé)任，求平臺(tái)“履行信息內(nèi)容管理主體責(zé)任，建立完善網(wǎng)絡(luò)暴力信息治理機(jī)制，健全賬號(hào)管理、信息發(fā)布審核、監(jiān)測(cè)預(yù)警、舉報(bào)救助、網(wǎng)絡(luò)暴力信息處置等制度”。②" ②中國(guó)網(wǎng)信網(wǎng)：《國(guó)家互聯(lián)網(wǎng)信息辦公室關(guān)于〈網(wǎng)絡(luò)暴力信息治理規(guī)定（征求意見(jiàn)稿）〉公開(kāi)征求意見(jiàn)的通知》，2023-07-07，http：//www.cac.gov.cn/2023-07/07/c_1690295996362667.htm.

目前，我國(guó)社交媒體平臺(tái)已采取一系列舉措治理網(wǎng)絡(luò)暴力。然而，一方面，相關(guān)政策法規(guī)對(duì)網(wǎng)絡(luò)暴力的認(rèn)定較模糊，如《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》中提到的“不友善信息”范圍較廣，網(wǎng)絡(luò)暴力形式的不斷演變也給其界定帶來(lái)困難①" ①半月談?dòng)浾撸骸陡隆拔淦鲙?kù)”，運(yùn)作假輿情！新型網(wǎng)絡(luò)暴力有組織、有策劃，形成一門(mén)黑產(chǎn)生意》，2020-07-21，https：//mp.weixin.qq.com/s/PKFO1HWTzWg4hpb3MppmoA.；另一方面，政策法規(guī)在賦予平臺(tái)較大權(quán)責(zé)的同時(shí)，對(duì)治理效果缺乏權(quán)威有效的評(píng)估，主要依靠平臺(tái)發(fā)布的治理公告，平臺(tái)在治理網(wǎng)絡(luò)暴力過(guò)程中實(shí)際擁有較大的自由度和裁量權(quán)。由此，平臺(tái)如何認(rèn)定網(wǎng)絡(luò)暴力，如何預(yù)防、干預(yù)和懲治網(wǎng)絡(luò)暴力，在很大程度上關(guān)系到我國(guó)網(wǎng)絡(luò)暴力治理的成效。目前學(xué)界對(duì)平臺(tái)如何定義和治理網(wǎng)絡(luò)暴力及其治理效果的研究較為不足，基于此，本文提出以下問(wèn)題：我國(guó)主要的社交媒體平臺(tái)如何界定網(wǎng)絡(luò)暴力？采取了什么措施應(yīng)對(duì)網(wǎng)絡(luò)暴力？治理措施的有效性如何？

一、平臺(tái)的看門(mén)人角色與網(wǎng)絡(luò)暴力治理

近年來(lái)，平臺(tái)逐漸成為數(shù)字社會(huì)的信息中心與組織樞紐，成為天然的“看門(mén)人”（gatekeeper）。然而，在面對(duì)是否干預(yù)內(nèi)容和用戶(hù)行為的問(wèn)題時(shí)，平臺(tái)常常自稱(chēng)“中介”，保持“中立”態(tài)度。這種為免責(zé)而擺出的中立姿態(tài)只是一種“神話(huà)”或“話(huà)語(yǔ)策略”。②" ②Schoenebeck S，Blackwell L.Reimagining social media governance：Harm，accountability，and repair.Yale JL amp; Tech.，2020，23，pp.113-152.事實(shí)上，平臺(tái)的政策和架構(gòu)已經(jīng)融入了特定規(guī)范和價(jià)值觀(guān)③" ③Maddox J，Malson J.Guidelines without lines，communities without borders：The marketplace of ideas and digital manifest destiny in social media platform policies.Social Media+Society，2020，6（2），pp.1-10.，平臺(tái)尤其在內(nèi)容和賬戶(hù)的推廣、約束、允許和審查方面發(fā)揮著決定性作用。不過(guò)，對(duì)于憑借技術(shù)權(quán)力和以海量用戶(hù)為基礎(chǔ)的經(jīng)濟(jì)權(quán)力成為看門(mén)人的平臺(tái)而言，存在著一個(gè)悖論：一方面，平臺(tái)屬于私人物品，具有資產(chǎn)專(zhuān)有性與經(jīng)濟(jì)性；另一方面，大型平臺(tái)已逐步演變?yōu)椤皽?zhǔn)公共產(chǎn)品”，具有公共性和共享性。④" ④范如國(guó)：《平臺(tái)技術(shù)賦能、公共博弈與復(fù)雜適應(yīng)性治理》，《中國(guó)社會(huì)科學(xué)》2021年第12期，第131-152頁(yè)。因此，平臺(tái)需要在運(yùn)行和治理過(guò)程中小心平衡商業(yè)利益和社會(huì)公共利益。

基于社會(huì)歷史、媒介制度等原因，不同國(guó)家的平臺(tái)治理模式有所區(qū)別。⑤" ⑤王震宇、張曉磊：《平臺(tái)治理的制度之維：基于中美英三國(guó)模式的比較》，《國(guó)際關(guān)系研究》2021年第6期，第97-124頁(yè)。美國(guó)以憲法第一修正案中的“言論自由”為大原則，明確平臺(tái)不承擔(dān)主動(dòng)審查義務(wù)，僅要求嚴(yán)格執(zhí)行“通知-刪除”程序，歐盟與美國(guó)相似。⑥" ⑥劉文杰：《網(wǎng)絡(luò)暴力中個(gè)體維權(quán)困境與平臺(tái)安全保障義務(wù)》，《國(guó)家檢察官學(xué)院學(xué)報(bào)》2023年第5期，第39-57頁(yè)。我國(guó)的網(wǎng)絡(luò)暴力治理模式則為“政企發(fā)包制”，即政府部門(mén)將網(wǎng)絡(luò)事務(wù)治理權(quán)發(fā)包給非公有制企業(yè)并附加相應(yīng)激勵(lì)機(jī)制，同時(shí)保留監(jiān)督權(quán)與最終獎(jiǎng)懲權(quán)。⑦" ⑦于洋、馬婷婷：《政企發(fā)包：雙重約束下的互聯(lián)網(wǎng)治理模式——基于互聯(lián)網(wǎng)信息內(nèi)容治理的研究》，《公共管理學(xué)報(bào)》2018年第3期，第117-128頁(yè)。根據(jù)我國(guó)法律法規(guī)，互聯(lián)網(wǎng)服務(wù)提供者須履行安全管理義務(wù)；網(wǎng)信辦、國(guó)信辦等部門(mén)的相關(guān)規(guī)章還進(jìn)一步明確了平臺(tái)在網(wǎng)絡(luò)暴力治理中的主體責(zé)任及其在監(jiān)測(cè)預(yù)警、處置及保護(hù)機(jī)制等方面的相應(yīng)義務(wù)。⑧" ⑧石佳友：《網(wǎng)絡(luò)暴力治理中的平臺(tái)責(zé)任》，《法律科學(xué)》2023年第6期，第14-23頁(yè)。盡管不同國(guó)家關(guān)于平臺(tái)治理網(wǎng)絡(luò)暴力責(zé)任的法律和政策存在差異，但在實(shí)踐層面，其治理舉措表現(xiàn)出同構(gòu)性，常見(jiàn)的機(jī)制包括但不限于提供舉報(bào)工具、屏蔽和過(guò)濾、推送反網(wǎng)暴教育材料以及人工審核等。⑨" ⑨Milosevic T.Protecting children online？Cyberbullying policies of social media companies.The MIT Press，2018，p.8，p.107；趙韞淏、劉晶：《“規(guī)則+技術(shù)”：互聯(lián)網(wǎng)平臺(tái)針對(duì)“網(wǎng)絡(luò)暴力”現(xiàn)象的數(shù)字化治理》，《北京文化創(chuàng)意》2023年第2期，第75-84頁(yè)。國(guó)外學(xué)者分析平臺(tái)的核心文件（如服務(wù)條款和社區(qū)指南）后發(fā)現(xiàn)，當(dāng)前各平臺(tái)對(duì)網(wǎng)絡(luò)暴力的定義都較模糊，具體的治理標(biāo)準(zhǔn)缺乏透明度。⑩" ⑩Pater J A.et al.Characterizations of online harassment：Comparing policies across social media platforms.In Proceedings of the 2016 ACM International Conference on Supporting Group Work，2016，pp.369-374.

除了治理舉措外，治理效果也值得關(guān)注。在美國(guó)，由政府發(fā)起的對(duì)治理效力的獨(dú)立評(píng)估很少，并被認(rèn)為已經(jīng)過(guò)時(shí)①" ①M(fèi)ilosevic T.Social media companies’ cyberbullying policies.International Journal of Communication，2016（10），p.22.；學(xué)者還質(zhì)疑，平臺(tái)似乎并不關(guān)注治理有效性，它們僅通過(guò)關(guān)注網(wǎng)絡(luò)暴力并采取措施來(lái)維持良好聲譽(yù)。②" ②Milosevic T.Protecting children online？Cyberbullying policies of social media companies.The MIT Press，2018，pp.4-5.關(guān)于用戶(hù)對(duì)國(guó)內(nèi)某平臺(tái)網(wǎng)絡(luò)暴力治理反饋的研究表明，用戶(hù)從最初的振奮變?yōu)閷?duì)治理乏力的失望，質(zhì)疑“舉報(bào)無(wú)效”、被“誤傷”等。③" ③辛艷艷、方師師：《網(wǎng)絡(luò)暴力治理中的平臺(tái)主體責(zé)任困境》，《青年記者》2023年第13期，第88-90頁(yè)。整體來(lái)說(shuō)，我國(guó)針對(duì)平臺(tái)網(wǎng)絡(luò)暴力治理的研究主要圍繞“應(yīng)然”展開(kāi)，對(duì)“實(shí)然”的討論不足。

二、研究方法

在內(nèi)容治理方面，平臺(tái)除了行使裁決糾紛的“準(zhǔn)司法權(quán)”與實(shí)施懲罰的“準(zhǔn)行政權(quán)”，還擁有制定規(guī)則的“準(zhǔn)立法權(quán)”④" ④張志安、冉楨：《中國(guó)互聯(lián)網(wǎng)平臺(tái)治理：路徑、效果與特征》，《新聞與寫(xiě)作》2022年第5期，第57-69頁(yè)。，主要通過(guò)與用戶(hù)簽訂用戶(hù)協(xié)議來(lái)實(shí)現(xiàn)。本研究將分析包括用戶(hù)協(xié)議在內(nèi)的平臺(tái)政策文件，并測(cè)試其相應(yīng)反網(wǎng)暴功能的效果，以此檢視平臺(tái)在網(wǎng)暴治理中的看門(mén)人角色。綜合考慮了社交媒體平臺(tái)的用戶(hù)規(guī)模和功能定位等因素，本文確定了國(guó)內(nèi)用戶(hù)規(guī)模大、活躍度高、功能定位有差異的15家社交媒體平臺(tái)作為研究對(duì)象。⑤" ⑤由于版面限制，關(guān)于研究對(duì)象的具體信息，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。

（一）內(nèi)容分析

本研究對(duì)兩類(lèi)平臺(tái)文件進(jìn)行分析：一是各平臺(tái)最新的用戶(hù)協(xié)議、隱私政策、社區(qū)公約等核心文件，這類(lèi)文件扮演著“準(zhǔn)憲法”角色⑥" ⑥Fan J，Zhang A X.Digital juries：A civics-oriented approach to platform governance.In Proceedings of the 2020 CHI conference on human factors in computing systems，2020，April，pp.1-14.，是平臺(tái)治理的主要依據(jù)；二是各平臺(tái)官方賬號(hào)（如微博管理員、抖音黑板報(bào)、知乎小管家）就網(wǎng)絡(luò)暴力發(fā)布的宣傳、倡導(dǎo)等非正式文件，如《微博防網(wǎng)暴功能實(shí)用指南》等。最終共收集有效文件209份，其中YY和嗶哩嗶哩的文件數(shù)量最多，均超過(guò)20份，虎撲、Lofter和陌陌的文件數(shù)量為個(gè)位數(shù)。在這些文件中，具有一定法律效力的文件（如隱私協(xié)議、用戶(hù)協(xié)議）和社區(qū)公約等平臺(tái)規(guī)范性文件占52.63%，不具備約束力的非正式文件（如社區(qū)公告、倡議書(shū)以及對(duì)社區(qū)規(guī)則的解讀說(shuō)明等）占47.37%。

研究主要圍繞網(wǎng)絡(luò)暴力的定義及類(lèi)型、治理網(wǎng)暴的舉措等維度設(shè)計(jì)了編碼表⑦" ⑦由于版面限制，研究具體的編碼類(lèi)目，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。；3名編碼員均為新聞傳播學(xué)在讀研究生，為降低編碼員類(lèi)目判定時(shí)的主觀(guān)性，研究者對(duì)編碼員進(jìn)行了培訓(xùn)。正式編碼前，研究者從15家平臺(tái)的樣本文件中各隨機(jī)抽取了2個(gè)樣本，共計(jì)30個(gè)樣本，讓3名編碼員獨(dú)立編碼；隨后以Cohen’s kappa值評(píng)估編碼員間信度，結(jié)果顯示“網(wǎng)絡(luò)暴力的定義”及“網(wǎng)絡(luò)暴力的類(lèi)型”的Kappa值均超過(guò)了0.93，“網(wǎng)絡(luò)暴力的治理措施”的Kappa值也達(dá)到了0.88。

（二）平臺(tái)審計(jì)

審計(jì)研究指通過(guò)準(zhǔn)實(shí)驗(yàn)方法來(lái)識(shí)別社會(huì)中的系統(tǒng)性偏向。近年來(lái)，算法和平臺(tái)成為新的審計(jì)對(duì)象，研究者在平臺(tái)這一新型社會(huì)行動(dòng)空間中搭建實(shí)驗(yàn)場(chǎng)景，探究平臺(tái)規(guī)則。⑧" ⑧仇筠茜等：《審計(jì)研究拓展新聞傳播學(xué)空間》，《中國(guó)社會(huì)科學(xué)報(bào)》2024年1月10日，第6版。據(jù)此，本研究測(cè)試了各平臺(tái)的網(wǎng)暴治理效果，具體包括以下兩方面研究設(shè)計(jì)。第一，研究者在軟件漫游（walkthrough）過(guò)程中對(duì)在每個(gè)平臺(tái)上偶遇的5條明顯包含暴力信息的帖子或評(píng)論（共75條）進(jìn)行舉報(bào)⑨" ⑨作為探索性研究，本文主要考慮網(wǎng)暴言論的典型性而進(jìn)行立意抽樣，包括明顯的侮辱、詛咒類(lèi)信息，也包括當(dāng)前社交媒體上常見(jiàn)的以諧音出現(xiàn)的暴力信息。，記錄和統(tǒng)計(jì)舉報(bào)的便捷度（點(diǎn)擊次數(shù)、舉報(bào)所需的材料數(shù)量等）以及平臺(tái)對(duì)舉報(bào)的反饋（反饋時(shí)間、方式、內(nèi)容和處理結(jié)果）。第二，研究者在每個(gè)平臺(tái)上對(duì)其他用戶(hù)發(fā)送5條包含暴力信息的評(píng)論（共75條）①" ①為避免傷害，發(fā)送對(duì)象是發(fā)送者熟知的朋友，在測(cè)試前已被告知此項(xiàng)研究；為貼近真實(shí)情境，研究中所發(fā)送的網(wǎng)暴言論多為以往網(wǎng)暴事件中受害者曾遭受的攻擊。，記錄各平臺(tái)對(duì)暴力信息的識(shí)別和攔截效力，以及平臺(tái)對(duì)發(fā)送者和接收者的警示和提示情況。

三、如何定義：面貌模糊的網(wǎng)絡(luò)暴力

在本研究關(guān)注的平臺(tái)中，僅抖音明確定義了網(wǎng)絡(luò)暴力：“一種危害嚴(yán)重、影響惡劣的暴力形式。它是指一類(lèi)由網(wǎng)民發(fā)表在網(wǎng)絡(luò)上的并具有‘誹謗性、污蔑性、侵犯名譽(yù)、損害權(quán)益和煽動(dòng)性’的動(dòng)作”②" ②《“抖音”用戶(hù)服務(wù)協(xié)議》，https：//www.douyin.com/draft/douyin_agreement/douyin_agreement_user.html，2024-03-25。，有言論、文字、圖片、視頻等形式，會(huì)對(duì)他人的名譽(yù)等合法權(quán)益與精神造成損害。大部分平臺(tái)將網(wǎng)絡(luò)暴力作為一個(gè)不言而喻的詞語(yǔ)，主要通過(guò)列舉一系列具體行為并偶爾結(jié)合案例來(lái)呈現(xiàn)。這些行為包括謠言誹謗/惡意揣測(cè)、謾罵侮辱/貶低歧視、道德綁架、騷擾拱火、公開(kāi)隱私、煽動(dòng)滋事、威脅恐嚇、宣揚(yáng)暴力等幾種類(lèi)型；而“網(wǎng)絡(luò)暴力”一詞與上述行為之間的關(guān)系也不穩(wěn)定：網(wǎng)絡(luò)暴力有時(shí)被描述為與之并列的侵權(quán)行為，有時(shí)又被作為包含這些侵權(quán)行為的概括性條目，甚至在同一份文件中還會(huì)同時(shí)出現(xiàn)上面兩種關(guān)系。

平臺(tái)文件提及率最高的網(wǎng)暴類(lèi)型包括：謾罵侮辱/貶低歧視（62.2%）、謠言誹謗/惡意揣測(cè)（54.07%）、公開(kāi)隱私（51.2%）和煽動(dòng)滋事（46.89%），正對(duì)應(yīng)著當(dāng)前我國(guó)法律法規(guī)明確了內(nèi)涵定義與入罪條件的、與網(wǎng)絡(luò)暴力相關(guān)的傳統(tǒng)罪名，即侮辱罪、誹謗罪、尋釁滋事罪、侵犯公民個(gè)人信息罪。這雖然反映出法律對(duì)平臺(tái)網(wǎng)絡(luò)暴力治理的指導(dǎo)價(jià)值，卻也表明我國(guó)現(xiàn)有法律法規(guī)在面對(duì)不斷更新的網(wǎng)絡(luò)暴力形態(tài)時(shí)，其有效性已不足，如惡意揣測(cè)、道德綁架等容易給用戶(hù)造成精神創(chuàng)傷的行為難以入罪③" ③張凌寒：《“不良信息”型網(wǎng)絡(luò)暴力何以治理——基于場(chǎng)域理論的分析》，《探索與爭(zhēng)鳴》2023年第7期，第96-107頁(yè)。，未能給平臺(tái)治理提供依據(jù)。

盡管各平臺(tái)的文件涵蓋了絕大部分網(wǎng)絡(luò)暴力類(lèi)型，但每家平臺(tái)對(duì)不同類(lèi)型網(wǎng)絡(luò)暴力的提及率有所區(qū)別。④" ④由于版面限制，“各平臺(tái)文件提及率最高和最低的網(wǎng)絡(luò)暴力行為類(lèi)型”的統(tǒng)計(jì)結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。這既反映出由于缺乏統(tǒng)一標(biāo)準(zhǔn)，平臺(tái)對(duì)網(wǎng)絡(luò)暴力理解上的差異，也在一定程度上展現(xiàn)出不同平臺(tái)中差異化的網(wǎng)絡(luò)暴力表現(xiàn)及其導(dǎo)致的治理重心區(qū)別。例如，同為以興趣為中心的社區(qū)，百度貼吧和Lofter更強(qiáng)調(diào)對(duì)謾罵侮辱的治理，豆瓣則偏重對(duì)隱私侵害的治理。此外，當(dāng)前我國(guó)的網(wǎng)絡(luò)暴力有相當(dāng)比重是在公平、正義等“正當(dāng)性”支撐下展開(kāi)的道德審判。已有研究通過(guò)理論探討或數(shù)據(jù)驗(yàn)證，分析了傳統(tǒng)社會(huì)道德準(zhǔn)則的律令化⑤" ⑤羅譞：《網(wǎng)絡(luò)暴力的微觀(guān)權(quán)力結(jié)構(gòu)與個(gè)體的“數(shù)字性死亡”》，《現(xiàn)代傳播》2020年第6期，第151-157頁(yè)。，以及個(gè)體的消極道德評(píng)價(jià)與網(wǎng)絡(luò)暴力之間的相關(guān)關(guān)系⑥" ⑥劉績(jī)宏、柯惠新：《道德心理的輿論張力：網(wǎng)絡(luò)謠言向網(wǎng)絡(luò)暴力的演化模式及其影響因素研究》，《國(guó)際新聞界》2018年第7期，第37-61頁(yè)。，但根據(jù)本研究的統(tǒng)計(jì)結(jié)果，僅微博、嗶哩嗶哩、抖音等六家平臺(tái)提及道德綁架。這可能與道德綁架概念的模糊性以及與其他侵權(quán)行為之間存在交叉有關(guān)。另外，道德綁架與出于道德正義的輿論監(jiān)督之間也缺乏有效的區(qū)分標(biāo)準(zhǔn)，邊界不夠清晰。⑦" ⑦蔣麗紅、李志祥：《論網(wǎng)絡(luò)道德評(píng)論的正當(dāng)依據(jù)與合理邊界》，《科學(xué)技術(shù)哲學(xué)研究》2022年第3期，第76-81頁(yè)。盡管網(wǎng)信辦2023年7月發(fā)布的《網(wǎng)絡(luò)暴力信息治理規(guī)定（征求意見(jiàn)稿）》將“嚴(yán)重影響身心健康的道德綁架”列入網(wǎng)絡(luò)暴力信息范疇，然而該規(guī)定并未言明其內(nèi)涵，未能給平臺(tái)治理提供有效參考。考慮到近幾年網(wǎng)絡(luò)暴力的發(fā)展趨勢(shì)，將道德綁架納入治理范疇并制定清晰的標(biāo)準(zhǔn)，對(duì)監(jiān)管部門(mén)和平臺(tái)來(lái)說(shuō)十分必要。

四、如何應(yīng)對(duì)：各行其是的治理措施

平臺(tái)應(yīng)開(kāi)展對(duì)網(wǎng)絡(luò)暴力的全鏈條式治理，包括潛伏期的事前監(jiān)測(cè)預(yù)防、爆發(fā)期和持續(xù)期的事中干預(yù)處置以及消退期的事后懲治與救濟(jì)，并形成常態(tài)化治理機(jī)制。當(dāng)前，各個(gè)平臺(tái)均或多或少地在各個(gè)階段設(shè)置了網(wǎng)絡(luò)暴力治理措施。①" ①由于版面限制，“各平臺(tái)文件提及的網(wǎng)絡(luò)暴力治理措施”的統(tǒng)計(jì)結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。

（一）事前監(jiān)測(cè)預(yù)防：對(duì)違規(guī)內(nèi)容的甄別和警示力度不足

各平臺(tái)均注重通過(guò)內(nèi)容過(guò)濾、違規(guī)警告以及宣傳倡導(dǎo)等進(jìn)行事前監(jiān)測(cè)預(yù)防。前兩項(xiàng)措施主要基于智能識(shí)別模型，輔以人工審核，過(guò)濾違規(guī)信息。從攔截效果看②" ②由于版面限制，“各平臺(tái)事前預(yù)防監(jiān)測(cè)功能”的測(cè)試結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。，在測(cè)試的75條違規(guī)評(píng)論中，49條（65.3%）被成功攔截，未出現(xiàn)在接收者的評(píng)論區(qū)，其中3條是在發(fā)出一段時(shí)間后被系統(tǒng)刪除，還有1條對(duì)個(gè)別字詞打碼處理。YY、斗魚(yú)、知乎攔截了所有違規(guī)內(nèi)容，抖音僅攔截1條違規(guī)內(nèi)容，豆瓣則未攔截任何信息。近三分之一的違規(guī)內(nèi)容未被攔截，這一方面與智能識(shí)別模型不夠完善有關(guān)，對(duì)一些陰陽(yáng)怪氣、內(nèi)涵式辱罵以及圖像類(lèi)網(wǎng)暴信息的識(shí)別度較低③" ③趙韞淏、劉晶：《“規(guī)則+技術(shù)”：互聯(lián)網(wǎng)平臺(tái)針對(duì)“網(wǎng)絡(luò)暴力”現(xiàn)象的數(shù)字化治理》，《北京文化創(chuàng)意》2023年第2期，第75-84頁(yè)。；另一方面也與平臺(tái)的評(píng)判尺度不一相關(guān)，例如，包含“死”字的信息在大部分平臺(tái)上會(huì)被攔截，在豆瓣卻暢通無(wú)阻。不過(guò)，以往研究也指出，部分平臺(tái)出于成本考慮采取簡(jiǎn)單粗暴的關(guān)鍵詞屏蔽，造成“誤傷”，或?yàn)榻档惋L(fēng)險(xiǎn)而過(guò)度屏蔽和刪除。④" ④劉文杰：《網(wǎng)絡(luò)暴力中個(gè)體維權(quán)困境與平臺(tái)安全保障義務(wù)》，《國(guó)家檢察官學(xué)院學(xué)報(bào)》2023年第5期，第39-57頁(yè)。因此，提高對(duì)暴力信息的識(shí)別精度，對(duì)于網(wǎng)暴的事前預(yù)防非常關(guān)鍵，從當(dāng)前的平臺(tái)文件來(lái)看，沒(méi)有平臺(tái)詳細(xì)說(shuō)明內(nèi)容識(shí)別和過(guò)濾的尺度。

對(duì)于網(wǎng)暴信息，部分平臺(tái)在信息發(fā)出端和接收端分別發(fā)送了違規(guī)警告和風(fēng)險(xiǎn)提示。從發(fā)出端來(lái)看，與超過(guò)半數(shù)的違規(guī)評(píng)論被攔截形成對(duì)比的是，系統(tǒng)僅對(duì)19條（25.3%）信息發(fā)出了違規(guī)警告，其中，快手（5/5）、百度貼吧（5/5）和YY（4/5）的警告比率最高，嗶哩嗶哩、斗魚(yú)等八個(gè)平臺(tái)則完全沒(méi)有警告；而向施暴者發(fā)出的信息發(fā)送失敗提示數(shù)量更少（8/75，10.7%），僅斗魚(yú)對(duì)其攔截的所有信息都發(fā)出了發(fā)送失敗提示。這意味著，網(wǎng)暴實(shí)施者未被有效提醒或警示。盡管較少的系統(tǒng)提示能提升用戶(hù)使用體驗(yàn)，但從網(wǎng)暴防治的角度看，對(duì)違規(guī)內(nèi)容“悄無(wú)聲息”的攔截不利于用戶(hù)對(duì)自身施暴行為的認(rèn)知，不利于減少未來(lái)潛在的違規(guī)言論。從接收端看，雖然絕大多數(shù)平臺(tái)未提示用戶(hù)收到違規(guī)評(píng)論（僅抖音提示），但有14條違規(guī)評(píng)論會(huì)出現(xiàn)在用戶(hù)的消息提醒中（收到評(píng)論提醒，但不展示內(nèi)容），這仍可能向用戶(hù)傳達(dá)出其被發(fā)送了違規(guī)評(píng)論的模糊信息。從保護(hù)用戶(hù)的角度看，被發(fā)送了違規(guī)評(píng)論的用戶(hù)或許無(wú)須被提醒，提示風(fēng)險(xiǎn)反而可能對(duì)其造成困擾。

向用戶(hù)倡導(dǎo)正向內(nèi)容和參與，以及告知用戶(hù)應(yīng)對(duì)網(wǎng)暴的功能，也是重要的事前預(yù)防舉措。大部分平臺(tái)都在文件中描繪了理想社區(qū)氛圍，健康、友善、和諧、清朗、綠色等指向“生態(tài)主題”的詞語(yǔ)出現(xiàn)頻率較高（圖1）；作為網(wǎng)絡(luò)暴力的對(duì)照組，這類(lèi)描述提示用戶(hù)應(yīng)該如何行動(dòng)，也增強(qiáng)了平臺(tái)懲戒暴力行為的合法性。此外，不少平臺(tái)在完善反網(wǎng)暴功能的同時(shí)，也發(fā)布了防網(wǎng)暴指南手冊(cè)、維權(quán)指引等，以圖文、短視頻等方式向用戶(hù)科普應(yīng)對(duì)網(wǎng)暴的措施。但本研究發(fā)現(xiàn)，這些包含倡導(dǎo)鼓勵(lì)和宣教信息的文件大多未出現(xiàn)在網(wǎng)站或客戶(hù)端的顯著位置，未得到平臺(tái)的廣泛推送，這導(dǎo)致防暴信息不能有效到達(dá)用戶(hù)，反網(wǎng)暴功能無(wú)法真正發(fā)揮作用。

（二）事中干預(yù)處置：一鍵防護(hù)設(shè)置路徑復(fù)雜，處理舉報(bào)的精度和速度需提升

網(wǎng)信辦《關(guān)于切實(shí)加強(qiáng)網(wǎng)絡(luò)暴力治理的通知》要求平臺(tái)設(shè)置一鍵防護(hù)功能、優(yōu)化私信規(guī)則、建立快速舉報(bào)通道，以強(qiáng)化對(duì)當(dāng)事人的保護(hù)。在眾多阻斷功能中，一鍵防護(hù)最為便捷有力。在本研究關(guān)注的15個(gè)平臺(tái)中，有12個(gè)平臺(tái)設(shè)置了此項(xiàng)功能。①" ①該功能的具體名稱(chēng)包括“一鍵防護(hù)”“一鍵防網(wǎng)暴”“應(yīng)急防護(hù)”等，但百度貼吧的該功能按鍵并不包含“一鍵”或“應(yīng)急”等字眼，而僅僅是在隱私設(shè)置中關(guān)閉“接收陌生人消息”。在設(shè)置方式上，用戶(hù)至少要按照“我的→設(shè)置→隱私設(shè)置→一鍵防護(hù)”的路徑點(diǎn)擊4次才能啟動(dòng)該功能，嗶哩嗶哩、豆瓣和快手都需要在點(diǎn)擊“一鍵防護(hù)”后再次確認(rèn)才能真正啟動(dòng)功能，最多需點(diǎn)擊6次；在抖音，用戶(hù)則需在搜索框中輸入“網(wǎng)暴”二字，再點(diǎn)擊兩次按鈕才能開(kāi)啟，設(shè)置難度更大。此外，各平臺(tái)一鍵防護(hù)功能的具體內(nèi)涵也不一致，但基本包含陌生人不可以評(píng)論/發(fā)彈幕/私信等，并不同程度地包含轉(zhuǎn)發(fā)/分享、搜索用戶(hù)名和加好友方面的限制②" ②由于版面限制，“各平臺(tái)‘一鍵防護(hù)’功能的便捷度和內(nèi)容”測(cè)試結(jié)果，讀者可于https：//github.com/sophielan24/Platform-governance-policies-analysis-in-China查閱。，其中，微博、小紅書(shū)和豆瓣的防護(hù)功能更齊全，保護(hù)力度更強(qiáng)。從保護(hù)時(shí)間來(lái)看，微博、小紅書(shū)等六個(gè)平臺(tái)設(shè)置了一鍵防護(hù)的默認(rèn)時(shí)限（大多為7天）；過(guò)了時(shí)限，防護(hù)功能就自動(dòng)解除。

在未提供一鍵防護(hù)功能的平臺(tái)中，陌陌和Lofter的用戶(hù)需要在“隱私設(shè)置”或者“屏蔽設(shè)置”中逐一開(kāi)啟陌生人不能評(píng)論、私信、轉(zhuǎn)發(fā)等功能，YY則需要用戶(hù)達(dá)到一定等級(jí)才能在直播中開(kāi)啟防打擾特權(quán)。其他提供了一鍵防護(hù)功能的平臺(tái)也大多設(shè)置有單獨(dú)的評(píng)論轉(zhuǎn)發(fā)管理、私信設(shè)置、黑名單和關(guān)鍵詞屏蔽等阻斷功能，但其政策文件并未充分提及，這也反映出平臺(tái)在指引用戶(hù)加強(qiáng)自我保護(hù)方面的不足。

用戶(hù)標(biāo)記是當(dāng)前在線(xiàn)內(nèi)容治理的重要輔助手段，普通用戶(hù)可作為公共利益的代理人規(guī)范他人的行為，在我國(guó)常被稱(chēng)作“投訴舉報(bào)”。③" ③易前良、唐芳云：《平臺(tái)化背景下我國(guó)網(wǎng)絡(luò)在線(xiàn)內(nèi)容治理的新模式》，《現(xiàn)代傳播（中國(guó)傳媒大學(xué)學(xué)報(bào)）》2021年第1期，第13-20頁(yè)。面對(duì)已發(fā)生的網(wǎng)絡(luò)暴力，各平臺(tái)基本都設(shè)置了一鍵取證/快速舉報(bào)功能，特別是微博、快手、豆瓣和今日頭條等平臺(tái)制定了指引投訴流程和解釋投訴規(guī)則的專(zhuān)項(xiàng)文件。舉報(bào)違規(guī)信息通常較便捷，用戶(hù)僅需對(duì)某條評(píng)論或私信等點(diǎn)擊“舉報(bào)”按鈕并選擇投訴理由即可，毋需額外證明材料。Soul、YY、斗魚(yú)、虎撲、今日頭條等平臺(tái)點(diǎn)擊2次就可完成舉報(bào)，抖音和知乎需點(diǎn)擊5次。各平臺(tái)根據(jù)自身內(nèi)容和功能偏向設(shè)置了差異化的投訴理由④" ④如嗶哩嗶哩與影視作品密切相關(guān)，其彈幕投訴理由包含了“劇透”“視頻無(wú)關(guān)”等選項(xiàng)；小紅書(shū)強(qiáng)調(diào)其筆記文圖內(nèi)容的原創(chuàng)性，其筆記投訴理由包含“搬運(yùn)抄襲洗稿”等選項(xiàng)。；在同一平臺(tái)上，舉報(bào)評(píng)論、彈幕等公開(kāi)信息與舉報(bào)私信的理由分類(lèi)也有差別，整體來(lái)說(shuō)，私信舉報(bào)的理由分類(lèi)更精簡(jiǎn)，這或許跟私信的非公開(kāi)屬性、影響面較小有關(guān)。⑤" ⑤例如，在微博上，相比于私信的投訴理由僅包括“網(wǎng)絡(luò)暴力”“人身攻擊”“違法信息”“違規(guī)營(yíng)銷(xiāo)”和“騷擾我”，對(duì)公開(kāi)微博的投訴理由還包括“涉黃信息”“不良價(jià)值導(dǎo)向”“飯圈違規(guī)”等。絕大部分平臺(tái)文件未具體說(shuō)明投訴理由的分類(lèi)，僅微博在《投訴操作細(xì)則》中有相對(duì)詳細(xì)的解釋。

如果投訴內(nèi)容涉及侵害個(gè)人權(quán)益，投訴流程就會(huì)比較復(fù)雜，一般需要在線(xiàn)填寫(xiě)投訴單，并提供投訴主體的身份證明材料（如身份證）以及經(jīng)過(guò)公證或加蓋公章的侵權(quán)證明材料。然而，對(duì)網(wǎng)暴受害者而言，繁瑣的舉證流程會(huì)增加其舉報(bào)維權(quán)的難度，加重其心理負(fù)擔(dān)。網(wǎng)暴受害者鄭靈華就曾表示，在遭網(wǎng)暴后的維權(quán)進(jìn)程中，“要和某些平臺(tái)繁瑣甚至‘故意為難’用戶(hù)的投訴規(guī)則斗智斗勇”，“有平臺(tái)的網(wǎng)絡(luò)投訴入口十分難找，她通過(guò)搜索才發(fā)現(xiàn)那個(gè)幾近透明的按鈕，平臺(tái)還需要她提交身份證正反面照片以及加蓋公章的相關(guān)函件”。⑥" ⑥耿學(xué)清：《她只是染了粉紅色頭發(fā)》，《中國(guó)青年報(bào)》2022年7月27日，第6版。

在處理投訴的時(shí)限方面，僅快手明確表示會(huì)在24小時(shí)內(nèi)受理。本研究測(cè)試數(shù)據(jù)顯示，除YY、Lofter和豆瓣，其他12個(gè)平臺(tái)均對(duì)舉報(bào)做出了反饋，反饋時(shí)長(zhǎng)從1分鐘到25小時(shí)不等，其中小紅書(shū)、知乎和斗魚(yú)的反饋時(shí)間均為1分鐘，嗶哩嗶哩和微博的反饋速度也較快，通常在10分鐘左右回復(fù)。那些較直接的暴力言論通常會(huì)被快速回復(fù)，對(duì)較隱晦的暴力信息舉報(bào)的回復(fù)速度更慢。以今日頭條為例，其回復(fù)時(shí)間快則5分鐘，慢則24小時(shí)。就反饋方式而言，絕大多數(shù)平臺(tái)通過(guò)私信反饋處理結(jié)果，今日頭條由于沒(méi)有私信功能，用戶(hù)需要在專(zhuān)門(mén)的舉報(bào)頁(yè)面查看處理結(jié)果。

從處理結(jié)果來(lái)看，平臺(tái)大多能將明顯包含辱罵、歧視的內(nèi)容判定為違規(guī)，而那些陰陽(yáng)怪氣或者使用了特殊字符或表情的內(nèi)容更難被判為違規(guī)。不同平臺(tái)的評(píng)判尺度也存在差異，例如，微博和貼吧對(duì)一些明顯具有暴力性質(zhì)的舉報(bào)內(nèi)容也并不判為違規(guī)，嗶哩嗶哩、Soul、抖音的評(píng)判尺度則更加嚴(yán)格。除了判定結(jié)果外，平臺(tái)的反饋還會(huì)不同程度地提及違規(guī)用戶(hù)名、舉報(bào)時(shí)間、判定緣由/違規(guī)理由等內(nèi)容，相較于其他信息，判定緣由/違規(guī)理由較少被提及。

（三）事后懲治救助：懲治告知不明確，救助措施不足

各平臺(tái)的網(wǎng)暴懲治措施比較統(tǒng)一和明確，主要是刪除相關(guān)內(nèi)容，對(duì)相關(guān)賬號(hào)實(shí)施警告、禁言、關(guān)閉、扣除收益、注銷(xiāo)，全網(wǎng)禁止注冊(cè)新賬號(hào)，以及在官方賬號(hào)定期發(fā)布網(wǎng)絡(luò)暴力治理公告等；如果相關(guān)信息及行為涉及違反法律、侵害公民人身權(quán)益等，平臺(tái)會(huì)向相關(guān)部門(mén)報(bào)告。在本研究的測(cè)試中，對(duì)于被判違規(guī)的信息，平臺(tái)大多會(huì)在反饋中明確提及已刪除違規(guī)信息，Soul和虎撲僅模糊地提及“處理”，“限制該貼的后續(xù)發(fā)放”或者“吧主會(huì)根據(jù)版規(guī)處理”等，陌陌還會(huì)在反饋中提到對(duì)發(fā)出違規(guī)言論者進(jìn)行警告。

盡管所有平臺(tái)的文件都提及上述懲治措施，但大多未提供有關(guān)網(wǎng)暴評(píng)判標(biāo)準(zhǔn)和相應(yīng)處罰方式的細(xì)則。少量平臺(tái)有模糊的說(shuō)明，如斗魚(yú)將違規(guī)行為及相關(guān)處罰措施劃分為嚴(yán)重違規(guī)和一般違規(guī)，并對(duì)直播間實(shí)行量化計(jì)分/扣分，但未說(shuō)明具體的扣分規(guī)則；陌陌指出對(duì)屢犯或情節(jié)嚴(yán)重者，將禁用賬號(hào)的部分功能直至永久封禁賬號(hào)，但對(duì)“屢犯或情節(jié)嚴(yán)重”同樣未做解釋。YY和Soul較明確地表述了其懲治規(guī)則：YY針對(duì)社區(qū)頻道、主播及社區(qū)用戶(hù)分別制定了違規(guī)管理規(guī)則，并明確說(shuō)明了不同違規(guī)行為對(duì)應(yīng)的處罰等級(jí)，其中用戶(hù)的違規(guī)包括嚴(yán)重違規(guī)和一般違規(guī)，根據(jù)情節(jié)嚴(yán)重程度被處以?xún)鼋Y(jié)賬號(hào)7天（1級(jí)）到永久凍結(jié)賬號(hào)（5級(jí)）的處罰；Soul則將違規(guī)行為分為三個(gè)級(jí)別，分別對(duì)應(yīng)三級(jí)處罰。還有部分平臺(tái)制定了具體懲治細(xì)則，但僅作為內(nèi)部管理文件使用，如《2023微博網(wǎng)暴治理報(bào)告》顯示，微博2023年6月修訂了《微博平臺(tái)網(wǎng)絡(luò)暴力處置細(xì)則》，然而該細(xì)則在網(wǎng)絡(luò)上無(wú)法搜索到。不過(guò)，也有學(xué)者質(zhì)疑這種將網(wǎng)絡(luò)暴力分級(jí)或量化的處理方式，認(rèn)為其簡(jiǎn)化了網(wǎng)絡(luò)暴力復(fù)雜的表現(xiàn)形式。①" ①DeCook J R，et al.Safe from “harm”：The governance of violence by platforms.Policy amp; Internet，2020，14（1），pp.63-78.

與懲治措施相比，平臺(tái)的救助措施較疲軟。僅小紅書(shū)、嗶哩嗶哩和抖音的文件提及對(duì)網(wǎng)暴受害者的關(guān)懷措施。這可能與管理部門(mén)對(duì)平臺(tái)治理提出的主體責(zé)任不包括救助受害者有關(guān)，而在平衡商業(yè)利益和公共利益的過(guò)程中，平臺(tái)優(yōu)先考慮的是在規(guī)避法律風(fēng)險(xiǎn)、回應(yīng)管理部門(mén)和輿論要求的前提下控制治理成本。誠(chéng)然，救助受害者并非平臺(tái)義務(wù)，但如果平臺(tái)能與社會(huì)力量加強(qiáng)協(xié)作，在受害者和心理救助組織之間搭建橋梁，無(wú)疑有利于及時(shí)識(shí)別受害人抑郁、輕生等心理困境，也有助于平臺(tái)避免因網(wǎng)暴受害者的遭遇而被推上輿論中心。

（四）常態(tài)化治理機(jī)制：用戶(hù)角色有待強(qiáng)化，對(duì)未成年人的保護(hù)措施有待改善

除了上述由平臺(tái)主導(dǎo)的事前—事中—事后措施，建立多元主體參與的常態(tài)化配套治理機(jī)制也很必要。作為數(shù)字社區(qū)，平臺(tái)應(yīng)積極邀請(qǐng)社區(qū)成員參與治理，這有助于減少用戶(hù)對(duì)平臺(tái)治理中“黑箱”操作的質(zhì)疑，也有利于平臺(tái)減輕人工審核及技術(shù)過(guò)濾的負(fù)擔(dān)，提升治理有效性。當(dāng)前，各平臺(tái)尚未充分實(shí)施“用戶(hù)協(xié)管員”制度，但部分平臺(tái)的探索仍有借鑒意義。如微博2017年9月起開(kāi)始實(shí)行微博社區(qū)志愿者（微博監(jiān)督員）制度，通過(guò)開(kāi)展線(xiàn)上線(xiàn)下交流培訓(xùn)、微博會(huì)員、發(fā)放現(xiàn)金獎(jiǎng)勵(lì)等方式鼓勵(lì)滿(mǎn)足一定條件的志愿者對(duì)平臺(tái)中的違法有害信息進(jìn)行投訴；在此基礎(chǔ)上，微博還實(shí)行社區(qū)委員會(huì)制度，招募微博信用歷史分為滿(mǎn)分、通過(guò)資格測(cè)試的用戶(hù)，組成社區(qū)委員會(huì)，對(duì)部分用戶(hù)投訴是否成立進(jìn)行“眾裁”投票，為平臺(tái)處置提供裁決依據(jù)。

在平臺(tái)中，賬號(hào)不僅是用戶(hù)活動(dòng)的前提，也決定了背后的主體通過(guò)平臺(tái)贏取社會(huì)資本、文化資本以及經(jīng)濟(jì)資本的可能性，因此，平臺(tái)應(yīng)該借助對(duì)賬號(hào)的動(dòng)態(tài)管理來(lái)鼓勵(lì)用戶(hù)參與網(wǎng)絡(luò)暴力治理。從平臺(tái)文件來(lái)看，已有部分平臺(tái)采取了相關(guān)措施，如知乎對(duì)用戶(hù)行為進(jìn)行智能識(shí)別和加權(quán)計(jì)算，形成了由基礎(chǔ)信用、內(nèi)容創(chuàng)作、友善互動(dòng)、遵守規(guī)范、社區(qū)建設(shè)五個(gè)維度構(gòu)成的“鹽值”體系，鹽值不僅對(duì)應(yīng)著不同的賬號(hào)權(quán)益和權(quán)限，還直接作用于內(nèi)容的推薦和賦權(quán)系統(tǒng)；根據(jù)知乎的說(shuō)明，盡管占比有限，但“鹽值”的每個(gè)維度都與鼓勵(lì)正向行為、反對(duì)網(wǎng)絡(luò)暴力相關(guān)。

此外，對(duì)未成年人的保護(hù)一直是網(wǎng)暴治理的重要環(huán)節(jié)。本研究發(fā)現(xiàn)，幾乎所有平臺(tái)都有針對(duì)未成年人的政策文件，但大多為兒童個(gè)人隱私保護(hù)政策，今日頭條、抖音和小紅書(shū)有專(zhuān)門(mén)的未成年人社區(qū)內(nèi)容管理規(guī)范，部分平臺(tái)發(fā)布了維護(hù)未成年人網(wǎng)絡(luò)安全的專(zhuān)項(xiàng)治理公告。具體而言，針對(duì)未成年人的政策大多聚焦色情低俗、侮辱欺凌、侵害隱私等網(wǎng)絡(luò)暴力，涉性?xún)?nèi)容大多作為第一條出現(xiàn)。不過(guò)，這些文件均沒(méi)有具體說(shuō)明如何加強(qiáng)對(duì)涉及未成年的網(wǎng)絡(luò)暴力治理。

五、超越看門(mén)人：從責(zé)任共同體到治理共同體

近年來(lái)，我國(guó)社交媒體平臺(tái)普遍重視對(duì)網(wǎng)絡(luò)暴力的治理，但各平臺(tái)對(duì)網(wǎng)絡(luò)暴力的界定內(nèi)涵模糊且邊界不清。一方面，法律法規(guī)未能對(duì)此提供明確的參考標(biāo)準(zhǔn)；另一方面，平臺(tái)也回避對(duì)網(wǎng)絡(luò)暴力進(jìn)行過(guò)于明確的定義，這有利于平臺(tái)靈活應(yīng)對(duì)圍繞網(wǎng)絡(luò)暴力的輿論，在周旋于各種利益之間時(shí)做出更有利于自身的選擇。①" ①DeCook J R，et al.Safe from “harm”：The governance of violence by platforms.Policy amp; Internet，2020，14（1），pp.63-78.在具體的治理措施上，平臺(tái)也未形成清晰的共識(shí)，未能向公眾有效傳播其反網(wǎng)暴舉措，使得包括公眾在內(nèi)的其他主體難以參與其中。這種各行其是的特征固然與各平臺(tái)的內(nèi)容形態(tài)、目標(biāo)用戶(hù)群體及隨之而來(lái)的差異化利益導(dǎo)向關(guān)系密切，但從結(jié)果看，這不僅影響公眾對(duì)網(wǎng)絡(luò)暴力的認(rèn)知，更限制了平臺(tái)間協(xié)同治理的可能性。

網(wǎng)絡(luò)暴力正成為全球性治理難題，結(jié)合我國(guó)的治理困境和域外治理經(jīng)驗(yàn)，平臺(tái)目前可從以下方面完善治理舉措。首先，對(duì)網(wǎng)絡(luò)暴力形成更清晰的定義和更具操作性的分類(lèi)。當(dāng)前人工智能技術(shù)越來(lái)越深地嵌入暴力信息的甄別，明確的定義和分類(lèi)關(guān)涉暴力信息能否在一開(kāi)始被攔截。其次，加強(qiáng)事前警告，平臺(tái)雖能攔截大部分暴力信息，但對(duì)發(fā)送者的警示力度不足，無(wú)法有效遏制潛在暴力信息的發(fā)送。研究表明，若用戶(hù)在發(fā)布冒犯性評(píng)論前受到警告，約50%的用戶(hù)會(huì)重新編輯或者刪除評(píng)論。②" ②Ghaffary S.Instagram’s surprising strategy for bullies：Tell them to be nice，Vox，2022-10-20.https：//www.vox.com/recode/2022/10/20/23413581/instagram-nudging-meta-creators-wellbeing-bullying-harassment.第三，提升反網(wǎng)暴信息的可見(jiàn)性，將反網(wǎng)暴工具或指南置于平臺(tái)中更容易找到的位置，例如，Instagram官網(wǎng)有兩處專(zhuān)題頁(yè)面告知用戶(hù)如何應(yīng)對(duì)網(wǎng)絡(luò)暴力：分別是“社區(qū)”標(biāo)簽下的“反霸凌”頁(yè)面和“幫助中心”里的“保持安全”（staying safe）專(zhuān)題。③" ③參見(jiàn)Instagram官網(wǎng)頁(yè)面：https：//about.instagram.com/community/anti-bullying，https：//help.instagram.com/.

具體功能的改進(jìn)固然能提升治理效果，但網(wǎng)絡(luò)暴力產(chǎn)生于復(fù)雜的媒介生態(tài)，涉及多元利益攸關(guān)方，因此，還需從全局視角出發(fā)，建立多元行動(dòng)者參與的網(wǎng)絡(luò)暴力治理機(jī)制。毋庸置疑，平臺(tái)在該治理機(jī)制中扮演著關(guān)鍵角色。我國(guó)的互聯(lián)網(wǎng)治理是一種授權(quán)的自我規(guī)制或政府監(jiān)管下的行業(yè)自我規(guī)制：治理權(quán)力被下放至平臺(tái)，后者被定性為“自媒體運(yùn)營(yíng)的服務(wù)提供者、自媒體行業(yè)秩序的維護(hù)者”，需要“積極履行平臺(tái)法律責(zé)任和社會(huì)責(zé)任”④" ④網(wǎng)絡(luò)傳播雜志：《“組合拳”治理自媒體亂象》，2019年3月20日，檢索于：https：//www.cac.gov.cn/2019-03/20/c_1124259403.htm.；而平臺(tái)出于自身運(yùn)營(yíng)和管理的需求，亦要開(kāi)展治理工作。即網(wǎng)絡(luò)暴力治理既是國(guó)家意志下縱向到底的義務(wù)性治理責(zé)任，又是以平臺(tái)自身為中心、以自我服務(wù)和自我管理為目標(biāo)的橫向到邊的自治性治理責(zé)任。⑤" ⑤張大維、趙益晨：《責(zé)任聯(lián)結(jié)：社區(qū)治理共同體運(yùn)轉(zhuǎn)的機(jī)制塑造與實(shí)踐進(jìn)路——基于老舊小區(qū)改造的案例比較》，《求實(shí)》2023年第6期，第65-78頁(yè)。在這一責(zé)任共識(shí)基礎(chǔ)上，平臺(tái)有必要建立“責(zé)任聯(lián)結(jié)機(jī)制”，形成網(wǎng)絡(luò)暴力治理的責(zé)任共同體。這不僅有助于明確平臺(tái)作為治理主體的責(zé)任定位，更有利于塑造平臺(tái)間的共同價(jià)值理念與行動(dòng)實(shí)踐，緩解其利益沖突和規(guī)制差異。具體來(lái)說(shuō)，平臺(tái)首先應(yīng)明確網(wǎng)絡(luò)暴力治理的共同體目標(biāo)，就治理的權(quán)責(zé)邊界達(dá)成共識(shí)；繼而在目標(biāo)框架下，以相關(guān)法律法規(guī)和政策為指導(dǎo)，明確網(wǎng)絡(luò)暴力的內(nèi)涵和邊界，建立基本的行業(yè)治理標(biāo)尺；在此基礎(chǔ)上，各平臺(tái)可靈活根據(jù)自身特征提出針對(duì)性治理措施，并基于實(shí)踐經(jīng)驗(yàn)反哺共同體的治理標(biāo)準(zhǔn)。

隨著社交媒體平臺(tái)的“基礎(chǔ)設(shè)施化”，網(wǎng)絡(luò)暴力所觸及的范圍及產(chǎn)生的影響都在不斷擴(kuò)大，因此，除了平臺(tái)，政府、普通用戶(hù)、學(xué)校、心理和法律援助機(jī)構(gòu)等多元主體也應(yīng)該樹(shù)立對(duì)網(wǎng)暴治理的責(zé)任意識(shí)。覆蓋全社會(huì)的責(zé)任共識(shí)有助于建立主體有責(zé)、行動(dòng)盡責(zé)、善治履責(zé)的“責(zé)任共同體”①" ①姬贇璐、王東：《責(zé)任共同體：社區(qū)治理共同體的內(nèi)生邏輯及構(gòu)建路徑》，《重慶工商大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》2022年第1期，136-145頁(yè)。，這也正是黨的二十大報(bào)告指出的“建設(shè)人人有責(zé)、人人盡責(zé)、人人享有的社會(huì)治理共同體”②" ②習(xí)近平：《高舉中國(guó)特色社會(huì)主義偉大旗幟 為全面建設(shè)社會(huì)主義現(xiàn)代化國(guó)家而團(tuán)結(jié)奮斗——在中國(guó)共產(chǎn)黨第二十次全國(guó)代表大會(huì)上的報(bào)告》，人民出版社2022年版，第54頁(yè)。的重要前提和根本內(nèi)核。從治理主體上看，要形成政府主導(dǎo)、平臺(tái)負(fù)責(zé)、多元主體共同參與的協(xié)同治理格局，除平臺(tái)這一看門(mén)人之外，向上需要作為治理真正主導(dǎo)者的政府完善法律法規(guī)，特別是當(dāng)前“問(wèn)題導(dǎo)向下的網(wǎng)絡(luò)社會(huì)治理頂層制度設(shè)計(jì)和基礎(chǔ)性法律規(guī)范制定存在‘頭疼醫(yī)頭、腳疼醫(yī)腳’被動(dòng)跟進(jìn)、應(yīng)急出臺(tái)現(xiàn)象”③" ③徐漢明、張新平：《網(wǎng)絡(luò)社會(huì)治理的法治模式》，《中國(guó)社會(huì)科學(xué)》2018年第2期，第48-71頁(yè)。，厘定網(wǎng)絡(luò)暴力各攸關(guān)方的權(quán)責(zé)邊界，在政府和平臺(tái)企業(yè)之間建立柔性回應(yīng)機(jī)制，解決行政指令與企業(yè)成本之間的沖突，以及過(guò)分依賴(lài)政府高強(qiáng)度的“負(fù)激勵(lì)”等問(wèn)題；向下則要激活和調(diào)動(dòng)用戶(hù)以及其他社會(huì)機(jī)構(gòu)在協(xié)同治理中的能動(dòng)性，形成用戶(hù)反哺社區(qū)的良性生態(tài)。

概言之，對(duì)平臺(tái)網(wǎng)絡(luò)暴力的治理作為互聯(lián)網(wǎng)治理的重要構(gòu)成，應(yīng)當(dāng)從宣教走向協(xié)作，從封閉走向開(kāi)放，從單一主體走向多元主體，不斷凝聚各方社會(huì)力量，在責(zé)任共識(shí)的基礎(chǔ)上，形成共建、共治、共享的治理共同體。

[責(zé)任編輯：其 時(shí)]

“Beyond Gatekeepers”：A Comparative Analysis on Cyber Violence Governance on China’s Social Media Platforms

HU Cen-cen1 HUANG Ya-lan2

（1.School of Jounalism and Communication，Beijing Sport University，Beijing 100084，China;

（2.School of Jounalism and Communication，Jinan University，Guangzhou Guangdong 510647，China）

Abstract：This article examines the regulatory policies of 15 major social media platforms through a content analysis of 209 platform documents on cyber violence and a review of their actual effectiveness.The paper finds that most of the platforms do not clearly define cyberviolence，but rather take it for granted.All platforms have policies in place before，during and after an incident.However，the actual scope of governance varies，and the effectiveness of governance is limited due to the following problems：screening and warning of illegal content is insufficient，one-click protection setting is too complicated，accuracy and speed of response to user reports need to be improved，and care and rescue measures are insufficient.Finally，we propose several specific ways to improve platform governance and establish a community of shared responsibility and governance with multiple stakeholders to address the problem of cyber violence.

Key words：cyber violence;social media;internet governance;platform policy;gatekeepers