摘要：隨著互聯(lián)網(wǎng)和信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)內(nèi)容呈現(xiàn)爆發(fā)式增長(zhǎng)，“人人都有麥克風(fēng)，人人都是自媒體”。UGC（用戶生產(chǎn)內(nèi)容）的模式讓互聯(lián)網(wǎng)內(nèi)容更加豐富的同時(shí)，也帶來了內(nèi)容良莠不齊的嚴(yán)峻問題。互聯(lián)網(wǎng)內(nèi)容治理成為擺在管理部門面前一項(xiàng)重要而緊迫的課題。本文探討了互聯(lián)網(wǎng)企業(yè)應(yīng)發(fā)揮平臺(tái)責(zé)任，在政策學(xué)習(xí)和理解、制度建設(shè)以及應(yīng)用科技手段方面進(jìn)行內(nèi)容治理的一些思考。

關(guān)鍵詞：平臺(tái)責(zé)任；內(nèi)容治理；落實(shí)政策；建立機(jī)制；科技手段

引言

隨著信息技術(shù)的發(fā)展和手機(jī)等智能終端的普及，各種自媒體傳播方式不斷出現(xiàn)，互聯(lián)網(wǎng)已經(jīng)進(jìn)入“自媒體”時(shí)代，互聯(lián)網(wǎng)內(nèi)容呈現(xiàn)爆發(fā)式增長(zhǎng)，UGC的模式讓互聯(lián)網(wǎng)內(nèi)容更加豐富，但同時(shí)也帶來了良莠不齊的嚴(yán)峻問題。黨的十八大以來，黨中央和國務(wù)院多次強(qiáng)調(diào)互聯(lián)網(wǎng)的發(fā)展要“依法治網(wǎng)、依法辦網(wǎng)、依法上網(wǎng)，讓互聯(lián)網(wǎng)在法治軌道上健康運(yùn)行”。習(xí)近平總書記在“4·19”重要講話[1]中指出，“網(wǎng)絡(luò)空間是億萬民眾共同的精神家園。網(wǎng)絡(luò)空間天朗氣清、生態(tài)良好，符合人民利益。網(wǎng)絡(luò)空間烏煙瘴氣、生態(tài)惡化，不符合人民利益”。“我們要本著對(duì)社會(huì)負(fù)責(zé)、對(duì)人民負(fù)責(zé)的態(tài)度，依法加強(qiáng)網(wǎng)絡(luò)空間治理，加強(qiáng)網(wǎng)絡(luò)內(nèi)容建設(shè)，做強(qiáng)網(wǎng)上正面宣傳，培育積極健康、向上向善的網(wǎng)絡(luò)文化，用社會(huì)主義核心價(jià)值觀和人類優(yōu)秀文明成果滋養(yǎng)人心、滋養(yǎng)社會(huì)，做到正能量充沛、主旋律高昂，為廣大網(wǎng)民特別是青少年?duì)I造一個(gè)風(fēng)清氣正的網(wǎng)絡(luò)空間。”“網(wǎng)絡(luò)安全是共同的而不是孤立的。網(wǎng)絡(luò)安全為人民，網(wǎng)絡(luò)安全靠人民，維護(hù)網(wǎng)絡(luò)安全是全社會(huì)共同責(zé)任，需要政府、企業(yè)、社會(huì)組織、廣大網(wǎng)民共同參與，共筑網(wǎng)絡(luò)安全防線。”互聯(lián)網(wǎng)企業(yè)作為互聯(lián)網(wǎng)內(nèi)容平臺(tái)的運(yùn)營主體，必須提高認(rèn)識(shí)、加大力度，承擔(dān)主體責(zé)任。平臺(tái)運(yùn)營主體必須在互聯(lián)網(wǎng)內(nèi)容治理中發(fā)揮關(guān)鍵作用。

1. 正視問題以高度責(zé)任感擔(dān)起內(nèi)容安全主責(zé)

互聯(lián)網(wǎng)企業(yè)作為提供內(nèi)容傳播的平臺(tái)和渠道，應(yīng)該以高度的責(zé)任感來承擔(dān)互聯(lián)網(wǎng)內(nèi)容治理和凈化的職責(zé)。近年來，網(wǎng)站平臺(tái)積極履行信息內(nèi)容管理主體責(zé)任，在保障信息安全、規(guī)范傳播秩序、維護(hù)良好生態(tài)等方面，發(fā)揮了主體作用。但是，也有部分網(wǎng)站平臺(tái)仍存在責(zé)任認(rèn)識(shí)不充分、角色定位不準(zhǔn)確、履職盡責(zé)不到位、制度機(jī)制不完善、管理操作不規(guī)范等問題，一定程度上導(dǎo)致了違法和不良信息禁而不絕，網(wǎng)絡(luò)生態(tài)問題時(shí)有發(fā)生。

1.1 樹立正確導(dǎo)向，加強(qiáng)黨建引領(lǐng)

作為以內(nèi)容為主業(yè)的企業(yè)，內(nèi)容安全是生命線。必須堅(jiān)持政治站位，持續(xù)強(qiáng)化政治導(dǎo)向，堅(jiān)持學(xué)習(xí)貫徹黨的會(huì)議精神和政策方針。始終堅(jiān)持正確的政治方向、輿論導(dǎo)向和價(jià)值取向，確保內(nèi)容安全。企業(yè)應(yīng)加強(qiáng)員工的思想政治教育，切實(shí)提升政治意識(shí)和業(yè)務(wù)能力，進(jìn)一步嚴(yán)格把好政治關(guān)、導(dǎo)向關(guān)。有條件的互聯(lián)網(wǎng)企業(yè)根據(jù)人數(shù)應(yīng)該開展黨組織生活，成立黨小組、黨支部、黨總支乃至黨委各層級(jí)的黨的組織機(jī)構(gòu)。充分發(fā)揮基層黨組織戰(zhàn)斗堡壘作用和共產(chǎn)黨員先鋒模范作用，提高政治站位，增強(qiáng)政治覺悟，強(qiáng)化責(zé)任擔(dān)當(dāng)。

1.2 貫徹政策要求，認(rèn)真對(duì)標(biāo)對(duì)表

近年來，國家出臺(tái)一系列與互聯(lián)網(wǎng)安全相關(guān)的政策文件。2020年3月1日開始施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，明確了正能量信息、違法信息和不良信息的具體范圍，明確網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者應(yīng)當(dāng)遵守法律法規(guī)，遵循公序良俗，不得損害國家利益、公共利益和他人合法權(quán)益，不得制作、復(fù)制、發(fā)布違法信息。應(yīng)當(dāng)采取措施，防范和抵制制作、復(fù)制、發(fā)布不良信息[2]。2021年9月，國家網(wǎng)信辦發(fā)布《關(guān)于進(jìn)一步壓實(shí)網(wǎng)站平臺(tái)信息內(nèi)容主體責(zé)任的意見》，首次系統(tǒng)提出網(wǎng)站平臺(tái)履行信息內(nèi)容管理主體責(zé)任的工作要求，從完善平臺(tái)社區(qū)規(guī)則、加強(qiáng)賬號(hào)規(guī)范管理、健全內(nèi)容審核機(jī)制、提升信息內(nèi)容質(zhì)量、規(guī)范信息內(nèi)容傳播、加強(qiáng)重點(diǎn)功能管理、堅(jiān)持依法合規(guī)經(jīng)營、嚴(yán)格未成年人網(wǎng)絡(luò)保護(hù)、加強(qiáng)人員隊(duì)伍建設(shè)等9個(gè)方面，對(duì)網(wǎng)站平臺(tái)履行主體責(zé)任提出具體要求。作為內(nèi)容治理的主體，網(wǎng)站平臺(tái)應(yīng)嚴(yán)格按照相關(guān)政策要求，擔(dān)當(dāng)作為、履職盡責(zé)，切實(shí)發(fā)揮好網(wǎng)站平臺(tái)信息內(nèi)容管理第一責(zé)任人的作用。

2. 建章立制，以完善的機(jī)制為內(nèi)容治理夯基架梁

加強(qiáng)網(wǎng)絡(luò)內(nèi)容安全建設(shè)，加強(qiáng)風(fēng)險(xiǎn)防控，已成為互聯(lián)網(wǎng)行業(yè)的必然要求。互聯(lián)網(wǎng)企業(yè)應(yīng)高度重視安全建設(shè)，定期舉辦包括公司管理層參與的專項(xiàng)培訓(xùn)活動(dòng)，特別是針對(duì)內(nèi)容安全管理方面，切實(shí)提升全員的安全責(zé)任意識(shí)。在體系建設(shè)方面，企業(yè)更應(yīng)全面從嚴(yán)，堅(jiān)持高標(biāo)準(zhǔn)、嚴(yán)要求。企業(yè)應(yīng)在遵守國家各項(xiàng)政策的基礎(chǔ)上，制定各項(xiàng)規(guī)章制度并落實(shí)執(zhí)行，例如總編輯負(fù)責(zé)制、多層級(jí)內(nèi)容審核機(jī)制、應(yīng)急管理及保障制度、安全巡檢制度等，從制度層面為企業(yè)的內(nèi)容安全管理工作保駕護(hù)航。

2.1 建立以總編責(zé)任制為根本的多層級(jí)審核制度

2016年，國家網(wǎng)信辦就互聯(lián)網(wǎng)從事新聞信息的網(wǎng)站專門提出了建立總編責(zé)任制的要求。總編輯要對(duì)新聞信息內(nèi)容的導(dǎo)向和創(chuàng)作生產(chǎn)傳播活動(dòng)負(fù)總責(zé)，完善總編輯及核心內(nèi)容管理人員任職、管理、考核與退出機(jī)制。2020年，《新聞出版署關(guān)于進(jìn)一步加強(qiáng)網(wǎng)絡(luò)文學(xué)出版管理的通知》中明確要求[3]，建立健全內(nèi)容審核機(jī)制，網(wǎng)絡(luò)文學(xué)出版單位須設(shè)立總編輯，建立健全編輯委員會(huì)，強(qiáng)化內(nèi)容把關(guān)職責(zé)，總編輯對(duì)涉及內(nèi)容導(dǎo)向問題的事項(xiàng)具有否決權(quán)，對(duì)發(fā)布作品的內(nèi)容質(zhì)量負(fù)總責(zé)。各類生產(chǎn)互聯(lián)網(wǎng)內(nèi)容的圖、文、音視頻等各類數(shù)字內(nèi)容的互聯(lián)網(wǎng)企業(yè)，包括網(wǎng)絡(luò)音樂、網(wǎng)絡(luò)動(dòng)漫、長(zhǎng)短視頻等各類平臺(tái)。這些平臺(tái)均應(yīng)建立總編責(zé)任制，總編輯作為網(wǎng)站內(nèi)容的第一負(fù)責(zé)人和總負(fù)責(zé)人。在此基礎(chǔ)上，建立多層級(jí)內(nèi)容審核機(jī)制。目前各類互聯(lián)網(wǎng)網(wǎng)站都已經(jīng)有內(nèi)容審核的相關(guān)工作，但在管理和要求上都不盡一致[4]。機(jī)制完善的網(wǎng)站大多建立了“三審”制度：編輯一審，責(zé)任編輯二審，分管領(lǐng)導(dǎo)三審?！叭龑彙敝贫戎?，以“人防”為主、“技防”為輔，兩相結(jié)合，取長(zhǎng)補(bǔ)短，最大程度消除內(nèi)容安全隱患[5]。

2.2 建立應(yīng)急管理制度

應(yīng)急管理制度是為了預(yù)防和控制潛在的事故或緊急情況發(fā)生時(shí)，做好應(yīng)急準(zhǔn)備和及時(shí)響應(yīng)，最大限度減輕可能產(chǎn)生的事故后果而制定的制度。各平臺(tái)企業(yè)應(yīng)建立應(yīng)急管理制度和制定完善的應(yīng)急預(yù)案，包括人員、應(yīng)急工作流程以及向上級(jí)匯報(bào)的渠道和途徑等各個(gè)方面，對(duì)于出現(xiàn)的疑似違規(guī)內(nèi)容，第一時(shí)間進(jìn)行證據(jù)保留并立即屏蔽和下架違規(guī)內(nèi)容，同時(shí)主動(dòng)向上級(jí)主管部門進(jìn)行匯報(bào)。

2.3 提升崗位能力模型建設(shè)

與普通管理崗位不同，安全問題可能隨時(shí)發(fā)生，這就給安全審核人員提出了更高更切實(shí)的要求，要有敏銳的觀察力和快速?zèng)Q策的能力，把安全問題降到最低程度。為此，各企業(yè)針對(duì)網(wǎng)絡(luò)安全人員特別是內(nèi)容安全審核人員建立了崗位能力模型建設(shè)，設(shè)置初級(jí)、中級(jí)、高級(jí)審核崗位，針對(duì)不同的崗位，制定明確的能力要求。初級(jí)審核員要求具備基本的內(nèi)容體系知識(shí)，能夠在指導(dǎo)下按既定的流程完成基本工作，解決常見問題；中級(jí)審核員要具備豐富的內(nèi)容安全體系知識(shí)，可獨(dú)立完成審核工作中各項(xiàng)流程，能夠準(zhǔn)備發(fā)現(xiàn)或識(shí)別明顯的內(nèi)容問題；高級(jí)審核員要求掌握領(lǐng)域內(nèi)專業(yè)知識(shí)，具備風(fēng)控意識(shí)，具備團(tuán)隊(duì)管理能力，有一定正確的判定能力，定方向、定策略、定節(jié)奏來完成工作任務(wù)。

2.4 完善安全巡檢制度

日常巡檢工作是發(fā)現(xiàn)風(fēng)險(xiǎn)隱患的有效手段，互聯(lián)網(wǎng)企業(yè)應(yīng)開展日常巡檢工作，包括查思想、查制度、查紀(jì)律、查管理、查措施、查隱患在內(nèi)的多項(xiàng)檢查工作。巡檢工作應(yīng)遵循“查漏補(bǔ)缺”的原則，突出“檢查的復(fù)查和落實(shí)”“管理的監(jiān)督和考核”，在巡檢過程中做到巡檢有記錄、檢查有目標(biāo)、查后有改進(jìn)，推動(dòng)內(nèi)容管理更加完善詳盡。

3. 人技結(jié)合，以技術(shù)反制技術(shù)，以人防強(qiáng)化技防

20多年來，我們的互聯(lián)網(wǎng)發(fā)展取得了一些技術(shù)方面的成就，但是同世界先進(jìn)水平相比，同建設(shè)網(wǎng)絡(luò)強(qiáng)國目標(biāo)相比，還是存在不小的差距，特別是在內(nèi)容審核技術(shù)成為保障互聯(lián)網(wǎng)健康發(fā)展重要手段的今天，適應(yīng)智能化、多模態(tài)、實(shí)時(shí)性的技術(shù)發(fā)展趨勢(shì)，應(yīng)對(duì)錯(cuò)判率、算法攻擊、多語種審核等技術(shù)挑戰(zhàn)，不斷提高內(nèi)容審核技術(shù)的精準(zhǔn)度和安全性，是每個(gè)互聯(lián)網(wǎng)企業(yè)持續(xù)攻關(guān)的重要課題。

3.1 利用人工智能、大數(shù)據(jù)技術(shù)強(qiáng)化機(jī)器審核內(nèi)容安全

目前市場(chǎng)上有專業(yè)公司提供機(jī)器進(jìn)行內(nèi)容審核的服務(wù)，各大互聯(lián)網(wǎng)企業(yè)平臺(tái)也都有自己的機(jī)器審核技術(shù)和平臺(tái)。各企業(yè)高度重視技術(shù)手段，運(yùn)用最新的技術(shù)進(jìn)行內(nèi)容的初篩與把控，建立敏感詞庫并隨時(shí)更新，利用技術(shù)手段提升審核能力與審核效率，形成覆蓋涉政、涉黃、涉恐、惡意推廣、低質(zhì)灌水、官方違禁內(nèi)容庫等多維度多層面的審核維度，為業(yè)務(wù)健康發(fā)展保駕護(hù)航。平臺(tái)公司應(yīng)加大技術(shù)研發(fā)和攻關(guān)，從語義分析、知識(shí)規(guī)則匹配、用戶分析、異常行為識(shí)別、命名實(shí)體識(shí)別、場(chǎng)景分析等多方面進(jìn)行綜合處理監(jiān)測(cè)，利用機(jī)器學(xué)習(xí)技術(shù)，將大量違規(guī)數(shù)據(jù)和正常數(shù)據(jù)提供給機(jī)器學(xué)習(xí)，通過機(jī)器強(qiáng)大的自學(xué)習(xí)能力，不斷提高鑒別的準(zhǔn)確度，向用戶標(biāo)準(zhǔn)靠近[6]。

3.2 建立人員配備充分、培訓(xùn)機(jī)制健全的組織架構(gòu)

內(nèi)容安全團(tuán)隊(duì)管理具有復(fù)雜度高、質(zhì)量要求高、業(yè)務(wù)分支多、人員數(shù)量多、跨地區(qū)溝通、協(xié)作頻繁、規(guī)則更新快等特點(diǎn)，這些復(fù)雜的情況給內(nèi)容安全審核業(yè)務(wù)的交付質(zhì)量增加了難度，也提出了很大的挑戰(zhàn)。各平臺(tái)企業(yè)應(yīng)建立合理的組織架構(gòu)，配備充分的人力保障內(nèi)容安全審核工作，配備與業(yè)務(wù)規(guī)模相適應(yīng)的編輯和安審人員，增加內(nèi)容審核人員數(shù)量[7]。同時(shí)，制定明確的培訓(xùn)計(jì)劃，可以建立月度培訓(xùn)會(huì)、一定范圍內(nèi)的雙周經(jīng)驗(yàn)交流會(huì)，以及有重大事項(xiàng)的專題培訓(xùn)會(huì)等，對(duì)各級(jí)編輯開展定期或不定期的培訓(xùn)，有針對(duì)性開展業(yè)務(wù)培訓(xùn)，持續(xù)提升能力素質(zhì)。

結(jié)語

網(wǎng)絡(luò)內(nèi)容治理是建設(shè)清朗網(wǎng)絡(luò)空間、營造良好輿論環(huán)境的重點(diǎn)內(nèi)容，關(guān)乎國家發(fā)展，關(guān)乎社會(huì)長(zhǎng)治久安，更關(guān)乎青少年健康成長(zhǎng)，樹立正確世界觀、人生觀、價(jià)值觀的重要事情，各互聯(lián)網(wǎng)平臺(tái)企業(yè)要在主管部門的指導(dǎo)下，積極承擔(dān)主體責(zé)任，擔(dān)當(dāng)作為，真抓實(shí)干，切實(shí)履行好內(nèi)容治理的責(zé)任和義務(wù)，為新時(shí)代網(wǎng)絡(luò)強(qiáng)國建設(shè)做出新貢獻(xiàn)。

參考文獻(xiàn)：

[1]習(xí)近平在網(wǎng)信工作座談會(huì)上的講話全文發(fā)表[EB/OL].（2016-4-19）[2016-4-25].http：//www.xinhuanet.com/politics/2016-04/25/c_1118731175.htm.

[2]國家互聯(lián)網(wǎng)信息辦公室.網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定[EB/OL].（2019-12-20）[2020-3-1].http：//www.cac.gov.cn/2019-12/20/c_1578375159509309.htm.

[3]新聞出版署關(guān)于進(jìn)一步加強(qiáng)網(wǎng)絡(luò)文學(xué)出版管理的通知（國新出發(fā)〔2020〕11號(hào)）[A/OL].（2020-6-5）[2023-8-15].https：//www.gov.cn/gongbao/content/2020/content_5551816.htm.

[4]陳璐穎.互聯(lián)網(wǎng)內(nèi)容治理中的平臺(tái)責(zé)任研究[J].出版發(fā)行研究，2020，（6）：12-18.

[5]張莉婧.出版融合背景下數(shù)字出版內(nèi)容審核策略[J].中國傳媒科技，2020，（7）： 17-20.

[6]陳奎蓮.AI在數(shù)字出版內(nèi)容審核中的應(yīng)用研究[J].出版廣角，2020，（10）：15-18.

[7]孫群.自媒體內(nèi)容安全審查邏輯與發(fā)展空間[J].青年記者，2019，（2）：83-84.

作者簡(jiǎn)介：郭棟，碩士研究生，副編審。