摘 要：在傳統(tǒng)犯罪和網(wǎng)絡(luò)犯罪此消彼長(zhǎng)的背景下，新型網(wǎng)絡(luò)犯罪寄生于互聯(lián)網(wǎng)平臺(tái)運(yùn)營(yíng)的平臺(tái)生態(tài)系統(tǒng)之中。鑒于平臺(tái)承擔(dān)保障網(wǎng)絡(luò)安全的主體責(zé)任、負(fù)有防范用戶被害的道德義務(wù)及具備獨(dú)特的治理優(yōu)勢(shì)，“基于平臺(tái)的治理”隨之興起。犯罪之平臺(tái)治理不僅有充分的事實(shí)和政策基礎(chǔ)，還有其獨(dú)特的規(guī)范依據(jù)。《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見(jiàn)稿）》《反電信網(wǎng)絡(luò)詐騙法（草案）》等法規(guī)范在概括性的安全保護(hù)義務(wù)基礎(chǔ)上，為平臺(tái)設(shè)定了專門的犯罪控制義務(wù)，要求平臺(tái)針對(duì)利用其服務(wù)實(shí)施的違法犯罪，履行以主動(dòng)控制和響應(yīng)控制為內(nèi)涵、以犯罪風(fēng)險(xiǎn)規(guī)避為目標(biāo)、以非法內(nèi)容審查為路徑、以勤勉盡責(zé)為標(biāo)準(zhǔn)的法定注意義務(wù)。由此，平臺(tái)對(duì)犯罪控制義務(wù)的勤勉盡責(zé)履行成為平臺(tái)治理的基本實(shí)現(xiàn)路徑。

關(guān)鍵詞：網(wǎng)絡(luò)犯罪;犯罪治理;平臺(tái)治理;犯罪控制義務(wù);勤勉盡責(zé)標(biāo)準(zhǔn)

中圖分類號(hào)：DF611? 文獻(xiàn)標(biāo)志碼：A

DOI：10.3969/j.issn.1001-2397.2022.03.05 開(kāi)放科學(xué)（資源服務(wù)）標(biāo)識(shí)碼（OSID）：

傳統(tǒng)犯罪與網(wǎng)絡(luò)犯罪此消彼長(zhǎng)的結(jié)構(gòu)性變化呼喚犯罪治理從“在場(chǎng)的組織化調(diào)控”向“在線的組織化調(diào)控”①轉(zhuǎn)型，而轉(zhuǎn)型的關(guān)鍵在于“互聯(lián)網(wǎng)平臺(tái)”。②在Web3.0時(shí)代，平臺(tái)重塑社會(huì)結(jié)構(gòu)，成為泛在鏈接、信息匯聚、在線整合的組織樞紐，構(gòu)成了連接網(wǎng)絡(luò)空間與現(xiàn)實(shí)空間虛實(shí)交織的雙層社會(huì)的“組織通道”。在雙層社會(huì)中，“在線的組織化調(diào)控”表現(xiàn)為基于平臺(tái)的犯罪治理。平臺(tái)不僅作為網(wǎng)絡(luò)中介（internet intermediary）經(jīng)營(yíng)數(shù)字經(jīng)濟(jì)，更“成為一種重塑社會(huì)結(jié)構(gòu)的新型規(guī)制者（new governor）”。[See Kate Klonick， The New Governors：the People， Rules， and Processes Governing Online Speech， 131 Harvard Law Review 1598， 1598-1670 （2018）.]以平臺(tái)為代表的網(wǎng)絡(luò)服務(wù)提供者不僅在個(gè)案?jìng)刹榄h(huán)節(jié)協(xié)助公安執(zhí)法，還在平臺(tái)生態(tài)系統(tǒng)中在線審查用戶發(fā)布的非法信息內(nèi)容、在線防控不法分子利用平臺(tái)服務(wù)實(shí)施違法犯罪。面對(duì)風(fēng)靡云蒸的平臺(tái)治理實(shí)踐，互聯(lián)網(wǎng)平臺(tái)參與的犯罪治理成為亟待研討的犯罪學(xué)現(xiàn)象。對(duì)此，恐怕不能簡(jiǎn)單以平臺(tái)履行社會(huì)責(zé)任的觀點(diǎn)一言以蔽之?；ヂ?lián)網(wǎng)平臺(tái)之所以成為“新型規(guī)制者”，與國(guó)家為其設(shè)定的犯罪控制義務(wù)息息相關(guān)。犯罪之平臺(tái)治理的崛起不僅有實(shí)踐支撐和政策基礎(chǔ)，還有其獨(dú)特的規(guī)范依據(jù)，表現(xiàn)為平臺(tái)對(duì)犯罪控制義務(wù)的響應(yīng)、遵循和履行。

一、犯罪控制義務(wù)的立法形成

在傳統(tǒng)上，犯罪控制義務(wù)屬于法定的國(guó)家保護(hù)義務(wù)，其義務(wù)主體指向國(guó)家，對(duì)應(yīng)個(gè)人不受犯罪侵害的權(quán)利?！皣?guó)家保護(hù)義務(wù)是基本權(quán)利的保護(hù)義務(wù)”[王貴松：《行政裁量權(quán)收縮的法理基礎(chǔ)——職權(quán)職責(zé)義務(wù)化的轉(zhuǎn)換依據(jù)》，載《北大法律評(píng)論》2009年第10卷·第2輯，第368頁(yè)。]，在《憲法》《刑法》《治安管理處罰法》中有著明確的規(guī)范性依據(jù)。[《憲法》第28條規(guī)定：“國(guó)家維護(hù)社會(huì)秩序，鎮(zhèn)壓叛國(guó)和其他危害國(guó)家安全的犯罪活動(dòng)，制裁危害社會(huì)治安、破壞社會(huì)主義經(jīng)濟(jì)和其他犯罪的活動(dòng)，懲辦和改造犯罪分子?！痹摋l款明確了國(guó)家的犯罪控制職責(zé)?！缎谭ā贰吨伟补芾硖幜P法》關(guān)于“懲罰違法犯罪、保護(hù)人民”的條款亦是國(guó)家保護(hù)義務(wù)和犯罪控制職責(zé)的體現(xiàn)。]對(duì)于基本權(quán)利的國(guó)家保護(hù)，通過(guò)國(guó)家履行犯罪控制職責(zé)或義務(wù)的方式保護(hù)國(guó)民免受犯罪侵害。隨著人類步入“平臺(tái)社會(huì)”[阿姆斯特丹大學(xué)José Dijck教授提出“平臺(tái)社會(huì)”理論，她認(rèn)為，互聯(lián)網(wǎng)平臺(tái)已滲透至社會(huì)的核心，繞過(guò)傳統(tǒng)管理制度，改變了社會(huì)和公民行為，重塑著國(guó)民生活的社會(huì)結(jié)構(gòu)。See José van Dijck， Thomas Poell and Martijn de Waal， The Platform Society： Public Values in a Connective World， Oxford University Press， 2018.]，犯罪控制義務(wù)的主體從國(guó)家擴(kuò)展至互聯(lián)網(wǎng)平臺(tái)。具有巨大規(guī)模效應(yīng)和社會(huì)動(dòng)員能力的社交、購(gòu)物、支付、內(nèi)容等平臺(tái)推動(dòng)了社會(huì)的再組織化和再中心化轉(zhuǎn)型，個(gè)體的數(shù)字化生存無(wú)不依附于平臺(tái)，國(guó)家治理須臾離不開(kāi)平臺(tái)的技術(shù)能力和組織能力。作為新型數(shù)字基礎(chǔ)設(shè)施，平臺(tái)實(shí)現(xiàn)了網(wǎng)絡(luò)空間與現(xiàn)實(shí)空間的虛實(shí)交融，在最大范圍、最強(qiáng)程度上整合了雙層社會(huì)。具有規(guī)模效應(yīng)和網(wǎng)絡(luò)效應(yīng)的平臺(tái)成為國(guó)家施展組織化調(diào)控的信息中樞和組織通道，平臺(tái)的“主體責(zé)任”[2018年4月，習(xí)近平總書記在全國(guó)網(wǎng)絡(luò)安全和信息化工作會(huì)議上強(qiáng)調(diào)：“要壓實(shí)互聯(lián)網(wǎng)企業(yè)的主體責(zé)任，決不能讓互聯(lián)網(wǎng)成為傳播有害信息、造謠生事的平臺(tái)?！?021年4月，習(xí)近平總書記對(duì)打擊治理電信網(wǎng)絡(luò)詐騙犯罪工作作出重要指示，強(qiáng)調(diào)全面落實(shí)金融、通信、互聯(lián)網(wǎng)等行業(yè)監(jiān)管主體責(zé)任。2019年12月，國(guó)家互聯(lián)網(wǎng)信息辦公室出臺(tái)的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第8條規(guī)定：“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)應(yīng)當(dāng)履行信息內(nèi)容管理主體責(zé)任?！盷被政策文件和法律法規(guī)反復(fù)強(qiáng)調(diào)，平臺(tái)被視為雙層社會(huì)的“看門人”（gatekeeper），即“在國(guó)家能力有限的情況下有能力修正他人行為的非國(guó)家機(jī)構(gòu)，其通過(guò)流通渠道控制和內(nèi)容審查等形式防范或減少非法信息的傳播?！盵See Emily B. Laidlaw， A Framework for Identifying Internet Information Gatekeeper， 24 International Review of Law， Computers & Technology 263， 263-276 （2010）.]主體責(zé)任的承擔(dān)和看門人的定位型塑出“國(guó)家管平臺(tái)、平臺(tái)管用戶”的治理模式，新模式從治理邏輯上有別于國(guó)家直接干預(yù)違法個(gè)體的傳統(tǒng)策略。

當(dāng)前，基于平臺(tái)的治理實(shí)踐極為豐富，尤其是超大型互聯(lián)網(wǎng)平臺(tái)均深度參與了網(wǎng)絡(luò)犯罪治理。據(jù)調(diào)研，阿里巴巴集團(tuán)每年向公安機(jī)關(guān)移送的刑事案件線索超過(guò)一萬(wàn)條?！敖刂?021年，騰訊公司協(xié)助公安機(jī)關(guān)打擊網(wǎng)絡(luò)黑灰產(chǎn)涉案金額超800億元;識(shí)別惡意網(wǎng)站、惡意APP、騷擾詐騙電話累計(jì)4.09億、0.94億、995.99萬(wàn)?！盵

參見(jiàn)《騰訊構(gòu)筑全鏈?zhǔn)健胺涝p墻”，助力政企機(jī)構(gòu)共同反詐》，搜狐網(wǎng)2021年4月27日，https：//www.sohu.com/a/463315316_637282。]字節(jié)跳動(dòng)公司與公安機(jī)關(guān)合作，邀請(qǐng)上萬(wàn)家公安機(jī)關(guān)新媒體入駐今日頭條和抖音短視頻平臺(tái)，利用平臺(tái)開(kāi)展全民線上反詐宣傳和被害預(yù)防。上述實(shí)踐的規(guī)范性依據(jù)在于互聯(lián)網(wǎng)平臺(tái)承擔(dān)的犯罪控制義務(wù)，其最初蘊(yùn)涵于概括式、綜合性的“安全保護(hù)義務(wù)”[《網(wǎng)絡(luò)安全法》第九條要求網(wǎng)絡(luò)運(yùn)營(yíng)者履行網(wǎng)絡(luò)安全保護(hù)義務(wù)。]中，而后逐漸形成了類型化、專門化的犯罪控制義務(wù)。

（一）以綜合性的安全保護(hù)義務(wù)為起點(diǎn)

為保障公共安全、網(wǎng)絡(luò)安全及平臺(tái)用戶的合法權(quán)益，國(guó)內(nèi)外法律為平臺(tái)設(shè)定了系統(tǒng)化的安全保護(hù)義務(wù)，包括內(nèi)容審查義務(wù)、協(xié)助執(zhí)法義務(wù)、信息保存義務(wù)、數(shù)據(jù)報(bào)告義務(wù)、個(gè)人信息保護(hù)義務(wù)等。相關(guān)法規(guī)范雖未直接列明犯罪控制義務(wù)，但在體系化的安全保護(hù)義務(wù)中蘊(yùn)涵著豐富的犯罪控制內(nèi)涵。

以被動(dòng)回應(yīng)的協(xié)助執(zhí)法義務(wù)為例，2020年12月，歐盟公布的《數(shù)字服務(wù)法（草案）》（Digital Service Act，簡(jiǎn)稱DSA）第8條和第9條規(guī)定了平臺(tái)的協(xié)助執(zhí)法義務(wù)，即網(wǎng)絡(luò)服務(wù)提供者有義務(wù)配合司法或行政機(jī)關(guān)依法下達(dá)的“對(duì)非法內(nèi)容采取行動(dòng)的指令”和“信息提供指令”。[See Digital Service Act， §8， 9 （2020）.]我國(guó)《反恐怖主義法》第18條、《網(wǎng)絡(luò)安全法》第28條、《數(shù)據(jù)安全法》第35條均規(guī)定了平臺(tái)協(xié)助公安機(jī)關(guān)偵查犯罪的義務(wù)。協(xié)助執(zhí)法義務(wù)指向公安機(jī)關(guān)偵破犯罪的平臺(tái)協(xié)助，其本質(zhì)在于平臺(tái)回應(yīng)和配合執(zhí)法機(jī)關(guān)的犯罪控制。

以主動(dòng)介入的內(nèi)容審查義務(wù)為例，2017年德國(guó)通過(guò)的《改進(jìn)社交網(wǎng)絡(luò)中法律執(zhí)行的法案》（以下簡(jiǎn)稱《網(wǎng)絡(luò)執(zhí)行法》）、2021年5月公布的英國(guó)《網(wǎng)絡(luò)安全法（草案）》規(guī)定了網(wǎng)絡(luò)服務(wù)商防范非法內(nèi)容的安全保護(hù)義務(wù)。該《網(wǎng)絡(luò)安全法（草案）》第5條規(guī)定的安全保護(hù)義務(wù)要求網(wǎng)絡(luò)服務(wù)商盡量減少違法內(nèi)容的存在，盡量減少違法內(nèi)容存在的時(shí)間長(zhǎng)度，盡量控制違法內(nèi)容的傳播，盡快刪除被舉報(bào)的違法內(nèi)容。[See Draft Online Safety Bill， §5 （2021）.]DSA第三章為平臺(tái)設(shè)定了“維護(hù)透明且安全的在線環(huán)境應(yīng)盡的勤勉盡責(zé)義務(wù)”，簡(jiǎn)稱“勤勉盡責(zé)義務(wù)”（Due diligence obligations），一改此前以“通知—?jiǎng)h除”為內(nèi)核的平臺(tái)責(zé)任，要求平臺(tái)承擔(dān)對(duì)非法內(nèi)容主動(dòng)審查的主體責(zé)任。我國(guó)《網(wǎng)絡(luò)安全法》第47條、新修訂的《未成年人保護(hù)法》第80條第2款亦規(guī)定了網(wǎng)絡(luò)服務(wù)提供者的內(nèi)容審核義務(wù)。平臺(tái)對(duì)非法內(nèi)容的主動(dòng)審查和積極處置不僅能防范非法信息的在線傳播，還起到預(yù)防恐怖主義犯罪、網(wǎng)絡(luò)詐騙等違法犯罪的治理功效。

（二）走向?qū)ｉT化的犯罪控制義務(wù)

隨著新型網(wǎng)絡(luò)犯罪的挑戰(zhàn)愈發(fā)嚴(yán)峻，為全面落實(shí)互聯(lián)網(wǎng)平臺(tái)在網(wǎng)絡(luò)犯罪治理中的主體責(zé)任，我國(guó)相關(guān)立法開(kāi)始出現(xiàn)類型化和專門化的犯罪控制義務(wù)。2021年1月，國(guó)家網(wǎng)信辦、工信部及公安部聯(lián)合起草的《互聯(lián)網(wǎng)信息服務(wù)管理辦法（修訂草案征求意見(jiàn)稿）》（以下簡(jiǎn)稱《征求意見(jiàn)稿》）第21條分兩款規(guī)定了平臺(tái)的犯罪控制義務(wù)。該條第1款規(guī)定：“互聯(lián)網(wǎng)服務(wù)提供者應(yīng)當(dāng)采取技術(shù)措施和其他必要措施，防范、發(fā)現(xiàn)、制止所提供的服務(wù)被用于實(shí)施違法犯罪?！ヂ?lián)網(wǎng)服務(wù)提供者發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪行為，應(yīng)當(dāng)保存有關(guān)記錄，并向網(wǎng)信部門、電信主管部門、公安機(jī)關(guān)報(bào)告?！钡?款規(guī)定：“網(wǎng)信部門、電信主管部門、公安機(jī)關(guān)等有關(guān)主管部門發(fā)現(xiàn)互聯(lián)網(wǎng)信息服務(wù)提供者存在違反真實(shí)身份查驗(yàn)要求的行為或者其他網(wǎng)絡(luò)違法犯罪行為，應(yīng)當(dāng)要求互聯(lián)網(wǎng)信息服務(wù)提供者采取消除、制止等處置措施，停止相關(guān)服務(wù)，保存有關(guān)記錄，并向網(wǎng)信部門、電信主管部門、公安機(jī)關(guān)報(bào)告?！薄墩髑笠庖?jiàn)稿》第52條將“互聯(lián)網(wǎng)信息服務(wù)”界定為“為用戶提供互聯(lián)網(wǎng)信息發(fā)布和應(yīng)用平臺(tái)，包括且不限于……互聯(lián)網(wǎng)服務(wù)”，故而第21條通過(guò)犯罪控制義務(wù)確立了平臺(tái)作為數(shù)字社會(huì)“看門人”的主體定位?！墩髑笠庖?jiàn)稿》第42條規(guī)定了未有效履行犯罪控制義務(wù)的平臺(tái)責(zé)任，即“互聯(lián)網(wǎng)服務(wù)提供者違反本辦法第二十一條規(guī)定的，由網(wǎng)信部門、電信主管部門、公安機(jī)關(guān)依據(jù)各自職責(zé)給予警告，責(zé)令限期改正，沒(méi)收違法所得;拒不改正或者情節(jié)嚴(yán)重的，處10萬(wàn)元以上50萬(wàn)元以下罰款，并可以責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、由原發(fā)證機(jī)關(guān)吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營(yíng)業(yè)執(zhí)照，對(duì)直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員，處1萬(wàn)元以上10萬(wàn)元以下罰款?！睂?shí)際上，履行該義務(wù)不力的法律后果遠(yuǎn)非第42條之行政責(zé)任，《刑法》第286條之一“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”對(duì)網(wǎng)絡(luò)服務(wù)提供者拒不履行網(wǎng)絡(luò)安全管理義務(wù)達(dá)到情節(jié)嚴(yán)重的甚至要追究刑事責(zé)任。

2021年10月，提請(qǐng)全國(guó)人大常委會(huì)審議的《中華人民共和國(guó)反電信網(wǎng)絡(luò)詐騙法（草案）》（以下簡(jiǎn)稱《反電詐法（草案）》）以“第四章互聯(lián)網(wǎng)治理”的6個(gè)條文為互聯(lián)網(wǎng)服務(wù)提供者（以互聯(lián)網(wǎng)平臺(tái)為代表）設(shè)定了體系化的反電詐犯罪控制義務(wù)。《反電詐法（草案）》第18條為互聯(lián)網(wǎng)服務(wù)提供者設(shè)定網(wǎng)絡(luò)實(shí)名制的審核義務(wù);第19條設(shè)定了針對(duì)異常賬戶和涉案關(guān)聯(lián)賬號(hào)的處置義務(wù);第20條設(shè)定了針對(duì)涉詐移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序的監(jiān)測(cè)義務(wù);第21條設(shè)定了針對(duì)互聯(lián)網(wǎng)域名的核驗(yàn)義務(wù)、記錄留存義務(wù)和溯源義務(wù);第22條設(shè)定了針對(duì)涉詐黑灰產(chǎn)業(yè)的監(jiān)測(cè)防范義務(wù);第23條第1款為被動(dòng)的協(xié)助執(zhí)法義務(wù)，第2款為主動(dòng)的可疑線索識(shí)別和移送義務(wù)，該條款的立法思路與《征求意見(jiàn)稿》第21條存在異曲同工之處。

此外，2021年施行的新版《未成年人保護(hù)法》增設(shè)了網(wǎng)絡(luò)服務(wù)提供者的犯罪控制義務(wù)。該法第80條第3款規(guī)定，“網(wǎng)絡(luò)服務(wù)提供者發(fā)現(xiàn)用戶利用其網(wǎng)絡(luò)服務(wù)對(duì)未成年人實(shí)施違法犯罪行為的，應(yīng)當(dāng)立即停止向該用戶提供網(wǎng)絡(luò)服務(wù)，保存有關(guān)記錄，并向公安機(jī)關(guān)報(bào)告?！痹摋l款明確了平臺(tái)對(duì)用戶實(shí)施以未成年人為侵害對(duì)象的違法犯罪具有控制義務(wù)。2020年3月施行的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第10條規(guī)定，“網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)不得傳播本規(guī)定第六條規(guī)定的信息，應(yīng)當(dāng)防范和抵制傳播本規(guī)定第七條規(guī)定的信息?！痹摋l款為平臺(tái)針對(duì)用戶傳播非法信息的違法犯罪設(shè)定控制義務(wù)。2022年3月施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第9條規(guī)定：“算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)信息安全管理，建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識(shí)后，方可繼續(xù)傳輸?！痹摋l款要求以算法實(shí)現(xiàn)對(duì)非法信息內(nèi)容的技術(shù)反制，從而為算法推薦服務(wù)提供者（平臺(tái)的另一重身份）設(shè)定相應(yīng)的犯罪控制義務(wù)。

可以預(yù)見(jiàn)，在未來(lái)仍將出現(xiàn)為互聯(lián)網(wǎng)平臺(tái)設(shè)定和強(qiáng)化犯罪控制義務(wù)的不同位階的法規(guī)范，這些法規(guī)范將犯罪控制義務(wù)從綜合性的安全保護(hù)義務(wù)中抽離出來(lái)予以專門設(shè)定，為犯罪之平臺(tái)治理提供了規(guī)范性依據(jù)。實(shí)際上，犯罪控制義務(wù)的立法形成背后有著深刻的正當(dāng)性理由，對(duì)正當(dāng)性理由的展開(kāi)有助于從更廣闊的社會(huì)變遷與治理變革視野探究犯罪控制義務(wù)法定化的成因。

二、平臺(tái)承擔(dān)犯罪控制義務(wù)的正當(dāng)性理由

自人類步入虛實(shí)交融的數(shù)字社會(huì)，犯罪治理的底層邏輯從國(guó)家直接干預(yù)違法個(gè)體轉(zhuǎn)向國(guó)家通過(guò)平臺(tái)對(duì)用戶的間接治理，由國(guó)家、平臺(tái)、用戶三方耦合的數(shù)字科層制日漸成型。平臺(tái)構(gòu)成了將法律落實(shí)于治理實(shí)踐、將國(guó)家權(quán)力延伸至平臺(tái)生態(tài)系統(tǒng)的組織通道。平臺(tái)對(duì)安全保護(hù)義務(wù)和犯罪控制義務(wù)的履行成為“國(guó)家管平臺(tái)、平臺(tái)管用戶”策略實(shí)現(xiàn)的法治路徑。具言之，平臺(tái)承擔(dān)犯罪控制義務(wù)的正當(dāng)性理由如下。

（一）違法犯罪寄生于平臺(tái)生態(tài)系統(tǒng)

如今，我國(guó)總體的犯罪態(tài)勢(shì)發(fā)生了從“城市吸引犯罪”向“網(wǎng)絡(luò)吸引犯罪”的結(jié)構(gòu)性變化。隨著“平臺(tái)成為以實(shí)現(xiàn)用戶間的組織、交互為目的的數(shù)字基礎(chǔ)設(shè)施”[

See José van Dijck， Thomas Poell and Martijn de Waal， The Platform Society， Oxford University Press， 2018， p.9.]，網(wǎng)絡(luò)空間被各類平臺(tái)生態(tài)系統(tǒng)再組織化和再中心化，平臺(tái)生態(tài)系統(tǒng)成為數(shù)字社會(huì)中人類活動(dòng)的新場(chǎng)域，“網(wǎng)絡(luò)吸引犯罪”的實(shí)質(zhì)在于犯罪是一種平臺(tái)現(xiàn)象。

一方面，“網(wǎng)絡(luò)中的犯罪”可解讀為“平臺(tái)內(nèi)的犯罪”。絕大多數(shù)犯罪人均具有社交、購(gòu)物、支付、出行、金融等平臺(tái)的用戶身份，其信息流、行為流、資金流、交易流、物流發(fā)生于平臺(tái)生態(tài)系統(tǒng)，犯罪團(tuán)伙成員之間、涉案法人之間、犯罪人與被害人之間的在線差異交往均依托于特定平臺(tái)關(guān)系，網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博、網(wǎng)絡(luò)傳銷等違法活動(dòng)均寄生于平臺(tái)服務(wù)之中。

另一方面，大多數(shù)“現(xiàn)實(shí)中的犯罪”可視為“與平臺(tái)有關(guān)的犯罪”。絕大多數(shù)犯罪人均具有某一個(gè)或幾個(gè)平臺(tái)的用戶身份，無(wú)論是網(wǎng)絡(luò)中的違法還是現(xiàn)實(shí)中的犯罪均留有相當(dāng)數(shù)量的數(shù)字印跡，平臺(tái)生態(tài)系統(tǒng)或是犯罪的發(fā)生空間，或?yàn)樽凡榫€索提供不可或缺的必要條件。即便是盜竊、搶劫等傳統(tǒng)犯罪在偵破環(huán)節(jié)也不可避免要從平臺(tái)生態(tài)系統(tǒng)中找尋案件線索;即使是從不使用社交網(wǎng)絡(luò)和智能設(shè)備的人也不得不與互聯(lián)網(wǎng)平臺(tái)的用戶接觸，從而被間接納入平臺(tái)生態(tài)系統(tǒng)。

可見(jiàn)，無(wú)論“平臺(tái)內(nèi)的犯罪”還是“與平臺(tái)有關(guān)的犯罪”均系一種平臺(tái)現(xiàn)象，平臺(tái)生態(tài)系統(tǒng)實(shí)際構(gòu)成了犯罪治理的主陣地和最前沿。作為平臺(tái)生態(tài)系統(tǒng)的創(chuàng)建者和運(yùn)營(yíng)者，互聯(lián)網(wǎng)平臺(tái)獲取了巨大的經(jīng)濟(jì)利益和海量的數(shù)據(jù)資源，成長(zhǎng)為對(duì)用戶具有支配地位的“超級(jí)權(quán)力體”[樊鵬：《社會(huì)運(yùn)動(dòng)中的新技術(shù)應(yīng)用及其政治影響》，載《中央社會(huì)主義學(xué)院學(xué)報(bào)》2019年第6期，第25頁(yè)。]，故而由互聯(lián)網(wǎng)平臺(tái)防范、發(fā)現(xiàn)、制止寄生于平臺(tái)生態(tài)系統(tǒng)中的違法犯罪具有充分必要性。

（二）平臺(tái)負(fù)有防范用戶被害的道德義務(wù)

道德的目的在于惡的最小化和善的最大化。[See David Steinberg， The Multidisciplinary Nature of Morality and Applied Ethics， Springer， 2020， p.127-137.]兼具法律主體和道德主體身份的企業(yè)在營(yíng)利與守法原則外，還須遵循三個(gè)基本道德原則。其一，危害規(guī)避原則，即企業(yè)應(yīng)避免造成不必要的社會(huì)危害;其二，公平原則，企業(yè)的所有行為都應(yīng)是公平的;其三，人權(quán)原則，即企業(yè)應(yīng)尊重人權(quán)。[See James Fieser， Do Businesses Have Moral Obligations beyond What the Law Requires？ 15 Journal of Business Ethics 457， 457-468 （1996）.]道德原則對(duì)于平臺(tái)型企業(yè)同樣適用，與犯罪控制義務(wù)聯(lián)系最緊密的莫過(guò)于危害規(guī)避原則。危害規(guī)避原則成為平臺(tái)承擔(dān)犯罪控制義務(wù)的道德根基，其要義在于平臺(tái)負(fù)有保護(hù)用戶合法權(quán)益的道德責(zé)任，以避免用戶在接受平臺(tái)服務(wù)的過(guò)程中遭受犯罪侵害。危害規(guī)避的道德原則派生出平臺(tái)的消極道德義務(wù)和積極道德義務(wù)。

其一，平臺(tái)的消極道德義務(wù)要求平臺(tái)不作惡、不損害用戶的合法權(quán)益。在“用戶即數(shù)據(jù)”“用戶即商品”的商業(yè)模式下，作為數(shù)據(jù)控制者的平臺(tái)與作為數(shù)據(jù)主體的億萬(wàn)用戶之間的平臺(tái)關(guān)系不應(yīng)僅限于合同關(guān)系，而應(yīng)更具有實(shí)質(zhì)意義上的“數(shù)據(jù)信托”[See J. M. Balkin， Information Fiduciaries and the First Amendment， 49 UCDL Review 1183， 1183 （2015）.]（Information Fiduciary）關(guān)系。耶魯大學(xué)法學(xué)院Jack M.Balkin教授認(rèn)為，平臺(tái)作為信息受托人使用個(gè)人信息應(yīng)遵守嚴(yán)格的“信托義務(wù)”（Fiduciary Duty），以委托人利益為核心在合理范圍內(nèi)使用個(gè)人信息，不得將個(gè)人信息用于損害委托人權(quán)益的活動(dòng)。[See J. Litman， Information Privacy/ Information Property， 52 Stanford Law Review 1283， 1283-1313 （2000）.]平臺(tái)作為信息受托人應(yīng)承擔(dān)對(duì)用戶的保密義務(wù)、注意義務(wù)與忠誠(chéng)義務(wù)。[See J. M. Balkin， The Fiduciary Model of Privacy， 134 Harvard Law Review Forum 11， 11-33 （2020）.]消極道德義務(wù)是社會(huì)對(duì)平臺(tái)的最低限度的道德要求，也是平臺(tái)勤勉盡責(zé)履行積極道德義務(wù)的基礎(chǔ)。

其二，平臺(tái)的積極道德義務(wù)要求平臺(tái)承擔(dān)起平臺(tái)生態(tài)系統(tǒng)運(yùn)營(yíng)者的主體責(zé)任，防范不法分子利用用戶身份和平臺(tái)服務(wù)從事網(wǎng)絡(luò)黑灰產(chǎn)業(yè)、傳播非法信息、實(shí)施網(wǎng)絡(luò)犯罪等違法活動(dòng)，保障用戶的人身、財(cái)產(chǎn)、人格等權(quán)益不受犯罪侵害。以非法內(nèi)容審查為例，盡管為網(wǎng)絡(luò)色情、網(wǎng)絡(luò)賭博等黑產(chǎn)引流的非法信息在平臺(tái)生態(tài)系統(tǒng)中確有一定受眾，這些受眾的流量對(duì)平臺(tái)意味著廣告收入;但任何損害國(guó)家安全、公共利益、國(guó)民權(quán)益的平臺(tái)活動(dòng)均是不正當(dāng)?shù)模毱脚_(tái)履行積極道德義務(wù)予以主動(dòng)防范。積極道德義務(wù)是平臺(tái)對(duì)社會(huì)及用戶必須全面履行的道德責(zé)任，并與消極道德義務(wù)一道構(gòu)成了平臺(tái)承擔(dān)犯罪控制義務(wù)的法理依據(jù)。

（三）平臺(tái)擔(dān)負(fù)保障網(wǎng)絡(luò)安全的主體責(zé)任

“政府管轄是地域性的，但互聯(lián)網(wǎng)不為邊界所限，兩者的沖突將制約國(guó)家治理的空間?！盵See Frances Cairncross， The Death of Distance： How the Communications Revolution Is Changing Our Lives， Harvard Business School Press， 2000， p.177. ]這種沖突在犯罪治理中表現(xiàn)得尤為明顯。針對(duì)街面犯罪的傳統(tǒng)科層治理是典型的屬地管轄，而新型網(wǎng)絡(luò)犯罪跨地域甚至跨國(guó)發(fā)生?！罢薪?、犯罪無(wú)界”的現(xiàn)狀造成了組織化調(diào)控失靈的危機(jī)。習(xí)近平總書記指出，“網(wǎng)絡(luò)空間是虛擬的，但運(yùn)用網(wǎng)絡(luò)空間的主體是現(xiàn)實(shí)的?！盵習(xí)近平：《在第二屆世界互聯(lián)網(wǎng)大會(huì)開(kāi)幕式上的講話》，載《人民日?qǐng)?bào)》2015年12月17日，第002版。]這要求網(wǎng)絡(luò)犯罪治理從“管內(nèi)容”向“管主體”變遷、從直接管控違法個(gè)體向間接管控平臺(tái)轉(zhuǎn)型，要求以“國(guó)家管平臺(tái)、平臺(tái)管用戶”的方式防控新型網(wǎng)絡(luò)犯罪。由此，作為國(guó)家治理的組織通道，互聯(lián)網(wǎng)平臺(tái)的主體責(zé)任成為數(shù)字社會(huì)犯罪治理的關(guān)鍵。

“面對(duì)龐大的用戶，平臺(tái)企業(yè)不僅從事經(jīng)營(yíng)行為，而且需要進(jìn)行管理，這種管理很像政府管理，這不是傳統(tǒng)小打小鬧式‘企業(yè)辦社會(huì)，簡(jiǎn)直就是‘企業(yè)辦政府”。[

王坤、周魯耀：《平臺(tái)企業(yè)的自治與共治》，載《浙江學(xué)刊》2021年第1期，第5頁(yè)。]主體責(zé)任的提出將擁有社會(huì)權(quán)力的互聯(lián)網(wǎng)平臺(tái)納入科層制體系，通過(guò)為其設(shè)定安全保護(hù)義務(wù)及犯罪控制義務(wù)，使“通過(guò)平臺(tái)的治理”成為雙層社會(huì)的“中間制度”，使平臺(tái)的社會(huì)權(quán)力被馴化為體現(xiàn)國(guó)家意志的“中間權(quán)力”，使平臺(tái)進(jìn)化為犯罪治理的組織載體。在“中間制度”和“中間權(quán)力”的調(diào)控下，一個(gè)有邊界的互聯(lián)網(wǎng)日益成為普遍事實(shí)，國(guó)家與非國(guó)家行為體的一致性愈發(fā)明顯，即國(guó)家通過(guò)代理策略自覺(jué)地把一定權(quán)力交給非政府行為體。[劉建偉：《國(guó)家“歸來(lái)”：自治失靈、安全化與互聯(lián)網(wǎng)治理》，載《世界經(jīng)濟(jì)與政治》2015年第7期，第109頁(yè)。]國(guó)家通過(guò)為平臺(tái)設(shè)定安全保護(hù)義務(wù)和犯罪控制義務(wù)的形式外移治理權(quán)力，平臺(tái)尤其是超大型在線平臺(tái)作為新型治理主體登上歷史舞臺(tái)，成為網(wǎng)絡(luò)空間治理及犯罪控制的超級(jí)責(zé)任體。

（四）平臺(tái)具備控制犯罪的治理優(yōu)勢(shì)

平臺(tái)對(duì)用戶的道德義務(wù)和對(duì)社會(huì)的主體責(zé)任的最終實(shí)現(xiàn)離不開(kāi)其在數(shù)據(jù)、技術(shù)和組織上的治理能力。“道德的要求是一種‘應(yīng)該去做的事情，而這種應(yīng)該去做的事情同時(shí)也是‘能夠去做的事情?！盵姚大志：《利他主義與道德義務(wù)》，載《社會(huì)科學(xué)戰(zhàn)線》2015年第5期，第26頁(yè)。]“監(jiān)督者控制潛在危險(xiǎn)的義務(wù)通常來(lái)源于其對(duì)危險(xiǎn)源的控制能力?！盵[德]克雷斯蒂安·馮.巴爾：《歐洲比較侵權(quán)行為法》（下冊(cè)），焦美華譯，法律出版社2001年版，第269頁(yè)。]平臺(tái)既是借助超級(jí)APP坐擁海量用戶的網(wǎng)絡(luò)中介，也是以新型數(shù)字技術(shù)掌握用戶數(shù)據(jù)的控制者，更是雙層社會(huì)中實(shí)施在線治理的組織者?！皵?shù)據(jù)控制者獲取的數(shù)據(jù)并非一般商品，而是數(shù)據(jù)主體的生命密碼?！盵馮果、薛亦颯：《從“權(quán)利規(guī)范模式”走向“行為控制模式”的數(shù)據(jù)信托——數(shù)據(jù)主體權(quán)利保護(hù)機(jī)制構(gòu)建的另一種思路》，載《法學(xué)評(píng)論》2020年第3期，第73頁(yè)。]“用戶即數(shù)據(jù)”的商業(yè)邏輯型塑出平臺(tái)控制用戶的“控制者在線”圖景，平臺(tái)在平臺(tái)生態(tài)系統(tǒng)中運(yùn)用大數(shù)據(jù)、云計(jì)算、人工智能等技術(shù)實(shí)現(xiàn)了對(duì)用戶違規(guī)違法的監(jiān)測(cè)、預(yù)警、關(guān)聯(lián)、自動(dòng)化干預(yù)、線索輸出等在線控制，海量數(shù)據(jù)成為平臺(tái)控制犯罪的治理資源，新型技術(shù)構(gòu)成了平臺(tái)控制犯罪的得力工具。

在數(shù)據(jù)優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì)基礎(chǔ)上，平臺(tái)還擁有獨(dú)特的組織優(yōu)勢(shì)，個(gè)體的數(shù)字化生活無(wú)不依賴于特定平臺(tái)，個(gè)人數(shù)據(jù)和社會(huì)數(shù)據(jù)最終匯聚于平臺(tái)，與犯罪有關(guān)的數(shù)字軌跡大多留存于平臺(tái)覆蓋的特定網(wǎng)域，各種治理策略多依賴于平臺(tái)的在線調(diào)控，平臺(tái)與國(guó)家、平臺(tái)與用戶、國(guó)家與用戶的關(guān)系建構(gòu)起平臺(tái)治理的基本框架。平臺(tái)成為國(guó)家主體向網(wǎng)絡(luò)空間延伸、運(yùn)用數(shù)字技術(shù)、掌控雙層社會(huì)、實(shí)施在線控制的關(guān)鍵組織樞紐。在平臺(tái)治理推動(dòng)下，科層制演變?yōu)榛谄脚_(tái)的“數(shù)字科層制”，犯罪治理的實(shí)現(xiàn)路徑從“政法部門—犯罪問(wèn)題”轉(zhuǎn)換為“政法部門—互聯(lián)網(wǎng)平臺(tái)—犯罪問(wèn)題”。相對(duì)網(wǎng)絡(luò)犯罪治理距離更近的平臺(tái)具備上連國(guó)家、下接用戶、掌控平臺(tái)生態(tài)系統(tǒng)的組織動(dòng)員能力，引入平臺(tái)更符合“以成本最小化目的來(lái)配置權(quán)利和義務(wù)”[[美]理查德·A.波斯納：《法律的經(jīng)濟(jì)分析》，蔣兆康譯，中國(guó)大百科全書出版社1997年版，第9頁(yè)。]的經(jīng)濟(jì)原則?；谏鲜鰞?yōu)勢(shì)，將犯罪控制義務(wù)分配給平臺(tái)是一種更為經(jīng)濟(jì)、更有效率、更加合理的制度安排。

三、義務(wù)的內(nèi)涵：主動(dòng)控制與響應(yīng)控制

基于前述正當(dāng)性理由，以《征求意見(jiàn)稿》為代表的法規(guī)范為平臺(tái)設(shè)定了應(yīng)當(dāng)履行的專門性犯罪控制義務(wù)，對(duì)平臺(tái)提出相對(duì)明確的義務(wù)要求。《征求意見(jiàn)稿》第21條第1款要求平臺(tái)主動(dòng)實(shí)施控制行為及附隨行為，其實(shí)質(zhì)在于主動(dòng)控制;第2款要求平臺(tái)積極響應(yīng)執(zhí)法機(jī)關(guān)的犯罪控制指令，其要義在于響應(yīng)控制。

（一）平臺(tái)對(duì)違法犯罪的主動(dòng)控制

平臺(tái)的主動(dòng)控制是犯罪控制義務(wù)的核心內(nèi)容，《征求意見(jiàn)稿》第21條第1款以“手段+目的”的規(guī)范結(jié)構(gòu)，要求平臺(tái)運(yùn)用技術(shù)措施和其他必要措施，防范、發(fā)現(xiàn)、制止所提供的服務(wù)被用于實(shí)施違法犯罪。

1.平臺(tái)主動(dòng)控制的手段行為

“應(yīng)當(dāng)運(yùn)用技術(shù)措施和其他必要措施”是平臺(tái)主動(dòng)控制違法犯罪的手段行為?！凹夹g(shù)措施”主要指平臺(tái)以信息技術(shù)研發(fā)網(wǎng)絡(luò)黑產(chǎn)監(jiān)測(cè)系統(tǒng)和智能風(fēng)控模型，用以識(shí)別平臺(tái)生態(tài)系統(tǒng)中的違法犯罪風(fēng)險(xiǎn)，其本質(zhì)在于以數(shù)據(jù)監(jiān)控為內(nèi)核的技術(shù)治理。同時(shí)，技術(shù)的運(yùn)用離不開(kāi)特定的組織安排和制度安排，技術(shù)治理亦離不開(kāi)“其他必要措施”在組織層及規(guī)則層的保障?！捌渌匾胧卑ㄇ也幌抻谄脚_(tái)根據(jù)法規(guī)范制定非法內(nèi)容審核、網(wǎng)絡(luò)安全保護(hù)等方面的平臺(tái)規(guī)則;成立網(wǎng)安實(shí)驗(yàn)室，研發(fā)監(jiān)測(cè)網(wǎng)絡(luò)違法的智能風(fēng)控系統(tǒng);設(shè)立網(wǎng)安內(nèi)控部門運(yùn)用在線風(fēng)控系統(tǒng)打擊網(wǎng)絡(luò)黑產(chǎn)，向公安機(jī)關(guān)輸出案件線索和固定電子證據(jù)等。

在“技術(shù)措施”和“其他必要措施”的協(xié)同下，阿里巴巴集團(tuán)安全部依托錢盾實(shí)驗(yàn)室、光年實(shí)驗(yàn)室等八個(gè)實(shí)驗(yàn)室開(kāi)展系統(tǒng)化在線風(fēng)控，通過(guò)技術(shù)反制措施識(shí)別用戶實(shí)施的網(wǎng)絡(luò)犯罪，每年向公安機(jī)關(guān)移送刑事案件線索超過(guò)一萬(wàn)條;騰訊集團(tuán)安全管理部依托反詐實(shí)驗(yàn)室等多個(gè)實(shí)驗(yàn)室研發(fā)神茶反釣魚系統(tǒng)、神偵資金流查控系統(tǒng)、神羊情報(bào)分析系統(tǒng)、鷹眼反電話詐騙系統(tǒng)、麒麟偽基站定位系統(tǒng)等風(fēng)控軟件，基于騰訊云服務(wù)向政府開(kāi)放使用，電詐識(shí)別準(zhǔn)確率高達(dá)95%;字節(jié)跳動(dòng)公司對(duì)抖音系統(tǒng)中用戶違規(guī)注冊(cè)、刷量、刷粉、發(fā)布違規(guī)違法內(nèi)容等行為，依靠人工智能和人工復(fù)核結(jié)合的審查機(jī)制日均攔截處理違規(guī)違法信息10億次。

2.平臺(tái)主動(dòng)控制的目的行為

“防范、發(fā)現(xiàn)和制止所提供的服務(wù)被用于實(shí)施違法犯罪”是平臺(tái)主動(dòng)控制的目的行為。對(duì)于目的行為的理解，可從三個(gè)方面展開(kāi)：第一，在義務(wù)履行的空間上，平臺(tái)針對(duì)網(wǎng)購(gòu)、支付、社交等平臺(tái)生態(tài)系統(tǒng)所覆蓋的網(wǎng)域開(kāi)展主動(dòng)控制。平臺(tái)生態(tài)系統(tǒng)重塑了Web3.0時(shí)代的互聯(lián)網(wǎng)世界，構(gòu)成雙層社會(huì)的人類活動(dòng)空間。《征求意見(jiàn)稿》第21條第1款的“服務(wù)被用于實(shí)施違法犯罪”，是指在傳統(tǒng)犯罪全面觸網(wǎng)背景下，遠(yuǎn)程非接觸性的網(wǎng)絡(luò)違法或發(fā)生于平臺(tái)生態(tài)系統(tǒng)、或利用平臺(tái)服務(wù)、或與平臺(tái)生態(tài)系統(tǒng)存在千絲萬(wàn)縷的關(guān)聯(lián)。極具匿名性和復(fù)雜性的新型網(wǎng)絡(luò)犯罪及網(wǎng)絡(luò)黑產(chǎn)寄生于平臺(tái)生態(tài)系統(tǒng)，故而平臺(tái)生態(tài)系統(tǒng)成為平臺(tái)主動(dòng)控制的治理場(chǎng)域。

第二，在義務(wù)履行的對(duì)象上，平臺(tái)針對(duì)用戶實(shí)施的違法犯罪及用戶從事的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)開(kāi)展主動(dòng)控制。網(wǎng)絡(luò)違法的實(shí)施者均具有平臺(tái)的用戶身份，其違法活動(dòng)滋生于網(wǎng)絡(luò)黑產(chǎn)的土壤。網(wǎng)絡(luò)黑產(chǎn)由提供基礎(chǔ)工具（打碼平臺(tái)、破解軟件、偽造工具、代理工具、交流交易平臺(tái)等）的上游、黑產(chǎn)信息支撐（社工庫(kù)、垃圾注冊(cè)、盜號(hào)洗號(hào)、信息盜取、數(shù)據(jù)爬蟲等）的中游、違法犯罪實(shí)施（電詐、網(wǎng)絡(luò)賭博、網(wǎng)絡(luò)色情等）的下游共同組成。據(jù)報(bào)道，我國(guó)網(wǎng)絡(luò)黑產(chǎn)從業(yè)者超150萬(wàn)人，黑產(chǎn)規(guī)模達(dá)千億級(jí)別。[陳慧娟：《網(wǎng)絡(luò)黑灰產(chǎn)業(yè)如何治》，載《光明日?qǐng)?bào)》2018年11月27日，第07版。]從事黑產(chǎn)的違法用戶按照分工形成了隱匿且龐大的地下經(jīng)濟(jì)。在技術(shù)服務(wù)層，違法用戶提供流量服務(wù)、過(guò)人臉等驗(yàn)證服務(wù)等;在技術(shù)產(chǎn)品層，違法用戶開(kāi)發(fā)嗅探設(shè)備、偽基站、貓池等非法硬件與木馬、電報(bào)群、釣魚鏈接、群控、撞庫(kù)等非法軟件;在信息販賣層，“料商”非法販賣個(gè)人和企業(yè)四件套、身份、財(cái)產(chǎn)、軌跡、交易記錄等信息;在卡、號(hào)注冊(cè)和販賣層，“號(hào)商”實(shí)施惡意注冊(cè)、虛假認(rèn)證等活動(dòng)，以規(guī)避網(wǎng)絡(luò)實(shí)名制、掩蓋違法用戶身份;在組織層，處于犯罪集團(tuán)核心的“金主”為網(wǎng)絡(luò)違法提供資金、培訓(xùn)管理層及結(jié)算分成;在洗錢服務(wù)層，“水房”為作案團(tuán)伙提供資金跨境轉(zhuǎn)移服務(wù)，通過(guò)多種渠道幫助涉案資金逃脫追蹤。在犯罪鏈條中，電詐等實(shí)施犯罪環(huán)節(jié)不過(guò)是黑產(chǎn)冰山一角;僅打擊黑產(chǎn)的下游犯罪如同割韭菜一樣無(wú)法治本，對(duì)黑產(chǎn)的全鏈路治理才是平臺(tái)主動(dòng)控制的對(duì)象。

第三，在義務(wù)履行的內(nèi)容上，平臺(tái)的主動(dòng)控制包括防范和識(shí)別、制止違法犯罪，覆蓋事前防范、事中阻斷和事后處置的全鏈路。在防范層面，犯罪控制義務(wù)要求平臺(tái)將法規(guī)范轉(zhuǎn)換為平臺(tái)規(guī)則，以此構(gòu)建平臺(tái)生態(tài)系統(tǒng)的安全保護(hù)體系，開(kāi)展打擊電詐、保護(hù)個(gè)人信息、非法內(nèi)容審查等多種形式的防范舉措。在識(shí)別和制止層面，犯罪控制義務(wù)要求平臺(tái)將智能風(fēng)控系統(tǒng)和人工審核相結(jié)合，及時(shí)發(fā)現(xiàn)和精準(zhǔn)處置用戶違法。2019年，字節(jié)跳動(dòng)安全中心開(kāi)展打擊黑產(chǎn)的“啄木鳥2019”行動(dòng)，封禁涉嫌刷量作弊的違規(guī)抖音賬號(hào)203萬(wàn)個(gè)，舉報(bào)涉嫌刷粉刷量黑產(chǎn)網(wǎng)站113家，攔截黑產(chǎn)刷量注冊(cè)抖音賬號(hào)請(qǐng)求9199萬(wàn)次，攔截黑產(chǎn)刷贊、刷粉刷量請(qǐng)求5.51億次。[參見(jiàn)《字節(jié)跳動(dòng)的黑產(chǎn)專項(xiàng)行動(dòng) 封禁抖音作弊賬號(hào)203萬(wàn)》，載股城網(wǎng)2020年1月9日，https：//finance.gucheng.com/202001/3850320.shtml。]平臺(tái)治理的防范與識(shí)別、制止措施往往一體化實(shí)施。例如，阿里巴巴聯(lián)合數(shù)百家品牌商成立打假聯(lián)盟，依托平臺(tái)規(guī)則開(kāi)展在線風(fēng)控，僅2020年協(xié)助執(zhí)法機(jī)關(guān)及品牌方識(shí)別和制止112起案件，案值超23億，取得積極的預(yù)防效果。[

參見(jiàn)《花開(kāi)五月，論道良渚——2021年AACA春季沙龍精彩回顧》，載阿里巴巴打假聯(lián)盟網(wǎng)2021年5月14日，https：//aaca.alibabagroup.heymeo.net/news_detail？id=11。]

此外，根據(jù)《征求意見(jiàn)稿》第21條第1款的后半部分，平臺(tái)發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪后，應(yīng)當(dāng)保存記錄，并向網(wǎng)信部門、電信主管部門、公安機(jī)關(guān)報(bào)告。保存記錄和報(bào)告義務(wù)是平臺(tái)主動(dòng)控制的附隨要求，基于附隨要求的附隨義務(wù)可謂平臺(tái)主動(dòng)控制犯罪的應(yīng)有之義。

（二）平臺(tái)對(duì)控制指令的積極響應(yīng)

根據(jù)《征求意見(jiàn)稿》第21條第2款，主管部門發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪時(shí)，應(yīng)當(dāng)要求平臺(tái)采取消除、制止等處置措施，停止相關(guān)服務(wù)，保存有關(guān)記錄，并向主管部門報(bào)告。該條款要求平臺(tái)積極響應(yīng)主管部門、執(zhí)法部門的犯罪控制指令（如公安部門的《調(diào)取證據(jù)通知書》），及時(shí)執(zhí)行指令中的協(xié)助執(zhí)法要求。平臺(tái)響應(yīng)指令的前提是主管部門和執(zhí)法部門發(fā)現(xiàn)平臺(tái)生態(tài)系統(tǒng)中發(fā)生網(wǎng)絡(luò)違法犯罪，基于“國(guó)家管平臺(tái)”的規(guī)制路徑向平臺(tái)發(fā)出控制指令。與主動(dòng)控制不同，平臺(tái)對(duì)主管部門和執(zhí)法部門指令的響應(yīng)、配合和協(xié)助具有被動(dòng)性?！毒W(wǎng)絡(luò)安全法》第28條和《征求意見(jiàn)稿》第22條為平臺(tái)的協(xié)助執(zhí)法提供了法律依據(jù)，要求平臺(tái)積極回應(yīng)公安機(jī)關(guān)有關(guān)調(diào)取證據(jù)、提供案件線索、報(bào)送網(wǎng)絡(luò)軌跡等的犯罪控制指令。

對(duì)此，最大的爭(zhēng)議莫過(guò)于如何正確理解“主管部門發(fā)現(xiàn)網(wǎng)絡(luò)違法犯罪”后向平臺(tái)發(fā)布指令的時(shí)間節(jié)點(diǎn)，究竟是在刑事立案后，還是在立案前的初查階段即可向平臺(tái)發(fā)布指令？這關(guān)涉平臺(tái)作為數(shù)據(jù)控制者在社會(huì)安全防衛(wèi)與國(guó)民權(quán)利保障之間如何保持平衡的問(wèn)題。如果在立案前發(fā)出指令，無(wú)疑意味著允許平臺(tái)受委托對(duì)未進(jìn)入立案階段的任何線索或任一用戶開(kāi)展數(shù)據(jù)偵查，意味著任一用戶、任何網(wǎng)絡(luò)活動(dòng)均能被納入偵查視野。這顯然模糊了數(shù)據(jù)偵查的法治邊界，違反了權(quán)利保障的法治原則。如果在立案后發(fā)出控制指令，平臺(tái)采取各種處置措施才具備充分的合法性依據(jù)。因此，在一般意義上，主管部門和執(zhí)法部門向平臺(tái)發(fā)布指令的時(shí)間應(yīng)理解為在刑事立案后;但這一理解也并不是絕對(duì)的。對(duì)危害國(guó)家安全犯罪、恐怖主義犯罪等具有嚴(yán)重社會(huì)危害性的犯罪，正式立案前的預(yù)測(cè)性偵查及平臺(tái)的預(yù)防性處置極具必要性。《反電詐法（草案）》第29條規(guī)定：“經(jīng)國(guó)務(wù)院打擊治理電信網(wǎng)絡(luò)詐騙工作機(jī)制決定或者批準(zhǔn)，國(guó)家金融、通信、互聯(lián)網(wǎng)行業(yè)主管部門和公安部門對(duì)電信網(wǎng)絡(luò)詐騙活動(dòng)嚴(yán)重的特定地區(qū)，可以采取相應(yīng)的風(fēng)險(xiǎn)防范措施。”該條款在事實(shí)上為執(zhí)法部門及其委托的互聯(lián)網(wǎng)平臺(tái)在刑事立案前實(shí)施可識(shí)別性更強(qiáng)、手段更靈活、實(shí)用性更顯著的反詐風(fēng)險(xiǎn)防范措施提供了法律依據(jù)。囿于平臺(tái)履行犯罪控制義務(wù)的一般性標(biāo)準(zhǔn)尚存在一定的法律空白，對(duì)嚴(yán)重犯罪開(kāi)展預(yù)防性數(shù)據(jù)偵查的法治邊界亟待厘清，包括《反電詐法（草案）》第29條的適用程序、適用標(biāo)準(zhǔn)及防范范圍仍須進(jìn)一步明確。慶幸的是，主管部門已注意到這一問(wèn)題，《征求意見(jiàn)稿》第22條在規(guī)范互聯(lián)網(wǎng)服務(wù)提供者的協(xié)助執(zhí)法義務(wù)時(shí)，對(duì)該問(wèn)題的立法完善留有伏筆，即“技術(shù)支持和協(xié)助的具體要求，由公安機(jī)關(guān)、國(guó)家安全機(jī)關(guān)會(huì)同電信主管部門等有關(guān)部門另行制定?！?/p>

從《征求意見(jiàn)稿》第21條第2款的文義看，平臺(tái)響應(yīng)指令的內(nèi)容包括三個(gè)方面：其一，采取消除、制止等處置措施，停止相關(guān)服務(wù)?！巴Ｖ瓜嚓P(guān)服務(wù)”亦屬于平臺(tái)的處置措施。處置措施既包括識(shí)別涉嫌違法的用戶，調(diào)查違法用戶的特征、關(guān)系、軌跡、行為等事項(xiàng);包括在主管部門指令的基礎(chǔ)上開(kāi)展數(shù)據(jù)偵查，深挖違法犯罪線索，鎖定其他尚未被掌握的違法用戶;也包括及時(shí)刪除非法信息內(nèi)容;還包括停止對(duì)違法用戶的平臺(tái)服務(wù)，封停社交、交易、金融等賬號(hào)等。其二，保存有關(guān)記錄。這是固定電子證據(jù)、保障案件司法處遇的應(yīng)有之義。2016年“兩高一部”《關(guān)于辦理刑事案件手機(jī)提取和審查判斷電子數(shù)據(jù)若干問(wèn)題的規(guī)定》為網(wǎng)絡(luò)服務(wù)提供者設(shè)定了凍結(jié)電子數(shù)據(jù)等保存記錄的協(xié)助義務(wù)。從性質(zhì)上看，保存有關(guān)記錄屬于平臺(tái)響應(yīng)犯罪控制指令的“信息收集存儲(chǔ)義務(wù)”[裴煒：《針對(duì)用戶個(gè)人信息的網(wǎng)絡(luò)服務(wù)提供者協(xié)助執(zhí)法義務(wù)邊界》，載《網(wǎng)絡(luò)信息法學(xué)研究》2018年第1期，第23頁(yè)。]。對(duì)于立案后主管部門發(fā)布的犯罪控制指令，平臺(tái)應(yīng)對(duì)涉案數(shù)據(jù)“應(yīng)搜盡搜”;對(duì)于立案前針對(duì)特定嚴(yán)重犯罪的犯罪控制指令，平臺(tái)應(yīng)為偵查機(jī)關(guān)提供一定范圍的方向性信息，以便偵查機(jī)關(guān)經(jīng)營(yíng)線索且完成初查，待正式立案后平臺(tái)再進(jìn)一步履行保存有關(guān)記錄的義務(wù)。其三，向主管部門報(bào)告。在對(duì)違法用戶開(kāi)展處置措施和保存記錄后，平臺(tái)應(yīng)向主管部門報(bào)告犯罪控制指令的執(zhí)行情況，以便主管部門監(jiān)督。平臺(tái)的報(bào)告義務(wù)清晰地反映出國(guó)家和平臺(tái)之間的管理與被管理關(guān)系。權(quán)力系“能夠產(chǎn)生強(qiáng)制性服從的能力”[

[美]曼瑟·奧爾森：《權(quán)力與繁榮》，蘇長(zhǎng)和譯，上海人民出版社2018年版，第2頁(yè)。 ]，國(guó)家擁有犯罪治理的權(quán)力，平臺(tái)則為承擔(dān)犯罪控制義務(wù)的責(zé)任主體。同時(shí)，平臺(tái)對(duì)用戶的處置反映出平臺(tái)與用戶不僅存在私主體間的合同關(guān)系，更具有管理與被管理的權(quán)力關(guān)系，即平臺(tái)對(duì)用戶有“哪怕遇到反對(duì)也能貫徹自己意志的任何機(jī)會(huì)”。[[德]馬克斯·韋伯：《經(jīng)濟(jì)與社會(huì)》（下卷），林榮遠(yuǎn)譯，商務(wù)印書館1997年版，第81頁(yè)。]值得注意的是，從權(quán)力關(guān)系看，平臺(tái)對(duì)用戶貫徹的并非自身的意志，而是國(guó)家意志。平臺(tái)對(duì)用戶的社會(huì)權(quán)力源于其承擔(dān)的犯罪控制義務(wù)，故而平臺(tái)治理實(shí)際是國(guó)家通過(guò)平臺(tái)這一組織通道所實(shí)施的間接治理。

總之，互聯(lián)網(wǎng)平臺(tái)的犯罪控制義務(wù)聚焦于平臺(tái)對(duì)用戶違法犯罪的主動(dòng)控制與響應(yīng)控制，既體現(xiàn)出平臺(tái)主動(dòng)控制的保護(hù)義務(wù)，也蘊(yùn)涵著被動(dòng)回應(yīng)的響應(yīng)控制意蘊(yùn)。

四、義務(wù)的實(shí)現(xiàn)：對(duì)非法內(nèi)容的勤勉盡責(zé)審查

《征求意見(jiàn)稿》等法規(guī)范明確了以主動(dòng)控制和響應(yīng)控制為內(nèi)涵的犯罪控制義務(wù)，但尚未明確該義務(wù)的實(shí)現(xiàn)方式和履行標(biāo)準(zhǔn)，包括平臺(tái)采取的技術(shù)措施和其他必要措施的事項(xiàng)清單及具體要求等。由此，保障犯罪控制義務(wù)不被虛置成為平臺(tái)治理高效開(kāi)展的關(guān)鍵所在。鑒于網(wǎng)絡(luò)違法犯罪在平臺(tái)生態(tài)系統(tǒng)中呈現(xiàn)出各種形式的信息形態(tài)，故對(duì)非法信息內(nèi)容的審查成為平臺(tái)履行犯罪控制義務(wù)的基本方式，平臺(tái)的主動(dòng)控制和響應(yīng)控制均以非法內(nèi)容審查為內(nèi)核。平臺(tái)對(duì)非法內(nèi)容的審查經(jīng)歷了從被動(dòng)審查到主動(dòng)審查、從有限審查到全面審查的深刻轉(zhuǎn)變，這種審查義務(wù)蘊(yùn)涵著濃厚的注意義務(wù)屬性，并趨向于勤勉盡責(zé)的義務(wù)標(biāo)準(zhǔn)。

（一）從被動(dòng)審查到主動(dòng)審查的轉(zhuǎn)變

從審查方式看，根據(jù)《網(wǎng)絡(luò)安全法》《征求意見(jiàn)稿》等法規(guī)范，我國(guó)的平臺(tái)審查方式既包括接受投訴和舉報(bào)的被動(dòng)審查，也包括平臺(tái)的主動(dòng)審查。在域外，平臺(tái)審查方式最初僅限于根據(jù)“通知—?jiǎng)h除”規(guī)則對(duì)用戶發(fā)布和傳播的非法信息進(jìn)行被動(dòng)審查，但遺憾的是以“通知—?jiǎng)h除”為路徑的被動(dòng)審查治理效果不佳?！巴ㄖ?jiǎng)h除”規(guī)則源于美國(guó)《數(shù)字千年版權(quán)法》第2章第512條，該“避風(fēng)港”條款要求網(wǎng)絡(luò)服務(wù)提供者在收到權(quán)利人通知的前提下履行刪除義務(wù)，從而獲得法律豁免。該規(guī)則是企業(yè)承擔(dān)守法的社會(huì)責(zé)任的體現(xiàn)?！巴ㄖ?jiǎng)h除”規(guī)則后被《英國(guó)反恐法》（Terrorism Act 2006）和《歐盟反恐指令》（EU2017/541）等法案吸納，為平臺(tái)設(shè)定針對(duì)涉恐信息的“通知—?jiǎng)h除”審查機(jī)制。有學(xué)者指出，《英國(guó)反恐法》的“通知—?jiǎng)h除”機(jī)制存在巨大缺陷，未能明確“刪除義務(wù)”的主體，導(dǎo)致網(wǎng)絡(luò)服務(wù)提供商的具體控制義務(wù)不明;第3條第5款和第6款針對(duì)相似內(nèi)容的注意義務(wù)為平臺(tái)提供了抗辯條款[《英國(guó)反恐法》第3條（5）規(guī)定：“在根據(jù)第（1）款和第（2）款所述罪行提起的法律程序中，如被告人證明其實(shí)施了以下措施，可免除處罰：（a）在類似違法內(nèi)容傳播前，已采取可能采取的所有合理手段以防止公眾重復(fù)接觸到類似違法信息?！钡?條（6）規(guī)定：“或在任何時(shí)間下，（a）對(duì)類似違法內(nèi)容傳播不知情;（b）知情后已采取合理的補(bǔ)救措施確保該信息不再向公眾提供?！眳⒁?jiàn)The Terrorism Act 2006， Article 3 （2006）.]，導(dǎo)致該機(jī)制的執(zhí)行效果不佳;法案規(guī)定的“送達(dá)”為實(shí)物介質(zhì)送達(dá)，使流程運(yùn)轉(zhuǎn)極為緩慢，直接增加了時(shí)間成本。[See I. Awan， Policing the Global Phenomenon of Cyber Terrorism and Extremism， in Policing Cyber Hate， Cyber Threats and Cyber Terrorism， Routledge， 2016， p.109-124.]

2017年德國(guó)《網(wǎng)絡(luò)執(zhí)行法》完善了“通知—?jiǎng)h除”規(guī)則，要求擁有超過(guò)200萬(wàn)用戶的平臺(tái)，應(yīng)在收到投訴的24小時(shí)內(nèi)刪除“明顯非法”內(nèi)容，違反規(guī)定的公司面臨最高5000萬(wàn)歐元罰款。該法在“通知—?jiǎng)h除”規(guī)則外，引入政府的外部合規(guī)審查，針對(duì)可能違反刑法的內(nèi)容，加強(qiáng)對(duì)網(wǎng)絡(luò)平臺(tái)自我規(guī)制的規(guī)制，以督促網(wǎng)絡(luò)服務(wù)提供者履行主動(dòng)審查義務(wù)，要求社交網(wǎng)絡(luò)平臺(tái)設(shè)置用戶友好型投訴程序，并承擔(dān)定期通報(bào)義務(wù)。[查云飛：《德國(guó)對(duì)網(wǎng)絡(luò)平臺(tái)的行政法規(guī)制——邁向合規(guī)審查之路徑》，載《德國(guó)研究》2018年第3期，第72-87頁(yè)。]由此，平臺(tái)對(duì)非法內(nèi)容的審查被更好地納入政府監(jiān)管的制度框架，審查標(biāo)準(zhǔn)和流程得以明確。實(shí)踐證明，平臺(tái)主動(dòng)審查有著比“通知-刪除”規(guī)則下的被動(dòng)審查更顯著的治理效果。Facebook公司2020年共處置用戶發(fā)布的涉恐信息3330萬(wàn)條、網(wǎng)絡(luò)仇恨信息1910萬(wàn)條，2021年第一季度處理涉恐信息900萬(wàn)條、網(wǎng)絡(luò)仇恨信息980萬(wàn)條。其中，99%以上的非法信息由平臺(tái)主動(dòng)發(fā)現(xiàn)。[See Transparency Center， Community Standards Enforcement | Transparency Center， （July 17， 2021）， https：//transparency.fb.com/data/community-standards-enforcement/dangerous-organizations/facebook#CONTENT_ACTIONED.]在數(shù)字化時(shí)代，平臺(tái)生態(tài)系統(tǒng)中上傳和流動(dòng)的海量信息組成了蔚為壯觀的“數(shù)據(jù)宇宙”，僅憑基于“通知—?jiǎng)h除”規(guī)則的用戶投訴或政府外部監(jiān)管根本無(wú)從有效控制非法信息傳播。相對(duì)平臺(tái)生態(tài)系統(tǒng)，政府監(jiān)管部門的治理距離過(guò)于遙遠(yuǎn)，平臺(tái)生態(tài)系統(tǒng)運(yùn)營(yíng)者的主動(dòng)審查顯然更有助于實(shí)現(xiàn)網(wǎng)絡(luò)犯罪的及時(shí)阻斷。

2018年歐盟公布的《關(guān)于防止恐怖主義內(nèi)容在線傳播的提案》第1條明確了信息托管服務(wù)提供商應(yīng)承擔(dān)主動(dòng)規(guī)避涉恐信息的注意義務(wù)，預(yù)防利用其服務(wù)傳播恐怖主義的行為，在必要時(shí)確保迅速刪除涉恐信息。該提案第6條規(guī)定平臺(tái)應(yīng)采用主管當(dāng)局認(rèn)可的有效積極措施，以自動(dòng)化決策防范相似違法內(nèi)容重復(fù)上傳，檢測(cè)、識(shí)別并快速刪除恐怖主義內(nèi)容或禁止恐怖主義內(nèi)容的域內(nèi)訪問(wèn)。[See European Commission， Directive（EU） 2017/541 of the European Parliament and of the Council on combating terrorism and replacing Council Framework Decision 2002/475/JHA and amending Council Decision 2005/671/JHA， （Sept. 1， 2021）， https：//www.legislation.gov.uk/eudr/2017/541/introduction.]2018年生效的《歐盟視聽(tīng)媒體服務(wù)指令》要求對(duì)視頻共享平臺(tái)構(gòu)建共同監(jiān)管的規(guī)制體系。該指令要求成員國(guó)應(yīng)確保其管轄的視頻共享平臺(tái)對(duì)可能損害未成年人身心和道德發(fā)展的信息、具有煽動(dòng)性的暴力或仇恨相關(guān)的信息、涉刑事犯罪的信息履行監(jiān)管義務(wù)。[See EU Audiovisual Media Services Directive， Art. 28 （2018）.]2018年生效的美國(guó)《反網(wǎng)絡(luò)性交易法案》也要求平臺(tái)承擔(dān)對(duì)網(wǎng)絡(luò)賣淫的主動(dòng)審查義務(wù)。[See C. Bakalis， and J. Hornle， The Role of Social Media Companies in the Regulation of Online Hate Speech， in Studies in Law， Politics， and Society， Emerald Publishing Limited，2021.]2020年公布的《數(shù)字服務(wù)法（草案）》（DSA）更是明確了平臺(tái)對(duì)非法內(nèi)容的主動(dòng)審查義務(wù)（下文詳述）?？梢?jiàn)，不僅我國(guó)強(qiáng)調(diào)平臺(tái)對(duì)非法內(nèi)容的主動(dòng)審查，以歐盟為代表的全球主要法域也開(kāi)始重視平臺(tái)的主動(dòng)審查。

（二）從有限審查到全面審查的擴(kuò)張

從審查對(duì)象看，歐盟的平臺(tái)主動(dòng)審查主要聚焦于涉恐怖主義和兒童色情的非法內(nèi)容;但非法內(nèi)容的范圍呈擴(kuò)張趨勢(shì)。DSA法案附則第12條規(guī)定，“‘非法內(nèi)容的概念應(yīng)作廣義的理解，涵蓋與非法內(nèi)容、產(chǎn)品、服務(wù)和活動(dòng)有關(guān)的信息。特別是，該概念應(yīng)理解為信息根據(jù)適用的法律本身就是非法的，無(wú)論其形式如何?！盵See Digital Services Act， Recital 12（2020）.]待DSA法案生效后，平臺(tái)的審查范圍將從傳統(tǒng)的涉恐、涉仇恨犯罪、涉兒童色情擴(kuò)張至包括網(wǎng)絡(luò)售假、網(wǎng)絡(luò)詐騙等更廣泛的非法內(nèi)容。非法性的判斷依據(jù)在于歐盟法及與歐盟法一致的成員國(guó)法律。值得注意的是，雖然DSA第7條不承認(rèn)平臺(tái)具有對(duì)信息內(nèi)容的一般性審查義務(wù)，但附則第28條規(guī)定平臺(tái)不承擔(dān)一般性的監(jiān)測(cè)義務(wù)并不影響具體情況下的監(jiān)測(cè)義務(wù)，特別是不影響主管機(jī)關(guān)根據(jù)國(guó)家立法和本條例規(guī)定的條件而下達(dá)的命令。[See Digital Services Act， Recital 28（2020）.]鑒于成員國(guó)法律內(nèi)涵的廣泛性以及執(zhí)法部門控制犯罪的需要時(shí)常處于變動(dòng)之中，執(zhí)法部門對(duì)平臺(tái)下達(dá)的指令存在較強(qiáng)不確定性，平臺(tái)據(jù)此承擔(dān)的審查義務(wù)實(shí)際具有相當(dāng)程度的廣泛性?？梢?jiàn)，在歐盟，平臺(tái)對(duì)非法內(nèi)容的審查絕非有限審查，而至少是具有開(kāi)放性的積極審查。

DSA附則第57條進(jìn)一步表明平臺(tái)審查義務(wù)具有積極性乃至廣泛性的特點(diǎn)。該條款要求超大型在線平臺(tái)應(yīng)深入評(píng)估涉及三類系統(tǒng)性風(fēng)險(xiǎn)的信息：第一類風(fēng)險(xiǎn)涉及通過(guò)散布非法內(nèi)容的濫用服務(wù)和實(shí)施非法活動(dòng);第二類風(fēng)險(xiǎn)涉及對(duì)行使《歐盟基本權(quán)利憲章》保護(hù)的基本權(quán)利產(chǎn)生的影響;第三類風(fēng)險(xiǎn)涉及以通謀方式操縱平臺(tái)服務(wù)，對(duì)健康、公民言論，選舉程序、公共安全和未成年人保護(hù)具有可預(yù)見(jiàn)的影響，同時(shí)應(yīng)考慮維護(hù)公共秩序，保護(hù)隱私及打擊欺詐性商業(yè)行為的需要。[See Digital Services Act， Recital 57（2020）.]上述系統(tǒng)性風(fēng)險(xiǎn)廣泛涵蓋各種利用平臺(tái)服務(wù)實(shí)施的違規(guī)違法犯罪風(fēng)險(xiǎn)，具有相當(dāng)程度的開(kāi)放性?？梢?jiàn)，超大型在線平臺(tái)的審查義務(wù)即便在法案中不使用普遍性或一般性的用語(yǔ)，也在實(shí)質(zhì)意義上蘊(yùn)涵著相當(dāng)程度的普遍性和一般性。

相較歐盟的審查對(duì)象擴(kuò)張，我國(guó)的平臺(tái)審查義務(wù)始終堅(jiān)持對(duì)違法犯罪信息的全面審查?！毒W(wǎng)絡(luò)安全法》第9條規(guī)定網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)“履行網(wǎng)絡(luò)安全保護(hù)義務(wù)”;第47條規(guī)定：“網(wǎng)絡(luò)運(yùn)營(yíng)者應(yīng)當(dāng)加強(qiáng)對(duì)其用戶發(fā)布的信息的管理，發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌?，?yīng)當(dāng)立即停止傳輸該信息，采取消除等處置措施，防止信息擴(kuò)散，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告?！薄痘ヂ?lián)網(wǎng)用戶公眾賬號(hào)信息服務(wù)管理規(guī)定》第12條要求平臺(tái)對(duì)用戶公眾賬號(hào)的留言、跟帖、評(píng)論等互動(dòng)環(huán)節(jié)進(jìn)行實(shí)時(shí)管理?！墩髑笠庖?jiàn)稿》第16條要求互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)建立信息發(fā)布審核制度、配備網(wǎng)絡(luò)與信息安全管理人員、建立網(wǎng)絡(luò)與信息安全管理制度，加強(qiáng)公共信息巡查。可見(jiàn)，無(wú)論是一般性的安全保護(hù)義務(wù)，還是具體化的內(nèi)容審查制度，均為平臺(tái)的全面審查提出了綜合性要求。為適應(yīng)普遍性的審查義務(wù)，全球主要超大型在線平臺(tái)均組織起龐大的內(nèi)容審核團(tuán)隊(duì)，打造出基于人工智能的自動(dòng)化決策與人工審核相結(jié)合的審查流程。近年來(lái)，F(xiàn)acebook的內(nèi)容審核團(tuán)隊(duì)急劇擴(kuò)張，從2012年的50人增長(zhǎng)為2020年的1萬(wàn)余人。[參見(jiàn)《Facebook 審核人員暴增，科技巨頭的漫漫審核路》，百度網(wǎng)2020年4月15日，https：//baijiahao.baidu.com/s？id=1664030490630219735&wfr=spider&for=pc。]據(jù)調(diào)研，2020年B站內(nèi)容篩選團(tuán)隊(duì)約有2400名員工;小紅書審核員工有1000多人;字節(jié)跳動(dòng)的內(nèi)容審核員超過(guò)2萬(wàn)人。

（三）趨于勤勉盡責(zé)的注意義務(wù)標(biāo)準(zhǔn)

在主動(dòng)審查和全面審查的基礎(chǔ)上，平臺(tái)對(duì)非法內(nèi)容的審查應(yīng)達(dá)到何種標(biāo)準(zhǔn)？這直指犯罪控制義務(wù)的本質(zhì)屬性。犯罪控制義務(wù)源于平臺(tái)的主體責(zé)任，主體責(zé)任將平臺(tái)設(shè)定為國(guó)家與違法個(gè)體之間的“監(jiān)控中介”[See Alan Z. Rozenshtein，Surveillance Intermediaries，70 Stanford Law Review 99， 112-114（2018）.]（Surveillance Intermediaries）。在“國(guó)家管平臺(tái)、平臺(tái)管用戶”的治理路徑下，犯罪控制義務(wù)在本質(zhì)上是平臺(tái)實(shí)施犯罪控制活動(dòng)的注意義務(wù)。這種注意義務(wù)不單是“義務(wù)主體作為危險(xiǎn)制造者而謹(jǐn)慎、小心地行為而不使自己的行為給他人造成損害的消極義務(wù)”[屈茂輝：《論民法上的注意義務(wù)》，載《北方法學(xué)》2007年第1期，第25-26頁(yè)。];還包括作為危險(xiǎn)管控者防范危險(xiǎn)給社會(huì)造成損害的積極義務(wù)。在主體責(zé)任下，平臺(tái)對(duì)平臺(tái)生態(tài)系統(tǒng)中的違法犯罪或平臺(tái)服務(wù)被不法分子用于違法犯罪應(yīng)承擔(dān)積極的注意義務(wù)。作為平臺(tái)生態(tài)系統(tǒng)的運(yùn)營(yíng)者和數(shù)字社會(huì)的看門人，平臺(tái)為避免國(guó)家、社會(huì)和平臺(tái)用戶遭受犯罪侵害而應(yīng)承擔(dān)積極作為的危險(xiǎn)規(guī)避責(zé)任，采取有效措施最大限度地發(fā)現(xiàn)和處理非法信息內(nèi)容，盡可能防范、識(shí)別、制止所提供的服務(wù)被用于實(shí)施違法犯罪。

在域外，平臺(tái)控制犯罪的注意義務(wù)屬性獲得相關(guān)政策法律文件的認(rèn)可。2019年，英國(guó)發(fā)布《網(wǎng)絡(luò)有害內(nèi)容白皮書》（以下簡(jiǎn)稱《白皮書》）提出以“注意義務(wù)”（duty of care）替代“通知—?jiǎng)h除”的要求，注意義務(wù)的內(nèi)容和標(biāo)準(zhǔn)由監(jiān)管部門制定，監(jiān)管部門要求不論用戶是否通知或投訴，平臺(tái)應(yīng)優(yōu)先主動(dòng)審查、積極刪除涉恐怖主義和兒童色情的非法內(nèi)容?！栋灼芬笃脚_(tái)從以下方面履行注意義務(wù)：確保內(nèi)部條款符合監(jiān)管機(jī)構(gòu)的標(biāo)準(zhǔn)，并適時(shí)報(bào)告執(zhí)行情況;嚴(yán)格遵守和履行已制定的內(nèi)部條款和流程;預(yù)防重復(fù)性的恐怖主義和兒童色情信息再次傳播;在收到舉報(bào)后采取及時(shí)、透明、有效的行動(dòng);積極協(xié)助司法機(jī)關(guān)的調(diào)查;積極幫助受損害的用戶維權(quán);定期審查其對(duì)注意義務(wù)的履行情況，并及時(shí)調(diào)整策略。[See Government of the United Kingdom， Online Harms White Paper， （Aug. 19， 2021）， https：//www.gov.uk/government/consultations/online-harms-white-paper/online-harms-white-paper#part-3-regulation-in-practice.]《白皮書》強(qiáng)調(diào)的上述“注意義務(wù)”是以犯罪風(fēng)險(xiǎn)規(guī)避為實(shí)質(zhì)的積極作為義務(wù)，包括一系列的主動(dòng)控制和響應(yīng)控制行為，并在英國(guó)《網(wǎng)絡(luò)安全法》中獲得進(jìn)一步明確。

在《白皮書》基礎(chǔ)上，DSA草案提出更為詳盡的積極作為規(guī)定，將積極作為的注意義務(wù)表述為“勤勉盡責(zé)義務(wù)”（Due diligence obligations）。DSA第三章以“維護(hù)透明且安全的在線環(huán)境應(yīng)盡的勤勉盡責(zé)義務(wù)”為標(biāo)題，要求平臺(tái)以“看門人”身份對(duì)非法內(nèi)容進(jìn)行主動(dòng)審查。DSA通過(guò)一系列條款細(xì)化了“勤勉盡責(zé)”的具體要求，第13條規(guī)定“中介服務(wù)提供商的透明性報(bào)告義務(wù)”，要求中介服務(wù)提供商至少以每年一次的頻率，就其開(kāi)展的非法內(nèi)容審查活動(dòng)向社會(huì)發(fā)布清晰、易于理解且詳細(xì)的報(bào)告，保障公眾知情權(quán)和監(jiān)督權(quán)。第14條規(guī)定平臺(tái)應(yīng)建立通知及響應(yīng)機(jī)制，允許任何個(gè)人對(duì)認(rèn)為其所提供的服務(wù)和特定信息條目中存在非法內(nèi)容時(shí)做出通知，保障便捷有效的在線監(jiān)督機(jī)制。第21條規(guī)定了平臺(tái)的刑事犯罪報(bào)告義務(wù)，“當(dāng)在線平臺(tái)了解到任何可疑信息，懷疑涉及人的生命或安全的嚴(yán)重刑事犯罪已經(jīng)發(fā)生、正在發(fā)生或可能發(fā)生，應(yīng)將其懷疑立即通知一個(gè)或多個(gè)相關(guān)成員國(guó)的執(zhí)法或司法機(jī)關(guān)，并提供相關(guān)信息。”[See Digital Service Act， §21 （2020）.]刑事犯罪報(bào)告義務(wù)是非法內(nèi)容審查的自然延伸，是平臺(tái)與監(jiān)管機(jī)構(gòu)的協(xié)作形式。第26條規(guī)定了超大型在線平臺(tái)對(duì)平臺(tái)服務(wù)中的非法內(nèi)容傳播等系統(tǒng)性風(fēng)險(xiǎn)進(jìn)行積極管控的義務(wù);第27條要求超大型在線平臺(tái)對(duì)系統(tǒng)性風(fēng)險(xiǎn)采取合理、適當(dāng)、有效的緩解措施?？梢?jiàn)，DSA草案鞏固了平臺(tái)控制犯罪的“看門人”主體定位，明確了平臺(tái)履行注意義務(wù)的勤勉盡責(zé)要求，搭建起歐盟應(yīng)對(duì)網(wǎng)絡(luò)犯罪挑戰(zhàn)的全新制度框架。

在我國(guó)，平臺(tái)的勤勉盡責(zé)要求全面覆蓋風(fēng)險(xiǎn)識(shí)別、停止傳輸、刪除信息、防止擴(kuò)散、保存記錄、報(bào)告有關(guān)部門等犯罪治理的全鏈路，并體現(xiàn)于主管部門組織平臺(tái)企業(yè)簽訂的犯罪治理責(zé)任書之中。2019年7月，工信部會(huì)同公安部、網(wǎng)信辦組織阿里巴巴、騰訊、百度等11家單位簽訂“重點(diǎn)互聯(lián)網(wǎng)企業(yè)防范治理電信網(wǎng)絡(luò)詐騙責(zé)任書”，將犯罪控制義務(wù)壓實(shí)和細(xì)化。責(zé)任書要求企業(yè)必須建立電信網(wǎng)絡(luò)詐騙防范治理制度體系，嚴(yán)格落實(shí)用戶賬戶管理要求，建立違規(guī)賬戶依法關(guān)停機(jī)制，建立完善詐騙風(fēng)險(xiǎn)巡查預(yù)警和快速響應(yīng)處置機(jī)制，建立完善電信網(wǎng)絡(luò)詐騙技術(shù)防范體系，加強(qiáng)企業(yè)平臺(tái)的電信網(wǎng)絡(luò)詐騙問(wèn)題清理和新業(yè)務(wù)的詐騙風(fēng)險(xiǎn)安全評(píng)估。[參見(jiàn)《凈化網(wǎng)絡(luò)通信環(huán)境！重點(diǎn)互聯(lián)網(wǎng)企業(yè)簽訂防范治理電信網(wǎng)絡(luò)詐騙責(zé)任書》，載浙江新聞網(wǎng)2019年7月11日，https：//zj.zjol.com.cn/news/1240712.html。]目前處于全國(guó)人大審議階段的《反電詐法（草案）》充分汲取了責(zé)任書的反詐治理經(jīng)驗(yàn)，將責(zé)任書的治理經(jīng)驗(yàn)上升為法律規(guī)定。

責(zé)任書要求將犯罪控制的注意義務(wù)嵌入平臺(tái)服務(wù)、細(xì)化為平臺(tái)規(guī)則，這種勤勉盡責(zé)標(biāo)準(zhǔn)具體體現(xiàn)在以下方面：其一，在制度上，責(zé)任書要求平臺(tái)建立電詐犯罪治理的制度體系，明確責(zé)任主體、完善平臺(tái)規(guī)則、形成治理閉環(huán)，將防范電詐犯罪工作責(zé)任的落實(shí)情況納入企業(yè)年報(bào)。其二，在重點(diǎn)上，責(zé)任書要求平臺(tái)加強(qiáng)對(duì)用戶賬戶的管理，嚴(yán)格落實(shí)賬戶關(guān)停機(jī)制，及時(shí)關(guān)停發(fā)布非法內(nèi)容的賬戶，從源頭上控制電詐信息的傳播。其三，在手段上，責(zé)任書要求平臺(tái)發(fā)揮技術(shù)優(yōu)勢(shì)，加強(qiáng)對(duì)電詐犯罪的技術(shù)治理，完善平臺(tái)側(cè)的智能分析系統(tǒng)，形成日?；闹鲃?dòng)巡查及快速響應(yīng)處置機(jī)制，創(chuàng)新終端側(cè)的反詐技術(shù)產(chǎn)品，提升犯罪風(fēng)險(xiǎn)的事前預(yù)警和事中阻斷能力。其四，在專項(xiàng)行動(dòng)上，責(zé)任書要求平臺(tái)落實(shí)電詐問(wèn)題集中清理的任務(wù)，識(shí)別并補(bǔ)強(qiáng)平臺(tái)治理的薄弱環(huán)節(jié)，對(duì)平臺(tái)生態(tài)系統(tǒng)進(jìn)行全面排查，將違規(guī)買賣電話充值卡、電話卡、物聯(lián)網(wǎng)卡等交易活動(dòng)關(guān)停或下架。其五，在風(fēng)控上，責(zé)任書要求平臺(tái)加強(qiáng)對(duì)新業(yè)務(wù)的電詐風(fēng)險(xiǎn)進(jìn)行安全評(píng)估，在新業(yè)務(wù)、新應(yīng)用的立項(xiàng)研發(fā)和上線運(yùn)營(yíng)等環(huán)節(jié)強(qiáng)化電詐風(fēng)險(xiǎn)的源頭治理。其六，在協(xié)同上，完善電詐舉報(bào)通報(bào)的處置流程。對(duì)公安通報(bào)、用戶舉報(bào)的電詐線索依法核查處置，及時(shí)反饋結(jié)果;將平臺(tái)主動(dòng)發(fā)現(xiàn)的違法線索向公安機(jī)關(guān)和主管部門報(bào)告，加強(qiáng)犯罪情報(bào)共享和防控協(xié)同聯(lián)動(dòng)。

根據(jù)《征求意見(jiàn)稿》第21條，平臺(tái)勤勉盡責(zé)的注意對(duì)象不僅適用于電詐犯罪的防范，還包括對(duì)其他利用平臺(tái)服務(wù)實(shí)施的各類違法犯罪的防范。由此，犯罪控制義務(wù)的勤勉盡責(zé)履行成為平臺(tái)治理的實(shí)現(xiàn)路徑。為保障平臺(tái)勤勉盡責(zé)地履行犯罪控制義務(wù)，不僅《征求意見(jiàn)稿》針對(duì)平臺(tái)履行義務(wù)不力的情況苛以警告、責(zé)令限期整改、罰款、責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、吊銷業(yè)務(wù)許可證或營(yíng)業(yè)執(zhí)照等行政處罰，刑法還對(duì)平臺(tái)未盡職履責(zé)設(shè)定了刑事責(zé)任。《刑法修正案（九）》增設(shè)的“拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪”在國(guó)外刑法中亦有類似規(guī)定。2019年生效的澳大利亞《關(guān)于分享仇恨暴力內(nèi)容的刑法修正案》規(guī)定，互聯(lián)網(wǎng)托管服務(wù)平臺(tái)未能及時(shí)刪除令人憎惡的暴力內(nèi)容，提供托管服務(wù)的負(fù)責(zé)人將面臨最高3年的有期徒刑，并將處以年收入10%的罰款。其中，在《澳大利亞聯(lián)邦刑法典》第474條之中增加兩款規(guī)定，該條第33款明確了網(wǎng)絡(luò)服務(wù)提供商、內(nèi)容服務(wù)提供商和主機(jī)服務(wù)提供商在發(fā)現(xiàn)仇恨暴力內(nèi)容后承擔(dān)向聯(lián)邦警察局報(bào)告的義務(wù)，并規(guī)定違反報(bào)告義務(wù)應(yīng)承擔(dān)的罰金刑;該條第34款要求平臺(tái)在明確本平臺(tái)或服務(wù)器內(nèi)存在仇恨暴力相關(guān)的內(nèi)容即應(yīng)立即刪除，否則構(gòu)成刑事犯罪。[See Criminal Code Amendment （Sharing of Abhorrent Violent Material） Act 2019.]

五、結(jié)語(yǔ)

在以平臺(tái)為樞紐的雙層社會(huì)中，犯罪治理呈現(xiàn)“多層級(jí)治理”[See S. Piattoni， The Theory of Multi-level Governance： Conceptual， Empirical， and Normative Challenges， Oxford University Press， 2010.]（multi-level governance）的新態(tài)勢(shì)。為回應(yīng)新型網(wǎng)絡(luò)犯罪的挑戰(zhàn)，在國(guó)家對(duì)違法犯罪或不法分子的直接治理之外，“國(guó)家管平臺(tái)、平臺(tái)管用戶”的間接性的平臺(tái)治理勃興。從治理的制度依據(jù)看，平臺(tái)治理高效推進(jìn)的關(guān)鍵在于平臺(tái)對(duì)犯罪控制義務(wù)的履行。隨著《征求意見(jiàn)稿》《反電詐法（草案）》等法規(guī)范的出臺(tái)，犯罪控制義務(wù)的主體從國(guó)家擴(kuò)展至互聯(lián)網(wǎng)平臺(tái)，犯罪控制義務(wù)從概括性的安全保護(hù)義務(wù)中脫胎而出，成為一種以主動(dòng)控制和響應(yīng)控制為內(nèi)涵、以犯罪風(fēng)險(xiǎn)規(guī)避為目標(biāo)、以非法內(nèi)容審查為方式、以勤勉盡責(zé)為標(biāo)準(zhǔn)的法定注意義務(wù)。待《征求意見(jiàn)稿》《反電詐法》生效后，平臺(tái)控制犯罪的勤勉盡責(zé)標(biāo)準(zhǔn)應(yīng)盡快以行政法規(guī)或部門規(guī)章形式予以明確，從而推動(dòng)犯罪控制義務(wù)從原則性義務(wù)走向規(guī)則性義務(wù)，并進(jìn)一步轉(zhuǎn)化為體系性的平臺(tái)規(guī)則和算法形態(tài)的技術(shù)規(guī)則，在法律規(guī)則、平臺(tái)規(guī)則和技術(shù)規(guī)則的統(tǒng)合下推動(dòng)犯罪控制義務(wù)的日常化履行。ML

The Crime Control Obligation of Internet Platforms

SHAN Yong

（Law school， Nanjing University， Nanjing 210093， China）

Abstract：New cybercrimes parasitize the platform ecosystem operated by Internet platform corporations when traditional crimes fall but cybercrimes rise now. Platform-based governance appears because platforms are responsible for network security. They have unique governance advantages and the moral obligation to prevent users from infringements. There are sufficient facts， policy basis， and unique normative basis for platform governance. The crime control obligation of platforms is set in Administrative Measures for Internet Information Services （ Draft Amendment for Public Comment） and Combating Telecom and Online Fraud Law （Draft）. Platforms shall perform the statutory duty of care for crimes committed through their services. The statutory duty of care includes active control and response control， aims at crime risk aversion and takes diligence as the standard. Its main method is the censorship of illegal content. The obligation of crime control constitutes the legal basis of the platform governance of crime， and the platform' s diligent and responsible implementation of the obligation build the path of platform governance.

Key Words：cyber crime; crime governance; platform governance; obligation of crime control; due diligence obligations standard

本文責(zé)任編輯：李曉鋒

青年學(xué)術(shù)編輯：張永強(qiáng)

收稿日期：2022-01-13

基金項(xiàng)目：2020年度國(guó)家社科基金一般項(xiàng)目“數(shù)據(jù)正義視域下犯罪的技術(shù)治理均衡發(fā)展研究”（20BFX066）

作者簡(jiǎn)介：?jiǎn)斡拢?979），男，黑龍江黑河人，南京大學(xué)法學(xué)院教授，博士生導(dǎo)師，法學(xué)博士。

① 作為綜合治理的本質(zhì)特征，組織化調(diào)控是指通過(guò)黨的組織網(wǎng)絡(luò)和政府的組織體系，在組織建設(shè)和組織網(wǎng)絡(luò)滲透中不斷建立和完善執(zhí)政黨主導(dǎo)的權(quán)力組織網(wǎng)絡(luò)，使社會(huì)本身趨向高度的組織化，通過(guò)組織來(lái)實(shí)現(xiàn)國(guó)家治理目的的社會(huì)調(diào)控形式。參見(jiàn)唐皇鳳：《社會(huì)轉(zhuǎn)型與組織化調(diào)控——中國(guó)社會(huì)治安綜合治理組織網(wǎng)絡(luò)研究》，武漢大學(xué)出版社2008年版，第60-61頁(yè)。

② 國(guó)務(wù)院反壟斷委員會(huì)《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》第2條規(guī)定，互聯(lián)網(wǎng)平臺(tái)是指通過(guò)網(wǎng)絡(luò)信息技術(shù)，使相互依賴的雙邊或者多邊主體在特定載體提供的規(guī)則下交互，以此共同創(chuàng)造價(jià)值的商業(yè)組織形態(tài)。