“人機(jī)協(xié)作型”內(nèi)容風(fēng)控，讓信息安全臻于“智”善

王震

近年來，互聯(lián)網(wǎng)技術(shù)快速發(fā)展，信息傳播渠道不斷豐富。然而，“人人擁有麥克風(fēng)”的時(shí)代，信息傳播門檻不斷降低，也為謠言、虛假新聞插上了翅膀。如何通過技術(shù)手段實(shí)現(xiàn)快速、準(zhǔn)確地識(shí)別虛假信息，讓信息安全臻于“智”善？人民網(wǎng)“人機(jī)協(xié)作”內(nèi)容風(fēng)控提供了解決方案——在基礎(chǔ)的內(nèi)容審核上進(jìn)一步升級(jí)，初步實(shí)現(xiàn)“智能鑒謠”。在當(dāng)下海量信息場景的實(shí)際需求下，單純依靠傳統(tǒng)的人工審核機(jī)制，已經(jīng)難以實(shí)現(xiàn)識(shí)別謠言效率最大化。而將人工審核的經(jīng)驗(yàn)與人工智能、大數(shù)據(jù)相結(jié)合，打造“人機(jī)協(xié)作”的智能識(shí)謠平臺(tái)，應(yīng)用到新聞生產(chǎn)、內(nèi)容風(fēng)控等實(shí)際場景，不僅能夠極大提高內(nèi)容生產(chǎn)和審核的效率和準(zhǔn)確性，更可以依托大數(shù)據(jù)深入研判分析，為內(nèi)容企業(yè)提供決策參考、為平臺(tái)優(yōu)化提供引導(dǎo)作用。

“新聞識(shí)謠”融入采編過程，生成“可信度指數(shù)”

由人民網(wǎng)、內(nèi)容傳播認(rèn)知國家重點(diǎn)實(shí)驗(yàn)室、中科睿鑒合作研發(fā)的“睿鑒AI識(shí)謠”系統(tǒng)，將人機(jī)結(jié)合的創(chuàng)新內(nèi)容風(fēng)控技術(shù)用于輔助提升新聞生產(chǎn)、內(nèi)容審核等場景的工作效率?；诙嗄B(tài)檢測、多層次表示、多角度判斷，該系統(tǒng)能夠自動(dòng)發(fā)現(xiàn)可疑線索并進(jìn)行認(rèn)證，從而及時(shí)“揪出”可信度不高的信息。同時(shí)，基于數(shù)據(jù)驅(qū)動(dòng)方法，系統(tǒng)能夠不斷挖掘出不同類別謠言的特性，實(shí)現(xiàn)對(duì)各種謠言的自動(dòng)識(shí)別。

在“睿鑒AI識(shí)謠”系統(tǒng)中，打開一條新聞，能夠自動(dòng)生成一份AI識(shí)別報(bào)告，內(nèi)容包括新聞熱度、發(fā)展趨勢、用戶畫像等，同時(shí)基于大數(shù)據(jù)、AI分析生成新聞的可信度指數(shù)。“睿鑒AI識(shí)謠”僅需1分鐘就能對(duì)疑似謠言事件發(fā)出預(yù)警。目前，該系統(tǒng)已經(jīng)應(yīng)用在人民網(wǎng)的內(nèi)容審核和新聞生產(chǎn)中。通過將“睿鑒AI識(shí)謠”智能接口融入采編后臺(tái)，編輯即可通過系統(tǒng)隨時(shí)獲知指定新聞的可信度指數(shù)。

2020年底，人民網(wǎng)-中科睿鑒新聞可信度識(shí)別支撐系統(tǒng)成功入選國家新聞出版署“中國報(bào)業(yè)深度融合發(fā)展創(chuàng)新案例”，其核心技術(shù)“開放環(huán)境下數(shù)字偽造內(nèi)容檢測關(guān)鍵技術(shù)與服務(wù)平臺(tái)建設(shè)”獲得了2020年北京市科學(xué)技術(shù)進(jìn)步獎(jiǎng)一等獎(jiǎng)。

此外，由人民日報(bào)社主管、人民網(wǎng)承建的內(nèi)容傳播認(rèn)知國家重點(diǎn)實(shí)驗(yàn)室亦在內(nèi)容風(fēng)控領(lǐng)域取得研究進(jìn)展。實(shí)驗(yàn)室利用自然語言處理、大數(shù)據(jù)和人工智能技術(shù)，開展了“涉政論述知識(shí)圖譜”研究工作，參照《人民日報(bào)》的標(biāo)準(zhǔn)表述，開發(fā)完成智能審校輔助系統(tǒng)（暫名“智小助”），以滿足規(guī)范表述及內(nèi)容審校的需求。該系統(tǒng)可對(duì)表述內(nèi)容進(jìn)行四個(gè)層級(jí)的規(guī)范情況提示，包括規(guī)范表述、過期表述、錯(cuò)誤表述、成語和用戶自定義關(guān)鍵詞等，輔助內(nèi)容創(chuàng)作者、審核人員進(jìn)行內(nèi)容創(chuàng)作和把關(guān)。

“風(fēng)控大腦”概念落地，“人機(jī)協(xié)作”成內(nèi)容風(fēng)控首選

打擊網(wǎng)絡(luò)謠言是保障互聯(lián)網(wǎng)信息安全的重點(diǎn)，而其他隱藏于互聯(lián)網(wǎng)上的內(nèi)容問題同樣不可忽視。在全媒體時(shí)代，無論是主流傳媒平臺(tái)還是商業(yè)平臺(tái)，無論是自媒體還是普通網(wǎng)友，人人都可發(fā)布信息，這就給了一些別有用心者可乘之機(jī)。不良信息潛藏在海量信息中侵蝕著輿論，同網(wǎng)絡(luò)謠言一樣，威脅著網(wǎng)絡(luò)安全、社會(huì)安全和國家意識(shí)形態(tài)安全。

如果說人工經(jīng)驗(yàn)決定了內(nèi)容風(fēng)控的高度，那么技術(shù)就決定了內(nèi)容風(fēng)控的效率。在這樣的背景下，“人機(jī)協(xié)作”模式成為內(nèi)容風(fēng)控的首選。它可以極大程度地減輕越到基層越難控的問題，更加適應(yīng)海量內(nèi)容和多變場景，適應(yīng)有害內(nèi)容組織性和對(duì)抗性增強(qiáng)的新特點(diǎn)、適應(yīng)虛假內(nèi)容隱蔽性增強(qiáng)的問題。

上述提到的“睿鑒AI識(shí)謠”系統(tǒng)，是人民網(wǎng)“人機(jī)協(xié)作型”內(nèi)容風(fēng)控系統(tǒng)的一部分。作為互聯(lián)網(wǎng)內(nèi)容風(fēng)控的“旗艦”，人民網(wǎng)十年來深耕內(nèi)容風(fēng)控業(yè)務(wù)，在全國擁有四大審核基地，團(tuán)隊(duì)規(guī)模近千人。2019年，人民網(wǎng)首次提出人機(jī)協(xié)作型的“風(fēng)控大腦”概念，旨在建設(shè)以人工智能技術(shù)為核心引擎，構(gòu)建對(duì)海量全媒體數(shù)據(jù)的高通量感知、智能理解、深度挖掘、安全預(yù)警和全息展示的風(fēng)控平臺(tái)。

“內(nèi)容風(fēng)控大腦”的技術(shù)建設(shè)已基本完成，并初步形成了面向全網(wǎng)的內(nèi)容風(fēng)控能力，可對(duì)海量互聯(lián)網(wǎng)內(nèi)容如文本、圖片、音頻、視頻等進(jìn)行智能采集、智能理解和深度挖掘，并已對(duì)外提供服務(wù)?！皟?nèi)容風(fēng)控大腦”的互動(dòng)、感知、推理等核心模塊均已投入使用。互動(dòng)層實(shí)現(xiàn)了對(duì)境內(nèi)外網(wǎng)站、APP、隱匿網(wǎng)絡(luò)的數(shù)據(jù)采集，以及網(wǎng)絡(luò)流量數(shù)據(jù)的實(shí)時(shí)還原；感知層完成了超過10000類的實(shí)體和場景識(shí)別算法；推理層采用多模態(tài)多標(biāo)簽技術(shù)，實(shí)現(xiàn)了高語義級(jí)別的推理能力。同時(shí)，“內(nèi)容風(fēng)控大腦”的全部技術(shù)組件都已完成國產(chǎn)化平臺(tái)的移植，研發(fā)使用全國產(chǎn)化CPU、GPU的計(jì)算設(shè)備，實(shí)測性能超過國外主流產(chǎn)品。感知和推理算法在昇騰算力上實(shí)現(xiàn)了遠(yuǎn)超業(yè)界主流水平的處理速度，為未來大規(guī)模應(yīng)用提供了低成本計(jì)算基礎(chǔ)。

對(duì)外應(yīng)用方面，“內(nèi)容風(fēng)控大腦”以SaaS等形式提供數(shù)據(jù)和計(jì)算服務(wù)，已經(jīng)為政府、運(yùn)營商提供從技術(shù)能力輸出到專項(xiàng)服務(wù)的多種支持，并已為數(shù)百家互聯(lián)網(wǎng)企業(yè)提供風(fēng)控服務(wù)。接下來，將繼續(xù)增加境內(nèi)外的覆蓋，逐步擴(kuò)大“內(nèi)容風(fēng)控大腦”對(duì)社會(huì)平臺(tái)的數(shù)據(jù)開放和技術(shù)輸出，大規(guī)模拓展針對(duì)互聯(lián)網(wǎng)企業(yè)的智能風(fēng)控服務(wù)，并以技術(shù)、培訓(xùn)等形式為內(nèi)容風(fēng)控行業(yè)提供技術(shù)支撐。

探索“人工+AI”風(fēng)控場景應(yīng)用和跨領(lǐng)域融合

2020年，人社部增設(shè)“互聯(lián)網(wǎng)信息審核員”的新職業(yè)，教育部也將“互聯(lián)網(wǎng)內(nèi)容風(fēng)控”證書納入“1+X”證書制度試點(diǎn)。一系列的動(dòng)作顯示，內(nèi)容安全工作已成為維護(hù)網(wǎng)絡(luò)安全工作中一項(xiàng)長期而重要的任務(wù)，是各行各業(yè)必須重視的重點(diǎn)工作之一。人民網(wǎng)信息技術(shù)有限公司總經(jīng)理辛瑞佳表示，接下來將依托國家重點(diǎn)實(shí)驗(yàn)室和中科院自動(dòng)化所的先進(jìn)技術(shù)，不斷創(chuàng)新“風(fēng)控大腦”研究成果，在以下兩個(gè)重點(diǎn)方面探索內(nèi)容風(fēng)控的新應(yīng)用路徑。

一是探索面向商業(yè)平臺(tái)的內(nèi)容巡查產(chǎn)品。隨著信息技術(shù)發(fā)展，互聯(lián)網(wǎng)內(nèi)容體量呈現(xiàn)指數(shù)級(jí)增長。不少商業(yè)網(wǎng)站、公眾號(hào)、APP、小程序等存在信息無力管理的問題，許多違法、不良內(nèi)容進(jìn)入公眾視野，破壞網(wǎng)絡(luò)生態(tài)。在信息激增與人力資源有限的背景下，開發(fā)具有“小、快、靈”特色、能夠適合企業(yè)情況的風(fēng)控系統(tǒng)至關(guān)重要。人民網(wǎng)“人機(jī)智能巡查”產(chǎn)品就是以此為場景的最新創(chuàng)新成果，包含日常內(nèi)容巡查、節(jié)點(diǎn)預(yù)警、輿情分析、行業(yè)風(fēng)險(xiǎn)案例分析、綜合研判報(bào)告五大功能，通過“監(jiān)督視角”巡查方式，實(shí)現(xiàn)“一鍵接入、整體管控、貼合業(yè)務(wù)、有效防范”的智能化內(nèi)容風(fēng)險(xiǎn)控制。同時(shí)，針對(duì)審核、巡查等手段發(fā)現(xiàn)的問題，結(jié)合輿情、政策層面信息，依托專業(yè)分析能力，對(duì)問題進(jìn)行全維度研判，形成內(nèi)容安全診斷報(bào)告，幫助企業(yè)系統(tǒng)性了解內(nèi)容風(fēng)險(xiǎn)，并助力實(shí)現(xiàn)運(yùn)營與風(fēng)控相平衡。

二是積極探索跨領(lǐng)域合作，助力基層治理。人民網(wǎng)同濟(jì)南網(wǎng)警試點(diǎn)打造了“楓橋式智慧社區(qū)平臺(tái)”。一方面，通過不斷深化以大數(shù)據(jù)智慧化應(yīng)用為核心的新警務(wù)建設(shè)，及時(shí)發(fā)現(xiàn)社區(qū)網(wǎng)民的敏感信息、負(fù)面言論、案件事件和鄰里糾紛，進(jìn)而化解矛盾；另一方面，開發(fā)適合該地特點(diǎn)的智能巡查系統(tǒng)，如同現(xiàn)實(shí)中的維護(hù)轄區(qū)內(nèi)治安秩序的巡警一樣，智能巡查系統(tǒng)是維護(hù)網(wǎng)絡(luò)信息安全的重要技術(shù)手段，它可以模擬實(shí)現(xiàn)“多人瀏覽平臺(tái)內(nèi)容”的場景，對(duì)移動(dòng)應(yīng)用APP和網(wǎng)站中的漏審內(nèi)容、違法違規(guī)信息、惡意篡改行為、動(dòng)態(tài)廣告等進(jìn)行自動(dòng)采集、內(nèi)容比對(duì)和違規(guī)巡查，極大程度節(jié)省人力成本、擴(kuò)大巡查范圍、降低內(nèi)容安全風(fēng)險(xiǎn)。

互聯(lián)網(wǎng)內(nèi)容風(fēng)控是一個(gè)龐大的、不斷演進(jìn)的管理體系。人民網(wǎng)為此做了具有開放性和包容性特征的前期探索性設(shè)計(jì)，未來將進(jìn)一步在聯(lián)動(dòng)地方、聯(lián)動(dòng)媒體、聯(lián)動(dòng)互聯(lián)網(wǎng)平臺(tái)方面加大力度，推進(jìn)風(fēng)控服務(wù)長效管理，探索出一套方便高效的合作模式，建立一個(gè)行之有效的互聯(lián)網(wǎng)安全共享共治機(jī)制。

作者單位 人民網(wǎng)經(jīng)濟(jì)民生部

【編輯：陳琦】