■黃 楊

自2019年以來(lái)，澎湃新聞依托自身內(nèi)容風(fēng)控經(jīng)驗(yàn)，推出了基于“智能+人工+制度”的具有自主知識(shí)產(chǎn)權(quán)的“清穹”內(nèi)容風(fēng)控智能平臺(tái)。這是澎湃新聞在打造全鏈條內(nèi)容生態(tài)服務(wù)商的創(chuàng)新實(shí)踐中，對(duì)自有內(nèi)容審核業(yè)務(wù)的深度延伸探索，亦是在互聯(lián)網(wǎng)內(nèi)容產(chǎn)業(yè)呈現(xiàn)出幾何級(jí)數(shù)增長(zhǎng)的背景下，以先進(jìn)技術(shù)引領(lǐng)驅(qū)動(dòng)媒體融合向縱深發(fā)展，對(duì)第三方內(nèi)容安全賦能的積極探索。

澎湃發(fā)展的伴生品

澎湃新聞從2014年7 月22 日上線至今，一直在融合發(fā)展的道路上進(jìn)化。首先是內(nèi)容板塊擴(kuò)張。澎湃是我國(guó)最早由傳統(tǒng)媒體整體轉(zhuǎn)型的互聯(lián)網(wǎng)新型主流媒體，以圖文報(bào)道為主逐步拓展為全媒體，上線視頻頻道、集成音頻播報(bào)，打造問(wèn)政（政務(wù)平臺(tái)）和湃客（全球?qū)I(yè)創(chuàng)作者平臺(tái)），并拓展為“澎湃號(hào)”和“澎友圈”，一步步向平臺(tái)化邁進(jìn)。

其次是生態(tài)服務(wù)探索。2020年以來(lái)，澎湃通過(guò)打造技術(shù)輸出、版權(quán)與素材服務(wù)以及內(nèi)容風(fēng)控項(xiàng)目等探索生態(tài)化發(fā)展之路，提出了進(jìn)一步轉(zhuǎn)型的戰(zhàn)略目標(biāo)：全面提升內(nèi)容供給力、輿論引領(lǐng)力、行業(yè)賦能力、市場(chǎng)競(jìng)爭(zhēng)力，力爭(zhēng)在“十四五”期間成長(zhǎng)為具有全球影響力的互聯(lián)網(wǎng)新型主流媒體平臺(tái)和全鏈條內(nèi)容生態(tài)服務(wù)商。

“清穹”智能風(fēng)控系統(tǒng)伴隨著澎湃平臺(tái)化的發(fā)展而誕生，并隨著澎湃打造全鏈條內(nèi)容生態(tài)服務(wù)商的拓展而深化，致力于為互聯(lián)網(wǎng)內(nèi)容行業(yè)提供基礎(chǔ)服務(wù)和解決方案。

一開始，澎湃新聞作為主流新媒體，主要依賴于每天發(fā)布的原創(chuàng)新聞向讀者提供內(nèi)容服務(wù)，當(dāng)時(shí)每天發(fā)的新聞不超過(guò)1000 條，這依靠自有采編團(tuán)隊(duì)通過(guò)三審流程可以內(nèi)部解決。但隨著平臺(tái)化的發(fā)展，澎湃的湃客、政務(wù)、媒體號(hào)等提供的UGC（用戶原創(chuàng)內(nèi)容）實(shí)現(xiàn)了量級(jí)的提升，每天發(fā)稿量以萬(wàn)計(jì)，并在持續(xù)增加，這是人審無(wú)法完成的，由此逐漸產(chǎn)生了對(duì)機(jī)器審核能力的需求。

于是經(jīng)過(guò)大半年的研發(fā)，2019年底“清穹”風(fēng)控系統(tǒng)1.0 版本上線試運(yùn)行，提供以關(guān)鍵詞的文字審核為主的審核能力，不斷推進(jìn)與澎湃傳統(tǒng)采編系統(tǒng)的要素整合與融合?！扒羼贰憋L(fēng)控系統(tǒng)一方面可應(yīng)用于澎湃UGC內(nèi)容的審核流程，另一方面對(duì)澎湃原有的自主開發(fā)的采編后臺(tái)“湃”系統(tǒng)提供無(wú)縫嵌入式支持，經(jīng)過(guò)不斷增加業(yè)務(wù)場(chǎng)景的優(yōu)化迭代，形成了覆蓋圖片、音頻、視頻、評(píng)論、用戶等多種場(chǎng)景的審核能力。

第三方審核的拓展

隨著5G 和自媒體時(shí)代的到來(lái)，內(nèi)容供給與用戶規(guī)模呈指數(shù)級(jí)增長(zhǎng)。但與此同時(shí)，不少商業(yè)網(wǎng)站、App、公眾號(hào)、小程序等存在信息內(nèi)容與資質(zhì)和審核力量不匹配的問(wèn)題。有一些平臺(tái)或自媒體無(wú)資質(zhì)違規(guī)生產(chǎn)或轉(zhuǎn)載時(shí)政類新聞報(bào)道與評(píng)論，也有一些平臺(tái)將內(nèi)容的審核外包給了并無(wú)內(nèi)容資質(zhì)或經(jīng)驗(yàn)的企業(yè)機(jī)構(gòu)，導(dǎo)致許多違法、不良內(nèi)容進(jìn)入公眾視野，破壞網(wǎng)絡(luò)生態(tài)。

當(dāng)前，一些與社會(huì)主義核心價(jià)值觀相違背的錯(cuò)誤思潮、低俗文化、落后觀念等在網(wǎng)上時(shí)有傳播，干擾網(wǎng)絡(luò)秩序、污染社會(huì)風(fēng)氣，尤其是對(duì)青少年的健康成長(zhǎng)產(chǎn)生不良影響。根據(jù)國(guó)家網(wǎng)信辦的通報(bào)統(tǒng)計(jì)，2021年，全國(guó)網(wǎng)信系統(tǒng)全年共依法約談網(wǎng)站平臺(tái)5654 家，警告4445 家，罰款處罰401 家，暫停功能或更新3008 家，下架移動(dòng)應(yīng)用程序1007款，會(huì)同電信主管部門取消網(wǎng)站許可或備案、關(guān)閉違法網(wǎng)站17456家，移送相關(guān)案件線索4728件。

2020年9月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加快推進(jìn)媒體深度融合發(fā)展的意見(jiàn)》，明確提出“支持主流媒體搭建內(nèi)容審核與安全管理平臺(tái)，向社會(huì)提供第三方服務(wù)，提高對(duì)全媒體內(nèi)容導(dǎo)向的把關(guān)能力”。

在上級(jí)管理部門的指導(dǎo)下，澎湃新聞加強(qiáng)媒體融合頂層設(shè)計(jì)，加大了網(wǎng)絡(luò)信息內(nèi)容風(fēng)控智能平臺(tái)的能力建設(shè)與拓展步伐，以滿足持續(xù)擴(kuò)大的網(wǎng)絡(luò)信息內(nèi)容風(fēng)控需求為方向，向社會(huì)提供第三方內(nèi)容審核及評(píng)估、崗位培訓(xùn)等綜合需求。

“清穹”以人工智能算法為核心，以知識(shí)圖譜、決策引擎、自然語(yǔ)言處理、機(jī)器深度學(xué)習(xí)等技術(shù)，目前已采用安全隔離手段獨(dú)立部署了文字、圖像、音頻、視頻等智能審核模塊，提供涉政信息審核為特色、涵蓋涉黃涉暴恐涉違禁等全場(chǎng)景的內(nèi)容審核服務(wù)，并通過(guò)有豐富經(jīng)驗(yàn)的審核團(tuán)隊(duì)對(duì)機(jī)器審核結(jié)果進(jìn)行人工復(fù)核和質(zhì)檢，最終旨在為內(nèi)容生態(tài)領(lǐng)域的平臺(tái)方、生產(chǎn)方、管理方、從業(yè)者等，提供完整的內(nèi)容安全解決方案。

新聞+政務(wù)服務(wù)商務(wù)

“清穹”團(tuán)隊(duì)確立了需求導(dǎo)向、技術(shù)賦能、人工為核、機(jī)制保障的運(yùn)作流程。我們一直堅(jiān)持，機(jī)器審核只是輔助，人工的審核能力才是核心，審核團(tuán)隊(duì)的經(jīng)驗(yàn)與能力是審核效果和效率的最終決定因素。同時(shí)，完善的流程和標(biāo)準(zhǔn)制度體系是對(duì)審核效果的客觀保障，保證每次機(jī)器審核“硬迭代”都要有相匹配的人工審核“軟迭代”相輔相成。

依托于澎湃資深采編團(tuán)隊(duì)對(duì)時(shí)政和思想文化領(lǐng)域的理解及內(nèi)容導(dǎo)向的把關(guān)能力，不斷深化產(chǎn)品的涉政風(fēng)控體系，結(jié)合市場(chǎng)需求，深化自主研發(fā)與技術(shù)集成不斷提升風(fēng)控的專業(yè)能力，通過(guò)構(gòu)建更豐富場(chǎng)景的SaaS（軟件服務(wù)化）和本地化部署服務(wù)能力，拓展適合內(nèi)容風(fēng)控領(lǐng)域的“新聞+政務(wù)服務(wù)商務(wù)”的綜合運(yùn)營(yíng)模式，增強(qiáng)市場(chǎng)競(jìng)爭(zhēng)意識(shí)和產(chǎn)品應(yīng)用力。

“新聞”即為主流新聞媒體提供個(gè)性化審校服務(wù)，以圖文與音視頻審核與智能校對(duì)服務(wù)，提高對(duì)時(shí)政類不合規(guī)表述與敏感錯(cuò)誤內(nèi)容的預(yù)警能力；“政務(wù)”即為監(jiān)管部門和黨政機(jī)構(gòu)提供個(gè)性化定制服務(wù)，如對(duì)屬地或行業(yè)的網(wǎng)站平臺(tái)開展內(nèi)容生態(tài)智能巡查和綜合測(cè)評(píng)，為政務(wù)網(wǎng)站與新媒體機(jī)構(gòu)提供一站式監(jiān)測(cè)服務(wù)；“服務(wù)商務(wù)”方面，“清穹”還單獨(dú)或作為澎湃技術(shù)輸出整體解決方案的重要組成部分，為新聞媒體、垂直領(lǐng)域商業(yè)機(jī)構(gòu)的網(wǎng)站或新媒體矩陣、綜合性商業(yè)平臺(tái)提供網(wǎng)絡(luò)信息內(nèi)容風(fēng)控體系的整體解決方案。

2021年6月，作為“地方媒體在風(fēng)控方面的首個(gè)產(chǎn)業(yè)化案例”，“清穹”獲得國(guó)家新聞出版署頒發(fā)的“2020年中國(guó)報(bào)業(yè)深度融合發(fā)展創(chuàng)新案例”證書，“專家點(diǎn)評(píng)”就此認(rèn)為：“本案例是貫徹落實(shí)中央政策精神，向社會(huì)輸出主流媒體的內(nèi)容風(fēng)控能力和技術(shù)能力的有益探索。可以發(fā)揮黨媒在內(nèi)容把控方面的核心優(yōu)勢(shì)，助力互聯(lián)網(wǎng)尤其是商業(yè)平臺(tái)信息內(nèi)容生態(tài)良性發(fā)展，營(yíng)造清朗的網(wǎng)絡(luò)空間。”