新新聞業(yè)態(tài)下平臺媒體的內(nèi)容風(fēng)控實踐與反思

摘 要：近年來，以微博、微信、今日頭條、一點資訊為代表的平臺媒體（Platform Media）異軍突起，給傳統(tǒng)新聞業(yè)態(tài)注入了新鮮的血液。但隨之而來的問題是平臺媒體內(nèi)容把關(guān)的缺失，良莠不齊、真假不明甚至一些涉嫌違法犯罪的內(nèi)容充斥于網(wǎng)絡(luò)，給社會造成了不良影響。政府部門對此監(jiān)管趨嚴(yán)，約談部分違規(guī)平臺媒體和關(guān)停部分平臺媒體旗下產(chǎn)品。在這一背景下，內(nèi)容風(fēng)控顯得尤為重要。本文以今日頭條的內(nèi)容風(fēng)控實踐為例，試圖呈現(xiàn)新新聞業(yè)態(tài)下平臺媒體的內(nèi)容風(fēng)控現(xiàn)狀，提出對平臺媒體內(nèi)容風(fēng)控的反思。

關(guān)鍵詞：平臺媒體；內(nèi)容風(fēng)控；新聞業(yè)態(tài)

中圖分類號：G206 文獻(xiàn)標(biāo)志碼：A 文章編號：1674-8883（2020）01-0246-02

一、平臺媒體的崛起與危機(jī)

（一）平臺媒體異軍突起

中山大學(xué)傳播與設(shè)計學(xué)院院長張志安教授認(rèn)為，新新聞生態(tài)主要包括4種類型媒體：一是理論上為公共利益服務(wù)的專業(yè)媒體（Professional Media），二是為特定機(jī)構(gòu)或者行業(yè)傳播而建立的機(jī)構(gòu)媒體（Institutional Media），三是具有草根文化和技術(shù)賦權(quán)特點的自媒體，四是具有明顯用戶規(guī)模、技術(shù)創(chuàng)新和資本驅(qū)動優(yōu)勢的平臺媒體。[1]本文提出的平臺媒體即張志安教授所提到的第4類媒體，其中，最具代表性的就是一點資訊、微信、微博和今日頭條等平臺媒體。

最早提出平臺媒體的是美國社交網(wǎng)站Sulia的CEO喬納森·格里克，但是美國學(xué)者杰羅姆給出的定義更為大眾所認(rèn)同：平臺型媒體是指既擁有媒體的專業(yè)編輯權(quán)威性，又擁有面向用戶平臺所特有開放性的數(shù)字內(nèi)容實體。[2]從2014年開始到2018年，平臺媒體已經(jīng)慢慢成熟，為傳統(tǒng)新聞業(yè)態(tài)注入了新鮮的血液，也成為了媒體轉(zhuǎn)型發(fā)展的一個主流模式。

（二）平臺媒體內(nèi)容審核迫在眉睫

在這場平臺媒體的流量狂歡下，隨之而來的問題是平臺媒體內(nèi)容把關(guān)的缺失，良莠不齊、真假不明甚至一些涉嫌違法犯罪的內(nèi)容如侵犯版權(quán)和淫穢色情的內(nèi)容充斥于網(wǎng)絡(luò)，給社會造成了不良影響。[3]因此，平臺媒體逐漸陷于被監(jiān)管部門約談?wù)牡哪嗵吨?，社會聲譽(yù)也與日俱下。

從2017年開始到2019年，包括今日頭條、火山直播、微博問答、快手等平臺媒體因部分內(nèi)容艷俗等，接連遭遇相關(guān)監(jiān)管部門的懲罰并被要求下架或整改。通過以上日漸趨嚴(yán)的監(jiān)管動態(tài)，本文認(rèn)為，違規(guī)內(nèi)容是懸在平臺媒體頭上的達(dá)摩克利斯之劍。具有社會連接屬性和社會生產(chǎn)屬性的平臺媒體想要持續(xù)發(fā)展，內(nèi)容風(fēng)控和內(nèi)容審核是必不可少的一個環(huán)節(jié)。

二、今日頭條嘗試內(nèi)容整改

今日頭條主要為用戶推薦信息，提供連接人與信息的服務(wù)。據(jù)其創(chuàng)始人張一鳴在2019年互聯(lián)網(wǎng)大會上介紹，截止到2019年6月底，今日頭條已有1.4億活躍用戶，每天平均使用76分鐘。今日頭條經(jīng)過6年發(fā)展，已經(jīng)成長為一家大型平臺媒體。但是，正如我們前面在梳理平臺媒體面臨的內(nèi)容審核困境中所提到的那樣，今日頭條在內(nèi)容審核方面處處碰壁，為此損失了不少“愛子”，比如擁有2.5億高黏性用戶的內(nèi)涵段子APP。因此，從2018年開始，今日頭條開始正式著手布局內(nèi)容風(fēng)控。

一方面，平臺媒體的社會責(zé)任成為了今日頭條的關(guān)鍵詞。2018年5月17日，今日頭條替換了原先的標(biāo)語口號，將原來的“你關(guān)心的，才是頭條”更改為“信息創(chuàng)造價值”“堅持正確價值導(dǎo)向”，這一做法表明今日頭條已經(jīng)從內(nèi)部意識到，在推行智能算法、大數(shù)據(jù)挖掘技術(shù)和追求商業(yè)利益的同時，也要將社會責(zé)任納入考量。

在2018年年底，今日頭條成立了平臺責(zé)任研究中心，統(tǒng)籌反謠言工作，凈化其內(nèi)容生態(tài)。2019年年初，今日頭條發(fā)布了第一份《今日頭條資訊打假報告》。根據(jù)《今日頭條資訊打假報告》，今日頭條平臺內(nèi)所有發(fā)出的內(nèi)容必須經(jīng)過謠言模型和人工審核雙重檢測，月平均攔截11萬余條疑似謠言的文章，同時滾動式清理網(wǎng)站內(nèi)老謠言，平均每周對一千多條謠言點進(jìn)行全站回溯。

另一方面，自2018年，今日頭條開始大規(guī)模招募人工內(nèi)容審核編輯，據(jù)今日頭條副總編輯李彤在公開場合介紹，在2018年年初，今日頭條擁有超過4000人的內(nèi)容審核團(tuán)隊，這個團(tuán)隊的主要職責(zé)就是把關(guān)今日頭條內(nèi)容，確保質(zhì)量和安全。除了人工審核之外，機(jī)器智能審核也是重要舉措。今日頭條的智能審核機(jī)器一秒鐘能夠?qū)徍?00篇文章，極大地提高了內(nèi)容審核的效率。在自身組建團(tuán)隊進(jìn)行內(nèi)容審核的同時，今日頭條還將部分內(nèi)容審核服務(wù)外包給專業(yè)的第三方內(nèi)容審核公司。

三、國外平臺媒體內(nèi)容風(fēng)控舉措

良莠不齊、低俗媚俗甚至涉嫌違法犯罪的內(nèi)容在網(wǎng)絡(luò)中流竄，是全球所有平臺類媒體都無法完全治愈的“硬傷”，這些平臺媒體也面臨著法律的制裁和民眾的抗議。[4]因此，在這一背景下，國外一些平臺媒體也陸續(xù)開始審核和把關(guān)自身平臺上的內(nèi)容。

美國兩大平臺媒體Twitter和Facebook將內(nèi)容審查業(yè)務(wù)都交給了第三方內(nèi)容審核平臺。Twitter將其內(nèi)容審核業(yè)務(wù)交給了第三方審核公司Sift science，這是一家網(wǎng)絡(luò)安全科技公司，于2018年3月份獲得D輪融資5300萬美元。而總部在意大利的老牌公司CPL Resources則是Facebook一直以來的第三方內(nèi)容審核平臺。類似的第三方內(nèi)容審查平臺還包括新加坡的CashShield、特拉維夫的Foshirter、巴黎的Shift Technology、英國的Featurespace以及亞特蘭大的Pindrop公司。這些平臺都在為國外的平臺媒體提供內(nèi)容審查業(yè)務(wù)。

2018年Facebook發(fā)布了一份8000字的內(nèi)容審核指南，規(guī)定了22億用戶以后可以或不能在Facebook網(wǎng)站上發(fā)布的內(nèi)容。雖然有了第三方內(nèi)容審核系統(tǒng)的幫助，但Facebook和Twitter等公司依然會在公司內(nèi)部設(shè)置人工審核崗位，利用人工來甄別不法內(nèi)容。

四、內(nèi)容風(fēng)控的反思

通過對今日頭條內(nèi)容風(fēng)控的研究，本文認(rèn)為平臺媒體內(nèi)容風(fēng)控在一定程度上可以助推其實現(xiàn)長足發(fā)展。首先，平臺媒體通過內(nèi)容審核屏蔽了很多良莠不齊、庸俗媚俗、格調(diào)低下的內(nèi)容，凈化了新聞生態(tài)。本文認(rèn)為內(nèi)容風(fēng)控本質(zhì)上也是資本主義平臺的一種讓渡和妥協(xié)。目前平臺內(nèi)容審核的成本不小，但之所以這樣做，一是因為政府的強(qiáng)制管制，二是為了留住用戶、獲得更多的流量。如果輸出優(yōu)質(zhì)內(nèi)容的水平能決定平臺媒體發(fā)展有多高，那么內(nèi)容審核則決定平臺媒體能夠走多遠(yuǎn)。其次，媒體平臺通過內(nèi)容審核也保護(hù)了版權(quán)。近年來，內(nèi)容審核可以在一定程度上防止平臺媒體侵犯傳統(tǒng)媒體版權(quán)的行為。自從平臺媒體誕生以來，經(jīng)常遇到傳統(tǒng)媒體起訴平臺媒體侵犯其著作權(quán)的案件。例如，雖然今日頭條標(biāo)明了新聞來源網(wǎng)站的名稱和具體網(wǎng)址，但沒有完整地顯示來源網(wǎng)頁，而僅顯示其中的新聞內(nèi)容。而平臺媒體推出內(nèi)容風(fēng)控，可以在一定程度上避免其侵權(quán)行為和，保護(hù)傳統(tǒng)媒體的著作權(quán)。

雖然平臺媒體的內(nèi)容風(fēng)控現(xiàn)在正如火如荼地發(fā)展，但是我們也需要對其有冷靜的思考。一方面，平臺媒體內(nèi)容風(fēng)控包括機(jī)器審核和人工審核，都存在審核標(biāo)準(zhǔn)模糊和審核不精準(zhǔn)的問題；另一方面，人工審核對審核人的考驗巨大，不僅需要審核的文章數(shù)量多，而且長時間觀看血腥、暴力和色情的文字和圖片也在一定程度上會影響審核人的心理狀態(tài)。

據(jù)《今日頭條算法原理》公開信息，在機(jī)器審核內(nèi)容的過程中，泛低質(zhì)識別涉及的情況非常多，容易導(dǎo)致審核不精準(zhǔn)。而就第二方面來看，今日頭條每一位人工審核員每周會有3次夜班，每天審核的文章數(shù)量為1000～2000篇，工作量很大。同時，在審核的過程中，還需要審核員劃分每一篇文章的傳播等級，這就要求審核員必須看完每一段文字和圖片。有內(nèi)容審核員曾對《中國經(jīng)營報》的記者表示，每次工作完之后腦子里總是會想起那些內(nèi)容，特別是一些兇殺暴力血腥的描寫，導(dǎo)致自己經(jīng)常失眠做噩夢，對自身身心是一種摧殘。

五、內(nèi)容風(fēng)控的未來發(fā)展趨勢

近年來，為了加強(qiáng)網(wǎng)絡(luò)內(nèi)容安全管理，國家網(wǎng)信辦出臺了諸多文件，約談了眾多違法違規(guī)的平臺媒體，監(jiān)管日漸趨嚴(yán)。因此，對各大平臺來說，內(nèi)容風(fēng)控將成為平臺媒體發(fā)展的應(yīng)有之義。

那么，未來平臺媒體的內(nèi)容風(fēng)控將走向何方？

首先，第三方內(nèi)容風(fēng)控平臺將崛起。目前平臺媒體通過三大舉措來確保內(nèi)容風(fēng)控：一是將內(nèi)容風(fēng)控工作完全外包給第三方內(nèi)容風(fēng)控企業(yè)，如微博；二是平臺媒體內(nèi)部組建內(nèi)容風(fēng)控團(tuán)隊，建立內(nèi)部媒體監(jiān)控平臺，人工和機(jī)器雙管齊下完成審核；三是平臺媒體將一部分審核任務(wù)外包給第三方企業(yè)，一部分由平臺媒體內(nèi)部處理，如今日頭條。[5]本文認(rèn)為，隨著技術(shù)的發(fā)展和平臺媒體對內(nèi)容風(fēng)控重視程度的提高，平臺媒體內(nèi)容風(fēng)控模式將會更加多元，但是主要會向外包給第三方內(nèi)容風(fēng)控企業(yè)靠攏。

其次，傳統(tǒng)媒體將會發(fā)力向平臺媒體推出內(nèi)容風(fēng)控承包業(yè)務(wù)，內(nèi)容風(fēng)控將會是傳統(tǒng)媒體和平臺媒體合作的新形式之一。傳統(tǒng)媒體特別是一些黨報黨刊在審核媒體內(nèi)容的時候，具有天然的優(yōu)勢和敏銳度，能夠非常清楚地了解媒體內(nèi)容屬性。此外，傳統(tǒng)媒體相對于平臺媒體來說，更加看重社會公共利益，比追求商業(yè)利益的平臺媒體更具有社會責(zé)任感和社會公信力。因此，由傳統(tǒng)媒體推出內(nèi)容風(fēng)控業(yè)務(wù)是合適的選擇。以人民網(wǎng)為代表的傳統(tǒng)媒體推出第三方內(nèi)容風(fēng)控業(yè)務(wù)，對其自身來說是一種再盈利模式，能夠緩解傳統(tǒng)媒體的困境。而對平臺媒體來說，將自己的內(nèi)容風(fēng)控外包給第三方平臺，也將極大地節(jié)約自身人力成本，提升平臺內(nèi)容質(zhì)量。

最后，平臺媒體的內(nèi)容風(fēng)控將會走向更加智能化，將人解放出來做更有意義的事情。雖然在機(jī)器審核內(nèi)容的過程中，泛低質(zhì)識別涉及的情況非常多，但是隨著技術(shù)的成熟和實際運(yùn)用案例的增多，平臺媒體在運(yùn)用機(jī)器審核內(nèi)容時，其錯誤率會下降，誤刪漏刪的情況也將減少。

六、結(jié)語

“欲戴王冠，必承其重”，平臺媒體兼具明顯的用戶規(guī)模、技術(shù)創(chuàng)新和資本驅(qū)動優(yōu)勢，如果想實現(xiàn)長足發(fā)展，就必須承擔(dān)相應(yīng)的內(nèi)容審核責(zé)任。在未來，第三方內(nèi)容風(fēng)控平臺的崛起、傳統(tǒng)媒體內(nèi)容風(fēng)控業(yè)務(wù)與平臺媒體的融合、技術(shù)賦能平臺媒體，使其內(nèi)容審核實現(xiàn)智能化升級，將是平臺媒體的法寶和護(hù)身符。

參考文獻(xiàn)：

[1] 張志安.數(shù)字新聞業(yè)研究：生態(tài)、路徑和范式[J].新聞與傳播研究，2018（S1）：91.

[2] 張志安，姚堯.平臺媒體的類型、演進(jìn)邏輯和發(fā)展趨勢[J].新聞與寫作，2018（12）：75-80.

[3] 張志安，聶鑫.互聯(lián)網(wǎng)內(nèi)容生態(tài)變化：歷程、路徑與反思[J].新聞與寫作，2018（10）：5-12.

[4] 杰羅姆.平臺型新媒體（Platisher）是有效的商業(yè)模式嗎？[J].中國傳媒科技，2014（23）：71-75.

[5] 陳安慶.內(nèi)容審核，傳統(tǒng)媒體盈利新模式[J].青年記者，2019（10）：47.

作者簡介：肖章鳳（1993—），女，江西贛州人，中山大學(xué)新聞與傳播專業(yè)碩士研究生，研究方向：媒介創(chuàng)新。