抖音：將網(wǎng)絡(luò)暴力扼殺于搖籃中

傅軍

1月24日00點(diǎn)02分，劉學(xué)州在微博發(fā)文：“生來即輕，還時(shí)亦凈”，隨后其家人稱其在三亞海邊輕生，雖被好心人發(fā)現(xiàn)并送至醫(yī)院搶救，但最終還是離開了人世。嚴(yán)格來說，導(dǎo)致這一事件發(fā)生的原因除了現(xiàn)實(shí)生活中的種種悲慘遭遇之外，很大一部分還來自洪水猛獸一般的網(wǎng)絡(luò)暴力，而這并不是第一例因網(wǎng)絡(luò)暴力導(dǎo)致的輕生事件。

而在現(xiàn)實(shí)生活中，每個(gè)人應(yīng)該都會(huì)結(jié)識(shí)那么一兩個(gè)“噴子”，不過大多都能做到和諧相處、求同存異，為什么一旦歸于網(wǎng)絡(luò)世界就變得戾氣十足呢？因?yàn)?，“在互?lián)網(wǎng)上，沒人知道你是一條狗”。正因?yàn)槟悴徽J(rèn)識(shí)我，我卻知道你，這種信息不對(duì)稱就會(huì)導(dǎo)致更易沖動(dòng)，進(jìn)而產(chǎn)生惡意騷擾、人身攻擊、侮辱謾罵甚至誹謗造謠等行為，以較低的發(fā)布成本、較高的傳播效率給受害者帶來了較為負(fù)向的反饋體驗(yàn)。

目前，網(wǎng)絡(luò)暴力傳播的途徑一般是評(píng)論與私信，以抖音為例，平臺(tái)每天會(huì)產(chǎn)生8億條評(píng)論，其中，被投訴、舉報(bào)并最終處理的評(píng)論中，“謾罵，人身攻擊”占比32.79%。所以，如果想要遏制這一現(xiàn)象，第一步就是要社交媒體平臺(tái)主動(dòng)站出來，加強(qiáng)管控措施。

所以在今年1月，抖音率先推出國內(nèi)首個(gè)為用戶提供各個(gè)場景預(yù)防網(wǎng)暴功能的服務(wù)，共有8大功能，從信息發(fā)布的多個(gè)角度來切入，首先管人，從平臺(tái)根據(jù)系統(tǒng)模型主動(dòng)管理發(fā)送者，到接收者自我管理。其次管文，從前期的評(píng)論發(fā)送警示，到中期的私信分層管理，再到后期平臺(tái)小助手提供“心情關(guān)懷”，打通了預(yù)防網(wǎng)暴前中后的整個(gè)流程。

當(dāng)然，說總比做簡單，抖音的這些預(yù)防網(wǎng)暴新功能到底好不好用呢？咱們選取了其中幾個(gè)功能來進(jìn)行測試，本次測試的抖音APP版本號(hào)為19.4.2。

這就是抖音于2017年底開放的第一個(gè)防網(wǎng)暴功能，根據(jù)我們的測試來看，用戶可以在“我的→設(shè)置→隱私設(shè)置→誰可以私信我”里找到，可設(shè)置所有人/互關(guān)朋友/關(guān)閉，這個(gè)設(shè)置基本上可以杜絕網(wǎng)暴信息的直接觸達(dá)，是最基本的功能。如果你擔(dān)心被陌生人私信滋擾，這個(gè)選項(xiàng)就應(yīng)該至少保持在“互關(guān)朋友”上，這時(shí)候我用2個(gè)互相沒有關(guān)注的賬號(hào)發(fā)私信，都無法接收到對(duì)方的信息，起到了很好的保護(hù)作用。

如果你沒有設(shè)置第一項(xiàng)功能，而收到了陌生人或單方面關(guān)注你的賬號(hào)發(fā)來的私信，而私信內(nèi)容被系統(tǒng)模型認(rèn)定為風(fēng)險(xiǎn)信息，抖音會(huì)通過彈出浮窗提醒你是否認(rèn)識(shí)該賬戶，如果選擇“不認(rèn)識(shí)”，就會(huì)指引你拉黑，舉報(bào)或移除粉絲。根據(jù)抖音官方數(shù)據(jù)，這項(xiàng)今年1月才上線還未滿月的功能，已經(jīng)可以每天對(duì)約25萬次對(duì)話發(fā)出風(fēng)險(xiǎn)提示，引導(dǎo)用戶自主管理社交對(duì)象，通過拉黑舉報(bào)等手段保障自己的社交安全。

實(shí)際使用下來，這項(xiàng)功能很人性化，通過主動(dòng)提示的方式，讓普通用戶在風(fēng)險(xiǎn)即將發(fā)生的時(shí)候收到警示，能夠非常簡單直接地進(jìn)行處理。

事實(shí)上，抖音針對(duì)文本內(nèi)容的系統(tǒng)模型已經(jīng)很成熟，所以它可以主動(dòng)地判斷文本是否匹配謾罵或騷擾，一旦認(rèn)定就會(huì)直接將私信拉到垃圾信息中。我們用2個(gè)相互為陌生人的個(gè)人賬號(hào)進(jìn)行了測試，文字中帶有明顯辱罵的內(nèi)容就會(huì)被自動(dòng)屏蔽。官方數(shù)據(jù)表明，這項(xiàng)同樣今年1月份才上線的功能，會(huì)每天將超過9萬條私信列入垃圾信息，讓7萬多用戶避免與惡意信息直接接觸，這個(gè)設(shè)計(jì)非常的不錯(cuò)。

相對(duì)于私信，評(píng)論的“威力”會(huì)更大一些，畢竟評(píng)論是完全公開的，大家都能看到，而且惡意評(píng)論更容易起到煽風(fēng)點(diǎn)火的效果，所以針對(duì)評(píng)論發(fā)文也必須要有相應(yīng)的管控措施。抖音的第一步操作是針對(duì)發(fā)文者，如果判斷到發(fā)文內(nèi)容存在風(fēng)險(xiǎn)，就會(huì)主動(dòng)彈窗提示“確定要發(fā)送這條評(píng)論嗎？”告知用戶可能違反社區(qū)公約，建議重新編輯。

雖然發(fā)文者也可以無視提醒繼續(xù)發(fā)送，但根據(jù)我們的測試來看，雖然在發(fā)文者客戶端上可以看到評(píng)論正常出現(xiàn)，其他人并不能看見被密封在“真空”里的這條評(píng)論。而且每次填寫惡意信息都會(huì)彈窗，寫多少條就彈多少次，每次我們都選擇“仍要發(fā)送”，而每次的最終結(jié)果都是無法被外部看見，這樣的表現(xiàn)確實(shí)相當(dāng)不錯(cuò)。

不過，并不是所有的評(píng)論都屬于直接謾罵，很多殺人誅心的話從文字角度來說也并不犀利，比如劉學(xué)州事件里就有人評(píng)論“穿著名牌鞋在三亞玩，卻哭訴自己沒地方住，很心機(jī)”。針對(duì)這種相對(duì)隱蔽的網(wǎng)絡(luò)暴力，系統(tǒng)模型顯然無法完全屏蔽，因此抖音也新增了評(píng)論權(quán)限設(shè)置功能，可以在“權(quán)限設(shè)置-高級(jí)設(shè)置-誰可以評(píng)論”中，設(shè)置具體某一條視頻的評(píng)論權(quán)限，有“所有人”、“僅粉絲”、“僅互關(guān)朋友”、“僅自己”四個(gè)選項(xiàng)。

事實(shí)上轉(zhuǎn)發(fā)和合拍也有權(quán)限設(shè)置，可選擇“所有人”、“僅互關(guān)朋友”和“僅自己”，一定程度上遏制了針對(duì)本人賬號(hào)的直接網(wǎng)暴行為。

前面我們提到的幾項(xiàng)技術(shù)都是從內(nèi)容端來嘗試掐斷網(wǎng)絡(luò)暴力的苗頭，但對(duì)于那些已經(jīng)受到傷害的用戶來說，依然需要平臺(tái)提供一個(gè)可疏導(dǎo)情緒的窗口，因此，抖音特意推出了“心情暖寶寶”小助手，目前會(huì)以三種形式觸發(fā)對(duì)話，第一是抖音基于系統(tǒng)模型，比如根據(jù)你發(fā)布的內(nèi)容、評(píng)論和私信命中你可能會(huì)遭遇情緒問題，這時(shí)候“心情暖寶寶”就會(huì)主動(dòng)發(fā)起對(duì)話，第二是用戶主動(dòng)私信“心情暖寶寶”賬號(hào)來發(fā)起對(duì)話，第三則是通過“我-我的客服-自助服務(wù)-情緒關(guān)懷助手”進(jìn)入會(huì)話。

根據(jù)我們的測試結(jié)果來看，它的確可以減少推薦可能會(huì)讓人產(chǎn)生負(fù)面情緒的內(nèi)容，實(shí)用性還挺不錯(cuò)。

作為網(wǎng)絡(luò)暴力不時(shí)出現(xiàn)的互聯(lián)平臺(tái)，如何預(yù)防和懲治這種惡意行為，是包括抖音在內(nèi)的社交媒體們不可推卸的義務(wù)。在國內(nèi)首次系統(tǒng)性地推出預(yù)防網(wǎng)暴的8大功能，顯示了抖音的全局觀、價(jià)值觀和科技力。從方式方法來看，有平臺(tái)根據(jù)系統(tǒng)模型主動(dòng)識(shí)別，進(jìn)行警示或者關(guān)懷，也有用戶根據(jù)自身需要，對(duì)與其交流的“人”與“文”進(jìn)行自主管理，體現(xiàn)了平臺(tái)的支持，又給予了用戶自主權(quán)與自主能力。

當(dāng)然，網(wǎng)絡(luò)暴力絕不會(huì)因此而絕跡，因?yàn)槎兑暨@8大功能大多是針對(duì)用戶與用戶之間的交流來進(jìn)行干預(yù)，施暴者依然可以不直接評(píng)論或私信，而是通過發(fā)布內(nèi)容，結(jié)合話題炒作的方式來引發(fā)群體效應(yīng)，同樣可以對(duì)作為第三方的受害人造成傷害，這就需要平臺(tái)升級(jí)更多的能力覆蓋更多的場景去及時(shí)處理。

大多數(shù)時(shí)候，網(wǎng)絡(luò)暴力的一方不曾想到會(huì)輿論失控導(dǎo)致嚴(yán)重后果，另一方則因?yàn)閷?duì)“網(wǎng)絡(luò)審判”束手無策直至絕望，雙方都缺乏法律意識(shí)，不懂得用法律武器保護(hù)自身權(quán)益，所以普法對(duì)于網(wǎng)絡(luò)暴力事件來說是最好的“治本”方案。社交平臺(tái)的努力方向則主要是從源頭上遏制網(wǎng)絡(luò)暴力的發(fā)生。所以，當(dāng)我們看到抖音做出多項(xiàng)調(diào)整時(shí)，心里還是倍感欣慰的，愿網(wǎng)絡(luò)的陰暗角落也有陽光普照吧。