孟雨

近年來，很多公司都在努力嘗試解決網(wǎng)絡(luò)欺凌問題，甚至嘗試?yán)脵C(jī)器學(xué)習(xí)等AI技術(shù)來識別在線欺凌事件。不過在可以自由表達(dá)自己情緒的互聯(lián)網(wǎng)世界里，“惡意”的虛擬環(huán)境反而成為此類事件的溫床。然而每個人對“惡意”網(wǎng)絡(luò)環(huán)境的定義都存在差別，對于可能冒犯他人的話語也有不同的觀點和解釋。

微軟似乎帶來了一個非常有趣的解決方案，在最新專利中設(shè)想了一個個性化的“惡意屏蔽”功能，可以根據(jù)用戶的喜好監(jiān)控通信和審查數(shù)據(jù)。這些通信可以包括基于語音或文本的聊天，例如：多人游戲會話中的聊天，甚至可以擴(kuò)展至視頻直播中的圖形展示。此外，該系統(tǒng)還可以部署到在線Web會議或者VR/AR會話中。

“惡意屏蔽”過濾的內(nèi)容不僅包括咒罵，還可能包括各種不良行為，例如：有人在麥克風(fēng)前大口喘息，或者在虛擬環(huán)境中離你靠的太近?！皭阂馄帘巍笨梢苑治觥肮顢?shù)據(jù)”以部署特定于用戶的毒性屏蔽模塊（TSM），這些TSM還可以基于通過機(jī)器學(xué)習(xí)引擎生成的預(yù)測模型，該機(jī)器學(xué)習(xí)引擎分析對毒性行為的反應(yīng)?？梢赃x擇默認(rèn)配置文件以向引擎提供其所需的所有信息，而用戶也可以手動設(shè)置。