媒體傳播中智能算法的社會(huì)風(fēng)險(xiǎn)與治理策略研究

高志華 馮甜甜

摘 要：新媒體傳播領(lǐng)域中人工智能技術(shù)的飛速發(fā)展正在深刻地改變著公共信息傳播的作用方式和效果。智能算法在信息傳播環(huán)節(jié)的全面滲透已經(jīng)成為一個(gè)現(xiàn)象級(jí)的話題，其帶來(lái)的虛假新聞、算法偏見(jiàn)、信息繭房、隱私與安全等問(wèn)題給社會(huì)治理帶來(lái)了巨大挑戰(zhàn)。本文從新媒體中人工智能算法的應(yīng)用現(xiàn)狀與社會(huì)影響入手，剖析算法底層邏輯，研究基于算法透明度的公開(kāi)原則，探索以智能算法為對(duì)象的治理策略，促進(jìn)傳媒現(xiàn)代化治理體系建構(gòu)和治理能力提升。

關(guān)鍵詞：新媒體；智能算法；算法治理

中圖分類號(hào)：G206 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1674-8883（2020）01-0077-01

信息技術(shù)的飛速發(fā)展將人類帶入全媒體時(shí)代，正如習(xí)近平總書(shū)記所說(shuō)：“全媒體時(shí)代是個(gè)大趨勢(shì)，媒體融合發(fā)展是篇大文章?！痹谌襟w時(shí)代，每個(gè)人、每個(gè)組織或機(jī)構(gòu)都有可能成為信息的生產(chǎn)者和傳播者，而且未來(lái)新聞信息傳播的各個(gè)環(huán)節(jié)，參與主體未必僅僅是“人”，萬(wàn)物互聯(lián)、萬(wàn)物皆媒，智能體或?qū)⑦M(jìn)一步參與信息采集、處理與傳播的全過(guò)程。隨著移動(dòng)互聯(lián)、云計(jì)算、人工智能等技術(shù)的逐步成熟，媒體的智能化進(jìn)程不斷加快，面對(duì)輿論生態(tài)、媒體格局、傳播方式發(fā)生的深刻變化，如何在這一場(chǎng)前所未有的大變革中“破繭而出”，是主流媒體面對(duì)的重大課題，是政府治理能力創(chuàng)新的重要契機(jī)。

一、智媒時(shí)代的算法權(quán)力

人工智能的高速發(fā)展得益于3個(gè)主要技術(shù)因素：計(jì)算能力的增強(qiáng)、海量數(shù)據(jù)的積累、算法的進(jìn)步和優(yōu)化。人工智能的本質(zhì)在于算法，算法即權(quán)力。新媒體中的信息獲取、傳播與控制的方式得到技術(shù)賦權(quán)，智能算法和傳統(tǒng)的信息傳播活動(dòng)融合形成全新的信息傳播網(wǎng)絡(luò)，在一個(gè)媒體和代碼無(wú)處不在的社會(huì)，權(quán)力越來(lái)越存在于算法之中。

算法與媒體的正式結(jié)合始于2002年谷歌推出谷歌算法新聞。谷歌的算法抓取與算法呈現(xiàn)是媒體技術(shù)的創(chuàng)新，這種算法新聞極大地提升了新聞傳播與信息流通的效率，F(xiàn)acebook（臉書(shū)）、谷歌、今日頭條等都是典型的算法模式的新媒體。如今，人工智能算法在新聞傳播領(lǐng)域的全面滲透已經(jīng)成為一個(gè)現(xiàn)象級(jí)的情況。隨著媒體網(wǎng)絡(luò)信息技術(shù)的不斷優(yōu)化，原來(lái)新聞傳播中的諸多人工職權(quán)，如記者的新聞線索發(fā)現(xiàn)與內(nèi)容生產(chǎn)、編輯的新聞發(fā)布等，逐漸被讓渡給算法，算法的應(yīng)用場(chǎng)景和權(quán)力范圍不斷擴(kuò)張。

在新聞線索獲取階段，傳統(tǒng)媒體時(shí)代下信息采集、新聞線索獲取完全依賴人力，并由人工完成新聞制作所需信息和數(shù)據(jù)的材料收集整理。在智能媒體時(shí)代，以傳感器為載體、大數(shù)據(jù)處理技術(shù)為支撐豐富和優(yōu)化了新聞源頭，與此同時(shí)智能機(jī)器人承擔(dān)著收集、整理新聞線索的任務(wù)。在新聞寫(xiě)作編輯階段，當(dāng)前由機(jī)器人撰寫(xiě)的自動(dòng)化新聞在整個(gè)新聞報(bào)道中的比重越來(lái)越大，例如今日頭條的寫(xiě)作機(jī)器人寫(xiě)出來(lái)的文章已經(jīng)不輸于專業(yè)記者，特別是體育類、娛樂(lè)類新聞。與此同時(shí)，新媒體的互動(dòng)環(huán)節(jié)通過(guò)各種算法，把最好的評(píng)論排上來(lái)，在評(píng)論、跟帖區(qū)呈現(xiàn)大眾的智慧，更好地吸引用戶參與。在新聞推薦與分發(fā)階段，采用的新聞推薦算法的類型不斷進(jìn)化，這些基于網(wǎng)絡(luò)的新媒體智能推薦算法正在成為新形式的權(quán)力。智能算法的內(nèi)容分發(fā)所占的比例越來(lái)越大，截至2017年底，算法內(nèi)容推送與分發(fā)已經(jīng)占到整個(gè)社會(huì)性信息分發(fā)的70%左右。[1]

二、智能算法的社會(huì)風(fēng)險(xiǎn)

新媒體中的人工智能算法解決了互聯(lián)網(wǎng)時(shí)代的傳統(tǒng)信息傳播范式超載危機(jī)，大大提升了信息生產(chǎn)、分發(fā)、管理等各方面的工作效率。人工智能具備工具理性、科技理性的條件與特點(diǎn)，精準(zhǔn)、快速、高效，但是算法在新聞傳播中帶來(lái)的黑箱問(wèn)題、信息繭房、算法偏見(jiàn)等諸多問(wèn)題也引起了政府、學(xué)者和業(yè)界的反思，“算法焦慮”已經(jīng)成為亟待解決的問(wèn)題。

算法單一和取值偏差容易成為媒體負(fù)面效應(yīng)放大器，導(dǎo)致虛假新聞、“標(biāo)題黨”、低俗信息泛濫等問(wèn)題層出不窮，出現(xiàn)導(dǎo)向偏差，甚至出現(xiàn)劣幣驅(qū)逐良幣的現(xiàn)象。算法的設(shè)計(jì)、目的、數(shù)據(jù)使用等都是設(shè)計(jì)開(kāi)發(fā)者的主觀選擇，其主觀偏見(jiàn)有可能被嵌入算法系統(tǒng)。在商業(yè)利益驅(qū)使和流量思維導(dǎo)引下，算法偏見(jiàn)、算法歧視和算法操控的情況屢屢發(fā)生。算法智能分發(fā)和精準(zhǔn)推送滿足了用戶的興趣需求，導(dǎo)致信息偏食問(wèn)題凸顯，容易形成“信息繭房”?！靶畔⒗O房”中的受眾容易固化自我信念與價(jià)值體系，促使個(gè)人極化，極易形成集體偏見(jiàn)，引發(fā)群體盲思。2017年《人民日?qǐng)?bào)》曾連發(fā)3篇評(píng)論《一評(píng)算法推薦：不能讓算法決定內(nèi)容》《二評(píng)算法推薦：別被算法困在“信息繭房”》《三評(píng)算法推薦：警惕算法走向創(chuàng)新的反面》，批評(píng)算法推薦引發(fā)的亂象。[2]

“黑箱”在控制論中一般是指既不能打開(kāi)、又不能從外部直接觀察其內(nèi)部結(jié)構(gòu)的系統(tǒng)。在新聞媒體傳播領(lǐng)域，算法對(duì)用戶，或者說(shuō)對(duì)被算法計(jì)算的受眾來(lái)說(shuō)，其源代碼和工作原理被封裝于模型框架之中，構(gòu)成一個(gè)黑箱。算法黑箱使得廣大受眾以現(xiàn)有的認(rèn)知水平難以判斷其生產(chǎn)、傳播的信息的真實(shí)度和可信度。無(wú)法透視算法的運(yùn)作黑箱與背后的利益操縱，使得監(jiān)管十分困難。智能時(shí)代下算法即權(quán)力，人工智能技術(shù)不僅在新媒體領(lǐng)域突顯其優(yōu)勢(shì)與力量，還不斷滲透進(jìn)人類生產(chǎn)生活的各個(gè)方面。算法具有政治性，且其自身無(wú)法實(shí)現(xiàn)技術(shù)中立，在新媒體領(lǐng)域已經(jīng)開(kāi)始主導(dǎo)人工選擇的方向和內(nèi)容。因此，探索研究新媒體中的智能算法治理極其必要與緊迫。

三、算法治理策略初探

（一）算法分級(jí)監(jiān)管機(jī)制

建立完善的基于算法透明度的公開(kāi)機(jī)制。建立算法公開(kāi)的審查與監(jiān)管機(jī)制必須考慮公開(kāi)與保密的平衡，畢竟人工智能算法作為一種技術(shù)秘密和商業(yè)秘密，[3]要實(shí)現(xiàn)完全公開(kāi)是不現(xiàn)實(shí)的，這也是在實(shí)踐監(jiān)管中存在的一個(gè)難題。在具體算法監(jiān)管中要遵循有限公開(kāi)原則，一方面人工智能采用的有些機(jī)器學(xué)習(xí)算法具有自組織、自學(xué)習(xí)能力，其算法模型的解釋有一定技術(shù)障礙；另一方面，有限公開(kāi)是平衡算法透明和企業(yè)商業(yè)秘密的結(jié)果。

因此，算法監(jiān)管需要建立分層次、分類別的分級(jí)審查與監(jiān)管機(jī)制。根據(jù)對(duì)社會(huì)公共利益和公共基本權(quán)利的影響程度分級(jí)，影響大的應(yīng)該采用更高級(jí)別的算法公開(kāi)，影響小的則可以采用更靈活的算法公開(kāi)方式。與此同時(shí)，考慮算法使用的不同場(chǎng)景、不同領(lǐng)域，采用分類公開(kāi)方式。例如在新聞源頭，新聞線索獲取、編輯階段，應(yīng)強(qiáng)調(diào)數(shù)據(jù)來(lái)源的全面公開(kāi)和解釋；新聞寫(xiě)作機(jī)器人應(yīng)強(qiáng)調(diào)模型的價(jià)值遵循；新聞推薦與分發(fā)則更強(qiáng)調(diào)公開(kāi)推理依據(jù)和前提假設(shè)等要素。另外，要確定算法監(jiān)管職能機(jī)構(gòu)，屬于商業(yè)秘密的核心算法只對(duì)政府監(jiān)管公開(kāi)，其他低級(jí)別的則可提供給第三方監(jiān)管機(jī)構(gòu)或面向社會(huì)公開(kāi)。以算法有限公開(kāi)為原則對(duì)算法的開(kāi)發(fā)者、使用者和維護(hù)者確定不同程度的公開(kāi)義務(wù)，旨在增強(qiáng)企業(yè)平臺(tái)的社會(huì)責(zé)任感。

（二）多元協(xié)同的算法治理模式

算法的治理需要考慮為新技術(shù)的發(fā)展預(yù)留空間，相關(guān)政策制定應(yīng)兼顧不同利益主體的關(guān)切和要求，政府鼓勵(lì)企業(yè)平臺(tái)、第三方機(jī)構(gòu)以及廣大網(wǎng)民多方參與政策制定，形成多元協(xié)同的算法治理模式。政府致力于頂層設(shè)計(jì)，推進(jìn)人工智能領(lǐng)域的立法體系建設(shè)，劃定技術(shù)倫理、權(quán)限邊界和行為規(guī)范，同時(shí)培養(yǎng)和引進(jìn)人工智能和大數(shù)據(jù)相關(guān)領(lǐng)域的人才，提高黨員領(lǐng)導(dǎo)干部的信息素養(yǎng)和治網(wǎng)馭網(wǎng)能力。企業(yè)和網(wǎng)絡(luò)傳播平臺(tái)需要用正確的價(jià)值觀指導(dǎo)算法推薦，例如2018年今日頭條旗下產(chǎn)品內(nèi)涵段子被關(guān)停后，今日頭條表示要全面糾正算法和機(jī)器審核的缺陷，不斷強(qiáng)化人工運(yùn)營(yíng)和審核。政府和企業(yè)在算法監(jiān)管與治理的良性互動(dòng)過(guò)程中壓實(shí)企業(yè)平臺(tái)主體的責(zé)任，充分發(fā)揮企業(yè)技術(shù)優(yōu)勢(shì)，強(qiáng)化算法技術(shù)對(duì)新聞源頭的篩選，規(guī)范新聞信息來(lái)源和內(nèi)容生成方式，倡導(dǎo)“正直向善、科技創(chuàng)新、擔(dān)當(dāng)責(zé)任”的企業(yè)社會(huì)責(zé)任。鼓勵(lì)引入第三方機(jī)構(gòu)或社會(huì)組織監(jiān)測(cè)和評(píng)估算法，定期或不定期公布各大媒體新聞信息傳播平臺(tái)智能算法的測(cè)評(píng)報(bào)告。考慮用技術(shù)來(lái)解決技術(shù)帶來(lái)的問(wèn)題，設(shè)計(jì)開(kāi)發(fā)專門(mén)用于監(jiān)測(cè)算法和內(nèi)容的算法，利用算法審查和監(jiān)管算法。同時(shí)，加大人工審核的投入力度，采用“人機(jī)結(jié)合”的方式，[4]進(jìn)行內(nèi)容與算法的雙向?qū)彶?。加?qiáng)宣傳，提高廣大網(wǎng)民對(duì)算法推薦的認(rèn)知度，提升受眾應(yīng)對(duì)算法偏見(jiàn)和信息繭房的元認(rèn)知能力，完善舉報(bào)、核實(shí)、獎(jiǎng)勵(lì)機(jī)制。

四、結(jié)語(yǔ)

在新媒體時(shí)代，隨著大數(shù)據(jù)、云計(jì)算、人工智能等新興技術(shù)的發(fā)展與成熟，媒體數(shù)字化、智能化進(jìn)程不斷加快，同時(shí)帶來(lái)了輿論生態(tài)、媒體格局、傳播方式的深刻改變。智能算法逐漸滲透到信息傳播的各個(gè)環(huán)節(jié)，權(quán)力越來(lái)越存在于算法之中。智能算法在信息獲取、加工、生成、傳播、推送的過(guò)程中呈現(xiàn)出無(wú)與倫比的精準(zhǔn)性、快速性和高效性，但同時(shí)在新聞傳播過(guò)程中也帶來(lái)了黑箱、信息繭房、算法偏見(jiàn)等諸多問(wèn)題，引起了政府、學(xué)者和業(yè)界的反思，“算法焦慮”已經(jīng)成為亟待解決的問(wèn)題。因此，必須建立完善的基于算法透明度的分級(jí)審查與監(jiān)管機(jī)制，探索政府、企業(yè)、第三方機(jī)構(gòu)以及廣大網(wǎng)民多方參與、多元協(xié)同的算法治理模式。

參考文獻(xiàn)：

[1] 喻國(guó)明.人工智能與算法推薦下的網(wǎng)絡(luò)治理之道[J].新聞與寫(xiě)作，2019（1）：61-64.

[2] 陳明.算法推薦的“歧途”及規(guī)制之策[J].視聽(tīng)，2018（10）：123-124.

[3] 網(wǎng)絡(luò)時(shí)代應(yīng)如何規(guī)范算法[N].人民日?qǐng)?bào)，2018-07-04.

[4] 鄧杭.算法推薦的風(fēng)險(xiǎn)防范和導(dǎo)向管理——發(fā)揮算法推薦對(duì)網(wǎng)絡(luò)輿論的正向價(jià)值[J].新聞戰(zhàn)線，2018（11）：62-64.

作者簡(jiǎn)介：高志華（1979—），女，湖北人，博士，講師，主要研究方向：網(wǎng)絡(luò)社會(huì)治理。