方可成

我們的生活越來(lái)越被一種叫做“算法”的東西決定。

你在搜索引擎鍵入關(guān)鍵詞，出來(lái)什么結(jié)果、按照什么順序排列，是由算法決定的；你在微博和今日頭條上刷出什么文章和廣告，也是算法決定的；你打網(wǎng)約車、聽歌、購(gòu)物，往往都有算法的參與……在一些國(guó)家還出現(xiàn)了用算法來(lái)判案，用算法來(lái)決定是否拘捕一個(gè)人的情況?！度祟惡?jiǎn)史》的作者赫拉利甚至還預(yù)測(cè)：未來(lái)你的伴侶可能也是由算法計(jì)算，然后推薦給你的。

簡(jiǎn)單理解，算法就是由計(jì)算機(jī)自動(dòng)執(zhí)行的一套規(guī)則。它在人類社會(huì)中扮演的角色越來(lái)越重要，但人們對(duì)算法還知之甚少。而這自然是很危險(xiǎn)的：如果我們不了解算法，它就可能被用于侵害我們的權(quán)益、傷害社會(huì)正義，而我們可能對(duì)此毫無(wú)察覺(jué)。

因此，近年來(lái)，有越來(lái)越多人呼吁：科技公司應(yīng)該打開算法這個(gè)“黑箱”，讓算法透明化，接受公眾監(jiān)督。比如，F(xiàn)acebook 讓哪些內(nèi)容出現(xiàn)在人們的時(shí)間線上，他們是怎樣決定的？為什么有時(shí)候會(huì)推薦假新聞？要不，公開代碼給大家看看？

不過(guò)，美國(guó)南加州大學(xué)的兩位研究者在傳播學(xué)期刊《New Media & Society》上發(fā)表的一篇論文認(rèn)為：僅僅講“算法透明化”是不夠的，甚至可能會(huì)讓人誤入歧途。

他們說(shuō)，呼吁透明化，是因?yàn)槿藗兝硭?dāng)然地認(rèn)為：當(dāng)人們看見了一個(gè)東西，自然就有機(jī)會(huì)和義務(wù)去監(jiān)督它。簡(jiǎn)言之，透明化帶來(lái)一種掌控感。然而，這樣的想法是存在漏洞的。兩位研究者總結(jié)了“算法透明化”的10 大局限性。

第一，透明度和權(quán)力可能是脫離的?？匆娏耍⒉灰欢ㄒ馕吨軌虿扇⌒袆?dòng)。比如，在某些獨(dú)裁國(guó)家，民眾能夠看見腐敗，但也無(wú)濟(jì)于事，因?yàn)槊癖娛裁炊甲霾涣耍@樣反而會(huì)助長(zhǎng)犬儒心態(tài)。如果人們不能及時(shí)處理、消化、運(yùn)用那些被公開的信息，那透明了也是白搭。

第二，透明化可能有副作用。有時(shí)，極端的透明化會(huì)讓那些邊緣化的反抗群體被暴露。商業(yè)公司則經(jīng)常指出：算法透明化可能會(huì)使得一些人利用系統(tǒng)的特性來(lái)作弊。

第三，透明化有時(shí)反而會(huì)遮蔽真相。當(dāng)信息過(guò)多、無(wú)用信息淹沒(méi)了有用信息的時(shí)候，透明化可能適得其反，讓人找不到頭緒。

第四，透明化會(huì)制造一種二元對(duì)立的思維。信息的封閉和透明并不是非黑即白的選擇，不是只有“完全黑箱”和“完全透明”兩種選擇。比如，斯諾登在曝光NSA 的監(jiān)控項(xiàng)目時(shí)，就沒(méi)有直接向公眾發(fā)布，而是選擇與自己信任的、有能力解讀這些信息的記者合作。

第五，透明化會(huì)過(guò)多強(qiáng)調(diào)個(gè)體責(zé)任。透明化假定的前提是，人人都能理解被公開的算法，并進(jìn)行有意義的討論。但這是過(guò)于理想化的設(shè)想，是不可能實(shí)現(xiàn)的。兩位研究者將其稱為“新自由主義模式的個(gè)體能動(dòng)性”，即把重任都施加在個(gè)人身上。

第六，透明并不一定帶來(lái)信任。信任是雙向的。達(dá)芬奇拒絕發(fā)布早期潛水艇設(shè)計(jì)的詳細(xì)手稿，因?yàn)樗ε卤粔娜擞脕?lái)制造水下暗殺。一些開發(fā)者不希望公布算法，不是因?yàn)樯虡I(yè)秘密，而是不想被某些人利用。

第七，透明化可能讓一些專業(yè)人士圈定自己的領(lǐng)域，拒絕公眾參與和監(jiān)督。即便是公開的信息，也可以被專業(yè)群體利用起來(lái)，塑造自身權(quán)威，甚至被利益集團(tuán)腐蝕，通過(guò)對(duì)公開信息的曲解操作，為他們代言。

第八，透明化可能會(huì)讓“看見”比“理解”更受重視。看見了黑箱里面，不代表理解了它的原理。要理解算法，僅僅看見一行行的代碼是不夠的，還要學(xué)會(huì)與它們互動(dòng)。

第九，透明化是有技術(shù)方面的局限性的。算法越來(lái)越龐大、復(fù)雜，以至于在科技公司開發(fā)算法的過(guò)程中，出現(xiàn)了很多連程序員自己都無(wú)法理解的結(jié)果。如果他們自己都理解不了，那么公開給大家，也沒(méi)什么用。

第十，算法有時(shí)間上的局限性。算法在不斷變動(dòng)中，看見了當(dāng)下的算法，不代表能夠預(yù)見未來(lái)的算法怎樣運(yùn)轉(zhuǎn)。

兩位研究者列舉出這些局限性，并不是想說(shuō)：透明化的方向是錯(cuò)誤的。其實(shí)，他們的意思是：僅僅依賴“透明化”，不足以真正監(jiān)督算法。他們想做的，是在透明化的基礎(chǔ)上更進(jìn)一步，想辦法避免以上這些問(wèn)題。

他們認(rèn)為，我們要做的不是“朝系統(tǒng)里面看”，而是“將不同的系統(tǒng)結(jié)合起來(lái)看”，其中包括在這個(gè)系統(tǒng)中的人，也包括代碼、機(jī)器等非人類元素。

比如說(shuō)，如果透明化之后，人們還是沒(méi)有足夠的權(quán)力去監(jiān)督，那么我們就應(yīng)該重視：如何去改變不對(duì)等的權(quán)力關(guān)系，而不是僅僅停留在透明這一步。再比如，如果透明化導(dǎo)致有效信息被淹沒(méi)，那么關(guān)注的重點(diǎn)就應(yīng)該放在：系統(tǒng)是如何在信息過(guò)載當(dāng)中，有意轉(zhuǎn)移我們注意力的。如果連程序員自己都搞不懂算法的結(jié)果，那我們應(yīng)該考慮的就是：是不是要推遲算法的應(yīng)用時(shí)間，留出更多的時(shí)間給開發(fā)者，甚至，是否根本就不應(yīng)該來(lái)開發(fā)這樣一套系統(tǒng)？

總之，這篇論文指出的是透明化的局限性，而不是它的錯(cuò)誤性。研究者認(rèn)為，我們應(yīng)該對(duì)算法有更多了解，而不能只停留在要求算法透明化這一步。雖然文章說(shuō)的是算法，但其實(shí)我們也可以聯(lián)系到其他領(lǐng)域。無(wú)論在哪個(gè)領(lǐng)域，“透明化”都不是一個(gè)完全能實(shí)現(xiàn)監(jiān)督的方式。