□文│吳 靖

20世紀中葉以來，“人工智能”一直被認為是人類科技的前沿領域，一旦有所突破，就具有改變人類歷史的力量。20世紀60年代，“人工智能”與“空間技術”和“能源技術”并稱為人類三大尖端技術，而到了21世紀，其他兩項變成了“基因工程”和“納米科學”，“人工智能”卻又一次上榜，成為科技新浪潮的代表性技術。2016年，隨著阿爾法狗大戰(zhàn)人類圍棋頂級高手的聳動新聞的熱議，“人工智能”的話題從小眾的尖端科技領域進入到了大眾文化，人們開始討論現實中可以實現，或者不久馬上會實現的人工智能應用，而不是未來主義暢想中的縹緲景觀。在機器輕易挑戰(zhàn)了不久前還被認為是很難挑戰(zhàn)的人類智慧高峰圍棋的時刻，人類輿論充滿了對人工智能即將碾壓人類熟知的一切的期待與恐懼。但是總的來說，在兩年前沸騰的人工智能輿論中，樂觀主義成為主旋律。人類憧憬著新科技能夠解決當下世界的結構性問題，感慨人類主體性可能會消退，半期待半擔憂地討論著機器全面取代人類勞工的未來場景。

然而到了2018年，關于“人工智能”的新聞雖然繼續(xù)接二連三，但是風向卻出現了巨大的轉變。首先用詞更加接地氣了，“算法”替代了“人工智能”這個大而無當的概念，更明確指明了這一新科技發(fā)展的核心原理，那就是由計算機來模擬某些人的思維和智能，通過“算法”來實現在存在一定的輸入的條件下，由計算機來完成特定功能的輸出，替代或增強人類的某些決策任務與能力。另外，新聞所涉及的行業(yè)也更加具體，并不是還處于科學游戲和實驗狀態(tài)的“下圍棋”，而是進入到自動駕駛、社交媒體和共享經濟平臺這些大量依靠“算法”才能成立的新技術與經濟實踐之中。我們可以從這些已經發(fā)生的事故和爭議中，去討論“算法”和“人工智能”在具體的社會經濟生活中角色的加強到底意味著什么，以及與人類社會現有的傳統(tǒng)倫理，都產生了怎樣的沖突和重塑的關系。

本文將從幾個近期有關算法的新聞事件入手，討論算法主導下的社會與經濟行為，在倫理層面的悖論和困境。

一、平臺經濟的算法依賴與倫理導向

對平臺經濟算法問題的討論基于滴滴順風車的系列丑聞。滴滴平臺的順風車業(yè)務接連爆出多起搶劫、強奸、殺人的惡性案件，引發(fā)輿論危機。以滴滴為代表的“共享經濟”，在2010年前后成為創(chuàng)投市場的寵兒。滴滴出行作為一家2012年才成立的創(chuàng)業(yè)公司，先后完成20輪融資，金額總量超過200億美元，成為全球融資金額最大的未上市公司。[1]滴滴用巨大的融資額通過對出租車和網約車司機以及乘客進行補貼的方式，先后擊敗和收購了快的、優(yōu)步等國內國際的網約車平臺，獲得了在中國市場的壟斷地位。在引發(fā)眾怒的系列惡性案件爆發(fā)之后，輿論和交通管理部門都指出了滴滴因為壟斷而導致的傲慢、管理散漫和對顧客投訴與政府管理回應緩慢等問題。然而，除了壟斷、管理不善和資本逐利本性這些所有企業(yè)都有可能存在的問題以外，滴滴公司作為平臺經濟代表的運營模式，也是造成出租車行業(yè)在勞工、服務、安全等方面問題的重要原因。

滴滴之所以能夠在很短時間獲得大量融資、壟斷出租車以及網約車的市場，并且在很長一段時間以來一直獲得政府相對寬容的管理政策，是因為類似的平臺企業(yè)以通過算法可以優(yōu)化交通資源配置，并且將私家車的閑置運輸能力和乘客的特殊需求進行匹配，作為科技創(chuàng)新企業(yè)對新經濟和社會做出巨大貢獻的理由。“算法”在這種平臺經濟的模式中，被當做促進信息流通和資源高效配置的科技解決方案。在傳統(tǒng)出租車行業(yè)服務缺陷和城市交通擁堵的大環(huán)境下，加上早期平臺企業(yè)的大規(guī)模補貼政策，民眾和司機都迅速被吸納到滴滴平臺之上，接受滴滴APP通過算法來調節(jié)和指揮的打車服務。另外，與傳統(tǒng)出租車企業(yè)所不同的是，滴滴是一家輕資產的公司，它并不擁有出租車，也并不雇傭司機，不需要對固定資產以及員工福利、培訓和保險進行很多投入，但是又可以因為壟斷了顧客對車輛需求的信息而從司機的勞動中獲得提成。滴滴與司機之間，并沒有穩(wěn)定的勞動關系，它實際上也并不能夠承諾或者保證在自己的營銷廣告中所宣稱的，對于乘客來說優(yōu)越于傳統(tǒng)出租車行業(yè)的各種服務。這些只是基于對互聯(lián)網世界資源以及人際關系最優(yōu)匹配的神話般的社會想象。在現實中，無論是司機還是乘客，都會因為沒有穩(wěn)定的角色期待、職業(yè)標準、工作經驗和責任認定，而遇到各種各樣的風險和問題。滴滴作為平臺企業(yè)，最大的利益訴求就是維系用戶的黏性，維持用戶對平臺的基本信任，甚至是對平臺的依賴。因而對于顧客投訴甚至警方工作進行推諉、拖延，拒絕向政府提供運營數據和車輛信息，出了事故以后整改不到位等等作為，就不僅僅是管理不善的問題，而是滴滴這種類型的平臺企業(yè)要繼續(xù)運營下去的系統(tǒng)性做法。平臺與勞動者和顧客之間，并沒有直接的契約關系和社會關系，平臺作為披上科技外衣的“中介”，既具有科技所帶有的“客觀”“中立”“精確”的光環(huán)，又是去人格化、去實體化的，很容易規(guī)避人們對“倫理”和“責任”的追問。

不少研究者和觀察家都已經指出，從互聯(lián)網創(chuàng)業(yè)大潮中所成長起來的平臺企業(yè)，或者說“共享經濟”，以亞馬遜的Mechanical Turk，Uber，愛彼迎（Airbnb）、淘寶、滴滴等為代表，實際上是一種與新自由主義經濟模式相契合的“零工經濟”。[2]這種模式是建立在一種對中產階級個體的“創(chuàng)意活動”浪漫化的想象之上，認為人們可以利用“業(yè)余時間”（淘寶帶貨）、使用“空余生產工具”（上下班路上的順風車、出門度假空置的房屋）、利用自己職業(yè)之外的特殊才藝（外語、寫代碼、制作小工藝品、化妝技巧等），將這些“邊角料”的資源和勞動，通過平臺和算法的連接，轉化成財產性收入，既充分利用了資源、服務了有需求的人，又可以獲得額外的收入，并且勞動時間靈活、自主性強。但是，在現實中，新自由主義經濟政策導致失業(yè)人口增加，靈活就業(yè)和不穩(wěn)定工作成為常態(tài)，許多勞動者參與平臺經濟是作為唯一的收入來源，而并非經濟收益的錦上添花。而平臺企業(yè)只有將零散的服務提供者與消費者捆綁在一個更加穩(wěn)定和壟斷的信息環(huán)境中，才可能具有可持續(xù)的盈利模式。因此，一方面是勞動者與平臺之間是陌生人和異化的關系，并不具有傳統(tǒng)企業(yè)勞動環(huán)境所形成的人際關系、職業(yè)倫理、工作穩(wěn)定性和工友之間的相互支持，而另一方面是消費者和零工勞動者在壟斷平臺的擠壓下別無選擇，只能通過平臺來獲取工作和服務。平臺算法的主導邏輯是效率和交易的達成，以及快錢的攫取，而并非服務質量的提高和產品的個性化。實際上，平臺企業(yè)在連接服務提供者和潛在消費者的時候，是無法把“服務質量”這樣主觀性的變量的評估加入到算法之中的，它們所能做的，就是最大限度地促進交易和完成交易。具體行業(yè)的職業(yè)水準的提升和產品質量的提高，只能是專注于此的企業(yè)來不斷改進，不可能由只把產品和服務看成數據和流動性的平臺來實施。金融資本主導下的平臺經濟，不可能具有特定的、穩(wěn)定的社會倫理。

二、大數據與傳統(tǒng)受眾調查

2018年初，英國《衛(wèi)報》采訪了一家名叫“劍橋分析”（Cambridge Analytica）的數據分析公司的爆料人Christopher Wylie，承認公司通過（非法）數據挖掘獲得臉書（Facebook）上五千萬用戶的數據，用來分析用戶的日常行為與他們的政治態(tài)度之間的關系。[3]英國脫歐公投和美國川普意外當選之后，自由派媒體就一直在調查這些投票的“意外情況”背后，是否有新的心理操控和政治操控技術的影響。以Facebook為代表的社交媒體，早已經成為許多分析家解釋西方工業(yè)化社會政治公共領域碎片化、代表性斷裂、選舉政治腐化的眾矢之的。這場丑聞還導致了一場為期兩天的美國國會聽證會，幾十名議員對扎克伯格進行了連珠炮似的提問，但是似乎焦點成了Facebook如何防止泄露用戶隱私數據的問題。把問題的焦點從數據分析背后所采用的“算法”及其邏輯，轉移到了保護數據不外泄給潛在的邪惡力量，這使得輿論偏離了對一個重要問題的探討：是否數據量足夠大，算力足夠強，人們的政治行為，比如投票，就一定是可以展示出特定的規(guī)律、可以預測并且進行人為干預的？

這個問題并不新鮮，在“大數據”這個概念興起之前很久，通過定量數據分析，可以對社會成員的行為規(guī)律進行總結和預測，就已經成為大規(guī)模社會調查——包括商業(yè)調查和社會心理調查——所奉行的基本原理了。只不過早期的社會調查是基于特定社會學原理的抽樣，而并非完整的大數據。因此，在20世紀的大部分時間，工業(yè)化社會的人們對于商業(yè)調查、社會態(tài)度調查、政治選舉調查、輿論調查等幾乎充斥了生活方方面面的各類調查已經見怪不怪，并且經常認為它們的結論并不準確，只是一家之言，甚至和算命相比，也精確不了太多，并沒有那么容易和陰謀論或者操控選舉等想象聯(lián)系在一起。引發(fā)輿論恐慌的，是社交媒體、人工智能、大數據算法這些“全新”的概念，這些概念發(fā)端于20世紀60年代的軍事工業(yè)，建立在對使用大型計算機來模擬和控制復雜系統(tǒng)與戰(zhàn)場形勢的科學期待之上。[4]因此，基于抽樣的早期市場調查和基于大數據的網絡時代的社會行為控制，雖然在對人類的主觀行為其實是具有客觀規(guī)律的、是可以預知的這個認識層面，具有根本的一致性，但是兩者的區(qū)別在于網絡科技、信息收集技術和芯片運算速度的指數級發(fā)展，導致人們相信一個全面監(jiān)控、人類被徹底數據化的時代終于到來了。輿論對于Facebook數據泄露事件的恐慌，以及美國國會通過聽證和道歉這種政治儀式試圖要平復的恐慌，都是來自于對自由意志終于要全面敗給人工智能和算法這一深層次的意識形態(tài)。

在算法所理解和復制的人類行為模式中，只存在大量的刺激——反應過程的集合，而不存在對于自由意志和倫理自主性的考量。盡管在算法學習中，理論上可以允許無限大的輸入，但是無論輸入多少變量，自由意志和倫理都是在算法所建構的復雜系統(tǒng)之外的。這一問題在另外一場涉及人工智能機器失敗的事件中，得到了更清晰的展示。2018年3月18日，在美國亞利桑那州發(fā)生了一場自動駕駛汽車撞死了一個行人的車禍。經過調查，車禍原因在于正處于自動駕駛狀態(tài)的汽車雖然感知到了前方的物體（行人），但卻通過數據庫的計算和判斷認為那是另外一輛汽車，也在向前移動，因此沒有做出任何躲閃的動作。等物體近在眼前仍舊沒有移動的時候，自動駕駛的汽車無法做出有效判斷，也不知道該做什么動作，于是突然把駕駛權交還給了司機，但是司機在那個時候完全沒有思想準備，于是汽車徑直撞上了那個“物體”：一位49歲的女性。[5]在人類智能的世界，無論是出于本能、還是出于理性判斷，見到不明物體的第一反應應該是降低車速，然后再進一步判斷。但是在算法的世界里，“為了安全起見而犧牲效率”可能是一個無法訓練的能力，因為這種判斷是基于主觀判斷的選擇，并沒有唯一的答案，并且不符合機器理性所要追求的精確和效率最大化原則。

基于Facebook數據進行政治行為預測和干預，和通過大數據訓練開發(fā)的自動駕駛汽車，似乎是算法在兩個完全不同領域的應用。但是，如果追究到兩種技術體系所依據的基本認識論前提，那就是對于人類行為是出于自由意志和倫理判斷的推動，還是來自于復雜輸入的刺激——反應模式的判斷，我們可以看到兩者的認識論都是建立在后者的基礎之上，而排斥了自由意志和倫理選擇。也就是說，算法在當下一些人類活動領域的滲透，已經不是替代人類活動，或者增加某種活動的效率那么簡單的事情了，而是首先對人類行動的邏輯進行了改造，從倫理邏輯和效率邏輯各占一定的比重，改造為效率邏輯和工具理性占據所有的空間，完全排斥倫理邏輯與價值理性，并且進一步在改造的基礎上開發(fā)出了基于算法的人類行動模式。

早在20世紀30年代，法蘭克福學派的批判理論家們在接觸了美國式的媒體市場調查之后指出，文化工業(yè)總是聲稱自己在用最先進的調查方法——問卷、心理分析、焦點小組等等——來科學性地理解受眾，表明自己給受眾生產的標準化娛樂產品是受眾自己想要的、需要的。其實，市場細分不過是文化工業(yè)生產鏈條的一部分，是由文化工業(yè)精心規(guī)劃，并且通過營銷、廣告、市場調查中的心理暗示和分類指引，以及類型化節(jié)目的穩(wěn)定投放，而逐步生產出來的。并不存在“天然”喜歡某種節(jié)目的受眾，受眾的品位和分類，是文化工業(yè)的重要產品，是文化工業(yè)生產邏輯的結果，而非原因。[6]由此可知，受眾市場調查，就是大眾傳媒時代的“算法”，而社交媒體新技術所帶來的，無非是對受眾分類投放的更加封閉、影響力更加強大。APP與大眾傳媒最大的差別，就是我們連手中的遙控器都失去了，一點點放棄了偶爾越過自己的“信息繭房”，到更廣闊的世界串一下門的機會。我們在不知不覺中被包裹在一個小宇宙中，與他人近在咫尺，卻消費著非常不同的信息和文化，我們的品位、邏輯和價值，被“算法”所塑造和改造，也越來越依賴“算法”而存在。

三、結語：“算法”治理需要公共領域

既然“算法”的主導權背后是資本和效率的價值體系，也就是哈貝馬斯所說的，系統(tǒng)對于生活世界的逐步侵占，那么能夠與“算法”主導權進行博弈的，當然就是提倡和培育價值理性與主體間性的公共領域了。在“滴滴”順風車惡性案件丑聞的輿論之下，筆者接觸到了兩個小故事，可以算作公共領域和公民行動如何可能貢獻于“算法”治理的注腳。第一個故事來自于一位出租車司機，在和筆者聊到出租車與“滴滴”的關系時，司機師傅專門提到一個傳統(tǒng)司機的技能，“掃街”，也就是在大街上接招手打車的乘客。他說雖然開著打車軟件，但他堅持“掃街”，“不要偷懶，把接到好單的希望都寄托在平臺身上，平臺就是為了把你捆綁在它那里，開始的時候用一些好的單子來誘惑你，當你失去了‘掃街’的基本技能，想著守株待兔靠平臺來派單的時候，你就失去了選擇勞動方式和控制自己勞動過程的主動性。平臺要的是司機之間的競爭和猜疑，你需要自己掌握勞動技能，否則就只能任人擺布?！钡诙€故事來自于滴滴順風車殺人案前一天曾經投訴過同一個司機的女性，她投訴后滴滴并沒有及時回應和處理。第二天發(fā)生了殺人案之后，她在微博和公共媒體的采訪中都表示了“深深的自責”，認為自己如果當時“不畏縮，去報警”，“這23歲的姑娘會不會就不會有事了”。

從這兩位普通人身上我們可以感受到公眾樸素的價值觀和對社會利益的關切，完全可以通過公共領域的激蕩、信息的交流和討論，形成對平臺和“算法”非常具體、到位的認識與批評。在涉及企業(yè)治理，尤其是新科技企業(yè)的治理時，通常我們習慣于所謂“利益相關方”的思維方式，更多由專家、法律代理人和企業(yè)代表來參與制定相關政策的討論。但是，既然新的基于算法的平臺科技已經代表著人類傳統(tǒng)生活方式的重新組合和創(chuàng)造性改革，我們需要讓公眾提供與新科技共處體驗的不同面向，并且相互交流，才可能更全面地思考人類與“算法”共處并且“馴服”算法的方式。吊詭的地方在于，新技術所帶來的傳播潛力，在資本邏輯的壟斷下，可以導致“算法”霸權與人的本質能力的退化，而在公共領域的價值模式下，又是克服“算法”異化的重要前提。我們需要思考如何在數字化與社交媒體的時代重新激活公共領域的理想與實踐。

注釋：

[1] 2012年成立，多輪融資，收購Uber，滴滴從一開始就是錯的[EB/OL].https：//www.admin5.com/article/20180831/874032.shtml

[2] Nick Dyer-Witheford, Cyber-Proletariat： Global Labor in the Digital Vortex, Pluto Press, 2015.

[3] Carole Cadwalladr, “‘I made Steve Bannon’s psychological warfare’： meet the data war whistleblower.”https：//www.theguardian.com/news/2018/mar/17/data-warwhistleblower-christopher-wylie-faceook-nix-bannon-trump

[4] Paul N. Edward, The Closed World： Computers and the Politics of Discourse in Cold War America (MIT Press,1997).

[5] Andrew Smith, “Franken-algorisms： the deadly consequences of unpredictable code.” https：//www.theguardian.com/technology/2018/aug/29/codingalgorithms-frankenalgos-program-danger?CMP=Share_iOSApp_Other&from=groupmessage

[6] [德]馬克斯·霍克海默，特奧多·威·阿多爾諾.啟蒙辯證法（哲學片段）[M].洪佩郁，藺月峰，譯.重慶：重慶出版社，1990