智能革命與第四次科技革命

劉大椿

(中國(guó)人民大學(xué)哲學(xué)院教授， 北京 100872)

近年來，人們?cè)絹碓揭庾R(shí)到智能革命將成為人類未來的大趨勢(shì)，并稱之為第四次科技革命。對(duì)此，應(yīng)該進(jìn)一步廓清智能革命與第四次科技革命等概念，方能準(zhǔn)確把握它們所描述的人類未來前景的深刻意涵。要理解智能革命，就要站在歷史的高度把握第四次科技革命和產(chǎn)業(yè)革命的特征，進(jìn)而透過整體生成和系統(tǒng)演化的視角洞察其實(shí)現(xiàn)機(jī)制和深遠(yuǎn)影響。

什么是智能革命？從人類現(xiàn)代化進(jìn)程來看，智能革命是自17、18世紀(jì)第一次科技革命以來的第四次科技革命以及與之相對(duì)應(yīng)的產(chǎn)業(yè)革命。此前還有三次與其同樣重要的革命：蒸汽革命、電力革命、信息革命。什么是科技革命和產(chǎn)業(yè)革命？簡(jiǎn)單地講，科技革命就是科技進(jìn)步系統(tǒng)演化和綜合發(fā)展過程中出現(xiàn)的歷史性的重大突破；產(chǎn)業(yè)革命則指突破性的、關(guān)鍵的且起引領(lǐng)作用的系統(tǒng)性與全局性的產(chǎn)業(yè)創(chuàng)新和綜合，往往會(huì)對(duì)人類社會(huì)生產(chǎn)和生活方式產(chǎn)生巨大影響。

第一次科技革命就是17、18世紀(jì)的科學(xué)技術(shù)革命，主要是物理學(xué)，特別是力學(xué)有了突破，也就有了現(xiàn)在所謂的科學(xué)。到18世紀(jì)以后數(shù)、理、化、天、地、生這些學(xué)科都基本成形了，科學(xué)大廈由此得以支撐。和17、18世紀(jì)的科技革命相對(duì)應(yīng)的產(chǎn)業(yè)革命就是蒸汽革命，英國(guó)因此崛起為現(xiàn)代化的先驅(qū)，機(jī)器自此逐漸成為人類生產(chǎn)和社會(huì)生活的主導(dǎo)性角色。在19世紀(jì)到20世紀(jì)初的第二次科技革命中，熱力學(xué)、統(tǒng)計(jì)物理、電磁學(xué)及相對(duì)論和量子力學(xué)等的發(fā)展使現(xiàn)代物理學(xué)的理論架構(gòu)基本確立，電能的使用和生產(chǎn)設(shè)備的電氣化令重化工業(yè)得到空前發(fā)展，與之相對(duì)應(yīng)的產(chǎn)業(yè)革命就是電力革命。其領(lǐng)先者英、法、德、美等成為現(xiàn)代化的典范，自此人類找到了運(yùn)用自然力的普遍能源形式和普遍的控制手段。第三次科技革命即20世紀(jì)80年代所說的第三次浪潮，是當(dāng)時(shí)在信息、微電子、生命、新材料、新能源、航空航天等領(lǐng)域發(fā)生的高新科技革命，與之相對(duì)應(yīng)的產(chǎn)業(yè)革命是信息革命。信息革命使美國(guó)在計(jì)算機(jī)、網(wǎng)絡(luò)等產(chǎn)業(yè)的創(chuàng)新和商業(yè)化方面領(lǐng)先世界，世界各國(guó)的實(shí)力在信息革命中此消彼長(zhǎng)，而中國(guó)近四十年快速發(fā)展的重要原因之一就是抓住了信息革命的機(jī)遇趁勢(shì)而上。至此，科學(xué)和技術(shù)就不再僅僅局限于原先的數(shù)理化天地生的學(xué)科劃分，而轉(zhuǎn)向更宏觀的領(lǐng)域拓展，在過去重視物質(zhì)科技和能源科技的基礎(chǔ)上，開始聚焦于信息科技和生命科技，繼而出現(xiàn)了信息、納米、生命、認(rèn)知等融合科技；同時(shí)，在產(chǎn)業(yè)分布上也出現(xiàn)了相應(yīng)的變化，信息科技領(lǐng)域的創(chuàng)新不僅在技術(shù)上使得各種機(jī)器、產(chǎn)品和包括社會(huì)交往在內(nèi)的所有人類活動(dòng)都可以通過信息得以控制和聯(lián)通，而且還觸發(fā)了以信息革命為特征的產(chǎn)業(yè)革命，以信息為基礎(chǔ)的知識(shí)產(chǎn)業(yè)和服務(wù)業(yè)等第三產(chǎn)業(yè)上升為最重要的產(chǎn)業(yè)部門，加之第一產(chǎn)業(yè)與第二產(chǎn)業(yè)的信息化改造，信息化成為工業(yè)化第二階段的主導(dǎo)方向。第四次科技革命是本世紀(jì)以來由移動(dòng)互聯(lián)網(wǎng)、大數(shù)據(jù)、機(jī)器人、計(jì)算機(jī)視覺、深度學(xué)習(xí)等智能化科技促成的以人工智能為核心的新一輪科技革命。隨著智能化科技的發(fā)展，包括人在內(nèi)的萬事萬物都會(huì)通過數(shù)據(jù)流聯(lián)結(jié)為可以感知和回應(yīng)環(huán)境變化的泛智能體，整個(gè)世界將有可能演變?yōu)閺?fù)雜、泛在的智能化虛擬機(jī)器。同時(shí)，以人工智能為核心的產(chǎn)業(yè)群初見端倪，信息革命躍遷到其第二階段，即智能革命的新階段，而工業(yè)化也正在走向其第三階段，即從信息化邁向智能化。面對(duì)智能革命的挑戰(zhàn)，美、中、歐、英摩拳擦掌，世界各主要國(guó)家和地區(qū)的競(jìng)爭(zhēng)與協(xié)作態(tài)勢(shì)也必將面臨一系列前所未有大變局。

這四次科技革命之所以至關(guān)重要，之所以對(duì)人類文明具有根本性的變革功能，乃在于它們每每能促成新一輪的產(chǎn)業(yè)革命，并與之相互激蕩。而科技革命與產(chǎn)業(yè)革命實(shí)現(xiàn)協(xié)同激勵(lì)的關(guān)鍵在于，以科技創(chuàng)新打通科學(xué)發(fā)現(xiàn)與產(chǎn)業(yè)需求的通道，從而透過產(chǎn)業(yè)化這一集約的全要素和系統(tǒng)性的資源組織形式推動(dòng)了社會(huì)變革乃至文明轉(zhuǎn)型。這反過來又促使全社會(huì)和民族國(guó)家紛紛將知識(shí)發(fā)現(xiàn)和科技創(chuàng)新視為發(fā)展的關(guān)鍵和國(guó)力的基石。如果說，科學(xué)革命源自人類對(duì)自然奧秘永恒的好奇心與求知欲，科技革命勢(shì)不可擋的革命性乃在于科技創(chuàng)新一旦站上產(chǎn)業(yè)革命的舞臺(tái)，就急劇放大上升為撬動(dòng)社會(huì)變遷和文明轉(zhuǎn)型的力量。今天，我們談?wù)撝悄芨锩?，就?yīng)該從科技革命與產(chǎn)業(yè)革命互為條件、相互激蕩和交錯(cuò)躍升出發(fā)，探究其本質(zhì)、前瞻其態(tài)勢(shì)。

我們今天探討智能革命的前景和人類未來，應(yīng)該進(jìn)一步關(guān)注和主題相關(guān)聯(lián)四個(gè)層面的問題。

第一，技術(shù)層面。隨著智能革命的推進(jìn)，技術(shù)上會(huì)出現(xiàn)哪些新東西？國(guó)內(nèi)有一個(gè)偏向，技術(shù)界和產(chǎn)業(yè)界比較關(guān)注技術(shù)層面的問題，不太關(guān)注社會(huì)影響等其他方面的問題；而哲學(xué)和人文界則對(duì)技術(shù)層面的關(guān)注不是太夠。根據(jù)筆者對(duì)硅谷地區(qū)的實(shí)地觀察，美國(guó)非常關(guān)注技術(shù)，在技術(shù)上面花的工夫是我們難以想象的。同時(shí)，其體制也提供了很好的條件，在技術(shù)上有想法的人總有辦法去弄到資金來進(jìn)行開發(fā)，也許這就是他們能在智能革命方面走得比較前面的原因。此外，他們高度重視技術(shù)預(yù)見。例如，有一項(xiàng)研究詳細(xì)探討了可能在最近三五年引起重大改變的23個(gè)技術(shù)，包括現(xiàn)在流行的智能駕駛。其中，對(duì)于這些技術(shù)若干年之后會(huì)進(jìn)入什么樣的狀態(tài)，會(huì)實(shí)現(xiàn)百分之多少，或者有可能實(shí)現(xiàn)的概率是多少，80%還是90%，還是50%？諸如此類，都有非常有根據(jù)的介紹和預(yù)測(cè)。

第二，產(chǎn)業(yè)層面。伴隨著第四次科技革命，會(huì)有哪些產(chǎn)業(yè)呈突破之勢(shì)或可能脫穎而出？技術(shù)層面和產(chǎn)業(yè)層面雖然聯(lián)系緊密，實(shí)踐上卻是兩回事。以智能駕駛為例，目前在智能駕駛的技術(shù)層面投入很大，花很大功夫才能取得一點(diǎn)進(jìn)展，很多研發(fā)企業(yè)都在組織開發(fā)、努力跟進(jìn)。但同時(shí)，那些以產(chǎn)業(yè)實(shí)現(xiàn)為目標(biāo)的企業(yè)和機(jī)構(gòu)，從一開始就關(guān)注在產(chǎn)業(yè)層面怎么去實(shí)現(xiàn)技術(shù)的應(yīng)用。以一家研發(fā)智能駕駛的企業(yè)為例，在智能技術(shù)層面，他們的賓利車組裝起來，可以從硅谷一直開到拉斯維加斯，在非常復(fù)雜的氣象條件下展開測(cè)試；他們還在智能貨卡上安裝了各種各樣的探頭、傳感器，在各種環(huán)境下進(jìn)行測(cè)試，并且取得了相當(dāng)?shù)倪M(jìn)展。但他們認(rèn)識(shí)到，比此更重要的是，技術(shù)層面的發(fā)明怎么在產(chǎn)業(yè)方面實(shí)現(xiàn)？這就必須考慮技術(shù)應(yīng)用的可能性有多大，而且產(chǎn)業(yè)的實(shí)現(xiàn)必定關(guān)系到社會(huì)，就不僅僅是技術(shù)問題。目前比較看好的一條路，就是尋求智能貨卡的商業(yè)化路徑。貨卡實(shí)現(xiàn)智能控制的可能性比較大，一旦實(shí)現(xiàn)，必定產(chǎn)生非常大的效益。據(jù)統(tǒng)計(jì)，美國(guó)貨運(yùn)的年產(chǎn)值是四萬億，如果有1%愿意采用他們的方案，涉及的產(chǎn)值就是400億。如何將智能革命落實(shí)到新的產(chǎn)業(yè)應(yīng)用和原有產(chǎn)業(yè)的升級(jí)改造，在產(chǎn)業(yè)層面應(yīng)該深入考量。

第三，社會(huì)層面。智能革命會(huì)帶來哪些社會(huì)問題？例如，如果不要那么多駕駛員了，那這些人去干什么？幾十萬駕駛員失業(yè)了怎么辦？就智能醫(yī)生而言，如果都可以用人工智能來看病診斷了，那還要醫(yī)生干什么？這些都是我們現(xiàn)在就可以想到的社會(huì)層面的問題。

第四，精神層面。精神層面最大的問題，是多數(shù)人今后還有什么用？活著還有什么意義？以后的社會(huì)是不是5%的人去把人工智能開發(fā)出來，剩下的事就交由機(jī)器人操作，其他95%的人，說的好就是享受，說的不好聽就成了廢人。大多數(shù)人不需要有效工作，這種社會(huì)行不行呢？肯定是不行的。馬克思曾經(jīng)批判資本綁架科技，就會(huì)造成人的異化。原先的手工藝工人是有技術(shù)的，到機(jī)器大生產(chǎn)時(shí)代工人卻被機(jī)器代替了。這些問題，不管是搞技術(shù)的也好，搞社會(huì)學(xué)的也好，還是搞哲學(xué)的也好，是不能不關(guān)心的。其實(shí)，智能革命給所有人提出了人性本質(zhì)問題：無論智能革命如何推進(jìn)，人類生命和社會(huì)文明如何演化發(fā)展，怎樣使每個(gè)人在由人類所開創(chuàng)的深度智能化的未來都有事情可做？如何讓一切人群都在心理和精神上呈現(xiàn)出朝氣蓬勃和幸?？鞓返臓顟B(tài)，而不是自慚形穢、百無聊賴的失敗者？

智能革命與人類的前景

成素梅

(上海社會(huì)科學(xué)院哲學(xué)研究所研究員，上海 200235)

我們探討“智能革命與人類的前景”這個(gè)主題的一個(gè)前提假設(shè)是，設(shè)想一下，如果智能化社會(huì)能夠到來的話，我們現(xiàn)在應(yīng)該如何做好怎樣的迎接準(zhǔn)備。我將從三個(gè)方面來闡述這個(gè)話題。第一，人工智能威脅論的誤區(qū)；第二，智能革命是文明的選擇；第三，為休閑社會(huì)的到來作準(zhǔn)備。

首先，關(guān)于人工智能的威脅論的誤區(qū)。

大家對(duì)人工智能威脅論應(yīng)該都不陌生，而且有很多相關(guān)的論點(diǎn)與報(bào)道。在這些威脅論中，有兩種突出的擔(dān)憂，其一是擔(dān)憂機(jī)器人有朝一日會(huì)全面替代人類所做的一切工作，從而使人變得無所事事，最終成為“無用”之人；其二是像諸多科幻影片中所設(shè)想的那樣，人工智能的發(fā)展必然會(huì)在未來制造出全面控制人類的具有強(qiáng)大能力的智能體，從而導(dǎo)致人類文明的終結(jié)。擔(dān)任多家科技公司CEO的埃隆·馬斯克預(yù)言，人工智能是人類文明最大的威脅；宇宙物理學(xué)家史蒂芬·霍金警告說，人工智能可能致使人類文明走向終結(jié)；《未來簡(jiǎn)史》的作者尤瓦爾·赫拉利則認(rèn)為，智能機(jī)器的普及必然會(huì)導(dǎo)致產(chǎn)生一個(gè)“無用”階級(jí)，如此等等。這兩類觀念有很多想象的成份?！妒Э亍返淖髡邉P文·凱利認(rèn)為，人工智能威脅論蘊(yùn)含的五個(gè)假設(shè)無異于宗教信仰，沒有證據(jù)支持。我個(gè)人也認(rèn)為，人工智能的發(fā)展對(duì)我們?nèi)祟悗淼淖畲笸{，既不是失業(yè)問題，也不是它能強(qiáng)大到足以消滅人類的問題，而是對(duì)人類在工業(yè)文明基礎(chǔ)上形成的發(fā)展觀、就業(yè)觀、財(cái)富觀、分配制度等治理體系與傳統(tǒng)的概念框架的挑戰(zhàn)。如果我們從人類文明的視域來分析，威脅論似乎返回到了人類文明的初期。在人類文明初期，之所以誕生了許多神話、圖騰崇拜、祈禱儀式、形成宗教信仰等，在很大程度上體現(xiàn)了人類對(duì)當(dāng)時(shí)無法解釋和無法控制的自然現(xiàn)象的懼怕，后來，隨著科學(xué)技術(shù)的發(fā)展，人類最終借助于強(qiáng)大的科學(xué)技術(shù)力量戰(zhàn)勝了有神論的推測(cè)與信仰，從而把檢驗(yàn)真理的標(biāo)準(zhǔn)轉(zhuǎn)向了觀察和實(shí)驗(yàn)。

同樣，我們今天正在向著人工智能時(shí)代飛躍，而這種飛躍是跨躍式的。我們一方面還在面臨著需要解決從工業(yè)文明向信息文明轉(zhuǎn)型過程中出現(xiàn)的問題，比如，當(dāng)我們從過去信息匱乏時(shí)代轉(zhuǎn)向信息過剩時(shí)代時(shí)，就個(gè)人而言，面臨著信息超載、信息碎片化、注意力分散等問題；就社會(huì)而言，面臨著社會(huì)安全、社會(huì)治理等新問題；當(dāng)人類社會(huì)從依賴于信息技術(shù)發(fā)展的工業(yè)社會(huì)，轉(zhuǎn)向了受信息技術(shù)驅(qū)動(dòng)發(fā)展的信息社會(huì)時(shí)，面臨著與社會(huì)轉(zhuǎn)型相配套的一系列制度變革等問題。另一方面，自2010年以來，隨著智能化技術(shù)向著各行各業(yè)的滲透，智能化不僅深化了信息化的進(jìn)程，推動(dòng)了信息文明的縱深發(fā)展，而且預(yù)言著一個(gè)新的智能化時(shí)代即將到來。我們面臨著舊問題還沒有解決，而新問題又不斷產(chǎn)生的困難局面。特別是，因?yàn)槲覀兿胂蟛怀鑫磥淼闹悄荏w是什么樣的，如果真的像科幻小說、電影中所描繪的那么強(qiáng)大無比，那么，人類文明似乎就面臨著滅亡的危險(xiǎn)。事實(shí)上，這同樣是對(duì)人類失去控制力的恐懼。人的安全感來自對(duì)控制力的把握，對(duì)能夠把控的事情就不會(huì)感覺到恐懼，反之則不然。

不僅如此，我們還會(huì)面臨選擇悖論，即，科學(xué)技術(shù)越發(fā)達(dá)，人們的選擇越多樣，但反而越感到有危機(jī)。這是對(duì)不確定性的一種恐懼。同樣，這種恐懼也是對(duì)掌握控制權(quán)的向往。這點(diǎn)實(shí)際上和我們長(zhǎng)期以來形成的控制論的思維方式有關(guān)。我們現(xiàn)有的概念工具箱和概念框架以及包括制度設(shè)計(jì)在內(nèi)的思想體系，不足以理解和應(yīng)對(duì)人工智能的發(fā)展所帶來的改變，我認(rèn)為這是威脅論出現(xiàn)的主要原因。具有來說，是把人工智能帶來的挑戰(zhàn)看成是無法避免的災(zāi)難，而不是看成由于概念工具箱匱乏、思維方式固化和制度安排落后的產(chǎn)物，因而拒斥在運(yùn)用舊范疇體系時(shí)無法理解和賦予意義的新生事物，并對(duì)不確定的未來充滿恐懼，做出消極評(píng)估。所以，當(dāng)環(huán)境變化太快，原有的概念框架跟不上變化的步伐時(shí)，概念框架的缺失不只是一個(gè)問題，更是一種風(fēng)險(xiǎn)。

關(guān)于“無用”論的擔(dān)憂同樣如此。從農(nóng)業(yè)文明到工業(yè)文明的轉(zhuǎn)型，誕生了農(nóng)業(yè)文明中不曾有過的許多新行業(yè)，比如機(jī)械制造業(yè)、航海業(yè)、鐵路運(yùn)輸業(yè)等。工業(yè)文明拋棄的不是土地生產(chǎn)，而是以機(jī)械化與自動(dòng)化的形式改變了土地耕耘方式，并以新的聯(lián)合方式變革了農(nóng)業(yè)文明時(shí)代的制度安排，形成了新的概念框架和新的經(jīng)濟(jì)、文化、法律等制度體系。同樣，從工業(yè)文明再到信息文明的轉(zhuǎn)型，也誕生了工業(yè)文明時(shí)代所沒有的一系列新行業(yè)，比如網(wǎng)絡(luò)通信、電子商務(wù)、人工智能等。信息文明也沒有摒棄土地和工廠，而是以網(wǎng)絡(luò)化、數(shù)字化和智能化的方式變革工業(yè)生產(chǎn)方式，并再次變革農(nóng)業(yè)生產(chǎn)方式。但是社會(huì)變革至今依然處于進(jìn)行之中，遠(yuǎn)沒有完成。[注]參見成素梅：《信息文明的內(nèi)涵及其本質(zhì)》，《學(xué)術(shù)月刊》2018年第5期。

其次，智能化的革命是一種文明的選擇。

從人與自然的關(guān)系來看，人工智能的發(fā)展迎來了“人成之為人”的第二次過程?！叭顺芍疄槿恕钡牡谝淮芜^程是人與自然界的分離，從此人與自然界的關(guān)系由整體性關(guān)系變成了對(duì)象性關(guān)系。與此相對(duì)應(yīng)，地球的進(jìn)化經(jīng)歷了從無機(jī)物到有機(jī)物再到進(jìn)化出人類，而人類一旦出現(xiàn)，就相異于其他動(dòng)物。我們知道，動(dòng)物的生存是自然選擇的結(jié)果，強(qiáng)者生、弱者亡，遵守叢林法則。但人類則不同，從原始人開始就知道利用聯(lián)合的力量來生存。聯(lián)合的力量形成之時(shí)就是人類文明開始之時(shí)，然后逐漸地形成了社會(huì)制度等自治體系。因此，利用科學(xué)技術(shù)推動(dòng)人類文明進(jìn)程的發(fā)展，是人類文明的必然選擇。從這個(gè)意義上來看，智能革命和以前的技術(shù)革命一樣，也是文明選擇的方向，不管人們對(duì)發(fā)展人工智能有多么的恐懼，人工智能肯定是要繼續(xù)發(fā)展下去的。當(dāng)前，各國(guó)政府的重視，社會(huì)資本的涌入，都在助推人工智能的大力發(fā)展。[注]參見成素梅：《信息文明時(shí)代的到來與挑戰(zhàn)》，《中國(guó)社會(huì)科學(xué)報(bào)》2018年1月3日。

人類文明的演化方向有四個(gè)特征。第一就是越來越向著違反自然選擇的方向發(fā)展，即人類聯(lián)合起來抗擊各種自然災(zāi)害；第二是聯(lián)合的力量越來越強(qiáng)大，聯(lián)合起來保護(hù)其成員不受外來侵害也是人類文明發(fā)展的方向，因此，從這個(gè)意義上來說，戰(zhàn)爭(zhēng)也是文明的產(chǎn)物；第三是關(guān)愛弱者，這是人類與動(dòng)物的最大區(qū)別，是社會(huì)進(jìn)步的標(biāo)志之一；第四是社會(huì)化程度不斷提高，也體現(xiàn)出人與人之間的相互依賴性不斷加強(qiáng)。智能革命顯然滿足了這四個(gè)特征，或者說，智能革命是人類文明發(fā)展的選擇。

第三，為休閑社會(huì)的到來作準(zhǔn)備。

工業(yè)社會(huì)主要是建立在物質(zhì)生產(chǎn)基礎(chǔ)上，大家把勞動(dòng)看作是正事，把休閑看作是無所事事、不務(wù)正業(yè)，強(qiáng)調(diào)應(yīng)該是以勞動(dòng)為主，休閑不過是對(duì)勞動(dòng)的獎(jiǎng)賞。但是隨著智能革命的興起，當(dāng)全社會(huì)的各種工作逐漸地由機(jī)器人替代時(shí)，當(dāng)人類將會(huì)有很多時(shí)間進(jìn)行自由支配時(shí)，休閑社會(huì)就會(huì)到來。智能文明是信息文明的高級(jí)階段，就像信息文明的初級(jí)階段是工業(yè)文明的高級(jí)階段一樣，信息文明的高級(jí)階段是智能文明的初級(jí)階段。在這個(gè)階段，人類的身心解放不是使人成為無用之人，而是需要尋找新的聯(lián)合方式。而這種新的聯(lián)合方式，在很大程度上就是讓人們?cè)絹碓綇膭趧?dòng)中解放出來時(shí)，人類的追求將會(huì)逐漸地從物質(zhì)追求轉(zhuǎn)向精神追求，從而迎接休閑社會(huì)的到來。

我們應(yīng)該為休閑社會(huì)的到來作什么樣的思想準(zhǔn)備？這是值得研究和探討的關(guān)鍵問題。我們注意到，智能革命有可能為“人成之為人”提供第二次機(jī)會(huì)，如果說第一次是人與自然的分離，那么這一次將會(huì)是人重新回歸自然、重新尊重自然，改變工業(yè)文明時(shí)代形成的索取和掠奪自然的生產(chǎn)與消費(fèi)方式。我們現(xiàn)有的聯(lián)合方式是圍繞解決經(jīng)濟(jì)問題而形成的，現(xiàn)有的社會(huì)制度、教育體制、政府管理部門等，都是圍繞勞動(dòng)經(jīng)濟(jì)為核心來展開的。但是，智能化社會(huì)的到來必然會(huì)增加人的休閑時(shí)間，這時(shí)如果我們的勞動(dòng)觀和發(fā)展觀不改變，我們就會(huì)變得無所適從，甚至變成自己的敵人，從馬克思批判的勞動(dòng)的異化走向休閑的異化。

如果說，解決經(jīng)濟(jì)的壓力是人類長(zhǎng)期以來面對(duì)的最大挑戰(zhàn)，那么，塑造以休閑為核心的社會(huì)并具備休閑的能力，則是人類進(jìn)入智能文明時(shí)代所面臨的更大挑戰(zhàn)。人類自古以來是以解決經(jīng)濟(jì)問題為目標(biāo)的，在智能化社會(huì)這個(gè)目標(biāo)有可能不再是人類追求的唯一重要的目標(biāo)，人類長(zhǎng)期以來形成的一切習(xí)慣就必須改變。但問題是當(dāng)我們解除了經(jīng)濟(jì)壓力并面對(duì)休閑時(shí)，應(yīng)該在各方面提前做好怎樣的準(zhǔn)備，如何改變現(xiàn)有的制度架構(gòu)、思維方式、概念范疇，如何使人能夠成為提升自我修養(yǎng)、開發(fā)個(gè)人興趣、懂得在活動(dòng)中享受快樂、塑造幸福感的人，這也是使人成為“有用”之人的一種方式。因此，當(dāng)我們把追求生命意義和社會(huì)價(jià)值放在首位時(shí)，我們的評(píng)價(jià)標(biāo)準(zhǔn)就會(huì)發(fā)生改變。

從歷史上看，勞動(dòng)和休閑的關(guān)系有四個(gè)層次。一是純勞動(dòng)型，對(duì)所從事的勞動(dòng)沒有任何興趣，只是為了糊口賺錢；二是勞動(dòng)-休閑型，以勞動(dòng)為主、休閑為輔，休閑是勞動(dòng)的獎(jiǎng)勵(lì)；第三是休閑-勞動(dòng)型，以休閑為主、勞動(dòng)為輔，把勞動(dòng)變成一種休閑方式，以休閑的心態(tài)對(duì)待勞動(dòng)，即休閑式勞動(dòng)，是把勞動(dòng)當(dāng)作自己興趣的一種方式；第四是純休閑型，這是人類生活最理想的狀態(tài)。但是，這個(gè)理想的純休閑型狀態(tài)，并不是吃喝玩樂的意義上休閑，而是指亞里士多德意義上的對(duì)生命意義的追求過程，使人的一生成為生命意義的展現(xiàn)過程，這是理想的精神狀態(tài)。

智能化數(shù)據(jù)解析社會(huì)的政治倫理考量

段偉文

(中國(guó)社會(huì)科學(xué)院哲學(xué)研究所研究員，北京 100732)

近年來，人工智能應(yīng)用的熱點(diǎn)是數(shù)據(jù)智能，其主要背景是世界的數(shù)據(jù)化。所謂世界的數(shù)據(jù)化，簡(jiǎn)單地講就是：世界就是數(shù)據(jù)，數(shù)據(jù)就是世界。什么是數(shù)據(jù)？英文中的數(shù)據(jù)一詞是data，但其內(nèi)涵不僅與數(shù)字或科學(xué)觀測(cè)有關(guān)，更是對(duì)世界的記錄。當(dāng)初傅統(tǒng)先在譯杜威的《確定性的尋求》時(shí)，將data翻譯為素材。當(dāng)前，我們所說的大數(shù)據(jù)和數(shù)據(jù)智能中的數(shù)據(jù)的含義就是素材，更確切地講是電子化的素材，比方說報(bào)告的錄音、錄像等。有些素材的元數(shù)據(jù)是可以量化和結(jié)構(gòu)化的，這些數(shù)據(jù)起到了測(cè)量世界和人的行為過程的作用。近年來，由于素材或數(shù)據(jù)存儲(chǔ)與處理的成本不斷降低，我們能夠把很多東西記錄下來，雖然記錄的時(shí)候有各種各樣的目的，一旦記錄下來以后就可以變成素材而用于別的用途，如可作為其他主題的數(shù)據(jù)挖掘之用。值得指出的是，當(dāng)我們講“世界就是數(shù)據(jù)”和“數(shù)據(jù)就是世界”時(shí)，應(yīng)該看到所謂的世界的數(shù)據(jù)化并不是抽象的，用數(shù)據(jù)呈現(xiàn)世界和人的行為的方式取決于具體的記錄、傳感、測(cè)量和分析技術(shù)，而任何方式都會(huì)突出與強(qiáng)化世界與人的行為的某些方面而忽視與弱化另一些方面。

數(shù)據(jù)智能和智能算法的應(yīng)用是現(xiàn)代社會(huì)治理與個(gè)人治理日益量化的最新表現(xiàn)，這一趨勢(shì)與發(fā)端于17世紀(jì)的“政治算術(shù)”、始于19世紀(jì)的“控制革命”密切相關(guān)，其新近的發(fā)展正在導(dǎo)致“解析社會(huì)”的來臨。首先，所謂政治算術(shù)可以追溯至17世紀(jì)剛興起的統(tǒng)計(jì)學(xué)的社會(huì)應(yīng)用。當(dāng)時(shí)，統(tǒng)計(jì)學(xué)的社會(huì)應(yīng)用的倡導(dǎo)者將統(tǒng)計(jì)學(xué)稱為“政治算術(shù)”，當(dāng)時(shí)的哲學(xué)家和古典經(jīng)濟(jì)學(xué)家威廉·配第還專門寫了本題為《政治算術(shù)》的小冊(cè)子，以強(qiáng)調(diào)統(tǒng)計(jì)數(shù)字對(duì)于政治具有至關(guān)重要的作用。其次，使政治算術(shù)的理念得以普遍推行的則是被稱為“控制革命”的信息技術(shù)的發(fā)展。20世紀(jì)80年代，信息技術(shù)史家貝尼格(James R.Beniger)在《控制革命》一書中指出，19世紀(jì)以來，信息技術(shù)的發(fā)展實(shí)質(zhì)上是為了克服由城市化和大工業(yè)生產(chǎn)所帶來的控制的危機(jī)而形成的一系列控制革命。

20世紀(jì)的最后30年間，伴隨著對(duì)以工業(yè)化為特征的現(xiàn)代化的弊端的反思，微電子、個(gè)人計(jì)算機(jī)、網(wǎng)絡(luò)和移動(dòng)通信等信息通信技術(shù)的發(fā)展為信息化開辟了道路，其間不僅涌現(xiàn)出后工業(yè)社會(huì)和第三次浪潮等社會(huì)理論與未來學(xué)思潮，而且還由反主流文化孕育出為虛擬空間奠基的賽博文化，其結(jié)果導(dǎo)致了20世紀(jì)末具有虛擬性、匿名性和多主體交互性的網(wǎng)絡(luò)空間的崛起。但這種貌似個(gè)體可以通過虛擬的網(wǎng)絡(luò)空間擺脫現(xiàn)實(shí)社會(huì)制約的幻象很快就破滅了。隨著谷歌搜索對(duì)百科全書檢索式的雅虎等早期門戶網(wǎng)站的超越以及Web2.0和網(wǎng)絡(luò)社交新媒體的發(fā)展，用戶網(wǎng)絡(luò)活動(dòng)所生成的內(nèi)容即UGC(User-generated content)不僅使網(wǎng)絡(luò)為用戶數(shù)據(jù)所驅(qū)動(dòng)，而且這些數(shù)據(jù)反過來成為人們的數(shù)據(jù)足跡。隨著移動(dòng)互聯(lián)網(wǎng)、網(wǎng)絡(luò)社交媒體、智能手機(jī)、可穿戴設(shè)備等信息技術(shù)的發(fā)展和各種數(shù)據(jù)的指數(shù)化增長(zhǎng)，對(duì)人的線上和線下行為數(shù)據(jù)的搜集和分析則可能使每個(gè)人成為被追蹤、觀測(cè)、分析的對(duì)象，數(shù)據(jù)的掌握者由此可對(duì)數(shù)據(jù)進(jìn)行認(rèn)知計(jì)算，借助一定的算法對(duì)數(shù)據(jù)主體展開行為評(píng)分和內(nèi)容推薦，從而對(duì)人的行為進(jìn)行評(píng)判、引導(dǎo)和干預(yù)。

不論是運(yùn)用數(shù)據(jù)表征或干預(yù)世界和人的行為，還是運(yùn)用各種可穿戴設(shè)備對(duì)數(shù)據(jù)采集與分析對(duì)他人或自己的生活進(jìn)行量化自我等管理與治理，都預(yù)示著一個(gè)全新的社會(huì)——解析社會(huì)或數(shù)據(jù)解析社會(huì)的來臨。數(shù)據(jù)解析社會(huì)這種新的社會(huì)形態(tài)是革命性的。一方面，數(shù)據(jù)所扮演的角色如同13世紀(jì)時(shí)出現(xiàn)的透鏡，如果說透鏡所制造的望遠(yuǎn)鏡和顯微鏡讓宇宙和微觀世界得以清晰地觀測(cè)與呈現(xiàn)，如今“數(shù)據(jù)透鏡”則使人的行為得到量化的記錄與透視；另一方面，就像17世紀(jì)笛卡爾發(fā)明解析幾何使得自然界的結(jié)構(gòu)與規(guī)律得以探究一樣，數(shù)據(jù)分析與智能算法的應(yīng)用正在使人的行為規(guī)律得到洞察和解析。

不論數(shù)據(jù)解析社會(huì)的構(gòu)建如何展開，智能算法對(duì)人們生活的影響已無處不在。從企業(yè)對(duì)員工的評(píng)價(jià)、人事簡(jiǎn)歷自動(dòng)篩選、商業(yè)信用評(píng)分到區(qū)域犯罪預(yù)測(cè)、城市警力分布、自我健康管理，數(shù)據(jù)分析與智能算法在人們生活中涉及的各種評(píng)價(jià)、篩選和決策中日漸扮演著舉足輕重的角色，我們業(yè)已步入由算法規(guī)制生活和引導(dǎo)人的行為的算法生活時(shí)代。政府和企業(yè)為了各種目的在其管理和運(yùn)營(yíng)中引入了很多智能算法，這些算法在執(zhí)行中會(huì)形成各種影響人的生活的算法權(quán)力。這種算法權(quán)力很容易遭到濫用，甚至?xí)l(fā)展為所謂的算法霸權(quán)。首先，姑且不提算法可能存在的黑箱問題(不透明、不易解釋等)，供機(jī)器學(xué)習(xí)的數(shù)據(jù)，如大量罪犯行為數(shù)據(jù)本身是由人記錄和處理的，本身就帶有人的各種偏見(如種族偏見、社區(qū)偏見等)，在此基礎(chǔ)上所進(jìn)行的算法決策很容易使這些偏見放大。其次，智能算法往往只考慮到某些特定的視角而缺乏整體性的思考。其三，智能算法中存在的不合理之處往往缺乏反饋與糾正的渠道，如果不能引入受到算法權(quán)力傷害或不公正對(duì)待的人能夠及時(shí)參與的反饋糾錯(cuò)機(jī)制，算法的主導(dǎo)者很難主動(dòng)發(fā)現(xiàn)問題并加以反思和修正。

進(jìn)一步而言，智能算法的應(yīng)用建立在一種基于預(yù)見的可能性而采取控制行動(dòng)的政治邏輯之上，我們可以稱之為可能性的政治。在斯皮爾格導(dǎo)演的電影《少數(shù)派報(bào)告》中對(duì)未實(shí)施的犯罪的阻止甚至懲罰雖然不一定發(fā)生，但數(shù)據(jù)分析和智能算法的控制者顯然會(huì)用它們來預(yù)測(cè)、引導(dǎo)或阻止人的行為，不論其方式是柔性的計(jì)算機(jī)說服技術(shù)或智能化助推，還是剛性的簡(jiǎn)歷篩選和對(duì)行動(dòng)自由的限制，都體現(xiàn)了某種宰制性的權(quán)力或霸權(quán)。以所謂人的數(shù)據(jù)畫像為例，雖然人的數(shù)據(jù)畫像如同人的“數(shù)據(jù)孿生兄弟”，但其本身是沒有主體性和能動(dòng)性的，而只是體現(xiàn)了數(shù)據(jù)分析與智能算法的掌控者對(duì)數(shù)據(jù)畫像的對(duì)象的主體性或能動(dòng)性的猜測(cè)，其中所折射的是他人的主體性、能動(dòng)性或意向性。因此，數(shù)據(jù)孿生兄弟實(shí)際上是缺失心靈的數(shù)據(jù)僵尸。

由此，要克服數(shù)據(jù)分析與智能算法的數(shù)據(jù)霸權(quán)與算法權(quán)力，應(yīng)該從主體的能動(dòng)性構(gòu)建出發(fā)，使人的主體性、能動(dòng)性或意向性免于被數(shù)據(jù)僵尸所取代的命運(yùn)。這就要求我們通過與數(shù)據(jù)霸權(quán)與算法權(quán)力的纏斗尋求人的能動(dòng)性與算法權(quán)力關(guān)系的再平衡：始終從使用者或人的角度去評(píng)判智能算法的合理性；智能算法應(yīng)發(fā)揮普遍性賦能作用，使每個(gè)人的能力增強(qiáng)，權(quán)利也得到相應(yīng)擴(kuò)充；人與算法要建立起一種伙伴關(guān)系，即，使智能算法成為陪伴人、幫助人的伴侶技術(shù)。

最后，值得指出的是，智能原本源自生命與社會(huì)，生命、智能與社會(huì)共同構(gòu)成了日益復(fù)雜的生命-智能-社會(huì)復(fù)合體。從“生命-智能-社會(huì)復(fù)合體”這一分析框架出發(fā)，有助于總體把握智能革命以及人類社會(huì)深度智能化的前景：人工智能體將以擬主體的形式整合到生命-智能-社會(huì)復(fù)合體之中，泛主體社會(huì)或泛智能體社會(huì)即將來臨。當(dāng)我們面對(duì)陪伴機(jī)器人、智能音箱以及層出不窮的智能體或泛主體時(shí)，將會(huì)越來越多地思考它們是什么樣的擬主體，又具有什么意義上的能動(dòng)性。

智能革命與機(jī)器烏托邦

劉永謀

(中國(guó)人民大學(xué)哲學(xué)院教授，北京 100872)

智能革命與技術(shù)治理的關(guān)系是一個(gè)大題目。智能革命已經(jīng)到來，這個(gè)提法是站得住腳的。學(xué)界提出的各種“革命”太多，就工業(yè)革命而言，有人都提到第六次工業(yè)革命了。實(shí)際上，“革命”不過是一個(gè)隱喻，能不能成立并不重要，重要的是提出這個(gè)“革命”要表達(dá)什么，是否有價(jià)值。顯然，智能革命會(huì)大力推動(dòng)整個(gè)社會(huì)技術(shù)治理的程度和水平，同時(shí)會(huì)導(dǎo)致社會(huì)風(fēng)險(xiǎn)。智能革命社會(huì)風(fēng)險(xiǎn)包括運(yùn)用智能技術(shù)的智能治理風(fēng)險(xiǎn)，不是科學(xué)技術(shù)本身的問題，根本上是政治、制度和實(shí)踐問題。關(guān)于這個(gè)問題，技術(shù)哲學(xué)荷蘭學(xué)派如佛貝克等人力推的道德物化的角度很有啟發(fā)性，但道德物化處理的問題過于細(xì)節(jié)，大的問題還是要借助制度安排來應(yīng)對(duì)。

智能革命和AI技術(shù)對(duì)社會(huì)公共治理會(huì)有什么樣的影響？對(duì)此問題，大家都是基于智能革命和AI技術(shù)充分發(fā)展的遠(yuǎn)景來回答的。答案存在兩種相反的極端態(tài)度：一種是樂觀主義的，像成素梅教授那樣，認(rèn)為以后可能出現(xiàn)一個(gè)“AI理想國(guó)”；還有一種是悲觀主義的，可以稱之為“AI機(jī)器烏托邦”。這里先討論一下悲觀的想法，過后再講樂觀的想法。

很多人都討論過物聯(lián)網(wǎng)和大數(shù)據(jù)對(duì)于技術(shù)治理的推動(dòng)作用。家用的小米機(jī)器人，它要在家掃地，當(dāng)然要搜集和分析房間的信息，也就是說，AI應(yīng)用離不開物聯(lián)網(wǎng)和大數(shù)據(jù)，如果后兩者對(duì)技術(shù)治理有推動(dòng)，那么AI對(duì)技術(shù)治理的推動(dòng)就不言而喻了。

悲觀主義者總是擔(dān)憂智能治理和AI治理：智能革命時(shí)代，電子圓形監(jiān)獄(electronic panopticon)會(huì)不會(huì)到來？大家研究信息哲學(xué)，都知道邊沁和?？绿岢龅膱A形監(jiān)獄理論，以及后來流行的電子圓形監(jiān)獄概念。用圓形監(jiān)獄理論分析物聯(lián)網(wǎng)的結(jié)構(gòu)與功能，會(huì)發(fā)現(xiàn)物聯(lián)網(wǎng)會(huì)偏好極權(quán)控制，因而本底上是會(huì)侵犯人的隱私的。在具體意象上講，就是小說《1984》中無處不在的電幕，對(duì)所有人進(jìn)行監(jiān)視。這主要考慮的是物聯(lián)網(wǎng)隱私問題，到了AI技術(shù)和智能革命的時(shí)代，這就不光是一個(gè)隱私問題，除了監(jiān)視，機(jī)器人當(dāng)然是可以訴諸實(shí)際行動(dòng)的，比如對(duì)人進(jìn)行拘押。機(jī)器人收集和行動(dòng)的能力如果擴(kuò)展到社會(huì)公共事物和政治領(lǐng)域的時(shí)候，會(huì)產(chǎn)生比電子圓形監(jiān)獄更強(qiáng)的負(fù)面效應(yīng)。換句話說，到了智能革命時(shí)代，電子圓形監(jiān)獄才可能成為真正的監(jiān)獄：從監(jiān)視、審判到改造可以一體化完成。也就是說，電子圓形監(jiān)獄會(huì)不會(huì)成為機(jī)器烏托邦？這就是當(dāng)今敵托邦科幻文藝的一個(gè)大類，即“AI恐怖文藝”所要抨擊的景象，在好萊塢電影《終結(jié)者》系列中得到最著名的呈現(xiàn)：機(jī)器人對(duì)所有人的牢獄統(tǒng)治。

當(dāng)然，所謂隱私是社會(huì)建構(gòu)的，是歷史變化的，是有地方性的。為什么當(dāng)代中國(guó)人越來越講隱私，但同時(shí)很多人在朋友圈曬自己的私密生活？這說明沒有普遍的一致的隱私，隱私觀是很不同的。在中國(guó)古代，人們是缺少隱私觀念的，或者說隱私觀念是很不同的。古人講，不發(fā)人陰私，這不是說尊重人權(quán)，而是說要做君子。中國(guó)古代最高權(quán)力者皇帝是沒有隱私的，他的一舉一動(dòng)都在《起居注》中記載得清清楚楚。舊式大家族中人們同樣沒有隱私，年輕人要早晚向父母請(qǐng)安，什么事情宗族都會(huì)知道、要干預(yù)。隱私與人權(quán)有關(guān)，中國(guó)傳統(tǒng)是沒有這個(gè)概念的。奇怪的是，沒有隱私，數(shù)千年來中國(guó)社會(huì)治理和社會(huì)生活大體運(yùn)行得也很平穩(wěn)。實(shí)際上隱私觀在中國(guó)就是隨著ICT技術(shù)和網(wǎng)絡(luò)興起傳到中國(guó)來的，在80年代都很少有中國(guó)人講究隱私。隨著物聯(lián)網(wǎng)和大數(shù)據(jù)技術(shù)的推進(jìn)，中國(guó)人還在形成中的隱私觀很快會(huì)發(fā)生改變，比如很多人現(xiàn)在出門在“去哪兒”APP上定房間、安排行程，把個(gè)人信息讓商家知道，覺得很方便。

隱私社會(huì)建構(gòu)論實(shí)際上并沒有否定物聯(lián)網(wǎng)偏好極權(quán)的觀點(diǎn)。隱私觀的改變，從某種意義上說是對(duì)技術(shù)發(fā)展的屈服。然而到了智能革命時(shí)代，極權(quán)的觸角可能伸到的地方不再僅僅是看，而是會(huì)有具體的行動(dòng)、對(duì)肉體和思想的嚴(yán)格控制。如果電子圓形監(jiān)獄在社會(huì)上廣泛建成的時(shí)候，這就是所謂的最壞的智能治理社會(huì)，即“機(jī)器烏托邦”就會(huì)到來。也就是說，AI技術(shù)是有可能催生機(jī)器烏托邦的。

機(jī)器烏托邦會(huì)是什么樣的？通過對(duì)批評(píng)既有的技術(shù)治理、智能治理以及AI在社會(huì)公共領(lǐng)域應(yīng)用的各種思想文獻(xiàn)來進(jìn)行分析，可以得出它的基本意象。當(dāng)代西方的科幻小說有個(gè)很重要的特點(diǎn)，即樂觀主義情緒很少，并且基本上都與對(duì)智能革命的想象有關(guān)系。這樣一種想象在西方是很流行的，它所勾勒出來的未來社會(huì)是一架完整、嚴(yán)密和智能的大機(jī)器：由于AI技術(shù)的廣泛應(yīng)用，每個(gè)社會(huì)成員都是這個(gè)智能機(jī)器上的一個(gè)小智能零件，而且是可以隨時(shí)更換的零件，和鋼鐵制造的零件沒有差別，這就是“AI機(jī)器烏托邦”。以好萊塢為代表的科幻影視，對(duì)此有各種各樣的刻畫。

從批評(píng)的文獻(xiàn)、文藝和影視作品中，可以歸納出AI機(jī)器烏托邦的四個(gè)主要特點(diǎn)。第一個(gè)是AI機(jī)械化，即把人、物、社會(huì)所有都看成純粹機(jī)械或智能機(jī)器，對(duì)所有的一切要事無巨細(xì)地進(jìn)行智能測(cè)量，包括人的思想情感，可以還原成心理學(xué)和物理學(xué)的事實(shí)以此來進(jìn)行測(cè)量。第二個(gè)是AI效率化，也就是說，AI機(jī)器烏托邦它核心的價(jià)值主張是效率，智能要講求效率，科學(xué)技術(shù)是最有效率的，沒有效率的東西比如文化、文學(xué)和藝術(shù)都是可以取消。AI機(jī)器烏托邦社會(huì)運(yùn)行的目標(biāo)就是科學(xué)技術(shù)越來越發(fā)達(dá)，物質(zhì)越來越豐富，人類文明不斷地?cái)U(kuò)展，要擴(kuò)展到整個(gè)地球，擴(kuò)展到月球，擴(kuò)展到火星。第三是AI總體化，也就是說整個(gè)社會(huì)是一個(gè)智能總體，按照建基于物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算和AI等智能技術(shù)之上的社會(huì)規(guī)劃藍(lán)圖來運(yùn)轉(zhuǎn)。所有國(guó)家政黨、社會(huì)制度、風(fēng)俗習(xí)慣以及個(gè)人生活全面被改造，沒有人能夠逃脫總體化的智能控制。第四是AI極權(quán)化，AI機(jī)器烏托邦是反對(duì)民主和自由的，認(rèn)為民主和自由沒有效率，支持的是由智能專家、控制論專家掌握國(guó)家大權(quán)，公開實(shí)現(xiàn)等級(jí)制度，然后以數(shù)字、智能和控制論的方式殘酷地統(tǒng)治社會(huì)。

用AI技術(shù)對(duì)社會(huì)進(jìn)行公共治理是不是就必然會(huì)導(dǎo)致機(jī)器烏托邦呢？不一定，因?yàn)樗械募夹g(shù)治理包括智能治理可以有很多不同的模式。一種是激進(jìn)的，整個(gè)社會(huì)要打亂重新按照智能藍(lán)圖來建構(gòu)；另一種是溫和的，在現(xiàn)有的基礎(chǔ)上進(jìn)行改良，而溫和派之間也有很大差別，所以歷史上是有很多不同的技術(shù)治理模式。

對(duì)AI機(jī)器烏托邦意象的總結(jié)有何教益？西方對(duì)智能治理、AI治理的批評(píng)，我們并不完全贊同，但是從理論上考慮AI機(jī)器烏托邦的危險(xiǎn)或風(fēng)險(xiǎn)是很有必要的。在歷史上并沒有真正出現(xiàn)過AI機(jī)器烏托邦，它還只是在人們恐懼的想象中，但是從理論上說它還是可能出現(xiàn)的，因此要避免極端的AI機(jī)器烏托邦的出現(xiàn)。上述AI機(jī)器烏托邦意象的四種特征，是要在AI技術(shù)、智能技術(shù)應(yīng)用于社會(huì)公共治理的過程中極力避免的，當(dāng)然這是非常復(fù)雜的問題。這里有一些初步的思考，比如要避免AI總體化，必須要避免封閉性智能社會(huì)，實(shí)際上封閉性在網(wǎng)絡(luò)社會(huì)是很難完全做到的；比如避免AI機(jī)械化，涉及社會(huì)主流觀念尤其是科學(xué)觀的改變，一百年前主流的科學(xué)觀是機(jī)械主義的，現(xiàn)在并不如此；比如避免AI極權(quán)化，關(guān)鍵是選擇適當(dāng)?shù)闹悄苤卫砟Ｊ?，不一定和自由民主相沖突。奧爾森指出，技術(shù)治理在21世紀(jì)有“軟”化的趨勢(shì)，不像以前那么“硬”了。比如，要避免AI經(jīng)濟(jì)至上的觀點(diǎn)，社會(huì)局部的規(guī)劃要服從更高制度的安排，智能治理不能成為惟一或最高的治理安排，而應(yīng)該是作為一種局部的工具。總之，智能革命的到來加大了AI機(jī)器烏托邦的風(fēng)險(xiǎn)，因此必須考慮制度設(shè)計(jì)與應(yīng)對(duì)，這個(gè)問題從根本上說不是技術(shù)問題，而是政治問題。

智能革命與人類記憶

楊慶峰

(上海大學(xué)哲學(xué)系教授，上海 200244)

對(duì)人工智能的討論需要放置到人與技術(shù)的關(guān)系框架中進(jìn)行。首先要做的是對(duì)人與技術(shù)的關(guān)系框架加以反思。傳統(tǒng)的觀點(diǎn)是“工具論”，即把包括人工智能在內(nèi)的技術(shù)當(dāng)做一種工具或者對(duì)象，用來解決問題或者處理一些其他的事情，這種人與工具形成非常固定的模式，成為我們分析人與技術(shù)關(guān)系的主導(dǎo)模式?！肮ぞ哒摗蹦Ｊ奖澈笫且粋€(gè)主體、客體分離的理論基礎(chǔ)。這種傳統(tǒng)模式后來受到了很多哲學(xué)家的嚴(yán)厲批判，如海德格爾、芬伯格他們對(duì)這一觀點(diǎn)進(jìn)行了很深入的批判，尤其是海德格爾在批判的基礎(chǔ)上提出了現(xiàn)象學(xué)的模式，而芬伯格把政治維度和社會(huì)因素加進(jìn)去了。他們的批判導(dǎo)致了另外一種關(guān)系模式“居中說”(人在世界之中、人在技術(shù)之中)，這為本文“旋渦論”的提出奠定了理論前提。旋渦論，即人在技術(shù)的漩渦之中。

從詞源學(xué)角度看，旋渦的英文是volution，依次詞根會(huì)出現(xiàn)三個(gè)變形詞：convolution、evolution和revolution。這三個(gè)詞恰好可以用來描述與人工智能有關(guān)的過程或狀態(tài)。Convolution是卷積或卷繞，可以用來描述人工智能內(nèi)部的算法機(jī)制，比如卷積神經(jīng)網(wǎng)絡(luò)算法(CNN)用來圖像識(shí)別。Evolution是進(jìn)化，可以用來描述智能本身是進(jìn)化的過程。Revolution則是革命或旋轉(zhuǎn)，可以用來描述智能本身是革命的過程，如技術(shù)奇點(diǎn)。所以“旋渦論”能夠很好地描述人與智能機(jī)器的關(guān)系，又能夠描述智能的內(nèi)在機(jī)制，更重要的是有助于我們?cè)谌伺c智能技術(shù)的漩渦當(dāng)中反思如何在進(jìn)化與革命之間保持自身并構(gòu)建其自由關(guān)系。

從記憶哲學(xué)入手看待人工智能是一個(gè)新的角度。人類記憶不是宏大的生存層面的東西，而是人類學(xué)里非常重要的一個(gè)規(guī)定性。在哲學(xué)人類學(xué)當(dāng)中，康德提出了五感實(shí)際上就隱含著一種記憶的概念，只不過在他的哲學(xué)人類學(xué)當(dāng)中多談到的是五感知覺[注]康德哲學(xué)人類學(xué)著作中提到第一類感覺包括觸覺 (touch,tactus)、視覺 (sight,visus)、聽覺(hearing,auditus)；第二類感覺包括味覺 (taste,gustus)、嗅覺 (smell,olfactus)，統(tǒng)稱為五感。Immanuel Kant,Anthropology from a Pragmatic Point of View,Translated by Victor Lyle Dowdell,Revised and Edited by Hans H. Rudnick,Southern Illinois University Press,1996：41.，對(duì)記憶也談到了，“將過去有意地視覺化的能力是記憶能力，把某物作為將來視覺化的能力是預(yù)見能力。”[注]Ibid,73.但只是蜻蜓點(diǎn)水，一筆帶過。

那么何為記憶？從傳統(tǒng)哲學(xué)角度看，存在著四種理解路徑。第一種構(gòu)成路徑，即把記憶當(dāng)做靈魂實(shí)體的構(gòu)成部分，討論記憶是在人理性的層面當(dāng)中還是感性層面當(dāng)中。第二種是能力路徑，即把人類記憶的解釋當(dāng)做一種精神性的或者靈魂性的能力，比如說人類具有一種回想能力。第三種是狀態(tài)路徑，即把記憶看做是意識(shí)或者心理狀態(tài)之一。這種觀點(diǎn)持續(xù)的時(shí)間非常長(zhǎng)，一直持續(xù)到20世紀(jì)。心理學(xué)家普遍認(rèn)為記憶是心理狀態(tài)，和感知、情緒是相并列的狀態(tài)。對(duì)這種心理學(xué)的理解后來胡塞爾、伽達(dá)默爾都提出批判。第四種是行為路徑，即把記憶看做是意識(shí)行為。比如說構(gòu)造過去對(duì)象的一種行為，或者說使得過去當(dāng)下化的這樣一種行為。

但是隨著神經(jīng)科學(xué)、心理學(xué)的發(fā)展，哲學(xué)觀點(diǎn)受到了自然科學(xué)觀點(diǎn)的反駁。有一些心理學(xué)家提出一種新的理解叫“精神性的旅行”，用這種方式來解釋人類的記憶。整個(gè)心理學(xué)的理解可以納入到哲學(xué)的第二層理解當(dāng)中，它屬于精神的一種能力。神經(jīng)科學(xué)則提出了記憶作為信息過程(編碼、存儲(chǔ)和提取)的三階段理論。與記憶的維度相對(duì)的是“遺忘”，它實(shí)際上被看作是記憶的對(duì)立面，這是個(gè)通常的觀點(diǎn)。比如說靈魂構(gòu)成的喪失或者記憶能力的喪失、狀態(tài)的失控，這時(shí)候就把遺忘看作是自然能力的喪失。

要審視人工智能與人的關(guān)系，僅僅是傳統(tǒng)哲學(xué)和神經(jīng)科學(xué)中的記憶理論是不夠的，需要新的理解。本文提出記憶作為條件的理論。這一理論源頭在于布倫塔諾和胡塞爾等人。在筆者看來，記憶作為三種條件形式存在：認(rèn)知與情感的基礎(chǔ)條件、理解人類自身的歷史條件和實(shí)現(xiàn)自我和他者認(rèn)同的條件。第一，記憶是認(rèn)知和情感產(chǎn)生的基礎(chǔ)條件。如果沒有了記憶這樣的基礎(chǔ)維度，實(shí)際上情感和認(rèn)知是不可能的。第二，記憶是理解人類自身的歷史條件。這是關(guān)于一種人類歷史的構(gòu)建，比如說怎么去面對(duì)歷史，這時(shí)候就需要回憶把它構(gòu)建出來。第三，記憶是實(shí)現(xiàn)自我及其他人認(rèn)同的必要條件。這具體到個(gè)體來說實(shí)際上是對(duì)自我的認(rèn)同。我們能夠知道我是誰，又通過怎么樣的方式去知道我是誰。在這個(gè)過程當(dāng)中，傳統(tǒng)認(rèn)識(shí)論和知識(shí)論的學(xué)者認(rèn)為認(rèn)知起了非常重要的作用，但是記憶與回憶的作用不容忽視，回憶包括記憶實(shí)際上是另外一個(gè)不可忽視的條件，但在通常的哲學(xué)史當(dāng)中把記憶放在了認(rèn)知底下其作用完全被忽略掉。

當(dāng)采取記憶哲學(xué)維度去看，人工智能是進(jìn)化的過程還是革命的過程的問題就可以獲得解答的可能性。從前面所提到的三個(gè)條件來看對(duì)這問題就可以做一個(gè)有效回答。如果把記憶理解成信息的編碼、存儲(chǔ)、提取這樣一個(gè)過程，那么人工智能是無法從進(jìn)化突變到革命的，就沒有革命，只有一種進(jìn)化。但如果進(jìn)一步把記憶理解為認(rèn)知和情感產(chǎn)生的前提條件的話，實(shí)際上就具備了一種可能性，就說它能夠突破技術(shù)奇點(diǎn)。

更重要的是，記憶和回憶的關(guān)系問題沒有受到重視，因?yàn)樘嗟睦斫鈴?qiáng)調(diào)記憶作為信息的編碼、存儲(chǔ)和提取過程了，以至于把回憶的維度給忽略掉。回憶是人類特有的一種現(xiàn)象。亞里士多德就指出來說動(dòng)物和人可以擁有記憶，但是唯獨(dú)人才能擁有回憶。從他的觀點(diǎn)看，人工智能是不可能擁有回憶的，因?yàn)樗c動(dòng)物一樣，缺乏足夠強(qiáng)大的意向性。所以人們這時(shí)候就不用擔(dān)心它有一天會(huì)超越人。但是在筆者看來，如果把回憶維度考慮進(jìn)去，這個(gè)問題就有無限的可能性了。具有回憶能力意味著機(jī)器具有了重構(gòu)過去經(jīng)歷的能力，具有了重構(gòu)過去經(jīng)歷的可能性。換句話說，對(duì)人工智能機(jī)器而言，它具有經(jīng)歷，意味著它具有了過去的時(shí)間概念。這遠(yuǎn)遠(yuǎn)不同于只是信息保存和提取的記憶過程，而是能夠?qū)⑦^去當(dāng)下化的過程。最近人工智能學(xué)者阿爾伯特·艾如斯勒姆(Albert Ierusalem)也指出了人工智能可能會(huì)具有自身的經(jīng)歷。“基于經(jīng)歷(experience)，如果系統(tǒng)能夠在每一個(gè)環(huán)境中選擇正確的行動(dòng)，這使得計(jì)劃變得不必要?！盵注]Albert Ierusalem,Catastrophic Important of Catastrophic Forgetting, https://arxiv.org/pdf/1808.07049.pdf ,11[2018-10-9]人工智能能夠感知世界這已經(jīng)成為常態(tài)，只是人工智能回憶自身的經(jīng)歷卻是一個(gè)具有挑戰(zhàn)的事情，不僅僅是關(guān)系到技術(shù)怎么去實(shí)現(xiàn)，比如說讓機(jī)器去回憶世界，更重要的是會(huì)涉及到人工智能的革命性突破。如果能夠?qū)崿F(xiàn)這點(diǎn)的話那么人工智能走向強(qiáng)人工智能會(huì)成為一個(gè)必然。