基本收入·隱私權(quán)·主體性

羅崗等

羅崗：作為人文知識分子，雖然當代社會的“人文性”是我們安身立命之所在，但“人文性”并非一種可以固守的立場，也不是具有某種神秘起源的“精神”，更不是現(xiàn)在被“雞湯化”的所謂“心性”，而是必須將“人文性”理解為與社會生產(chǎn)條件特別是物質(zhì)生產(chǎn)條件密切相關(guān)，并且由相應(yīng)的社會狀況生產(chǎn)出來的“難題性”，理解為對“物與物的關(guān)系”背后的“人與人的關(guān)系”的自覺把握，理解為對“科學(xué)技術(shù)”任何新發(fā)展的“社會使用”的嚴格追問。

具體而言，今天世界發(fā)生的深刻變化，一是以互聯(lián)網(wǎng)為核心的“新技術(shù)”對人類固有的生產(chǎn)方式、日常生活和意識形態(tài)產(chǎn)生了極大的沖擊；二是中國經(jīng)濟的“崛起”與“轉(zhuǎn)型”以及相關(guān)的政治、社會和文化效應(yīng)，也正逐漸挑戰(zhàn)和改寫固有的世界秩序。兩者相互作用，“新技術(shù)”革命疊加在中國的“崛起”與“轉(zhuǎn)型”上，勢必造成更為復(fù)雜的狀況，譬如中國的互聯(lián)網(wǎng)用戶人數(shù)世界第一，尤其是與移動互聯(lián)網(wǎng)聯(lián)系在一起的智能手機用戶人數(shù)世界最多，也使得電商成為中國經(jīng)濟的新代表。但怎樣描述、如何把握這種狀況？恐怕是一個問題。用那套自以為站得住腳的方式來面對這個變化的世界，可能已經(jīng)不管用了。當今之所以被稱為“后人類時代”，意味著十九世紀以來形成的現(xiàn)代人文話語，遭遇了根本性挑戰(zhàn)。我們的討論是否能夠重新建立起比較穩(wěn)定的視野，并不是關(guān)鍵所在，因為大家都意識到，面臨新挑戰(zhàn)逐漸形成的視野，是一個正在生成的過程，它必須在對諸多變化進行描述、表達和把握的過程中才能浮現(xiàn)出來。我希望我們的討論可以呈現(xiàn)出這個生成的過程，這才是“新”之所在。

馮象：我關(guān)心兩件事，一是人工智能對資本主義市場經(jīng)濟的歷史性挑戰(zhàn)；二是人和智能機器的關(guān)系，人機倫理如何建立，會面臨哪些問題。

人工智能的廣泛應(yīng)用，一個后果，或者說明顯的趨勢，是就業(yè)停滯，財富高度集中，擴大了貧富鴻溝。這趨勢如果掩飾不好—這是西方式法治最重要的一項意識形態(tài)功能—就會引發(fā)社會動蕩。這事已有不少討論，在部分發(fā)達國家甚至進入了政治議程。比如推行“全民基本收入”（universal basic income），是頗具社會主義色彩的實驗，不論貧富，給人發(fā)一份“工資”，叫他別墜落到所謂有尊嚴的生活之下。瑞士投了票，未能通過。芬蘭則試行一種抽簽制度，抽到的每月幾百歐元。加拿大和美國加州，也有挺認真的實驗。

這應(yīng)該算是后人類時代的一景吧。機器人發(fā)展日新月異，眼看一大半工作要被它奪走。傳統(tǒng)上搞自動化，機器只是取代體力勞動、藍領(lǐng)職位，像東莞制造業(yè)的機器換人，還有建設(shè)中的上海洋山港（號稱世界第一大港）的無人裝卸。如今依托大數(shù)據(jù)技術(shù)，機器人可以取代看似復(fù)雜的腦力勞動了；醫(yī)生、律師、法官、會計、新聞編輯、同聲翻譯，將來恐怕政府官員也不能幸免。高盛在華爾街，原本六百個交易員，現(xiàn)在裁了只剩下兩個看管機器的。我說“看似復(fù)雜”，是因為這些（往往是高薪的）白領(lǐng)崗位所需的知識技能和工作經(jīng)驗，對于機器人，都是可以轉(zhuǎn)化為數(shù)據(jù)跟算法的—都不難讓老板/領(lǐng)導(dǎo)做出那個“理性人”管理者的決定：機器換人。

也許很快就會發(fā)生，失業(yè)大潮席卷諸多行業(yè)，而新增的工作崗位寥寥可數(shù)。這不是危言聳聽。

我們現(xiàn)在的一些社會和經(jīng)濟政策，有點脫離實際。其基本估計，還是原教旨的資本主導(dǎo)的市場遇上了人口老齡化，勞動力不足，而非面對大失業(yè)及隨之而來的社會福利“剛需”，這樣一個相反的前景。這大約是基于一個假設(shè)：假設(shè)人總是能夠控制智能技術(shù)，而技術(shù)可以放心地交給資本使用（名為賺錢）。但仔細想想，人工智能帶來的巨大風(fēng)險，例如大規(guī)模軍事化、災(zāi)難性意外事故和個人隱私的消失，是資本主義的市場經(jīng)濟及其“主體”，即“經(jīng)濟理性人”根本無力應(yīng)對的。

安頓失業(yè)人口，通過稅制改革（如蓋茨建議向機器人征稅）提高社會福利，彌合貧富鴻溝，這些任務(wù)只能由國家來承擔(dān)，統(tǒng)一計劃，統(tǒng)一實施。市場神話在人工智能面前，將很快走到盡頭。人工智能已經(jīng)滲透到我們生活的方方面面，支配著太大的利益，經(jīng)濟的、文化的、政治的。因而其研發(fā)、運用和日常交易，都需要第三方即政府的有效監(jiān)管。畢竟，商家可以合法地推脫許多社會責(zé)任，甚而鉆法律的漏洞；但政府依法必須對人民負責(zé)，并接受公眾的問責(zé)。

在此意義上，人工智能超越了私有產(chǎn)權(quán)和契約自由，而將政府規(guī)制即公法帶進了私法領(lǐng)域，從而不可避免地“擾亂”市場經(jīng)濟。我把這一歷史過程歸結(jié)為市場向計劃的靠攏，或私法向公法的演變。隨著人工智能主宰我們的社會，不久的將來，所有私法問題都會轉(zhuǎn)化為公法問題，即變成國家同企業(yè)、公眾和政府以及政府各部門之間的法律關(guān)系。

歷史地看，人機倫理的難點，不在機器智能的強弱，或抽象意義上的人機融合。因為，接納人工智能的市場與市場主體（個人），不是抽象的存在，而是充斥著私利、欲望和價值訴求的。問題的核心，于是指向了社會經(jīng)濟制度的全盤改造。這意味著，又一次，我們將不得不回到哲學(xué)的根本，拿出勇氣，發(fā)動對晚期資本主義的批判。而這一次，我想，化用一句霍金的名言，有可能是人類的最后一次自我批判。

戴錦華：馮象老師談到北歐的最低基本收入保障，而我之前在華東師大講到最近獲獎的科幻小說《北京折疊》，我認為它不是一個反面烏托邦，它是一個不能用烏托邦或反烏托邦來討論的理想社會范式。它寫到是否啟用機械化的垃圾處理系統(tǒng)，有一個情節(jié)好像是市長很英明地說就業(yè)是第一要務(wù)，所以不能啟動自動的系統(tǒng)。在這兒，小說不期然地觸及了是由行政力量還是由資本力量決定的問題。跟這個創(chuàng)作相對應(yīng)的是馬云和郭臺銘聯(lián)手開發(fā)機器人，如果把這個問題跟富士康工人連環(huán)跳放在一起，這就是資本給出很好的解決方案。把所有問題放在一起的時候，我覺得今天所面臨的問題就是各個層面的，從政治層面、經(jīng)濟層面、社會趨向的層面，一直到我們所關(guān)注的文化層面。而我關(guān)注的主要在后人類主義的面向上，一方面是所謂機器人和流水線的絕對匹配，制造了從流水線上將被永遠地放逐、取代、置換的人群。另一方面土地流轉(zhuǎn)在制造著真正的無產(chǎn)階級或無地農(nóng)民，這些無地農(nóng)民如果不再有流水線將他們接納進去的話，他們將成為什么樣的狀態(tài)？因為中國的人口基數(shù)是思考中國問題的一個最重要和最基本的前提。我自己關(guān)注這個問題的另一些面向在于，我非常外行地同意人機大戰(zhàn)事件其實還不是人工智能的挑戰(zhàn)，因為嚴格意義上的IE，即有自我意識的人工智能還沒有出現(xiàn)。但按照科幻小說的邏輯—因為我不了解其他的邏輯—人工智能的自我發(fā)展和自我生存的過程，就是自我學(xué)習(xí)和把成千上萬的議題匯集到終端的能力……在某種意義上，真正意義上的人工智能離我們不遠了。和這個過程相關(guān)的是，生物技術(shù)和數(shù)碼技術(shù)的結(jié)合帶來了另一種可能性，那就是人類的賽博格化近在咫尺，不過威脅還不會直接呈現(xiàn)為機器人統(tǒng)治人類，而是與資本控制、與整個社會分配的極化狀態(tài)聯(lián)系起來的非人的超人或非人類統(tǒng)治者的出現(xiàn)。甚至我覺得，好像所有的趨向都在告訴我們，二十一世紀之內(nèi)人類可能挑戰(zhàn)死亡，呈現(xiàn)出來的可能會是不死的賽博格和肉體凡胎的民眾相互對立的狀態(tài)。endprint

我對這個問題感興趣的原因不是狹義的環(huán)保主義，但恐怕現(xiàn)在討論所有的問題都不得不面臨一個難題，那就是地球從來沒有負載過這么多人類。我自己特別愚蠢地提出一個問題，我們究竟在社群還是在種群的意義上討論人類？在種群的意義上也許沒那么絕望，但是在社群、在共同生存下去的意義上前景如何呢？我本人可能更關(guān)注的是讓窮人活下去，讓絕大多數(shù)弱勢和邊緣群體活下去，可它的出路到底在哪兒？大概在這個意義上，我認為“后人類主義”這個概念變得非常重要，因為目前的狀況已經(jīng)不再是人道主義、人文主義等這些舊有概念所可能面對和可能回應(yīng)的。

趙柔柔：我想補充的是，后人類作為一種“現(xiàn)實”，更多是被召喚出來的。在某種程度上，我們目前對后人類現(xiàn)實的設(shè)想，有著大量科幻類敘事性作品所鋪設(shè)的底色，而其中浸潤著濃厚的人文主義味道。比如“人工智能”式的想象，從阿西莫夫的機器人系列至今，我們很難跳出想象人類主體的方式去想象機器人，而只能想象它們是更好或更強的人類。在這一點上，日本科幻小說《艾比斯之夢》很有意思，它里面講機器人并不渴望成為人類，反而對人類的自戀想象表示不解，質(zhì)問為什么人類會認為其人性、價值觀和社會形態(tài)值得留戀。它最終描述了一個“溫情脈脈”的畫面：機器人社會以一種全新的規(guī)則組織，使用全新的邏輯、語言和價值觀，它們?yōu)槿祟惿缛禾峁┙o養(yǎng)，像照顧阿爾茲海默癥病人一樣看護著人類。這部小說恰好打開了這樣一個問題，即當后人類時代完成時，其斷裂性并不在于人類的滅絕，而在于幾百年來不斷變動、自我調(diào)適的一套人文主義價值體系全面失效，同時社會組織形態(tài)、分配方式等也徹底變更。在這樣的終點上，一切討論都不再有意義，而今天之所以后人類議題變得緊迫，恰是因為我們正處在兩點之間的流變過程中。在我看來，現(xiàn)在名為后人類主義的討論總體裂解為兩個思路，其一是抱持批判立場，促使這一進程容納盡可能多的人文主義關(guān)懷，去關(guān)注被其所犧牲和吞噬的弱勢人群和邊緣人群，彰示其在快速革新的表面下掩蓋的殘酷現(xiàn)實；其二是帶有一定的建構(gòu)性，嘗試把握這一進程的邏輯和運作方式，從中發(fā)掘舊有人文主義論域所無法容納的、積極的東西，用它們來打開人文主義自身，形成新的視域，如拉圖爾、哈拉維等就多少持這種態(tài)度。這兩種同樣重要的思路分享的基本前提是后人類現(xiàn)實迫在眉睫，不同在于如何應(yīng)對。

利求同：我和各位的背景不太一樣，一直在商界工作，研究信息的使用，目睹人工智能一步步地規(guī)訓(xùn)我們的生活、學(xué)習(xí)、工作和休閑，把人“標準化”了。感觸良多，隱私問題首當其沖。

好像不久前，人工智能離我們還很遙遠；今天，仿佛一夜之間，它已經(jīng)無處不在了，從無人駕駛汽車上路，到人機圍棋賽，再到青島港建成無人集裝箱碼頭。人工智能的“突變”，得益于海量數(shù)據(jù)的收集挖掘和超算能力的提高。其中關(guān)鍵的一塊，就是我們每一個人的隱私數(shù)據(jù)。沒有我們每時每刻自愿交出的個人信息，那些高端算法就是“巧婦難為無米之炊”。自愿交出，是為了換取網(wǎng)絡(luò)時代的生活便利。但我們失去的是什么？是自我和自控，乃至生存的能力。值不值得呢？如何回應(yīng)，還有待于人類形成某種基本共識。

人類跟別的動物不同，一直在創(chuàng)造新工具，使自身能力得以延伸，無論倉頡造字，還是核能、風(fēng)能、太陽能等新能源開發(fā)。因此我們習(xí)慣了，把工具的所能當作人的所能。但這一次，形勢變了，工具發(fā)展了強大的智能和自學(xué)的“德性”。而且，機器人的學(xué)習(xí)路徑可以不受設(shè)計者的限制，快速反饋自我修正；最終，其思維過程也不是人類能夠理解的了。人工智能的失控，很可能發(fā)生在某位工程師的一念之差和無意識之間，或者機器人的某個自學(xué)瞬間的豁然領(lǐng)悟?？梢灶A(yù)見，有了海量隱私數(shù)據(jù)為學(xué)習(xí)材料，人工智能將迅速獲得“解剖”我們的能力，進而以機器的方式和思維來規(guī)制我們。這時，工具之所能就不再是人類能力的延伸，而是其否定了。這是我們必須面對的十分現(xiàn)實的一種可能。

人類從古到今，只生活在一種狀態(tài)下，那就是，我們是地球上最聰明的物種。人如果造出比自己更聰明的工具，即智能超人的機器，這種生存狀態(tài)就被顛覆了；而一旦顛覆，就不可逆轉(zhuǎn)。這種顛覆，我認為，將始于我們自愿地放棄隱私。

王行坤：關(guān)于人工智能，我的看法略有不同。幾位老師可能持“強人工智能”或“超級人工智能”的觀點，認為人工智能在將來可以取代人類。計算機在某些方面的確超過我們的智力，特別是在可以表征化、形式化的方面，可以超越我們的智能。但是很多方面它沒有辦法超越。從當代認識論新發(fā)展的角度來看—尤其是受到海德格爾現(xiàn)象學(xué)影響的具身認知或情境認知，我們的認知必須有一個有機的身體和外界互動，必須處在情境里面，才能實現(xiàn)認知，而不是脫離自己抽離出去成為所謂獨立的主體去實現(xiàn)認知。即便我們可以模擬大腦，如果人工智能不具有可以和外部世界有機交換的身體，它只能進行抽象的運算，而不能面對復(fù)雜的外部世界或需要人際交往的人類世界，所以說在很多方面它并不具備替代或者超越人類的可能。而它不能超越人類的地方，恰恰是所謂人文性所在。比如說就業(yè)崗位，現(xiàn)在很多所謂的白領(lǐng)崗位機器都可以取代，例如速記員、初級的新聞記者，甚至某些文藝創(chuàng)作者，但這都是比較形式化、常規(guī)化的工作。但需要投入情感勞動或者復(fù)雜智識勞動的崗位是不能取代的，如原本屬于家庭之內(nèi)的各種照看勞動，或者深入報道性質(zhì)的新聞寫作。

有些樂觀主義者認為技術(shù)性失業(yè)會造就新的職業(yè)，但新職業(yè)所造就的就業(yè)率會像以前那么高嗎？答案是否定的。在就業(yè)率不可能像以前那么高的情況下，我們還應(yīng)該追求一個充分就業(yè)的世界嗎？在我看來，伴隨著人工智能的發(fā)展恰恰提供一個前景，這個前景的保證就是無條件的基本收入，哈耶克和弗里德曼都提倡過無條件的基本收入，但左派、右派有什么區(qū)別呢？我理解的是，右派說有基本收入后就沒有必要領(lǐng)國家福利了，這樣就可以精簡國家機關(guān)，而且他們的最終目的是讓窮人家庭維持生計，然后進入他們理想的市場中。另外，因為國家沒有必要對市場進行干涉，福利國家也就沒有必要了。而左派認為，既提供基本收入，而且保持福利，給你提供純粹無條件的基本收入，即便在你沒有工作的時候也可以讓你體面地生活，它很大程度上要打破工作倫理。在某種意義上，我們可以享受懶惰權(quán)，即便不想工作，也可以過體面的生活。而且它不是以家庭為單位的，婦女和兒童都應(yīng)該獲得絕對無條件的收入，在傳統(tǒng)家庭中，婦女處于從屬地位，現(xiàn)在如獲得了無條件基本收入，婦女也可以獲得解放。endprint

一方面人工智能提供了這樣一個可能，沒有工作也沒有關(guān)系，可以去享受體面的生活。但這不是什么“養(yǎng)懶漢”。它的結(jié)果就是人可以獲得更多的閑暇，同時可以從事自己感興趣或者擅長的活動—所謂工作或者說雇傭勞動就是讓我們?yōu)榱斯べY收入而不得不去做自己討厭的事情（這是所謂的“說不的權(quán)利”）。這樣便有可能實現(xiàn)馬克思所說的人的全面發(fā)展，而勞動如果不是像傅立葉所說的那樣會變?yōu)橛螒?，人類被迫勞動的時間也會大幅減少，必然王國的勢力會越來越小，而自由王國的勢力會越來越大。這樣人們可以發(fā)展自己各種各樣的感官能力，如“視、聽、嗅、味、觸、思維、觀感、情感、意志、活動、愛”。在一個充滿異化的社會中，人的感官體驗無疑是被異化的，是動物化的片面的感官刺激。這種所謂人文主義應(yīng)該意味著人類各方面情感和感官的全面發(fā)展，同時也可以創(chuàng)造更為豐富的社會財富；另一個方面則是人機互動，或者人被機器吸納，人類的行為模式其實是與機器共同進化的，這并不是完全不好的，人類行為方式、人際交往的方式將來會變得更為多樣化。所以，人工智能對于人類的發(fā)展提供了比較好的前景，并沒有那么悲觀。當然，如何實現(xiàn)基本收入，如何實現(xiàn)更為“民主自由”的人機互動，而不是讓機器碾壓排斥人類，是我們要面對的嚴峻問題。

馮象：我覺得，行坤是否低估了人工智能的發(fā)展?jié)摿?？?jù)報道，現(xiàn)在面部和肢體行為識別已經(jīng)相當成熟，公安、交通等好些部門，作業(yè)都智能化了。感情識別的研究，像在麻省理工，也是大干快上，應(yīng)該不難解決。因為機器并不需要擁有或分享人類的感情，它能識別分類，并學(xué)會回應(yīng)就行。例如聊天機器人，它沒感情，也不懂所謂同理心（empathy），可是那不妨礙大家跟微軟開發(fā)的機器人姑娘聊天，從她那兒獲得安慰，同她調(diào)侃、說臟話或宣泄憤懣。

人這個直立物種，既貪心，又容易滿足；會進化，也會退化。網(wǎng)絡(luò)時代的晚期資本主義，有些情感很泛濫，如色情和暴力，是一大產(chǎn)業(yè)。有些能力卻退化了，人變得粗糙乏味，好萊塢化、麥當勞化?？梢韵胍?，人工智能再上一個臺階，未必達到通用（AGI），一刻也離不開網(wǎng)絡(luò)終端的“低頭族”便會退化到什么地步。到那時，機器人恐怕只需通曉幾種夸張的感情表達，即可滿足常人的精神和生理需求了。

吳子楓：自圖靈機以來人工智能就在持續(xù)發(fā)展，如今機器人戰(zhàn)勝圍棋世界冠軍，人們突然有點擔(dān)憂，好像我們就要進入后人類時代了。但我覺得真正值得擔(dān)憂的不是這個，而是與生命政治密切關(guān)聯(lián)的基因工程等生物技術(shù)。人工智能最多是從外部延伸人的某些器官或增強某些功能，而生物技術(shù)則從內(nèi)部改造人。那種因為機器人越來越像人從而可能會變得與真人一樣的幻覺，來自人們將自己的情感和欲望向機器的投射，這是古老的“擬人論”。但機器人依然是機器，而機器不是經(jīng)濟范疇，利用機器的方式和機器本身也完全是兩碼事。

更可怕的是生物技術(shù)。它從最基本的組織或結(jié)構(gòu)方面來改變?nèi)?，比如基因的植入或改寫。這不是創(chuàng)造外在于主體的機器，而是創(chuàng)造主體本身，這個過程是不可逆的。如果有所謂后人類時代的話，應(yīng)該是來自這里。

但無論是人工智能還是生物技術(shù)，要說有威脅的話，它們會比核武器、比原子彈更有威脅嗎？真正可擔(dān)憂的不是技術(shù)本身，而是技術(shù)使用上的失控。我們之所以擔(dān)憂它會失控，不是因為它們本身有主體性，而是擔(dān)憂人類作為主體不能控制自己的創(chuàng)造物。

因為人類作為一個整體，還不是一個可以決定自己會做什么、能做什么的真正的主體，因為還不存在一個普遍意志。真正的問題不在于人工智能和生物技術(shù)的發(fā)達，這些都屬于生產(chǎn)力的范疇，真正的問題在于生產(chǎn)關(guān)系，它才決定著生產(chǎn)力發(fā)揮功能的方式和后果。在這個意義上，人類作為一個統(tǒng)一的物種，還處于“史前期”，還沒有形成真正的命運共同體。

所以我覺得人文知識分子的責(zé)任，不是被科學(xué)技術(shù)的發(fā)展所嚇倒然后反對它，而是要推動生產(chǎn)關(guān)系或社會組織形式盡快地跟上科技的發(fā)展，使得人類真正成為自己創(chuàng)造物的主體，可以控制自己的創(chuàng)造物。一旦人類社會變成一個人人平等的自由人聯(lián)合體，那么無論是人工智能還是生物技術(shù)，就都會變成人類認識世界，改造世界，造福人類本身的強大手段。endprint