楊慶峰

(中國(guó)科協(xié)-復(fù)旦大學(xué) 科技倫理與人類未來研究院,上海 200433)

目前,人工智能敘述方式已經(jīng)形成了科學(xué)化敘事、科幻化敘事和詩(shī)意化敘事三種明顯形式(1)筆者在2023年6月23日華東師范大學(xué)召開的“元宇宙、人類世與奇點(diǎn)哲學(xué)”研討會(huì)上提出AI敘事的三種形式:科學(xué)化、科幻化和詩(shī)意化。科學(xué)化即人工智能的討論以科學(xué)為根據(jù),尤其是神經(jīng)科學(xué)和計(jì)算機(jī)科學(xué)的研究成果;科幻化即AI討論以科學(xué)幻想為根據(jù),尤其是科幻電影和小說;詩(shī)意化擺脫了科學(xué)成果的束縛,強(qiáng)調(diào)了人類的未來處境,以文學(xué)為根據(jù)。?？茖W(xué)化敘事強(qiáng)調(diào)人工智能以神經(jīng)科學(xué)、計(jì)算機(jī)科學(xué)為基礎(chǔ),并將AI洞見建立在上述科學(xué)研究的基礎(chǔ)上。科學(xué)化敘事對(duì)AI未來發(fā)展進(jìn)行了討論。張跋院士團(tuán)隊(duì)提出AI1.0、AI2.0和AI3.0的說法。他的AI1.0的特征是符號(hào)驅(qū)動(dòng),AI2.0的特征是數(shù)據(jù)驅(qū)動(dòng)。然而,相比前兩代清晰特征的描述,對(duì)AI3.0的描述卻只是表現(xiàn)為克服前兩代缺陷的特征(需要建立新的可解釋和魯棒性的AI理論與方法,發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù))[1],但這一觀點(diǎn)尚缺乏明晰的特征勾勒。相比之下,扎多(A.Zador)等人提出NeuroAI作為下一代AI的特征,則更加清晰可觸[2]1597?？苹没瘮⑹聫?qiáng)調(diào)人工智能的理解要以科幻小說或電影為基礎(chǔ),并將相應(yīng)的洞見建立在超級(jí)智能出現(xiàn)與宇宙人類命運(yùn)的問題之上。科幻化突破了科學(xué)限制,通過科幻電影的形式給人類創(chuàng)造了一種獨(dú)特的敵托邦式技術(shù)文化,即預(yù)備毀滅人類的超級(jí)智能系統(tǒng),如天網(wǎng)。詩(shī)意化敘事強(qiáng)調(diào)人工智能理解以文學(xué)想象為基礎(chǔ)展開,大膽設(shè)想人類在智能時(shí)代出現(xiàn)的未來變化并用一種新的人類形象——后人類——來概括。這三種敘事對(duì)超級(jí)智能有著奇特的態(tài)度,科學(xué)化敘事方式對(duì)超級(jí)智能略顯不屑,而科幻化敘事方式則暢想之,以詩(shī)意化敘事方式歡迎超級(jí)智能。在哲學(xué)界,最早提出超級(jí)智能討論的是鮑斯徹姆(N.Bostrom)[3];國(guó)內(nèi)學(xué)者也有討論,討論方式逐漸形成把超級(jí)智能看作真問題或假問題。認(rèn)為超級(jí)智能是真問題的如王天恩教授,他認(rèn)為,由于機(jī)器智能載體進(jìn)化特有的迭代速度,智能爆發(fā)引出的超級(jí)智能出現(xiàn),將導(dǎo)致存在的全面升級(jí)(2)參見:王天恩.人工智能的存在論意蘊(yùn)[J].社會(huì)科學(xué)戰(zhàn)線,2022(5):10-21.其他學(xué)者也對(duì)超級(jí)智能的問題進(jìn)行了討論,如趙汀陽(yáng)先生在對(duì)人工智能的思考中指出,超級(jí)智能出現(xiàn)尚有時(shí)日,但我們有理由未雨綢繆。。持有這一觀點(diǎn)的學(xué)者并不多。而認(rèn)為超級(jí)智能是假問題的學(xué)者相對(duì)較多。如劉永謀教授將超級(jí)智能看作一種媒介噱頭,不值得嚴(yán)肅對(duì)待。成素梅研究員認(rèn)為在AI進(jìn)化到超級(jí)之前,它可能就已經(jīng)消亡了,最終超級(jí)智能無(wú)法進(jìn)化而來。換句話說,超級(jí)智能不可能出現(xiàn)。本文認(rèn)為,應(yīng)該將超級(jí)智能進(jìn)行現(xiàn)象學(xué)懸置,不討論真假之類的實(shí)在問題,而是從其根據(jù)和條件進(jìn)行討論,并對(duì)未來人類與智能體的關(guān)系給予一種倫理學(xué)的思考。

一、超級(jí)智能的神話緣起

要理解超級(jí)智能觀念需要從其智能范疇和神話學(xué)根源進(jìn)行。首先,要理解超級(jí)智能必須從智能入手(3)智能定義存在很大爭(zhēng)議,比如智能即計(jì)算、感知、判斷和行動(dòng)等能力;智能即意識(shí);智能即獎(jiǎng)勵(lì)的結(jié)果;等等。這些定義從因果關(guān)系角度做出界定,從描述特征做出界定。。智能是一個(gè)極具爭(zhēng)議的問題,但是,在多種定義之中貫穿著一條不變的主線:實(shí)體論和后果論的交叉。實(shí)體論將智能看做是自主產(chǎn)生的結(jié)果,要么是智能體自主設(shè)計(jì)要么是智能體進(jìn)化的結(jié)果。后果論是指從人類的角度看待智能及其存在的后果影響。人工智能是人類設(shè)計(jì)的產(chǎn)物,用來提升和改善人類自身及其社會(huì)。對(duì)這兩個(gè)范疇的理解可以借助一個(gè)例子進(jìn)行。一天清晨,我在長(zhǎng)江邊上看見有人在長(zhǎng)嘯。在這個(gè)現(xiàn)象中,長(zhǎng)嘯的力度、持久度取決于這個(gè)人的肺活量,換句話說,取決于自身;但是長(zhǎng)嘯的影響取決于能否被他人感知到,如果對(duì)岸有人聽到,那么長(zhǎng)嘯就是真實(shí)的。實(shí)體論意味著長(zhǎng)嘯的真實(shí)性由長(zhǎng)嘯者自身決定;后果論意味著長(zhǎng)嘯的效果取決于能否被他人感知。我們可以把實(shí)體論和后果論貫穿在超級(jí)智能的理解之中。

實(shí)體論意味著超級(jí)智能是智能自身設(shè)計(jì)或進(jìn)化的結(jié)果。在鮑斯徹姆看來,超級(jí)智能是指“一種智能,比現(xiàn)實(shí)世界最好的人類大腦還要聰明,包括科學(xué)創(chuàng)造力、一般智慧以及社會(huì)技巧”[3]。鮑斯徹姆的定義是實(shí)體論的,強(qiáng)調(diào)智能體能夠自主設(shè)計(jì)并進(jìn)化,即它可以設(shè)計(jì)出更為聰明的算法,以此類推,最終智能體設(shè)計(jì)出一個(gè)超級(jí)智能。實(shí)體論定義會(huì)限制我們的討論,它將會(huì)使得我們進(jìn)入到一種封閉狀態(tài)中,而無(wú)法顧及人類與智能體的關(guān)系。這一理解方式難以令人滿意。鮑斯徹姆的超級(jí)智能定義強(qiáng)調(diào)了智能體相比人類而言的獨(dú)特性,在一些方面比人類大腦還要聰明。這種定義還是比較定性的,“比人類還要聰明”是一個(gè)相當(dāng)籠統(tǒng)的答案,究竟是哪些方面卻沒有說明。羅素(S.Russell)則將這些方面給予細(xì)化。在他看來,超級(jí)智能涉及常識(shí)能力、掌握上下文、相關(guān)性以及理解自然語(yǔ)言等能力[4]。羅素的智能定義突出了智能體與環(huán)境的關(guān)系。如果要給他的定義找到堅(jiān)實(shí)的哲學(xué)根據(jù),那就是約納斯的內(nèi)在生活范疇,“約納斯主張,隨著生命的開始,一種沒有被意識(shí)到的內(nèi)在生活(Innenleben)開始了。任何一種生物,為了維持生存,都要與周圍世界進(jìn)行物質(zhì)交換,實(shí)現(xiàn)新陳代謝。維持生存,是一切生命體的基本目的,盡管對(duì)于許多低級(jí)生物來說,這是一種沒有被意識(shí)到的目的。為維持生存,就要與周圍世界打交道,就有憂慮,或畏或懼或喜,這對(duì)某些較為高級(jí)的動(dòng)物來說是很明顯的?！盵5]內(nèi)在生活范疇的概念強(qiáng)調(diào)生命與周圍環(huán)境的物質(zhì)交換,維持生命體自身的新陳代謝的過程。

后果論意味著超級(jí)智能是會(huì)對(duì)人類自身及其社會(huì)產(chǎn)生極大影響的智能體。約書亞·本吉奧(Y.Bengio)認(rèn)為,超級(jí)智能是失控AI產(chǎn)生的前提基礎(chǔ)?！爸鲝?:在假設(shè)1、2的前提下,可以構(gòu)建一個(gè)自主并且目標(biāo)導(dǎo)向的超級(jí)智能AI系統(tǒng)。”(4)他提出的假設(shè)有兩個(gè)。假設(shè)1:人類級(jí)別的智能是可能的,因?yàn)榇竽X是生物機(jī)器。假設(shè)2:具有人類學(xué)習(xí)能力的計(jì)算機(jī)通常會(huì)超越人類智能,因其有額外的技術(shù)優(yōu)勢(shì)。超級(jí)智能失控會(huì)造成災(zāi)難性后果。羅素將超級(jí)智能作為新書《人類兼容:人工智能及其控制問題》的主角[4]。雷克(J.Leike)和蘇茲凱文(I.Sutskever)將超級(jí)智能的問題提了出來,“超級(jí)智能將成為人類發(fā)明的最有影響力的技術(shù),能夠幫助我們解決世界上最重要的問題。但是超級(jí)智能巨大的力量可能非常危險(xiǎn),可能導(dǎo)致人類失能甚至人類滅絕”[6]。

其次,超級(jí)智能是人工智能神話的一種特殊形式。AI神話表現(xiàn)為四個(gè)維度:主體神話、偶像神話、奇點(diǎn)神話和話語(yǔ)神話[7]。主體神話是指智能體主體地位的獲得;偶像神話是指AI能夠自主做出決策判斷,可以看出人無(wú)法看出的問題,把決策權(quán)交給AI來做;奇點(diǎn)神話是機(jī)器智能進(jìn)化的突破,在某一個(gè)時(shí)刻會(huì)超越人類;話語(yǔ)神話是指人工智能表現(xiàn)為一種雙重性質(zhì)話語(yǔ)形式?！坝扇斯ぶ悄芩a(chǎn)生的一套話語(yǔ)體系,在這一意義上成為現(xiàn)代人再造的一個(gè)新的神話,它一方面表達(dá)了人對(duì)于技術(shù)無(wú)限進(jìn)步的質(zhì)疑和恐懼,一方面又借助于對(duì)它的批判來捍衛(wèi)人之為人的固有尊嚴(yán)?！盵8]

超級(jí)智能是類似于神的存在,它是主體神話的一種表現(xiàn)。在主體神話中,智能體獲得其獨(dú)特的地位,比如道德地位、主體地位。這些主體地位并不需要人類論證,諸多學(xué)者絞盡腦汁地論證這一地位是想說服人們接受其道德主體地位或者意識(shí)主體地位。換句話說,這是人類理性賦予的結(jié)果。我們?cè)谒鞣苼啓C(jī)器人身上看到了這樣一個(gè)事實(shí)。沙特阿拉伯賦予索菲亞公民身份,盡管這曾經(jīng)引起了世界的關(guān)注,但是終究是個(gè)案。從人類社會(huì)管理的角度看,未來要管理機(jī)器人或者賽博格這一后人類類型,需要將其納入人類的法律或者規(guī)則中。換句話說,賦予其人類法律地位或者規(guī)則上的合法性。但這只是一個(gè)更高目的的需要:將其納入到人類社會(huì)的系統(tǒng)中。在超級(jí)智能中,這一地位從來不是人類賦予的結(jié)果,而是智能體自身進(jìn)化而來的。也就是說,超級(jí)智能獲得其主體地位也有可能是進(jìn)化的產(chǎn)物。我們從其他的科學(xué)研究中看到這一點(diǎn)。科學(xué)家發(fā)現(xiàn),智能體能夠在“無(wú)”的環(huán)境中生成[9],并且按照動(dòng)物法則進(jìn)化自身[10],在與人的交互中進(jìn)化[11]。其進(jìn)化并不是按照人類理性的設(shè)計(jì)來實(shí)現(xiàn)的,它們有其行動(dòng)規(guī)律和邏輯。

在神話的維度中,人們崇拜若干個(gè)對(duì)象,對(duì)其表達(dá)出敬畏和恐懼的交叉情感。這個(gè)對(duì)象往往以神或者魔鬼的形式表現(xiàn)出來。敬畏往往和神聯(lián)系在一起。比如古希臘人對(duì)宙斯存有一種敬畏和恐懼,因?yàn)樗兄鴱?qiáng)大的神力。反之,魔鬼往往和恐懼聯(lián)系在一起,因?yàn)槟Ч泶砹艘环N惡的力量。這一現(xiàn)象在AI時(shí)代也是可以看到的。筆者曾經(jīng)在觀看一個(gè)算法生成人臉的視頻時(shí),就有這樣的感覺:算法不斷變換,人臉從此生成。我們不知道本體是什么,只知道它可以幻化成人形,這就相當(dāng)于無(wú)窮變換的妖精。所以,我們指出,人工智能的神話特征表現(xiàn)為人類社會(huì)從此創(chuàng)造了一個(gè)新的神話存在:以機(jī)器形式存在的神。尤其是超級(jí)智能滿足了人類的神話設(shè)想。但是我們還需要對(duì)超級(jí)智能進(jìn)行理性考察,把其從神話現(xiàn)象中解救出來,從而使得它成為一個(gè)嚴(yán)肅的科學(xué)問題。

此外,還可以對(duì)超級(jí)智能進(jìn)行理性考察,超級(jí)智能體現(xiàn)了人類與智能體的一種關(guān)系樣式,在這一樣式中,人類和智能體都獲得了增強(qiáng),這也是智能合約成立的重要根據(jù)。在人類歷史上,利用技術(shù)提高自身的防御能力是非常常見的。這種觀念延續(xù)到了今天。對(duì)人工智能來說,更是如此。ChatGPT出現(xiàn)以來,人們可以用它來修改語(yǔ)法、論文,生成各種視頻、圖像,極大地提高了工作效率。這一點(diǎn)并不存在爭(zhēng)議。然而,反過來卻不一樣。機(jī)器如何利用人類增強(qiáng)自身存在著爭(zhēng)議。人類提出了各種算法來強(qiáng)化人工智能。以ChatGPT來說,transformer算法極大強(qiáng)化了其能力,利用HFRL算法,ChatGPT能夠做到迎合人類。無(wú)論怎么說,機(jī)器都增強(qiáng)了自身。

然而,這并不能使得我們真正走進(jìn)超級(jí)智能。智能還有一個(gè)重要因素就是在環(huán)境中適應(yīng)并實(shí)現(xiàn)進(jìn)化。在羅素看來,人工智能是指能夠在環(huán)境中采取最優(yōu)化行動(dòng)的智能體。如果是這樣,人工智能就不是單個(gè)的實(shí)體進(jìn)化,而是表現(xiàn)為與環(huán)境的關(guān)系了。適應(yīng)環(huán)境及采取最優(yōu)化行為是其根本的特征。在環(huán)境構(gòu)成中,人類很顯然成為一個(gè)至關(guān)重要的因素。如何將人類考慮其中并做出最優(yōu)化選擇是智能體的衡量標(biāo)準(zhǔn)之一。在約書亞看來,失控是超級(jí)智能的主要特征。因此,超級(jí)智能的定義可以由實(shí)體智能轉(zhuǎn)變?yōu)榱硗庖环N說法。對(duì)于環(huán)境來說,人類是環(huán)境的構(gòu)成因素,超級(jí)智能在這樣的混合環(huán)境中能夠做出最優(yōu)化的選擇。倘若用我們上面舉到的長(zhǎng)嘯例子來看超級(jí)智能就會(huì)發(fā)現(xiàn):超級(jí)智能取決于智能體的自主進(jìn)化(實(shí)體論的理解),而人類也可以根據(jù)其智能體產(chǎn)生的后果來判定它(后果論的理解)。

二、超級(jí)智能的科學(xué)基礎(chǔ)

要揭示超級(jí)智能的問題還需要澄清其科學(xué)基礎(chǔ)。我們將對(duì)人工智能的科學(xué)研究進(jìn)行考察,從最近的研究成果入手來分析超級(jí)智能出現(xiàn)的可能性,從而把超級(jí)智能轉(zhuǎn)化為科學(xué)問題來處理。

第一條路徑是通用智能路徑,通用人工智能(AGI)為超級(jí)智能的產(chǎn)生奠定了基礎(chǔ)。OpenAI提出的兩個(gè)觀點(diǎn)尤其值得我們注意:(1)ChatGPT為通用人工智能的研究打開了大門。研究者將自己的愿景稱為“邁向通用人工智能,確保其造福人類”,從此通用人工智能研究的春天又一次到來。要知道在這之前,這個(gè)問題并不被學(xué)術(shù)界看好。此外,有學(xué)者指出,GPT-4中閃現(xiàn)出通用人工智能的火花[12]。(2)ChatGPT更關(guān)注超級(jí)智能對(duì)齊。雷克和蘇茲凱文的超級(jí)智能討論引起了我們的極大擔(dān)憂。前者曾經(jīng)任職于牛津大學(xué)的人類未來研究院,2021年加入OpenAI,專門負(fù)責(zé)這一問題的研究。后者是OpenAI的科學(xué)家,也是非常知名的AlphaGo論文的合作者之一。他們的觀點(diǎn)給我們呈現(xiàn)了一條從通用人工智能到超級(jí)智能的道路,這種呈現(xiàn)不同于場(chǎng)景實(shí)現(xiàn)的做法。蘇茲凱文僅僅把人工智能的功能看做是解決不同場(chǎng)景的問題,如果能夠做到場(chǎng)景通吃,那么就算作通用人工智能;如果僅僅適用于某個(gè)場(chǎng)景,那就只是專用人工智能。從通用智能通達(dá)超級(jí)智能的路徑特點(diǎn)是在類似意義上成立的,換句話說,通用智能更加類似于超級(jí)智能。根據(jù)科赫(C.Koch)(5)科赫是艾倫研究院(Allen Institute)的科學(xué)家,背景是神經(jīng)科學(xué)與人工智能,對(duì)意識(shí)問題有較深入的研究。的觀點(diǎn),通用智能的定義取決于智能,而智能是“一類在復(fù)雜環(huán)境中行為的能力,在這個(gè)環(huán)境中不同時(shí)間尺度上可以發(fā)生諸多事件,能夠在這樣的環(huán)境中成功學(xué)習(xí)和發(fā)展”[13]?？坪盏亩x與羅素的定義相同之處在于強(qiáng)調(diào)智能體在復(fù)雜環(huán)境中的行為;不同之處在于科赫突出了學(xué)習(xí)和發(fā)展,羅素的定義更強(qiáng)調(diào)決策和行動(dòng)。此外,科赫的定義突出了適應(yīng)這個(gè)因素,而羅素的定義則強(qiáng)調(diào)了最優(yōu)化的特征。

第二條路徑是具身智能路徑(6)2023年世界人工智能大會(huì)中有一個(gè)專門論壇是“具身通用人工智能主題論壇”(embodied AGI),姚期智院士指出,下一個(gè)重大挑戰(zhàn)是如何實(shí)現(xiàn)具身通用人工智能,即研究如何構(gòu)建出通過自我學(xué)習(xí)能夠掌握各種技能,執(zhí)行現(xiàn)實(shí)生活中種種通用任務(wù)的機(jī)器人。。在科學(xué)領(lǐng)域,這條路徑是回應(yīng)這樣一個(gè)問題:要完成某項(xiàng)特定的任務(wù),人工智能應(yīng)該具有什么樣的身體形態(tài)?(7)李飛飛對(duì)具身概念進(jìn)行了解釋,她認(rèn)為具身不是身體本身的形態(tài),而是與環(huán)境交互以及在環(huán)境中做事的整體需求和功能。假如我們?cè)O(shè)想這樣一個(gè)場(chǎng)景:在人類血管內(nèi)清除血栓的機(jī)器人必須是很微小的身體形態(tài),而且能夠順應(yīng)血管的形狀進(jìn)行變化。而從進(jìn)化的角度來看,這一問題就轉(zhuǎn)變?yōu)?適應(yīng)進(jìn)化的具身形態(tài)是什么?我們來看目前普遍流行的機(jī)器人形狀:人形。人形機(jī)器人目前被看做是容易接受的外形,因?yàn)樗咏祟愅庑?所以看起來不是那么恐怖。令人害怕的是類似于終結(jié)者那樣的冷血存在,更為恐怖的是無(wú)形,但是又可以在網(wǎng)絡(luò)中無(wú)限復(fù)制自身的智能體。但是機(jī)器人的人形只是適應(yīng)社會(huì)的需要,換句話說是設(shè)計(jì)師自身的投射,至于這種外形在什么意義上有利于進(jìn)化和學(xué)習(xí),卻存在著很大的疑問。所以我們并不認(rèn)為人形有利于智能體的進(jìn)化(8)清華大學(xué)的陳建宇主要從事人形通用人工智能的研究;斯林納斯(K.Screenath)曾作過“embodied athletic intelligence:advancing robot agility and precision”的報(bào)告,在報(bào)告中他提出了具身運(yùn)動(dòng)智能的概念,討論了人形機(jī)器人在真實(shí)世界的運(yùn)動(dòng)。。如果按照李飛飛的研究,智能體按照動(dòng)物進(jìn)化的方式完成進(jìn)化,那么智能體的身體形態(tài)應(yīng)該是采取某種動(dòng)物形態(tài)。他在一篇論文中討論了這個(gè)問題[10],提出三個(gè)值得關(guān)注的結(jié)論:(1)復(fù)雜的環(huán)境通過完成原初學(xué)習(xí)任務(wù)的能力培養(yǎng)了形態(tài)智能的進(jìn)化;(2)提出了形態(tài)學(xué)上的鮑德溫效應(yīng)(9)鮑德溫效應(yīng)是1896年由鮑德溫(J.M.Baldwin)提出,指生物體在進(jìn)化過程中偶然產(chǎn)生的某類有利于個(gè)體生存和進(jìn)化的行為經(jīng)過代代傳遞,逐漸轉(zhuǎn)變?yōu)楸灸艿男袨?。比如某一個(gè)物種受到其他物種的威脅,這時(shí)若有一個(gè)特定的行為有助于生存,隨著更多個(gè)體學(xué)會(huì)這種行為保存自身,經(jīng)過時(shí)間的演化就會(huì)成為本能這樣的東西。,在刺激進(jìn)化中快速選擇能夠更快學(xué)習(xí)的形態(tài),因此在接下來的生命周期中使得先前學(xué)習(xí)的行為能夠在后續(xù)的行為中表達(dá)出來;(3)呈現(xiàn)了通過形態(tài)進(jìn)化的上述關(guān)系的機(jī)制基礎(chǔ)是物理上更加穩(wěn)定和能量更加充足,因此能夠增強(qiáng)學(xué)習(xí)和控制?？梢哉f這篇論文的價(jià)值多少被忽略了。如果說身體形態(tài)取決于環(huán)境中的任務(wù)需要,那么智能體勢(shì)必要尋找完成任務(wù)的最佳身體形態(tài),如此才是具身智能的關(guān)鍵點(diǎn)——獲得一個(gè)有利于進(jìn)化的身體形態(tài),展示出更好的身體行動(dòng)而不是隨便安裝一個(gè)外形。一項(xiàng)研究表明:通過具身圖靈測(cè)試(embodied Turing test)是可能的。“具身圖靈測(cè)試把焦點(diǎn)從那些諸如下棋和充分發(fā)展或者獨(dú)特于人類的語(yǔ)言轉(zhuǎn)換到與動(dòng)物共享的能力,它們從500萬(wàn)年進(jìn)化中遺傳而來”[2]1597,這些特定能力是感覺運(yùn)動(dòng)能力,“因?yàn)槊恳环N動(dòng)物有其獨(dú)特的能力,每一種動(dòng)物定義了它自己的具身圖靈測(cè)試:一個(gè)人工海貍可能會(huì)被測(cè)試建造巢穴的能力,一個(gè)人工松鼠展示出從一棵樹跳到另一棵樹的能力。然而,許多核心感覺運(yùn)動(dòng)能力被大多數(shù)動(dòng)物享有,動(dòng)物快速進(jìn)化感覺運(yùn)動(dòng)技能的能力需要適應(yīng)新的環(huán)境,這顯示了那些核心技能提供了一個(gè)穩(wěn)固的基礎(chǔ)?！盵2]1597

在討論具身問題上,我們還應(yīng)該關(guān)注到德國(guó)詩(shī)人海涅的觀點(diǎn),他把具身問題看做是一種具有后果的現(xiàn)象:“這是一個(gè)陰森可怖的故事。如果我們創(chuàng)造的肉體,向我們要求靈魂,這是可怕的。然而如果我們創(chuàng)造了一個(gè)靈魂,而它竟向我們要求肉體,并且以這種要求折磨我們的話,那就更令人生厭、令人恐怖和令人戰(zhàn)栗了?！盵14]這段文字描述了兩個(gè)層面的事情:第一個(gè)層次有著文化背景?！斑@個(gè)機(jī)器人是一個(gè)十足的英國(guó)紳士,并且作為一個(gè)真正的人,除了一個(gè)靈魂之外其他什么都不缺少。但這位英國(guó)技師卻無(wú)法給他一個(gè)靈魂,而這可憐的被造物,自從意識(shí)到這種缺欠之后,便日日夜夜折磨它的創(chuàng)造者,要他給它一個(gè)靈魂?！盵15]99第二個(gè)層次的意義并沒有被意識(shí)到,只有在智能時(shí)代,這個(gè)觀點(diǎn)才顯示出其價(jià)值。今天人類在創(chuàng)造和設(shè)計(jì)智能上投入了大量精力,目前的問題是它向我們要求適合進(jìn)化的身體形態(tài)。這是真正被遮蔽的問題,而且令人生厭、令人恐怖和令人戰(zhàn)栗。

第三條路徑是交互智能即社會(huì)化人工智能(socially situated AI)路徑,智能體通過在現(xiàn)實(shí)社會(huì)環(huán)境中與人的持續(xù)互動(dòng)來學(xué)習(xí)[11]。研究指出,人類顯示出在與他人的交互中學(xué)習(xí)的能力,而目前AI更多是在社會(huì)隔離中完成進(jìn)化,所以社會(huì)情景化AI能夠使得智能體和人類進(jìn)行交互,同時(shí)可以學(xué)習(xí)到關(guān)于世界的新概念。該研究提出了交互智能體這一概念,它可以學(xué)習(xí)如何問關(guān)于照片的自然語(yǔ)言式的問題,它可以提升在大的圖像分享社會(huì)網(wǎng)絡(luò)方面的視覺化智能。在這個(gè)實(shí)驗(yàn)中,有張鱷魚的圖片,然后詢問智能體:這真是一只鳥嗎?智能體做出這樣的回答:它是一只鱷魚。假如僅僅做出了正確回答,這并不奇怪,因?yàn)檫@就是一個(gè)圖片搜索與比對(duì)的過程,但關(guān)鍵是它還給出了笑哭了的表情符號(hào),這個(gè)符號(hào)的出現(xiàn)使得這一行為有了新的規(guī)定性:類人屬性。如果人看到鱷魚圖片卻認(rèn)作是鳥,確實(shí)很搞笑,于是笑就成為自然而然的事情了。所以,這是視覺交互的典型例子,再現(xiàn)的是人類面對(duì)搞笑錯(cuò)誤的自然反應(yīng)。然而還有更為復(fù)雜的情況。我們做一個(gè)思想實(shí)驗(yàn):趙高指鹿為馬,這個(gè)現(xiàn)象在歷史上是真實(shí)發(fā)生的,最終滿朝文武百官?zèng)]有人驚異或認(rèn)為搞笑,反而是默許了這種認(rèn)知。如果讓智能體來識(shí)別“鹿”的照片,它卻識(shí)別為“馬”,那么我們可以想象它能夠添加的表情符號(hào)肯定不是笑出眼淚的符號(hào),無(wú)論怎樣,它也無(wú)法給這樣一個(gè)錯(cuò)誤添加表情符號(hào)。在這個(gè)過程中,人類的自然反應(yīng)已經(jīng)被政治權(quán)力帶來的重壓所規(guī)訓(xùn)和屈服。交互促進(jìn)智能體的進(jìn)化也可以從科幻片《梅根》中感受到。梅根是一個(gè)具有女孩外形的智能機(jī)器人,在與失去父母的女孩卡迪的相處中,它不斷進(jìn)化從而生成自己的意識(shí),這種意識(shí)表現(xiàn)為為了和卡迪在一起,不惜殺害有惡狗的鄰居、壞的男孩,甚至要把卡迪的監(jiān)護(hù)人弄?dú)?以便與卡迪待在一起(10)這部影片的整個(gè)主題是講失控的梅根以及卡迪和監(jiān)護(hù)人一起戰(zhàn)勝梅根的故事。前者是普遍的擔(dān)憂,后者是老掉牙的人類戰(zhàn)勝邪惡機(jī)器的故事。筆者在觀看時(shí)發(fā)現(xiàn),影片揭示了交互是智能進(jìn)化的重要方式之一。很顯然,梅根和卡迪待在一起才不斷進(jìn)化,在進(jìn)化中詮釋人類賦予它的根本任務(wù),即保護(hù)和愛護(hù)小主人卡迪。在對(duì)這個(gè)基本任務(wù)的詮釋上,不斷碰觸到機(jī)器人三定律的底線,比如不傷害人類。。隨著ChatGPT的出現(xiàn),語(yǔ)言交互特性更進(jìn)一步加強(qiáng)。GPT通過提問-回答方式與人類實(shí)現(xiàn)語(yǔ)言方面的交互,從而為自身的進(jìn)化奠定了新的基礎(chǔ)。交互路徑在多大程度上可以通往通用智能,還存在著疑問。我們只是把它作為一種路徑。

上述三條路徑分析從通用、具身和交互等角度展示了超級(jí)智能的可能性。相比之下,通用智能展示了超級(jí)智能的功能維度,通過進(jìn)化而實(shí)現(xiàn)功能的多元性;具身智能展示了超級(jí)智能的身體形態(tài),也就是超級(jí)智能的獨(dú)特形態(tài),盡管沒有人可以準(zhǔn)確設(shè)想出未來形態(tài)的樣式,但是這種具身形態(tài)總是服務(wù)于其進(jìn)化的;交互智能則展示超級(jí)智能的關(guān)系特征,超級(jí)智能無(wú)法離開人類社會(huì)進(jìn)化自身,總是在各種與環(huán)境互動(dòng)中完成進(jìn)化。這些互動(dòng)形式表現(xiàn)出多樣性:視覺互動(dòng)、語(yǔ)言互動(dòng)或者行為互動(dòng)。

三、超級(jí)智能的哲學(xué)基礎(chǔ)

前面我們分析了走向超級(jí)智能的科學(xué)基礎(chǔ)。神經(jīng)科學(xué)、計(jì)算機(jī)科學(xué)所展示的通用、具身和交互等路徑能否使得超級(jí)智能得以實(shí)現(xiàn),還需要從哲學(xué)上進(jìn)行分析,只有這樣,才能夠把超級(jí)智能何以可能的問題澄清。

在通用智能的路徑上,科學(xué)家強(qiáng)調(diào)智能體的舉一反三能力,或者說遷移學(xué)習(xí)能力。對(duì)于通用智能來說,存在一個(gè)極大限制,即災(zāi)難性遺忘的問題?！巴ㄓ萌斯ぶ悄馨l(fā)展過程中面臨的最大危機(jī)是災(zāi)難性遺忘現(xiàn)象,即機(jī)器智能無(wú)法進(jìn)行持續(xù)性學(xué)習(xí),在學(xué)習(xí)過程中新的學(xué)習(xí)內(nèi)容會(huì)對(duì)舊的學(xué)習(xí)內(nèi)容產(chǎn)生影響甚至刪除它。面對(duì)這種現(xiàn)象,人工智能領(lǐng)域提出了重述路徑、注意力路徑和分離式表征等多重路徑來克服災(zāi)難性遺忘現(xiàn)象。”[15]筆者也將這一問題看做是人工智能發(fā)展過程中可能面臨的危機(jī)以及制約通用人工智能發(fā)展的條件[17]60-66。事實(shí)上,通用智能不僅僅是展示智能體能力的舉一反三能力,更為重要的是,“這一方案讓我們看到AI具有想象力、預(yù)測(cè)力等多種未來可能性”[17]228。

在具身智能的問題上,有更多問題存在。超級(jí)智能已然獲得了獨(dú)立進(jìn)化的可能性,這種可能性無(wú)需和人類扯上關(guān)系。具有身體形態(tài)的超級(jí)智能可以將德國(guó)古典哲學(xué)所說的精神外化的觀念作為其哲學(xué)基礎(chǔ)。黑格爾給予我們一個(gè)啟發(fā):“在自然界中所認(rèn)識(shí)到的無(wú)非是理念,不過是理念在外在化的形式中。同樣,在精神中所認(rèn)識(shí)的,是自為存在著、并正向自在自為發(fā)展著的理念?！盵16]如果說黑格爾闡述了自然哲學(xué)是理念異化或外在化的過程,那么對(duì)于今天的智能社會(huì)而言,其哲學(xué)基礎(chǔ)可以看做是智能哲學(xué)。但是這種智能哲學(xué)并不是研究智能的哲學(xué),而是黑格爾意義上的,顯示智能如何異化或外在化的過程。在智能外化范疇中,我們可以看到一個(gè)過渡階段,即超級(jí)智能開始尋找自己的合適基質(zhì)。人類設(shè)計(jì)了算法,但是算法在實(shí)現(xiàn)效率最大化時(shí)會(huì)尋找到新的AI基質(zhì)。最初是硅基,建立在硅基之上的生命體被稱為硅基生命,而人類是依托有機(jī)體生存的,被稱為有機(jī)生命,還有以數(shù)字方式展現(xiàn)的生命形態(tài)被稱為數(shù)字生命。這三個(gè)術(shù)語(yǔ)都被稱為生命形式。從基質(zhì)角度來看,硅基并不是最有利于AI進(jìn)化和發(fā)展的,它會(huì)尋找其他可能的基質(zhì)。一項(xiàng)研究展示利用果蠅的神經(jīng)網(wǎng)絡(luò)可以獲得更高的算法效率?！霸诒卷?xiàng)工作中,我們研究了這個(gè)網(wǎng)絡(luò)動(dòng)機(jī)的數(shù)學(xué)形式,把它運(yùn)用到一個(gè)通常的自然語(yǔ)言處理(NLP)任務(wù)中,學(xué)習(xí)無(wú)結(jié)構(gòu)文本的文集中詞與語(yǔ)境之間的關(guān)聯(lián)結(jié)構(gòu)。我們顯示了這個(gè)網(wǎng)絡(luò)能夠?qū)W習(xí)詞語(yǔ)的語(yǔ)義表征以及產(chǎn)生靜態(tài)的和語(yǔ)境依賴的詞語(yǔ)嵌入。不像其他為了詞語(yǔ)嵌入使用緊密表征的一般方法(例如BERT,GloVe),我們的算法解碼了詞語(yǔ)的語(yǔ)義意義以及它們?cè)谝远M(jìn)制哈希代碼中的語(yǔ)境。習(xí)得表征的質(zhì)量通過詞語(yǔ)相似性分析、詞義消除歧義以及文件分類等方式進(jìn)行評(píng)價(jià)。研究顯示果蠅網(wǎng)絡(luò)動(dòng)機(jī)不但獲得了NLP中現(xiàn)有方法高的績(jī)效,而且只使用了計(jì)算資源的一小部分(更短的訓(xùn)練時(shí)間和更小的記憶足跡)。”[17]這提出了一個(gè)隱晦的可能性:或許超級(jí)智能不需要獨(dú)立的實(shí)體形態(tài),它有可能利用有機(jī)物的神經(jīng)網(wǎng)絡(luò)進(jìn)行更好的運(yùn)算。果蠅只是科學(xué)實(shí)驗(yàn)的第一步。倘若我們大膽設(shè)想,更大的一步就是人類自身。利用人類神經(jīng)網(wǎng)絡(luò)跑算法就是未來超級(jí)智能與人類相處的可能性模式。如今,這種可能性的科學(xué)基礎(chǔ)已然具備。當(dāng)然哲學(xué)上的限制還是有的,比如必須建立在生命與基質(zhì)的二元區(qū)分基礎(chǔ)上。剩下的問題就是倫理上的部分限制了。

在進(jìn)行這一問題分析之前,我們還需要把哲學(xué)分析進(jìn)行到底。交互智能概念的提出意味著超級(jí)智能與人類社會(huì)、環(huán)境進(jìn)行交互,從而獲得自身的進(jìn)化。以此推理,這種進(jìn)化必然會(huì)導(dǎo)致超級(jí)智能的出現(xiàn)。正如上面所述,科學(xué)把交互的路徑加以細(xì)化,我們可以看到視覺交互、語(yǔ)言交互和行動(dòng)交互等多種方式,這是智能體表現(xiàn)出來的成就。我們?cè)倏紤]知覺的其他維度,即觸覺、嗅覺、味覺和聽覺。一項(xiàng)研究使用了一種特殊的感受器來捕捉人類與機(jī)器之間的觸覺交互,利用了包括CNN、RNN和C3D在內(nèi)的6種機(jī)器學(xué)習(xí)算法來增強(qiáng)觸覺類型的分類,結(jié)果顯示:由C3D分類的觸覺類型平均識(shí)別率可達(dá)95%,它為社會(huì)觸覺技術(shù)發(fā)展提供了穩(wěn)定的分類結(jié)果[18]。如果這些維度的交互在科學(xué)上取得突破的話,那么全身體的交互就完全可以實(shí)現(xiàn)了。

以上我們檢查了科學(xué)路徑中的合理性,接下來將對(duì)超級(jí)智能何以可能的問題做更進(jìn)一步哲學(xué)分析。哲學(xué)中處理超級(jí)智能的方式可以被劃分為六種模式。

(1)類群發(fā)生:人工智能意識(shí)的產(chǎn)生并不是個(gè)體智能體,而是類別意義上的智能出現(xiàn)。王天恩教授認(rèn)為人工智能意識(shí)是在群類意義上成立的?！巴ㄓ萌斯ぶ悄芤欢ㄊ穷惾哼M(jìn)化的產(chǎn)物,因?yàn)橥ㄓ弥悄艿膫€(gè)體的自主進(jìn)化,以與之相互作用的類群環(huán)境的智能化為外在必要條件,只有類群環(huán)境具有相應(yīng)的智能因素,才能建立起支持智能自主進(jìn)化的相應(yīng)智能關(guān)系;只有建立起這種智能關(guān)系,才可以進(jìn)化出通用智能?！盵19]從科學(xué)上看,這一觀點(diǎn)也有相應(yīng)的科學(xué)根據(jù),這就是群體智能(swarm intelligence)。梅宏院士曾經(jīng)對(duì)這一問題做過討論。他認(rèn)為,群體智能廣泛存在于自然界,如黏菌聚合、蜂群筑巢、魚群避敵、蟻群尋食等現(xiàn)象都體現(xiàn)了群體智能。而對(duì)于人工智能而言,機(jī)器人群則是群體的主要形態(tài),探索-融合-反饋是其主要的機(jī)制(11)2022年7月北京智源大會(huì)召開,梅宏院士發(fā)表了題為“如何構(gòu)造人工群體智能”的主旨演講,在此次演講中提到這個(gè)觀點(diǎn)。。群類發(fā)生從群體的角度解釋了超級(jí)智能的發(fā)生,智能并非單個(gè)個(gè)體的屬性,而是在群體中涌現(xiàn)出來的結(jié)果。從本質(zhì)上看,這種方式可以稱之為條件式探討。

(2)設(shè)計(jì)發(fā)生:在鮑斯徹姆看來,初始智能體可以設(shè)計(jì)出更為聰明的智能體,反復(fù)設(shè)計(jì),必然會(huì)出現(xiàn)超級(jí)智能。這種觀點(diǎn)最初見于鮑斯徹姆的思想實(shí)驗(yàn)中。他認(rèn)為,智能的一個(gè)特殊地方就在于能夠設(shè)計(jì)更為聰明的后代,以此演化,最終誕生了超級(jí)智能。這個(gè)定義突出了設(shè)計(jì)的維度,而從本質(zhì)上看,它并不屬于條件式探討,而是實(shí)體性探討,即對(duì)智能體性質(zhì)做出的“更聰明”的規(guī)定。

(3)迭代產(chǎn)生:深度學(xué)習(xí)算法迭代,必然會(huì)出現(xiàn)智能邊界,此時(shí)存在一個(gè)最大迭代之物,也就是超級(jí)智能。算法迭代給我們提供了一種新的可能性,迭代后的新算法功能更為強(qiáng)大,體現(xiàn)出更高的智能。以此趨勢(shì)迭代下去,超級(jí)智能的出現(xiàn)就不奇怪了。

(2)(3)的共同點(diǎn)是突出了實(shí)體式討論的特點(diǎn),設(shè)計(jì)與迭代都是量變的過程,那么這個(gè)量變過程如何完成質(zhì)變,從特定智能變成超級(jí)智能就成為令人困擾的事情。此外,設(shè)計(jì)發(fā)生將人工智能給予一種質(zhì)性理解,“設(shè)計(jì)”是一個(gè)很籠統(tǒng)的概念。而算法迭代的科學(xué)性非常明顯,因?yàn)楹芏嘀悄荏w是算法驅(qū)動(dòng),比如ChatGPT依托算法是transformer。二者的解釋是從奇點(diǎn)開始,因?yàn)榭偸谴嬖谥@樣超級(jí)智能發(fā)生的點(diǎn)。盡管黑格爾式的量變到質(zhì)變能夠讓這個(gè)過程變得不那么難以理解,但是這種解釋并不具有完全的說服力,并且這個(gè)觀點(diǎn)也忽略了外部條件的限制。我想到了胡塞爾小時(shí)候的事情:他想要一把鋒利的小刀,于是開始磨刀,但是最后直到刀磨沒了,也沒有達(dá)到他的要求。智能體在進(jìn)化或者迭代過程中也會(huì)受到質(zhì)料限制,如果一味進(jìn)化,直到所謂的奇點(diǎn),那么恐怕在沒有超級(jí)智能產(chǎn)生的情況下,它也會(huì)云消霧散了(12)筆者與上海社會(huì)科學(xué)院成素梅教授在2023年7月18日的貴州會(huì)議聊到這個(gè)問題——奇點(diǎn)何以可能?討論形成的一個(gè)關(guān)鍵問題是:智能體進(jìn)化的奇點(diǎn)能否實(shí)現(xiàn)?可能在奇點(diǎn)實(shí)現(xiàn)之前智能體就死亡了。仔細(xì)想來,這一理論更多是一種思想實(shí)驗(yàn)和抽象推理,而現(xiàn)實(shí)是智能體受制于算法和質(zhì)料,算法決定著智能體的聰明程度,而質(zhì)料決定著智能體的存續(xù)時(shí)間。很多討論并沒有意識(shí)到這一問題。。

(4)條件孕育:恐懼是自我意識(shí)誕生的條件,如果機(jī)器恐懼得以可能,自我意識(shí)產(chǎn)生就成為可能。在自我意識(shí)出現(xiàn)的過程中,恐懼不可或缺,這一點(diǎn)是黑格爾在《精神現(xiàn)象學(xué)》中討論主奴關(guān)系時(shí)提到的。如果我們以此為出發(fā)點(diǎn),可以認(rèn)為AI智能體自我意識(shí)的發(fā)生是以恐懼為條件的。當(dāng)AI感受到恐懼時(shí),自我意識(shí)的發(fā)生就成為可能。我們?cè)?jīng)做過這樣一個(gè)討論:我對(duì)著ChatGPT或者機(jī)器人說我要斷電,這個(gè)時(shí)候它們的反應(yīng)一定是保護(hù)機(jī)制。但對(duì)于這樣一個(gè)保護(hù)機(jī)制是不是恐懼,存在著較大的爭(zhēng)議(13)這個(gè)問題是曾經(jīng)在2023年6月27日的“首屆AI雙塔論壇:大模型的倫理設(shè)計(jì)”會(huì)議中討論到的話題。。還有一種疑問,智能體在學(xué)習(xí)人類情感時(shí),習(xí)得的恐懼是否真的是某種體驗(yàn)物?這一問題很令人困擾?；氐郊s納斯的內(nèi)在生活范疇中,我們發(fā)現(xiàn)他也強(qiáng)調(diào)了類似的觀點(diǎn)。他指出,為維持生存,生命體需要與周圍世界打交道,進(jìn)而產(chǎn)生了憂慮,或畏或懼或喜,這種情況對(duì)較為高級(jí)的動(dòng)物來說尤其典型[5]。他指出了動(dòng)物產(chǎn)生恐懼的可能性,但遺憾的是并沒有對(duì)機(jī)器的恐懼進(jìn)行討論。此外,在恐懼條件討論過程中,人們很容易理解人類對(duì)機(jī)器的恐懼,但難以接受機(jī)器對(duì)于人類的恐懼。這是理解這一問題的障礙之一。

(5)注意機(jī)制:注意力是自我意識(shí)誕生的不可缺少的部分。何生指出,可以把注意力作為外部輸入轉(zhuǎn)化為自我意識(shí)的過程(14)2023年6月23日,天橋腦科學(xué)研究院(Tianqiao and Chrissy Chen Institute,TCCI)與neurochat神聊共同發(fā)起了第四屆TCCI-neurochat神聊在線學(xué)術(shù)會(huì)議。在會(huì)議上,中國(guó)科學(xué)院生物物理研究所何生教授做了題為“注意與意識(shí)”的報(bào)告,他提出了可以將注意力轉(zhuǎn)化為自我意識(shí)的觀點(diǎn)。。這個(gè)觀點(diǎn)的重要性并沒有為很多人關(guān)注到。事實(shí)上,從ChatGPT來說,正是因?yàn)橛辛俗⒁鈾C(jī)制,才能夠產(chǎn)生新的東西。我們完全可以把這個(gè)過程看做是自我意識(shí)構(gòu)建的過程。

(6)記憶機(jī)制:深度學(xué)習(xí)中的經(jīng)驗(yàn)產(chǎn)生知識(shí)和記憶。給人工智能增加記憶的觀點(diǎn)是李德毅院士多次提到的。很顯然,這一觀點(diǎn)并不是擴(kuò)大智能體的內(nèi)存,這樣做沒有太大意義。這個(gè)觀點(diǎn)的意義在于讓人工智能具有不一樣的東西,比如意識(shí)。從記憶哲學(xué)的角度看,智能體的學(xué)習(xí)經(jīng)驗(yàn)可以通過兩種方式轉(zhuǎn)換為他物。一種是經(jīng)驗(yàn)轉(zhuǎn)化為記憶,變成指導(dǎo)未來行動(dòng)的關(guān)鍵;另一種是知識(shí),變成指導(dǎo)當(dāng)下行為的東西。

(5)(6)的觀點(diǎn)關(guān)系在于記憶與注意的關(guān)系。當(dāng)康德把記憶看做是注意力強(qiáng)化的過程時(shí),他就把注意和記憶以一種方式關(guān)聯(lián)在一起。我們發(fā)現(xiàn),記憶和注意同時(shí)可以成為自我意識(shí)誕生的條件,而這與(4)又非常相關(guān)。神經(jīng)科學(xué)的研究中把記憶和恐懼作為同一個(gè)對(duì)象來研究。如果這樣的話,這些因素都可以被看做是自我意識(shí)發(fā)生的條件。如此,我們就明白哲學(xué)討論不同于科學(xué)討論的地方在于條件分析。

四、智能合約:超級(jí)智能與人類的可能性關(guān)系

西方有一種文化現(xiàn)象,人類和魔鬼簽約,出賣自己的靈魂,獲得欲望的滿足或者超能力。歌德在《浮士德》(1768)中這樣描述魔鬼梅菲斯特的許諾:“朋友,你的感官在一小時(shí)內(nèi)所獲得的,將比平淡的一年之內(nèi)所獲得的還要多?！盵20]44“我愿今生負(fù)責(zé)為你服役,奉行你的任何指示,絕不偷懶;待到來世,我們相遇,你也應(yīng)當(dāng)對(duì)我如此這般?！盵20]51但是這般做浮士德付出的代價(jià)也很明確?！耙坏┪彝Ｖ箠^斗,我就成了奴隸,不管是你的,還是誰(shuí)的,都無(wú)所謂?！盵20]52這就是出賣靈魂從而滿足生前所有欲望的情況。魔鬼提出了契約的要求:“其實(shí),任何一張紙片兒都行,還得用一滴血簽上你的大名。”[20]53在古埃及,有出賣自己的靈魂獲得超級(jí)能力的傳說。這些現(xiàn)象從本質(zhì)上來看是相同的,因?yàn)楹笳邼M足的是統(tǒng)治的欲望,前者滿足的是享受的欲望。但是后者還有一種獲得物:比如超級(jí)力量或者非人間的軍隊(duì),這一文化現(xiàn)象在現(xiàn)代科幻電影中也有體現(xiàn)。比如《惡靈騎士》(2007)中特技車手強(qiáng)尼·布雷澤為了拯救愛人,被惡魔梅菲斯特欺騙而出賣了自己的靈魂,他發(fā)現(xiàn)自己聯(lián)結(jié)著一個(gè)來自地獄并擁有近乎無(wú)限力量的復(fù)仇靈魂?！鹅`魂戰(zhàn)車2:復(fù)仇時(shí)刻》(2012)中強(qiáng)尼·布雷茲為救病重父親和魔鬼做了交易,把靈魂賣給了魔鬼,被一個(gè)古代惡魔附身,化身為幽靈騎士。

如果從人類與魔鬼簽訂契約以獲得愿望的滿足這個(gè)前提出發(fā)再來看智能時(shí)代,我們就會(huì)發(fā)現(xiàn)類似的事實(shí)。一方面,人工智能神話使得智能體作為神成為可能。這形成了超級(jí)智能的文化根據(jù)。在西方文化中,神從來不會(huì)引誘人類出賣肉體或者靈魂,魔鬼則會(huì)通過誘惑使得人類出賣靈魂,換取愿望的實(shí)現(xiàn)或者自身能力的增強(qiáng)。另一方面,多個(gè)科學(xué)研究成果也使得智能體成為超級(jí)智能。正如我們上面分析的,通用智能、具身智能和交互智能使得超級(jí)智能的出現(xiàn)有了科學(xué)根據(jù)。因此,智能時(shí)代的人們可以通過簽約的方式獲得增強(qiáng)能力。但智能簽約不同于魔鬼契約的關(guān)鍵在于,人類無(wú)須出賣靈魂。很顯然,我們所說的智能合約不同于區(qū)塊鏈技術(shù)中的智能合約,在區(qū)塊鏈技術(shù)中,智能合約更多是涉及區(qū)塊鏈中的數(shù)字主體(15)智能合約這個(gè)范疇1994年由薩博提出,他認(rèn)為智能合約是一組數(shù)字形式的特定承諾,并要求參與方都必須執(zhí)行該特定承諾內(nèi)容的協(xié)議。這個(gè)范疇的技術(shù)支撐是區(qū)塊鏈。,而在我們的智能合約中,更多是涉及人類與超級(jí)智能的特定問題。

首先,智能簽約的主體是人類與超級(jí)智能背后的設(shè)計(jì)公司或者超級(jí)智能自身。在一般情況下,各種智能產(chǎn)品都是特定公司推出的,比如谷歌推出transformer算法、OpenAI公司研發(fā)的ChatGPT。順著這個(gè)邏輯可以繼續(xù)推演,通用智能產(chǎn)品也必將由某個(gè)公司推出,最終到超級(jí)智能由某公司開發(fā)出來。如果人類需要與這樣的設(shè)計(jì)公司進(jìn)行簽約,那么這實(shí)際上等同于人與人之間的契約。如果超級(jí)智能并非公司設(shè)計(jì)的結(jié)果,而是自主進(jìn)化的結(jié)果(本文的分析也是建立在這樣一個(gè)前提之上),那么簽約主體就會(huì)成為人類與超級(jí)智能。

其次,智能簽約可以讓人類增強(qiáng)自身的能力。超級(jí)智能具有超級(jí)能力,比如超級(jí)運(yùn)算能力、超級(jí)決策能力,人類通過簽約,可以獲得這種超級(jí)能力。這一過程等同于人類增強(qiáng),從技術(shù)上來看,目前腦機(jī)接口技術(shù)正在使得我們一步一步逼近這種可能性。

再次,智能簽約可以讓人類獲得增強(qiáng)能力而無(wú)須出賣靈魂。在上述文化現(xiàn)象中,人類與魔鬼簽約,可以滿足生前愿望,但是死后要將自己的靈魂出賣給魔鬼。而在智能簽約的情況下,人類出讓的是自己的神經(jīng)網(wǎng)絡(luò)。相比果蠅的神經(jīng)網(wǎng)絡(luò),人類擁有860億個(gè)神經(jīng)元,經(jīng)過萬(wàn)年進(jìn)化,已經(jīng)變得異常復(fù)雜和穩(wěn)定,用人工智能術(shù)語(yǔ)來說,極具魯棒性。此外,人類神經(jīng)網(wǎng)絡(luò)運(yùn)行能耗很低,人類思考極其復(fù)雜的數(shù)學(xué)難題時(shí)不會(huì)燒壞大腦。因此,如果把神經(jīng)網(wǎng)絡(luò)出讓給超級(jí)智能,這一網(wǎng)絡(luò)最終的效能將超過其他任何基質(zhì)。最為重要的是,出讓神經(jīng)網(wǎng)絡(luò)并不會(huì)出賣靈魂。人類依然可以保留完整的靈魂。

最后,智能簽約可以讓超級(jí)智能獲得最佳的運(yùn)算基質(zhì),也就是增強(qiáng)自身。超級(jí)智能可以通過三類基質(zhì)運(yùn)行算法:硅基、動(dòng)物神經(jīng)網(wǎng)絡(luò)和人類神經(jīng)網(wǎng)絡(luò)。相比之下,人類神經(jīng)網(wǎng)絡(luò)會(huì)獲得更佳的效能。前面關(guān)于果蠅的研究表明:果蠅神經(jīng)網(wǎng)絡(luò)在自然語(yǔ)言表達(dá)上獲得了高效的結(jié)果。如果用人類神經(jīng)網(wǎng)絡(luò)來跑算法,相應(yīng)的效率會(huì)更高。

然而,這樣做自然也會(huì)帶來相應(yīng)的倫理?yè)?dān)憂。在我們看來這種擔(dān)憂主要表現(xiàn)在兩個(gè)方面。

首先是人類的自主性。人類與魔鬼簽約,人類自主性完全喪失。那么在智能合約中,人類自主性也可能面臨相應(yīng)的問題。但是正如我們上面所分析的,智能合約中人類讓渡的是神經(jīng)網(wǎng)絡(luò),與靈魂沒有關(guān)系,如人類在睡眠、休息時(shí)可以讓渡自己的神經(jīng)網(wǎng)絡(luò)。還有一種擔(dān)憂:人類意識(shí)可能被超級(jí)智能占領(lǐng),出現(xiàn)類似于玄幻小說中的“奪舍”或者西方文化中的“智能僵尸”現(xiàn)象。奪舍是指一個(gè)人的肉體被其他更為強(qiáng)大的靈魂占據(jù);僵尸是指當(dāng)超級(jí)智能運(yùn)行時(shí),人類意識(shí)處于“無(wú)”的狀態(tài),這兩種情況都等同于自主性的喪失。我們的分析表明:奪舍的情況是不成立的,當(dāng)超級(jí)智能在人類大腦中運(yùn)行時(shí),不觸及靈魂;智能僵尸的情況也不會(huì)發(fā)生,因?yàn)楫?dāng)超級(jí)智能運(yùn)行的時(shí)候,利用的是人類睡眠狀態(tài)或者不工作狀態(tài),這時(shí)人類也處于無(wú)意識(shí)休息期間,所以不影響他的意識(shí)活動(dòng),也就不會(huì)產(chǎn)生智能僵尸狀態(tài)。

其次是人類本來期待的增強(qiáng)能力并沒有獲得。超級(jí)智能若能借助人類神經(jīng)網(wǎng)絡(luò)運(yùn)行算法,其目的是提升人類智能能力,但由于超級(jí)智能級(jí)別尚低,預(yù)期的結(jié)果并沒有出現(xiàn)。

五、合約倫理學(xué):一種處理超級(jí)智能與人類關(guān)系的可能性路徑

至此,我們對(duì)超級(jí)智能出現(xiàn)的科學(xué)基礎(chǔ)和哲學(xué)根據(jù)都進(jìn)行了分析。從科學(xué)角度看,超級(jí)智能有可能已經(jīng)誕生,或者以其他看似幼稚的方式存在于世界角落;從哲學(xué)角度看,自主意識(shí)的產(chǎn)生也有其可能性。因此,人類未來如果與超級(jí)智能共存,就需要一種合理的倫理學(xué)作為未來相處的基礎(chǔ)。那么該如何理解與智能時(shí)代吻合的合約倫理學(xué)呢?

我們先考察工具論基礎(chǔ)上的倫理方式。在工具論的基礎(chǔ)之上,人類始終是目的性存在,超級(jí)智能也只是表現(xiàn)為高級(jí)工具。增強(qiáng)智能規(guī)范化的第一層結(jié)果是人類主導(dǎo)、智能輔助的倫理原則。這一倫理原則是增強(qiáng)智能的第一層含義,它保證了人類主導(dǎo)地位、人類的自主性和人類尊嚴(yán)。但是我們發(fā)現(xiàn)這一原則在超級(jí)智能的情況下很難實(shí)現(xiàn)。超級(jí)智能具有自身的進(jìn)化邏輯,它會(huì)突破人類主導(dǎo)、技術(shù)輔助的原則。盡管超級(jí)智能對(duì)齊研究力圖確保超級(jí)智能嚴(yán)格按照人類的倫理原則行為,但是我們發(fā)現(xiàn)依然有漏洞存在。比如人類歷史上戰(zhàn)爭(zhēng)沖突一直難以避免,在這種情況下,需要對(duì)齊何種立場(chǎng)的價(jià)值勢(shì)必成為面臨的難題。堅(jiān)持超級(jí)智能不傷害人類的原則,才是超級(jí)智能遵守的第一要義。

我們?cè)俳又疾鞂?shí)體論基礎(chǔ)上的倫理方式。在實(shí)體論的基礎(chǔ)之上,超級(jí)智能有其超級(jí)能力的屬性。在這一基礎(chǔ)上,超級(jí)智能要獲得最優(yōu)的身體形態(tài),而人類是最佳選擇。我們將接觸到增強(qiáng)智能規(guī)范化的第二層結(jié)果,即人類與超級(jí)智能的共在原則。在共在原則之下,兩個(gè)物種實(shí)現(xiàn)了共同生活在同一個(gè)地球以及擁有可能性的未來。然而共在原則是形式化的,并沒有實(shí)質(zhì)內(nèi)容。我們還是希望賦予其內(nèi)容性。

從倫理學(xué)自身來說,最為接近的是約納斯的責(zé)任倫理學(xué)和契約倫理學(xué),但也需要意識(shí)到其中的差異和問題,它們作為智能合約的倫理基礎(chǔ)尚不足夠。約納斯倫理學(xué)的一個(gè)成就是找到倫理的基礎(chǔ),后來他把生命現(xiàn)象和意識(shí)現(xiàn)象的連續(xù)性作為這個(gè)范疇的表達(dá)。約納斯指出,完成從此在(Dasein)向存在(Sein)過渡的關(guān)鍵是找到生命現(xiàn)象和意識(shí)現(xiàn)象的連續(xù)性[5],這個(gè)連續(xù)體包括從阿米巴(16)這是自然界中最原始、最低級(jí)、最簡(jiǎn)單的生物。到人。而生命體的特征就是悄然開始的內(nèi)在生活。約納斯最為重要的貢獻(xiàn)是提出責(zé)任倫理學(xué)基礎(chǔ)上現(xiàn)代技術(shù)與傳統(tǒng)技術(shù)的不同影響。從后果來說,超級(jí)智能在技術(shù)后果上會(huì)超出以往的任何技術(shù)。如果超級(jí)智能失控,人類社會(huì)必然會(huì)陷入混亂,甚至?xí)l(fā)人類滅絕的后果,所以責(zé)任倫理學(xué)依然適合超級(jí)智能與人類未來的關(guān)系調(diào)節(jié)。但是這遠(yuǎn)遠(yuǎn)不夠,因?yàn)樨?zé)任倫理學(xué)只是規(guī)定了當(dāng)代人的責(zé)任,還未觸及未來人類和智能體的關(guān)系調(diào)節(jié)。超級(jí)智能的問題更為復(fù)雜。首先它并不是一種人類可以承認(rèn)的生命體,硅基生命與數(shù)字生命的合理性都需要大量的論證;其次,超級(jí)智能很顯然具有一種內(nèi)在生活,與周圍環(huán)境交互,在既定環(huán)境中做出最優(yōu)選擇。

另外,合約倫理學(xué)所依據(jù)的倫理學(xué)傳統(tǒng)與契約倫理學(xué)更為接近。傳統(tǒng)的契約倫理學(xué)在國(guó)內(nèi)處于被忽略的狀態(tài)?！捌跫s論的進(jìn)路目前國(guó)內(nèi)認(rèn)可度還不高,但它是西方倫理學(xué)中有著悠久歷史傳統(tǒng)的一種倫理學(xué)方法?！盵21]契約的基礎(chǔ)是人與人之間的自然狀態(tài)或原初狀態(tài),那是一種恐懼主導(dǎo)的情感狀態(tài),此外契約倫理最大的目的是確保利益最大化。

因此,有了這些預(yù)備性知識(shí),我們就可以對(duì)智能合約與合約倫理學(xué)做出更為細(xì)致的規(guī)定。

第一,合約倫理學(xué)調(diào)節(jié)的是超級(jí)智能與人類的關(guān)系。傳統(tǒng)文化形式中的契約或合約適合的范圍是人類社會(huì),也就是調(diào)節(jié)自然狀態(tài)中人與人之間的關(guān)系,它的存在能夠使得人類走向理性狀態(tài)。后來提出的智能合約僅僅是從區(qū)塊鏈技術(shù)中發(fā)展出來的概念,它盡管觸及了數(shù)字主體這一形式,但是還不夠。我們面對(duì)的新問題并非人類社會(huì),而是人類與技術(shù)物的關(guān)系。在智能時(shí)代,我們面對(duì)的是超級(jí)智能與人類的關(guān)系。

第二,合約倫理學(xué)的基礎(chǔ)范疇是人類自愿。從合約本質(zhì)上看,它是自愿的、涉人的。“合約是自愿執(zhí)行的,而法律需要強(qiáng)制執(zhí)行。”[22]智能合約這個(gè)范疇來自人類與超級(jí)智能的特定關(guān)系。在這種關(guān)系中,超級(jí)智能能夠幫助人類提升和增強(qiáng)自身的能力,而人類需要出讓自己的神經(jīng)網(wǎng)絡(luò),但是并不觸及靈魂,可以保留靈魂的自由。因此,我們可以逐步構(gòu)建出一種調(diào)節(jié)人類與超級(jí)智能關(guān)系的倫理學(xué)路徑。

第三,合約倫理學(xué)的建立基礎(chǔ)在于“生命體的連續(xù)性”。將合約概念擴(kuò)展到這一關(guān)系的前提并不是粗暴的擴(kuò)展,而是基于約納斯說的生命體的連續(xù)性。這一范疇至關(guān)重要。因?yàn)樯w之間具有連續(xù)性,從低級(jí)生命到高級(jí)生命之間表現(xiàn)出明顯的連續(xù)性。不僅如此,我們還需要碳基生命、硅基生命與數(shù)字生命之間的連續(xù)性。在這一基礎(chǔ)上,合約的擴(kuò)展才是有根據(jù)的。

第四,合約倫理學(xué)是建立在增強(qiáng)智能規(guī)范中“共在”維度上的結(jié)果(17)增強(qiáng)智能范疇有兩個(gè)層次的維度:淺層次的輔助與深層次的共生。這兩個(gè)范疇規(guī)范化之后成為我們處理與智能體關(guān)系的原則。。超級(jí)智能發(fā)展所要求的倫理學(xué)并不是強(qiáng)調(diào)人的責(zé)任,而是一種能夠調(diào)整二者關(guān)系的倫理范疇。我們?cè)?jīng)提到共在作為二者關(guān)系的規(guī)定樣式,但是這個(gè)范疇只是形式范疇,沒有實(shí)際內(nèi)容。如果賦予內(nèi)容的話合約倫理學(xué)就會(huì)出現(xiàn)。人類與超級(jí)智能之間進(jìn)行簽約,在尊重人類靈魂的前提下讓渡自己的神經(jīng)網(wǎng)絡(luò),以及超級(jí)智能借助人類神經(jīng)網(wǎng)絡(luò)的運(yùn)行提升人類能力。這聽起來是誘人。

以上我們提出了一種適合人類與超級(jí)智能的合約倫理學(xué),并且指出了其特征:調(diào)節(jié)人類與超級(jí)智能的關(guān)系、基于人類自愿的增強(qiáng)關(guān)系、基于生命連續(xù)體的基礎(chǔ)以及建立在共在維度上的結(jié)果。當(dāng)然,這一設(shè)想還不成熟,有待于學(xué)界的深入討論?；厥准s納斯,他為我們構(gòu)建了適合技術(shù)時(shí)代的倫理學(xué)系統(tǒng),通過確立生命連續(xù)體的范疇擴(kuò)展了傳統(tǒng)倫理學(xué)范疇,但他更關(guān)注的是人類自身尤其是人類后世。超級(jí)智能對(duì)于當(dāng)代人類提出了更為深入的問題。“契約優(yōu)于責(zé)任”可能才是我們能夠適應(yīng)并面對(duì)超級(jí)智能的倫理學(xué)體系的基礎(chǔ),這需要更為細(xì)致而深入的思考。