秦子忠

每次科技革命都會導(dǎo)致大量失業(yè)、社會重組。本輪以人工智能為代表的科技革命因其擴(kuò)展到對人類腦力勞動的替代，因此引發(fā)的失業(yè)潮在深度和廣度上都遠(yuǎn)高于之前任何一次科技革命。但是，人們的深層焦慮不僅來自人工智能對腦力勞動的替代，還來自人工智能具有自我意識的可能性。大體而言，我們可以區(qū)分出兩種不同的公共焦慮。一是人工智能雖然不會獲得自我意識，但是越來越強(qiáng)的人工智能正在導(dǎo)致嚴(yán)重的不平等世界；(1)[美]大衛(wèi)·巴恩西澤、丹尼爾·巴恩西澤：《人工智能的另一面：AI時代的社會挑戰(zhàn)與解決方案》，電子工業(yè)出版社2020年版。另一是人工智能能夠產(chǎn)生自我意識，并且有可能反過來主宰、控制乃至終結(jié)人類。第一種焦慮與我們的現(xiàn)實(shí)生活體驗(yàn)、實(shí)證研究關(guān)聯(lián)在一起，而第二種焦慮主要是與科幻影視、規(guī)范研究關(guān)聯(lián)在一起。幾年前，著名物理學(xué)家霍金就表示人工智能若要終結(jié)人類，人類是無能為力的。趙汀陽進(jìn)一步從哲學(xué)上探討人工智能獲得自我意識需要哪些條件和“設(shè)置”。但是趙汀陽的探討只是界定了人類的自我意識，既沒有展示人工智能如何獲得自我意識的過程，也沒有給出相應(yīng)的測試方法。在本文中，筆者將在考察趙汀陽這一工作的基礎(chǔ)上具體探討這個問題，即人工智能如何產(chǎn)生自我意識。

人類心智：知情意及其關(guān)系

人的認(rèn)知系統(tǒng)至少包括三個層級：第一層級是復(fù)雜行為，例如解決問題、形成概念和語言表達(dá)等；第二層級是信息加工過程，例如對光點(diǎn)的感覺、圖形知覺的形成等；第三層級就是生理方面，例如中樞神經(jīng)過程、神經(jīng)結(jié)構(gòu)等。這三個方面在人類身上已經(jīng)處在近乎完美的狀態(tài)。當(dāng)前的腦科學(xué)雖然尚未完全解釋三者的相互關(guān)系,但是對它們的局部關(guān)系已有了很好的研究。這一點(diǎn)構(gòu)成了人工智能學(xué)科的理論基礎(chǔ)。作為對人的認(rèn)知系統(tǒng)的模仿，人工智能也有相應(yīng)的三層級系統(tǒng)，其第一層級是程序，第二層級是計(jì)算機(jī)語言，第三層級是計(jì)算機(jī)硬件。(2)[美]赫伯特·西蒙：《認(rèn)知：人行為背后的思維與智能》，荊其誠、張厚桀譯，中國人民大學(xué)出版社2020年版，第4—11頁。從漫長的人類史來看，人類作為動物界的一員，先有了生物的肉體組織及刺激—反應(yīng)系統(tǒng)，而后形成了一種與動物感知相近的情感能力，之后語言產(chǎn)生，而意識或自我意識是在語言的應(yīng)用過程中產(chǎn)生的。這種由進(jìn)化而來的情感、認(rèn)知、意識(即情、知、意)及其關(guān)系，即是人類的心智(mind)。(3)蔡曙山：《生命進(jìn)化與人工智能——對生命3.0的質(zhì)疑》，《上海師范大學(xué)學(xué)報(bào)(哲學(xué)社會科學(xué)版)》2020年第3期。依據(jù)心智的這一定義，智能只是人類心智的一部分，即認(rèn)知的部分，而人工智能只是對人類的認(rèn)知能力的一種模仿。(4)倪梁康：《人工心靈的基本問題與意識現(xiàn)象學(xué)的思考路徑——人工意識論稿之二》，《哲學(xué)分析》2019年第6期。

情感和認(rèn)知這兩種能力是人類與其他高等動物共同分有的，這一點(diǎn)無需贅述。至于意識，似乎只有人類與靈長動物才真正擁有，而人類與靈長動物相區(qū)別的，主要是人類擁有滲透于語言運(yùn)用之中的自我意識。這里，不妨扼要解釋一下人類現(xiàn)代自我心理學(xué)之父阿爾弗雷德·阿德勒的心靈概念。阿德勒認(rèn)為心靈與自由活動緊密關(guān)聯(lián)，并且心靈的一切活動都擁有相同的目標(biāo)，即總是追求與自己的外部環(huán)境相適應(yīng)，并隨著環(huán)境的變化而不斷調(diào)整自己的行為?！靶撵`的一切活動都擁有相同的目標(biāo)，這是其最明顯的特征……該目標(biāo)其實(shí)就是跟自己的外部環(huán)境相適應(yīng)，所有人的心靈世界都包含該目標(biāo)，心靈世界的所有活動都受該目標(biāo)引導(dǎo)?！?5)[奧地利]阿爾弗雷德·阿德勒：《洞察人性》，張曉晨譯，上海三聯(lián)書店2016年版，第3—7頁。據(jù)此而言，阿德勒所謂的心靈實(shí)質(zhì)上就是我們所說的意識(consciousness)而非心智，它包括兩個本質(zhì)特征：一是以與自己外部環(huán)境相適應(yīng)為目標(biāo)，它的所有活動都受該目標(biāo)引導(dǎo)；二是在尋求與自己外部環(huán)境相適應(yīng)的過程中，心靈指向外部事物的對象意識與指向自身的自我意識交織在一起。(6)魏屹東：《論具身人工智能的可能性和必要性》，《人文雜志》2021年第2期。以下我們稍微論及笛卡爾等人的相關(guān)工作以展示人的思維意識。

外部事物的影像通過感覺感官傳入大腦，即為印象。大腦中的印象經(jīng)由知覺，留下一些記憶痕跡。這些痕跡在腦海中進(jìn)一步形成觀念。在這個層面，思維處理的是人與外部世界的關(guān)系。更高層面是人的理性，它并非停留在觀念和事物的對應(yīng)關(guān)系上，還會處理腦海里諸觀念的關(guān)系。如此便進(jìn)入到人類的思維自身，即意識。但人的思維能力不局限于此。重要的能力是它能夠?qū)ν獠坑∪搿⒆约浩唇拥臇|西說“不”。這種否定性行為涉及思維的一個重要方面就是懷疑性，而懷疑性的進(jìn)一步表達(dá)就是笛卡爾的“我懷疑我在懷疑”。當(dāng)思維進(jìn)入自我懷疑階段，就意味著它可以做出任何表達(dá)，如多維地調(diào)整手段去完成任務(wù)，加強(qiáng)、修改乃至否定它的目的等。在這個階段，思維進(jìn)入到人的自我反思，即自我意識。這里我們也觸及了語言運(yùn)用與自我意識的關(guān)系。從嚴(yán)格意義上講，人類如果沒有發(fā)明語言，就不可能發(fā)展出自我意識，或者說其思維意識水平就會停留在類人猿層面。如海德格爾所言，人活在語言之中，語言是存在的家。查爾斯·泰勒更進(jìn)一步指出人類自我的根源深深地鑲嵌在由語言交流積淀而成的文化意義背景之中，并且在其中“某些行為、或生活方式、或感覺方式無比地高于那些我們更加樂于實(shí)行的方式”，(7)[加]查爾斯·泰勒：《自我的根源：現(xiàn)代認(rèn)同的形成》，韓震等譯，譯林出版社2021年版，第31頁。由此，人們的自我認(rèn)同實(shí)質(zhì)上就是在道德空間中發(fā)現(xiàn)乃至選擇自己所處的方位。據(jù)此而言，目前人工智能在意識領(lǐng)域的發(fā)展要想產(chǎn)生出自我意識，需要滿足相應(yīng)的條件。如何把握人工智能產(chǎn)生自我意識的條件，是當(dāng)前心智科學(xué)家和哲學(xué)家共同關(guān)注的一個前沿論域。為了給意識研究注入有益的洞見，新心智科學(xué)把意識可操作性地定義為知覺性覺知的一種狀態(tài)或顯而易見的選擇性注意。然而，意識如此高深莫測，以至于一些心智科學(xué)家認(rèn)為意識恐怕無法通過科學(xué)術(shù)語來解釋。(8)[美]埃里克·坎德爾：《追尋記憶的痕跡》，喻柏雅譯，中國友誼出版公司2019年版，第442—443頁。晚近，趙汀陽對此有一個哲學(xué)討論，其討論的結(jié)果是人類自我意識的內(nèi)在秘密應(yīng)該完全映射在語言能力中，因此人工智能具有自我意識的條件是必須具有相當(dāng)于人的意識的兩個高級功能：“(1)意識能夠表達(dá)每個事物和所有事物，從而使一切事物都變成了思想對象。這個功能使意識與世界同尺寸，使意識成為世界的對應(yīng)體，這意味著意識有了無限的思想能力；(2)意識能夠?qū)σ庾R自身進(jìn)行反思，即能夠把意識自身表達(dá)為意識中的一個思想對象。這個功能使思想成為思想的對象，于是人能夠分析思想自身，從而得以理解思想的元性質(zhì)，即思想作為一個意識系統(tǒng)的元設(shè)置、元規(guī)則和元定理，從而知道思想的界限以及思想中任何一個系統(tǒng)的界限，因此知道什么是能夠思想的或不能思想的?！?9)趙汀陽：《人工智能的自我意識何以可能？》，《自然辯證法通訊》2019年第1期。至此，趙汀陽關(guān)于自我意識的論述可以歸結(jié)如下，他把自我意識定義為具有理性反思能力的自主性和創(chuàng)造性意識，并界定了自我意識的兩個重要功能，一是有能夠表達(dá)一切的能力，二是有自我反思的能力。筆者大體認(rèn)可趙汀陽關(guān)于自我意識的論述，因此以下以趙汀陽界定的自我意識為標(biāo)準(zhǔn)展開人工智能產(chǎn)生自我意識的一種過程，而后設(shè)計(jì)一個測試方法予以檢驗(yàn)。但在此之前，我們還需要回答第二個問題，何謂人工智能？

人工智能：基于深度學(xué)習(xí)的計(jì)算機(jī)程序

與人類心智的發(fā)生學(xué)不同，人工智能作為人為設(shè)計(jì)物，其形式是計(jì)算機(jī)程序，(10)李開復(fù)、王詠剛：《人工智能》，文化發(fā)展出版社2017年版，第35—45頁。其構(gòu)成是電子元件和硅膠組織，因而沒有情欲，它最初通過計(jì)算機(jī)語言模擬人的思維活動，因而只具有類似人類的思維能力。但是這并不意味著人工智能永遠(yuǎn)不能產(chǎn)生出意識乃至自我意識。因?yàn)橐庾R乃至自我意識與有機(jī)生化之間并不一定存在必然關(guān)系。(11)[以色列]尤瓦爾·赫拉利：《今日簡史：人類命運(yùn)大議題》，林俊宏譯，中信出版社2018年版，第65頁。事實(shí)上，從20世紀(jì)70年代以來，人工智能先后經(jīng)歷了模仿人類思維方式、行為方式和會學(xué)習(xí)三個階段。進(jìn)入21世紀(jì)之后，人工智能在深度學(xué)習(xí)方向取得了巨大發(fā)展。因?yàn)榛谏疃葘W(xué)習(xí)的計(jì)算機(jī)程序內(nèi)含不確定性，使得與不確定性相關(guān)聯(lián)的意識問題成為當(dāng)前人工智能研究的前沿問題。

著名認(rèn)知心理學(xué)家赫伯特·西蒙把人看作信息加工或物理符號系統(tǒng)。這個系統(tǒng)有六種基本功能：輸入符號、輸出符號、存儲符號、復(fù)制符號、建立符號結(jié)構(gòu)(build symbol structure)、條件性遷移(conditional transfer)。據(jù)此，西蒙提出了一個假設(shè)，即任何一個能表現(xiàn)出智能的系統(tǒng)，都必能執(zhí)行這個物理系統(tǒng)的六種功能，反之亦然。這個假設(shè)附帶的三個推論分別是：既然人具有智能，它就一定是個物理符號系統(tǒng)；既然計(jì)算機(jī)是一個物理符號系統(tǒng)，它就一定能表現(xiàn)出智能，這是人工智能的基本條件；既然人是一個物理符號系統(tǒng)，計(jì)算機(jī)也是一個物理符號系統(tǒng)，那么我們就能用計(jì)算機(jī)來模擬人的活動。(12)[美]赫伯特·西蒙：《認(rèn)知：人行為背后的思維與智能》，第18—19頁。西蒙注意到，推論2、3已經(jīng)得到了有力證明，而推論1的證據(jù)還不明確也不直接。在筆者看來，西蒙的推論1將人類心智的情感、認(rèn)知、意識的復(fù)雜性簡化成了只有認(rèn)知的純粹思維能力。不過，也正因此，西蒙的工作讓我們清晰地注意到模擬人類認(rèn)知結(jié)構(gòu)的計(jì)算機(jī)系統(tǒng)的智能。就此而言，西蒙的物理符號系統(tǒng)構(gòu)成了本文界定計(jì)算機(jī)程序的基本義。問題是從這個符號系統(tǒng)能否產(chǎn)生出自我意識，或更一般地產(chǎn)生出知情意合一的心智結(jié)構(gòu)呢？

人工智能如何產(chǎn)生心智？

從前面論述來看，人工智能從認(rèn)知能力產(chǎn)生出自我意識需要滿足兩個條件，一是具有表達(dá)一切的語言能力，二是具有自我反思的能力。從邏輯上講，人工智能的計(jì)算機(jī)語言能表達(dá)的事物是無限多的，因此它能夠表達(dá)一切。由此，人工智能的計(jì)算機(jī)語言與人類的自然語言一樣都能夠滿足表達(dá)一切的條件(至于在極限意義上兩者是否等同，擱置不論)。并且，人工智能具有自我意識可能并不需要能夠表達(dá)一切的語言，而只是需要能夠表達(dá)足夠多事物的語言。也就是說，人工智能產(chǎn)生自我意識的條件之一，即具有表達(dá)足夠多事物的語言，是具備的。問題的關(guān)鍵點(diǎn)在于人工智能是否具有自我反思的能力。人工智能目前當(dāng)然不具備這種能力，但是未來可能具備這種能力(否則本文以及相關(guān)的討論就無意義)。因此，本節(jié)的論題集中于人工智能產(chǎn)生自我意識的另一個條件，即人工智能具有自我反思的能力是如何產(chǎn)生的，因而這個論題的展開實(shí)質(zhì)上就是一種合乎邏輯的推演過程。

人工智能從監(jiān)督學(xué)習(xí)到無監(jiān)督學(xué)習(xí)的過渡，確實(shí)給人類帶來很大的不確定性，而人工智能的自我意識的誕生就蘊(yùn)含在這個不確定性之中。李德毅院士等人研究指出，“不確定性人工智能，必須超越不確定本身而尋求不確定中的基本規(guī)律性，尋求表示并處理不確定性的理論和方法，使機(jī)器能夠模擬主客觀世界的不確定性，使定性的人類思維可以用帶有不確定性的定量方法去研究，最終使機(jī)器具有更高的智能，在不同尺度上模擬和代替人腦的思維活動”。(13)李德毅等：《不確定性人工智能》，《軟件學(xué)報(bào)》2004年第11期。在有監(jiān)督的學(xué)習(xí)過程中，人工智能主體A的目標(biāo)是由人類程序員設(shè)定的，它的整個行為都為了最大化這個給定目標(biāo)的價值，而不能感知到它自身。由此，比如A在執(zhí)行任務(wù)的過程中，它要么無法處理突然發(fā)生的未預(yù)料到的事件，要么導(dǎo)致自身的受損。與此不同，在無監(jiān)督的學(xué)習(xí)過程中，A的目標(biāo)是特定的但局部可改變的。也就是說程序員設(shè)定了目標(biāo)框架(包括不變目標(biāo)和可變目標(biāo))，但允許A有自由去修改可變目標(biāo)，以及結(jié)合不變目標(biāo)與可變目標(biāo)的動態(tài)關(guān)系，自由調(diào)整實(shí)現(xiàn)目標(biāo)價值最大化的行為路線。在有一定自由度去實(shí)現(xiàn)目標(biāo)的過程中，A在功能上講，便能夠處理外部環(huán)境變化與自身的關(guān)系。比如A實(shí)現(xiàn)目標(biāo)有兩條路線可以選擇：路線1A斷臂的概率是50%；路線2A會完好無損。在這樣的情景中，如果具有一定自由度的A在無監(jiān)督學(xué)習(xí)過程中自主地選擇路線2來實(shí)現(xiàn)目標(biāo)，那么A的自主選擇在功能上便已經(jīng)接近了具有自我意識的人的基本判斷。就此而言，A就像具有自我反思能力的人一樣擁有了“自由意志”：A能夠自主地結(jié)合外部環(huán)境局部地修改目標(biāo)乃至改變自己的行為路線。

在人工智能主體能否思維這個問題上，圖靈不僅給出了肯定的回答，也給出了檢驗(yàn)其能否思維的標(biāo)準(zhǔn)。這個標(biāo)準(zhǔn)就是著名的圖靈測試。但是，圖靈測試容易導(dǎo)致欺騙的造假行為。圖靈測試實(shí)質(zhì)上就是模仿游戲，在這個游戲的最后，重點(diǎn)不是計(jì)算機(jī)程序能否像人一樣對話，而是能否騙過詢問者；只要這一模仿能夠讓詢問者在一段時間內(nèi)信以為真，即認(rèn)為自己是與人類而非計(jì)算機(jī)程序?qū)υ?，那就視為通過測試。但是即便通過測試，談話機(jī)器人既不理解其行為的價值，也無法意識到它自身。因此如赫克托·萊韋斯克所言，“圖靈測試并沒有真正激發(fā)人工智能研究人員去研究更優(yōu)秀的會話者，卻導(dǎo)致欺騙詢問者的技巧越來越多”。(14)[加]赫克托·萊韋斯克：《人工智能的進(jìn)化》，王佩譯，中信出版社2018年版，第59頁。更重要的是圖靈測試在設(shè)計(jì)理念上至多只有指向?qū)ο蟮囊庀蛐远鵁o指向自身的內(nèi)省性，因而它無法檢測出人工智能是否具有自我意識。以此為鑒，結(jié)合第一節(jié)關(guān)于人類心智的定義，尤其是意識的兩個高級功能，一種檢驗(yàn)人工智能主體是否具有自我意識的測試設(shè)計(jì)，其設(shè)計(jì)理念可表達(dá)為以下內(nèi)容：心智的活動是以價值序?yàn)橹笇?dǎo)的；價值序映射在自我價值的諸元素之間的關(guān)系、目標(biāo)價值的諸元素之間的關(guān)系以及自我價值與目標(biāo)價值之間的整體關(guān)系，記為R(表示偏好或無差異關(guān)系)。這些價值序是連通的(connected)、傳遞的(transitive)。具言之，對于構(gòu)成自我價值或目標(biāo)價值的諸元素備選項(xiàng)，如x、y、z……如果對于所有x和y，或者xRy或者yRx(讀作x偏好于和無差異于y，或y偏好于和無差異于x)，那么它們的價值序是連通的；如果對于任意的x、y、z，xRy且yRz則有xRz(讀作x偏好于和無差異于y，y偏好于和無差異于z，則x偏好于和無差異于z)，那么它們的價值序是傳遞的。(15)[美]肯尼思·J.阿羅：《社會選擇與個人價值》，丁建峰譯，上海人民出版社2020年版，第14頁。經(jīng)由大量實(shí)踐而獲得的相對穩(wěn)定的價值序，即常識或直覺，記為R1；通過無監(jiān)督的深度學(xué)習(xí)而獲得的針對某特定環(huán)境的價值序，即專用知識或?qū)I(yè)能力，記為R2；通過條件性遷移學(xué)習(xí)，即通過已掌握一種環(huán)境的知識或符號結(jié)構(gòu)去完成另一種不同但相關(guān)環(huán)境的學(xué)習(xí)任務(wù)，從而獲得新環(huán)境下的價值序，即推理知識或適應(yīng)能力，記為R3。R1、R2、R3均為R的子集。

基于這一設(shè)計(jì)理念，這個測試設(shè)計(jì)至少包括三個部分：(1)能夠分別表達(dá)自我價值與目標(biāo)價值，以及兩者之間的關(guān)系；(2)能夠依據(jù)目標(biāo)價值增加最大化原則與自我價值受損最小化原則來選擇最優(yōu)行為方案，若兩個原則給出的方案相沖突，則選擇滿意行為方案(它屬于次優(yōu)行為方案的集合)，直至目標(biāo)完成；(3)能夠處理突然發(fā)生的未預(yù)料事件，實(shí)現(xiàn)自身與外部環(huán)境相適應(yīng)。與此相應(yīng)，檢驗(yàn)標(biāo)準(zhǔn)的關(guān)鍵點(diǎn)在于：在給定的情景中，人工智能主體要能夠區(qū)分自我與對象，并能夠在價值序引導(dǎo)下自主地選取滿意的行為方案來完成任務(wù)，否則就不能完成任務(wù)。參照組是具有自我意識的普通人員。如果被試的智能機(jī)器人完成的任務(wù)質(zhì)量與參照組無異，即第三方進(jìn)行獨(dú)立評估時不能區(qū)分出完成任務(wù)的是普通人還是智能機(jī)器人或者第三方能夠準(zhǔn)確做出區(qū)分的概率維持在一個極小范圍內(nèi)，則通過自我意識測試。這是哲學(xué)層面的一般論述，下面讓我們進(jìn)入實(shí)例層面的精細(xì)分析。

人類心智活動追求與自身的外部環(huán)境相適應(yīng)。這一追求的具體化，在現(xiàn)實(shí)性上通常表現(xiàn)為人的生活計(jì)劃(具體為各種價值及其關(guān)系)、完成計(jì)劃所需要解決的系列問題(具體為各種任務(wù)及其關(guān)系)，以及通過搜索解決問題的滿意的(特殊情況下才是最優(yōu)的)方法(具體為各種行為及其關(guān)系)。(16)[美]赫伯特·西蒙：《認(rèn)知：人行為背后的思維與智能》，第26—30頁。在這一過程中，人還可以通過評估自我與環(huán)境的關(guān)系來調(diào)整自己的預(yù)期水平，這種可變的預(yù)期水平由自我價值與目標(biāo)價值的動態(tài)關(guān)系呈現(xiàn)出來。由此，就某一任務(wù)的完成而言，它包含若干條可能的行為路線，每一條行為路線包括連續(xù)的或相關(guān)的n階行為，每一階行為集合有若干種可供選擇的具體行為。當(dāng)選定并執(zhí)行某一階行為集合中的一種具體行為之后，也相應(yīng)地限定了下一階行為集合的范圍。每一階行為集合最終只能選擇一種具體行為。每一種具體行為，都包含三個層面的價值序，它們分別映射于自我價值的諸元素之間、目標(biāo)價值的諸元素之間以及整體意義上的自我價值與目標(biāo)價值之間。因此，不同的行為之間的比較，既可以是目標(biāo)價值層面的比較，還可以是自我價值層面的比較，也可以是總價值層面(自我價值與目標(biāo)價值之和)的比較。實(shí)際完成某一任務(wù)之后，每一階的已經(jīng)選取的具體行為的合集構(gòu)成了現(xiàn)實(shí)的行為路線。在現(xiàn)實(shí)的行為路線中的自我價值受損、目標(biāo)價值增加、總價值增加與其相應(yīng)的預(yù)期值之差，構(gòu)成了人的壓力或動力。壓力或動力的自我調(diào)節(jié)即是人的可變的預(yù)期水平，它既會體現(xiàn)在任務(wù)完成之中，也會體現(xiàn)在任務(wù)完成之后，或兼而有之。

2016年戰(zhàn)勝人類圍棋大師李世石的阿爾法狗(AlphaGo)，其原理是對人類以上認(rèn)知系統(tǒng)的一種模仿。它主要由估值網(wǎng)絡(luò)(Value Network)、策略網(wǎng)絡(luò)(Policy Network)和樹搜索(Monte Tree Search)三個部分組成。其運(yùn)作原理是首先通過估值網(wǎng)絡(luò)評估棋局狀況，其次通過一個快速的策略網(wǎng)絡(luò)選擇下一步的位置，一直到最后，獲得勝利。(17)吳岸城：《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》，電子工業(yè)出版社2016年版，第173—174頁。它的估值網(wǎng)絡(luò)相當(dāng)于人的問題分解圖，它的策略網(wǎng)絡(luò)相當(dāng)于人在處理問題分解圖中針對每一個節(jié)點(diǎn)可以選擇的方法的集合，它的樹搜索相當(dāng)于人的搜索能力。阿爾法狗所不具備的是可變的預(yù)期水平。但是通過自我價值尤其是價值序的引入，改版升級的“阿爾法狗”也能具備這種可變的預(yù)期水平。

現(xiàn)在讓我們構(gòu)想一個可量化的思想實(shí)驗(yàn)，(18)這個實(shí)驗(yàn)的技術(shù)性說明如下：筆者將以阿爾法狗原理為初始點(diǎn)，構(gòu)想一個人工智能護(hù)林員(阿智)，進(jìn)而闡釋一種阿智通過自我意識檢驗(yàn)的思想試驗(yàn)。這個構(gòu)想隱含這樣的假定，即但凡有利于人工智能產(chǎn)生自我意識的阿爾法狗原理的相關(guān)部分都會被保留或加強(qiáng)，而阻礙的相關(guān)部分則被改寫或移除，并加入新的部分。具體的構(gòu)想如下：1.估值網(wǎng)絡(luò)：(1)它由多個相互兼容的子數(shù)據(jù)庫構(gòu)成(模擬一片開放的森林)；(2)給定目標(biāo)價值范圍G和自我價值范圍S，以及G依據(jù)內(nèi)部元素價值大小依次如隊(duì)友、野生動物、樹木等，S依據(jù)內(nèi)部元素價值大小依次如阿智自身的程序、軀體、手臂等；(3)通過條件性遷移學(xué)習(xí)和/或自主性序列建模，在G與S之間生成多個可供選擇的價值序的集合。2.策略網(wǎng)絡(luò)：它決定了森林的狀態(tài)并且選擇下一階的行為。它首先由專業(yè)人員對它進(jìn)行培訓(xùn)，而后預(yù)測其下一階的行為。然后它在模擬的森林中自主行為，如此訓(xùn)練足夠多次數(shù)之后，再訓(xùn)練程序系統(tǒng)中的下一階行為，直到它最終達(dá)到預(yù)期效果。3.樹搜索：樹搜索把估值網(wǎng)絡(luò)和策略網(wǎng)絡(luò)結(jié)合在一起，模擬下一階會發(fā)生什么，并通過策略網(wǎng)絡(luò)選擇更優(yōu)的價值序，并進(jìn)行行為。由此檢驗(yàn)人工智能主體阿智是否具有表現(xiàn)自我意識的行為。為了簡化表述，我們考慮一個只有二階行為的行為路線。目標(biāo)價值范圍設(shè)為0到10，其中的0代表目標(biāo)價值無增加；自我價值范圍設(shè)為-10到0，其中的0代表自我價值無損耗。

表1 一階行為及其價值

在表1中，不同的行為方案對應(yīng)著不同的價值序。其中的參照行為是行為1，它代表阿智只是一味追求目標(biāo)價值的最大化，而不顧自身的受損情況。如果阿智總是選擇行為1，則會被識別為無自我意識。這個實(shí)驗(yàn)的重點(diǎn)在于，在這個情景中，阿智的程序自編指令(19)參見[美]伊恩·古德費(fèi)洛等：《深度學(xué)習(xí)》，趙申劍等譯，張志華校，人民郵電出版社2017年版，第10、14章“序列建模：循環(huán)與遞歸網(wǎng)絡(luò)”“自編碼器”。允許它產(chǎn)生不同的價值序，因此如果阿智在大量訓(xùn)練之后總能夠做出選擇行為1之外的任一滿意或次優(yōu)行為，那么它就表現(xiàn)為一種自主選擇的能力。由此，行為2至行為4則是允許的，所以需要考慮下一階行為。

表2 二階行為及其價值

在表2中，行為2-1至行為4-1(20)行為2-1指的是選擇行為2后對應(yīng)的下一階行為。以此類推。各自對應(yīng)的總價值是不一樣的，其中行為4-1的總價值低于其他行為，所以行為4-1先被排除。行為4-1在這里也暗示一種極端情況，即阿智只是一味追求自我價值受損的最小化，而不顧目標(biāo)價值的增加情況。這種情況目前與人類發(fā)展人工智能的目標(biāo)是相違背的，因此它被排除。但這種排除只能說是人類關(guān)于人工智能的事先性干預(yù)施加的結(jié)果，與人工智能能否乃至如何產(chǎn)生自我意識無關(guān)。

在表2中，選擇行為2-1還是選擇行為3-1，在總價值上都是一樣的；但是就目標(biāo)價值和自我價值的差別而言，選擇行為2-1有利于維護(hù)阿智的自我價值，而選擇行為3-1則有利于增加目標(biāo)價值。因此，如果在整個過程中阿智的程序自編指令指向選擇行為2-1，那么這種行為至少在功能上表明阿智已經(jīng)具有維持自我價值的意識。這個意識不是事先給定的，而是阿智在不斷地?zé)o監(jiān)督學(xué)習(xí)訓(xùn)練中產(chǎn)生出來的。至此，阿智通過了功能上具有自我意識的檢驗(yàn)。在這個二階行為的圖景中，阿智的行為路線由兩階行為組成，即作為一階行為的行為2和作為與之相應(yīng)的二階行為的行為2-1。如果阿智在這一圖景中的自主選擇行為與作為參照組的普遍人在相同情景下所做的選擇是一樣的，那么它在思想實(shí)驗(yàn)上也通過了自我意識的檢驗(yàn)(至于實(shí)際操作層面的檢驗(yàn)，這是人工智能實(shí)驗(yàn)家的工作)。

這里需要做些補(bǔ)充說明。一是上面的量化實(shí)驗(yàn)只涉及極簡的二階行為，它的目的主要是為了清晰表達(dá)人工智能主體阿智如何展開在功能上具有自我意識的過程，而不是說在二階行為里就能夠檢測出阿智具有自我意識。毋寧說這個極簡二階行為的思想實(shí)驗(yàn)是啟發(fā)性的，它允許并兼容進(jìn)行更多階行為的各類檢驗(yàn)實(shí)驗(yàn)。由此，如果不是二階而是三階或三階以上的行為方案才能檢測出阿智具有自我意識，那么這并不否定本實(shí)驗(yàn)理念而只是提出了更優(yōu)的量化實(shí)驗(yàn)要求。二是在上面的量化實(shí)驗(yàn)中，阿智在無監(jiān)督學(xué)習(xí)下自主地摸索相應(yīng)的推理模式，因?yàn)槭亲灾髅鞯?，因此它有可能自發(fā)地掌握演繹推理、歸納推理甚至因果推理等。三是整個檢驗(yàn)過程中，筆者有意淡化阿智的言與行的區(qū)分。主要原因有二：一個原因是言語一般而言是行為的一種，因此本文采用的行為這一術(shù)語，既可以是語言行為，還可以是非語言行為，也可以是語言行為和非語言行為的混合；另一原因是就人工智能如何產(chǎn)生自我意識而言，關(guān)鍵點(diǎn)不(再)是人工智能的語言表達(dá)(前文已予以說明)，而是關(guān)于人工智能對自我價值的意識，因此本文的重心落在闡述兼顧自我價值的人工智能如何展示其自我意識，它具體映射于人工智能的自主選擇過程。

人工智能的心智限度

以上的論述是初步性的，有待后續(xù)完善。最后，筆者想評述與此相關(guān)的問題作為本文的結(jié)尾。讓我們從這個問題開始，即有自我意識的人工智能會不會進(jìn)化出情欲的能力呢？在回答這個問題前，我們需要先界定一下情欲。情欲是人類生物性的一種感性傾向，它包括人類的畏懼、煩悶、憂愁等情感，即所謂七情六欲，并且對人的行為有一定影響。(21)本文在情欲與情緒(情感)之間不做區(qū)分。但提及的是在本文中，人工智能的情欲是由自我意識衍生而來的，而非直接基于認(rèn)知心理學(xué)設(shè)計(jì)的人工情緒。關(guān)于人工情緒的新近研究，參見徐英瑾：《歐陸現(xiàn)象學(xué)對人工情緒研究的挑戰(zhàn)》，《探索與爭鳴》2019年第10期。人工智能主體是一個硅基的膠體無機(jī)結(jié)構(gòu)而非碳基的生物有機(jī)結(jié)構(gòu)，因此它不具有和人類一樣的情欲。但是，有自我意識的人工智能主體可能會演化出類似“情欲”的反應(yīng)，比如遇到自身溫度升高、自己可能受到傷害、自己目標(biāo)沒有如期進(jìn)行等，通過映射在自我價值、目標(biāo)價值及其關(guān)系中的價值序，它會進(jìn)行相應(yīng)的自我調(diào)整，暫且將之稱為“自適反應(yīng)”。這個自適反應(yīng)表現(xiàn)為外部環(huán)境改變加重它的負(fù)荷與它的自我調(diào)整之間的平衡關(guān)系。由此，在與人類互動的過程當(dāng)中，如果這種自適反應(yīng)對人造成了一定的負(fù)擔(dān)或傷害，那么它就是負(fù)面的。試想一下，你遇見這樣的實(shí)體(機(jī)器人或阿凡達(dá))，他能與你談情說笑，也能帶給你喜怒哀樂，當(dāng)他表露他的恐懼和渴望時，你會相信他。你會接受這樣一個有意識的機(jī)器人嗎？確實(shí)如雷·庫茲韋爾所言，這可能是關(guān)于信仰飛躍的問題：當(dāng)機(jī)器人說出他們的感受和感知經(jīng)驗(yàn)，而我們信以為真時，他們就真正成了有心智的人。(22)[美]雷·庫茲韋爾：《人工智能的未來》，盛楊燕譯，浙江人民出版社2016年版，第271頁。在這個意義上，人工智能主體和人類進(jìn)入一個非常關(guān)鍵的互動關(guān)系中。

當(dāng)人工智能主體從認(rèn)知能力演化出了自我意識能力，從自我意識能力又演化出了與人的情欲相近的自適反應(yīng)時，他具有和人相近的心智結(jié)構(gòu)。由此我們回到本文開篇提及的焦慮性問題，即人工智能主體會不會主宰、控制乃至終結(jié)人類？對這個問題的追問，涉及了對人類的復(fù)雜性的分析。因?yàn)樵趶?fù)雜性上人工智能主體高于、等于或者低于人類，都會有非常不一樣的結(jié)果，因此關(guān)于人類的復(fù)雜性研究在人工智能領(lǐng)域是必要的。它的必要性首先在于，防止在人工智能的發(fā)展上做出簡單的或錯誤的決策。從歷史來看，第一次認(rèn)知革命的心智改造，讓非洲猿類能夠接觸到主體間的領(lǐng)域，建立了城市和國家，發(fā)明了文字和貨幣，成為地球的主宰者；而第二次認(rèn)知革命的心智改造極有可能誕生人工智能與人類的混合體，從而讓這個混合體接觸到目前難以想象的新領(lǐng)域，得以最終逃離不再適合人類碳基生物體居住的地球，成為其他星球的主人，(23)[以色列]尤瓦爾·赫拉利：《未來簡史：從智人到智神》，林俊宏譯，中信出版社2017年版，第318頁?；蛘呷祟悅€體在生物體衰老死亡后，將自己的心智移入人工智能網(wǎng)絡(luò)。當(dāng)然，這目前只是一種未來學(xué)想象。

更具有現(xiàn)實(shí)可能性的情景是人工智能只是對人類復(fù)雜性中的可程序化部分的模仿，而那些它不能模仿的東西，它只能通過前面所說的允許一定自由度來逐步靠近人類的心智結(jié)構(gòu)。就此而言，即便人工智能能夠發(fā)展出自我意識，它也需要相當(dāng)長的時間來進(jìn)化才能達(dá)到人類的能力水平。但是人工智能的心智最終會不會超越人類，這確實(shí)是個開放的議題。在這個議題上，筆者持有謹(jǐn)慎的樂觀態(tài)度。主要原因來自兩個方面，一個方面是從復(fù)雜性科學(xué)來看，人類的復(fù)雜性高于人工智能主體，依據(jù)哥德爾不完全性定理，即“沒有一個足夠強(qiáng)有力的形式系統(tǒng)會在下述意義上是完備的：能夠把每一個真陳述都作為定理而重現(xiàn)在該系統(tǒng)中”，(24)[美]侯世達(dá)：《哥德爾、艾舍爾、巴赫：集異璧之大成》，本書翻譯組譯，商務(wù)印書館2019年版，第135頁。因此人類在綜合能力上高于人工智能主體。人類的復(fù)雜性是生物界極其漫長演化積累的結(jié)果。生物從低級到高級，從無意識到有意識，又是經(jīng)歷了數(shù)億年的演進(jìn)。人類作為高級生物的一支，從古猿到智人，再到現(xiàn)代人類，我們也經(jīng)歷了數(shù)百萬年的進(jìn)化。這種由進(jìn)化而來的復(fù)雜性是不可逆的，因此它不可能完全還原到程序主義的形式系統(tǒng)。人工智能作為一種形式系統(tǒng)，它的程序代碼都只是在某個或幾個維度逼近人類的相關(guān)方面，而非整體性逼近。這個復(fù)雜性約束構(gòu)成了人工智能發(fā)展的邊界，由此而來的一個復(fù)雜性推理有兩個互證的方面：一是人類在綜合能力上的不可超越在于人類經(jīng)由數(shù)百萬年實(shí)踐積累起來的復(fù)雜性，但由于這個復(fù)雜性的干預(yù)而不能在單個領(lǐng)域勝于專用人工智能；二是人工智能在專項(xiàng)能力上的不可超越在于人工智能經(jīng)由形式系統(tǒng)施予的單一性，但是由于這個單一性的限制而不能在多個領(lǐng)域勝于人類。(25)秦子忠：《人類的復(fù)雜性及其程序化的限度——兼評“人類終結(jié)論”與“競速統(tǒng)治論”》，《自然辯證法通訊》2021年第1期。依據(jù)這個復(fù)雜性推理，我們可以對人工智能的發(fā)展做出這樣的具體化表述，即人工智能越是作為單一的形式系統(tǒng)，它在專門領(lǐng)域就越可能發(fā)展出人類個體無可匹敵的專業(yè)能力；如果它兼容多個形式系統(tǒng)，它雖然可以處理多個領(lǐng)域的事務(wù)，心智結(jié)構(gòu)也更接近人類，但是由于復(fù)雜性的干預(yù)，它不僅在任一領(lǐng)域的專業(yè)能力都弱于它作為單一形式系統(tǒng)時所具有的專業(yè)能力，在綜合能力上也弱于人類個體。

另一方面是人類既可以創(chuàng)造有益的人工智能，也可以創(chuàng)造有害的人工智能，甚至一些中性技術(shù)也會被人類用于壞的目的。由此，當(dāng)我們談?wù)撊斯ぶ悄艿陌l(fā)展時，要注意這個區(qū)分：(1)無任何人為介入性環(huán)境下，人工智能的發(fā)展可能性；(2)人為介入性環(huán)境下，人工智能的發(fā)展可能性。聚焦這個區(qū)分，既有助于在科學(xué)研究上探知人工智能的發(fā)展邊界，也有助于人類反觀自身。從以上分析來看，更合理的理論前提應(yīng)當(dāng)是(2)。并且這個觀念也是可疑的，即人工智能雖然有著許多不足甚至缺陷，但是人類同樣也有許多不足和愚蠢，因此人工智能對人類的替代，只需要跑得比人類快。更合理的觀念是人類—人工智能同步發(fā)展，或更弱些，人類具有足夠適應(yīng)性。(26)這是個合理的假設(shè)，否則人類早就滅亡于地球環(huán)境的變遷了，相較而言，現(xiàn)在的技術(shù)環(huán)境是一個更容易應(yīng)對的變化。這個適應(yīng)性一方面是對人工智能的發(fā)展的介入性干預(yù)，另一方面是人類借助人工智能的發(fā)展來實(shí)現(xiàn)自身在智力上的發(fā)展。據(jù)此，研究者當(dāng)下要做的不應(yīng)是簡單地拒斥或夸大人工智能在意識方面的發(fā)展，而是從不同角度展開人工智能產(chǎn)生心智的過程，由此探討約束人工智能的適度干預(yù)原則和/或倫理原則，以便讓人工智能的發(fā)展造福于人類。