呂超

多年以后，當(dāng)人工智能的機(jī)器大軍四處圍獵人類殘部時(shí)，躲在陰冷地堡中的人類戰(zhàn)士夜深難眠，回憶著人機(jī)大戰(zhàn)的遙遠(yuǎn)開端：從1988年開始，“深思”、“深藍(lán)”、“AlphaGo”等先后在象棋、圍棋領(lǐng)域擊敗人類，人類的榮耀便日趨衰落……

幸好，這種慘淡未來(lái)，只是筆者構(gòu)想的虛擬圖景。當(dāng)然，這也絕不是杞人憂天，對(duì)未來(lái)的悲觀預(yù)言是為了警醒當(dāng)下世人：面臨正在開啟的“人工智能紀(jì)元”，我們必須盡早建構(gòu)一種穩(wěn)妥的科技倫理，以此來(lái)引導(dǎo)人工智能的研發(fā)方向和應(yīng)用領(lǐng)域。本文并不細(xì)數(shù)人工智能倫理的微觀條款，而是基于人類價(jià)值觀和認(rèn)識(shí)論的演變，從科幻文學(xué)的角度探討人工智能倫理的歷史脈絡(luò)，并推演未來(lái)可行的發(fā)展方向，既展現(xiàn)世界視野，也兼顧中國(guó)話語(yǔ)。

人工智能（Artificial Intelligence，縮寫為AI）一詞在1956 年的達(dá)特茅斯會(huì)議[1]上被首次提出。作為一門新的交叉學(xué)科，目前主要涉及計(jì)算機(jī)領(lǐng)域，它試圖了解人類智能的實(shí)質(zhì)，進(jìn)而生產(chǎn)出一種媲美人類智能的軟件系統(tǒng)、機(jī)器人（Robot）、仿生人（Android）或賽博格（Cyborg，也譯生化人），乃至全面超越當(dāng)今人類的“新人”。當(dāng)然，早在人工智能這個(gè)詞被明確提出之前，人類對(duì)“人造智能生命”的想象便早已開始，尤其和科幻文學(xué)有著千絲萬(wàn)縷的聯(lián)系。

“人造智能生命”題材最著名的作品《弗蘭肯斯坦——現(xiàn)代普羅米修斯》。

科幻文學(xué)中的人工智能倫理具有一定的前瞻性，并不受限于具體的科技進(jìn)展，而是與人類的價(jià)值觀演變息息相關(guān)，其中不僅有對(duì)科技的反思，也包含著復(fù)雜的神學(xué)焦慮和哲學(xué)思考。概言之，西方文學(xué)中人類對(duì)“人造智能生命”的態(tài)度，大體經(jīng)歷了從拒絕接納，到奴化控制，再到交融共生的三個(gè)發(fā)展階段。西方的基督教神學(xué)傳統(tǒng)和人類中心主義哲學(xué)，以及對(duì)現(xiàn)代性的反思是推動(dòng)其不斷深究這一問題的文化根源。相對(duì)而言，基于陰陽(yáng)五行、萬(wàn)物有靈的傳統(tǒng)思維，以及對(duì)現(xiàn)代性的樂觀認(rèn)知，近代之前的中國(guó)文學(xué)幾乎不關(guān)注人工智能倫理問題;此后，在西學(xué)東漸的時(shí)代變革大潮下，中國(guó)文學(xué)開始逐漸關(guān)注該領(lǐng)域，發(fā)出自己的聲音，但現(xiàn)代性的探討相對(duì)不足，在作品數(shù)量和理論深度方面均有待提升。

拒絕接納

“人造智能生命”題材最著名的作品當(dāng)推英國(guó)作家瑪麗·雪萊（Mary Shelley）1818年出版的《弗蘭肯斯坦——現(xiàn)代普羅米修斯》，這也是世界科幻文學(xué)的肇始之作。小說(shuō)的副標(biāo)題隱喻了古希臘神話中普羅米修斯造人的故事，但與神話中普羅米斯修對(duì)人類無(wú)限眷顧，甚至不惜盜天火的自我犧牲精神相反，作品中的造物主（科學(xué)家弗蘭肯斯坦）始終不愿接受這個(gè)外表丑陋的智能生命，也因此引發(fā)一系列殘酷沖突。這部作品給后人留下了很多值得深思的倫理問題，譬如：一旦“人造智能生命”產(chǎn)生后，其行為是否應(yīng)被納入人類的倫理準(zhǔn)則？人類是否要擔(dān)負(fù)起使其生活幸福的責(zé)任？遺憾的是，瑪麗·雪萊并沒有回答這些問題，對(duì)“人造智能生命”持否定態(tài)度的她，從根本上拒絕討論倫理建構(gòu)的可能性。

在之后的很長(zhǎng)一段時(shí)間，不少作家對(duì)人工智能的態(tài)度和瑪麗·雪萊相似，其筆下的“人造智能生命”在沒有被納入社會(huì)關(guān)系之前，便直接或間接地將創(chuàng)造者殺死。譬如，《白鯨》的作者麥爾維爾（Hermann Melville）在《鐘樓》（1855）中描寫敲鐘的智能人偶?xì)⑺懒俗约旱闹圃煺?另一位美國(guó)作家比爾斯（Ambrose Bierce）在《莫桑的主人》（1909）中描述智能人偶因輸?shù)羝寰侄尫鸥邏弘娏鳉⑺乐魅?。需要說(shuō)明的是，這一階段對(duì)人工智能的稱謂大都是Automaton。據(jù)《牛津大詞典》（OED）記載，該詞最早出現(xiàn)于1611年，意指借鑒鐘表齒輪技術(shù)而制造的自動(dòng)機(jī)械人偶，和后世文學(xué)中的高智能人造生命差距較大。

此外，還有一類對(duì)人工智能持否定態(tài)度的作家，他們作品中的造物者雖然沒有被殺死，卻都是反面形象，“人造智能生命”也最終被損毀。較早的作品有德國(guó)作家霍夫曼（E.T.A. Hoffmann）的《沙人》（1816）。小說(shuō)描寫神秘人物“沙人”制造出女性智能人偶，后因事跡敗露，人偶在爭(zhēng)搶中被肢解，迷戀她的男主角也瘋癲而亡。此類作品最具代表性的當(dāng)屬法國(guó)作家維里耶·德·利爾-亞當(dāng)（Villiers de l'Isle-Adam）的小說(shuō)《未來(lái)夏娃》（1886）。作者把當(dāng)時(shí)還在世的愛迪生描述成偏執(zhí)而又詭異的發(fā)明家，他為好友埃沃德制造了一個(gè)和真人女性極度相似的智能機(jī)器人哈德莉。但最終哈德莉卻死于一場(chǎng)海難。在這部小說(shuō)中，智能機(jī)器人一詞為Android。據(jù)OED記載，該詞最早形態(tài)為Androides。“andro”在希臘字源中指的是“人類”，而“eides”意為“形狀”，兩者相連就有了“具備人體特征”之意。如今，人們?cè)谑褂肁ndroid一詞時(shí)，一般特指擁有人類形體的智能生命體。

上述作品有一個(gè)共同點(diǎn)，即科學(xué)家的創(chuàng)造活動(dòng)還只屬于個(gè)體行為，被造出的單個(gè)智能生命在沒有得到社會(huì)承認(rèn)之前，便以悲劇收?qǐng)?。筆者以為，這種否定立場(chǎng)的背后隱喻有西方社會(huì)普遍存在的神學(xué)焦慮。按照基督教的觀點(diǎn)，人的自由不是無(wú)邊的，必須承認(rèn)自身的局限性，保持對(duì)上帝的敬畏之心。在人的眾多定限中，最重要的一點(diǎn)便是在道德方面：人類無(wú)法實(shí)現(xiàn)道德完美，掌握先進(jìn)科技的人在道德上未必良好。那些“造人”的科學(xué)家在挑戰(zhàn)上帝權(quán)威方面，很像魔鬼撒旦?？駸岬乃麄冏屔M(jìn)化脫離了自然演變的過程，進(jìn)而釋放出無(wú)法預(yù)料的破壞性力量。最終，人類不但不能控制自己的創(chuàng)造物，反而被置于死亡的恐怖境地。有鑒于此，作家們通過文學(xué)作品發(fā)出警示：不負(fù)責(zé)任的濫用科技，不論是以求知的高尚名義，還是以賺錢享樂為目的，都是違背人倫的！然而在現(xiàn)實(shí)社會(huì)中，人類探索生命奧秘的努力并未因此而止步，反而有加速跡象，這就注定了人工智能倫理問題必然會(huì)在后世文學(xué)中被不斷提及。

阿西莫夫擬定的“機(jī)器人三定律”對(duì)后世影響深遠(yuǎn)。

1920年，捷克作家卡雷爾·恰佩克（Karel apek）通過劇作《羅素姆的萬(wàn)能機(jī)器人》將“造人”科學(xué)家的個(gè)人悲劇放大為全體人類的末世審判。大眾所熟知的Robot（機(jī)器人）一詞便源于該劇，詞源為波蘭語(yǔ)的“強(qiáng)迫工作”（Robota）和“工人”（Robotnik）。顯而易見，該詞隱喻了機(jī)器人服務(wù)人類的勞工地位。劇中的機(jī)器人由工廠批量制造，外表和人類毫無(wú)二致。人類為了從日常勞動(dòng)中解脫出來(lái)，大量使用這種機(jī)器人。后來(lái)，機(jī)器人不再服從奴役，轉(zhuǎn)而發(fā)動(dòng)戰(zhàn)爭(zhēng)消滅了人類。恰佩克的這種悲觀看法是當(dāng)時(shí)人們對(duì)人工智能人拒斥態(tài)度的典型代表。這種觀點(diǎn)認(rèn)為，雖然人類好逸惡勞的本性決定了人工智能一開始會(huì)被廣泛接受，但隨著科技進(jìn)步引發(fā)的不確定風(fēng)險(xiǎn)加劇，一旦人工智能站到人類的對(duì)立面，人類將遭受滅頂之災(zāi)。此類文學(xué)作品有很多，譬如美國(guó)作家約翰·坎貝爾（John Campell）的《最后的進(jìn)化》（1932），萊斯特·雷伊（Lester Rey）的《為人類復(fù)仇》（1984）等。

時(shí)至今日，這種“人工智能危險(xiǎn)論”依然擁躉甚眾，科技大佬比爾·蓋茨、埃隆·馬斯克以及著名物理學(xué)家史蒂芬·霍金，都對(duì)人工智能研發(fā)持審慎態(tài)度?！督K結(jié)者》、《駭客帝國(guó)》等經(jīng)典科幻電影更是將這一觀點(diǎn)渲染得婦孺皆知。很明顯，對(duì)未來(lái)的悲觀預(yù)言是為了警醒世人：如果人類必須要面對(duì)人工智能，就應(yīng)盡早建構(gòu)一種穩(wěn)妥的科技倫理，以此來(lái)約束人工智能的研發(fā)方向和應(yīng)用領(lǐng)域。

奴化控制

當(dāng)然，盡管有不少作家將人工智能視為人類生存的威脅，但同時(shí)也有許多作家并不認(rèn)可這種悲觀預(yù)測(cè)，他們更愿意在作品中將人工智能描述為人類的得力助手，以服務(wù)人類為主旨。

此類較早的文學(xué)作品當(dāng)推美國(guó)19世紀(jì)中后期的通俗小說(shuō)。譬如艾立斯（Edward Ellis）筆下的“蒸汽動(dòng)力人”（Steam Man）系列，塞納任（Luis Senarens）筆下的“電人”（Electric Man）系列。[2]這些暢銷小說(shuō)，對(duì)當(dāng)時(shí)的青少年產(chǎn)生了深遠(yuǎn)影響。小說(shuō)中的人工智能雖然名稱各異，也尚未具備高等智慧，但無(wú)一例外都是主人公冒險(xiǎn)旅途中的好幫手，屬于忠實(shí)的奴仆角色。

需要強(qiáng)調(diào)的是，即便在將人工智能視為人類威脅的作品中，以奴仆身份出現(xiàn)的人工智能往往也在一開始被社會(huì)廣泛接受。這暗示了一條基本的倫理關(guān)系：人工智能天生為人類的奴仆。在西方文化傳統(tǒng)中，思想界普遍認(rèn)為人類高于其他物種，在等級(jí)關(guān)系中處于上層。譬如，古希臘哲學(xué)家普羅泰戈拉聲稱“人是萬(wàn)物的尺度”;德國(guó)哲學(xué)家康德宣稱“人是目的本身”。這些理論支撐起了人類中心主義倫理學(xué)，并對(duì)大眾產(chǎn)生了深遠(yuǎn)影響。從這一角度來(lái)看，人和人工智能分屬兩種生命形式，后者沒有理性和靈魂，只能算是有生命的工具。人類作為高等智慧生命可以奴役低等生命，而不用背負(fù)道義上的責(zé)難。

不過，人類中心主義的倫理學(xué)在處理這種關(guān)系時(shí)有著很大缺陷。這種內(nèi)隱的等級(jí)制和叢林式的強(qiáng)者邏輯，是人類控制人工智能的倫理依據(jù)，但進(jìn)步的科技很可能在將來(lái)顛覆二者的強(qiáng)弱對(duì)比。正如黑格爾在《精神現(xiàn)象學(xué)》（1807）中闡釋的“主奴關(guān)系辯證法”，主人和奴仆的地位是會(huì)互相轉(zhuǎn)化的。在神話中，神創(chuàng)造了人類;在現(xiàn)實(shí)中，人類則造出了人工智能。當(dāng)人類難以脫離人工智能而獨(dú)立生活時(shí)，就已經(jīng)很難區(qū)分兩者之間的控制關(guān)系，更何況“造反”的人工智能憑借自身的強(qiáng)大力量，轉(zhuǎn)而奴役或滅絕處于劣勢(shì)的人類。基于這一邏輯，將人工智能視為人類生存威脅的觀點(diǎn)并非危言聳聽。

然而，在現(xiàn)實(shí)社會(huì)，人工智能的研發(fā)并未因這種恐懼而止步，反而有加速跡象。畢竟很多相關(guān)從業(yè)人員并不贊同這種悲觀預(yù)測(cè)，他們認(rèn)為人工智能雖然具有強(qiáng)大的運(yùn)算及自我學(xué)習(xí)能力，卻沒有智慧，只要人類設(shè)計(jì)出精妙的程序，就能夠控制人工智能。此類觀點(diǎn)以美國(guó)作家艾薩克·阿西莫夫（Isaac Asimov）擬定的“機(jī)器人三定律”最為著名。該觀點(diǎn)在小說(shuō)《環(huán)舞》（Run around，1942）中第一次明確提出。1950年出版的小說(shuō)集《我，機(jī)器人》（I， Robot）則系統(tǒng)闡釋了“機(jī)器人三定律”：“第一，不傷害定律：機(jī)器人不得傷害人類，也不得見人受到傷害而袖手旁觀。第二，服從定律：機(jī)器人必須服從人的命令，但不得違反第一定律。第三，自保定律：機(jī)器人必須保護(hù)自己，但不得違反一、二定律?！边@三條定律在制造機(jī)器人的伊始便被嵌入其大腦，永遠(yuǎn)無(wú)法消除。毋庸置疑，阿西莫夫的貢獻(xiàn)是巨大的，其后的文學(xué)作品，如果不是專門討論人工智能倫理問題，基本都會(huì)遵循該定律來(lái)敘事。

在三定律的背后，是阿西莫夫?yàn)榱舜_保人類的統(tǒng)治地位，而設(shè)想了一種符合康德“絕對(duì)律令倫理學(xué)”的人工智能。眾所周知，康德探討的是關(guān)于絕對(duì)律令的普遍道德法則，他在《道德形而上學(xué)基礎(chǔ)》（1785）中強(qiáng)調(diào)：人應(yīng)當(dāng)只按照普遍法則行動(dòng)。在康德看來(lái)，既然不能說(shuō)謊成為普遍法則，那么向一個(gè)殺手說(shuō)謊也是不應(yīng)該的。很明顯，這與人類依據(jù)現(xiàn)實(shí)情境而調(diào)整的“彈性”倫理完全不同?？档碌脑舅悸肥牵涸谡J(rèn)識(shí)領(lǐng)域“人為自然立法”，在道德領(lǐng)域“人為自己立法”。阿西莫夫卻巧妙地將兩者結(jié)合，把康德給人類自己的立法原則轉(zhuǎn)移給了機(jī)器人，將其設(shè)定為符合絕對(duì)倫理法則的群體。

從語(yǔ)義邏輯的層面來(lái)看，阿西莫夫的三定律似乎完美化解了前人對(duì)人工智能“造反”的擔(dān)憂，但仔細(xì)分析，依然有很多漏洞，這里僅舉最重要的四點(diǎn)。

第一，技術(shù)上難落實(shí)。三定律所要解決的是人機(jī)之間的倫理困局，但很多倫理問題，連人類都無(wú)法做出適宜的應(yīng)對(duì)策略，更何況受由人類研發(fā)的人工智能？再者，人類雖然能在一開始控制人工智能，但卻無(wú)法保證越來(lái)越先進(jìn)的人工智能永遠(yuǎn)處在人類的掌控之中。

第二，現(xiàn)實(shí)中不可行。三定律應(yīng)用在復(fù)雜多變的現(xiàn)實(shí)社會(huì)，常常會(huì)捉襟見肘，有時(shí)甚至?xí)l(fā)自相矛盾的窘?jīng)r。阿西莫夫本人也意識(shí)到了這一點(diǎn)，因此對(duì)三定律的修改成為他后期作品的主線。在《可以避免的沖突》（The Evitable Conflict，1950）中，機(jī)器人為了避免人類個(gè)體彼此傷害，便限制人類的行為，轉(zhuǎn)由機(jī)器人掌控一切。這促使阿西莫夫補(bǔ)充了“第零定律”：機(jī)器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害。原先的三定律都要服從第零定律。但是，這條定律的最大問題就是：機(jī)器人如何權(quán)衡自己當(dāng)下的行為會(huì)不會(huì)傷害人類整體？后來(lái)，其他學(xué)者也提出了修正建議，最著名的當(dāng)屬保加利亞作家狄勒烏（Lyuben Dilov）在小說(shuō)《伊卡洛斯之路》（1974）中提出的“第四定律”：機(jī)器人在任何情況下都必須確認(rèn)自己是機(jī)器人。但這些修補(bǔ)并不能改變固有的設(shè)計(jì)缺陷。

第三，忽視了人類和機(jī)器人的情感問題。眾所周知，人類的情感世界是非常復(fù)雜的。也許機(jī)器人保姆把某些人撫養(yǎng)長(zhǎng)大后，他們之間會(huì)產(chǎn)生類似親情的感情，譬如阿西莫夫的小說(shuō)《羅比》（1950）。另外一些人和機(jī)器人長(zhǎng)期相處，可能會(huì)產(chǎn)生類似友情的感情，譬如美國(guó)作家邁克爾·雷斯尼克（Mike Resnick）的小說(shuō)《知己》（2009）。更有人甚至和機(jī)器人墜入情網(wǎng)，并最終成婚，譬如萊斯特·雷伊的小說(shuō)《海倫·奧勒》（1938）。也許旁觀者無(wú)法理解，但當(dāng)事人會(huì)認(rèn)為這份感情和人類之間的感情一樣珍貴。很明顯，機(jī)器人三定律無(wú)法處理這些棘手的感情問題。似乎只有打破二者的主奴關(guān)系，才有解決的希望。在這方面，可以借鑒亞里士多德在《尼各馬可倫理學(xué)》中提出的觀點(diǎn)，他承認(rèn)主奴之間可能存在的“友愛”關(guān)系，原因在于兩者都有“靈魂”。亞里士多德認(rèn)為：“奴隸是有靈魂的工具，工具是無(wú)靈魂的奴隸。作為奴隸對(duì)它是不存在友誼的。然而，他可以作為人，對(duì)于一切服從法律，遵守契約的人，他們之間似乎有某種公正，作為人當(dāng)然有友誼。”[3]比照而言，當(dāng)機(jī)器人有了感情之后，也就脫離了純工具的范疇。此時(shí)人類應(yīng)本著智慧而有責(zé)任的原則，建立一種新型的人機(jī)關(guān)系。

第四，回避了一個(gè)本體論問題——何為“人”？作為斯芬克斯之謎，人類對(duì)這一問題追問了數(shù)千年。筆者在此主要探討“人”的資格的獲得問題：到底是自然遺傳屬性，還是社會(huì)文化屬性決定了“人”的身份？抑或是二者兼具？從三定律所代表的人類中心主義倫理觀來(lái)看，人類中的白癡生下來(lái)便享有基本的人權(quán)，在等級(jí)方面位列人工智能之上，而后者即便掌握了人類的文化，也不能躋身人類之列。意大利作家科洛迪的《木偶奇遇記》（1883）可以視為這一等級(jí)關(guān)系的絕佳隱喻，如果沒有仙姑的幫助，善良的木偶匹諾曹即便歷盡千辛萬(wàn)苦，也不會(huì)變成“人”。難能可貴的是，阿西莫夫在后期作品《兩百歲的人》（1976）中打破了傳統(tǒng)觀念。小說(shuō)描寫機(jī)器人安德魯為了成為真正的人，逐步將自己的機(jī)械零件替換成活體器官，終于在兩百歲生日的彌留之際，以死亡的代價(jià)獲得了人類的承認(rèn)。

顯然，以阿西莫夫?yàn)榇淼臉酚^派，對(duì)人工智能危險(xiǎn)論的補(bǔ)救并不成功。畢竟，站在人類中心主義倫理觀的立場(chǎng)上，從“主奴二元對(duì)立”的邏輯出發(fā)，很難構(gòu)建起穩(wěn)定的人工智能倫理，亟待提出更新型的思考路徑。

交融共生

20世紀(jì)中期以后，隨著科技進(jìn)步，特別是人造器官的研制，人類逐漸打破肉體禁忌，將一些機(jī)器部件納入血肉之軀，譬如植入大腦的芯片，廣泛使用的義肢，不可或缺的心臟起搏器。按照這一發(fā)展趨勢(shì)，也許在未來(lái)社會(huì)，人類和人工智能的區(qū)分將不再是涇渭分明的。

1960年，為了解決未來(lái)人類在星際旅行中面臨的困難，美國(guó)航天醫(yī)學(xué)領(lǐng)域的科學(xué)家首次提出賽博格概念。Cyborg是神經(jīng)控制裝置（cybernetic device）與有機(jī)體（organism）的混寫，科學(xué)家希望通過向人體移植輔助的神經(jīng)控制裝置，以增強(qiáng)適應(yīng)外太空的能力。作為能夠自我調(diào)節(jié)的人機(jī)結(jié)合系統(tǒng)，賽博格既擁有機(jī)器運(yùn)作精確、壽命長(zhǎng)久的優(yōu)點(diǎn)，也具備人類的特質(zhì)，比如感情和理性。至此，人和機(jī)器這兩個(gè)原本對(duì)立的概念，終于共存于賽博格這一生命體中。不過，在科學(xué)界提出該設(shè)想前，文學(xué)界的相關(guān)創(chuàng)作早已展開。

英國(guó)作家奧德爾（Edwin Odle）的《發(fā)條人》（1923）可以視作最早的賽博格題材作品。小說(shuō)描述在人腦中植入時(shí)鐘發(fā)條，用以控制整個(gè)人的言行。作者意在批判世人對(duì)技術(shù)的盲目崇拜和濫用。有鑒于此，后世作家大多繞開對(duì)人腦的改造，而集中描寫身體的機(jī)械化，塑造出一系列正面的賽博格形象。相對(duì)于純鋼鐵架構(gòu)的傳統(tǒng)機(jī)器人，人機(jī)合體的賽博格形態(tài)更容易被接納為“人”。不過，賽博格作為一個(gè)比較學(xué)術(shù)化的詞，在誕生之后很長(zhǎng)時(shí)間并沒有被大眾所了解，直到20世紀(jì)70年代，美國(guó)文學(xué)界涌現(xiàn)了一批以賽博格為主角的科幻小說(shuō)，該詞才廣為大眾熟知。代表作品有羅維克（David Rorvik）的《當(dāng)人成為機(jī)器時(shí)》（1971），波爾（Frederik Pohl）的《升級(jí)人》（1976）。這些作品大多描寫人的軀體被機(jī)械化改造，以完成太空開發(fā)等特殊任務(wù)。該類小說(shuō)連同隨后的影視改編，在世界范圍產(chǎn)生了廣泛影響。

一種觀點(diǎn)認(rèn)為，賽博格必須保留人體關(guān)鍵的神經(jīng)系統(tǒng)，比如大腦和脊髓，否則就屬于傳統(tǒng)意義上機(jī)器人的范疇。如上文所述，就目前而言，人類很難將傳統(tǒng)的機(jī)器人接納為“人”，即便其無(wú)論在外形，還是在思維方式上，都和人類并無(wú)二致。嚴(yán)格來(lái)說(shuō)，阿西莫夫《兩百歲的人》中的安德魯，恰恰是因?yàn)槭褂糜袡C(jī)神經(jīng)耗盡了電子腦，才以死亡的代價(jià)換來(lái)了賽博格身份。筆者以為，如果說(shuō)賽博格反映了人類的逐漸機(jī)械化，那么人工智能則從反方向體現(xiàn)了機(jī)器的逐漸“人化”，而雙方的發(fā)展軌跡最終會(huì)碰撞在一個(gè)根本的哲學(xué)問題上，即“何為人？”到那時(shí)，人類和人工智能的界限將更難以劃分。

其實(shí)，隨著科技的發(fā)展和時(shí)代的演變，關(guān)于“人”的定義也是不斷轉(zhuǎn)變的。古希臘文學(xué)中的斯芬克斯之謎，實(shí)際上是一個(gè)如何區(qū)分人與獸的哲學(xué)命題，隱喻人類文明進(jìn)程的開始。而科幻文學(xué)對(duì)于人工智能倫理的一再探討，則暗示了傳統(tǒng)意義上的“人”逐漸死亡，宣告著后人類時(shí)代的即將來(lái)臨。

從哲學(xué)角度看，作為一種知識(shí)和概念的“人”是有始有終的。法國(guó)哲學(xué)家米歇爾·?？略凇对~與物：人文科學(xué)考古學(xué)》（1966）中提出了“人之死”的觀點(diǎn)，這里的人是指人文科學(xué)意義上的人，即有關(guān)人的觀念和學(xué)說(shuō)。[4]按照?？碌姆治?，“人之死”是以康德的人類學(xué)為基礎(chǔ)的哲學(xué)的消失，是19世紀(jì)以來(lái)以人為中心的現(xiàn)代知識(shí)形態(tài)的消失。盡管?？聸]有明確指出將會(huì)出現(xiàn)何種新的知識(shí)形態(tài)，但舊有的肯定不再被奉作金科玉律，這其中當(dāng)然包括人類中心主義倫理學(xué)。與?？峦瑫r(shí)代的哲學(xué)家讓-弗朗索瓦·利奧塔，也針對(duì)這一問題提出了自己的思考。他執(zhí)著于“無(wú)軀體能否思維”的探索，并最終從時(shí)間的恒久流溢性角度給出了肯定回答。[5]

1982年，美國(guó)《時(shí)代》周刊把計(jì)算機(jī)選為“年度人物”，戲劇性地向全世界宣告后人類時(shí)代的到來(lái)。作為一種理論思潮，后人類主義（Post-humanism）形成和發(fā)展于20世紀(jì)80年代。面對(duì)人體不斷被高科技改造的潮流，不少人相信自然的進(jìn)化最終將讓位于人工進(jìn)化，進(jìn)而出現(xiàn)在體能、智力、壽命等各方面都超越當(dāng)今人類的“后人類”。該理論的代表人物是唐納·哈拉維，其發(fā)表于1985 年的《賽博格宣言》可謂綱領(lǐng)性文件。哈拉維認(rèn)為高科技文化對(duì)既存的二元論思考提出了挑戰(zhàn)。作為“社會(huì)現(xiàn)實(shí)和小說(shuō)的共同創(chuàng)造”，賽博格是一個(gè)打破自我和他者界限的合體，是介于人與機(jī)器之間的一種“后人類”。[6]1992年，歐美國(guó)家舉辦了一系列名為“后人類”的展覽。在配合展覽出版的《后人類》一書中，作者強(qiáng)調(diào)科技進(jìn)步“挑戰(zhàn)了舊人類的終結(jié)，以及后人類開始的界線”，“達(dá)爾文的人類進(jìn)化論也將進(jìn)入下一個(gè)階段”，[7]顯然，在后人類主義看來(lái)，當(dāng)今人類只是從猿進(jìn)化到后人類的一個(gè)過渡階段。但關(guān)于后人類的具體形態(tài)，因其充滿著各種雜糅、跨界的可能，目前沒有人能給出準(zhǔn)確的預(yù)測(cè)。

中國(guó)話語(yǔ)

梳理完西方文學(xué)中的人工智能倫理，我們?cè)賮?lái)分析中國(guó)文學(xué)中的人工智能故事。

在中國(guó)古代，涉及人工智能的文獻(xiàn)記載不少。據(jù)不完全統(tǒng)計(jì)，約有三十多種，譬如《列子》、《西京雜記》、《傅子》、《歧?，嵳劶贰ⅰ豆沤駡D書集成》等。[8]最早的記載見于《列子·湯問》中的“偃師造人”故事。雖然出自介紹民間方術(shù)的集子，但其本身卻完全可以視為技術(shù)類幻想小說(shuō)，影響也頗為廣泛。偃師造出的人偶和人類的外貌酷肖，周穆王一開始還以為是偃師的隨行之人。人偶的下巴被掰動(dòng)則能夠曼聲而歌，調(diào)動(dòng)手臂便會(huì)搖擺起舞，表演完畢后，還向周穆王的寵姬拋媚眼。這一輕佻行為激怒了周穆王，他認(rèn)定人偶為真人假扮，下令處決偃師。偃師為證清白，現(xiàn)場(chǎng)將人偶拆解，展示其由皮革、木頭、膠漆組成。這些沒有生命的部件一經(jīng)組合，便成了活生生的人偶。很明顯，在這一故事中，人偶是被大家普遍接受的，盛怒后的周穆王也不再對(duì)重新組裝的人偶懷有敵意。

細(xì)細(xì)梳理，中國(guó)古代文獻(xiàn)中的人工智能外部形態(tài)較為粗糙，功用也較為簡(jiǎn)單：或用于殺傷敵人，或用于捕捉野獸，更多的則是用于歌舞表演，如完成擊鼓、吹簫等動(dòng)作。唐朝《樂府雜錄》記載：劉邦北擊匈奴，卻被冒頓單于困于白登，后依陳平施“美人計(jì)”，讓美女人偶在城樓上歌舞獻(xiàn)藝。匈奴閼氏擔(dān)心漢人美女會(huì)與自己爭(zhēng)寵，便力勸單于撤了兵?！洞髽I(yè)拾遺記》中則虛構(gòu)了隋朝皇室當(dāng)時(shí)的歌舞盛況：兩百名人偶共同演出的場(chǎng)面。筆者發(fā)現(xiàn)，這些文獻(xiàn)記載中的人工智能絕大多數(shù)是以木材為主要制作原料，以彈撥力或水力驅(qū)動(dòng)，其外形雖類似人類，但在容貌和心智方面還是和人類有很大差距的。程式簡(jiǎn)單的它們，一般被視作精巧的器具，其所能從事的工作也大多是固定的。與技藝高超的人類制造者相比，人工智能還是相當(dāng)笨拙的。因此，人們并不擔(dān)心人工智能會(huì)媲美或超越人類的智慧，更不會(huì)威脅人類的生存。

實(shí)事求是地講，古代中國(guó)文獻(xiàn)對(duì)人工智能奴仆地位的描述，和同時(shí)期的西方文學(xué)是大體一致的。在一定程度上，由于當(dāng)時(shí)中國(guó)科技的相對(duì)發(fā)達(dá)，中文典籍里的人工智能出現(xiàn)頻率和出場(chǎng)規(guī)模，甚至比同時(shí)期的西方文獻(xiàn)還要顯著。但遺憾的是，中國(guó)文學(xué)對(duì)人工智能倫理的探討卻并未發(fā)生“弗蘭肯斯坦”式的變革。在筆者看來(lái)，其原因應(yīng)和中國(guó)傳統(tǒng)文化思維有著千絲萬(wàn)縷的聯(lián)系，主要代表則是陰陽(yáng)五行學(xué)說(shuō)，以及背后深嵌的萬(wàn)物有靈潛意識(shí)。從現(xiàn)代哲學(xué)的角度來(lái)分析，陰陽(yáng)可謂最原始的對(duì)立統(tǒng)一學(xué)說(shuō)，五行（金、木、水、火、土）理論則是最基礎(chǔ)的系統(tǒng)論。長(zhǎng)期以來(lái)，中國(guó)的古圣先哲能夠?qū)⑹澜缛f(wàn)物的形成及相互關(guān)系都納入五行理論來(lái)闡釋。毫不夸張地說(shuō)，中國(guó)傳統(tǒng)思維的框架便是建基在陰陽(yáng)與五行兩大學(xué)說(shuō)的合流之上。在這一思維框架下，人們對(duì)神、仙、妖、魔、鬼、怪、精、靈等非人類族群的意象，給予了較多關(guān)注，甚至能夠接受將其納入人類的倫理框架。以傳統(tǒng)中國(guó)文學(xué)作品以及民間傳說(shuō)中的“妖”形象為例，他們雖然能夠魅惑人心，將人引入歧途，但卻也有很多藝術(shù)形象代表著美和善，甚至比人類更懂得存善心、行善事。譬如《聊齋志異》里的《聶小倩》、《畫皮》（小唯），民間傳說(shuō)中“白娘子”（《白蛇傳》）等。在這一傳統(tǒng)思維模式下，萬(wàn)物皆可有靈，甚至能夠變成為人，專門針對(duì)人工智能倫理問題的思考便很難出現(xiàn)。

近代以后，隨著西方科幻文學(xué)的傳入，中國(guó)科幻也開始逐漸關(guān)注人工智能的倫理問題。不過，在大部分中文科幻小說(shuō)里，對(duì)人工智能的描述基本沿襲了古代傳統(tǒng)，它們或是工人，或是家仆，別具特色的作品較少。以銷售量空前絕后（三百萬(wàn)冊(cè)）的《小靈通漫游未來(lái)》（1978）為例，作品中的智能機(jī)器人大都由方塊組成的，頭上頂著兩支分岔的天線，高級(jí)一點(diǎn)的胸口則配有電視屏幕，靠此來(lái)接收人類的指令。很明顯，這部創(chuàng)作于20世紀(jì)60年代的作品，對(duì)人工智能的設(shè)定和中國(guó)古代傳統(tǒng)是一致的，完全停留在服務(wù)人類的層面上，并未觸碰人機(jī)之間的倫理困局。在劉慈欣的《三體·死神永生》（2010）中，由三體人制作的機(jī)器人智子，外表和人類無(wú)異，智能甚至超過人類。作為三體人命令的忠實(shí)執(zhí)行者，它不惜對(duì)地球人大開殺戒。在最終失去和三體世界的聯(lián)系后，它完全自主操控，和人類幸存者建立起一種介于朋友、家仆和保護(hù)者的朦朧關(guān)系。因《三體》的敘述重點(diǎn)并非機(jī)器人倫理問題，其對(duì)人機(jī)關(guān)系的設(shè)定也便選擇了大眾所熟悉和最易接受的模式。其他中文科幻作品中的人工智能，譬如倪匡《筆友》中的核彈控制電腦、鄭淵潔《活車》中的智慧汽車、柳文揚(yáng)《星海迷蹤》中的納米螞蟻、鄭軍《生命之網(wǎng)》中的數(shù)字生命、星河《你形形色色的生活》中的機(jī)械監(jiān)工或保姆、江波《機(jī)器之道》中的腦庫(kù)和智網(wǎng)等，基本都未脫離上文所論述的人工智能倫理范疇。

在筆者看來(lái)，現(xiàn)代中文科幻作品對(duì)人工智能倫理問題的思考，之所以無(wú)法成為像西方現(xiàn)代科幻中的重要題材之一，主要原因在于中西方作家對(duì)現(xiàn)代性問題的焦慮核心不同。按照美國(guó)學(xué)者梅泰·卡利內(nèi)斯庫(kù)（Matei Calinescu，1934?2009）的觀點(diǎn)：“作為西方文明——科技進(jìn)步、工業(yè)革命以及由資本主義引發(fā)的全面的經(jīng)濟(jì)和社會(huì)變革這三者帶來(lái)的產(chǎn)物——?dú)v史中一個(gè)階段的現(xiàn)代性，同作為美學(xué)概念的現(xiàn)代性之間，產(chǎn)生了無(wú)法彌合的分裂。”[9]其中有社會(huì)現(xiàn)代性和審美現(xiàn)代性兩個(gè)方面。近代以來(lái)，西方科幻文學(xué)多側(cè)重審美現(xiàn)代性，而中國(guó)科幻則更關(guān)注社會(huì)現(xiàn)代性。早在瑪麗·雪萊所處的時(shí)代，西方作家便開始反思現(xiàn)代科技給人類帶來(lái)的福禍參半處境，對(duì)未來(lái)的憂慮促使警示性的作品連綿不絕。相對(duì)而言，基于百年中國(guó)半殖民地、半封建社會(huì)的革命歷史，中國(guó)知識(shí)階層在現(xiàn)代化進(jìn)程中，更多焦慮救亡圖存、國(guó)計(jì)民生等迫在眉睫的問題。中國(guó)作家對(duì)以堅(jiān)船利炮、科技進(jìn)步為形象展現(xiàn)的現(xiàn)代性圖景更多持正面態(tài)度，而非瑪麗·雪萊式的警惕與反思，“虛無(wú)縹緲”的人工智能倫理問題自然得不到他們的重點(diǎn)關(guān)注。

20世紀(jì)的中文科幻對(duì)人工智能倫理探討相對(duì)較深的作品當(dāng)推魏雅華的《溫柔之鄉(xiāng)的夢(mèng)》（1980）和王晉康的《生命之歌》（1995）。《溫柔之鄉(xiāng)的夢(mèng)》描寫在未來(lái)社會(huì)，不符合優(yōu)生標(biāo)準(zhǔn)的男性只能娶仿生人作為妻子。后者依照阿西莫夫的三定律設(shè)計(jì)，完全聽命于丈夫的指示。百依百順的嬌妻，甚至幫助醉酒的主人公燒掉自己的研究成果，造成無(wú)法彌補(bǔ)的巨大損失。痛定思痛的主人公最終醒悟，決心和仿生人妻子離婚。[10]表面看來(lái)，這部小說(shuō)是對(duì)阿西莫夫三定律在現(xiàn)實(shí)生活中可行性的質(zhì)疑。但筆者覺得，其更深層則是批判毫無(wú)約束下的男主人公不斷膨脹的人性黑洞。王晉康的探討比魏雅華更深一步。中篇《生命之歌》里的機(jī)器人“元元”，外表是五歲的孩童，但心智卻隨著歲月流逝不斷發(fā)展成熟。在獲得能夠使自己邁入生命界線的法寶（由基因密碼組成的音樂）之后，他打算把這曲“生命之歌”輸入到全世界的機(jī)器人和電腦中，希望同類為爭(zhēng)取生存權(quán)而抗?fàn)?。故事的結(jié)尾，人類雖然用情感紐帶暫時(shí)約束了元元的“造反”行為，但卻無(wú)法回避這一危機(jī)時(shí)刻終究要到來(lái)的困局。此外，在短篇《禿鷲與先知》中，王晉康描寫一個(gè)清潔工機(jī)器人偶然間萌發(fā)了生存本能，像禿鷲一樣靠盜取其他待報(bào)廢機(jī)器人的能量來(lái)延續(xù)自己的“壽命”，當(dāng)它被人類公開處決后，反而成為機(jī)器人的“先知”，引發(fā)了一場(chǎng)機(jī)器人革命。王晉康試圖通過這兩則故事告訴人們，高科技背景下的人工智能并不一定威脅現(xiàn)有的倫理模式，只有當(dāng)它們擁有強(qiáng)烈的生存本能之后，才會(huì)打破三定律的平衡，甚至為了自身的生存而反噬人類。當(dāng)然，提出問題的王晉康并沒有給出完美的解決方案。

令人欣慰的是，進(jìn)入21世紀(jì)，年輕的中文科幻作家對(duì)機(jī)器人問題有著持續(xù)而進(jìn)一步的思考，其中的代表作有陳楸帆的《荒潮》（2013）、飛氘的《講故事的機(jī)器人》（2005）和《愛吹牛的機(jī)器人》（2014）等。陳楸帆描述了近未來(lái)（2025年左右）的人機(jī)融合圖景，其中的“垃圾人”少女小米作為一種典型的賽博格形態(tài)，折射出“攻殼機(jī)動(dòng)隊(duì)”的影子。飛氘則將時(shí)空模糊化處理，敘述機(jī)器人在思維和情感問題上的逐漸“人性化”演變。王晉康的長(zhǎng)篇新作《類人》（2003）則描寫了由全世界數(shù)百億臺(tái)電腦聯(lián)接組成的“電腦上帝”，在不讓人類覺察的情況下，扮演著救世主的角色。與全知全能的主控電腦相比，人類則顯得渺小而孱弱。此類作品目前雖然不多，但卻預(yù)示著中文科幻對(duì)機(jī)器人倫理的探討將會(huì)有著更深入的發(fā)展空間。

就目前的科技和人類認(rèn)知水平而言，作為新興學(xué)科，人工智能倫理涉及學(xué)科交叉、文化匯融和意識(shí)沖撞等諸多范疇，并且隨著科技發(fā)展和時(shí)代進(jìn)步，許多剛剛建構(gòu)的倫理模型會(huì)很快被推翻?；诖?，筆者并不試圖建構(gòu)一種穩(wěn)固的倫理框架，而是呼吁突破傳統(tǒng)“物我兩分”的認(rèn)知觀念，將人類自我進(jìn)化和人工智能升級(jí)放到統(tǒng)一的維度去審視。這樣，對(duì)人工智能倫理的思考就不再是二元關(guān)系的難解困局，而是人類如何面對(duì)自身進(jìn)化的深刻哲思。如果我們不摒棄傳統(tǒng)的“人類中心主義”價(jià)值觀，以及“主奴二元對(duì)立”的認(rèn)識(shí)論，積極建構(gòu)“后人類”視域下的人工智能倫理關(guān)系，也許筆者在開篇所設(shè)想的悲觀未來(lái)就將很可能成為現(xiàn)實(shí)。

（作者單位：天津師范大學(xué)文學(xué)院）

注釋：

[1]1956年，由約翰·麥卡錫和馬文明·斯基發(fā)起，在達(dá)特茅斯學(xué)院舉行的一次關(guān)于人工智能科學(xué)的會(huì)議。是人工智能誕生的標(biāo)志性會(huì)議。

[2]第一部關(guān)于蒸汽動(dòng)力人的小說(shuō)出版于1868年，書名為The Huge Hunter， or the Steam Man of the Prairies。第一部關(guān)于電人的小說(shuō)出版于1885年，書名為The Electric Man， or， Frank Reade， Jr. in Australia。

[3]亞里士多德：《尼各馬可倫理學(xué)》，苗力田譯，中國(guó)人民大學(xué)出版社1994年版，第180頁(yè)。

[4]?？拢骸对~與物：人文科學(xué)考古學(xué)》，莫偉民譯，三聯(lián)書店2002年版，第505?506頁(yè)。

[5]讓-弗朗索瓦·利奧塔：《非人：時(shí)間漫談》，羅國(guó)祥譯，商務(wù)印書館2001年版，第8-24頁(yè)。

[6]Donna Haraway， “A Manifeso for Cyborgs： Science， Technology， and Socialist Feminism in the 1980s”， Socialist Review， vol.80（1985）.

[7]Jeffrey Deitch，Post Human，DAP， 1992， p.15.

[8]陸敬嚴(yán)：《中國(guó)古代機(jī)器人》，載《同濟(jì)大學(xué)學(xué)報(bào)》（社會(huì)科學(xué)版）1998年第1期。

[9]梅泰·卡利內(nèi)斯庫(kù)：《兩種現(xiàn)代性》，載《南京大學(xué)學(xué)報(bào)》1999年第3期。

[10]探討類似婚姻關(guān)系的作品還有臺(tái)灣張曉風(fēng)的《潘度娜》（1968），只不過女主人公是由類似克隆的細(xì)胞工程培育而成，作為純生物體的她并不屬于機(jī)器人范疇。