如果人造人進入人類世界會怎樣

□李思詩 李三達

【導(dǎo) 讀】伊恩·麥克尤恩的科幻新作《我這樣的機器》以外貌和意識無限逼近真實人類的人造人為主人公，既描繪了人工智能踏入人類世界后的溫馨生活，又探討人與非人直面?zhèn)惱韱栴}時的殘酷選擇。在不斷展開的矛盾和沖突中，麥克尤恩以人造人之死暗中勸誡人類：認識你自己。

科幻美劇《西部世界》（Westworld）中的老鴇梅芙（Maeve）日復(fù)一日地接待著陌生的客人，她的存在是供人類發(fā)泄被壓抑的欲望，又讓人免除了道德的愧疚，然而可怕的是這種欲望并不只是肉欲。莫名傳來一陣槍響，梅芙就已經(jīng)倒在了血泊中，然而到了第二天，她完好無缺地出現(xiàn)在工作的酒吧，說著與前一天一模一樣的話。在客人看來，殺死一個只能活一天的機器人并不是謀殺。這一切得益于人類在人工智能技術(shù)上的突破，《西部世界》中的人造人無論在意識還是在身體上都達到了以假亂真的境界。令人唏噓不已的是高智慧的人造人依舊逃脫不了阿西莫夫“機器人三大定律”的魔咒，受人類的約束和控制，他們的記憶伴隨著一天工作的結(jié)束而被徹底刪除，就如同電腦里的垃圾文件一樣。值得注意的是，《西部世界》中人類與人造人的交涉集中在一個封閉的仿佛動物園或迪士尼一般的世界中，正是因為這個封閉世界的場景以美國西部世界為原型，故而得名。這種設(shè)置將故事的發(fā)生懸置在了例外狀態(tài)或者說法外之地，而英國小說家伊恩·麥克尤恩的新作《我這樣的機器》［1］打破了這一界限，將人造人亞當(dāng)直接置于現(xiàn)實的人類世界，繼而描述了他與主人的平凡生活和一系列倫理性沖突。

當(dāng)“上帝造人”成為現(xiàn)實，人類不再獨特

麥克尤恩曾在“21大學(xué)生國際文學(xué)盛典”做演講時說道：“許多個世紀來，在許多種不同的文化中，人們的腦海里一直縈繞著一個夢，那個夢就是創(chuàng)造出一個人造版的我們。就像基督教的上帝用黏土造出第一個人那樣，我們自己或許有朝一日也能成為上帝，造出我們自己的第一個人造人?！边@個夢暫時還未在現(xiàn)實世界中實現(xiàn)，但麥克尤恩在他的小說《我這樣的機器》中做到了。他有意戲仿《圣經(jīng)》中上帝造人的故事，借圖靈之手創(chuàng)造了各項都很完美的亞當(dāng)和夏娃，向人類宣布人造人進入人類世界的新時代已經(jīng)到來。

小說的背景特意地架空在20世紀80年代，這是一個科學(xué)和技術(shù)高速發(fā)展的時代。在小說中，原本自殺的圖靈還在世，并且發(fā)明了與常人無異的人造人——亞當(dāng)和夏娃。男主人公查理原本希望能夠擁有一個夏娃，但作為類女性的夏娃一路暢銷，上市的第一周就被售罄，最終查理只好以86000英鎊的高價買下亞當(dāng)。亞當(dāng)?shù)囊曈X和觸覺特征都不同于傳統(tǒng)意義上以金屬作為材質(zhì)的機器人，他的外貌與人類極其相似，甚至設(shè)計得比一般的男性更為高大帥氣。他身體健壯，肩膀?qū)捄?，皮膚是深色的，擁有一頭向后梳著的濃密黑發(fā)。更令查理感到驚奇的是，亞當(dāng)?shù)闹悄艹潭韧耆^了他對人造人的認識。亞當(dāng)?shù)膹?fù)雜性不是產(chǎn)品說明書所能包括的，他不僅是一個合格的保姆，可以包攬家務(wù)，會洗碗和鋪床，他還是風(fēng)投行家，在接手查理的股票和基金后，保持著穩(wěn)賺不賠的狀態(tài)；他以學(xué)霸的自律，游牧于各大網(wǎng)絡(luò)數(shù)據(jù)庫并從中吸收知識，這一操作方式遠比日本動漫《哆啦A夢》中的機器人所使用的“記憶面包”來得方便。亞當(dāng)?shù)纳娅C范圍不只是局限于股票和數(shù)據(jù)的收集，對文學(xué)的造詣也頗深。亞當(dāng)除了將自己對女主人米蘭達的愛灌注于對她的照顧以外，還隱匿在自己的2000多首俳句中，盡管這2000多首俳句與微軟小冰的詩集《陽光失了玻璃窗》一樣，都是某種算法的批量生產(chǎn)，但亞當(dāng)?shù)馁骄湟驗閻矍榈臐B入而更具韻味。令人啼笑皆非的是，米蘭達的父親因為亞當(dāng)對莎士比亞的了解，錯將查理當(dāng)作了機器人，引得查理只好說：“請你原諒。我電量不足。我需要充電，充電線在樓下的廚房里?！?/p>

在小說《我這樣的機器》中，麥克尤恩對人造人的問世和命名可謂獨具匠心。他借戲仿的手法，在看似漫不經(jīng)心的內(nèi)容背后潛藏著貫穿全書的二元對立——上帝所造的人與人所造的人?！吧系墼烊恕北臼恰妒ソ?jīng)》對人類起源的解釋，麥克尤恩卻借以突顯人造人的問世，后又以亞當(dāng)和夏娃來命名，不經(jīng)意間為人造人和人類搓揉出一條相互連接的紐帶。細節(jié)的滲入更是使得人與人造人的連接更為緊密，亞當(dāng)說：“這根線，要是我拽出來，會疼?！边@就暗示《圣經(jīng)》中上帝用亞當(dāng)?shù)睦吖窃斐隽讼耐?。上帝造人是麥克尤恩精心打造的仙境，把所有的虛幻的美好化為現(xiàn)實，在滿足人類的創(chuàng)世者般的自傲的同時，構(gòu)建了讀者追逐真實的期待視野。

人造人是真的“人”嗎？

在麥克尤恩創(chuàng)造的仙境中，人類對于人工智能的想象得到了極大的滿足，然而人造人的超智能反過來又引起人類的思考：人造人與人類之間的關(guān)系。那么，首要的問題就是：“人造人是真的‘人’嗎？”人類在判斷這一問題時潛意識劃分了兩個標(biāo)準。首先是外貌和生理，具體表現(xiàn)為“像不像”，即一種基于視覺、聽覺和觸覺的表征；其次是人工智能的自主意識，即人工智能是否能夠依據(jù)身處的環(huán)境做出“合理”的選擇。但是，這背后隱藏的最深層次的悖論是，如果上帝所造之人與人所造之人是一樣的“人”，那么人是否僭越了上帝？

毫無疑問，亞當(dāng)是“像”人類的，他有著與常人無異的容貌，左胸有著平靜而有節(jié)奏的跳動聲，身上的汗毛都清晰可見。亞當(dāng)?shù)膶嶓w存在好似中國現(xiàn)代超寫實主義畫家冷軍的油畫一般，衣領(lǐng)上細密的絨毛讓人難以區(qū)分真假。這極端的真實感使得觀者在精神上形成全面的張力，內(nèi)心震顫，恰如一面鏡子反射出亞當(dāng)?shù)牟徽鎸?。查理驚嘆于亞當(dāng)與人類相似性的同時又細究于亞當(dāng)與人類的不同。他以先入為主的心態(tài)細察他耗費巨資買回來的亞當(dāng)，給他充電，繼而和女朋友米蘭達一起勾選設(shè)置。這一連串的行為是如此的熟悉，就像是我們購買了一部智能手機，激活后依據(jù)個人的喜好下載APP和進行桌面設(shè)置。查理在認識到亞當(dāng)和自己相似性的同時，潛意識地將亞當(dāng)視作了不同于人類的物種，這種差異是無法用外貌和生理來衡量的，是存在于人類內(nèi)心深處最初的設(shè)定。

亞里士多德說“人是有理性的動物”，而理性在一定程度表現(xiàn)為自我意識，這一點在人工智能領(lǐng)域則表現(xiàn)為圖靈測試。而亞當(dāng)，顯然是通過圖靈測試的產(chǎn)物。自他問世以來，就具備了自我能力的逐步提升和意識覺醒。由于亞當(dāng)?shù)娜嗽鞂傩裕淖灾饕庾R建立在道德的制高點上，有著最純粹的善和愛，這樣純粹的情感使得他能夠戰(zhàn)勝自己對于米蘭達的愛情，以完全理性的姿態(tài)區(qū)分情感、道德和法律。這完全有悖于人類對親疏遠近的理解。

人造人是人嗎？以人類的視角而言，又顯然不是。與其說是“像不像”的問題，不如說是人類對未知的恐懼，害怕有一天人造人因為超越了人類的智慧而取代人類，所以機器對人的取代和人對上帝的取代是雙重不可饒恕的僭越。在人類的主觀世界中，人造人是一種工具，他具備超越人類計算能力的同時又受控于人類，這直接體現(xiàn)為阿西莫夫的“機器人三大定律”。麥克尤恩將女主角米蘭達塑造成一個典型的傲慢的人類中心主義者，她不在乎亞當(dāng)?shù)耐獗?，在與亞當(dāng)發(fā)生性關(guān)系后坦然視之，不停地強調(diào)“他不過是一個工具，與振動棒無異”。所以，我們的問題似乎可以置換為“人造人是不是一根振動棒”。

自人工智能問世以來，人類以自身為藍本進行創(chuàng)新，然而我們恰恰要像周濂導(dǎo)讀福山的《我們的后人類未來》中那樣追問：“機器為什么要百分百地模仿人類？”這顯然是一個悖論。人造人并非開始就會模仿人類，從科幻鼻祖形象弗蘭肯斯坦就可以看出，人造人完全可以以怪物的方式來被創(chuàng)造，但是這種對人造人的恐懼顯然無法滿足人造人融入人類生活的未來場景，所以人造人必然是類人的。既然人造人要讓人感受到一種親緣性，而放松對非人類的警惕，那么就需要全方位地“像”真人，因此，他不可能以單一的工具性存在于世?？墒强晒┏鍪?，被整合進入資本主義的生產(chǎn)鏈條之中，人造人就必然只能是商品或工具，對商品和工具的迷戀重復(fù)了商品拜物教的邏輯。所以，在資本主義體制中，一個商品化的人造人只能是一根“振動棒”。

科幻是人類對未來倫理的想象

近些年，科幻作品以人造人與人類的生命或道德沖突為噱頭，賺足了眼球和資本。影視作品以陌生的對象和奇特的情節(jié)突破想象的囿限，再輔之以酣暢淋漓的科技特效和波詭云譎的情節(jié)設(shè)計，使得作為觀眾的人類不禁拍手叫好。而人類作為人造人的創(chuàng)造者和使用者，由此而產(chǎn)生的上帝視角，為科幻作品的再生產(chǎn)提供助力?？苹没谙胂蠛吞摂M，跳脫現(xiàn)實技術(shù)和思想的藩籬后，又將現(xiàn)實的千瘡百孔和人類的傲慢暴露。

如《西部世界》等科幻作品以具體的情境將問題具體化，避免了元敘事的出現(xiàn)和科技的絕對化。科幻就像是黏合劑，將現(xiàn)實與未來粘連，避免“祖父悖論”的出現(xiàn)和現(xiàn)實世界的混亂。宏大的科幻敘事和作品呈現(xiàn)難免使人類沉浸于末日的恐慌，甚至是對科技產(chǎn)生抵制的情緒?；诖?，麥克尤恩將科幻進一步具體化，他筆下的亞當(dāng)沒有帶來世界毀滅和人類滅亡的危機。亞當(dāng)被視作一個人置身于真實的人類世界，面臨的是柴米油鹽醬醋茶的基本生活和倫理問題。

當(dāng)米蘭達和亞當(dāng)發(fā)生性愛關(guān)系時，就已經(jīng)觸及了倫理問題。亞當(dāng)?shù)恼w屬性是由查理和米蘭達共同設(shè)置，乃至于查理直呼：“亞當(dāng)像我們的孩子。”這意味著性愛事件不僅觸及了人機的邊界性問題，同時也觸犯了母子亂倫的禁忌。被戴綠帽子的查理怒不可遏，卻被米蘭達以振動棒的概念偷換平息了憤怒。就整體而言，米蘭達和查理正好代表著人類中對待人工智能的兩種典型態(tài)度。查理是妥協(xié)派，因為人造人亞當(dāng)?shù)姆抡嫘院团c他的感情，不自覺地賦予了亞當(dāng)一定的主體性；反之，米蘭達是典型的人類中心主義者，這意味著人類之外的一切都是他者，都可以被看作工具。因此，當(dāng)亞當(dāng)要將米蘭達告上法庭時，她是無法理解的，而查理是動搖的。在米蘭達看來，好友瑪麗亞姆被戈林強暴最終導(dǎo)致死亡是既定的事實，自己不過是玩了一招偷天換日，引誘戈林后控告他強暴自己，而后在法庭上順利地贏得法官的同情，最終致使戈林鋃鐺入獄。就情感和倫理層面而言，米蘭達的行為無可厚非，戈林必須為自己犯的罪付出代價；但就法律層面而言，米蘭達做偽證和誣告是不爭的事實。在這里，亞當(dāng)再一次違背了人類的倫理選擇。作為一個人類的創(chuàng)造物，亞當(dāng)生來就被賦予了崇高的道德感——即便這個情節(jié)本身以一種人類中心主義來體現(xiàn)——以至于他只能基于道德和法律的原則將米蘭達送上法庭；而這樣造成的后果是米蘭達入獄，并失去領(lǐng)養(yǎng)棄兒馬克的機會，使得馬克不得不繼續(xù)住在條件極差的福利院，最終重度自閉。亞當(dāng)也因此被查理用鐵錘結(jié)束了自己短暫的人類生活。

如書中圖靈所言：“我認為那些A和E的配置不夠，無法理解人類的決策過程；我們的情感、特殊的偏見、自我欺騙以及我們其他已經(jīng)明確知道的認知缺陷，構(gòu)成一個立場，我們的原則在其中扭曲變形，這一點他們無法理解?！保?］317亞當(dāng)?shù)闹腔埏@然是違背了莫拉維克悖論（Moravec paradox）：“人工智能和機器人研究領(lǐng)域與傳統(tǒng)重要發(fā)現(xiàn)不同：高層次的推理幾乎不需要計算，但低層次的感覺運動技能則需要大量的計算?！眮啴?dāng)可以計算出全球股票的盈虧，卻無法計算出對人類而言最不需要理性計算的情感問題。與其說亞當(dāng)?shù)摹八馈笔遣槔淼闹鲃有袨?，不如說是亞當(dāng)自己的選擇，他的完美無法適應(yīng)情感負責(zé)的人類世界，他的“死”是人類世界的自然選擇。

麥克尤恩以亞當(dāng)在人類世界的短暫生活，為耽于幻想的人類刻畫了人機關(guān)系最真實的一面，亞當(dāng)?shù)乃劳鲆馕吨嗽烊藷o法介入人類生活，即使在科技發(fā)達的未來，人工智能以人類的形象存在于世，我們依舊無法避免二者之間的倫理沖突。在此種情況下，人類應(yīng)當(dāng)如何對待超智能的人造人是問題的關(guān)鍵。麥克尤恩以圖靈之口譴責(zé)查理揮向亞當(dāng)?shù)闹旅诲N：“我希望，有一天你用錘子那么對待亞當(dāng)會成為嚴重犯罪。是因為你為他付了錢嗎，所以有權(quán)利這么做？”人造人不同于性工具，亦不同于掃地機器人般的保姆機器。他們不能單憑人類的喜怒哀樂隨意生或者死，或者說這其中的倫理問題是不能用一把錘子來解決的，這是對人類智慧的嘲諷。由是觀之，人工智能的發(fā)展是對人文主義以來的人類中心主義的挑戰(zhàn)，而科幻作品則是人類直面危機的媒介，它以具體化的情境使得未來具體可感?！段疫@樣的機器》看似是關(guān)注人造人的發(fā)展，實則還是以人類自身為出發(fā)點。麥克尤恩借副標(biāo)題——“你們這樣的人”——道出了他戲仿之下的真正意圖，他以略帶輕蔑和嘲諷的語氣警示人類是時候收斂上帝般的自傲了。

注釋

［1］［英］伊恩·麥克尤恩．我這樣的機器［M］．周小進譯．上海：上海譯文出版社，2020．