欲望與理性的思辨：《流浪地球》中的人工智能倫理意識(shí)探幽

韓貴東

(大連理工大學(xué) 人文與社會(huì)科學(xué)學(xué)部，遼寧 大連 116000)

科幻電影在內(nèi)容生成中，從多個(gè)層面與視角為觀眾展現(xiàn)出了藝術(shù)家思維世界中倫理反思，也進(jìn)而在精神指向的內(nèi)涵層面，將人工智能時(shí)代倫理問(wèn)題困境表述出來(lái)，其所以指代的本位對(duì)立在于現(xiàn)實(shí)世界中人的功欲與理性之辨，體現(xiàn)在“人”“機(jī)”對(duì)立過(guò)程中的矛盾意識(shí)以及人工智能社會(huì)中的“和解”表征，繼而從對(duì)國(guó)產(chǎn)科幻電影的關(guān)照之中，可以審視郭柯導(dǎo)演團(tuán)隊(duì)創(chuàng)作中的人工智能倫理問(wèn)題。

科幻電影中的人工智能產(chǎn)物往往是主體、客體對(duì)于身份認(rèn)同與確認(rèn)的爭(zhēng)執(zhí)過(guò)程，既表現(xiàn)在“他者”思維的AI思考層面，也強(qiáng)調(diào)在場(chǎng)者的身份“自我關(guān)照”。在電影《流浪地球》中郭柯導(dǎo)演將人工智能的主體設(shè)置為具備人體意識(shí)思維的AI機(jī)器人MOSS“莫斯”，其作為人類(lèi)智慧結(jié)晶的智能存在客體，是整個(gè)電影中火種計(jì)劃的具體監(jiān)督者與執(zhí)行者，當(dāng)然在倫理表現(xiàn)中的莫斯是思維接近于人類(lèi)意識(shí)的存在，故而影片中說(shuō)，MOSS沒(méi)有消失，只要數(shù)據(jù)存在，MOSS就存在；所以在表達(dá)中，影片設(shè)置的莫斯是沒(méi)有生命期限，沒(méi)有認(rèn)知局限；剔除了感性思維意識(shí)，獨(dú)留理性算法；MOSS總能在最短的時(shí)間內(nèi)做出最正確的決定，MOSS是趨于完美的智慧體。在太空中生存的劉培強(qiáng)中校成為了人類(lèi)與人工智能溝通的主體存在。然而電影中最為深刻的沖突設(shè)置表現(xiàn)在電影最后戲劇化的“人”“機(jī)”矛盾處理中，劉培強(qiáng)親手用一瓶伏特加燒毀了莫斯，這里編劇更為意識(shí)化的讓莫斯留下一句臺(tái)詞，即“讓人類(lèi)永遠(yuǎn)保持理智，確實(shí)是一種奢求”，進(jìn)而引發(fā)出在國(guó)產(chǎn)科幻電影人工智能的倫理思辨問(wèn)題：人機(jī)二元對(duì)立的存在矛盾。俄國(guó)科學(xué)家維爾納茨基和法國(guó)人類(lèi)學(xué)家德日進(jìn)認(rèn)為：“人生活在由人工創(chuàng)造的文明世界中?！盵1](P10)而人工智能體作為人類(lèi)思維意識(shí)的集合，實(shí)際上背后的倫理?yè)?dān)憂即是人類(lèi)自身生存發(fā)展中的對(duì)峙、沖突、斗爭(zhēng)、緩和、自我認(rèn)同等一系列問(wèn)題。

一、欲望與理性的倫理憂慮

在科幻電影之中，人工智能體作為人工智能技術(shù)運(yùn)用的結(jié)晶，其背后的意識(shí)與思維受制于技術(shù)發(fā)展的水平，往往也表現(xiàn)出了差異性的維度。從技術(shù)之維來(lái)反觀國(guó)產(chǎn)科幻電影中人工智能體的創(chuàng)造，不難看出其具備理性與欲望相互辯證的倫理關(guān)系。馬克思說(shuō)：“各種經(jīng)濟(jì)時(shí)代的區(qū)別，不在于生產(chǎn)什么，而在于怎樣生產(chǎn)，用什么勞動(dòng)資料生產(chǎn)。”[2](P204)因而在技術(shù)迅猛發(fā)展的時(shí)代，人工智能依靠技術(shù)的數(shù)據(jù)支撐完成了眾多創(chuàng)新性的項(xiàng)目命題，在電影《流浪地球》中所出現(xiàn)的人工智能體本就是技術(shù)想象的認(rèn)知與實(shí)踐反思之間的存在。

理性主義的哲學(xué)思辨本身就是倫理問(wèn)題的探討，因而反觀數(shù)千年來(lái)的理性啟蒙，從亞里士多德到黑格爾、笛卡爾、克爾凱郭爾、海德格爾等，理性思維的強(qiáng)大信念使得眾多的文化進(jìn)入理性啟蒙的偉大時(shí)代，而正是對(duì)于現(xiàn)實(shí)問(wèn)題理性化、祛蔽化的思考，才使得我們所生活的社會(huì)有著更為公理化的存在。然而在技術(shù)發(fā)展的理性時(shí)代，對(duì)技術(shù)工具化甚至玩具化的使用傾向，卻也使得技術(shù)理性嫣然成為工具理性的代表，最終在對(duì)技術(shù)理性趨之若鶩的使用中，引發(fā)更多的倫理問(wèn)題，這顯然是有違技術(shù)理性目的化的初衷。

在電影《流浪地球》中，莫斯作為人工智能體的代表，其不僅為整個(gè)火種計(jì)劃提供了具體的執(zhí)行方案，還成為其流浪地球的監(jiān)控者與數(shù)據(jù)大腦。擁有大數(shù)據(jù)智能化的莫斯顯然是劉慈欣科幻作品序列中重要的智能媒介載體，然而電影的講述過(guò)程中，導(dǎo)演有意識(shí)的為我們呈現(xiàn)出了人類(lèi)與人工智能之間的倫理矛盾。劉培強(qiáng)中校在家庭倫理的糾葛過(guò)程中，將個(gè)人主觀意識(shí)有意識(shí)的投射于莫斯身上，莫斯作為人工智能體，其背后的智能社會(huì)，實(shí)際上就包含了倫理關(guān)系復(fù)雜的矛盾。莫斯與劉培強(qiáng)中校即人工智能體與人類(lèi)作為同處在宇宙空間中的存在，其本質(zhì)屬上的融合就是一個(gè)復(fù)雜、多變、異化、阻隔、依賴(lài)、毀滅的過(guò)程。

電影中人工智能體與使用者之間的倫理矛盾早已是影視表達(dá)中一以貫之的命題。從早期1927年上映的《大都會(huì)》到1968年的《2001太空漫游》再到2019年的《流浪地球》，無(wú)論是早期科幻弱智能時(shí)期的作品，還是今天強(qiáng)智能時(shí)代的代表，無(wú)一不為我們展現(xiàn)出了“人”“機(jī)”關(guān)系在理性與欲望倫理思索中的命題。這些經(jīng)典的影像作品中，諸如哈爾9000、莫斯等人工智能體使我們看到了人工智能倫理的問(wèn)題，反客為主化的角色置換將人類(lèi)與被發(fā)明的人工智能體矛盾表露無(wú)遺。從主仆關(guān)系的依賴(lài)到人工智能體自我意識(shí)的出現(xiàn)，再到對(duì)人類(lèi)社會(huì)的抗?fàn)幰约皩?duì)自由的尋求，最終確定主體意識(shí)直至毀滅的整個(gè)過(guò)程中，人工智能原本創(chuàng)造美好藍(lán)圖的想象不在，取而代之的是技術(shù)至上倫理次之的科技理性，一味的為了滿足人類(lèi)本身的某種欲望與功利目的現(xiàn)實(shí)借口，本末倒置的技術(shù)理性最終也淪為文明發(fā)展的欲望之幌。

羅爾斯頓認(rèn)為：“附麗在機(jī)器上的價(jià)值完全是工具性的，它來(lái)自于創(chuàng)造這些機(jī)器的人。但是，附麗在有機(jī)體上的價(jià)值卻來(lái)源于自發(fā)的自然系統(tǒng)所具有的、非派生性的真正的自主性。[3](P143)毋庸置疑，在技術(shù)理性的視野之中，人類(lèi)無(wú)休止的欲望，使得人成為人工智能體存在于現(xiàn)實(shí)世界中的映照與身份確認(rèn)者?！读骼说厍颉分械哪乖趶浟糁H，留下一句讓人深省的話：“讓人類(lèi)永遠(yuǎn)保持理智，確實(shí)是一種奢求?！钡拇_，人類(lèi)作為主體存在的社會(huì)中，人工智能無(wú)非是一種技術(shù)附庸而存在的，人類(lèi)的理智往往是被欲望所替代，甚至是欲望掌控了人類(lèi)本身，而諸如莫斯一樣的人工智能體卻成為人類(lèi)為滿足自我私欲、丟棄人與人工智能契約的殉葬品，從倫理視野的維度看，人類(lèi)甚至可以不用承擔(dān)毀壞人工智能體的原罪，而習(xí)慣了上帝視角無(wú)所不能的倫理抱負(fù)，如此看來(lái)欲望與理性的矛盾化將是人工智能與人類(lèi)相伴相隨的倫理表征。

二、主體性倫理的缺失與辨思

主體性倫理的探討也是人工智能體與人類(lèi)關(guān)系的重要問(wèn)題。在通常意義上的人工智能體是可以根據(jù)主體意識(shí)有無(wú)、多少、強(qiáng)弱來(lái)進(jìn)行分類(lèi)的。人工智能體的主體性意識(shí)來(lái)自于人類(lèi)還是其在完善過(guò)程中具有的來(lái)自于環(huán)境的主體意識(shí)，一言以蔽之，就是作為人工智能體的機(jī)器人是否是具有主體意識(shí)而獨(dú)立存在的道德個(gè)體。計(jì)算機(jī)倫理學(xué)創(chuàng)始人摩爾根據(jù)機(jī)器人可能具有的道德影響力，將其分為幾類(lèi)，分別是:道德影響力智能體，是無(wú)論行為是否有意義但具有道德影響力的智能體；隱含的道德智能體，是具有道德的智能體隱含在其設(shè)計(jì)的考慮因素(通常指的是安全因素)，可以對(duì)特定情況采用一些自動(dòng)的道德反映；明確的道德智能體，能夠識(shí)別和處理各種情況并對(duì)應(yīng)該做什么作出合理決定的智能體；完全的道德智能體，指的是像人一樣具有意識(shí)、意向性和自由意志等特征，并能對(duì)各種情況作出道德判斷[4]。

在電影《流浪地球》中，人工智能體莫斯作為郭柯導(dǎo)演設(shè)置的矛盾角色存在，當(dāng)劉培強(qiáng)中校最終決定利用空間站點(diǎn)燃火星時(shí)，其切斷了空間站與地球之間的通信，莫斯作為人工智能體是有編程的倫理作為基礎(chǔ)的，因而其設(shè)置的程序指令是為了保證空間站的安全，單從人工智能的初衷來(lái)說(shuō)，莫斯并沒(méi)有違反人類(lèi)預(yù)設(shè)的程序，但劉培強(qiáng)的倫理邏輯在于其親情維系的根本，矛盾的關(guān)鍵在于莫斯被人類(lèi)的使用者所毀滅，主要原因是因?yàn)閯⑴鄰?qiáng)從發(fā)動(dòng)機(jī)故障開(kāi)始，將莫斯的行為定義為“叛逃”，而不再是往日可靠的科技“助手”。所以對(duì)于主體性倫理問(wèn)題而言，這里的莫斯作為AI機(jī)器人是充當(dāng)了人類(lèi)使用者的助手？亦或是成為個(gè)體空間管理者的主體？也正是在這一問(wèn)題上的影像視聽(tīng)表現(xiàn)使得人們對(duì)于莫斯的存在位置出現(xiàn)爭(zhēng)議。

莫斯的出現(xiàn)使得AI機(jī)器人成為新時(shí)期的管理者，這是一種影像的角色預(yù)設(shè)。在電影中莫斯作為劉培強(qiáng)的AI助手，不僅可以關(guān)閉全球的通訊設(shè)施，更是多次干擾了劉培強(qiáng)聯(lián)系聯(lián)合國(guó)政府，并可以在執(zhí)行緊急預(yù)案后，要求所有宇航員進(jìn)行休眠狀態(tài)，當(dāng)最后看到劉培強(qiáng)并沒(méi)有履行指令時(shí)，則采用智取的方式，循循善誘般將其強(qiáng)制進(jìn)行休眠。表面上看，這種“間接”對(duì)人類(lèi)主體進(jìn)行發(fā)號(hào)施令的人工智能體已經(jīng)僭越了人類(lèi)身份的主體地位，但從某種意義上而言，莫斯在對(duì)事件的判斷中，是準(zhǔn)確且符合程序設(shè)定的。莫斯背后的一切是來(lái)自于科學(xué)的推理邏輯與算法大數(shù)據(jù)規(guī)則。對(duì)于點(diǎn)燃木星上的氫氣這一方法，莫斯通過(guò)運(yùn)算，得出不成功的結(jié)論。但其作為人工智能體所難以與人類(lèi)主體達(dá)成共識(shí)的原因在于，人類(lèi)在遇到某些親情或者倫理捆綁的現(xiàn)實(shí)難題時(shí)，往往會(huì)選擇極端化的死亡路徑來(lái)解決問(wèn)題，所以這種非常規(guī)的行為使得人工智能體與人類(lèi)有所區(qū)分，也使得矛盾的關(guān)鍵得到披露即何為主體的倫理性問(wèn)題。

莫斯作為明確的道德智能體是否真的具有主體意識(shí)？劉培強(qiáng)所定義的“叛逃”是否意味著莫斯具備了人類(lèi)的主體意識(shí)？劉培強(qiáng)與莫斯的主體性倫理之爭(zhēng)是否可以認(rèn)定為人類(lèi)就是正確的？答案顯然也是在郭柯預(yù)設(shè)的劇情中的。在電影中，莫斯決定放棄地球，然后帶著精神的群體尋找新的適合人類(lèi)生存的家園，這種“叛逃”的背后一切都是聯(lián)合國(guó)的決定，并且在電影劇情中，將“火種計(jì)劃”設(shè)置為最高權(quán)限。因而莫斯并非是罪魁禍?zhǔn)祝皇谴嬖谟诼?lián)合國(guó)授權(quán)后的一條程序命令，并非是其獨(dú)立思考的設(shè)定，所以莫斯仍舊是聯(lián)合國(guó)官方程序下的人工智能體。但其作為人工智能體依舊免不了與人類(lèi)最后的沖突，問(wèn)題就在于莫斯的程序設(shè)置是權(quán)力所有者的程序思考，而并非是劉培強(qiáng)本身情感的投射，這是人類(lèi)技術(shù)理性出現(xiàn)欲望滿足的倫理沖突。

所以在主體性倫理的問(wèn)題上，人工智能體難以獨(dú)立成為道德個(gè)體而存在但又在某些利益人群的主體意識(shí)指導(dǎo)下，促使自身成為人類(lèi)意志的執(zhí)行者。

三、責(zé)任倫理的換位與放大

當(dāng)人工智能體與現(xiàn)實(shí)環(huán)境諸多的因素出現(xiàn)矛盾和爭(zhēng)執(zhí)的時(shí)候，勢(shì)必會(huì)引發(fā)關(guān)于責(zé)任倫理的探討問(wèn)題，而責(zé)任倫理即當(dāng)使用人工智能體某些原因的遭到故障時(shí)，應(yīng)該追究誰(shuí)的責(zé)任？其所造成的破壞是否是由人工智能體的設(shè)計(jì)者，程序者編創(chuàng)者亦或是使用者來(lái)具體負(fù)責(zé)對(duì)接。同時(shí)在某些利益的趨勢(shì)下，應(yīng)不應(yīng)該將事故責(zé)任放置到人工智能體本身？這些有關(guān)責(zé)任倫理的問(wèn)題都是為使得人工智能體成為了今天發(fā)展研究的焦點(diǎn)，在崇尚技術(shù)的時(shí)代，人工智能體理應(yīng)需要有技術(shù)哲學(xué)思維的考量。

在電影《流浪地球》當(dāng)中，劉培強(qiáng)與人工智能體莫斯之間的關(guān)系，由開(kāi)始的助手最終轉(zhuǎn)變?yōu)榕烟诱叩慕巧ㄎ?。?dāng)?shù)厍蛟馐芤τ绊?，即將撞擊木星的時(shí)候，聯(lián)合政府毅然決定放棄地球，而人工智能體莫斯則遵從程序指令，攜帶著地球生物的基因，準(zhǔn)備飛離太陽(yáng)系。而在此期間，吳京所飾演的劉培強(qiáng)，發(fā)現(xiàn)了莫斯對(duì)地球的飛離行為，將其定義為“叛逃”。其為了兒子劉啟，為了某些生生不息的希望，他最終選擇終止與莫斯的聯(lián)系。在電影的劇情設(shè)置當(dāng)中，劉培強(qiáng)摧毀莫斯的手段是將其主控室的攝像頭破壞，并未將其主體的存儲(chǔ)芯片加以毀壞，相比計(jì)較于《2001太空漫游》當(dāng)中的情節(jié)，其矛盾沖突的行動(dòng)元，顯然有不相符合的地方，但最終的結(jié)果卻是其親手將人工智能體莫斯終結(jié)。劉培強(qiáng)作為人工智能體的使用者，是否顧及到了責(zé)任倫理的問(wèn)題？或者說(shuō)劉培強(qiáng)是基于某些家庭倫理情感的問(wèn)題，做出了如此的反應(yīng)，而莫斯沒(méi)有反抗的留下了令人反思的話語(yǔ)。這些表現(xiàn)幾乎都與責(zé)任倫理的問(wèn)題息息相關(guān)。

對(duì)于人工智能體的與使用者的關(guān)系來(lái)講，需要有一套相應(yīng)的責(zé)任分配體系，既可以保證人類(lèi)既定的權(quán)益不受影響，又可以將人工智能體發(fā)展帶入一種良性的發(fā)展循環(huán)。也正是對(duì)人工智能體與人類(lèi)的創(chuàng)造者之間責(zé)任的具體分化定義，才可以更好的貫徹落實(shí)人工智能責(zé)任原則，人工智能體的機(jī)器人只是輔助人類(lèi)生產(chǎn)生活的工具，無(wú)論它是否具有意識(shí)，是否享有權(quán)利或者作為獨(dú)立的道德體所存在，它始終應(yīng)遵循“不傷害”原則[5]。

在不傷害原則的前提之下，能夠針對(duì)已有的人工智能事故，完成責(zé)任的細(xì)分，制定一套標(biāo)準(zhǔn)化的責(zé)任賠償體系，以責(zé)任負(fù)責(zé)機(jī)制，貫穿人工智能生產(chǎn)的整個(gè)過(guò)程，既有研發(fā)者，也有開(kāi)發(fā)商，甚至有消費(fèi)者之間的責(zé)任定位，根據(jù)不同的事件程度，量化責(zé)任個(gè)人。而不應(yīng)該出現(xiàn)問(wèn)題時(shí)，一味的將所有的矛盾核心推卸到技術(shù)的弊病中，當(dāng)然也要在相應(yīng)的產(chǎn)品換代設(shè)計(jì)中，通過(guò)哲學(xué)倫理的某些思考和引導(dǎo)，使研發(fā)者和創(chuàng)造者個(gè)人及遵循相應(yīng)的倫理準(zhǔn)則。

對(duì)于人工智能倫理的思慮，已經(jīng)有學(xué)者指出：“在科學(xué)家族中，沒(méi)有一門(mén)學(xué)科比AI與哲學(xué)的關(guān)系更密切……許多沒(méi)有出路的AI 研究，只是因?yàn)閷?duì)哲學(xué)家昔日的時(shí)代一無(wú)所知，才得以維持?！盵6](P486)所以從某種意義上來(lái)講，人工智能的倫理問(wèn)題，絕不僅僅是一個(gè)技術(shù)主導(dǎo)，誰(shuí)為主體或是客體的問(wèn)題，本質(zhì)上應(yīng)該是當(dāng)代人自身思考的一種映照和折射，是人本身思維的反應(yīng)。因而對(duì)于人工智能倫理的發(fā)展，應(yīng)該具備人文思維的哲學(xué)維度，尤其是在當(dāng)下電影工業(yè)美學(xué)盛行的影視創(chuàng)作中，應(yīng)當(dāng)在倫理承諾的前提下，表現(xiàn)主體道德焦慮——一種發(fā)自主體的自覺(jué)的道德焦慮[7](P88)。道德焦慮按照弗洛伊德的說(shuō)法是“超我”與“自我”之間的一種緊張關(guān)系，個(gè)體感覺(jué)違反了自己最初的價(jià)值或道德標(biāo)準(zhǔn)，“超我”則產(chǎn)生內(nèi)疚、羞愧、自卑的心理，進(jìn)而產(chǎn)生一種自我救贖的沖動(dòng)，并在電影情節(jié)中外化為一系列行為和動(dòng)作。而正是對(duì)人工智能倫理自我反饋的一種道德焦慮，才可以引發(fā)進(jìn)一步的道德自律，最終期待解決人工智能的倫理憂慮問(wèn)題。